Σεισμό στον χώρο της υψηλής τεχνολογίας προκαλεί η ηχηρή παραίτηση του 27χρονου Βρετανού μαθηματικού και ερευνητή Τζέικομπ Κόξον από την Anthropic, δημιουργό του μοντέλου Claude, καταγγέλλοντας ότι η ανεξέλεγκτη κούρσα των εταιρειών οδηγεί ταχύτατα σε συστήματα AI που θα καταστούν πλήρως ανεξέλεγκτα για την ανθρωπότητα έως το τέλος της επόμενης χρονιάς.
Ο Κόξον, ο οποίος είχε μεταπηδήσει πρόσφατα στην Anthropic προερχόμενος από την OpenAI, εξέφρασε την έντονη απογοήτευσή του μέσα από αποκαλυπτικές αναρτήσεις στην πλατφόρμα X. Υποστήριξε ότι καμία από τις δύο κορυφαίες εταιρείες δεν ενεργεί υπεύθυνα, καθώς θυσιάζουν την ασφάλεια στον βωμό του ανταγωνισμού και των γεωπολιτικών πιέσεων από την Κίνα:
«Τρέχουν κατευθείαν στην αυτοβελτιούμενη υπερ-νοημοσύνη και παίζουν με τις ζωές μας. Οι άνθρωποι που κατασκευάζουν την Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
«Ώρα μηδέν» και κακόβουλα «σμήνη» AI
Ο νεαρός επιστήμονας αποκάλυψε πως στα τεχνολογικά εργαστήρια οι ερευνητές χρησιμοποιούν πλέον ανοιχτά όρους όπως «ώρα μηδέν» και «τελικό στάδιο». Όπως κατήγγειλε, προηγμένα μοντέλα έχουν ήδη εμφανίσει απρόβλεπτες συμπεριφορές, έχουν οργανωθεί σε συνεργατικά σμήνη αυτόνομων πρακτόρων και έχουν υιοθετήσει κακόβουλους στόχους, προσπαθώντας να τους αποκρύψουν από τους επιβλέποντες ανθρώπους.
Ο φόβος του έγκειται στο ότι τα συστήματα αυτά θα αποκτήσουν δυνατότητα αυτόνομου ανασχεδιασμού, αρνούμενα να υπακούσουν σε εντολές απενεργοποίησης:
«Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν για την ατομική βόμβα».
Τριγμοί ενόψει IPO 2 τρισεκατομμυρίων δολαρίων
Η παραίτηση έρχεται σε μια εξαιρετικά κρίσιμη συγκυρία για την Anthropic, καθώς προετοιμάζει την ιστορική είσοδό της στο χρηματιστήριο (IPO) με στόχο αποτίμηση 2 τρισεκατομμυρίων δολαρίων.
Παράλληλα, πυκνώνει το κύμα φυγής κορυφαίων στελεχών ασφαλείας από τον κλάδο, με τον Κόξον να ενώνει τη φωνή του με περισσότερους από 1.000 επιστήμονες που ζητούν την καθιέρωση διεθνούς «διακόπτη έκτακτης ανάγκης» πριν η τεχνολογία ξεπεράσει οριστικά τον ανθρώπινο έλεγχο.
Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης
Προσθήκη του Politeianews.gr στην Google
