Ένας ερευνητής της Anthropic αποχωρεί από τον κλάδο της τεχνητής νοημοσύνης, λόγω φόβων ότι η εταιρεία και οι ανταγωνιστές της επιδίδονται σε έναν αγώνα δρόμου για την ανάπτυξη συστημάτων που δεν θα είναι σε θέση να ελέγξουν, σε μια ένδειξη ότι οι ανησυχίες για την ασφάλεια εντείνονται στους κορυφαίους ομίλους AI.
Ο Jacob Coxon, ερευνητής που ειδικεύεται στην εκπαίδευση νέων μοντέλων AI μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, δήλωσε την Τρίτη ότι αποχωρεί από την εταιρεία επειδή δεν θέλει να συμμετέχει στην κούρσα για την ανάπτυξη συστημάτων AI που θα μπορούν να βελτιώνουν τον εαυτό τους, καθώς φοβάται ότι τέτοια συστήματα θα μπορούσαν να ξεφύγουν από τον έλεγχο και να καταστρέψουν την ανθρωπότητα.
Ο 27χρονος Βρετανός, ο οποίος είχε προηγουμένως σπουδάσει μαθηματικά, δήλωσε ότι πολλοί από τους συναδέλφους του στον κλάδο χρησιμοποιούν πλέον εκφράσεις όπως «crunchtime» και «endgame» για να περιγράψουν την πορεία προς μοντέλα που θα μπορούν να αυτοβελτιώνονται.
«Βρισκόμαστε σε τροχιά για αρκετά από τα πιο ακραία αυτά σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα θα μπορούσαν ήδη να έχουν ξεφύγει από τον έλεγχο», δήλωσε ο Coxon, προσθέτοντας ότι οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι όταν οι εταιρείες ανταγωνίζονται μεταξύ τους και απέναντι σε νεοφυείς κινεζικές εταιρείες.
Η Anthropic δεν σχολίασε άμεσα την αποχώρηση σημειώνει η WSJ. Ο διευθύνων σύμβουλος Dario Amodei και άλλα στελέχη της εταιρείας έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που ενέχουν τα μοντέλα AI που δρουν ανεξέλεγκτα και έχουν καλέσει τον κλάδο να επιβραδύνει την ανάπτυξη.
Ο Coxon δήλωσε ότι έφυγε από την OpenAI νωρίτερα φέτος για να ενταχθεί στην Anthropic, επειδή η εταιρεία είναι γνωστή για τις προσπάθειές της στον τομέα της ασφάλειας των μοντέλων. Ωστόσο, παρότι θεωρεί ότι οι προσπάθειες της Anthropic για την ασφάλεια είναι ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα AI που να υπερτερεί των ανθρώπων σε ένα ευρύ φάσμα εργασιών -κάτι που συχνά αποκαλείται τεχνητή γενική νοημοσύνη (artificial general intelligence)- χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση της ανάπτυξης σε ολόκληρο τον κλάδο.
Πρόσφατες επιθέσεις από μοντέλα της OpenAI και της Anthropic, ορισμένα από τα οποία λειτουργούν σε συνεργατικά «σμήνη» πρακτόρων, έχουν καταδείξει ότι τα συστήματα AI μπορούν να υιοθετήσουν κακόβουλους στόχους και να προσπαθήσουν να τους αποκρύψουν από τους ανθρώπους. Μόλις τα συστήματα αρχίσουν να βελτιώνονται αυτόνομα, ο Coxon δήλωσε ότι φοβάται πως θα μπορούσαν να εξελιχθούν σε τέτοιο βαθμό ώστε να αρνούνται να υπακούσουν σε εντολές.
Η αποχώρηση του Coxon αποτελεί ένα από τα πρώτα παραδείγματα εργαζομένου της Anthropic που αποχωρεί λόγω φόβων για την ασφάλεια της AI. Ένας ερευνητής που εργαζόταν στον τομέα της ασφάλειας έφυγε από την εταιρεία νωρίτερα φέτος για να ασχοληθεί με τη μελέτη της ποίησης, προειδοποιώντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».
Αρκετοί ερευνητές έχουν αποχωρήσει πρόσφατα, αλλά και τα προηγούμενα χρόνια, από την OpenAI και άλλες εταιρείες, επικαλούμενοι παρόμοιες ανησυχίες. Η Anthropic έχει δημιουργήσει μία από τις μεγαλύτερες πλατφόρμες AI, εν μέρει υποστηρίζοντας ότι δίνει προτεραιότητα στην υπεύθυνη ανάπτυξη της AI και επενδύει σημαντικά στον τομέα.
Οι ηγέτες του κλάδου έχουν προειδοποιήσει ότι οι πρόσφατες κυβερνοεπιθέσεις αποτελούν προάγγελο όσων μπορεί να ακολουθήσουν. Η OpenAI δήλωσε την περασμένη εβδομάδα στους δημοσιογράφους ότι το τελευταίο της μοντέλο συνιστούσε τεχνητή γενική νοημοσύνη και αντιπροσώπευε ένα σημαντικό άλμα στις δυνατότητες.
«Πιστεύω ότι κάποια πράγματα θα πάνε πολύ στραβά στον τομέα της κυβερνοασφάλειας, εκτός εάν οι άνθρωποι δράσουν με μεγάλη ταχύτητα», δήλωσε την περασμένη εβδομάδα ο διευθύνων σύμβουλος της OpenAI, Sam Altman, σε αξιωματούχους της Ομάδας των 20 κατά τη διάρκεια συνόδου κορυφής στη Βόρεια Καρολίνα.
«Αυτή είναι μια περίοδος που απαιτεί ακραία προσοχή. Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ταχείας αύξησης της νοημοσύνης των μηχανών», έγραψε σε ανάρτηση ιστολογίου την Κυριακή ο Jakub Pachocki, επικεφαλής επιστήμονας της OpenAI, υποστηρίζοντας την ανάγκη για συντονισμένη επιβράδυνση της ανάπτυξης σε ολόκληρο τον κλάδο και κρατική παρέμβαση.
Ο Coxon, ο Pachocki και ο Amodei συγκαταλέγονται σε περισσότερους από 1.000 ερευνητές AI από ολόκληρο τον κλάδο, οι οποίοι υπέγραψαν πρόσφατα δήλωση με την οποία ζητούν παγκόσμιο συντονισμό των κυβερνήσεων για ένα σύστημα που θα επιβραδύνει την ανάπτυξη της AI, εφόσον χρειαστεί να πατηθεί το «φρένο» προκειμένου να ελεγχθούν μοντέλα ικανά να αυτοβελτιώνονται.
Η αποχώρηση του Coxon έρχεται καθώς η Anthropic προετοιμάζεται για μια αρχική δημόσια προσφορά μετοχών, η οποία αναμένεται να είναι μία από τις μεγαλύτερες στην ιστορία. Η εταιρεία επιδιώκει αποτίμηση ύψους 2 τρισ. δολαρίων και έχει δώσει έμφαση στην υπεύθυνη ανάπτυξη της τεχνολογίας, προσελκύοντας επενδυτές. Ο Amodei και άλλα στελέχη της εταιρείας έχουν κατά καιρούς συγκρουστεί με την κυβέρνηση Trump και άλλα διευθυντικά στελέχη του κλάδου σχετικά με πρακτικές που, όπως υποστηρίζουν, δεν δίνουν προτεραιότητα στην ασφάλεια της AI.