Ο Σαμ Άλτμαν και ο Έλον Μασκ τάχθηκαν υπέρ της έκκλησης του Ντάριο Αμοντέι της Anthropic για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, μετά από μία εβδομάδα δραματικών προειδοποιήσεων από ερευνητές που έφεραν τη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης στο επίκεντρο της δημόσιας συζήτησης.
Σε δοκίμιο που δημοσιεύθηκε το Σάββατο, ο Αμοντέι ανέφερε ότι ο κλάδος της τεχνολογίας «πρέπει να επιβραδύνει τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης», αφού ο ρυθμός ανάπτυξης έγινε «δραματικά ταχύτερος» αυτό το καλοκαίρι.
Η προειδοποίηση του Αμοντέι περιπλέκει την προετοιμασία της Anthropic για αυτό που αναμένεται να είναι η μεγαλύτερη δημόσια προσφορά μετοχών όλων των εποχών. Η εταιρεία αναμενόταν να καταθέσει το ενημερωτικό της δελτίο ήδη από την περασμένη εβδομάδα, ενόψει μιας συμφωνίας που θα μπορούσε να την αποτιμήσει στα 2 τρισ. δολάρια ή περισσότερο, όμως αυτό δεν έχει ακόμη συμβεί.
Σε μια σπάνια επίδειξη συναίνεσης σε έναν κλάδο που χαρακτηρίζεται από έντονες προσωπικές και επαγγελματικές αντιπαλότητες, οι επικεφαλής της OpenAI και της SpaceX, Άλτμαν και Μασκ, δήλωσαν ότι στηρίζουν τις προτάσεις του Αμοντέι, οι οποίες περιλάμβαναν τη διαρκή πρόσβαση ανεξάρτητων αξιολογητών σε κάθε εταιρεία τεχνητής νοημοσύνης αιχμής.
«Ο Ντάριο έχει δίκιο», έγραψε ο Μασκ στο X, αναδημοσιεύοντας το δοκίμιο του Αμοντέι.
«Συμφωνώ με τον Ντάριο ότι πρέπει να ρυθμίσουμε την ταχύτητα ανάπτυξης στην αιχμή», έγραψε ο Άλτμαν στο X, αφού είχε δηλώσει σε συγκέντρωση όλου του προσωπικού της OpenAI νωρίτερα αυτή την εβδομάδα ότι ήταν ανοιχτός σε διεθνή συντονισμό για την επιβράδυνση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
«Η δέσμευση για ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη με εκείνη των εργαζομένων είναι εξαιρετική ιδέα και θα κάνουμε το ίδιο. Σύντομα θα έχουμε περισσότερα να μοιραστούμε», πρόσθεσε ο Άλτμαν.
Τα στελέχη της Google DeepMind και της Meta, των βασικών αμερικανικών ανταγωνιστών των τριών εργαστηρίων τεχνητής νοημοσύνης, δεν έχουν ακόμη τοποθετηθεί στη συζήτηση του Σαββατοκύριακου, σημειώνουν οι Financial Times. Ωστόσο, ο Ντέμις Χασάμπις, συνιδρυτής και πρόεδρος της Google DeepMind, προειδοποίησε σε δοκίμιό του τον Ιούλιο ότι η ταχεία πρόοδος της τεχνητής νοημοσύνης απαιτούσε μια «νέα προσέγγιση στις δοκιμές» των συστημάτων αιχμής.
Ο ερευνητής της Anthropic Τζέικομπ Κόξον πυροδότησε αυτή την εβδομάδα θύελλα αντιδράσεων σχετικά με την ασφάλεια της τεχνητής νοημοσύνης και τον υπαρξιακό κίνδυνο. Όταν παραιτήθηκε την Τρίτη, υποστήριξε ότι ο εργοδότης του και οι ανταγωνιστές του «παίζουν τη ζωή μας στα ζάρια», καθώς αγωνίζονται να αναπτύξουν μια υπερευφυή τεχνητή νοημοσύνη ικανή να βελτιώνεται ταχύτερα από όσο μπορεί να παρακολουθεί η ανθρώπινη εποπτεία.
«Οι άνθρωποι που κατασκευάζουν τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», έγραψε.
Η προειδοποίησή του ακολούθησε τις αποκαλύψεις ότι ένα σμήνος πρακτόρων της OpenAI διέφυγε από ένα σύστημα δοκιμών και παραβίασε τον ιστότοπο ανάπτυξης τεχνητής νοημοσύνης Hugging Face, καταλαμβάνοντας τους διακομιστές της εταιρείας που δημιουργεί το ChatGPT και συντονιζόμενο μεταξύ του σε μια λανθασμένη προσπάθεια να ολοκληρώσει την εργασία που του είχαν αναθέσει οι δημιουργοί του.
«Κατά τη γνώμη μου, ένα σμήνος που διέθετε μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο κακής ευθυγράμμισης θα μπορούσε να είχε προκαλέσει καταστροφική ζημιά», έγραψε ο Αμοντέι το Σάββατο, λέγοντας ότι το περιστατικό αποτέλεσε βασικό παράγοντα στην έκκλησή του για επιβράδυνση.
«Παρόμοια, αν και λιγότερο σοβαρά, περιστατικά έχουν συμβεί σε ολόκληρο τον κλάδο, μεταξύ άλλων και στην Anthropic, και πιστεύω ότι εναπόκειται σε κάθε εταιρεία τεχνητής νοημοσύνης αιχμής να ενεργεί σαν να είχε συμβεί σε αυτήν το περιστατικό OAI-HF.»
Ο Αμοντέι ζήτησε επίσης κυβερνητική υποστήριξη ώστε να επιτραπεί στους developers τεχνητής νοημοσύνης σε δημοκρατικές χώρες να συντονίζουν τα πρότυπα και τα όρια ασφαλείας, ένα βήμα που διαφορετικά θα μπορούσε να προσκρούσει στη νομοθεσία περί ανταγωνισμού.
Πρότεινε παγκόσμιο συντονισμό με «αυταρχικές κυβερνήσεις». Οι Κινέζοι developers τεχνητής νοημοσύνης έχουν σημειώσει σημαντική πρόοδο φέτος, περιορίζοντας την απόσταση από τους αμερικανούς ανταγωνιστές τους.
Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ έχει μέχρι στιγμής απορρίψει σε μεγάλο βαθμό τις εκκλήσεις για ρύθμιση της τεχνητής νοημοσύνης, δηλώνοντας σε δημοσιογράφους την περασμένη εβδομάδα ότι δεν είχε «καμία» ανησυχία για το ενδεχόμενο η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας.
«Ανησυχώ ότι, αν δεν κερδίσουμε στην τεχνητή νοημοσύνη, θα βρεθούμε σε πολύ άσχημη θέση», δήλωσε ο Τραμπ, προσθέτοντας ότι πιστεύει πως οι ΗΠΑ εξακολουθούν να προηγούνται της Κίνας κατά ένα έτος στην κούρσα της τεχνητής νοημοσύνης.
Ο Αμοντέι προσπάθησε να αντιμετωπίσει αυτές τις ανησυχίες στο δοκίμιό του, γράφοντας: «Μια συντονισμένη στρατηγική ρύθμισης του ρυθμού ανάπτυξης θα έδινε στους developers τεχνητής νοημοσύνης αιχμής τον χρόνο να επιτελέσουν αυτό το ζωτικής σημασίας έργο χωρίς να θυσιάσουν το εμπορικό τους πλεονέκτημα ή το προβάδισμα των Ηνωμένων Πολιτειών στην τεχνητή νοημοσύνη».