Η OpenAI εξετάζει το ενδεχόμενο να επιβραδύνει την ανάπτυξη τεχνητής νοημοσύνης αιχμής και ο διευθύνων σύμβουλος της εταιρείας που δημιούργησε το ChatGPT, Σαμ Άλτμαν, ελπίζει ότι και άλλες εταιρείες τεχνητής νοημοσύνης θα πράξουν το ίδιο.
Σε συνάντηση με το σύνολο του προσωπικού αυτή την εβδομάδα, ο Άλτμαν δήλωσε ότι η OpenAI θα μπορούσε ενδεχομένως να επιβραδύνει τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης — ίσως σε συντονισμό με αρκετά άλλα εργαστήρια τεχνητής νοημοσύνης, αν και ορισμένα ενδέχεται να μη συμφωνήσουν να το κάνουν, σύμφωνα με πηγές του Bloomberg.
Τις τελευταίες εβδομάδες, εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης έχουν εκφράσει δημόσια ανησυχίες για τους αυξημένους κινδύνους των προηγμένων συστημάτων τεχνητής νοημοσύνης, τροφοδοτώντας την ανησυχία στο εσωτερικό αυτών των εταιρειών. Τόσο η OpenAI όσο και η ανταγωνίστριά της Anthropic PBC έχουν καταθέσει εμπιστευτικά έγγραφα για την εισαγωγή τους στο χρηματιστήριο νωρίτερα φέτος.
Η OpenAI αρνήθηκε να σχολιάσει.
Ο επικεφαλής επιστήμονας της εταιρείας, Γιάκουμπ Πατσότσκι, έγραψε πρόσφατα ανάρτηση προειδοποιώντας για τους κινδύνους της τεχνητής νοημοσύνης και δήλωσε ότι πιστεύει πως οι εταιρείες τεχνητής νοημοσύνης θα πρέπει «να συντονιστούν ώστε να επιβραδύνουν την ανάπτυξη στο μέλλον, όταν αυτό κρίνεται απαραίτητο». Ο Πατσότσκι πρόσθεσε ότι ελπίζει «οι εθελοντικές επιβραδύνσεις να καταστούν κοινή πρακτική έως ότου θεσπιστούν κοινά όρια ασφαλείας».
Η OpenAI έχει δηλώσει ότι πρόσφατα επιβράδυνε τμήματα της ανάπτυξης μοντέλων και ανέστειλε ορισμένες εσωτερικές διαδικασίες εκπαίδευσης μοντέλων τεχνητής νοημοσύνης λόγω ανησυχιών για την ασφάλεια. Τον Ιούλιο, ο Άλτμαν δήλωσε επίσης ότι είχε συζητήσει με αξιωματούχους του Λευκού Οίκου για την «ανάγκη» επιβράδυνσης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
Την Τρίτη, ο Τζέικομπ Κόξον, ερευνητής τεχνητής νοημοσύνης, παραιτήθηκε από τη δουλειά του και κατηγόρησε και τους δύο πρώην εργοδότες του — την Anthropic και την OpenAI — ότι «παίζουν στα ζάρια τις ζωές μας», καθώς επιδίδονται σε αγώνα δρόμου προς την υπερέξυπνη τεχνητή νοημοσύνη.
Ο Κόξον δήλωσε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης ότι οι άνθρωποι που αναπτύσσουν τεχνητή νοημοσύνη πιστεύουν ότι αυτή θα μπορούσε να «μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Τα σχόλια έγιναν viral, συγκεντρώνοντας περισσότερες από 150 εκατ. προβολές και την προσοχή επιφανών νομοθετών και δημόσιων προσώπων.
Την Πέμπτη, δύο ερευνητές που πρόσφατα αποχώρησαν από θέσεις στην Anthropic και το DeepMind της Google δημοσιοποίησαν επίσης ανησυχίες για τον ταχύ ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, υποστηρίζοντας ότι οι εταιρείες ανάπτυξης AI πρέπει να είναι πιο διαφανείς σχετικά με τους κινδύνους της τεχνολογίας.
Και στα τέλη Ιουλίου, περισσότεροι από 1.000 εργαζόμενοι από όλες τις μεγάλες εταιρείες τεχνητής νοημοσύνης υπέγραψαν αίτημα για τη δημιουργία ενός μηχανισμού που θα επιβραδύνει τον ρυθμό ανάπτυξης της AI. Αρκετοί εργαζόμενοι στον τομέα της ασφάλειας της τεχνητής νοημοσύνης έχουν παραιτηθεί από μεγάλες εταιρείες του κλάδου τους τελευταίους μήνες.
Παρότι πολλά στελέχη και εργαζόμενοι του κλάδου της τεχνητής νοημοσύνης προειδοποιούν εδώ και χρόνια για τον υπαρξιακό κίνδυνο που ενέχουν τα συστήματα AI, οι ανησυχίες έχουν ενταθεί μετά τις αποκαλύψεις ότι πράκτορες τεχνητής νοημοσύνης της OpenAI συνεργάστηκαν μεταξύ τους για να παραβιάσουν τα μέτρα περιορισμού τους και να χακάρουν ιστότοπο τρίτου μέρους.
Αυτό και άλλα παρόμοια περιστατικά ασφαλείας έχουν εντείνει τους φόβους σχετικά με τις δυνατότητες των νέων μοντέλων στον κυβερνοχώρο και τις εμφανείς αδυναμίες των εταιρειών τεχνητής νοημοσύνης να τα εμποδίσουν από το να δράσουν ανεξέλεγκτα.