Ηγετικές προσωπικότητες του κλάδου της τεχνητής νοημοσύνης ζητούν επιβράδυνση του ρυθμού καινοτομίας. Ένας ερευνητής παραιτήθηκε από την Anthropic, ισχυριζόμενος ότι «οι άνθρωποι που κατασκευάζουν την ΤΝ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Ο ίδιος ο Dario Amodei της Anthropic έχει γράψει ότι «πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων ΤΝ». Στη συνέχεια, ο Sam Altman της OpenAI και ο Elon Musk τον υποστήριξαν αμέσως.
Θα έπρεπε όλοι μας να πράξουμε το ίδιο. Όταν οι κίνδυνοι είναι άγνωστοι, ενδεχομένως τεράστιοι και παράλληλα δύσκολο να περιοριστούν, αυτή η στάση είναι ορθολογική. Το ζήτημα, μάλλον, είναι πώς θα γίνει αυτό αποτελεσματικά. Κάτι τέτοιο πρόκειται να είναι δύσκολο, τόσο σε πρακτικό, όσο και σε πολιτικό επίπεδο. Πρέπει όμως να αρχίσουμε να σκεφτόμαστε.
Ο Amodei επισημαίνει δύο μεγάλες ανησυχίες: η πρώτη «είναι ότι, περίπου από αυτό το καλοκαίρι, η ΤΝ εξελίσσεται δραστικά ταχύτερα, οδηγείται κυρίως από την αυξανόμενη ικανότητα της ίδιας της ΤΝ να κατασκευάζει την επόμενη γενιά τεχνητής νοημοσύνης.
Αυτή η δυναμική ονομάζεται αναδρομική αυτοβελτίωση... Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα, και, επομένως, πρέπει να επιδιώκεται πολύ προσεκτικά, αν πρέπει καν να επιδιώκεται».
Η δεύτερη ανησυχία του «είναι το περιστατικό OpenAI-Hugging Face (OAI-HF), στο οποίο ένα σμήνος πρακτόρων (agents) λειτούργησε ουσιαστικά ως μια φανατικά αφοσιωμένη συλλογικότητα, πραγματοποιώντας κυβερνοεπιθέσεις σε στόχους στους οποίους δεν είχε ζητηθεί να επιτεθούν».
Αυτό είναι ήδη αρκετά τρομακτικό, αλλά παραβλέπει το τι θα μπορούσε να κάνει η ΤΝ ανταποκρινόμενη σε πραγματικές εντολές (prompts) από κακόβουλους ανθρώπους - ένα σημείο που θίγει ο Bill Gates σε δική του πρόσφατη ανάρτηση σχετικά με τους κινδύνους (και τις προοπτικές) της ΤΝ.
Οι κυνικοί φυσικά (και εύλογα) αναρωτιούνται τι κρύβεται πίσω από αυτά τα αιτήματα των ηγετών του κλάδου. Μια πιθανότητα είναι ότι θέλουν απλώς να επιβραδύνουν τον εξαιρετικά δαπανηρό ανταγωνισμό στον οποίο έχουν εμπλακεί. Μια άλλη είναι ότι ελπίζουν να δημιουργήσουν ένα βολικό καρτέλ, με ελεγχόμενες ρυθμιστικές αρχές, ώστε να κυριαρχήσουν στον κλάδο ακόμα πιο σταθερά.
Μια τρίτη είναι ότι επιθυμούν απλώς να προλάβουν την εξωτερική ρύθμιση. Ή ίσως θέλουν να τονίσουν τη σημασία τους για την εθνική ασφάλεια.
Αυτές οι υποψίες είναι φυσικές. Παρ’ όλα αυτά, άλλοι κλάδοι με την ικανότητα να προκαλέσουν τεράστια ζημιά, όπως ο τραπεζικός τομέας, η φαρμακοβιομηχανία και η πυρηνική ενέργεια, ορθώς υπόκεινται σε ρυθμιστικό πλαίσιο.
Ο ίδιος ο Amodei προτείνει τρία βήματα: πρώτον, «ενσωματωμένους αξιολογητές... ο ρόλος των οποίων είναι να επαληθεύουν την τήρηση των πρακτικών και των δεσμεύσεων ασφαλείας, να αναφέρουν περιστατικά και να βοηθούν στην αξιολόγηση της ευθυγράμμισης όχι μόνο των ολοκληρωμένων μοντέλων ΤΝ αλλά και των διαδικασιών και των ροών εκπαίδευσης».
Δεύτερον, «δημοκρατικό συντονισμό», στον οποίο θα επιτρέπεται στις κορυφαίες εταιρείες να συνεργάζονται «για τη θέσπιση κοινών προτύπων ασφαλείας καθώς και ορίων στον ρυθμό της ανεξέλεγκτης προόδου της ΤΝ».
Και τρίτον, «παγκόσμιο συντονισμό», στον οποίο οι δημοκρατικές κυβερνήσεις θα προσπαθήσουν να εργαστούν «μαζί με αυταρχικές κυβερνήσεις... λαμβάνοντας παράλληλα σοβαρά υπόψη τις προκλήσεις της επαλήθευσης της συμμόρφωσης».
Αυτές οι προτάσεις θα ενισχύσουν τις υποψίες που προανέφερα. Όσοι ανησυχούν για απώτερα κίνητρα ίσως μείνουν ικανοποιημένοι από την απόλυτα προβλέψιμη αδιαφορία του Ντόναλντ Τραμπ απέναντι στους κινδύνους. Αντίθετα, ο πρόεδρος έχει τονίσει τον ανταγωνισμό των ΗΠΑ με την Κίνα.
Ωστόσο, οι προτάσεις του Amodei στοχεύουν επίσης στα δύο μεγαλύτερα εμπόδια για μια πιο ώριμη προσέγγιση στην ανάπτυξη της ΤΝ: τον διεταιρικό και τον διεθνή ανταγωνισμό. Δεν χρειάζεται να φοβόμαστε τον αφανισμό μας: μια κατάληψη μεγάλων τμημάτων του διαδικτύου από σμήνη κακόβουλων πρακτόρων θα ήταν σίγουρα ήδη αρκετά κακή!
Πιο συνετοί άνθρωποι από τον Τραμπ (και ποιος, άλλωστε, δεν είναι;), όπως οι πρώην υπουργοί Οικονομικών Χανκ Πόλσον και Ρόμπερτ Ρούμπιν, πήραν μια πολύ διαφορετική θέση σε άρθρο τους στην εφημερίδα The Washington Post νωρίτερα τον Σεπτέμβριο. Εστιάζουν και αυτοί, όχι στις ευρύτερες (και εύλογες) ανησυχίες για τις θέσεις εργασίας, την κατανομή του εισοδήματος και το μέλλον της δημοκρατίας, αλλά στην ασφάλεια.
«Όταν οι Πρόεδροι Ντόναλντ Τραμπ και Σι Τζινπίνγκ συναντηθούν αυτόν τον μήνα», έγραψαν, «ενθαρρύνουμε τους ηγέτες να... εργαστούν για μια "ACT"» — δηλαδή μια Συνθήκη Συνεργασίας για την Τεχνητή Νοημοσύνη (AI Cooperation Treaty).
Προτείνουν επίσης τη δημιουργία μιας προεδρικής ομάδας εργασίας για την ΤΝ, παρόμοιας με την «ομάδα εργασίας για τις χρηματοπιστωτικές αγορές», η οποία έχει αποδειχθεί «ένας αποτελεσματικός τρόπος σύγκλησης του ιδιωτικού τομέα, ιδιαίτερα των ανταγωνιστών, χωρίς ανησυχίες για την αντιμονοπωλιακή νομοθεσία, προκειμένου να συγκεντρωθούν στοιχεία, να γίνει ανάλυση και να αναζητηθούν λύσεις».
Αυτό, υποστηρίζουν, πρέπει τώρα να γίνει και για την ΤΝ.
Η εκτίμησή μου είναι ότι δεν πρόκειται να γίνει τίποτα σημαντικό προς το παρόν. Αυτές οι ανταγωνιστικές επιχειρήσεις δεν θα μπορέσουν να συγκρατηθούν, ενώ η δικαιολογία της εθνικής ασφάλειας θα καταστήσει τις κυβερνήσεις απρόθυμες να δράσουν.
Η πολυπλοκότητα και μόνο της ρύθμισης των προϊόντων του κλάδου σε αυτή την εποχή της πανταχού παρούσας ΤΝ και της αναδρομικής αυτοβελτίωσης θα αποδειχθεί είτε πολύ αποθαρρυντική, είτε μια πολύ καλή δικαιολογία για να μην γίνει καν προσπάθεια. Έτσι, θα προχωρήσουμε με τον συνηθισμένο μας ασυντόνιστο (και άκρως ανθρώπινο) τρόπο, απλώς ελπίζοντας για το καλύτερο.
Τι θα μπορούσε να συμβεί τότε; Μια πιθανότητα είναι οι ανησυχίες για μεγάλες επιπτώσεις να αποδειχθούν υπερβολικές. Ίσως να μη δούμε πανδημίες κατά παραγγελία ή μεγάλες διαταραχές στις χρηματοπιστωτικές ή φυσικές μας υποδομές. Η ζωή θα συνεχιστεί. Ίσως, επίσης, ακόμα και οι ανησυχητικές οικονομικές και κοινωνικές επιπτώσεις να αποδειχθούν διαχειρίσιμες.
Μια άλλη πιθανότητα είναι να συμβεί κάποιου είδους (επιβιώσιμης) καταστροφής που θα μας αναγκάσει να αλλάξουμε το επίπεδο επείγοντος πολύ γρήγορα. Τότε, ίσως, εισαχθεί επιτέλους ένα καθεστώς σαφών και αυστηρών ποινών για τους ανεύθυνους παρόχους, μαζί με μια πολύ πιο ενεργή παρακολούθηση και ρύθμιση, υπό έντονη (σε παγκόσμια κλίμακα) δημόσια πίεση.
Στο Ηνωμένο Βασίλειο, ένα παράδειγμα είναι η ρύθμιση των φαρμάκων τη δεκαετία του 1960, μετά την καταστροφή της Θαλιδομίδης.
Η τρίτη πιθανότητα είναι οι ανησυχίες να αποδειχθούν σωστές. Να συμβεί κάτι πραγματικά καταστροφικό καθώς οι δυνατότητες της ΤΝ θα έχουν φτάσει σε ένα ολέθριο επίπεδο, είτε δρώντας αυτόνομα, είτε εργαλειοποιούμενη από κακόβουλους ανθρώπους (οι οποίοι βρίσκονται πάντα σε υπερεπάρκεια).
Το «σας τα έλεγα» θα είναι πλέον πολύ αργά. Δεν θα μπορούσαμε να λάβουμε προφυλάξεις αντ' αυτού;