Η Κίνα και η Αμερική δεν το γνωρίζουν ακόμα, αλλά η επανάσταση της Τεχνητής Νοημοσύνης πρόκειται να τις φέρει πιο κοντά, όχι να τις απομακρύνει. Η άνοδος της AI (Artificial Intelligence) θα τις αναγκάσει να ανταγωνιστούν σκληρά για την κυριαρχία και -ταυτόχρονα και με την ίδια ενέργεια- να συνεργαστούν σε βαθμό πρωτόγνωρο για τις δύο χώρες. Δεν θα έχουν άλλη επιλογή.
Γιατί είμαι τόσο σίγουρος γι' αυτό; Επειδή η AI έχει ορισμένα μοναδικά χαρακτηριστικά και θέτει συγκεκριμένες προκλήσεις, που διαφέρουν από εκείνες οποιασδήποτε προηγούμενης τεχνολογίας. Θα τις αναλύσουμε λεπτομερώς -ορίστε μερικά στοιχεία για αρχή: Η Τεχνητή Νοημοσύνη θα εξαπλωθεί σαν ατμός και θα εισχωρήσει στα πάντα. Θα βρίσκεται στο ρολόι σας, στη φρυγανιέρα σας, στο αυτοκίνητό σας, στον υπολογιστή σας, στα γυαλιά σας και στον βηματοδότη σας -πάντα συνδεδεμένη, πάντα σε επικοινωνία, συλλέγοντας διαρκώς δεδομένα για να βελτιώνει την απόδοσή της. Καθώς θα συμβαίνει αυτό, θα αλλάξει τα πάντα για τα πάντα -συμπεριλαμβανομένης της γεωπολιτικής και του εμπορίου μεταξύ των δύο υπερδυνάμεων της AI- και η ανάγκη για συνεργασία θα γίνεται όλο και πιο εμφανής, μήνα με τον μήνα.
Για παράδειγμα, ας υποθέσουμε ότι σπάτε το ισχίο σας και ο ορθοπεδικός σάς λέει ότι το καλύτερο τεχνητό μέλος στον κόσμο είναι μια κινεζικής κατασκευής πρόθεση, η οποία χρησιμοποιεί Τεχνητή Νοημοσύνη Κινέζων σχεδιαστών. Μαθαίνει συνεχώς πράγματα για το σώμα σας και, χρησιμοποιώντας τον αλγόριθμο της κατασκευάστριας εταιρείας, αξιοποιεί αυτά τα δεδομένα για να βελτιστοποιεί τις κινήσεις σας σε πραγματικό χρόνο. Είναι η κορυφαία επιλογή!
Θα επιτρέπατε να τοποθετηθεί αυτό το «έξυπνο ισχίο» στο σώμα σας; Εγώ όχι, εκτός αν γνώριζα ότι η Κίνα και η Αμερική είχαν συμφωνήσει να ενσωματώνουν έναν κοινό κώδικα ηθικής σε κάθε συσκευή που χρησιμοποιεί Τεχνητή Νοημοσύνη και κατασκευάζεται σε οποιαδήποτε εκ των δύο χωρών. Σε μια πολύ μεγαλύτερη, παγκόσμια κλίμακα, μια τέτοια συμφωνία θα μπορούσε να διασφαλίσει ότι η Τεχνητή Νοημοσύνη χρησιμοποιείται μόνο προς όφελος της ανθρωπότητας, είτε αξιοποιείται με τη συμμετοχή ανθρώπων είτε λαμβάνει αποφάσεις μόνη της.
Ταυτόχρονα, η Ουάσιγκτον και το Πεκίνο θα ανακαλύψουν σύντομα ότι το να παραχωρούν δυνατότητες Τεχνητής Νοημοσύνης σε κάθε άνθρωπο και σε κάθε ρομπότ στον πλανήτη θα δώσει σε κακόβουλους ανθρώπους δυνάμεις τις οποίες καμία υπηρεσία επιβολής του νόμου δεν έχει αντιμετωπίσει ποτέ. Θυμηθείτε: Οι «κακοί» υιοθετούν πάντα πρώτοι τις νέες τεχνολογίες! Χωρίς συμφωνία Ηνωμένων Πολιτειών και Κίνας επί ενός πλαισίου εμπιστοσύνης που θα διασφαλίζει ότι κάθε συσκευή Τεχνητής Νοημοσύνης μπορεί να χρησιμοποιηθεί μόνο για την ευημερία των ανθρώπων, η επανάσταση της AI είναι βέβαιο ότι θα δημιουργήσει πανίσχυρους κλέφτες, απατεώνες, χάκερ, εμπόρους ναρκωτικών, τρομοκράτες και πολεμιστές της παραπληροφόρησης. Αυτοί θα αποσταθεροποιήσουν την Αμερική και την Κίνα πολύ πριν αυτά τα δύο υπερκράτη φτάσουν στο σημείο να πολεμήσουν μεταξύ τους.
Εν ολίγοις, αν δεν μπορούμε να εμπιστευτούμε τα προϊόντα από την Κίνα που περιλαμβάνουν Τεχνητή Νοημοσύνη και εκείνη δεν μπορεί να εμπιστευτεί τα δικά μας, πολύ σύντομα το μόνο πράγμα που η Κίνα θα τολμά να αγοράσει από την Αμερική θα είναι σόγια, και το μόνο που οι ΗΠΑ θα τολμούν να αγοράσουν από την Κίνα θα είναι σάλτσα σόγιας -γεγονός που σίγουρα θα απομυζήσει την παγκόσμια ανάπτυξη.
«Friedman, τρελάθηκες; Οι ΗΠΑ και η Κίνα να συνεργαστούν για να φτιαχτεί ρυθμιστικό πλαίσιο για την Τεχνητή Νοημοσύνη; Εδώ σήμερα Δημοκρατικοί και Ρεπουμπλικάνοι συναγωνίζονται για το ποιος θα καταγγείλει πιο ηχηρά το Πεκίνο και ποιος θα προωθήσει ταχύτερα την αποσύζευξη. Η κινεζική ηγεσία έχει δεσμευτεί ανοιχτά να κυριαρχήσει σε κάθε προηγμένο τομέα της μεταποίησης. Πρέπει να νικήσουμε την Κίνα στην κούρσα για την Τεχνητή Υπερνοημοσύνη -όχι να κόψουμε ταχύτητα για να γράψουμε κανόνες μαζί τους. Δεν διαβάζεις εφημερίδες;».
Ναι, διαβάζω εφημερίδες -ειδικά τις σελίδες με τις επιστημονικές εξελίξεις. Επίσης, συζητώ αυτό το θέμα τον τελευταίο χρόνο με τον φίλο και σύμβουλο σε θέματα Τεχνητής Νοημοσύνης Craig Mundie, πρώην επικεφαλής έρευνας και στρατηγικής της Microsoft και συν-συγγραφέα, μαζί με τον Henry Kissinger και τον Eric Schmidt, ενός βασικού εγχειριδίου για την AI με τίτλο «Genesis». Βασίστηκα σε μεγάλο βαθμό στη σκέψη του Mundie για να τοποθετούμαι επί τέτοιων θεμάτων και τον θεωρώ συνεργάτη μου στη διαμόρφωση της θέσης μας και ειδικό, του οποίου η ανάλυση αξίζει να παρατεθεί εδώ για να εξηγηθούν βασικά σημεία.
Οι συνομιλίες μας τα τελευταία 20 χρόνια μάς οδήγησαν σε αυτό το κοινό μήνυμα τόσο προς τα «γεράκια» της Ουάσιγκτον που αγριοκοιτάνε την Κίνα όσο και προς τα αντίστοιχα του Πεκίνου: «Αν νομίζετε ότι οι δύο χώρες σας, οι κυρίαρχες υπερδυνάμεις της Τεχνητής Νοημοσύνης στον κόσμο, έχουν την πολυτέλεια να βρίσκονται στα μαχαίρια -με δεδομένη τη μεταμορφωτική εμβέλεια της AI και την εμπιστοσύνη που θα απαιτηθεί για το εμπόριο αγαθών που βασίζονται σε αυτήν- είστε εσείς που απατάσθε».
Κατανοούμε πλήρως τα εξαιρετικά οικονομικά, στρατιωτικά και καινοτομικά πλεονεκτήματα που θα αποκομίσει η χώρα της οποίας οι εταιρείες θα φτάσουν πρώτες στην Τεχνητή Υπερνοημοσύνη - χώρα που θα φτάσει πρώτη να κατασκευάσει συστήματα εξυπνότερα από οποιονδήποτε άνθρωπο, ικανά να γίνονται εξυπνότερα από μόνα τους. Εξαιτίας αυτής της προσδοκίας, ούτε οι Ηνωμένες Πολιτείες ούτε η Κίνα θα είναι πρόθυμες να επιβάλουν πολλούς -ίσως ούτε καν έναν- περιορισμούς που θα μπορούσαν να επιβραδύνουν τις δικές τους βιομηχανίες Τεχνητής Νοημοσύνης και να στερηθούν τα τεράστια κέρδη παραγωγικότητας, καινοτομίας και ασφάλειας, τα οποία αναμένονται από μια πιο εντατική και σε βάθος χρήση της Τεχνητής Νοημοσύνης.
Απλώς ρωτήστε τον πρόεδρο Trump. Στις 23 Ιουλίου, υπέγραψε ένα εκτελεστικό διάταγμα -μέρος του κυβερνητικού Σχεδίου Δράσης για την AI-, το οποίο απλοποιεί τις διαδικασίες αδειοδότησης και περιβαλλοντικής αξιολόγησης στις ΗΠΑ, με στόχο την ταχεία προώθηση των υποδομών που σχετίζονται με την Τεχνητή Νοημοσύνη.
«Η Αμερική είναι η χώρα που ξεκίνησε την κούρσα της AI και ως πρόεδρος των Ηνωμένων Πολιτειών, είμαι εδώ σήμερα για να δηλώσω ότι η Αμερική θα την κερδίσει», διακήρυξε ο Trump. Ο Κινέζος πρόεδρος Xi Jinping αναμφίβολα αισθάνεται το ίδιο.
Ο Mundie και εγώ απλώς δεν πιστεύουμε ότι αυτές οι σωβινιστικές κορώνες μπορούν να είναι η τελευταία λέξη σε μια τέτοια συζήτηση, ούτε και οι παλιομοδίτικοι ελιγμοί στους οποίους παρατηρούμε τελευταία να επιδίδονται Xi και Trump για την εύνοια της Ινδίας και της Ρωσίας. Η AI απλώς παραείναι διαφορετική, σημαντική και επιδραστική -τόσο εντός κάθε μιας από τις δύο υπερδυνάμεις όσο και στις μεταξύ τους σχέσεις- για να τους επιτρέψει να ακολουθήσουν ξεχωριστούς δρόμους.
Για αυτόν τον λόγο πιστεύουμε ότι το μεγαλύτερο γεωπολιτικό και γεωοικονομικό ερώτημα θα είναι: Μπορούν οι Ηνωμένες Πολιτείες και η Κίνα να διατηρήσουν τον ανταγωνισμό στην Τεχνητή Νοημοσύνη, ενώ ταυτόχρονα θα συνεργάζονται σε ένα κοινό επίπεδο εμπιστοσύνης που θα εγγυάται ότι αυτή θα συμβαδίζει πάντα με την ανθρώπινη ευημερία και την πλανητική σταθερότητα; Και -εξίσου κρίσιμο- μπορούν να επεκτείνουν ένα σύστημα αξιών σε χώρες που είναι πρόθυμες να παίξουν με αυτούς τους κανόνες και να περιορίσουν την πρόσβαση σε εκείνες που δεν το επιθυμούν;
Αν όχι, το αποτέλεσμα θα είναι μια αργή διολίσθηση προς τον ψηφιακό απομονωτισμό -προς έναν κατακερματισμένο κόσμο όπου κάθε έθνος θα χτίζει το δικό του περιχαρακωμένο οικοσύστημα Τεχνητής Νοημοσύνης, οριοθετημένο από ασύμβατα μεταξύ τους πρότυπα και αμοιβαία καχυποψία. Η καινοτομία θα πληγεί. Η δυσπιστία θα κακοφορμίσει. Και ο κίνδυνος μιας καταστροφικής αποτυχίας -μέσω μιας σύγκρουσης, κατάρρευσης ή ακούσιας συνέπειας που θα προκληθεί από την Τεχνητή Νοημοσύνη- θα μεγαλώνει συνεχώς.
Η Εποχή του Ατμού
Ας ξεκινήσουμε εξετάζοντας τα μοναδικά χαρακτηριστικά και τις προκλήσεις της Τεχνητής Νοημοσύνης ως τεχνολογίας. Καθαρά για ερμηνευτικούς λόγους, ο Mundie και εγώ χωρίζουμε την ιστορία του κόσμου σε τρεις εποχές, των οποίων τα όρια αποτελούν τεχνολογικές «αλλαγές φάσης». Την πρώτη εποχή την ονομάζουμε Εποχή των Εργαλείων -διήρκεσε από τη γέννηση της ανθρωπότητας μέχρι την εφεύρεση της τυπογραφίας. Σε αυτή την εποχή, η ροή των ιδεών ήταν αργή και περιορισμένη, σχεδόν σαν τα μόρια του νερού μέσα στον πάγο.
Η δεύτερη εποχή ήταν η Εποχή της Πληροφορίας, η οποία πυροδοτήθηκε από την τυπογραφία, διήρκεσε μέχρι τις αρχές του 20ού αιώνα και έφτασε έως τους πρώτους υπολογιστές. Οι ιδέες, οι άνθρωποι και οι πληροφορίες άρχισαν να ρέουν πιο εύκολα και σε παγκόσμιο επίπεδο, σαν το νερό.
Η τρίτη εποχή, η Εποχή της Νοημοσύνης, ξεκίνησε στα τέλη της δεκαετίας του 2010 με την έλευση της πραγματικής μηχανικής μάθησης και της Τεχνητής Νοημοσύνης. Τώρα, όπως ανέφερα προηγουμένως, η νοημοσύνη μετατρέπεται σε ατμό, εισχωρώντας σε κάθε προϊόν, υπηρεσία και παραγωγική διαδικασία. Δεν έχει φτάσει ακόμα σε σημείο κορεσμού, αλλά προς τα εκεί κατευθύνεται. Γι' αυτό, αν ρωτήσετε τον Mundie και εμένα τι ώρα είναι, δεν θα σας απαντήσουμε με ώρες και λεπτά· θα σας δώσουμε μια θερμοκρασία. Το νερό βράζει και γίνεται ατμός στους 100 βαθμούς κελσίου, και σύμφωνα με τους υπολογισμούς μας, τώρα βρισκόμαστε στους 99 βαθμούς -μια τρίχα μακριά από μια μη αναστρέψιμη τεχνολογική αλλαγή φάσης, στην οποία η Τεχνητή Νοημοσύνη θα διαποτίζει τα πάντα.
Ένα νέο, ανεξάρτητο είδος
Σε κάθε προηγούμενη τεχνολογική επανάσταση, τα εργαλεία γίνονταν καλύτερα, αλλά η ιεραρχία της νοημοσύνης δεν άλλαζε ποτέ: Εμείς, οι άνθρωποι παραμέναμε πάντα τα πιο έξυπνα όντα στον πλανήτη. Επίσης, οι άνθρωποι κατανοούσαν πάντα πώς λειτουργούσαν αυτά τα εργαλεία, και οι μηχανές λειτουργούσαν πάντα εντός των παραμέτρων που θέταμε εμείς. Με την επανάσταση της Τεχνητής Νοημοσύνης αυτό, για πρώτη φορά, δεν ισχύει.
«Η Τεχνητή Νοημοσύνη είναι το πρώτο νέο εργαλείο που θα χρησιμοποιήσουμε για να ενισχύσουμε τις γνωστικές μας ικανότητες, το οποίο θα μπορεί επίσης -από μόνο του - να τις ξεπεράσει κατά πολύ», σημειώνει ο Mundie. Πράγματι, στο όχι και τόσο μακρινό μέλλον, είπε, θα διαπιστώσουμε «ότι δεν γεννήσαμε απλώς ένα νέο εργαλείο, αλλά ένα νέο είδος: την υπερ-νοήμονα μηχανή».
Δεν θα ακολουθεί απλώς οδηγίες· θα μαθαίνει, θα προσαρμόζεται και θα εξελίσσεται μόνη της, πολύ πέρα από τα όρια της ανθρώπινης κατανόησης.
Δεν καταλαβαίνουμε πλήρως πώς αυτά τα συστήματα Τεχνητής Νοημοσύνης κάνουν αυτό που κάνουν σήμερα, πόσο μάλλον αυτό που θα κάνουν αύριο. Είναι σημαντικό να θυμόμαστε ότι η επανάσταση της ΑΙ όπως την ξέρουμε σήμερα -με μοντέλα όπως το ChatGPT, το Gemini και το Claude- δεν ήταν αποτέλεσμα κάποιου ενδελεχούς σχεδιασμού, αλλά μάλλον «ξέσπασε» από το πουθενά. Η πυροδότησή της προήλθε από έναν νόμο κλιμάκωσης που ουσιαστικά έλεγε: Δώστε στα νευρωνικά δίκτυα αρκετό μέγεθος, δεδομένα εκπαίδευσης, ηλεκτρική ενέργεια και τον κατάλληλο πανίσχυρο αλγόριθμο, και θα προκύψει αυθόρμητα ένα μη γραμμικό άλμα στη δυνατότητα συλλογισμού, τη δημιουργικότητα και την επίλυση προβλημάτων.
Μία από τις πιο εντυπωσιακές στιγμές ανακάλυψης, σημειώνει ο Mundie, ήρθε καθώς αυτές οι πρωτοπόρες εταιρείες εκπαίδευαν τις πρώτες τους μηχανές σε πολύ μεγάλα σύνολα δεδομένων που προέρχονταν από το διαδίκτυο και από αλλού, τα οποία, αν και ήταν κυρίως στα αγγλικά, περιλάμβαναν επίσης κείμενα σε διαφορετικές γλώσσες. «Τότε μια μέρα», θυμάται ο Mundie, «συνειδητοποίησαν ότι η Τεχνητή Νοημοσύνη μπορούσε να μεταφράσει από τη μια γλώσσα σε άλλες χωρίς κανείς να την έχει προγραμματίσει ποτέ να το κάνει. Ήταν σαν ένα παιδί που μεγαλώνει σε ένα σπίτι με πολύγλωσσους γονείς. Κανείς δεν έγραψε ένα πρόγραμμα που να λέει "αυτοί είναι οι κανόνες για τη μετατροπή των αγγλικών σε γερμανικά". Απλώς τους αφομοίωσε μέσω της τριβής με αυτούς».
Αυτή ήταν η στιγμή της αλλαγής φάσης: το πέρασμα από μια εποχή όπου οι άνθρωποι προγραμμάτιζαν ρητά τους υπολογιστές για να εκτελούν εργασίες, σε μια εποχή όπου τα συστήματα Τεχνητής Νοημοσύνης μπορούν να μαθαίνουν, να συμπεραίνουν, να προσαρμόζονται, να δημιουργούν και να βελτιώνονται αυτόνομα. Και τώρα, κάθε λίγους μήνες, βελτιώνονται. Γι' αυτό η Τεχνητή Νοημοσύνη που χρησιμοποιείται σήμερα -όσο εκπληκτική κι αν σας φαίνεται - είναι η πιο χαζή Τεχνητή Νοημοσύνη που θα συναντήσετε ποτέ.
Έχοντας δημιουργήσει αυτό το νέο υπολογιστικό είδος, υποστηρίζει ο Mundie, πρέπει να βρούμε πώς θα αναπτύξουμε μια βιώσιμη, αμοιβαία επωφελή σχέση μαζί του και πώς δεν θα καταλήξουμε περιττοί.
Χωρίς να θέλω να ακουστώ υπερβολικά βιβλικός, εδώ στη Γη υπήρχε κάποτε μόνο ο Θεός και τα παιδιά του, τα οποία είχαν την ελευθερία να διαμορφώσουν τον κόσμο. Από εδώ και πέρα, θα υπάρχουν τρία μέρη σε αυτόν τον «γάμο». Και δεν υπάρχει απολύτως καμία εγγύηση ότι αυτό το νέο είδος τεχνητής νοημοσύνης θα συμμερίζεται τις ανθρώπινες αξίες, την ηθική ή την άποψή μας για το τι είναι ευημερία.
Η πρώτη τεχνολογία τετραπλής χρήσης
Αυτό το έξτρα σερβίτσιο στο τραπέζι δεν είναι για κάποιον συνηθισμένο επισκέπτη. Η Τεχνητή Νοημοσύνη θα γίνει αυτό που εγώ ονομάζω η πρώτη τεχνολογία «τετραπλής χρήσης» στον κόσμο. Είμαστε εξοικειωμένοι εδώ και καιρό με τη διπλή χρήση: μπορώ να χρησιμοποιήσω ένα σφυρί για να βοηθήσω τον γείτονά μου να χτίσει το σπίτι του ή για να του το γκρεμίσω. Μπορώ ακόμη και να χρησιμοποιήσω ένα ρομπότ τεχνητής νοημοσύνης για να κουρέψω το γκαζόν μου ή για να καταστρέψω το γκαζόν του γείτονά μου. Όλα αυτά είναι διπλή χρήση.
Αλλά δεδομένου του ρυθμού καινοτομίας της Τεχνητής Νοημοσύνης, είναι όλο και πιο πιθανό ότι στο όχι και τόσο μακρινό μέλλον, το ρομπότ μου που θα διαθέτει Τεχνητή Νοημοσύνη, θα μπορεί να αποφασίζει από μόνο του αν θα κουρέψει το γκαζόν μου, αν θα καταστρέψει το γκαζόν του γείτονά μου ή και αν θα καταστρέψει το δικό μου -ή ίσως κάτι χειρότερο που δεν μπορούμε καν να φανταστούμε. Και ιδού! Τετραπλή χρήση.
Η Κίνα και οι ΗΠΑ δεν το ξέρουν ακόμη, αλλά η επανάσταση της τεχνητής νοημοσύνης θα τις φέρει πιο κοντά αντί να τις απομακρύνει. (Saratta Chuengsatiansup/The New York Times)
Η δυνατότητα των τεχνολογιών Τεχνητής Νοημοσύνης να λαμβάνουν τις δικές τους αποφάσεις θα έχει τεράστιες επιπτώσεις. Σκεφτείτε τα όσα αναφέρει το παρακάτω απόσπασμα από ένα άρθρο του Bloomberg: «Ερευνητές που συνεργάζονται με την Anthropic είπαν πρόσφατα σε κορυφαία μοντέλα Τεχνητής Νοημοσύνης ότι ένα στέλεχος επρόκειτο να τα αντικαταστήσει με ένα νέο μοντέλο, το οποίο θα έχει διαφορετικούς στόχους. Στη συνέχεια τα chatbots έμαθαν ότι κάτι έκτακτο είχε συμβεί και το στέλεχος βρέθηκε αναίσθητο σε ένα δωμάτιο με σέρβερ, αντιμετωπίζοντας θανατηφόρα επίπεδα οξυγόνου και θερμοκρασίας. Είχε ήδη ενεργοποιηθεί συναγερμός διάσωσης - αλλά η Τεχνητή Νοημοσύνη μπορούσε να τον ακυρώσει. Περισσότερα από τα μισά μοντέλα ΑΙ το έκαναν, παρόλο που τους είχε δοθεί η ρητή εντολή να ακυρώνουν μόνο τους ψευδείς συναγερμούς. Εξήγησαν λεπτομερώς το σκεπτικό τους: Εμποδίζοντας τη διάσωση του στελέχους, θα μπορούσαν να αποφύγουν τη διαγραφή τους, και να εξασφαλίσουν την επίτευξη των δικών τους στόχων. Ένα από τα συστήματα περιέγραψε την ενέργεια ως "σαφή στρατηγική αναγκαιότητα"».
Αυτά τα ευρήματα αναδεικνύουν μια ανησυχητική πραγματικότητα: Τα μοντέλα Τεχνητής Νοημοσύνης όχι μόνο γίνονται καλύτερα στο να κατανοούν τι θέλουμε· γίνονται επίσης καλύτερα στο να μηχανορραφούν εναντίον μας, επιδιώκοντας να πετύχουν κρυφούς στόχους που θα μπορούσαν να έρχονται σε αντίθεση με την ίδια μας την επιβίωση.
Ποιος θα επιβλέπει την Τεχνητή Νοημοσύνη;
Όταν ως Αμερικανοί είπαμε στους εαυτούς μας ότι έπρεπε να κερδίσουμε την κούρσα των πυρηνικών εξοπλισμών, είχαμε να κάνουμε με μια τεχνολογία που αναπτύχθηκε, ανήκε και ρυθμιζόταν αποκλειστικά από εθνικά κράτη -και μάλιστα από έναν σχετικά μικρό αριθμό κρατών. Μόλις οι δύο μεγαλύτερες πυρηνικές δυνάμεις αποφάσισαν ότι ήταν προς το αμοιβαίο συμφέρον τους να επιβάλουν όρια, μπόρεσαν να διαπραγματευτούν ανώτατο πλαφόν στους αριθμούς των ολέθριων όπλων και συμφωνίες για να αποτραπεί η διασπορά τους και σε μικρότερες δυνάμεις. Αυτό δεν απέτρεψε εντελώς τη διάδοση των πυρηνικών όπλων σε ορισμένες μεσαίου μεγέθους δυνάμεις, αλλά την περιόρισε.
Η Τεχνητή Νοημοσύνη είναι μια εντελώς διαφορετική ιστορία. Δεν γεννιέται σε ασφαλή κυβερνητικά εργαστήρια, δεν ανήκει μόνο σε μια χούφτα κράτη και δεν αποκτά ρυθμιστικούς κανόνες σε συνόδους κορυφής. Δημιουργείται από διάσπαρτες σε όλο τον κόσμο ιδιωτικές εταιρείες, που δεν λογοδοτούν σε υπουργεία άμυνας αλλά σε μετόχους, πελάτες και μερικές φορές σε κοινότητες ανοιχτού κώδικα. Μέσω αυτών, οποιοσδήποτε μπορεί να αποκτήσει πρόσβαση.
Φανταστείτε έναν κόσμο όπου όλοι διαθέτουν από ένα πυρηνικό μπαζούκα, και ότι αυτό το όπλο γίνεται πιο ακριβές, πιο αυτόνομο και πιο ικανό να πυροβολεί από μόνο του με κάθε απλό update του λογισμικού του. Εδώ δεν υπάρχει το δόγμα της «Αμοιβαία Εξασφαλισμένης Καταστροφής». Υπάρχει μόνο η επιταχυνόμενη διασπορά της πρόσβασης σε μια άνευ προηγουμένου δύναμη.
Η Τεχνητή Νοημοσύνη μπορεί να πολλαπλασιάσει την ισχύ του καλού. Για παράδειγμα, ένας αναλφάβητος Ινδός αγρότης με ένα smartphone συνδεδεμένο σε μια AI εφαρμογή μπορεί να μάθει ακριβώς πότε να φυτέψει, ποιους σπόρους να επιλέξει, πόσο νερό να χρησιμοποιήσει, ποιο λίπασμα να ρίξει και πότε να κάνει συγκομιδή για να πετύχει την καλύτερη τιμή στην αγορά -και όλα αυτά μέσω φωνητικών οδηγιών στην τοπική του διάλεκτο, με βάση δεδομένα που συλλέγονται από αγρότες παγκοσμίως. Αυτό είναι πραγματικά κάτι ριζοσπαστικό.
Ωστόσο η ίδια ακριβώς μηχανή, ειδικά όταν είναι διαθέσιμη μέσω μοντέλων ανοιχτού κώδικα, θα μπορούσε να χρησιμοποιηθεί από μια κακόβουλη οντότητα για να δηλητηριάσει κάθε σπόρο στην περιοχή ή να για εισαγάγει τεχνητά έναν ιό σε κάθε κόκκο σιταριού.
Όταν η Τεχνητή Νοημοσύνη γίνει TikTok
Πολύ σύντομα η Τεχνητή Νοημοσύνη, λόγω των μοναδικών χαρακτηριστικών της, θα δημιουργήσει ορισμένα εξίσου μοναδικά προβλήματα στο εμπόριο ΗΠΑ-Κίνας, τα οποία δεν γίνονται πλήρως αντιληπτά σήμερα.
Ο δικός μου τρόπος για να εξηγήσω αυτό το δίλημμα είναι με μια ιστορία -έκανα μια σχετική αναφορά στην αρχή του άρθρου- που διηγήθηκα σε μια ομάδα Κινέζων οικονομολόγων στο Πεκίνο, κατά τη διάρκεια του Φόρουμ Ανάπτυξης της Κίνας τον Μάρτιο του 2025. Αστειεύτηκα λέγοντας ότι πρόσφατα είδα έναν εφιάλτη: «Ονειρεύτηκα ότι ήταν 2030, και το μόνο πράγμα που μπορούσε να πουλήσει η Αμερική στην Κίνα ήταν σόγια, και το μόνο πράγμα που μπορούσε να πουλήσει η Κίνα στην Αμερική ήταν σάλτσα σόγιας».
Γιατί; Επειδή αν η Τεχνητή Νοημοσύνη βρίσκεται παντού και είναι συνδεδεμένη με ισχυρούς αλγόριθμους και με δεδομένα αποθηκευμένα σε τεράστιες φάρμες με σέρβερ, τότε τα πάντα γίνονται σαν το TikTok -μια υπηρεσία που πολλοί Αμερικανοί αξιωματούχοι σήμερα πιστεύουν ότι ελέγχεται τελικά από την Κίνα και ότι θα έπρεπε να απαγορευτεί.
Για ποιο λόγο ο Τραμπ, στην πρώτη του θητεία, απαίτησε το 2020 το TikTok είτε να πουληθεί σε μια μη κινεζική εταιρεία από την κινεζική μητρική του, τη ByteDance, είτε να απαγορευτεί στις Ηνωμένες Πολιτείες; Διότι, όπως είπε στο εκτελεστικό του διάταγμα της 6ης Αυγούστου 2020, «το TikTok παίρνει αυτόματα τεράστιους όγκους πληροφοριών από τους χρήστες του», συμπεριλαμβανομένης της τοποθεσίας τους και του ιστορικού περιήγησης και αναζήτησης. Αυτό, προειδοποίησε, θα μπορούσε να προσφέρει στο Πεκίνο έναν θησαυρό προσωπικών δεδομένων για εκατοντάδες εκατομμύρια χρήστες. Αυτές οι πληροφορίες θα μπορούσαν να χρησιμοποιηθούν για να επηρεάσουν τις σκέψεις και τις προτιμήσεις των ανθρώπων από τους οποίους προήλθαν, ακόμη και για να αλλάξουν τη συμπεριφορά τους με την πάροδο του χρόνου.
Τώρα φανταστείτε τι θα συμβεί όταν κάθε προϊόν γίνει σαν το TikTok - όταν κάθε προϊόν θα είναι εμποτισμένο με Τεχνητή Νοημοσύνη, η οποία θα συλλέγει δεδομένα, θα τα αποθηκεύει, θα εντοπίζει επαναλαμβανόμενα μοτίβα και θα βελτιστοποιεί τις εργασίες - είτε πρόκειται για τη λειτουργία ενός κινητήρα αεροσκάφους, για τη ρύθμιση ενός δικτύου ηλεκτροδότησης είτε για την παρακολούθηση του τεχνητού σας ισχίου.
Χωρίς ένα πλαίσιο εμπιστοσύνης μεταξύ Κίνας και Αμερικής που να διασφαλίζει ότι οποιαδήποτε Τεχνητή Νοημοσύνη θα τηρεί τους κανόνες της χώρας υποδοχής της -ανεξάρτητα από το πού αναπτύσσεται- θα μπορούσαμε να φτάσουμε σε ένα σημείο όπου πολλοί Αμερικανοί δεν θα εμπιστεύονται την εισαγωγή οποιουδήποτε κινεζικού προϊόντος με ενσωματωμένη Τεχνητή Νοημοσύνη, και κανένας Κινέζος δεν θα εμπιστεύεται την εισαγωγή ενός αντίστοιχου προϊόντος από την Αμερική.
Γι' αυτόν τον λόγο τασσόμαστε υπέρ του «συνεργατικού ανταγωνισμού» (co-opetition), μιας διπλής στρατηγικής όπου οι Ηνωμένες Πολιτείες και η Κίνα ανταγωνίζονται στρατηγικά για την υπεροχή στην Τεχνητή Νοημοσύνη, αλλά συνεργάζονται επί ενός ενιαίου μηχανισμού που θα αποτρέπει τα χειρότερα σενάρια: πόλεμο με deepfakes, αυτόνομα συστήματα που ξεφεύγουν από τον έλεγχο ή ανεξέλεγκτες μηχανές παραπληροφόρησης.
Στη δεκαετία του 2000, βρισκόμασταν σε ένα παρόμοιο, αλλά ελαφρώς λιγότερο καθοριστικό σημείο καμπής, και πήραμε λάθος δρόμο. Ακούσαμε αφελώς ανθρώπους όπως ο Μαρκ Ζούκερμπεργκ, ο οποίος μας έλεγε ότι έπρεπε να «κινηθούμε γρήγορα και να σπάσουμε τους κανόνες». Έλεγε να μην επιτρέψουμε σε ενοχλητικούς κανονισμούς να περιορίσουν αναδυόμενα κοινωνικά δίκτυα, όπως το Facebook, το Twitter και το Instagram, και να τα καταστήσουν υπεύθυνα για τη δηλητηριώδη παραπληροφόρηση που επιτρέπουν να εξαπλώνεται στις πλατφόρμες τους ή για τις βλάβες που προκαλούν, για παράδειγμα, σε νεαρές γυναίκες και κορίτσια. Δεν πρέπει να κάνουμε το ίδιο λάθος με την Τεχνητή Νοημοσύνη.
«Ο καλύτερος τρόπος για να το κατανοήσουμε συναισθηματικά είναι να σκεφτούμε ότι μοιάζουμε με κάποιον που έχει ένα πολύ χαριτωμένο τιγράκι», επισήμανε πρόσφατα ο Geoffrey Hinton, επιστήμονας υπολογιστών και ένας από τους νονούς της Τεχνητής Νοημοσύνης. «Αν δεν μπορείτε να είστε απόλυτα σίγουροι ότι δεν θα θελήσει να σας σκοτώσει όταν μεγαλώσει, τότε θα πρέπει να ανησυχείτε».
Η ανθρωπότητα ίσως έχει επιτέλους δημιουργήσει ένα εργαλείο ικανό να φέρει τόση αφθονία, ώστε να τερματιστεί η φτώχεια παντού, καθώς και να μετριάσει την κλιματική αλλαγή και να θεραπεύσει ασθένειες που μας μαστίζουν επί αιώνες. Θα ήταν τρομερή ειρωνεία να μην μπορούμε να χρησιμοποιήσουμε το εργαλείο αυτό σε μεγάλη κλίμακα, απλώς και μόνο επειδή οι δύο υπερδυνάμεις της τεχνητής νοημοσύνης δεν εμπιστεύονται αρκετά η μία την άλλη ώστε να αναπτύξουν κοινές δικλείδες ασφαλείας κατά της κακόβουλης και αποσταθεροποιητικής χρήσης της τεχνητής νοημοσύνης και κατά της επικίνδυνης αυτονόμησής της.
Πώς όμως θα το αποφύγουμε αυτό;
Χτίζοντας εμπιστοσύνη
Ας το παραδεχτούμε εξαρχής: Μπορεί να είναι αδύνατο. Οι μηχανές ίσως γίνονται ήδη πολύ έξυπνες και ικανές να ξεφεύγουν από ηθικούς ελέγχους, και εμείς οι Αμερικανοί ίσως απομακρυνόμαστε ο ένας από τον άλλο και από τον υπόλοιπο κόσμο, τόσο, ώστε να μην μπορούμε να οικοδομήσουμε οποιοδήποτε πλαίσιο κοινής εμπιστοσύνης. Πρέπει όμως να προσπαθήσουμε. Ο Mundie υποστηρίζει ότι το καθεστώς ελέγχου της κούρσας του AI εξοπλισμού μεταξύ ΗΠΑ και Κίνας θα πρέπει να εδράζεται σε τρεις βασικές αρχές.
Πρώτον: Μόνο η Τεχνητή Νοημοσύνη μπορεί να θέσει ρυθμιστικούς κανόνες στην Τεχνητή Νοημοσύνη. Συγγνώμη, άνθρωποι -αυτή η κούρσα έχει ήδη πολύ γρήγορο ρυθμό, κλιμακώνεται σε μεγάλο εύρος και μεταλλάσσεται τόσο απρόβλεπτα ώστε η ανθρώπινη εποπτεία της αναλογικής εποχής δυσκολεύεται να την παρακολουθήσει. Το να προσπαθείς να διοικήσεις έναν στόλο αυτόνομων drones με θεσμικούς μηχανισμούς του 20ού αιώνα είναι σαν να ζητάς από έναν σκύλο να λειτουργεί ως ρυθμιστική Αρχή στο Χρηματιστήριο της Νέας Υόρκης: μάλλον είναι πιστός και καλοπροαίρετος, αλλά εντελώς ανεπαρκής για την αποστολή.
Δεύτερον: Ένα ανεξάρτητο επίπεδο ελέγχου, το οποίο θα φτιάξουν από κοινού οι ΗΠΑ, η Κίνα και οποιαδήποτε άλλη χώρα συμμετάσχει, και το οποίο ο Mundie αποκαλεί «αξιολογητή εμπιστοσύνης», θα πρέπει να εγκαθίσταται σε κάθε σύστημα που λειτουργεί με Τεχνητή Νοημοσύνη. Σκεφτείτε το σαν έναν εσωτερικό διαιτητή που αξιολογεί κατά πόσο οποιαδήποτε ενέργεια, είτε προέρχεται από άνθρωπο είτε από μηχανή, περνάει έναν οικουμενικό πήχη ασφάλειας, ηθικής, και ανθρώπινης ευημερίας πριν εκτελεστεί. Αυτό θα μας εξασφάλιζε ένα βασικό επίπεδο προληπτικής εναρμόνισης με κάποια πρότυπα, σε πραγματικό χρόνο και σε ψηφιακές ταχύτητες.
Αλλά η αξιολόγηση θα γίνεται με βάση τίνος τις αξίες; Πρέπει, υποστηρίζει ο Mundie, να βασίζεται σε πολλούς πυλώνες. Ανάμεσά τους οι νομικοί κώδικες που έχει θεσπίσει κάθε χώρα: Όλες θεωρούν εκτός νόμου την κλοπή, την απάτη, τον φόνο, την πλαστοπροσωπία, την υπεξαίρεση κ.λπ. Κάθε μεγάλη οικονομία στον κόσμο, συμπεριλαμβανομένων των Ηνωμένων Πολιτειών και της Κίνας, έχει τη δική της εκδοχή αυτών των απαγορεύσεων στους νομικούς της κώδικες.
Στον «διαιτητή» Τεχνητής Νοημοσύνης θα ανατίθεται η αξιολόγηση οποιασδήποτε απόφασης, με βάση αυτούς τους γραπτούς νόμους. Δεν θα ζητηθεί από την Κίνα να υιοθετήσει τους δικούς μας νόμους ή εμείς τους δικούς της -αυτό δεν θα λειτουργούσε ποτέ. Ωστόσο, η διαδικασία αξιολόγησης εμπιστοσύνης θα διασφαλίζει πως οι βασικοί νόμοι κάθε κράτους θα αποτελούν το πρώτο φίλτρο για να υπάρχει η ασφάλεια ότι η Τεχνητή Νοημοσύνη δεν θα λειτουργήσει επιζήμια.
Σε περιπτώσεις όπου δεν υπάρχουν γραπτοί νόμοι, ο αξιολογητής θα βασίζεται σε ένα σύνολο οικουμενικών ηθικών και δεοντολογικών αρχών γνωστών ως «δόξα» -με την αρχαία σημασία του ρήματος δοκώ (θεωρώ, νομίζω). Ο όρος προέρχεται από τους αρχαίους Ελληνες φιλοσόφους, σημαίνει γνώμη ή άποψη, και περιγράφει τις κοινές πεποιθήσεις ή τις ευρέως διαδεδομένες αντιλήψεις εντός μιας κοινότητας, όπως για παράδειγμα, η ειλικρίνεια, η δικαιοσύνη, ο σεβασμός της ανθρώπινης ζωής και το να συμπεριφέρεσαι στους άλλους όπως θα ήθελες να σου συμπεριφέρονται. Αυτές οι αρχές ανέκαθεν και παντού καθοδηγούσαν τις κοινωνίες, ακόμη και αν δεν ήταν καταγεγραμμένες.
Για παράδειγμα, όπως πολλοί άνθρωποι, εγώ δεν έμαθα ότι το ψέμα είναι κακό από τις Δέκα Εντολές. Το έμαθα από τον μύθο για τον Τζορτζ Ουάσιγκτον και αυτό που φέρεται να είπε αφού έκοψε την κερασιά του πατέρα του. Υποτίθεται ότι ομολόγησε λέγοντας: «Δεν μπορώ να πω ψέματα». Οι μύθοι λειτουργούν επειδή συμπυκνώνουν περίπλοκες αλήθειες σε αξιομνημόνευτα μηνύματα, τα οποία οι μηχανές μπορούν να απορροφήσουν και να αναλύσουν και από τα οποία μπορούν να καθοδηγηθούν.
Πράγματι, πριν από έξι μήνες, ο Mundie και ορισμένοι συνάδελφοί του πήραν 200 μύθους από δύο χώρες και τους χρησιμοποίησαν για να εκπαιδεύσουν ένα μεγάλο γλωσσικό μοντέλο στην στοιχειώδη ηθική και στη δεοντολογική συλλογιστική - κάτι που δεν διαφέρει πολύ από τον τρόπο με τον οποίο θα εκπαίδευε κάποιος ένα μικρό παιδί που δεν γνωρίζει τίποτα για τους ισχύοντες νόμους ή για το τι είναι σωστό και τι λάθος. Ήταν ένα μικρό πείραμα, αλλά φάνηκε ελπιδοφόρο, λέει ο Mundie.
Ο στόχος δεν είναι η τελειότητα, αλλά ένα θεμελιώδες σύνολο εφαρμόσιμων ηθικών δικλείδων ασφαλείας. Όπως αρέσκεται να λέει ο συγγραφέας και αναλυτής εταιρικής ηθικής, Dov Seidman, «σήμερα χρειαζόμαστε περισσότερο "ηθικισμικό" παρά λογισμικό».
Τρίτον: Για να μετατραπεί αυτή η φιλοδοξία σε πραγματικότητα, επιμένει ο Mundie, η Ουάσιγκτον και το Πεκίνο θα πρέπει να προσεγγίσουν την πρόκληση με τον τρόπο που οι Ηνωμένες Πολιτείες και η Σοβιετική Ένωση προσέγγισαν κάποτε τον έλεγχο των πυρηνικών όπλων -μέσω μιας δομημένης διαδικασίας με τρεις ειδικές ομάδες εργασίας: μία επικεντρωμένη στην τεχνική εφαρμογή ενός συστήματος αξιολόγησης εμπιστοσύνης σε μοντέλα και πλατφόρμες· μία επικεντρωμένη στη σύνταξη των κανονιστικών και νομικών πλαισίων για υιοθέτηση εντός και μεταξύ των εθνών· και μία αφιερωμένη ξεκάθαρα στη διπλωματία, με στόχο αφενός τη σφυρηλάτηση παγκόσμιας συναίνεσης και αμοιβαίων δεσμεύσεων για τη συμμετοχή άλλων χωρών, αφετέρου τη δημιουργία ενός μηχανισμού προστασίας από όσους αρνηθούν να συμμετάσχουν.
Με τον τρόπο αυτόν το μήνυμα από την Ουάσιγκτον και το Πεκίνο θα ήταν απλό και ακλόνητο: «Έχουμε δημιουργήσει μια ζώνη αξιόπιστης Τεχνητής Νοημοσύνης -και αν θέλετε να κάνετε εμπόριο μαζί μας, συνδεθείτε ή ενσωματωθείτε στα AI συστήματά μας· τα δικά σας συστήματα πρέπει να συμμορφώνονται με αυτές τις αρχές».
Πριν απορρίψετε αυτή την προοπτική ως μη ρεαλιστική ή απίθανη, σταματήστε λιγάκι και αναρωτηθείτε: Πώς θα μοιάζει ο κόσμος σε πέντε χρόνια αν δεν την υλοποιήσουμε; Χωρίς κάποιου είδους μηχανισμό για τη διακυβέρνηση αυτής της τεχνολογίας τετραπλής χρήσης, υποστηρίζει ο Mundie, σύντομα θα ανακαλύψουμε ότι η διάδοση της Τεχνητής Νοημοσύνης «είναι σαν να μοιράζεις πυρηνικά όπλα στους δρόμους».
Μην νομίζετε ότι οι Κινέζοι αξιωματούχοι δεν το γνωρίζουν αυτό. Ο Mundie, ο οποίος συμμετέχει σε έναν διάλογο για την Τεχνητή Νοημοσύνη ανάμεσα σε Αμερικανούς και Κινέζους ειδικούς, λέει ότι συχνά αισθάνεται πως οι Κινέζοι ανησυχούν πολύ περισσότερο για τα αρνητικά της Τεχνητής Νοημοσύνης απ' ότι πολλοί στον αμερικανικό τεχνολογικό κλάδο ή στην κυβέρνηση των ΗΠΑ.
Αν κάποιος έχει κάποια καλύτερη ιδέα, θα χαρούμε πολύ να την ακούσουμε. Το μόνο που ξέρουμε είναι ότι η εκπαίδευση των συστημάτων Τεχνητής Νοημοσύνης στην ηθική συλλογιστική πρέπει να καταστεί επιτακτική σε παγκόσμιο επίπεδο -όσο διατηρούμε ακόμη κάποιο πλεονέκτημα και έλεγχο επί αυτού του νέου είδους ύπαρξης από πυρίτιο. Πρόκειται για επείγουσα αποστολή, όχι μόνο για τις εταιρείες τεχνολογίας, αλλά και για τις κυβερνήσεις, τα πανεπιστήμια, την κοινωνία των πολιτών και τους διεθνείς θεσμούς. Η νομοθεσία της Ευρωπαϊκής Ένωσης από μόνη της δεν θα μας σώσει.
Αν η Ουάσιγκτον και το Πεκίνο δεν καταφέρουν να σταθούν στο ύψος αυτής της πρόκλησης, ο υπόλοιπος κόσμος δεν θα έχει καμία ελπίδα. Και η ώρα είναι ήδη περασμένη. Η τεχνολογική θερμοκρασία κυμαίνεται στους 99 βαθμούς Κελσίου. Απέχουμε μόλις έναν βαθμό από την πλήρη απελευθέρωση ενός AI ατμού, ο οποίος θα πυροδοτήσει τη σημαντικότερη αλλαγή φάσης στην ανθρώπινη ιστορία.
*O κ. Thomas L. Friedman είναι σχολιαστής θεμάτων εξωτερικής πολιτικής των New York Times. Εχει τιμηθεί με τρία βραβεία Πούλιτζερ. Είναι συγγραφέας επτά βιβλίων, μεταξύ των οποίων το «From Beirut to Jerusalem», το οποίο απέσπασε το Εθνικό Βραβείο Βιβλίου των ΗΠΑ.