Την περασμένη εβδομάδα ρώτησα αν η ΑΙ είναι φούσκα, δώρο ή συμφορά. Οι απαντήσεις που πήρα, με τη σειρά, ήταν «"μέχρις ενός σημείου", "ναι" και "ναι"».
Τώρα, θέλω να εξετάσω βαθύτερα το τελευταίο ερώτημα, περί «συμφοράς». Τα ζητήματα που θα εξετάσω είναι: πόσο επικίνδυνη είναι η ΑΙ, τι πρέπει να κάνουμε για να την περιορίσουμε και θα είναι αποτελεσματική κάποια μορφή ρύθμισης; Βασικό μου συμπέρασμα θα είναι πως είναι οπωσδήποτε επικίνδυνη, πρέπει οπωσδήποτε να προσπαθήσουμε να τη ρυθμίσουμε, ωστόσο, κατά πάσα πιθανότητα, η απόπειρα θα αποτύχει.
Κάποιοι μου έχουν πει πως δεν έχω δικαίωμα να σχολιάζω επειδή δεν είμαι ειδικός. Άλλοι υποστηρίζουν πως πρέπει να ενστερνιστούμε ό,τι μας δίνει η τεχνολογία, επειδή είναι πηγή οικονομικής ανάπτυξης. Και οι δύο απόψεις είναι λάθος. Μια δημοκρατία είναι ένα κοινό πολιτικό εγχείρημα. Όλοι έχουμε δικαίωμα να συμμετέχουμε σε συζητήσεις για το πώς να διαχειριστούμε τις επικίνδυνες νέες τεχνολογίες.
Αυτό ίσχυε όταν εφευρέθηκε η ατομική βόμβα. Ισχύει επίσης για την ΑΙ, που θα έχει πολύ πιο περίπλοκες και επίσης επικίνδυνες συνέπειες. Επιπλέον, το υποτιθέμενο δικαίωμα λήψης απόφασης για τέτοια πράγματα που ισχυρίζονται ότι έχουν ορισμένοι τεχνολογικοί γίγαντες χάθηκε μετά την τεράστια ζημιά που έκαναν τα μέσα κοινωνικής δικτύωσης στους νέους και στο δημόσιο αγαθό της σωστής πληροφόρησης.
Είναι παράλογη η σύγκριση μεταξύ της ΑΙ και των πυρηνικών όπλων; Όχι, επειδή το πρώτο μπορεί επίσης να προκαλέσει μεγάλες βλάβες. Αυτές εμπίπτουν σε τρεις κατηγορίες: μια κατάρρευση των θεμελιωδών ανθρώπινων αξιών· ορισμένους τεράστιους συγκεκριμένους κινδύνους· και ευρεία διατάραξη.
Οι άνθρωποι σκέφτονται, δημιουργούν και ενεργούν. Τι θα συμβεί όταν (ή αν) οι μηχανές σκέφτονται, δημιουργούν και ενεργούν για λογαριασμό μας; Θα συνεχίσουν οι άνθρωποι να προσπαθούν να κατανοήσουν ή μήπως θα τρώνε μασημένη τροφή; Εν ολίγοις, θα αλλάξει η ΑΙ, όχι μόνο αυτό που κάνουν οι άνθρωποι, αλλά το ποιοι είμαστε;
Μια βασική πτυχή του τι σημαίνει να είσαι άνθρωπος είναι η λογοδοσία. Αυτό το θέμα έγινε εμφανές όταν ο Javier Milei, ο πρόεδρος της Αργεντινής, ανακοίνωσε τη δημιουργία «της μη ανθρώπινης εταιρείας». Όπως απάντησε ο Yuval Harari, «οι χώρες που δίνουν στην ΑΙ νομική προσωπικότητα κινδυνεύουν να γίνουν κάτι για το οποίο δεν υπάρχει ιστορικό ανάλογο: όχι ένα κράτος-εταιρεία, αλλά ένα κράτος-ΑΙ».
Νομικά, οι εταιρείες είναι «πρόσωπα». Αλλά οι εταιρείες ΑΙ μπορεί να λαμβάνουν αποφάσεις χωρίς ανθρώπους. Πώς και έναντι ποιου θα είναι υπόλογο ένα πρόγραμμα ΑΙ; Οι εγκληματίες διευθύνοντες σύμβουλοι μπορούν να πάνε στη φυλακή. Ποιο είναι το αντίστοιχο για την ΑΙ; Όπως λέει ο Πάπας, η ΑΙ είναι «εργαλείο». Δεν είναι άτομο. Υποφέρει; Ματώνει; Μπορεί να φέρει ηθική ευθύνη; Μπορεί να είναι υπόλογο με ουσιαστικό τρόπο; Όχι. Επιπλέον, αυτό το ερώτημα της ευθύνης δεν περιορίζεται στις επιχειρήσεις. Ποιος θα είναι υπόλογος για εγκλήματα πολέμου όταν η τεχνητή νοημοσύνη θα διευθύνει ρομποτικούς στρατούς;
Το ζήτημα της λογοδοσίας προκύπτει επίσης και για άλλους θεσμούς που μπορούν να χρησιμοποιήσουν πόρους που διατίθενται με την ενσωμάτωση της ΑΙ σε άλλες τεχνολογίες. Οι πιθανότητες για μαζικές παρακολουθήσεις είναι τεράστιες. Το ίδιο και για τη δημιουργία αυτόνομων όπλων.
Η κατασκευή ψεμάτων, τα deepfakes και οι απάτες ήδη έχουν ενισχυθεί σε τεράστιο βαθμό. Τέτοιες εξελίξεις θα μπορούσαν να χρησιμοποιηθούν από κράτη, ιδιώτες ή και τα δύο. Πώς μπορεί ο νόμος και η πολιτική λογοδοσία να λειτουργήσουν σε έναν τέτοιο κόσμο; Σε ένα προκλητικό του άρθρο στο Substack, ο οικονομολόγος Noah Smith υποστηρίζει μάλιστα ότι η ΑΙ μπορεί να καταλάβει τον κόσμο.
Έπειτα, υπάρχουν πιο συγκεκριμένοι κίνδυνοι. Ένας προφανής είναι η ικανότητα διατάραξης του ψηφιακά υποστηριζόμενου πολιτισμού μας. Ρίξαμε μια ματιά σε αυτό όταν η Anthropic προειδοποίησε για την απειλή του Mythos στην κυβερνοασφάλεια. Σχεδόν τα πάντα από τα οποία εξαρτώμαστε, εξαρτώνται με τη σειρά τους από τέτοια συστήματα. Αν η ΑΙ μπορεί να τα διαταράξει, η ζωή θα μπορούσε να γίνει ριζικά ανασφαλής και οι πιθανότητες εκβίασης θα είναι άνευ ορίων. Η πιθανότητα σχεδιασμού θανάσιμων παθογόνων οργανισμών είναι επίσης τρομακτική.
Ο Niall Ferguson του Hoover Institution προειδοποιεί πως μέρος αυτού που καθιστά την ΑΙ ανεξέλεγκτη είναι πως καθοδηγείται από δυο ταυτόχρονες κούρσες εξοπλισμών, η μια μεταξύ ενός μικρότερου αριθμού εταιρειών και η άλλη μεταξύ των ΗΠΑ και της Κίνας.
Οι ΗΠΑ μέχρι στιγμής έχουν αποφασίσει να μην ρυθμίσουν την κούρσα μεταξύ των επιχειρήσεών τους, ενώ οι ΗΠΑ και η Κίνα δεν προσπαθούν να ελέγξουν την μεταξύ τους κούρσα. Ο Ferguson υποστηρίζει πως το πρώτο μπορεί να εξηγηθεί σε μεγάλο βαθμό από το δεύτερο. Μια σινοαμερικανική συμφωνία για ρύθμιση της ΑΙ, όπως υποστηρίζει, είναι ένας απαραίτητος όρος για να ελεγχθεί ο «τύπου μαφίας» ανταγωνισμός των κορυφαίων αμερικανικών εταιρειών.
Έτσι, όπως υποστήριξα την περασμένη εβδομάδα, είμαστε παγιδευμένοι: οι τεχνολόγοι μας ρίχνουν με εντυπωσιακή ταχύτητα σε έναν νέο κόσμο τις συνέπειες του οποίου ούτε καταλαβαίνουμε, ούτε ελέγχουμε.
Αυτό οφείλεται εν μέρει στο ότι η ΑΙ είναι η πιο «γενική» από τις τεχνολογίες γενικού σκοπού. Δυνητικά, μπορεί να σημαίνει ακόμα και την αντικατάσταση της ανθρώπινης από τη μηχανική νοημοσύνη. Οι επιπτώσεις, όπως έχω δείξει, πάνε πέραν των ανησυχιών για συγκεκριμένους κινδύνους.
Η τεχνητή νοημοσύνη θα επηρεάσει επίσης και την αίσθηση της ταυτότητάς μας ως ανθρώπων αλλά και τον τρόπο που οργανώνουμε και κατανοούμε την κοινωνία: θα πρέπει τα προγράμματα να έχουν τη δυνατότητα να ενεργούν όπως οι άνθρωποι, όταν ούτε αισθάνονται, ούτε έχουν αντίληψη, ούτε συνείδηση;
Σε κάθε περίπτωση, οπωσδήποτε θα μας άρεσε να περιορίσουμε τους μεγαλύτερους κινδύνους, ιδιαίτερα αυτούς που αναφέρθηκαν παραπάνω. Έτσι, ένας λογικός τρόπος για να προχωρήσουμε θα ήταν οι ΗΠΑ και η Κίνα να αναγνωρίσουν και να συμφωνήσουν σε κάποιου είδους συνθήκη αφοπλισμού της ΑΙ. Αυτό θα έκανε τους πάντες να νιώσουν πιο ασφαλείς.
Υπάρχει μια καλή είδηση: ο φόβος των οικονομικών και κοινωνικών διαταραχών που έρχονται ανησυχεί τον κόσμο. Πιστεύουν, ορθώς, ότι το μέλλον είναι πολύ σημαντικό για να αφεθεί στα χέρια μερικών «αφεντικών της τεχνολογίας», όπως αντίστοιχα ο πόλεμος είναι πολύ σημαντικός για να αφεθεί στα χέρια των στρατηγών.
Τούτων δοθέντων, μπορεί να υπάρξει άνοιγμα για ρύθμιση. Την επόμενη εβδομάδα θα εξετάσω τι μπορεί να γίνει ως απάντηση.