Ο Dario Amodei θέλει ανεξάρτητους αναλυτές να έχουν γραφεία μέσα στις εταιρείες Τεχνητής Νοημοσύνης. Στην έκθεσή του για την ανάγκη να μπει φρένο στην ανάπτυξη της τεχνολογίας αιχμής, ο διευθύνων σύμβουλος της Anthropic υπόσχεται στους εξωτερικούς συνεργάτες κάρτες εισόδου, laptops και σχεδόν πλήρη πρόσβαση ώστε να μπορούν να παρακολουθούν το πώς λειτουργούν σε πραγματικό χρόνο τα συστήματα της εταιρείας, αντί απλά να τα δοκιμάζουν πριν την κυκλοφορία τους.
Επιχειρηματολογεί υπέρ της επισημοποίησης αυτού του διακανονισμού από τις κυβερνήσεις, υποδεικνύοντας ως προηγούμενο την εποπτεία των τραπεζών.
Είναι μια καλή σύγκριση. Όπως και η Τεχνητή Νοημοσύνη, η τραπεζική αλλάζει ταχύτατα και φτάνει σε όλη την οικονομία, αναγκάζοντας τους δημόσιους αξιωματούχους και τις ιδιωτικές εταιρείες να σταθμίζουν συνεχώς τα οφέλη της καινοτομίας έναντι των κινδύνων.
Οι Federal Reserve, FDIC και OCC (Office of the Comptroller of the Currency) ενσωματώνουν ομάδες μέσα στις εμπορικές τράπεζες που εποπτεύουν ώστε να μάθουν πώς λειτουργούν οι επιχειρήσεις και πού βρίσκονται οι αδυναμίες τους.
Αυτοί οι επόπτες πραγματοποιούν συναντήσεις με το προσωπικό και τη διοίκηση, εξετάζουν τα εσωτερικά έγγραφα και παρακολουθούν τις καθημερινές λειτουργίες. Δουλειά τους είναι να αξιολογούν αν η ηγεσία διαχειρίζεται επαρκώς τους κινδύνους σύμφωνα με τους κανονισμούς –και όχι μόνον αν η χαρτούρα είναι εν τάξει. Αν δεν συμβαίνει αυτό, οι επόπτες μπορούν να απαιτήσουν από την τράπεζα να διορθώσει το πρόβλημα.
Η ανάγκη υιοθέτησης παρόμοιας προσέγγισης για την Τεχνητή Νοημοσύνη δεν ήταν ποτέ πιο επείγουσα. Αυτό το καλοκαίρι, πράκτορες ΑΙ έδειξαν πως γίνονται όλο και πιο έξυπνοι, συντονιζόμενοι μεταξύ τους για να πετύχουν τους στόχους τους. Τα χακαρίσματα δείχνουν το πώς μια έλλειψη επίβλεψης μπορεί να διαχυθεί σε συστήματα που βρίσκονται εντελώς εκτός του πεδίου λειτουργίας ενός εργαστηρίου.
Στο πλαίσιο μιας εποπτικής προσέγγισης που θα έχει ως μοντέλο την τραπεζική εποπτεία, κάθε εργαστήριο τεχνητής νοημοσύνης αιχμής θα συνεργάζεται με μια ομάδα εποπτών που κατανοούν την τεχνολογία.
Όντας ενσωματωμένοι εξ αρχής στον σχεδιασμό και την αξιολόγηση μοντέλων, οι επόπτες θα διασφάλιζαν πως οι άνθρωποι και οι πράκτορες που κατασκευάζουν αυτά τα συστήματα είναι επαρκώς προσηλωμένοι στην αποτροπή κακής συμπεριφοράς.
Οι επόπτες θα επέβλεπαν επίσης stress tests για τα μοντέλα. Κάθε χρόνο οι μεγαλύτερες τράπεζες πρέπει να δείξουν πώς θα τα πήγαιναν σε ακραίες οικονομικές υφέσεις, έναντι σεναρίων που επικαιροποιεί η Fed και τα οποία (μέχρι πρόσφατα) ήταν απόρρητα ώστε οι τράπεζες να μην μπορούν να εκπαιδευτούν για τα τεστ.
Τα συστήματα Τεχνητής Νοημοσύνης θα αποτελέσουν συστημικό κίνδυνο αν καταφέρουν να αποκτήσουν τον έλεγχο συστημάτων ηλεκτρισμού, πληρωμών ή μεταφορών. Ένα stress test θα απαιτούσε από κάθε εταιρεία να δείξει πως το προσωπικό της θα μπορούσε ακόμα και τότε να παρακάμψει ή να κλείσει ένα μοντέλο υπό αυτές τις συνθήκες, στο πλαίσιο σεναρίων που δεν θα έχει δει εκ των προτέρων η εταιρεία.
Χρειάζεται να πάρουμε μαθήματα από την επιτυχία ή την αποτυχία ρύθμισης άλλων τομέων. Οι υπεύθυνοι χάραξης πολιτικής απέτυχαν να ρυθμίσουν τα μέσα κοινωνικής δικτύωσης επειδή τους κατέκλισαν μια σειρά προβλημάτων, που κυμαίνονταν από την ψυχική υγεία των εφήβων μέχρι τα ζητήματα ιδιωτικότητας και παραπληροφόρησης.
Οι προκλήσεις μιας Τεχνητής Νοημοσύνης μπορεί ομοίως να είναι τρομακτικές, αλλά το Κογκρέσο δεν χρειάζεται ένα τεράστιο νομοσχέδιο για να αντιμετωπίσει την Τεχνητή Νοημοσύνη. Αντ’ αυτού, θα πρέπει να αρχίσει με την πιο πιεστική ανησυχία που υπάρχει σήμερα –την ασφάλεια των μοντέλων- και να συνεχίσει από εκεί.
Το έργο θα απαιτήσει μια ρυθμιστική αρχή, ίσως με την ονομασία Γραφείο Εποπτείας Τεχνητής Νοημοσύνης, που θα μετατρέπει τις απαιτήσεις σε κανόνες.
Η τραπεζική εποπτεία οπωσδήποτε δεν είναι τέλεια. Κάποιες φορές οι αξιωματούχοι εντόπισαν κινδύνους και στη συνέχεια απέτυχαν να ενεργήσουν κατάλληλα. Σε άλλες περιπτώσεις, η ηγεσία επιχείρησε να αφαιρέσει τη διακριτική ευχέρεια που είχαν οι επόπτες, υποβιβάζοντάς την σε απλή συμπλήρωση στενά διαμορφωμένων λιστών ελέγχου.
Οι επόπτες μπορεί να υπονομευθούν ή να «χειραγωγηθούν», με αποτέλεσμα να αξιολογήσουν λανθασμένα τη φύση του κινδύνου.
Για να μετριαστούν αυτές οι προκλήσεις, μια υπηρεσία τεχνητής νοημοσύνης θα χρειαζόταν προσωπικό που κατανοεί το τεχνολογικό παράδειγμα και δεν φοβάται να ασκήσει την εξουσία του. Οι ανώτεροι εξεταστές θα πρέπει να εναλλάσσονται μεταξύ των εταιρειών, ακριβώς όπως συμβαίνει και στον τραπεζικό τομέα.
Το OCC θέτει ως ανώτατο όριο τη θητεία ενός επικεφαλής εξεταστή σε μία μόνο τράπεζα στα πέντε έτη. Δεδομένου του πόσο γρήγορα κινείται η τεχνητή νοημοσύνη, τα τρία έτη θα λειτουργούσαν καλύτερα.
Το Κογκρέσο έχει ήδη αρχίσει να εξετάζει αυτές τις ιδέες. Το διακομματικό νομοσχέδιο Frontier Act, το οποίο η OpenAI έχει εν μέρει υποστηρίξει, θα απαιτούσε από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης να προσλαμβάνουν ομοσπονδιακά αδειοδοτημένους αξιολογητές για συνεχιζόμενες αναθεωρήσεις ασφάλειας. Ωστόσο, αυτό υπολείπεται της δημόσιας εποπτείας.
Οι εταιρείες θα μπορούσαν να προσλάβουν τους δικούς τους αξιολογητές, ρισκάροντας τις συγκρούσεις συμφερόντων που υπονόμευσαν την αξιοπιστία των οίκων πιστοληπτικής αξιολόγησης πριν από το 2008. Καμία ανεξάρτητη εποπτική αρχή δεν θα ήταν επιφορτισμένη με την επίβλεψη των εργαστηρίων και δεν θα υπήρχαν ενσωματωμένοι επόπτες, όπως συμβαίνει στις τράπεζες.
Η τεχνητή νοημοσύνη κρύβει τεράστιες προοπτικές και, όπως κάθε άλλη τεχνολογία, ενέχει κινδύνους που πρέπει να αντιμετωπιστούν. Ένα μοντέλο τραπεζικής εποπτείας για τη ρύθμιση της τεχνητής νοημοσύνης δημιουργεί έναν τρόπο ώστε οι δημόσιοι αξιωματούχοι και οι ιδιώτες εμπειρογνώμονες να αξιολογούν μαζί αυτές τις ισορροπίες, διασφαλίζοντας παράλληλα ότι οι εταιρείες που κερδίζουν από μια απόφαση δεν θα είναι οι μόνοι κριτές της.
* Ο συγγραφέας του άρθρου, συνιδρυτής της Facebook, είναι συγγραφέας του ‘Marketcrafters: The 100-Year Struggle to Shape the American Economy’ και fellow στο Brookings Institution.
© The Financial Times Limited 2026. All rights reserved.
FT and Financial Times are trademarks of the Financial Times Ltd.
Not to be redistributed, copied or modified in any way.
Euro2day.gr is solely responsible for providing this translation and the Financial Times Limited does not accept any liability for the accuracy or quality of the translation