Ενώ ορισμένοι επενδυτές ανησυχούν ότι η χρηματιστηριακή φούσκα της AI μπορεί να σκάσει ή/και ότι κάποια χρέη data centers μπορεί να αθετηθούν, πολλοί συμμετέχοντες στη Γενική Συνέλευση έθεσαν ένα άλλο ερώτημα: Θα χρησιμοποιήσουν κακόβουλοι άνθρωποι την AI για να εξαπολύσουν καταστροφικές κυβερνοεπιθέσεις σε υποδομές ζωτικής σημασίας — όπως οι χρηματοπιστωτικές αγορές;
Πράγματι, ο Μπιλ Γκέιτς, ιδρυτής της Microsoft και του Ιδρύματος Gates, θεωρεί ότι τέτοιες απειλές είναι τόσο πραγματικές, που μου είπε ότι η AI είναι πλέον «μακράν» η πιο επικίνδυνη τεχνολογία που έχει δημιουργηθεί ποτέ.
Ο ίδιος επιθυμεί οι κυβερνήσεις και οι εταιρείες τεχνολογίας να εγκαταστήσουν συστήματα παρακολούθησης της AI, ώστε να εντοπίζουν (και, ελπίζει κανείς, να προλαμβάνουν) κάθε απόπειρα κακόβουλης χρήσης.
Ίσως αυτό συμβεί· η είδηση ότι η Κίνα και οι ΗΠΑ εξετάζουν το ενδεχόμενο μιας κοινής «ανοιχτής γραμμής» (hotline) για τη συζήτηση των κινδύνων της AI είναι ένα μικρό, συμβολικό βήμα προς τη σωστή κατεύθυνση.
Το ίδιο ισχύει και για την έντονη παρουσία τέτοιων συζητήσεων στη Γενική Συνέλευση του ΟΗΕ. Ωστόσο, πρέπει να γίνουν δραστικά περισσότερα. Και καθώς οι πολιτικοί, οι επενδυτές και οι ψηφοφόροι αφομοιώνουν αυτές τις δεσμεύσεις υψηλό επίπεδο, θα πρέπει επίσης να παρακολουθούν έναν άλλο, λιγότερο λαμπερό -και λιγότερο ορατό- τομέα: την παγκόσμια ρυθμιστική νομοθεσία.
Μακριά από τα φώτα της δημοσιότητας, στους κόλπους των εποπτικών αρχών φουντώνουν τώρα οι συζητήσεις για το πώς θα αντιμετωπιστούν οι χρηματοπιστωτικοί κίνδυνοι από την AI. Αυτό δεν αφορά μόνο παγκόσμιες συμφωνίες κορυφαίου επιπέδου, αλλά και τη χρήση των ίδιων των συστημάτων AI (agentic AI) με έναν πιο λεπτομερή τρόπο. Με απλά λόγια, ορισμένοι γραφειοκράτες προσπαθούν τώρα να πολεμήσουν την ψηφιακή φωτιά με φωτιά.
Αυτό μπορεί να ακούγεται αντιφατικό. Είδα όμως ένα παράδειγμα νωρίτερα αυτόν τον μήνα σε μια συνάντηση για την ψηφιακή ρύθμιση στο Κέιμπριτζ, την οποία φιλοξένησε μια πρωτοβουλία στην οποία είμαι σύμβουλος.
Συγκλήθηκε από κοινού από τον Agustín Carstens (πρώην επικεφαλής της Τράπεζας Διεθνών Διακανονισμών) και τον Ashley Alder (πρόεδρο της Αρχής Χρηματοοικονομικής Συμπεριφοράς - FCA), και περιλάμβανε αυτό που διαφημίστηκε ως το πρώτο παγκόσμιο hackathon «Πρακτορικής Εποπτείας» (Agentic Regulator).
Δεκάδες δυτικοί και μη δυτικοί ρυθμιστικοί φορείς, τόσο από τον χρηματοπιστωτικό όσο και από τον μη χρηματοπιστωτικό τομέα, έλαβαν μέρος, ενώ σχεδόν 300 ομάδες υπέβαλαν προτάσεις. Από αυτή τη φρενίτιδα προέκυψαν τρία βασικά μαθήματα.
Πρώτον: Οι εποπτικές αρχές συνειδητοποιούν πλέον ότι δεν έχουν την πολυτέλεια να περιμένουν οι πολιτικοί να θεσπίσουν τους κατάλληλους νόμους ή τα ρυθμιστικά πλαίσια για τον έλεγχο της AI· ο κλάδος κινείται ταχύτερα από όσο μπορεί να δράσει οποιοδήποτε νομοθετικό σώμα ή να κλείσει διπλωματικές συμφωνίες. Όπως παρατήρησε ένα κορυφαίο στέλεχος ρυθμιστικής αρχής: «Πρέπει να γίνουμε πολύ δημιουργικοί με τις εξουσίες που έχουμε ήδη στα χαρτιά».
Αυτό δεν θα είναι εύκολο· οι γραφειοκράτες είναι από τη φύση τους συντηρητικοί. Είναι όμως απαραίτητο: όπως έχει επισημάνει ο Carstens, ένας τεράστιος πονοκέφαλος για τις κεντρικές τράπεζες είναι ότι οι περισσότερες χρηματοπιστωτικές απειλές της AI βρίσκονται εκτός της δικής τους ρυθμιστικής περιμέτρου. Αρκεί να δει κανείς την υπερβολικά συγκεντρωμένη έκθεση των τραπεζών σε παρόχους υπηρεσιών cloud.
Στην Αμερική, ο Υπουργός Οικονομικών Scott Bessent αντιμετωπίζει αυτό το πρόβλημα χρησιμοποιώντας την ισχυρή του θέση· πρόσφατα κάλεσε τραπεζίτες για να συζητήσουν το μοντέλο AI Claude Mythos της Anthropic και τις ανησυχίες ότι θα μπορούσε να εντοπίσει ψηφιακές ευπάθειες στο χρηματοπιστωτικό σύστημα.
Στο Ηνωμένο Βασίλειο, η Τράπεζα της Αγγλίας μόλις δεσμεύτηκε να εποπτεύει τις εταιρείες cloud ως «κρίσιμους τρίτους παρόχους».Η Τράπεζα Διεθνών Διακανονισμών διεξάγει τα δικά της πειράματα καινοτομίας. Ωστόσο, πρέπει να σπάσουμε τα ρυθμιστικά στεγανά.
Δεύτερον: η έννοια της «εξηγησιμότητας», δηλαδή ο βαθμός στον οποίο τα ψηφιακά μοντέλα είναι διαφανή, ερμηνεύσιμα και υπόλογα, ίσως χρειαστεί να αναθεωρηθεί. Οι ρυθμιστικές αρχές ζητούν εδώ και καιρό εξηγησιμότητα στα χρηματοοικονομικά. Αυτό όμως είναι δύσκολο να επιβληθεί στον κόσμο της τεχνητής νοημοσύνης.
Ορισμένοι μπορεί να το δουν αυτό ως λόγο για την επιβολή απαγόρευσης. Κάτι τέτοιο όμως φαντάζει μη ρεαλιστικό. Έτσι, οι μεγάλες ρυθμιστικές αρχές μετατοπίζονται αθόρυβα σε μια στάση όπου επικεντρώνονται στην παρακολούθηση των αποτελεσμάτων των μοντέλων AI και στην εγκατάσταση δικλίδων ασφαλείας (όπως kill switches), πιέζοντας παράλληλα για σαφήνεια γύρω από τη νομική ευθύνη.
Τρίτον: οι ρυθμιστικές αρχές πρέπει επειγόντως να λερώσουν τα χέρια τους δημιουργώντας τα δικά τους εργαλεία AI, τόσο για να κατανοήσουν την τεχνολογία, όσο και για να ενισχύσουν την εποπτεία. Τα καλά νέα είναι ότι ορισμένες το κάνουν ήδη: στο hackathon αυτού του μήνα υπήρχε μια εντυπωσιακή γκάμα από «πράκτορες» AI (AI agents) που παρουσιάστηκαν. Ορισμένοι εντοπίζουν τις ροές κεφαλαίων. Άλλοι παρακολουθούν το market herding, τους κινδύνους απάτης, τις ευπάθειες, τους χρηματοοικονομικούς ρομποτικούς συμβούλους (robo-advisers) και ούτω καθεξής.
Και το εντυπωσιακό ήταν ότι πολλές από τις πιο δημιουργικές ιδέες δεν προήλθαν από δυτικά ιδρύματα, αλλά από μέρη όπως η Ινδία, το Πακιστάν, η Ρουάντα, η Κένυα ή τα Ηνωμένα Αραβικά Εμιράτα (όπου το μισό των κυβερνητικών υπηρεσιών αναμένεται να χρησιμοποιεί πρακτορική AI μέχρι τα μέσα του 2028).
Αυτά τα πειράματα είναι απίθανο να γίνουν ποτέ στα πρωτοσέλιδα των μέσων ενημέρωσης, πόσο μάλλον να καθησυχάσουν τους «καταστροφολόγους» που θέλουν πιο δραστικά μέτρα για να επιβραδυνθεί η τεχνολογία.
Αυτό είναι δίκαιο: οι κυβερνήσεις των ΗΠΑ και της Κίνας πρέπει οπωσδήποτε να συνεργαστούν για να περιορίσουν τους κινδύνους σε ανώτατο επίπεδο και θα πρέπει να αντλήσουν μαθήματα από άλλες παγκόσμιες ρυθμιστικές πρωτοβουλίες αναφορικά με τα χρηματοοικονομικά ή τα πυρηνικά όπλα.
Μέχρι τότε, όμως, οι επενδυτές και οι ψηφοφόροι πρέπει επίσης να στηρίξουν αυτές τις ρυθμιστικές αρχές που προσπαθούν σιωπηρά να πολεμήσουν την τεχνητή νοημοσύνη με τα δικά της εργαλεία. Αν μη τι άλλο, δείχνει πως η καινοτομία της τεχνητής νοημοσύνης δεν είναι αποκλειστικό προνόμιο των επιχειρηματιών του ιδιωτικού τομέα στη Σενζέν ή στη Σίλικον Βάλεϊ· ορισμένοι κυβερνητικοί γραφειοκράτες προσπαθούν επίσης τώρα να την υιοθετήσουν για την επίτευξη καλύτερης εποπτείας.
Οι Big Tech θα πρέπει να το υποστηρίξουν αυτό μέχρι τέλους.