Η Anthropic PBC και η OpenAI θα πρέπει να σταθμίσουν τις εκκλήσεις τους για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης απέναντι στις δυνάμεις της τεχνολογικής βιομηχανίας, των χρηματοπιστωτικών αγορών και της κυβέρνησης Τραμπ, οι οποίες είναι πιθανό να αντισταθούν σε οποιαδήποτε ουσιαστική επιβράδυνση.
Οι δύο εταιρείες, οι οποίες αναπτύσσουν τα ισχυρότερα συστήματα τεχνητής νοημοσύνης στον κόσμο, δεσμεύονται να λάβουν μέτρα για να περιορίσουν την επιδίωξη ανάπτυξης μοντέλων τεχνητής νοημοσύνης αιχμής, ώστε να κατανοηθούν καλύτερα οι κίνδυνοι που εγκυμονεί η τεχνολογία, μετά από μια σειρά παραβιάσεων ασφαλείας.
Ένα κείμενο 3.800 λέξεων που δημοσίευσε το Σάββατο ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι —το οποίο υποστήριξαν ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, και ο διευθύνων σύμβουλος της SpaceXAI, Έλον Μασκ— ανέφερε ότι η ανάπτυξη των πλέον προηγμένων συστημάτων πρέπει να επιβραδυνθεί, προκειμένου να αποτραπεί το ενδεχόμενο η τεχνητή νοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο και να προκαλέσει καταστροφική ζημία.
Ο Αμοντέι επέμεινε στο δοκίμιό του ότι ο «ρυθμός» προόδου των δυνατοτήτων της τεχνητής νοημοσύνης δεν θα μεταφραστεί κατ’ ανάγκη σε μειωμένες δαπάνες ή χαμηλότερη ανάπτυξη. Ωστόσο, οποιαδήποτε παύση ή καθυστέρηση στην πρόοδο των λεγόμενων frontier συστημάτων θα ήταν ανεπιθύμητη για τους επενδυτές που στοιχηματίζουν ότι η άνθηση της τεχνητής νοημοσύνης θα οδηγήσει σε εκατοντάδες δισεκατομμύρια δολάρια επενδυτικών δαπανών.
Η Wall Street αναμένει επίσης δυνητικά IPO-ρεκόρ από την Anthropic και την OpenAI, τα οποία εξαρτώνται από την επιδίωξη τεχνολογικών επιτευγμάτων στην τεχνητή νοημοσύνη από τις δύο εταιρείες.
Η αντίδραση της αγοράς εκδηλώθηκε νωρίς σήμερα, με τις Samsung Electronics Co. και SK Hynix Inc., κομβικούς παρόχους υποδομών για την τεχνητή νοημοσύνη, να υποχωρούν αμφότερες περισσότερο από 4% στη Σεούλ και τη SoftBank Group Corp., επενδυτή της OpenAI, να καταγράφει πτώση 13%.
Στη Silicon Valley, οι συζητήσεις περί επιβράδυνσης θα μπορούσαν επίσης να επιβαρύνουν κατασκευαστές chip όπως η Nvidia Corp., η οποία έχει επωφεληθεί από την αυξημένη δαπάνη για επεξεργαστές που χρησιμοποιούνται για την εκπαίδευση και τη λειτουργία νέων γενεών μοντέλων τεχνητής νοημοσύνης.
Εταιρείες όπως η Amazon.com Inc. και η Microsoft Corp., οι οποίες παρέχουν υπηρεσίες cloud computing για τεχνητή νοημοσύνη στην Anthropic και την OpenAI, θα μπορούσαν επίσης να υποστούν τις επιπτώσεις.
«Αυτές οι δύο εταιρείες και τα σχέδιά τους έχουν τεράστιες επιπτώσεις σε ολόκληρο τον τεχνολογικό κλάδο», δήλωσε ο Μαρκ Μαχάνεϊ, αναλυτής της Evercore ISI. «Εάν αυτές οι δύο εταιρείες περιόριζαν δραστικά τις δαπάνες τους για R&D, τις προσλήψεις τους και το capex τους, αυτό θα μπορούσε να έχει σημαντικό αντίκτυπο στις χρηματοπιστωτικές αγορές».
Οποιαδήποτε κίνηση για την παρεμπόδιση της ανάπτυξης εγκυμονεί επίσης τον κίνδυνο αντίδρασης από τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ, ο οποίος έχει στηρίξει την οικονομική του ατζέντα στην επιθετική ανάπτυξη της τεχνητής νοημοσύνης ως μοχλό δημιουργίας θέσεων εργασίας και έχει προειδοποιήσει ότι οι ΗΠΑ πρέπει να παραμείνουν μπροστά από την Κίνα στην τεχνολογία, προκειμένου να προστατεύσουν την εθνική ασφάλεια.
«Όταν μιλάμε για “ρυθμό”, δεν εννοούμε “σταμάτημα”», έγραψε ο Άλτμαν σε ανάρτησή του στο X την Κυριακή. «Εκεί όπου θα χρειαστούμε τη βοήθεια της κυβέρνησής μας είναι στον διεθνή συντονισμό. Αλλά πρώτα πρέπει να κάνουμε ό,τι μπορούμε μόνοι μας».
Την Κυριακή, ο Τραμπ υποβάθμισε την ιδέα για περαιτέρω δικλίδες ασφαλείας, επαναλαμβάνοντας την προηγούμενη θέση του ότι οι ΗΠΑ πρέπει να συνεχίσουν να επεκτείνουν την τεχνητή νοημοσύνη, ακόμη και απέναντι στις αυξανόμενες αντιδράσεις στο εσωτερικό της χώρας για τα κέντρα δεδομένων που απαιτούνται για τη λειτουργία της τεχνολογίας.
«Ηγούμεθα της Κίνας στην τεχνητή νοημοσύνη. Είμαστε η πιο προηγμένη χώρα στον κόσμο και, ειλικρινά, θέλω να παραμείνει έτσι, επειδή όποιος κερδίσει στην τεχνητή νοημοσύνη κερδίζει συνολικά», δήλωσε ο Τραμπ σε δημοσιογράφους στο περιθώριο του τουρνουά γκολφ Irish Open. «Και μπορούμε να βάλουμε δικλίδες ασφαλείας. Μπορούμε να κάνουμε το ένα και το άλλο. Αλλά νομίζω ότι υπάρχουν πολλές πολύ αρνητικές δυνάμεις που το αναδεικνύουν, ενώ δεν θα έπρεπε να το αναδεικνύουν».
Η ανησυχία για τους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης πέρασε στο προσκήνιο την περασμένη εβδομάδα, με αφορμή την υψηλού προφίλ αποχώρηση του εργαζομένου της Anthropic Τζέικομπ Κόξον, ο οποίος κατηγόρησε τις εταιρείες τεχνητής νοημοσύνης ότι «παίζουν στα ζάρια τη ζωή μας» στην προσπάθειά τους να αναπτύξουν προηγμένα συστήματα.
Η ανάρτηση του Κόξον στα μέσα κοινωνικής δικτύωσης σχετικά με την παραίτησή του υιοθετήθηκε από δεκάδες άλλους ερευνητές της τεχνητής νοημοσύνης, οι οποίοι ζήτησαν να επιβραδυνθεί μια τεχνολογία που, όπως είπε, «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Στη Βουλή των Αντιπροσώπων, ο πρόεδρος Μάικ Τζόνσον ζήτησε συνεργασία μεταξύ της τεχνολογικής βιομηχανίας και της κυβέρνησης για την εξεύρεση δικλίδων ασφαλείας για την τεχνητή νοημοσύνη, λέγοντας ότι το μήνυμά του προς τις εταιρείες είναι πως «έχουν εταιρική ευθύνη να διασφαλίσουν ότι τα προϊόντα τους είναι ασφαλή». Ο επικεφαλής της μειοψηφίας στη Βουλή, Χακίμ Τζέφρις, δήλωσε στην εκπομπή This Week του ABC ότι οι Δημοκρατικοί στη Βουλή θα συνεδριάσουν ως κοινοβουλευτική ομάδα το πρωί της Τρίτης για να συζητήσουν πιθανές δράσεις σχετικά με την τεχνητή νοημοσύνη.
Ακόμη και με δισεκατομμύρια δολάρια τεχνολογικών επενδύσεων να διακυβεύονται, ορισμένοι στη Wall Street προειδοποιούν επίσης για το ενδεχόμενο κάτι να πάει καταστροφικά στραβά με την τεχνολογία και να προκαλέσει εκτεταμένη ζημία, σημειώνει το Bloomberg.
Ο Γκρεγκ Γιένσεν, διευθυντής επενδύσεων της Bridgewater Associates και πρώιμος επενδυτής τόσο στην OpenAI όσο και στην Anthropic, δήλωσε ότι η ταχεία πρόοδος της τεχνητής νοημοσύνης τον έχει ανησυχήσει και ότι ο κόσμος κινδυνεύει να χάσει το παράθυρο ευκαιρίας για την αποτροπή σοβαρών συνεπειών.
«Μέχρι η τεχνητή νοημοσύνη να αρχίσει να σκοτώνει ανθρώπους, δυστυχώς η ιστορία δείχνει ότι δεν πρόκειται να κάνουμε τίποτα», δήλωσε ο Γιένσεν στο podcast Odd Lots του Bloomberg. «Αυτό πρόκειται να συμβεί και θα ήταν πολύ καλύτερο να αρχίσουμε να το αντιμετωπίζουμε πριν συμβεί».
Στο δοκίμιό του, ο Αμοντέι επικαλέστηκε δύο βασικούς λόγους για την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης τώρα: την αυξανόμενη ικανότητα της τεχνολογίας να βελτιώνει τον εαυτό της και το περιστατικό του Ιουλίου, κατά το οποίο ένα σμήνος πρακτόρων τεχνητής νοημοσύνης της OpenAI παρέμεινε απαρατήρητο ενώ συνεργαζόταν για να παραβιάσει τον ιστότοπο της Hugging Face Inc.
Ο επικεφαλής της Anthropic δεσμεύτηκε να ανοίξει τις πόρτες της εταιρείας σε αξιολογητές τρίτων, οι οποίοι θα έχουν πρόσβαση αντίστοιχη με εκείνη των εργαζομένων, ώστε να μπορούν να εξετάζουν τα νέα συστήματα πριν από την κυκλοφορία τους.
Το σύστημα αξιολόγησης αποτέλεσε την κεντρική πρόταση του δοκιμίου του και ο Άλτμαν της OpenAI δήλωσε ότι του άρεσε η ιδέα και ότι σχεδιάζει να την εφαρμόσει στην εταιρεία του. Ο Μασκ δήλωσε ότι η αξιολόγηση από ομοτίμους μεταξύ των κορυφαίων εταιρειών ανάπτυξης τεχνητής νοημοσύνης θα «άξιζε να γίνει».
Ο Αμοντέι πρόσθεσε ότι υπάρχει ρόλος για την κρατική εποπτεία σε ό,τι αφορά την τεχνητή νοημοσύνη, επαναλαμβάνοντας την προηγούμενη σύστασή του να υπόκεινται τα frontier μοντέλα τεχνητής νοημοσύνης σε υποχρεωτικό κρατικό έλεγχο ασφαλείας.
«Η ρύθμιση επιτρέπει στο κοινό και στους εκλεγμένους εκπροσώπους του να έχουν λόγο και περιορίζει το τι μπορούν να κάνουν οι ιδιωτικές εταιρείες», δήλωσε ο διευθύνων σύμβουλος της Anthropic σε συνέντευξη που μεταδόθηκε την Κυριακή στην εκπομπή Sunday Morning του CBS.
Περαιτέρω ρύθμιση είναι απίθανη από την κυβέρνηση Τραμπ, η οποία έχει υιοθετήσει σε μεγάλο βαθμό μια προσέγγιση περιορισμένης παρέμβασης στην τεχνητή νοημοσύνη από τότε που ο πρόεδρος επέστρεψε στον Λευκό Οίκο πέρυσι.
Τον Ιούνιο, ο Τραμπ υπέγραψε εκτελεστικό διάταγμα για την κυβερνοασφάλεια της τεχνητής νοημοσύνης, το οποίο άφηνε στις εταιρείες την επιλογή να αποφασίσουν αν επιθυμούν να υποβάλουν τα νέα μοντέλα τεχνητής νοημοσύνης τους σε κρατικό έλεγχο, ενώ νωρίτερα αυτόν τον μήνα η κυβέρνηση έπεισε τις χώρες της Ομάδας των 20 να υιοθετήσουν αρχές που προβλέπουν ήπια προσέγγιση απέναντι στην τεχνητή νοημοσύνη και άλλες αναδυόμενες τεχνολογίες.
Σε απάντηση στο κείμενο του Αμοντέι, ο Ντέιβιντ Σακς, πρώην «τσάρος» του Τραμπ για την τεχνητή νοημοσύνη, ο οποίος τώρα συμπροεδρεύει στο συμβούλιο τεχνολογικών συμβούλων του, δήλωσε ότι οι εταιρείες τεχνητής νοημοσύνης δεν χρειάζονται την άδεια της κυβέρνησης για να επιβραδύνουν και μπορούν απλώς να επιλέξουν να ενεργήσουν υπεύθυνα.
«Σταματήστε να προσποιείστε ότι χρειάζεστε την άδεια οποιουδήποτε άλλου», έγραψε ο Σακς, venture capitalist, στο X. «Ο ευκολότερος τρόπος για να μην κατασκευάσετε υπερευφυή τεχνητή νοημοσύνη είναι να συμφωνήσετε να μην την κατασκευάσετε. Το να απαιτείτε το δικό σας προτιμώμενο ρυθμιστικό πλαίσιο ως τίμημα γι’ αυτό θα μοιάζει με εκβιασμό του κοινού και του πολιτικού συστήματος».
Τόσο η Anthropic όσο και η OpenAI σχεδιάζουν να εισαχθούν στο χρηματιστήριο, αλλά ο Άλτμαν επικαλέστηκε τις νέες ανησυχίες για την ασφάλεια σε συνέντευξή του στο Fortune που δημοσιεύθηκε το Σάββατο, ως λόγο για την αναβολή μιας αρχικής δημόσιας προσφοράς έως μετά το τέλος του τρέχοντος έτους.
Η Anthropic, η οποία σχεδιάζει να εισαχθεί στον Nasdaq, σύμφωνα με άτομο που γνωρίζει το θέμα, δεν έχει ακόμη αποκαλύψει αν οι ανησυχίες του Αμοντέι θα επηρεάσουν το IPO της. Η εταιρεία έχει ενημερώσει τους επενδυτές ότι θα είναι κερδοφόρα αυτό το τρίμηνο, ανέφερε την Κυριακή η Financial Times.
Δεδομένου του πόσο έντονα ανταγωνίζονται μεταξύ τους η Anthropic, η OpenAI και η SpaceXAI —για να μην αναφέρουμε τους κινεζικούς ανταγωνιστές— δεν είναι σαφές πόσο μακριά θα προχωρήσουν στην επιβολή νέων περιορισμών ή ελέγχων ασφαλείας.
Οι κινεζικές εταιρείες έχουν δείξει ελάχιστες ενδείξεις ότι επιβραδύνουν, καθώς μια σειρά νέων κυκλοφοριών μοντέλων τεχνητής νοημοσύνης φέτος έχει περιορίσει το προβάδισμα των ΗΠΑ και εταιρείες όπως η DeepSeek και η Z.AI Co. αντλούν νέα κεφάλαια για να επιταχύνουν την πρόοδο.
Ο Μαχάνεϊ της Evercore δήλωσε ότι δεν αναμένει ουσιαστική επιβράδυνση από τις αμερικανικές εταιρείες και εκτιμά ότι τυχόν έλεγχοι ασφαλείας που θα επιβληθούν σε μοντέλα αιχμής υπό ανάπτυξη θα έχουν «πολύ μικρό αντίκτυπο στην αύξηση των εσόδων».
Άλλοι στη Silicon Valley και στη Wall Street εξέφρασαν επίσης σκεπτικισμό σχετικά με το κατά πόσο οι αμερικανικές εταιρείες θα υλοποιήσουν στην πράξη τις δεσμεύσεις τους. Ο Ντέμις Χασάμπις, επικεφαλής επιστήμονας της Alphabet Inc. και συνιδρυτής της Google DeepMind, δήλωσε σε ανάρτησή του στο X το Σάββατο ότι «η κατεύθυνση είναι σωστή» στο δοκίμιο του Αμοντέι, αλλά ότι «οι λεπτομέρειες χρειάζονται επεξεργασία».
Ο επικεφαλής της Microsoft, Σάτια Ναντέλα, εξέφρασε τη στήριξή του σε μια «σκόπιμη ρύθμιση του ρυθμού» ανάπτυξης της τεχνητής νοημοσύνης και δήλωσε ότι η εταιρεία του θα δημοσιεύσει τη Δευτέρα τον δικό της κώδικα δεοντολογίας για τα μοντέλα τεχνητής νοημοσύνης.
Ως ηγέτες της αγοράς, η Anthropic και η OpenAI θα μπορούσαν να επωφεληθούν εάν τεθούν σε ισχύ ευρύτερες υποχρεωτικές επιβραδύνσεις, δήλωσαν αναλυτές και στελέχη νεοφυών επιχειρήσεων. «Όσο περισσότερη ρύθμιση υπάρχει σε αυτό το στάδιο, τόσο δυσκολότερο θα είναι για οποιονδήποτε να ανταγωνιστεί μαζί τους», δήλωσε ο Γκιλ Λούρια, αναλυτής της DA Davidson.
Ωστόσο, αναμένει και ο ίδιος συγκεκριμένες ενέργειες που θα επιβεβαιώνουν τα λόγια του Αμοντέι: «Εάν η Anthropic αναβάλει το IPO της ή πει ότι δεν θα κάνει pre-training για τους επόμενους έξι μήνες, τότε ίσως το πάρω πιο σοβαρά», δήλωσε ο Λούρια.