Παρέμβαση Amazon έφερε το μπλόκο στα AI μοντέλα της Anthropic

Ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, συγκαταλεγόταν μεταξύ των ηγετικών στελεχών του τεχνολογικού κλάδου που εξέφρασαν αυτή την εβδομάδα ανησυχίες σε ανώτερους αξιωματούχους της κυβέρνησης Τραμπ σχετικά με τους κινδύνους ασφαλείας που συνδέονται με τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης της Anthropic, δήλωσε στο Reuters πρόσωπο με γνώση του ζητήματος.

Η εμπλοκή του Τζάσι ρίχνει φως στην ασυνήθιστη απόφαση της Anthropic την Παρασκευή να απενεργοποιήσει παγκοσμίως τα νεότερα μοντέλα της, σε συμμόρφωση με εντολές εθνικής ασφάλειας της κυβέρνησης του προέδρου Ντόναλντ Τραμπ.

Η νεοφυής εταιρεία τεχνητής νοημοσύνης με έδρα το Σαν Φρανσίσκο, η οποία έχει υποβάλει εμπιστευτικά έγγραφα για αρχική δημόσια προσφορά (IPO) στις Ηνωμένες Πολιτείες, είχε προηγουμένως προειδοποιήσει για τις δυνατότητες κυβερνοδιείσδυσης του μοντέλου Mythos και είχε αποφύγει την ευρεία διάθεσή του. Ωστόσο, νωρίτερα αυτή την εβδομάδα, η Anthropic διέθεσε στο κοινό μια έκδοση με την ονομασία Fable, η οποία, όπως ανέφερε, ενσωμάτωνε δικλίδες ασφαλείας στον τομέα της κυβερνοασφάλειας.

Η σύντομη αυτή διάθεση έλαβε τέλος την Παρασκευή. Σε ανάρτησή της στο ιστολόγιό της, η Anthropic ανέφερε ότι η αμερικανική κυβέρνηση ενημέρωσε την εταιρεία πως πιστεύει ότι υπάρχει μέθοδος παράκαμψης, ή «jailbreaking», μιας δικλίδας ασφαλείας που εμποδίζει τη χρήση του μοντέλου για τον εντοπισμό κενών κυβερνοασφάλειας.

Η παράκαμψη αυτή εντόπισε μόνο «ήσσονος σημασίας» αδυναμίες ασφαλείας, τις οποίες μπορούν επίσης να εντοπίσουν και άλλα δημόσια διαθέσιμα μοντέλα, ανέφερε η Anthropic στην ανάρτησή της.

Η κυβέρνηση Τραμπ διέταξε την Anthropic να αποκλείσει οποιουσδήποτε αλλοδαπούς υπηκόους, είτε βρίσκονται εντός είτε εκτός των Ηνωμένων Πολιτειών, από τη χρήση των δύο νεότερων μοντέλων της, των Fable 5 και Mythos 5, ανακοίνωσε η εταιρεία. Σε απάντηση, η Anthropic δήλωσε ότι θα απενεργοποιήσει την πρόσβαση στα μοντέλα αυτά παγκοσμίως.

Η Amazon δεν επιβεβαίωσε εάν είχε επικοινωνήσει με κυβερνητικούς αξιωματούχους σχετικά με τα μοντέλα της Anthropic.

«Ως κορυφαίος πάροχος υπηρεσιών cloud που εξυπηρετεί μεγάλο αριθμό πελατών τόσο του ιδιωτικού όσο και του δημόσιου τομέα, δεν είναι ασυνήθιστο οι κυβερνήσεις να ζητούν τη συμβουλή μας σχετικά με πιθανούς κινδύνους ασφαλείας», δήλωσε εκπρόσωπος της Amazon. «Όταν αυτό συμβαίνει, δεν κοινοποιούμε λεπτομέρειες αυτών των συζητήσεων.»

ΕΛΕΓΧΟΙ ΕΞΑΓΩΓΩΝ

Το τεχνολογικό ειδησεογραφικό μέσο The Information είχε μεταδώσει νωρίτερα το Σάββατο τις ανησυχίες του Τζάσι. Το The Information, επικαλούμενο Αμερικανό αξιωματούχο, μετέδωσε αργότερα ότι η κυβέρνηση είναι απίθανο να υποχρεώσει άλλες εταιρείες τεχνητής νοημοσύνης να συμμορφωθούν με περιορισμούς αντίστοιχους με εκείνους που επιβλήθηκαν στην Anthropic.

Το Reuters δεν ήταν σε θέση να επαληθεύσει άμεσα τα σχέδια της κυβέρνησης Τραμπ σχετικά με τη ρύθμιση άλλων εταιρειών.

Οι περιορισμοί που επέβαλε η αμερικανική κυβέρνηση έλαβαν τη μορφή ελέγχου εξαγωγών, ανέφερε η Anthropic στην ανάρτησή της. Το Bureau of Industry and Security του Υπουργείου Εμπορίου των ΗΠΑ, το οποίο εποπτεύει τους ελέγχους εξαγωγών, δεν ανταποκρίθηκε άμεσα σε αίτημα για σχολιασμό.

Οι αξιωματούχοι επέβαλαν τον έλεγχο εξαγωγών «απρόθυμα», αφού ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, «αρνήθηκε» να «διορθώσει την παράκαμψη ασφαλείας ή να αποσύρει το μοντέλο», έγραψε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης το Σάββατο ο σύμβουλος του Λευκού Οίκου Ντέιβιντ Σακς.

«Η ελπίδα της κυβέρνησης τώρα είναι ότι η Anthropic θα αποκαταστήσει το ζήτημα ασφαλείας, ο έλεγχος εξαγωγών θα αρθεί και το Fable θα επανέλθει σε γενική διάθεση», έγραψε ο Σακς, συμπρόεδρος του Συμβουλίου Συμβούλων του Τραμπ για την Επιστήμη και την Τεχνολογία και πρώην επικεφαλής συντονιστής πολιτικής τεχνητής νοημοσύνης του Λευκού Οίκου.

Ορισμένοι ειδικοί που υποστηρίζουν τους ελέγχους εξαγωγών σε προηγμένα μοντέλα τεχνητής νοημοσύνης χαρακτήρισαν αινιγματική την ενέργεια της κυβέρνησης Τραμπ, επειδή επηρεάζει τόσο συμμαχικές χώρες όσο και αντιπάλους.

«Αυτό δεν είχε μελετηθεί επαρκώς», δήλωσε ο Τζίμι Γκούντριτς, ανώτερος ερευνητής στο Institute for Global Conflict and Cooperation του Πανεπιστημίου της Καλιφόρνιας. «Απαγορεύει ακόμη και σε Καναδούς και Βρετανούς που εργάζονται στην Anthropic να διεξάγουν έρευνα και ανάπτυξη.»