Το AI που τρόμαξε την Ουάσιγκτον: Διέταξε απενεργοποίηση

Η Anthropic ανακοίνωσε χθες ότι θα «απενεργοποιήσει αιφνιδίως» τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης της για όλους τους χρήστες, αφού η κυβέρνηση των ΗΠΑ της έδωσε εντολή να αναστείλει την πρόσβαση στα μοντέλα αυτά σε αλλοδαπούς υπηκόους, επικαλούμενη ανησυχίες εθνικής ασφάλειας.

Η εταιρεία έλαβε οδηγία ελέγχου εξαγωγών να αναστείλει την πρόσβαση στα μοντέλα Fable 5 και Mythos 5 για όλους τους αλλοδαπούς υπηκόους, χωρίς να της παρασχεθούν συγκεκριμένες λεπτομέρειες σχετικά με την ανησυχία εθνικής ασφάλειας που επικαλείται η κυβέρνηση, ανέφερε η Anthropic σε ανακοίνωσή της.

Κατά την κατανόηση της Anthropic, η κυβέρνηση θεωρεί ότι υπάρχει μέθοδος παράκαμψης ή «jailbreaking» μιας δικλίδας ασφαλείας που θα εμπόδιζε το Fable 5 να χρησιμοποιηθεί για τον εντοπισμό ευπαθειών λογισμικού, ανέφερε η εταιρεία.

Η εντολή εκδόθηκε τη στιγμή που μια προηγούμενη διαμάχη μεταξύ αξιωματούχων της κυβέρνησης Τραμπ και της Anthropic, η οποία προετοιμάζεται για εισαγωγή στο χρηματιστήριο μέσω IPO, έδειχνε σημάδια αποκλιμάκωσης σε ορισμένα τμήματα της αμερικανικής κυβέρνησης.

Οι σχέσεις της Anthropic με την κυβέρνηση διαρρήχθηκαν φέτος, όταν η εταιρεία αρνήθηκε να επιτρέψει στον αμερικανικό στρατό να χρησιμοποιεί τα μοντέλα τεχνητής νοημοσύνης της για εγχώρια επιτήρηση και πλήρως αυτόνομα οπλικά συστήματα, θυμίζει το Reuters. Η κυβέρνηση αντέδρασε τοποθετώντας την Anthropic σε μαύρη λίστα αλυσίδας εφοδιασμού, μέτρο που πρόκειται να τεθεί σε ισχύ αργότερα μέσα στο έτος.

Η ενέργεια αυτή σηματοδοτεί επίσης σημαντική κλιμάκωση των αμερικανικών προσπαθειών να αναχαιτίσουν τις δυνατότητες τεχνητής νοημοσύνης ξένων αντιπάλων. Για χρόνια, οι αμερικανικοί έλεγχοι εξαγωγών επικεντρώνονταν στα τσιπ και τα εργαλεία που τροφοδοτούν την τεχνητή νοημοσύνη, παρά στον περιορισμό της ξένης πρόσβασης στην ίδια την τεχνητή νοημοσύνη.

Η Anthropic δήλωσε ότι η κυβέρνηση της παρείχε μόνο «προφορικές ενδείξεις για ένα πιθανό, περιορισμένο και μη καθολικό jailbreak».

«Διαφωνούμε ότι η διαπίστωση μιας περιορισμένης πιθανότητας jailbreak θα πρέπει να αποτελεί λόγο ανάκλησης ενός εμπορικού μοντέλου που έχει αναπτυχθεί και χρησιμοποιείται από εκατοντάδες εκατομμύρια ανθρώπους», ανέφερε η εταιρεία.

Η κυβερνητική οδηγία και η αντίδραση της Anthropic αναδεικνύουν την αυξανόμενη ένταση μεταξύ των εταιρειών ανάπτυξης τεχνητής νοημοσύνης και των ρυθμιστικών αρχών σχετικά με τον τρόπο αξιολόγησης των κινδύνων που προκύπτουν από τα λεγόμενα «jailbreaks», δηλαδή τις μεθόδους που χρησιμοποιούνται για την παράκαμψη των μηχανισμών ασφαλείας των μοντέλων.

Μόλις την Τετάρτη, η Anthropic είχε ζητήσει αυξημένη εποπτεία της τεχνητής νοημοσύνης από τις ΗΠΑ, συμπεριλαμβανομένης της δυνατότητας αποκλεισμού μοντέλων με μη αποδεκτούς κινδύνους. Ωστόσο, υποστήριξε ότι η κυβερνητική ενέργεια της Παρασκευής δεν ακολουθεί τις αρχές δίκαιης και τεκμηριωμένης ρύθμισης.

Η επικεφαλής αξιωματούχος πληροφοριακών συστημάτων του Πενταγώνου, Κίρστεν Ντέιβις, ανέφερε σε ανάρτησή της στο X ότι το Υπουργείο Άμυνας υποστηρίζει την προτεραιοποίηση της εθνικής ασφάλειας.

«Ορισμένα πράγματα είναι απλώς σημαντικότερα από τους κύκλους εσόδων, το clickbait και τις αποτιμήσεις πριν από την IPO. Η Αμερική Πρώτα. Πάντα», δήλωσε η Ντέιβις.

Η Anthropic υπέβαλε εμπιστευτικά τον περασμένο μήνα αίτηση για δημόσια εγγραφή στις ΗΠΑ, αποκτώντας προβάδισμα έναντι της ανταγωνίστριας OpenAI στην κούρσα προς τις δημόσιες αγορές.

Εξελιγμένες κυβερνοεπιθέσεις

Νωρίτερα αυτή την εβδομάδα, η Anthropic παρουσίασε ένα μοντέλο τεχνητής νοημοσύνης με την ονομασία Claude Fable 5, το οποίο αντιπροσωπεύει ένα νέο επίπεδο δυνατοτήτων που η εταιρεία αποκαλεί «κλάση Mythos».

Το μοντέλο συνοδεύεται από μηχανισμούς ασφαλείας που απαγορεύουν τη χρήση του σε τομείς υψηλού κινδύνου, όπως η κυβερνοασφάλεια, περιορισμοί τους οποίους ορισμένοι χρήστες έχουν χαρακτηρίσει «υπερβολικά ευρείς», σύμφωνα με την Anthropic.

Ειδικοί έχουν επισημάνει ότι τα μοντέλα κατηγορίας Mythos, εάν βρεθούν σε λάθος χέρια, θα μπορούσαν να επιταχύνουν δραματικά ιδιαίτερα εξελιγμένες κυβερνοεπιθέσεις, ιδίως σε τομείς όπως ο τραπεζικός, οι οποίοι βασίζονται σε σύνθετα, διασυνδεδεμένα και συχνά δεκαετιών τεχνολογικά συστήματα.

Η Anthropic δήλωσε ότι είχε συνεργαστεί με την αμερικανική κυβέρνηση και άλλους φορείς σε θέματα ασφάλειας πριν από την κυκλοφορία του Fable και ότι μοντέλα ανταγωνιστικών παρόχων τεχνητής νοημοσύνης εμφάνιζαν παρόμοια ικανότητα εντοπισμού μικρής κλίμακας σφαλμάτων στον κώδικα.

«Η καθαρή συνέπεια αυτής της εντολής είναι ότι πρέπει να απενεργοποιήσουμε αιφνιδίως τα Fable 5 και Mythos 5 για όλους τους πελάτες μας, προκειμένου να διασφαλίσουμε τη συμμόρφωση. Η πρόσβαση σε όλα τα υπόλοιπα μοντέλα της Anthropic δεν θα επηρεαστεί», ανέφερε η εταιρεία.

Η Anthropic δήλωσε ότι πιστεύει πως υπάρχει μια «παρεξήγηση» και ότι εργάζεται για την αποκατάσταση της πρόσβασης στα μοντέλα το συντομότερο δυνατό. «Εάν αυτό το πρότυπο εφαρμοζόταν σε ολόκληρο τον κλάδο, πιστεύουμε ότι ουσιαστικά θα σταματούσε κάθε νέα ανάπτυξη μοντέλων από όλους τους παρόχους προηγμένων μοντέλων τεχνητής νοημοσύνης», ανέφερε η εταιρεία.