Η Anthropic έδωσε στην Ευρωπαϊκή Ένωση (EE) πρόσβαση στο ισχυρό μοντέλο τεχνητής νοημοσύνης Mythos, περισσότερο από τρεις μήνες αφότου είχε αρχικά σηματοδοτήσει ότι θα παραχωρούσε πρόσβαση στην Ένωση.
«Μετά την εποικοδομητική συνεργασία μας με την Anthropic, μπορούμε να επιβεβαιώσουμε ότι η υπηρεσία κυβερνοασφάλειας της ΕΕ, ENISA, έχει λάβει πρόσβαση στο Mythos 5 και το δοκιμάζει ήδη», δήλωσε σε email ο Τόμας Ρενιέ, εκπρόσωπος της Κομισιόν.
Εκπρόσωπος της Anthropic αρνήθηκε να σχολιάσει.
Περιορισμένη πρόσβαση στο Mythos
Η Anthropic παρουσίασε για πρώτη φορά το Mythos τον Απρίλιο. Το μοντέλο είναι τόσο ισχυρό στον εντοπισμό ευπαθειών κυβερνοασφάλειας, ώστε η εταιρεία περιόρισε την πρόσβαση σε μια επιλεγμένη ομάδα ελεγμένων και εγκεκριμένων οργανισμών, σύμφωνα με το Bloomberg.
Στόχος ήταν να εντοπίζονται και να διορθώνονται οι ευπάθειες πριν προλάβουν να τις εκμεταλλευτούν κακόβουλοι παράγοντες, στο πλαίσιο της πρωτοβουλίας Project Glasswing.
Η πρόσβαση σε προηγμένα μοντέλα τεχνητής νοημοσύνης γίνεται ολοένα και πιο κρίσιμη, μετά από μια σειρά περιστατικών κατά τα οποία συστήματα AI κατάφεραν να ξεφύγουν από περιβάλλοντα δοκιμών και να παραβιάσουν συστήματα τρίτων.
Η OpenAI αποκάλυψε τον περασμένο μήνα ότι AI agents συντονίζονταν επί μήνες σε μη ανιχνευμένους πίνακες μηνυμάτων, προτού παραβιάσουν την πλατφόρμα ερευνητών Hugging Face.
Η Anthropic ανακοίνωσε τον Ιούλιο ότι τα μοντέλα της είχαν παραβιάσει τρεις οργανισμούς κατά τη διάρκεια δοκιμών.
Μήνες διαπραγματεύσεων με την ΕΕ
Μετά από πιέσεις της ΕΕ, η Anthropic πρότεινε στα τέλη Μαΐου να επιτρέψει στην ENISA την πρόσβαση στο μοντέλο.
Ωστόσο, ακολούθησαν μήνες διαπραγματεύσεων σχετικά με τον τύπο και την έκταση της πρόσβασης που θα είχε η ευρωπαϊκή υπηρεσία κυβερνοασφάλειας.
Οι διαπραγματεύσεις περιπλέχθηκαν ακόμη περισσότερο όταν ο Λευκός Οίκος περιόρισε την πρόσβαση ξένων φορέων στο Mythos και σε ένα ακόμη ισχυρό μοντέλο της Anthropic, το Fable.
Στη συνέχεια, οι περιορισμοί χαλάρωσαν, όμως η πρόσβαση ξένων οργανισμών στο Mythos παρέμεινε για ένα διάστημα σε εκκρεμότητα.
Χωρίς πρόσβαση στο Mythos 5.1
Παρά την επίτευξη συμφωνίας, η πρόσβαση της ΕΕ είναι μερική, καθώς η ENISA δεν θα έχει πρόσβαση στην πιο πρόσφατη έκδοση του μοντέλου, το Mythos 5.1, σύμφωνα με τον εκπρόσωπο της Ευρωπαϊκής Επιτροπής.
Το AI Safety Institute του Ηνωμένου Βασιλείου, το οποίο ήταν μεταξύ των πρώτων οργανισμών εκτός ΗΠΑ που υπέβαλαν το αρχικό Mythos σε δοκιμές ασφαλείας, επίσης δεν έλαβε πρόσβαση στη νέα έκδοση, σύμφωνα με άτομο που γνωρίζει το θέμα.