Η Anthropic βοηθά την Υπηρεσία Εθνικής Ασφάλειας των ΗΠΑ (NSA) στην αξιοποίηση του προηγμένου μοντέλου τεχνητής νοημοσύνης Mythos για επιθετικές κυβερνοεπιχειρήσεις, σύμφωνα με πληροφορίες των Financial Times.
Η εταιρεία με έδρα το Σαν Φρανσίσκο έχει τοποθετήσει περίπου έξι μηχανικούς μέσα στην NSA ως ειδικούς «forward-deployed engineers», με αποστολή να καθοδηγούν τη χρήση της τεχνολογίας και να προσαρμόζουν τα μοντέλα τεχνητής νοημοσύνης σε συγκεκριμένες εφαρμογές.
Παραμένει ασαφές εάν οι μηχανικοί της Anthropic συμμετέχουν άμεσα σε ενεργές επιχειρήσεις. Ωστόσο, πρόσωπο με γνώση της υπόθεσης υποστήριξε ότι το Mythos θα μπορούσε να αποδειχθεί ιδιαίτερα χρήσιμο για τη διείσδυση σε δίκτυα χωρών όπως η Κίνα και το Ιράν.
«Ο καλύτερος τρόπος να χτίσεις μια καλή άμυνα είναι να χτίσεις μια καλή επίθεση», ανέφερε πηγή κοντά στην εταιρεία.
Πρόσθεσε ακόμη ότι «αν το Mythos δεν χρησιμοποιηθεί για τη δημιουργία επιθετικών συστημάτων, οι αντίπαλοι θα βρουν τρόπο να το κάνουν».
Συνεργασία εν μέσω δικαστικής διαμάχης
Η συνεργασία αυτή εξελίσσεται ενώ η Anthropic βρίσκεται σε ανοιχτή νομική αντιπαράθεση με το Υπουργείο Άμυνας των Ηνωμένων Πολιτειών, στο οποίο υπάγεται και η NSA.
Η εταιρεία επιχείρησε να περιορίσει τη χρήση των μοντέλων Claude AI από την αμερικανική κυβέρνηση σε εφαρμογές όπως η μαζική παρακολούθηση πολιτών και τα αυτόνομα οπλικά συστήματα.
Η στάση αυτή οδήγησε το Πεντάγωνο να χαρακτηρίσει την Anthropic ως «κίνδυνο για την εφοδιαστική αλυσίδα», κάτι που συνέβη για πρώτη φορά σε αμερικανική εταιρεία τεχνητής νοημοσύνης.
Η εταιρεία προσέφυγε δικαστικά κατά της απόφασης, υποστηρίζοντας ότι ο χαρακτηρισμός θα μπορούσε να την αναγκάσει να τερματίσει συμβόλαια με οργανισμούς που συνεργάζονται με τον αμερικανικό στρατό.
Ανησυχία για τις δυνατότητες του Mythos
Μετά την έναρξη της διαμάχης, η Anthropic παρουσίασε το νέο μοντέλο Claude Mythos, το οποίο έχει προκαλέσει ανησυχία σε κυβερνήσεις, χρηματοπιστωτικά ιδρύματα και εταιρείες τεχνολογίας.
Οι προβληματισμοί επικεντρώνονται στην ικανότητά του να εντοπίζει και να εκμεταλλεύεται ευπάθειες λογισμικού, γεγονός που θα μπορούσε να το καταστήσει ιδιαίτερα ισχυρό εργαλείο στον τομέα του κυβερνοπολέμου.
Η υπόθεση αναδεικνύει τον αυξανόμενο ρόλο της τεχνητής νοημοσύνης στις επιχειρήσεις εθνικής ασφάλειας και τον προβληματισμό που προκαλεί η χρήση προηγμένων μοντέλων AI τόσο για αμυντικούς όσο και για επιθετικούς σκοπούς.