Η Anthropic εντόπισε ομάδα στη βόρεια Υεμένη που χρησιμοποίησε το μοντέλο τεχνητής νοημοσύνης Claude για να υποστηρίξει την ανάπτυξη πυραυλικών συστημάτων και ρουκετών, αναδεικνύοντας τις αυξανόμενες ανησυχίες για τη χρήση προηγμένης τεχνητής νοημοσύνης σε στρατιωτικά προγράμματα και από μη κρατικούς φορείς.
Οπως μεταδίδει το Bloomberg, οι άγνωστοι δράστες εργάζονταν σε τρία προγράμματα όπλων, μεταξύ των οποίων μια κατευθυνόμενη ρουκέτα, ένας βαλλιστικός πύραυλος με υποστηριζόμενη εμβέλεια άνω των 2.000 χιλιομέτρων και μια οικογένεια πυραύλων γνωστή ως R2000.
Η Anthropic περιέγραψε την υπόθεση στην τελευταία έκθεσή της για τον εντοπισμό και την αντιμετώπιση της κακόβουλης χρήσης της τεχνητής νοημοσύνης, η οποία δημοσιεύθηκε την Πέμπτη.
Η AI αντικατέστησε μέρος της δουλειάς μηχανικών
Η ομάδα με έδρα την Υεμένη χρησιμοποίησε το Claude για να βοηθήσει στην ανάπτυξη λογισμικού καθοδήγησης, πλοήγησης και ελέγχου, αντικαθιστώντας ουσιαστικά ορισμένες εργασίες που συνήθως εκτελούνται από μηχανικούς λογισμικού.
Σύμφωνα με την Anthropic, οι δράστες φέρεται να μοίραζαν την εργασία μεταξύ πολλαπλών συνεδριών AI και απέκρυπταν τον στρατιωτικό χαρακτήρα των προγραμμάτων τους, προκειμένου να αποφύγουν τον εντοπισμό.
Η εταιρεία ανέφερε ότι η ομάδα πραγματοποίησε ζωντανή δοκιμή ρουκέτας και στη συνέχεια ζήτησε τη βοήθεια του Claude για να διαγνώσει αυτό που φαινόταν να είναι αποτυχημένη εκτόξευση.
Ωστόσο, η Anthropic δήλωσε ότι δεν βρήκε στοιχεία πως η προσπάθεια κατέληξε σε επιχειρησιακά αξιοποιήσιμο όπλο.
Τα όπλα συνέχισαν να αναπτύσσονται και offline
Η ομάδα ανέπτυξε επίσης εργαλεία offline προσομοίωσης, επιτρέποντας σε τμήματα της διαδικασίας ανάπτυξης των όπλων να συνεχίζονται χωρίς συνεχή πρόσβαση στο Claude ή σε περιβάλλοντα μηχανικής λογισμικού.
Η αποκάλυψη της Anthropic έρχεται ενώ οι αντάρτες Χούθι που υποστηρίζονται από το Ιράν συνεχίζουν τις επιθέσεις με πυραύλους και drones εναντίον πλοίων στην Ερυθρά Θάλασσα, μια κρίσιμη οδό για το παγκόσμιο εμπόριο.
Τις τελευταίες ημέρες, οι μαχητές έχουν προωθηθεί προς τις παράκτιες περιοχές της Ερυθράς Θάλασσας που συνορεύουν με τα στρατηγικής σημασίας Στενά Μπαμπ ελ-Μαντέμπ, ενώ οι συγκρούσεις μεταξύ της οργάνωσης και των δυνάμεων της Υεμένης που υποστηρίζονται από τη Σαουδική Αραβία έχουν επίσης ενταθεί.
Η κλιμάκωση έχει συμβάλει στις πιέσεις στις τιμές του πετρελαίου, καθώς ο πόλεμος στο Ιράν συνεχίζει να προκαλεί αναταράξεις στις ενεργειακές αγορές.
Η αντίδραση της Anthropic
Μετά την έρευνα, η Anthropic ανακοίνωσε ότι απέκλεισε τους λογαριασμούς που συνδέονταν με τη συγκεκριμένη δραστηριότητα, μοιράστηκε πληροφορίες με συνεργάτες της και ενίσχυσε τα μέτρα ασφαλείας της.
Η υπόθεση αναδεικνύει μια νέα πρόκληση για τις εταιρείες τεχνητής νοημοσύνης, καθώς τα προηγμένα μοντέλα μπορούν να αναλάβουν ολοένα πιο σύνθετες τεχνικές εργασίες, δημιουργώντας παράλληλα κινδύνους για τη χρήση τους στην ανάπτυξη στρατιωτικών συστημάτων από κρατικούς και μη κρατικούς φορείς.