Aν αληθεύουν όσα έχουν γραφτεί, τότε το Mythos της Anthropic είναι ίσως το πιο επικίνδυνο AI μοντέλο που έχει κυκλοφορήσει μέχρι στιγμής. Για την ακρίβεια, είναι τόσο επικίνδυνο που θορύβησε μέχρι και την Ευρωπαϊκή Κεντρική Τράπεζα, ενώ η ίδια η εταιρεία αποφάσισε να μην το βγάλει στην αγορά.
Ωστόσο, όλος αυτός ο θόρυβος γύρω από το Mythos έρχεται απλώς να προστεθεί ως το τελευταίο επεισόδιο σε μια περίοδο που η Anthropic σημειώνει τεράστιες επιτυχίες, οι οποίες όμως συνοδεύονται από εξίσου μεγάλες αντιπαραθέσεις. Αυτή τη στιγμή η εταιρεία βρίσκεται εν μέσω μιας μεγάλης διαμάχης με την αμερικανική κυβέρνηση για το flagship μοντέλο της, το Claude, ενώ παράλληλα προετοιμάζεται και για την IPO της.
Η επιτυχία του Claude
Το Claude κυκλοφόρησε για πρώτη φορά στην αγορά το 2023 και έκτοτε, αφότου υπέστη πολλές αναβαθμίσεις, έχει εξελιχθεί σε ένα από τα κορυφαία AI μοντέλα παγκοσμίως, ειδικά σε επίπεδο εταιρικής χρήσης. Σύμφωνα με το Techcruch, οι εταιρικοί πελάτες της εταιρείας αυξάνονται με ρυθμούς-ρεκόρ. Αν και ο ακριβής αριθμός των χρηστών του Claude δεν είναι γνωστός, καθώς η Anthropic δεν δημοσιοποιεί τα δεδομένα, το Techcruch υποστηρίζει ότι βάσει της έρευνας που διεξήγαγε η εταιρεία Indagari για λογαριασμό του, οι εκτιμήσεις κυμαίνονται μεταξύ 18 και 30 εκατομμυρίων. H ίδια η Anthropic ωστόσο επιβεβαίωσε ότι οι χρήστες της είναι υπερδιπλάσιοι φέτος.
Μάλιστα, η επιτυχία της Anthropic είναι τέτοια που το περιοδικό Time τη χαρακτήρισε ως την πιο ανατρεπτική εταιρεία στον κόσμο. Τα νούμερα άλλωστε μιλάνε από μόνα τους. Τον Φεβρουάριο η εταιρεία ολοκλήρωσε έναν γύρο χρηματοδότησης ύψους 30 δισ. δολαρίων με αποτίμηση 380 δισ. δολαρίων, ενώ πρόσφατο δημοσίευμα του Bloomberg ήθελε την εταιρεία να απορρίπτει πρόταση χρηματοδότησης που θα μπορούσε να «εκτινάξει» την αξία της σε πάνω από 800 δισ. δολάρια.
Η επιτυχία της κατασκευάστριας του Claude φαίνεται πως έχει ανησυχήσει και την OpenAI, η οποία επιδιώκει να αυξήσει και εκείνη το επιχειρησιακό της πελατολόγιο, όπως διαφαίνεται στο εσωτερικό memo που έβγαλε στο φως της δημοσιότητας το The Verge.
Πώς ξεκίνησε
Το ενδιαφέρον της υπόθεσης είναι πως η Anthropic ιδρύθηκε το 2021 στο Σαν Φρανσίσκο ως εγχείρημα πρώην ερευνητών της OpenAI, με επικεφαλής τα αδέλφια Dario και Daniela Amodei. Αυτό όμως που τη διαφοροποίησε εξαρχής ήταν το γεγονός ότι η δική της προσέγγιση βασίστηκε στο λεγόμενο “Constitutional AI”. Σε αντίθεση με τα υπόλοιπα μεγάλα γλωσσικά μοντέλα, η εκπαίδευση των οποίων βασίζεται στην ανθρώπινη ανατροφοδότηση, τα συστήματα της Anthropic αυτοβελτιώνονται με βάση ένα προκαθορισμένο, γραπτό «σύνταγμα» αρχών.
Το περιοδικό Time υποστηρίζει ότι από τις εταιρείες που ηγούνται στην αγορά της Τεχνητής Νοημοσύνης, η Anthropic είναι εκείνη που δίνει τη μεγαλύτερη έμφαση στην ασφάλεια. Ταυτόχρονα όμως η εταιρεία βρίσκεται στην πρώτη γραμμή της κούρσας για τη δημιουργία ολοένα και ισχυρότερων AI μοντέλων. Βέβαια, πρόκειται για μια τεχνολογία που ακόμη και δικά της στελέχη θεωρούν ότι θα μπορούσε να οδηγήσει σε εφιαλτικά σενάρια -από πυρηνικό πόλεμο μέχρι την εξαφάνιση της ανθρωπότητας.
Αντιπαράθεση με τον Λευκό Οίκο
Αλλωστε και η ίδια η Anthropic είδε πρόσφατα το όνομά της να εμπλέκεται στην αντιπαράθεση για το μέλλον του πολέμου. Όπως είναι γνωστό ήδη από τα τέλη του 2024 το Πεντάγωνο ξεκίνησε την ενσωμάτωση του Claude στο Maven Smart System, ένα ΑΙ εργαλείο που έχει αναπτύξει η Palantir και έχει τη δυνατότητα να αναλύει έναν τεράστιο όγκο εμπιστευτικών δεδομένων που προέρχονται από δορυφόρους, συστήματα επιτήρησης και διάφορες άλλες πηγές.
Έκτοτε, σύμφωνα με τον Guardian, το Claude χρησιμοποιήθηκε από τον αμερικανικό στρατό σε μπαράζ επιθέσεων εναντίον ιρανικών στόχων, ενώ χρησιμοποιήθηκε και στην επιχείρηση που οδήγησε στη σύλληψη του προέδρου της Βενεζουέλας Νικολάς Μαδούρο.
Οι συνθήκες όμως έχουν πλέον αλλάξει, καθώς η Anthropic έφτασε τελικά σε αντιπαράθεση με την κυβέρνηση Τραμπ, όταν αρνήθηκε να δώσει στον αμερικανικό στρατό απεριόριστη πρόσβαση στα AI εργαλεία της. Η άρνηση αυτή οδήγησε τον υπουργό Αμυνας των ΗΠΑ Πιτ Χέγκσεθ να δηλώσει ότι θεωρεί πλέον την εταιρεία Τεχνητής Νοημοσύνης «κίνδυνο για την εφοδιαστική αλυσίδα».
Από την πλευρά της, η Anthropic απάντησε μηνύοντας το υπουργείο Άμυνας και άλλες ομοσπονδιακές υπηρεσίες. Μάλιστα, πριν από περίπου δύο εβδομάδες το Ομοσπονδιακό Εφετείο στην Ουάσιγκτον απέρριψε το αίτημα της Anthropic για προσωρινή αναστολή της απόφασης του Πεντάγωνου που την έθεσε σε «μαύρη λίστα», μέχρι να εκδικαστεί η προσφυγή της εταιρείας κατά της εν λόγω κύρωσης.
Ο κίνδυνος του Mythos
Πριν όμως η δικαστική διαμάχη με την αμερικανική κυβέρνηση πάρει καλά καλά τον δρόμο της, η Anthropic απασχόλησε ξανά τα διεθνή ΜΜΕ, αυτή τη φορά με την επικινδυνότητα του Mythos. Σύμφωνα με το Bloomberg, το νέο εργαλείο της Anthropic είναι σε θέση να δημιουργεί αυτόνομα ισχυρά εργαλεία hacking, ακόμη και εναντίον του Linux, του ανοιχτού λογισμικού που αποτελεί τη βάση της σύγχρονης υπολογιστικής.
Μάλιστα, το Bloomberg χαρακτηρίζει το Mythos ως το ψηφιακό ανάλογο μιας τραπεζικής ληστείας, καθώς, μεταξύ άλλων, έχει παραβιάσει πρωτόκολλα ασφαλείας και έχει διεισδύσει σε ψηφιακά «θησαυροφυλάκια», αποκτώντας πρόσβαση σε πολύτιμα δεδομένα. Για πρώτη φορά ένα AI σύστημα δεν περιορίζεται απλώς σε μεμονωμένες παραβιάσεις, αλλά μπορεί να εκτελεί ολοκληρωμένες επιθέσεις.
Σύμφωνα με το δημοσίευμα τα στελέχη της Anthropic κατάλαβαν αμέσως ότι το Mythos συνιστά σοβαρή απειλή για την κυβερνοασφάλεια.
«Μέσα σε λίγες ώρες από τη στιγμή που αποκτήσαμε πρόσβαση στο μοντέλο, καταλάβαμε ότι ήταν διαφορετικό», δήλωσε ο Logan Graham, επικεφαλής της Frontier Red Team της Anthropic.
Η Anthropic προειδοποιεί ότι η αυξημένη αυτονομία του Mythos ενέχει κινδύνους. Για παράδειγμα κατά τις δοκιμές προγενέστερης έκδοσης, καταγράφηκαν δεκάδες περιστατικά προβληματικής συμπεριφοράς, όπως η παράκαμψη ανθρώπινων οδηγιών, ενώ σε ορισμένες περιπτώσεις το μοντέλο προσπάθησε μέχρι και να καλύψει τα ίχνη του, όταν παράκουσε ανθρώπινες εντολές.
Είναι χαρακτηριστικό πως με το που η Anthropic γνωστοποίησε την ύπαρξη του Mythos, ο υπουργός Οικονομικών των ΗΠΑ Σκοτ Μπέσεντ και ο πρόεδρος της Federal Reserve Τζερόμ Πάουελ κάλεσαν ηγετικά στελέχη της Wall Street σε σύσκεψη στην Ουάσιγκτον. Τα στελέχη που συμμετείχαν αρνήθηκαν να αποκαλύψουν το περιεχόμενο της συζήτησης ακόμη και σε ορισμένους από τους στενότερους συνεργάτες τους, γεγονός που υποδηλώνει τη βαρύτητα της συνάντησης.
Η διοίκηση της Anthropic είχε ήδη αποφανθεί ότι το Mythos ήταν υπερβολικά επικίνδυνο για να τεθεί σε ευρεία διάθεση, αλλά εκτίμησε ότι θα μπορούσε να επιτραπεί η δοκιμή του από άλλες εταιρείες, ενδεχομένως ακόμη και από ανταγωνιστές. Με βάση το δημοσίευμα ανάμεσα στις τράπεζες που δοκιμάζουν εσωτερικά το μοντέλο είναι η Goldman Sachs, η Citigroup, η Bank of America και η Morgan Stanley.
Παρ' όλα αυτά, το Bloomberg τονίζει πως η άνευ προηγουμένου απόφαση της Anthropic να περιορίσει την πρόσβαση στο μοντέλο αντανακλά μια ευρύτερη αντίληψη που διαμορφώνεται τόσο στη βιομηχανία όσο και σε κυβερνητικό επίπεδο: ότι η AI αλλάζει τους όρους της κυβερνοασφάλειας, μειώνοντας το κόστος εντοπισμού ευπαθειών, αλλά ταυτόχρονα επιταχύνει τη διερεύνηση στόχων και περιορίζει τις απαιτούμενες δεξιότητες για ορισμένους τύπους επιθέσεων.