Άνοιγμα Τραμπ στο «επικίνδυνο AI» της Anthropic παρά τη μαύρη λίστα

Ο Λευκός Οίκος και η Anthropic βρίσκονται σε ενεργές συζητήσεις σχετικά με την εφαρμογή του νέου ισχυρού μοντέλου της εταιρείας τεχνητής νοημοσύνης, του Mythos Preview, στο πλαίσιο της ομοσπονδιακής κυβέρνησης, παρά τις συνεχιζόμενες προσπάθειες να καταχωριστεί η εταιρεία στη μαύρη λίστα ως κίνδυνος για την αλυσίδα εφοδιασμού, όπως αναφέρουν στο Axios πηγές που είναι ενήμερες για τις συζητήσεις.

Γιατί έχει σημασία: Η Anthropic βρίσκεται σε έντονη διαμάχη με το Πεντάγωνο, αλλά ακόμη και Αμερικανοί αξιωματούχοι που αντιπαθούν την εταιρεία παραδέχονται ότι αυτή κατασκευάζει εργαλεία που θα μπορούσαν να βοηθήσουν την εθνική ασφάλεια των ΗΠΑ -ή να την βλάψουν, αν πέσουν σε λάθος χέρια.

Πίσω από την είδηση: Η Anthropic διαθέτει το Mythos μόνο σε μια επιλεγμένη ομάδα εταιρειών και οργανισμών, και όχι στο ευρύ κοινό, ώστε να μπορούν να αξιολογήσουν τις τρομακτικές κυβερνο-ικανότητές του και να ενισχύσουν τις άμυνές τους.

Ορισμένες κυβερνητικές υπηρεσίες επιθυμούν να ενταχθούν σε αυτόν τον κύκλο, και ο Λευκός Οίκος και η Anthropic συζητούν τους όρους υπό τους οποίους αυτό θα μπορούσε να γίνει εφικτό.

Σε απάντηση σε ερωτήματα από υπηρεσίες σχετικά με το αν μπορούν να χρησιμοποιήσουν το Mythos, το Γραφείο Διαχείρισης και Προϋπολογισμού έστειλε ένα email, το οποίο αναφέρθηκε για πρώτη φορά από το Bloomberg, αναφέροντας ότι εξετάζουν το θέμα.

Δύο πηγές δήλωσαν στην Axios ότι διεξάγονται συζητήσεις με την Anthropic και ότι οι υπηρεσίες ενδέχεται να αποκτήσουν πρόσβαση στο Mythos τις επόμενες εβδομάδες.

Σημείο τριβής: Αυτό συμβαίνει παρά το γεγονός ότι η Anthropic βρίσκεται σε συνεχιζόμενη δικαστική διαμάχη με το Πεντάγωνο, το οποίο χαρακτήρισε την εταιρεία ως «κίνδυνο για την αλυσίδα εφοδιασμού» και διέταξε τις εταιρείες που συνεργάζονται με το στρατό να αφαιρέσουν το λογισμικό της από τις ροές εργασίας τους.

Η Anthropic έχει επί του παρόντος αποκλειστεί από τις συμβάσεις με το Πεντάγωνο, αλλά μπορεί να συνεργάζεται με τους υπόλοιπους κυβερνητικούς φορείς, ενόσω η υπόθεση βρίσκεται σε εξέλιξη.

«Υπάρχει πρόοδος με τον Λευκό Οίκο. Δεν υπάρχει πρόοδος με το Υπουργείο Άμυνας», δήλωσε ένας αξιωματούχος της κυβέρνησης.

Ένας δεύτερος αξιωματούχος της κυβέρνησης δήλωσε ότι η κυβέρνηση «έχει την ευθύνη να αξιολογεί κάθε μοντέλο για να διαπιστώσει πού βρίσκεται το όριο της τεχνολογίας», αλλά κατηγόρησε την Anthropic ότι χρησιμοποιεί «τακτικές εκφοβισμού», εκδίδοντας προειδοποιήσεις για το πώς το Mythos θα μπορούσε να ενισχύσει σημαντικά τις δυνατότητες των χάκερ.

Τι λένε: «Όλες οι υπηρεσίες πληροφοριών χρησιμοποιούν την Anthropic. Όλες οι υπηρεσίες εκτός από το Υπουργείο Άμυνας θέλουν να το κάνουν. Αυτό συμβαίνει επειδή η Anthropic δεν θέλει να σκοτώνει ανθρώπους, ενώ η στάση του Υπουργείου Άμυνας είναι «μην μας λέτε τι στο διάολο να κάνουμε». Αλλά αν είσαι το Υπουργείο Ενέργειας, δεν δίνεις δεκάρα γι’ αυτό. Ανησυχείς μήπως οι Κινέζοι επιτεθούν στο ενεργειακό δίκτυο. Γι' αυτό θέλεις την Anthropic», είπε ο πρώτος αξιωματούχος της κυβέρνησης.

Η επίσημη θέση της Anthropic είναι ότι δεν θα επιτρέψει τα μοντέλα της να χρησιμοποιηθούν για μαζική παρακολούθηση ή για την ανάπτυξη πλήρως αυτόνομων όπλων.

Το Πεντάγωνο λέει ότι αυτό είναι υπερβολικά περιοριστικό, επειδή αυτοί οι ορισμοί είναι ασαφείς και χρειάζεται διαβεβαιώσεις ότι μπορεί να χρησιμοποιήσει συστήματα τεχνητής νοημοσύνης για «όλους τους νόμιμους σκοπούς».

Οι περισσότερες από αυτές τις ανησυχίες δεν ισχύουν για μη στρατιωτικές εργασίες.

Τόσο η Anthropic όσο και το Πεντάγωνο αρνήθηκαν να σχολιάσουν.

Εστίαση: Πολιτικές υπηρεσίες όπως τα Υπουργεία Ενέργειας και Οικονομικών είναι υπεύθυνες για την προστασία κρίσιμων τομέων όπως το ηλεκτρικό δίκτυο και το χρηματοπιστωτικό σύστημα.

Η πρόσβαση στο Mythos θα τις βοηθούσε να προσδιορίσουν πού οι εταιρείες και οι τοπικές κυβερνήσεις ενδέχεται να είναι ευάλωτες σε κυβερνοεπιθέσεις και πώς να τις βοηθήσουν να προετοιμαστούν.