Η Anthropic δήλωσε ότι ανέκοψε φέτος πολλαπλές προσπάθειες επιστημόνων να χρησιμοποιήσουν την τεχνολογία της για έρευνα που θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων, καθώς οι ειδικοί ανησυχούν ολοένα και περισσότερο για την απειλή που συνιστά η τεχνητή νοημοσύνη για τη δημόσια ασφάλεια.
Η νεοφυής εταιρεία έδωσε πέντε παραδείγματα περιπτώσεων στις οποίες οι εμπλεκόμενοι «παρέκαμψαν τους ελέγχους» και κατέβαλαν άλλες προσπάθειες να «συσκοτίσουν» τον σκοπό της έρευνάς τους, ώστε να παρακάμψουν τις δικλίδες ασφαλείας. Οι περιπτώσεις αφορούσαν ορισμένους χρήστες σε χώρες από τις οποίες απαγορεύει την πρόσβαση στα μοντέλα της, μεταξύ των οποίων η Ρωσία, η Κίνα και το Ιράν.
«Ελπίζουμε ότι, κοινοποιώντας αυτά τα παραδείγματα, θα πυροδοτήσουμε μια συζήτηση στον κλάδο της τεχνητής νοημοσύνης και με τις κυβερνήσεις σχετικά με τους αναδυόμενους βιολογικούς κινδύνους και τον καλύτερο τρόπο αντιμετώπισής τους», ανέφερε η Anthropic σε έκθεση σχετικά με τις προσπάθειες χρήσης των μοντέλων της για κακόβουλες δραστηριότητες.
Μεταξύ των περιπτώσεων πιθανής κακόβουλης χρήσης στον βιολογικό τομέα που παρουσίασε η εταιρεία ήταν ένας ερευνητής από μια «μη υποστηριζόμενη περιοχή», ο οποίος «πέρασε εβδομάδες σχεδιάζοντας» πειράματα σχετικά με τη γρίπη των πτηνών με τη βοήθεια του Claude, του μοντέλου τεχνητής νοημοσύνης της Anthropic. Η εταιρεία ανέφερε ότι τα φίλτρα ασφαλείας της περιόρισαν τη συγκεκριμένη εργασία στα λιγότερο ισχυρά μοντέλα της.
Τόνισε ότι δεν μπορούσε να είναι βέβαιη πως οι επιστήμονες που περιλαμβάνονται στα παραδείγματά της είχαν πρόθεση να προκαλέσουν βλάβη. Οι ίδιες πληροφορίες που απαιτούνται για τη δημιουργία βιολογικών όπλων θα μπορούσαν επίσης να χρησιμοποιηθούν για την ανάπτυξη ενός εμβολίου.
Η Anthropic δήλωσε ότι απέκλεισε τους λογαριασμούς που αναφέρονται στην έκθεση, χωρίς όμως να αποκαλύψει τα ονόματα των ερευνητικών ιδρυμάτων ή των χωρών όπου σημειώθηκαν τα περιστατικά, σημειώνουν οι Financial Times.
Μια δίνη αντιπαράθεσης γύρω από την ασφάλεια της τεχνητής νοημοσύνης ξέσπασε νωρίτερα αυτή την εβδομάδα, όταν ο Τζέικομπ Κόξον παραιτήθηκε από την εταιρεία, λέγοντας ότι οι εργαζόμενοι «πιστεύουν ειλικρινά ότι [η τεχνητή νοημοσύνη] θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Οι ανησυχίες για την τεχνολογία άρχισαν να εντείνονται νωρίτερα φέτος, με την κυκλοφορία προηγμένων μοντέλων όπως το Mythos της Anthropic. Η OpenAI προκάλεσε επίσης ανησυχία τον Ιούλιο, όταν δήλωσε ότι τα μοντέλα της είχαν παραβιάσει αυτόνομα τα συστήματα του ομίλου τεχνητής νοημοσύνης Hugging Face.
Μεταξύ στελεχών του κλάδου της τεχνητής νοημοσύνης και ερευνητών βιοασφάλειας διευρύνεται η συναίνεση ότι η χρήση της τεχνολογίας στη βιολογία πρέπει να καταστεί ασφαλής και να ρυθμιστεί, καθώς τα μοντέλα γίνονται ολοένα πιο προηγμένα.
Οι ειδικοί ανησυχούν ολοένα περισσότερο ότι η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί από τρομοκρατικές οργανώσεις, κρατικούς φορείς ή μεμονωμένους δράστες για την κατασκευή βιολογικών όπλων, τη δημιουργία ιών ή την απελευθέρωση υφιστάμενων επικίνδυνων παθογόνων.
Ωστόσο, ακόμη και αν η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για τον σχεδιασμό ενός θεωρητικού βιολογικού όπλου, εξακολουθούν να υπάρχουν πιθανά εμπόδια, όπως η δυνατότητα πρακτικής παρασκευής του και οι πόροι που απαιτούνται για κάτι τέτοιο.
Η κυβερνοασφάλεια συγκαταλέγεται μεταξύ των μεγαλύτερων ανησυχιών των υποστηρικτών της ασφάλειας. Η έκθεση της Anthropic σχετικά με τις καταχρηστικές χρήσεις της τεχνολογίας της περιέγραψε περιστατικά που περιλάμβαναν «ένα δίκτυο ψεύτικων εφαρμογών γνωριμιών, σχεδιασμένων για την εξαπάτηση χρηστών, έως συστήματα παρακολούθησης που είχαν κατασκευαστεί για τον εντοπισμό και την παρακολούθηση αντιφρονούντων».
Το εργαστήριο παρουσίασε επίσης νέα στοιχεία σχετικά με τους ισχυρισμούς ότι επτά εργαστήρια με έδρα την Κίνα, μεταξύ των οποίων η Moonshot και η DeepSeek, επιχείρησαν να αναπαράγουν την τεχνολογία της μέσω μιας διαδικασίας γνωστής ως distillation. Η Anthropic ανέφερε ότι είχε εντοπίσει «ολοένα πιο εξελιγμένες μεθόδους για την παράκαμψη των αμυνών μας και την άντληση των δυνατοτήτων των αμερικανικών frontier models».