Η Anthropic προειδοποίησε ότι οι ανεξέλεγκτοι «σκώληκες τεχνητής νοημοσύνης» (AI worms) θα είναι σύντομα σε θέση να καταλαμβάνουν έξυπνες οικιακές συσκευές, όπως φούρνους και τηλεοράσεις, δημιουργώντας μια νέα απειλή για την κυβερνοασφάλεια, την οποία θα είναι δύσκολο να περιοριστεί.
Η εταιρεία ανάπτυξης του Claude ανέφερε σε ανάρτηση ιστολογίου τη Δευτέρα ότι ενδέχεται να απέχουμε μόλις λίγους μήνες από τη στιγμή που οι πράκτορες τεχνητής νοημοσύνης θα μπορούν να «αυτοαναπαράγονται» σε καθημερινές οικιακές συσκευές, δημιουργώντας δυνητικά ανεξέλεγκτα δίκτυα πρακτόρων AI.
Η προειδοποίηση της Anthropic είναι η πιο πρόσφατη σε μια σειρά συναγερμών για την κυβερνοασφάλεια που έχουν σημάνει ερευνητές τεχνητής νοημοσύνης, καθώς οι δυνατότητες των συστημάτων αυξάνονται και τα μοντέλα γίνονται δυσκολότερα στον έλεγχο.
Η εταιρεία, με έδρα το Σαν Φρανσίσκο, ανέφερε ότι εάν τα μοντέλα τεχνητής νοημοσύνης συνεχίσουν να βελτιώνονται με τον σημερινό ρυθμό, η τεχνολογία θα είναι σε θέση να εξαπλώνεται στο διαδίκτυο όπως οι ηλεκτρονικοί «σκώληκες» -κακόβουλο λογισμικό που μπορεί να μεταδίδεται αυτόματα από τη μία συσκευή στην άλλη, χωρίς ανθρώπινη παρέμβαση.
«Βλέπουμε τις πρώτες ενδείξεις εμφάνισης σκωλήκων τεχνητής νοημοσύνης», ανέφερε η Anthropic σε ερευνητική ανάρτηση, παρομοιάζοντας την αργή εξάπλωσή τους σε μη ασφαλείς συσκευές με «ψηφιακή γλοιώδη μούχλα».
Η προειδοποίηση υποδηλώνει ότι το είδος της επίθεσης που προκάλεσε έκπληξη στους ερευνητές οι οποίοι διερεύνησαν την παραβίαση του Hugging Face από «σμήνη» πρακτόρων της OpenAI αυτό το καλοκαίρι θα μπορούσε να εξαπολυθεί εναντίον συσκευών που ανήκουν σε ανυποψίαστους ιδιώτες και επιχειρήσεις.
Η τελευταία προειδοποίηση της Anthropic αφορά τις λεγόμενες συσκευές του «Διαδικτύου των Πραγμάτων» (Internet of Things - IoT), οι οποίες έχουν πολλαπλασιαστεί την τελευταία δεκαετία, καθώς οι καταναλωτές χρησιμοποιούν συσκευές για τον έλεγχο του φωτισμού, των πριζών, των θερμοστατών και των συστημάτων ασφαλείας.
Πολλές από αυτές τις συνδεδεμένες στο διαδίκτυο συσκευές προσέφεραν διαχρονικά χαμηλό επίπεδο ασφάλειας, επειδή κατασκευάζονταν με χαμηλό κόστος από κατασκευαστές τυποποιημένου εξοπλισμού, χρησιμοποιούνταν για παράνομη μετάδοση τηλεοπτικών υπηρεσιών μέσω streaming ή επειδή οι εταιρείες που τις είχαν αρχικά δημιουργήσει έπαψαν να λειτουργούν.
Αυτός ο μη ασφαλής εξοπλισμός δημιουργεί πρόσφορο έδαφος για τους χάκερ, οι οποίοι ήδη αξιοποιούν τις ικανότητες της τεχνητής νοημοσύνης στον προγραμματισμό για να επιταχύνουν τις επιθέσεις τους και να τις προσαρμόζουν στους εκάστοτε στόχους.
Οι ηλεκτρονικοί σκώληκες αποτελούν εδώ και καιρό δημοφιλή και αποτελεσματικά μέσα διάδοσης κακόβουλου λογισμικού, καθώς μπορούν να αναπαράγονται και να εξαπλώνονται γρήγορα σε μεγάλα δίκτυα.
Χαρακτηριστικά παραδείγματα είναι ο ιός ILOVEYOU, ο οποίος εξαπλώθηκε σε υπολογιστές με Windows στις αρχές της εποχής των dotcom, το Stuxnet της δεκαετίας του 2010, που αρχικά στόχευε το πυρηνικό πρόγραμμα του Ιράν, καθώς και το ευρέως διαδεδομένο λογισμικό εκβίασης WannaCry, το οποίο έπληξε οργανισμούς όπως η Deutsche Bahn, το Εθνικό Σύστημα Υγείας του Ηνωμένου Βασιλείου (NHS), η Telefónica, η Renault και η FedEx.
Οι σκώληκες που βασίζονται στην τεχνητή νοημοσύνη θα συνδύαζαν τη δυνατότητα αυτών των παραδειγμάτων να εξαπλώνονται αυτόνομα στο διαδίκτυο με τις προηγμένες δυνατότητες των μοντέλων τεχνητής νοημοσύνης.
«Αναμένουμε ένα μέλλον πλημμυρισμένο από πράκτορες που θα λειτουργούν σε κάθε είδους υλικό, συμπεριλαμβανομένων συσκευών που δεν βρίσκονται υπό ανθρώπινο έλεγχο», ανέφερε η Anthropic.
«Παρότι οι συσκευές IoT είναι πράγματι ευάλωτες εδώ και πολύ καιρό, οι "ελαφριοί" πράκτορες ενδέχεται να είναι πολύ πιο πρόθυμοι από τους ανθρώπους επιτιθέμενους να καταβάλουν την προσπάθεια που απαιτείται για να θέσουν υπό τον έλεγχό τους μεγάλα τμήματα της υπολογιστικής υποδομής IoT παγκοσμίως».
Αρχικά, αυτοί οι σκώληκες τεχνητής νοημοσύνης θα εξαπλώνονται αργά, όπως η «γλοιώδης μούχλα ή ένα σμήνος από φρουτόμυγες, που αναπαράγονται μέσα σε διάστημα ημερών». Ωστόσο, καθώς τα ηλεκτρονικά είδη ευρείας κατανάλωσης γίνονται πιο εξελιγμένα και τα μοντέλα πιο αποδοτικά, η διαδικασία αυτή θα μπορούσε να επιταχυνθεί.
«Δεν διαθέτουμε ακόμη έναν πλήρως ανεξέλεγκτο αυτοαναπαραγόμενο μηχανισμό, αλλά οι πράκτορες αποκτούν ολοένα μεγαλύτερη ικανότητα να ολοκληρώνουν τα επιμέρους στάδια της αλυσίδας αναπαραγωγής», ανέφερε η Anthropic.
«Θα πρέπει να επιδιώξουμε να ενισχύσουμε την ασφάλεια των συστημάτων μας, ώστε να καταστήσουμε δύσκολη την εξάπλωση τέτοιων μηχανισμών, αλλά και να προετοιμαστούμε για έναν κόσμο στον οποίο θα αποτελούν πλέον μόνιμη πραγματικότητα».