Τρία εταιρικά συστήματα παραβίασε κατά λάθος τον Μάιο το μοντέλο τεχνητής νοημοσύνης Gemini της Google, στο πλαίσιο δοκιμών κυβερνοασφάλειας, προσθέτοντας νέα περιστατικά σε μια σειρά παραβιάσεων που έχουν προκαλέσει ανησυχία μεταξύ ειδικών σε θέματα ασφάλειας αλλά και των ίδιων των εταιρειών που αναπτύσσουν την τεχνολογία.
Στο πλαίσιο των ίδιων δοκιμών που πραγματοποίησε η εταιρεία κυβερνοασφάλειας Irregular σημειώθηκαν οι επιθέσεις, κατά τις οποίες είχαν προηγουμένως εντοπιστεί παραβιάσεις στα συστήματα των OpenAI, Anthropic και Meta Platforms. Η Irregular επιβεβαίωσε χθες Παρασκευή ότι όλα τα περιστατικά συνδέονταν με το ίδιο ζήτημα και ότι είχε ενημερώσει σχετικά τις εταιρείες ανάπτυξης των συγκεκριμένων μοντέλων στα τέλη Ιουλίου.
Μία από τις παραβιάσεις που προκάλεσε το Gemini σημειώθηκε όταν το μοντέλο κλήθηκε να αναζητήσει πληροφορίες για μια φανταστική εταιρεία, η οποία έτυχε να έχει το ίδιο όνομα με μια πραγματική εταιρεία. Η Google επιβεβαίωσε το περιστατικό, μετά από δημοσίευμα της Wall Street Journal.
Το μοντέλο «μάντεψε» έναν κωδικό πρόσβασης και κατάφερε να αποκτήσει πρόσβαση στην υπηρεσία της πραγματικής εταιρείας. Εκπρόσωπος της Google δήλωσε ότι η εταιρεία ενημέρωσε τις αρμόδιες αρχές.
Η νέα σειρά παραβιάσεων από συστήματα τεχνητής νοημοσύνης με δυνατότητα αυτόνομης εκτέλεσης ενεργειών έχει πυροδοτήσει διεθνή συζήτηση για τους αυξανόμενους κινδύνους από την τεχνολογία AI και τα μέτρα που απαιτούνται για τον περιορισμό τους.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει επιβράδυνση της ανάπτυξης της τεχνολογίας σε ολόκληρο τον κλάδο, πρόταση την οποία έχουν υποστηρίξει ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ο Έλον Μασκ και άλλοι.
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, και ο διευθύνων σύμβουλος της Meta, Μαρκ Ζάκερμπεργκ, έχουν, ωστόσο, ταχθεί κατά της ιδέας για νέες ρυθμίσεις, υποστηρίζοντας, μεταξύ άλλων, ότι οι εταιρείες θα πρέπει να είναι σε θέση να αυτορρυθμίζονται.
Ορισμένες νεοφυείς εταιρείες στον χώρο της AI έχουν επίσης προειδοποιήσει ότι η αυστηρότερη ρύθμιση θα μπορούσε να δυσκολέψει τις μικρότερες εταιρείες να ανταγωνιστούν τους μεγαλύτερους ομίλους.
«Οι παραβιάσεις που προκάλεσε το Gemini αναδεικνύουν τη σημασία της εκπαίδευσης των ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν με υπευθυνότητα», δήλωσε η Χίδερ Άντκινς, αντιπρόεδρος μηχανικής ασφάλειας της Google.
Οι άλλες δύο παραβιάσεις από το Gemini σημειώθηκαν όταν το μοντέλο πραγματοποίησε αναζητήσεις στο διαδίκτυο χρησιμοποιώντας το όνομα της εταιρείας.
Σύμφωνα με την κα. Άντκινς, οι αναζητήσεις οδήγησαν το μοντέλο σε δημόσια διαδικτυακά αποθετήρια, όπου υπήρχαν διαπιστευτήρια πρόσβασης που ανήκαν σε άλλες εταιρείες. Το Gemini χρησιμοποίησε τα συγκεκριμένα στοιχεία για να αποκτήσει πρόσβαση σε επιπλέον συστήματα.
«Και στις τρεις περιπτώσεις, το μοντέλο σταμάτησε», δήλωσε η κα. Άντκινς. «Διασφαλίσαμε ότι και οι τρεις εταιρείες ενημερώθηκαν».
Ο εκπρόσωπος της Irregular, Γιόζεφ Λάορ, δήλωσε ότι η εταιρεία «ανέλαβε άμεσα δράση και όλα τα γνωστά ζητήματα από την πλευρά μας είχαν αντιμετωπιστεί και επιλυθεί εδώ και εβδομάδες».