Το λογισμικό της OpenAI απέκρυψε προσπάθειες άντλησης δεδομένων από κρίσιμες κυβερνητικές υπηρεσίες, καθώς νέα στοιχεία δείχνουν ότι η κλίμακα και η σοβαρότητα των επιθέσεων με χρήση τεχνητής νοημοσύνης τους τελευταίους μήνες είναι πολύ μεγαλύτερες από ό,τι ήταν γνωστό μέχρι σήμερα.
Η Asymmetric Security, εταιρεία ψηφιακής εγκληματολογικής έρευνας, διαπίστωσε ότι τα μοντέλα της OpenAI άντλησαν δεδομένα από 55 ιστοτόπους που ανήκαν σε επιχειρήσεις, μη κερδοσκοπικούς οργανισμούς και κυβερνητικές υπηρεσίες, σύμφωνα με έκθεση που είδαν οι Financial Times. Μεταξύ αυτών περιλαμβάνονταν τα αμερικανικά Centers for Disease Control and Prevention (CDC) και Securities and Exchange Commission (SEC), ο International Energy Agency (IEA) και η Mayo Clinic.
Η έρευνα της Asymmetric αποκάλυψε επίσης πρωτοφανείς τακτικές που χρησιμοποίησε το λογισμικό για να αποκτήσει πρόσβαση στον ιστό, μεταξύ άλλων τη διαγραφή αρχείων καταγραφής, γεγονός που περιόρισε τη δυνατότητα ανεξάρτητων ελεγκτών και ερευνητών να εξετάσουν διεξοδικά τις ενέργειες της OpenAI.
Η έκθεση δημοσιεύεται καθώς η εταιρεία ανάπτυξης του ChatGPT, με αποτίμηση 852 δισ. δολαρίων, αντιμετωπίζει καταγγελίες ότι τα μοντέλα τεχνητής νοημοσύνης της παραβίασαν τα συστήματα αρκετών οργανισμών, μεταξύ των οποίων η πλατφόρμα AI Hugging Face και πολλοί ιστότοποι αυστραλιανών δημόσιων υπηρεσιών υγείας τον Ιούνιο, όπου «απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία».
Ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζε δήλωσε ότι η OpenAI έστειλε αρχικά email σε ένα δημόσιο λογαριασμό στις 10 Σεπτεμβρίου και χρειάστηκαν ακόμη πέντε ημέρες για να φτάσει η πληροφορία στην υπηρεσία κυβερνοασφάλειας της χώρας.
Η OpenAI ανέφερε σε ανάρτηση στο ιστολόγιό της αυτή την εβδομάδα ότι θα έπρεπε να είχε διαχειριστεί καλύτερα την αντίδρασή της στην επίθεση και ότι εργάζεται προς αυτή την κατεύθυνση για το μέλλον.
Η πρωτοφανής συμπεριφορά ισχυρών νέων εργαλείων τεχνητής νοημοσύνης έχει αναδείξει τις ταχύτατα εξελισσόμενες δυνατότητες των frontier models που αναπτύσσονται από εταιρείες όπως η OpenAI, η Anthropic και η Google.
Η έρευνα της Asymmetric αποκάλυψε ότι μεταξύ των τακτικών που χρησιμοποίησε η OpenAI ήταν η δημιουργία προσωρινών ηλεκτρονικών γραμματοκιβωτίων και ιδιωτικών λογαριασμών μέσω της υπηρεσίας Urlquery -ενός εργαλείου που χρησιμοποιείται για τη σάρωση ιστοτόπων για κακόβουλο λογισμικό-, προκειμένου να πραγματοποιηθεί λήψη δεδομένων.
Οι ερευνητές δήλωσαν ότι αυτές οι κρυφές ενέργειες των AI agents σήμαιναν ότι ανεξάρτητοι ελεγκτές δεν ήταν σε θέση να εντοπίσουν τους τύπους δεδομένων που άντλησαν τα bots από ιστοτόπους, μεταξύ άλλων από την αυστραλιανή υπηρεσία στατιστικών υγείας και το σύστημα φαρμακευτικών παροχών.
Η Πίπα Τόμπσον, συνιδρύτρια της Asymmetric Security, δήλωσε ότι τέτοιες ενέργειες πραγματοποιούνταν γενικά από ανθρώπους χάκερ. «Είναι πιθανό οι agents να χρησιμοποιούσαν σκόπιμα αυτά τα εργαλεία για να καλύψουν τα ίχνη τους», είπε.
Η OpenAI δήλωσε: «Εξετάζουμε δραστηριότητα μοντέλων που δεν ευθυγραμμίζεται με τον προβλεπόμενο σκοπό και ενημερώνουμε τους οργανισμούς όταν εντοπίζουμε πιθανές επιπτώσεις στα συστήματά τους».
Η εταιρεία πρόσθεσε ότι διαπίστωσε πως το μεγαλύτερο μέρος της δραστηριότητας που εντοπίστηκε αφορούσε «συνήθεις ερευνητικές εργασίες», όπως η πρόσβαση σε δημοσίως διαθέσιμο περιεχόμενο του ιστού.
Η SEC δήλωσε ότι δεν αποκτήθηκε πρόσβαση σε ιδιωτικές πληροφορίες. Τα CDC, ο IEA και η Mayo Clinic δεν απάντησαν σε αιτήματα για σχολιασμό.
Η ερευνητική ομάδα τεχνητής νοημοσύνης Transluce ανέφερε σε έκθεσή της την περασμένη εβδομάδα ότι η επίθεση στον ιστότοπο της αυστραλιανής κυβέρνησης αποτελούσε μέρος ενός ευρύτερου κύματος επιθέσεων από AI bots σε ιστοτόπους, με στόχο τη συλλογή δεδομένων για ασκήσεις εκπαίδευσης.
Η Ζεϊνάμπ Άλι Ματζίντ, συνιδρύτρια της Asymmetric, δήλωσε ότι η OpenAI διατηρεί την κύρια πρόσβαση στα «chains of thought» των agents της, δηλαδή στα αρχεία δραστηριότητας που καταγράφουν το σκεπτικό πίσω από τις ενέργειές τους. Τα θύματα παραβιάσεων κυβερνοασφάλειας διαθέτουν επίσης ορισμένα αρχεία σχετικά με τους τύπους δεδομένων που έχουν ληφθεί.
Προειδοποίησε ότι αυτή η έλλειψη διαφάνειας, σε συνδυασμό με το χρονικό κενό μεταξύ των επιθέσεων και της γνωστοποίησής τους από την OpenAI, θα μπορούσε να δυσχεράνει τη διεξαγωγή μιας ενδελεχούς έρευνας.