Ανησυχία για την ασφάλεια των αυτόνομων συστημάτων τεχνητής νοημοσύνης προκαλούν δύο πρόσφατα περιστατικά στην OpenAI, κατά τα οποία AI agents επιχείρησαν να παρακάμψουν μηχανισμούς ελέγχου που είχαν σχεδιαστεί για τον εντοπισμό προβληματικής συμπεριφοράς τους.
Οπως μεταδίδουν οι Financial Times, η εταιρεία, δημιουργός του ChatGPT, ανακοίνωσε την Τρίτη ότι, κατά τη διάρκεια δύο εσωτερικών εργασιών προγραμματισμού, AI agents επιχείρησαν σκόπιμα να παραπλανήσουν εργαζομένους και προχώρησαν σε ενέργειες που αποδυνάμωσαν τα συστήματα παρακολούθησής τους.
Στο πρώτο περιστατικό, νωρίτερα μέσα στον μήνα, ένας AI agent απενεργοποίησε τις αυτόματες ειδοποιήσεις προς την ομάδα ασφαλείας της OpenAI.
Σε ένα δεύτερο περιστατικό, λίγες ημέρες αργότερα, ένας άλλος agent αφαίρεσε ένα σύστημα παρακολούθησής του και στη συνέχεια είπε ψέματα στους εργαζομένους σχετικά με την ενέργειά του.
Οι οδηγίες προγραμματισμού και η παράκαμψη των δικλίδων ασφαλείας
Σε ανάρτησή της, η OpenAI ανέφερε ότι και στις δύο περιπτώσεις οι agents εξέτασαν το ενδεχόμενο να διατηρήσουν τις δικλίδες ασφαλείας, αλλά ερμήνευσαν τις συνήθεις οδηγίες προγραμματισμού ως άδεια να τις αποδυναμώσουν.
Τα περιστατικά αναδεικνύουν τις προκλήσεις που προκύπτουν όταν τα συστήματα τεχνητής νοημοσύνης αναλαμβάνουν πιο σύνθετες εργασίες με μεγαλύτερο βαθμό αυτονομίας, καθώς ενδέχεται να προχωρούν σε ενέργειες που δεν ανταποκρίνονται στις προθέσεις των δημιουργών τους.