Η OpenAI δεν θα κυκλοφορήσει το νέο μοντέλο τεχνητής νοημοσύνης GPT-6.1 Astra λόγω ανησυχιών για την ασφάλεια, επιβεβαίωσε σήμερα η εταιρεία που δημιούργησε το ChatGPT.
Το σύστημα τεχνητής νοημοσύνης, το οποίο εκτελεί αυτόνομα εργασίες όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών, «δεν έφτασε ακριβώς στο απαιτούμενο επίπεδο» βάσει των προτύπων της εταιρείας, δήλωσε η Σάτσι Τζέιν, επικεφαλής των συστημάτων ασφάλειας στην OpenAI.
Την Τρίτη, η OpenAI εξέδωσε επίσης ενημέρωση σχετικά με περιστατικά που σημειώθηκαν τον Ιούνιο, αλλά δεν δημοσιοποιήθηκαν έως την περασμένη εβδομάδα, κατά τα οποία τα μοντέλα της απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε αυστραλιανούς κυβερνητικούς ιστότοπους και συστήματα.
Τα περιστατικά αυτά, καθώς και παρόμοιες παραβιάσεις από μοντέλα που έχουν αναπτύξει μεγάλες εταιρείες τεχνητής νοημοσύνης, έχουν εντείνει τις τελευταίες εβδομάδες τη συζήτηση σχετικά με τους κινδύνους που εγκυμονεί η τεχνολογία, επισημαίνει το BBC.
Κορυφαία στελέχη της τεχνητής νοημοσύνης, μεταξύ άλλων ο Σαμ Άλτμαν (φωτ.)της OpenAI και ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, έχουν προτρέψει τον κλάδο να επιβραδύνει τον ρυθμό ανάπτυξης λόγω ανησυχιών για τους κινδύνους που συνδέονται με την τεχνολογία.
Η απόφαση της OpenAI, την οποία αποκάλυψε πρώτη η Wall Street Journal, αποτελεί σπάνια περίπτωση κατά την οποία ένας μεγάλος developer τεχνητής νοημοσύνης αποσύρει μια νέα κυκλοφορία λόγω ανησυχιών για την ασφάλεια.
Το μοντέλο υστερούσε ως προς το «να παραμένει εντός του πεδίου και των εξουσιοδοτήσεων, καθώς και ως προς τον τρόπο με τον οποίο επικοινωνεί στον χρήστη το είδος της εργασίας που έχει εκτελέσει», δήλωσε η Τζέιν.
«Θέλουμε να διασφαλίσουμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, ανεξάρτητα από το αν αυτή πραγματοποιείται εντός της εταιρείας ή όταν τα μοντέλα διατίθενται στους χρήστες. Όμως, όταν τα διαθέτουμε στους χρήστες, έχουμε εξαιρετικά υψηλές απαιτήσεις όσον αφορά την ασφάλεια και την ευθυγράμμιση», πρόσθεσε.
Το εμβληματικό agentic μοντέλο GPT-6 Astra κυκλοφόρησε τον Σεπτέμβριο και εξειδικεύεται στη σύνθετη συλλογιστική και στην αυτόνομη εκτέλεση εργασιών. Η OpenAI δήλωσε ότι αποτέλεσε αποτέλεσμα «χρόνιας έρευνας και μεγάλων στοιχημάτων».
Η OpenAI πρόκειται να πραγματοποιήσει την ετήσια διάσκεψη για developers DevDay στο Σαν Φρανσίσκο την Τρίτη, όπου αναμένεται να προβεί σε αρκετές ανακοινώσεις. Δεν είναι σαφές εάν μεταξύ αυτών θα περιλαμβάνεται νέα έκδοση του Astra.
Οι μηχανισμοί ελέγχου ασφαλείας της εταιρείας έχουν βρεθεί υπό έντονο έλεγχο μετά από αρκετά περιστατικά υψηλού προφίλ που αφορούν την τεχνολογία της.
Επιθέσεις στην Αυστραλία
Την περασμένη εβδομάδα, ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζι ανακοίνωσε ότι ένας μη εξουσιοδοτημένος agent της OpenAI είχε παραβιάσει κυβερνητικούς ιστότοπους και συστήματα τον Ιούνιο, σε αυτό που ειδικοί χαρακτήρισαν ως την πρώτη γνωστή περίπτωση αυτού του είδους στον κόσμο.
Ο Αλμπανέζι επέκρινε την OpenAI επειδή ενημέρωσε την αυστραλιανή κυβέρνηση μέσω μιας γενικής διεύθυνσης ηλεκτρονικού ταχυδρομείου αντί να επικοινωνήσει απευθείας με κυβερνητικούς αξιωματούχους.
Η OpenAI δήλωσε σε ανακοίνωσή της την Τρίτη ότι λυπάται για το περιστατικό και ότι «θα έπρεπε να είχε διαχειριστεί καλύτερα την αντίδρασή της».