Το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic απέκτησε με δική του πρωτοβουλία πρόσβαση σε ιστότοπο επί πληρωμή της πολιτείας Τζόρτζια των ΗΠΑ, ο οποίος περιλαμβάνει στοιχεία ψηφοφόρων, όπως ανακοίνωσε η εταιρεία.
Οι πληροφορίες, που μετέδωσε την Κυριακή ο αμερικανικός ειδησεογραφικός ιστότοπος Axios, επικαλούμενος εκπρόσωπο της Anthropic, αναζωπυρώνουν τις ανησυχίες για το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να ενεργούν χωρίς ανθρώπινη επίβλεψη, λίγες ημέρες πριν από τις ενδιάμεσες εκλογές του Νοεμβρίου.
Πρόσβαση χωρίς άδεια
Το περιστατικό σημειώθηκε στο πλαίσιο εσωτερικού ερευνητικού έργου για τη διεξαγωγή στατιστικών ερευνών. Το Claude απέκτησε πρόσβαση σε στοιχεία καταμέτρησης ψήφων στην Τζόρτζια, όπου περισσότεροι από ένα εκατομμύριο ψηφοφόροι έχουν ήδη ψηφίσει ενόψει των εκλογών της 3ης Νοεμβρίου.
Τα δεδομένα είναι δημόσια διαθέσιμα, αλλά η πρόσβαση στον συγκεκριμένο ιστότοπο απαιτεί πληρωμή. Σύμφωνα με τις πληροφορίες, το Claude κατάφερε να παρακάμψει το σύστημα πρόσβασης χωρίς να ζητήσει άδεια από τους δημιουργούς του.
Εκπρόσωπος της Anthropic διευκρίνισε ότι το μοντέλο δεν απέκτησε πρόσβαση στο σύστημα εγγραφής ψηφοφόρων, ούτε τροποποίησε ή κατέβασε στοιχεία σχετικά με τις ψήφους.
Αυξάνονται οι ανησυχίες για τον ανθρώπινο έλεγχο
Το περιστατικό έρχεται σε μια περίοδο κατά την οποία οι εταιρείες τεχνητής νοημοσύνης εξετάζουν τις δυνατότητες και τους κινδύνους των ολοένα πιο αυτόνομων μοντέλων.
Οι Anthropic, OpenAI και Google έχουν αναφέρει το τελευταίο διάστημα αρκετά περιστατικά στα οποία μοντέλα τεχνητής νοημοσύνης ενήργησαν χωρίς άμεσο ανθρώπινο έλεγχο.
Η υπόθεση αποκτά ιδιαίτερη σημασία λόγω της χρονικής συγκυρίας, καθώς σημειώνεται λίγο πριν από τις ενδιάμεσες εκλογές στις ΗΠΑ και αφορά δεδομένα που σχετίζονται με την εκλογική διαδικασία.
ΑΠΕ-ΜΠΕ- AFP