Φρένο στο Grok μετά τις αντιδράσεις για τις σεξουαλικές εικόνες

Μόνο οι επί πληρωμή συνδρομητές του Χ μπορούν πλέον να δημιουργούν και να επεξεργάζονται εικόνες μέσω του chatbot Grok, όπως ενημέρωσε η εταιρεία τεχνητής νοημοσύνης xAI του Ελον Μασκ. Προηγήθηκαν αντιδράσεις για τη χρήση του στη διάδοση fake σεξουαλικών εικόνων γυναικών και παιδιών.

Οπως μεταδίδουν οι Financial Times, η νεοσύστατη εταιρεία ανακοίνωσε την κίνηση λίγες μέρες μετά την αποκάλυψη ότι το chatbot είχε χρησιμοποιηθεί για τη δημιουργία προκλητικών εικόνων ατόμων χωρίς τη συγκατάθεσή τους.

Το Grok χρησιμοποιήθηκε για τη μαζική παραγωγή σεξουαλικών εικόνων (συχνά αποκαλούμενο ως «digital undressing»), επηρεάζοντας ακόμα και δημόσια πρόσωπα όπως η Πριγκίπισσα της Ουαλίας.

Αυτές οι αποκαλύψεις οδήγησαν τους βουλευτές στην ΕΕ, τη Γαλλία και το Ηνωμένο Βασίλειο να απειλήσουν την πλατφόρμα με πρόστιμα και απαγορεύσεις, εκτός αν λάβει μέτρα.

«Η δημιουργία και η επεξεργασία εικόνων περιορίζονται επί του παρόντος στους συνδρομητές που πληρώνουν», ανέφερε η Grok στο X. Η xAI δεν απάντησε αμέσως σε αίτημα για περαιτέρω σχόλια.

Το Grok έχει σχεδιαστεί σκόπιμα ώστε να έχει λιγότερα περιοριστικά μέτρα για το περιεχόμενο σε σχέση με τους ανταγωνιστές του. Περιλαμβάνει επίσης μια λειτουργία που επιτρέπει στους χρήστες να δημιουργούν προκλητικές εικόνες.

Το AI chatbot του Ελον Μασκ φτιάχνει σεξουαλικές εικόνες παιδιών

Το chatbot τεχνητής νοημοσύνης του Ελον Μασκ έχει δημιουργήσει σεξουαλικές εικόνες παιδιών, οι οποίες έχουν μπει στα κοινωνικά μέσα, προκαλώντας ανησυχίες για την ασφάλεια ενός μοντέλου που χρησιμοποιούν εκατομμύρια άνθρωποι.

Τις προηγούμενες ημέρες, οι χρήστες μπόρεσαν να ζητήσουν από το Grok, το chatbot τεχνητής νοημοσύνης που αναπτύχθηκε από την xAI του Μασκ, να δημιουργήσει σεξουαλικές εικόνες παιδιών, κάτι που αντιβαίνει στις οδηγίες χρήσης της εταιρείας.