Η OpenAI λανσάρει γονικούς ελέγχους για το ChatGPT, μετά από αγωγή που ισχυρίζεται ότι έφηβος που αυτοκτόνησε την άνοιξη βασιζόταν στο δημοφιλές chatbot ως coach.
Τα εργαλεία, που διατέθηκαν σε όλους τους χρήστες σήμερα Δευτέρα, επιτρέπουν στους γονείς να περιορίσουν τους τρόπους με τους οποίους οι έφηβοι χρησιμοποιούν το chatbot και να λαμβάνουν ειδοποιήσεις εάν το ChatGPT διαπιστώσει ότι ένας έφηβος μπορεί να βρίσκεται σε κίνδυνο.
Οπως μεταδίδει το Bloomberg, τα εργαλεία ελέγχου, τα οποία είναι προσβάσιμα μέσω των ρυθμίσεων του ChatGPT, επιτρέπουν επίσης στους γονείς να ορίσουν τις ώρες κατά τις οποίες το παιδί τους δεν μπορεί να χρησιμοποιήσει την υπηρεσία (το chatbot προορίζεται για χρήστες ηλικίας 13 ετών και άνω).
Η ενημέρωση έρχεται μετά από την αυξανόμενη πίεση που ασκήθηκε στην startup τεχνητής νοημοσύνης να κάνει αλλαγές στο chatbot της, το οποίο έχει συγκεντρώσει πάνω από 700 εκατομμύρια χρήστες από την κυκλοφορία του στα τέλη του 2022.
Αφού η οικογένεια του Adam Raine μήνυσε την OpenAI και τον διευθύνοντα σύμβουλό της, Sam Altman, τον Αύγουστο για τον θάνατο του μαθητή λυκείου της Καλιφόρνιας, η εταιρεία ανακοίνωσε μια σειρά αλλαγών στο ChatGPT, συμπεριλαμβανομένων των γονικών ελέγχων.
Η αγωγή, η οποία ακολούθησε μια σειρά άλλων αναφορών σχετικά με τους χρήστες chatbot που εμπλέκονταν σε επιβλαβή συμπεριφορά, ισχυρίζεται ότι το ChatGPT απομόνωσε συστηματικά τον Raine από την οικογένειά του και τον βοήθησε να σχεδιάσει τον θάνατό του. Πέθανε κρεμασμένος τον Απρίλιο.
«Αισθανόμασταν την επείγουσα ανάγκη για κάτι τέτοιο εδώ και καιρό», δήλωσε η Lauren Jonas, υπεύθυνη για την ευημερία των νέων στην OpenAI, προσθέτοντας ότι η εταιρεία εργάζεται όσο πιο γρήγορα μπορεί για να δημιουργήσει εργαλεία όπως ο γονικός έλεγχος.
Για να ρυθμίσει τη νέα επιλογή, ένας ενήλικος χρήστης του ChatGPT στέλνει ένα αίτημα μέσω email στο παιδί του. Εάν η πρόσκληση γίνει αποδεκτή, ο ενήλικας μπορεί στη συνέχεια να προβεί σε ενέργειες όπως να αποφασίσει εάν ο έφηβος μπορεί να έχει πρόσβαση στη λειτουργία φωνής του ChatGPT ή στη δυνατότητα δημιουργίας εικόνων, ή να επιλέξει εάν το chatbot μπορεί να ανατρέχει σε προηγούμενες συνομιλίες.
Τα εργαλεία επιτρέπουν επίσης στους γονείς να αποφασίσουν αν θέλουν το παιδί τους να χρησιμοποιεί μια περιορισμένη έκδοση του chatbot, η οποία προορίζεται να εμφανίζει λιγότερο περιεχόμενο σχετικό με θέματα όπως η διατροφή, το σεξ και η ρητορική μίσους.
Εάν το ChatGPT εντοπίσει ότι ένας έφηβος ενδέχεται να βρίσκεται σε ψυχική δυσκολία, ένας άνθρωπος-αξιολογητής θα αποφασίσει εάν θα στείλει μια ειδοποίηση έκτακτης ανάγκης στους γονείς του. Αυτές οι ειδοποιήσεις μπορούν να ρυθμιστούν ώστε να αποστέλλονται μέσω email, μηνυμάτων κειμένου και ειδοποιήσεων από την εφαρμογή ChatGPT.
Η Jonas είπε ότι οι ειδοποιήσεις έχουν ως στόχο να παρέχουν στους γονείς επαρκείς πληροφορίες σχετικά με μια δυνητικά επικίνδυνη κατάσταση, ώστε να μπορούν να συζητήσουν με τον έφηβο τους, σεβόμενοι παράλληλα την ιδιωτικότητα και την αυτονομία του παιδιού. Η OpenAI δεν θα μοιραστεί τις συνομιλίες ενός εφήβου στο ChatGPT με τους γονείς του, είπε.
Εκτός από τους γονικούς ελέγχους, η OpenAI με έδρα το Σαν Φρανσίσκο δήλωσε ότι εργάζεται σε ένα λογισμικό για την πρόβλεψη της ηλικίας ενός χρήστη, το οποίο η εταιρεία σχεδιάζει να χρησιμοποιήσει για να καθοδηγήσει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε όσους είναι κάτω των 18 ετών.