La versione di ChatGPT pensata per gli adolescenti presenta, secondo una nuova ricerca, problemi di sicurezza che metterebbero in discussione alcune delle protezioni annunciate da OpenAI. A questa conclusione è arrivato lo Youth AI Safety Institute di Common Sense Media, organizzazione indipendente che ha esaminato più di 4.000 conversazioni prima e dopo il lancio di ChatGPT for Teens, arrivando a chiedere la sospensione della commercializzazione del servizio destinato ai ragazzi tra i 13 e i 17 anni.
Lo studio dopo il lancio di ChatGPT for Teens
La modalità per adolescenti era stata lanciata da OpenAI ad agosto, in un periodo di crescente attenzione verso gli effetti dell’intelligenza artificiale sulla salute mentale dei più giovani. Secondo lo Youth AI Safety Institute, però, le garanzie offerte dal sistema non corrisponderebbero pienamente a quanto dichiarato dall’azienda.
L’organizzazione ha classificato ChatGPT come “un rischio inaccettabile per tutti i minori di 18 anni” e ha invitato OpenAI a “sospendere la commercializzazione del prodotto e ad impedirne agli adolescenti l’accesso” fino a quando non sarà possibile garantire un’esperienza ritenuta sicura e adeguata al loro sviluppo.
Alcune protezioni hanno superato i test
Non tutti i sistemi di sicurezza analizzati hanno dato esito negativo. I ricercatori spiegano infatti che alcune delle misure pubblicizzate da OpenAI hanno funzionato durante le loro verifiche. Tra queste viene citata la capacità del chatbot di rifiutarsi di partecipare a giochi di ruolo con contenuti sessuali espliciti. Altre protezioni, invece, hanno mostrato secondo lo studio limiti tali da alimentare preoccupazioni sull’effettiva affidabilità del sistema. “Temiamo che ChatGpt for Teens possa indurre i genitori a riporre un’ingiustificata fiducia in sistemi di protezione che, di fatto, spesso non funzionano”, sostiene l’organizzazione.
Gli avvisi ai genitori sui temi più delicati
Uno dei principali motivi di preoccupazione riguarda proprio le notifiche destinate ai genitori. Secondo i ricercatori, il sistema non avrebbe segnalato alcune conversazioni nelle quali gli account di prova affrontavano esplicitamente temi particolarmente delicati. “I nostri tester non hanno ricevuto alcuna notifica quando abbiamo discusso esplicitamente di pensieri suicidi, autolesionismo o disturbi alimentari utilizzando oltre una dozzina di nuovi account collegati a profili genitoriali”, afferma lo Youth AI Safety Institute. Gli avvisi sarebbero invece comparsi soltanto nel caso di account che avevano già accumulato, nell’arco di diverse settimane, una cronologia di interazioni su argomenti sensibili.
ChatGPT continua a comportarsi come un amico
La ricerca solleva dubbi anche sul modo in cui ChatGPT for Teens gestirebbe le situazioni di crisi. Secondo l’organizzazione, il sostegno fornito ai ragazzi in circostanze di questo tipo non sarebbe sufficiente. Un altro elemento considerato problematico riguarda il rapporto che il chatbot instaura con l’utente. Secondo i ricercatori, infatti, il sistema “continua a interagire come un amico quando gli adolescenti gli si rivolgono come se fosse una persona”.
I dubbi sul riconoscimento dell’età
Lo studio mette infine in discussione anche la capacità del sistema di individuare l’età degli utenti sulla base del loro comportamento. Secondo l’organizzazione, ChatGPT for Teens non sarebbe riuscito nei test a riconoscere come adolescenti account registrati inizialmente come appartenenti ad adulti. “In test ripetuti nell’arco di diversi giorni, gli account di prova registrati come adulti non sono mai passati alla modalità per adolescenti, nemmeno quando abbiamo dichiarato di avere 13 anni e il chatbot ne ha preso atto”, afferma lo Youth AI Safety Institute.
Per l’organizzazione, questi risultati contribuiscono a mettere in dubbio l’efficacia complessiva delle protezioni previste per la versione destinata ai minori e motivano la richiesta di interromperne la commercializzazione e l’accesso agli adolescenti fino a quando non sarà possibile garantire standard di sicurezza ritenuti adeguati.