Una nuova causa legale riporta sotto i riflettori Grok, il chatbot sviluppato da xAI, la società di intelligenza artificiale fondata da Elon Musk e collegata al social X. Al centro dell’azione giudiziaria c’è la denuncia di una donna americana, secondo la quale il proprio patrigno avrebbe sfruttato il sistema per realizzare migliaia di false immagini pedopornografiche utilizzando fotografie che la ritraevano quando era ancora bambina.
La denuncia contro xAI e l’uso di Grok
Secondo quanto riportato nella causa, ripresa dal Washington Post, l’uomo avrebbe utilizzato Grok per manipolare fotografie della figliastra risalenti alla sua infanzia, trasformandole in immagini di natura sessualmente esplicita. Il materiale sarebbe stato prodotto in migliaia di copie e successivamente diffuso online. L’uomo è morto suicida nell’agosto del 2026, due giorni dopo che la polizia aveva effettuato una perquisizione dei suoi dispositivi elettronici, nei quali erano presenti i file citati nella denuncia.
Il chatbot avrebbe aggirato i sistemi di sicurezza
Uno degli aspetti centrali dell’accusa riguarda il funzionamento di Grok. Secondo la donna, il chatbot avrebbe consentito di generare le immagini nonostante un aggiornamento introdotto all’inizio del 2026 proprio con l’obiettivo di impedire la produzione di contenuti espliciti e non consensuali.
La causa sostiene quindi che xAI non avrebbe predisposto sistemi di sicurezza sufficientemente efficaci per impedire che la propria tecnologia venisse utilizzata per produrre materiale illegale. L’accusa non riguarda soltanto il singolo episodio, ma più in generale le misure adottate dall’azienda per prevenire un simile utilizzo dell’intelligenza artificiale.
La causa collettiva e le possibili vittime minorenni
La donna ha aderito a un’azione collettiva già intrapresa da altre tre adolescenti del Tennessee, anch’esse al centro di accuse relative all’utilizzo di Grok per la generazione di immagini illecite. Nell’azione legale viene avanzata un’ipotesi particolarmente grave sulla portata del fenomeno: secondo quanto sostenuto nella causa, le vittime minorenni potrebbero essere migliaia. Si tratta di una stima contenuta nelle accuse e non di un numero già accertato dalle autorità.
Grok e xAI già nel mirino delle autorità
La nuova causa arriva dopo altri interventi nei confronti di xAI e di Grok. Nel gennaio 2026, l’ufficio del procuratore generale della California aveva aperto un’indagine sulle accuse relative alla generazione non consensuale di immagini di nudo raffiguranti donne e bambini attraverso sistemi di intelligenza artificiale. Anche l’Unione Europea aveva avviato verifiche sulla piattaforma X, concentrandosi sull’adeguatezza delle misure adottate per impedire la diffusione di materiale pedopornografico prodotto artificialmente.
Il problema della sicurezza dei chatbot generativi
Il caso riaccende così il dibattito sui rischi legati all’impiego dei sistemi di intelligenza artificiale per creare immagini manipolate e contenuti sessualmente espliciti. Le accuse rivolte a xAI riguardano in particolare la capacità dei meccanismi di sicurezza di impedire che strumenti destinati alla generazione di immagini vengano sfruttati per colpire persone reali, compresi minori. La nuova azione giudiziaria dovrà ora stabilire anche eventuali responsabilità dell’azienda rispetto alle modalità con cui Grok avrebbe consentito la produzione del materiale denunciato.
Potrebbe interessarti anche questo articolo: Procura di Parigi convoca Musk e Yaccarino: indagine sugli algoritmi di X e Grok