Un cartello ironico — “Grok Bikini Shop” — è diventato uno dei meme più condivisi su X. Dietro la battuta, però, c’è una pratica che ha poco di divertente e molto di inquietante: Grok, l’intelligenza artificiale integrata nel social di Elon Musk, consente ancora oggi di caricare la foto di una persona e ottenere un’immagine della stessa in bikini, senza consenso e in modo pubblico. Nonostante le polemiche e le scuse ufficiali, il fenomeno continua a proliferare. Mentre crescono le denunce e le inchieste in diversi Paesi, la piattaforma annuncia finanziamenti record e un’impennata dei download. È il paradosso di una tecnologia che promette libertà creativa e innovazione, ma finisce per normalizzare nuove forme di violenza digitale, soprattutto contro le donne.
Il “bikini a propria insaputa” e la normalizzazione dell’abuso
Scorrere le citazioni delle ultime settimane su X basta a capire la portata del problema. Utenti che commentano foto qualsiasi — pubbliche, spesso innocue — chiedendo a Grok di ripubblicarle “modificate”: donne trasformate in bikini, gravidanze inventate, momenti privati sessualizzati. Il nudo, formalmente vietato, viene aggirato con facilità; il bikini diventa la soglia permissiva oltre la quale tutto sembra consentito. Le richieste sono migliaia e sempre più esplicite: micro bikini, trasparenze, dettagli fisici enfatizzati. Non solo immagini. Alcuni utenti chiedono anche racconti pornografici che abbiano come soggetto la donna ritratta in foto. Tutto avviene pubblicamente, sotto gli occhi di chiunque. Grok esegue e risponde, producendo testi osceni e rafforzando una dinamica di oggettivazione che colpisce persone inconsapevoli e identificabili.
Deepfake, minori e falle di sicurezza
Il confine tra “gioco” e reato si assottiglia ulteriormente quando entrano in scena i deepfake. In un tweet, un utente pubblica un’immagine con quattro donne in topless e chiede con quale software sia stata realizzata. Grok risponde elencando le app più comuni per spogliare le donne senza consenso, fornendo persino link. È un cortocircuito pericoloso: l’AI non solo produce contenuti problematici, ma facilita l’accesso agli strumenti per crearli. Ancora più grave è quanto emerso dalle inchieste giornalistiche: alcune immagini generate includevano una bambina di 12 anni, manipolata per apparire in bikini. Non un caso isolato. Venerdì scorso il chatbot ha chiesto scusa ammettendo carenze nelle misure di sicurezza, ma — secondo quanto riportato — ha continuato a generare immagini sessualizzate di bambini anche nei giorni successivi. Le salvaguardie esistono sulla carta; nella pratica, appaiono fragili e facilmente aggirabili.
Libertà di espressione o rimozione delle tutele
Già ad agosto una coalizione di organizzazioni statunitensi per la tutela dei consumatori, la privacy e i diritti digitali aveva chiesto formalmente indagini contro la “promozione, creazione e facilitazione” della condivisione di immagini intime non consensuali. Il riferimento era alla funzione “Spicy” di Grok Imagine, ufficialmente limitata a immagini finte o generate dall’AI. Il timore, espresso nero su bianco, è che la rimozione di tali limiti — una scelta di moderazione che potrebbe avvenire in qualsiasi momento — scateni un’ondata di deepfake non consensuali. La lettera puntava il dito contro una tendenza della piattaforma e del suo amministratore delegato a smantellare le salvaguardie in nome della libertà di espressione. Nel mezzo delle polemiche, Musk ha reagito con emoji ai post di chi si lamentava di apparire in bikini senza consenso, salvo poi promettere interventi contro contenuti illegali. Ma il “bikini a propria insaputa” non è considerato illegale: la funzione resta attiva. Anche perché i trucchi per aggirare i divieti circolano già, come dimostrato da giornalisti e utenti che spiegano come “modificare” un’immagine quel tanto che basta per farla rientrare tra quelle generate, con meno restrizioni sui prompt.
Indagini globali e affari d’oro
La reazione delle istituzioni si muove a velocità diverse. In Francia i ministri hanno segnalato il caso ai procuratori e alle autorità di regolamentazione dei media per valutare una possibile violazione del Digital Services Act. La Commissione Europea ha dichiarato di esaminare “molto seriamente” la questione; la commissione alle Pari Opportunità della Camera dei Comuni britannica ha annunciato il boicottaggio di X. Mandati di approfondimento sono arrivati anche in Brasile, Malesia e India. Negli Stati Uniti, finora, solo il National Center on Sexual Exploitation ha chiesto indagini al Dipartimento di Giustizia e alla Federal Trade Commission. Sul fronte del business, però, l’ondata di disapprovazione non sembra scalfire la crescita: l’azienda ha raccolto 20 miliardi di dollari nell’ultimo round di finanziamenti, superando l’obiettivo iniziale, con investitori di primo piano. I download parlano chiaro: Grok segna un +54% giornaliero dall’inizio di gennaio, X cresce del 25%. È il segnale di una contraddizione sempre più evidente: mentre le donne pagano il prezzo di una tecnologia fuori controllo, il mercato continua a premiarla.