Milano, 18 novembre 2025 – Sora, l’applicazione sviluppata da OpenAI per la creazione di video generati da intelligenza artificiale, continua a far discutere a causa della persistenza dei fenomeni di deepfake nonostante i limiti e le restrizioni introdotti. Un’indagine recente condotta dal sito specializzato 404 Media ha evidenziato come, negli unici due mercati in cui Sora è attualmente disponibile — Stati Uniti e Canada — gli utenti riescano ancora a creare video con personaggi famosi, anche deceduti, aggirando i filtri di sicurezza.
La sfida dei deepfake
Secondo quanto rilevato da 404 Media, è possibile superare le protezioni di OpenAI modificando le richieste inviate all’intelligenza artificiale: per esempio, inserendo nomi errati o vaghi, oppure evitando parole chiave vietate, gli utenti riescono a generare contenuti che imitano fedelmente volti e stili di personaggi come Tupac Shakur, Kobe Bryant, Juice Wrld e il rapper DMX. Questo metodo sfrutta una tattica già nota nel campo dell’IA generativa, che consiste nel riadattare i prompt per eludere i sistemi di filtraggio basati su parole chiave.
Il team di 404 Media sottolinea come un controllo più efficace richiederebbe il riaddestramento del modello escludendo contenuti protetti da copyright, un processo però complesso e costoso.
Sora 2 e le nuove misure di sicurezza anti-deepfake
A pochi mesi dal lancio di Sora 2, la nuova versione dell’app di OpenAI, la società ha introdotto una serie di misure di sicurezza volte a limitare l’uso improprio dei deepfake. Gli utenti possono ora autorizzare esplicitamente la creazione di video con il proprio volto attraverso la funzione “Cameo”, e controllare in quali contesti il proprio alter ego AI può comparire, ad esempio escludendo temi politici o contenuti sensibili. OpenAI ha inoltre implementato sistemi di revisione umana per monitorare il feed e intervenire rapidamente in caso di abusi.
Nonostante ciò, il rischio di utilizzo improprio persiste, come riconosciuto dallo stesso CEO Sam Altman. L’azienda si impegna a migliorare continuamente i sistemi di filtraggio e a fornire strumenti sempre più avanzati per garantire la sicurezza degli utenti e tutelare la creatività senza compromettere la fiducia nel servizio.
Sora 2, disponibile attualmente solo per iOS in USA e Canada, rappresenta un esperimento significativo di OpenAI nell’ambito dei social network basati su contenuti generati da intelligenza artificiale, con l’obiettivo dichiarato di promuovere creatività e connessione nel rispetto di rigorose regole di sicurezza.
Potrebbe interessarti anche questo articolo: YouTube introduce uno strumento per segnalare deepfake nei video
