Roma, 10 maggio – Il fenomeno dei deepfake in tempo reale sta crescendo esponenzialmente, attirando l’attenzione per la sua capacità di ingannare anche i sistemi di verifica. Marco Ramilli, fondatore della startup IdentifAI, sottolinea i rischi legati all’intelligenza artificiale, che nei prossimi anni potrebbe generare il 60-70% delle frodi. Nel 2023, incidenti correlati ai deepfake sono aumentati drasticamente, evidenziando l’importanza di strumenti per identificare video e immagini manipolate
Il fenomeno dei deepfake in tempo reale sta emergendo come una delle sfide più insidiose nel panorama della sicurezza digitale. Grazie all’intelligenza artificiale, è ora possibile alterare in modo impressionante identità visive e vocali durante una videochiamata, rendendo le frodi più sofisticate e difficili da individuare. Questa tecnologia, che consente di cambiare volto, colore della pelle e voce con pochi click, rappresenta un pericolo non solo per personaggi pubblici come Donald Trump e Taylor Swift, ma anche per chiunque utilizzi piattaforme di comunicazione online.
La crescente minaccia dei deepfake
Marco Ramilli, fondatore della startup italiana IdentifAI, ha sottolineato come queste tecniche di morphing siano operazioni di ingegneria sociale che superano di gran lunga le tradizionali truffe via messaggio. Secondo Ramilli, il rischio di essere ingannati da un deepfake è molto più elevato rispetto a una semplice mail di phishing, poiché si gioca su elementi visivi e auditivi a cui siamo meno preparati. La startup di Ramilli sta sviluppando una tecnologia definita “degenerativa”, in grado di riconoscere prodotti contraffatti generati dall’IA.
Dati allarmanti sull’epidemia di deepfake
L’epidemia di deepfake è in crescita esponenziale. Dati forniti da Resemble.AI e AI Incident Database mostrano che dal 2017 al 2022 sono stati registrati 22 incidenti di questo tipo. Nel 2023, il numero è quasi raddoppiato, raggiungendo 42, e nel 2024 si è registrato un aumento del 257%, portando il totale a 150 incidenti. Nei primi tre mesi del 2025, il numero ha già superato i 179, evidenziando una tendenza allarmante: un incremento del 19% rispetto all’intero anno precedente.
L’impatto dell’intelligenza artificiale sulle frodi
Nel contesto delle frodi, l’intelligenza artificiale rappresenta ora il 5% degli incidenti, un balzo significativo rispetto allo 0,3% dell’anno scorso. Ramilli prevede che, entro quattro anni, questa percentuale potrebbe raggiungere il 60-70%. Con l’aumento degli stimoli multimediali, diventa fondamentale dotarsi di strumenti adeguati per analizzare immagini e video, altrimenti si rischia di compromettere la fiducia nel mondo digitale. La consapevolezza e la preparazione sono ora più che mai cruciali per affrontare questa nuova frontiera delle frodi.