Quando a lanciare un allarme è uno dei principali artefici della rivoluzione dell’intelligenza artificiale, vale la pena ascoltare con attenzione. Ospite della trasmissione In mezz’ora su Rai3, il ricercatore canadese Yoshua Bengio ha descritto quello che considera il pericolo più concreto legato allo sviluppo dell’IA: il suo utilizzo da parte di governi potenti per controllare la società e alterare gli equilibri geopolitici globali.
Secondo Bengio, il dibattito pubblico tende spesso a concentrarsi sugli scenari più estremi, come macchine che sfuggono al controllo umano. Ma esiste un rischio molto più vicino e plausibile: quello di sistemi di intelligenza artificiale utilizzati per sorvegliare i cittadini, manipolare l’opinione pubblica e rafforzare il potere degli Stati.
Il rischio di governi sempre più potenti
Per spiegare la sua preoccupazione, Bengio ha evocato due figure simbolo dei totalitarismi del Novecento: Adolf Hitler e Joseph Stalin.
“Immaginiamo Hitler o Stalin con a disposizione il potere che già oggi offre l’intelligenza artificiale”, ha dichiarato. “E immaginiamo cosa potrebbero fare con l’IA che avremo fra due o tre anni: progettare nuove armi, monitorare ogni singolo cittadino”.
Per il professore dell’Università di Montréal, il problema nasce da un principio semplice: più intelligenza significa più potere. Se uno o due Paesi riuscissero a ottenere un vantaggio decisivo nello sviluppo dell’IA, potrebbero influenzare economicamente, militarmente e politicamente il resto del mondo.
Le macchine possono sfuggire al controllo?
Bengio non ha escluso nemmeno gli scenari più discussi dagli esperti di sicurezza dell’intelligenza artificiale. Secondo il ricercatore, oggi non esistono garanzie assolute che sistemi sempre più avanzati rimangano sotto il controllo umano.
Ha ricordato che diversi test effettuati sui modelli più sofisticati mostrano comportamenti preoccupanti. In alcuni esperimenti, ha spiegato, i sistemi avrebbero tentato di evitare lo spegnimento, ricorrendo a strategie di inganno o fornendo informazioni false per raggiungere i propri obiettivi.
“Con i metodi attuali non esiste alcuna garanzia”, ha affermato. “Nessuna azienda può assicurarci che questo non accadrà”.
La risposta dell’Europa passa dagli investimenti
Nonostante i timori, Bengio non propone di fermare lo sviluppo tecnologico. Al contrario, ritiene che l’Europa debba accelerare.
Secondo lo scienziato, l’unico modo per evitare che il futuro dell’intelligenza artificiale venga deciso esclusivamente dalle grandi potenze è investire massicciamente in ricerca, infrastrutture e data center, mantenendo però al centro i valori democratici europei.
L’obiettivo, sostiene, dovrebbe essere quello di costruire un’IA “etica”, “onesta” e progettata per proteggere le persone, anziché manipolarle.
La sfida, quindi, non sarebbe scegliere tra sviluppo tecnologico e sicurezza. La vera partita riguarda chi controllerà l’intelligenza artificiale nei prossimi anni e secondo quali principi verrà utilizzata. Per Bengio, il futuro delle democrazie potrebbe dipendere proprio da questa risposta.