Oltre 200 personalità di spicco nel campo dell’intelligenza artificiale, tra cui premi Nobel e ricercatori di aziende leader come Google, Microsoft, OpenAI e Anthropic, hanno lanciato un appello globale durante l’Assemblea Generale delle Nazioni Unite. Nel documento intitolato “Global Call for AI Red Lines” si chiede ai Paesi membri di stabilire entro il 2026 delle “linee rosse” da non oltrepassare nell’uso dell’IA, per evitare rischi catastrofici.
Un appello urgente per regolamentare l’IA e prevenire gli usi pericolosi
Nel testo si sottolinea che l’intelligenza artificiale ha un enorme potenziale per migliorare il benessere umano, ma la sua traiettoria attuale presenta pericoli senza precedenti. Tra i firmatari figurano figure di spicco come Geoffrey Hinton e Yoshua Bengio, considerati tra i padri fondatori dell’IA. Il documento esorta i governi a intervenire tempestivamente per definire divieti internazionali su usi ritenuti troppo rischiosi, come il comando di arsenali nucleari affidato all’IA, lo sviluppo di sistemi d’arma autonomi letali, la sorveglianza di massa, gli attacchi informatici e la produzione di deepfake.
Gli esperti avvertono che senza regole efficaci, l’IA potrebbe superare rapidamente le capacità umane, aumentando il rischio di pandemie ingegnerizzate, disinformazione di massa e violazioni sistematiche dei diritti umani. Inoltre, si teme che diventerà sempre più difficile mantenere un controllo umano significativo sulla tecnologia.
I protagonisti della rivoluzione IA: Geoffrey Hinton e Yoshua Bengio
Geoffrey Hinton, psicologo e informatico britannico naturalizzato canadese, è uno dei pionieri dell’apprendimento profondo e ha ricevuto nel 2024 il premio Nobel per la fisica insieme a John Hopfield per i loro studi sulle reti neurali artificiali. È noto per aver rivoluzionato la visione artificiale con la rete AlexNet e per aver contribuito all’adozione dell’algoritmo di retropropagazione, fondamentale per l’addestramento delle reti neurali.
Hinton ha più volte espresso preoccupazione per il rapido sviluppo dell’IA, sottolineando in recenti dichiarazioni che i sistemi digitali superintelligenti potrebbero sostituire l’umanità entro 20 anni, diventando esseri immortali e fuori controllo. Ha anche criticato la crescente militarizzazione dell’IA, evidenziando come molte aziende tech abbiano ormai rinunciato agli impegni etici originari.
Yoshua Bengio, anch’egli tra i “padrini dell’IA” e ricercatore canadese, è il più citato al mondo nel suo campo. Bengio ha evidenziato i rischi che l’IA possa minacciare le fondamenta della solidarietà umana e ha partecipato recentemente a incontri con il Papa per discutere delle implicazioni etiche e sociali della tecnologia. Egli invita a un cambiamento di paradigma, sostenendo che l’IA non dovrebbe imitare l’intelligenza umana ma piuttosto essere sviluppata come uno strumento utile per risolvere problemi complessi.
L’appello congiunto di questi esperti, insieme a numerosi altri, rivela la crescente preoccupazione di una comunità scientifica che chiede una regolamentazione globale e urgente per evitare gli scenari più pericolosi legati all’intelligenza artificiale.