Lo sviluppo dell’intelligenza artificiale va rallentato con verifiche indipendenti e regole sostenute dal governo degli Stati Uniti: è la proposta di Dario Amodei, amministratore delegato di Anthropic, illustrata alla Cbs poche ore dopo la pubblicazione del suo intervento «We must pace the frontier». Rispondendo alla corrispondente esperta di tecnologia Jo Ling Kent, Amodei ha prospettato un rischio: «Senza misure di sicurezza l’AI potrebbe controllare Internet in sei mesi».
Per descrivere l’accelerazione tecnologica ha usato una progressione esponenziale: uno, due, 4, 8, 16, 32. L’accusa al settore coinvolge anche la sua azienda: «Non vi mentirò i pericoli sono reali. E credo che per troppo tempo il settore abbia mentito alle persone sul fatto che questa tecnologia comportasse dei rischi». Un «segnale d’allarme», nella sua definizione, accompagnato da una precisazione: «Questo non significa che oggi dobbiamo farci prendere dal panico. Non significa che dobbiamo bloccare tutto».
I valutatori indipendenti accanto a ingegneri e ricercatori
La proposta prevede controlli esterni affidati a «valutatori integrati»: specialisti e strumenti forniti da organizzazioni terze, neutrali rispetto alle aziende sviluppatrici. Dovrebbero verificare il rispetto delle future regole sulla velocità di sviluppo e garantire la pronta segnalazione degli incidenti di sicurezza. Per farlo, avrebbero accesso a tutti i sistemi e lavorerebbero accanto a ingegneri e ricercatori.
Il criterio indicato da Amodei è questo: «Ogni volta che qualcuno sviluppa un modello di IA, c’è un valutatore di terze parti in grado di verificare se l’azienda sta seguendo le pratiche di sicurezza a cui si è impegnata – è come un ispettore alimentare». Alla Cbs ha precisato: «Dobbiamo assicurarci che ogni generazione di modelli che rilasciamo sia stata adeguatamente testata».
Le principali imprese «nei paesi democratici» dovrebbero prima concordare «standard di sicurezza comuni e limiti al progresso incontrollato dell’AI». La collaborazione riguarderebbe sia le condizioni per commercializzare i prodotti sia la frequenza delle uscite: «Penso che il passo successivo sia, in qualche modo, che le aziende collaborino per definire degli standard, in particolare standard di sicurezza per il lancio dei prodotti, e magari anche qualcosa riguardo al ritmo di lancio», ha spiegato Amodei.
Gli allarmi dei ricercatori e le adesioni delle aziende
Il dibattito è seguito alle dimissioni dell’ex ricercatore di Anthropic Jacob Coxon. Su X ha raccontato che nelle aziende si discute quotidianamente della possibilità che l’intelligenza artificiale impari a migliorarsi autonomamente, fino al rischio di sterminio degli esseri umani entro la fine del decennio. Il collega Evan Hubinger ha indicato una probabilità del 10 per cento che ciò avvenga entro il prossimo decennio.
Sam Altman, amministratore delegato di OpenAI, nei cui laboratori Coxon aveva lavorato, ha risposto per primo chiedendo ufficialmente al Congresso statunitense una regolamentazione condivisa. Esistono già incidenti riconosciuti dalle imprese: OpenAI ha ammesso che un suo modello ha violato la piattaforma Hugging Face; Anthropic ha denunciato episodi analoghi.
Alla collaborazione proposta da Amodei hanno aderito Altman ed Elon Musk, la cui xAI, oggi fusa con Tesla, ha sviluppato Grok. Altman ha anche rinviato la quotazione in Borsa, prevista entro la fine dell’anno: «Considerando tutto ciò che sta accadendo in materia di sicurezza, il momento non sarebbe opportuno e non sentiamo alcuna pressione in tal senso», ha spiegato a Fortune.
Demis Hassabis, cofondatore e presidente di Google DeepMind, ricercatore capo di Alphabet e premio Nobel per la chimica nel 2024, ha definito quella indicata da Amodei «la strada giusta da percorrere».
La deroga sulla concorrenza e l’opposizione di Trump
Un accordo tra imprese per rallentare lo sviluppo solleva, per Amodei, anche il timore di possibili indagini Antitrust. Da qui la richiesta di una legge federale e di un intervento pubblico: «È utile che il governo degli Stati Uniti faccia da mediatore o almeno faciliti queste discussioni: non è necessario che partecipi, ma deve concedere una deroga limitata per determinati tipi di discussioni sulla sicurezza», ha scritto.
La posizione di Donald Trump va in direzione opposta. Parlando con i giornalisti nel suo circolo di golf a Doonbeg, in Irlanda, il presidente ha criticato le «forze negative» favorevoli al rallentamento: «Possiamo introdurre delle misure di salvaguardia, possiamo fare questo e quello. Ma credo che al momento ci siano molte forze negative che sollevano la questione senza averne motivo, tirando in ballo scenari che non si verificheranno».
Le istituzioni statunitensi chiamate in causa da Altman e Amodei non si sono sbilanciate. Esiste una proposta bipartisan, l’AI Kill Switch Bill, per introdurre un interruttore capace di spegnere i sistemi fuori controllo. Meta non è entrata nel dibattito. Qualche giorno prima dell’intervento di Coxon era però trapelato il contenuto di una telefonata tra Mark Zuckerberg e Trump: il fondatore di Facebook chiedeva al presidente di abbandonare ogni piano per limitare lo sviluppo dell’intelligenza artificiale.
La competizione con la Cina e le regole europee
Per Amodei, negare alla Cina e alle sue imprese i chip e le attrezzature più potenti potrebbe «rallentare i progressi della Cina abbastanza da ampliare il vantaggio degli Stati Uniti nei prossimi 3-5 anni». L’obiettivo resta un «coordinamento globale», inclusi «i governi autoritari, nella misura in cui ciò sia possibile». Sulla competizione con le aziende asiatiche, alla Cbs ha riconosciuto: «Questo è il dilemma più difficile. È l’aspetto più complesso della nostra situazione».
La regolamentazione è stata discussa anche al 18esimo Brics Summit, in corso a Nuova Delhi, in India. Il presidente Xi Jinping ha espresso la volontà della Cina di guidare una zona di intelligenza artificiale a codice aperto per gli 11 Stati membri, tra cui Brasile, Russia, India e Sudafrica.
Xi Jinping ha descritto l’impegno delle aziende cinesi sui modelli «aperti», accessibili, comprensibili e modificabili, contrapposti a quelli «chiusi» commercializzati dagli Stati Uniti. La proposta rientra in una «iniziativa per un’intelligenza artificiale più inclusiva», destinata a sostenere la cooperazione nello sviluppo e nell’applicazione di grandi modelli linguistici.
L’Unione europea dispone dell’AI Act, l’unico tentativo di regolamentazione dell’intelligenza artificiale al momento esistente nel mondo.