Una probabilità superiore al 10% che un’AI possa provocare la morte dell’intera umanità nel giro di dieci anni. È la stima diffusa da Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic, che circoscrive il pericolo a una futura superintelligenza capace di auto-miglioramento ricorsivo, escludendo i modelli oggi in uso. La valutazione cade in un momento già teso, a valle delle dimissioni di Jacob Coxon e del riaprirsi del confronto sulla sicurezza dell’AI.
L’uscita di Coxon ha fatto rumore per le parole scelte e per il bersaglio. Il ricercatore britannico ha lasciato l’azienda denunciando una corsa “irresponsabile” verso la superintelligenza e avvertendo che, senza barriere efficaci, la tecnologia potrebbe trasformarsi in una “minaccia esistenziale” entro la fine del decennio. Non la velocità come feticcio, ma l’assenza di controlli stringenti su sistemi che possono auto-migliorarsi fino a sfuggire alla supervisione umana.
Anthropic AI superintelligente: non esiste ancora un piano risolutivo
La replica di Hubinger pesa per la posizione che occupa e per il tipo di azienda da cui proviene. Ha riconosciuto che Anthropic sta investendo sul tema dell’allineamento, ma ha anche ammesso che non c’è, ad oggi, un piano risolutivo per garantire il controllo su una superintelligenza futura. Di più: la compagnia non è sulla “traiettoria” giusta per arrivarci in tempo, ha precisato, indicando un gap che non si colma con proclami.
Allo stesso tempo, dentro l’azienda c’è chi spinge per una risposta più operativa. Samuel Marks propone di rallentare lo sviluppo dei sistemi più potenti e di legare i rilasci a criteri comuni e verificabili, concordati tra imprese. L’idea è di costruire soglie di sicurezza condivise, non dichiarazioni unilaterali: un approccio di governance che richiede accordi espliciti tra concorrenti e una relazione strutturata con i regolatori.
Il Congresso si muove: la spinta di Bernie Sanders
Il fronte politico non è rimasto a guardare. Il senatore Bernie Sanders ha definito Coxon “nel giusto” e ha annunciato un disegno di legge per vietare lo sviluppo della superintelligenza e imporre una pausa nella corsa ai modelli di vertice. Non è solo: altri parlamentari hanno chiesto strumenti di controllo nuovi e regole in grado di coprire anche gli scenari catastrofici evocati dagli esperti.
Qui si apre il nodo pratico, più che teorico. Chi stabilisce quando un modello è “abbastanza sicuro” da lasciare il laboratorio? Con quali prove, su quali metriche, davanti a quale autorità? Le proposte di cooperazione tra imprese puntano proprio a ridurre l’incertezza di questi passaggi, trasformando la sicurezza da promessa a processo verificabile. Di qui la richiesta, che arriva dal mondo tecnico, di standard comuni sui test e sui livelli di rischio accettabili.
L’intervento delle Nazioni Unite
Nel giro di pochi giorni è arrivato anche il richiamo dell’Alto commissario Onu per i diritti umani, Volker Türk, che ha definito l’AI una potenziale “minaccia esistenziale” per l’umanità. La richiesta è di un impegno internazionale per fissare garanzie stringenti e “linee rosse” prima che i rischi diventino ingestibili, con un appello congiunto a Stati e aziende coinvolti nello sviluppo dei sistemi più avanzati.
In controluce, le risposte alle parole di Coxon convergono su due priorità: governance e sicurezza dei modelli di frontiera, con regole di rilascio che non si affidino a valutazioni opportunistiche. Resta acceso il dibattito sulla probabilità reale degli scenari estremi e sui tempi di emergenza di una superintelligenza. In questo quadro, Hubinger ha fissato l’asticella del rischio in oltre il 10% nel prossimo decennio, collegandolo a sistemi capaci di auto-migliorarsi e separandolo nettamente dai modelli oggi disponibili.
La traiettoria, per ora, si gioca su scelte concrete: criteri comuni, soglie dichiarate in anticipo, verifiche indipendenti e cooperazione tra competitor. Sono elementi che, se formalizzati, possono stabilire quando fermarsi e quando procedere, prima che la tecnologia corra più in fretta delle regole.