Un ricercatore di Anthropic ha deciso di lasciare l’azienda perché ritiene che la corsa verso sistemi di intelligenza artificiale sempre più potenti sia diventata troppo pericolosa. Jacob Coxon, 27 anni, ha annunciato pubblicamente le proprie dimissioni con una serie di messaggi pubblicati su X, accusando sia Anthropic sia OpenAI di non aver ancora risolto il problema di come mantenere l’AI sotto controllo.
Il suo non è rimasto un allarme isolato. A rispondergli pubblicamente è stato Evan Hubinger, Alignment Science Lead di Anthropic, che ha condiviso la preoccupazione del collega: “Personalmente penso che la probabilità sia superiore al 10% nei prossimi dieci anni”, ha scritto, riferendosi al rischio individuato da Coxon che l’intelligenza artificiale possa “uccidere tutti gli esseri umani”.
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Coxon: “L’AI potrebbe ucciderci tutti”
“Oggi mi sono dimesso da Anthropic“, ha scritto Coxon su X. “Negli ultimi tre anni ho fatto ricerca sul pretraining sia a OpenAI sia ad Anthropic. Nessuna delle due aziende sta agendo responsabilmente. Stanno correndo direttamente verso una superintelligenza capace di auto-migliorarsi e stanno giocando con le nostre vite”. Il pretraining è la prima grande fase di addestramento di un modello di intelligenza artificiale, durante la quale il sistema viene esposto a enormi quantità di dati per sviluppare le capacità che utilizzerà successivamente. Coxon si trovava dunque in una posizione particolarmente vicina allo sviluppo dei modelli più avanzati.
Nel suo lungo intervento, il ricercatore ha invitato a non sottovalutare la velocità con cui queste tecnologie stanno progredendo. Secondo Coxon, potrebbero presto nascere sistemi “sovrumani” in grado di entrare nei sistemi informatici, rivoluzionare interi settori in tempi rapidissimi e acquisire “potere e risorse reali”.
“Le persone che costruiscono l’AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio“. Coxon sostiene inoltre che non si tratti di una trovata di marketing: dirigenti e ricercatori di alto livello, secondo il suo racconto, userebbero pubblicamente formulazioni più prudenti, mentre in privato esprimerebbero timori molto più forti.
La risposta di Evan Hubinger: “Jacob ha ragione”
Un altro aspetto significativo nella vicenda è, per l’appunto, la risposta di Hubinger: Coxon è stato pubblicamente sostenuto da un ricercatore che continua a lavorare dentro Anthropic.
“Jacob ha ragione: crediamo davvero e sinceramente che l’AI potrebbe uccidere tutti gli esseri umani“, ha scritto Evan Hubinger. Hubinger ha aggiunto di credere che Anthropic stia “facendo del suo meglio”, ma ha riconosciuto un problema tutt’altro che secondario: “Non abbiamo ancora un piano per risolvere l’allineamento della superintelligenza e non siamo chiaramente sulla buona strada per averne uno”.
L’alignment, o allineamento, è il campo di ricerca che cerca di assicurare che sistemi di AI sempre più autonomi continuino a perseguire obiettivi compatibili con quelli degli esseri umani. Anthropic dedica una parte consistente della propria ricerca proprio a questo problema e nei suoi lavori ha già studiato comportamenti potenzialmente pericolosi dei modelli, dall’alignment faking alle azioni autonome dannose in scenari sperimentali.
Hubinger ha però successivamente fatto una distinzione importante: il rischio proveniente dai modelli attualmente disponibili è, a suo giudizio, basso. Quello che teme è lo sviluppo futuro di una superintelligenza attraverso il cosiddetto recursive self-improvement, un processo nel quale l’AI contribuisce a migliorare sé stessa e ad accelerare ulteriormente la ricerca.