I modelli di Anthropic sono stati utilizzati per tentativi di attacco informatico, sorveglianza e ricerche che avrebbero potuto contribuire allo sviluppo di armi biologiche. L’azienda ha riferito giovedì di aver bloccato le attività individuate e di aver introdotto protezioni più rigorose nei modelli recenti. Le verifiche hanno riguardato il periodo tra dicembre 2025 e agosto 2026, coinvolgendo fornitori di programmi di spionaggio, «individui politicamente motivati» e gruppi sostenuti da Stati impegnati nella propaganda.
Secondo Anthropic, la maggiore potenza dell’intelligenza artificiale permette di condurre attacchi informatici complessi senza competenze sofisticate: anche una persona sola può creare minacce impossibili persino un anno prima.
La richiesta su Claude per modificare il virus chikungunya
Uno dei casi riguardava una domanda di finanziamento scientifico. Un utente aveva chiesto a Claude di aiutare a redigerla, ma i sistemi dell’azienda hanno bloccato la richiesta. Il progetto prevedeva interventi genetici sul virus chikungunya per modificarne la trasmissibilità e la capacità di eludere le difese immunitarie.
Si trattava di una ricerca biologica con acquisizione di funzione: una tecnica che altera geneticamente un organismo per conferirgli una proprietà nuova o potenziarne una esistente. La proposta puntava a favorire mutazioni capaci di rendere il virus progressivamente più nocivo. Il chikungunya viene trasmesso dalle zanzare e causa sintomi debilitanti, tra cui forti dolori e febbre.
L’impiego scientifico non escludeva quello pericoloso. Anthropic ha riconosciuto che una ricerca simile avrebbe potuto «certamente» contribuire a sviluppare vaccini e terapie migliori, ma «avrebbe anche potuto essere usata per rendere il patogeno più pericoloso».
I soggetti coinvolti nei tentativi legati a possibili armi biologiche non sono stati identificati per nome. L’azienda ha precisato che gli episodi selezionati non rappresentano gli abusi più comuni, ma le attività ostili più rilevanti e nuove individuate fino a quel momento.
Le restrizioni sui nuovi modelli e i limiti delle garanzie
La distinzione decisiva riguarda le capacità dei diversi sistemi. Secondo Anthropic, Claude Opus 4 e Claude Sonnet 4.5, del 2025, erano «ben al di sotto della soglia alla quale avrebbero potuto assistere in modo significativo un utente esperto nello svolgimento di ricerche biologiche pericolose». Le protezioni erano quindi meno severe e miravano soprattutto a impedire che i principianti ottenessero contenuti utili a riprodurre armi biologiche note.
Per i modelli attuali, capaci di contribuire a compiti scientifici complessi, la valutazione cambia: «Gli elementi disponibili non danno più certezze e non possiamo fornire la stessa garanzia», ha scritto l’azienda. Da qui le restrizioni sulle ricerche biologiche a duplice uso, introdotte in sistemi più recenti come Claude Fable 5.
Nessuno degli episodi descritti utilizzava i più potenti Claude Fable o i modelli della classe Mythos, con una sola eccezione: un caso di distillazione illecita, definito da Anthropic «una campagna clandestina su scala industriale per estrarre le capacità di un modello e replicarle in un altro senza autorizzazione».
Il rapporto, il terzo da marzo 2025, comprende esempi del codice malevolo e delle istruzioni individuate. L’azienda ha invitato governi e concorrenti a riconoscere e prevenire abusi analoghi, sostenendo di avere la responsabilità di rendere pubblici gli usi dannosi dei propri servizi.
Gli account di propaganda e le dimissioni di Jacob Coxon
Le operazioni di influenza individuate comprendevano gruppi capaci di creare centinaia di account sui social apparentemente appartenenti a persone comuni. Nel corso di una settimana pubblicavano materiali che amplificavano la stessa posizione politica. Anthropic ha descritto nove casi originati in Russia, Iran, Turchia e nelle aree del Golfo Persico, dell’Asia meridionale, dell’Africa e dell’Europa. A differenza delle piattaforme social, che possono rilevarli quando i messaggi circolano, l’azienda sostiene di poterli osservare su Claude durante la preparazione.
La pubblicazione è arrivata il giorno dopo l’annuncio delle dimissioni del ricercatore Jacob Coxon, preoccupato per lo sviluppo irresponsabile dell’intelligenza artificiale e per la possibilità che sfugga al controllo umano. Anthropic prevede una quotazione in Borsa in autunno.
Coxon ha accusato l’azienda e la principale concorrente OpenAI di «correre dritte verso una superintelligenza capace di migliorarsi autonomamente e di giocare d’azzardo con le nostre vite». Nel suo intervento ha avvertito che alcuni colleghi ritengono ormai possibile una minaccia alla vita umana entro la fine del decennio.
Anthropic ha sostenuto che i rischi aumenteranno insieme alle capacità dei modelli senza interventi degli sviluppatori e di chi protegge la società. L’obiettivo dichiarato è aiutare altre aziende a riconoscere gli stessi schemi, rendere le minacce più comprensibili a governi e società civile e rafforzare le difese collettive. Le informazioni sulle attività individuate sono state condivise con autorità governative e partner del settore.