Anthropic, la società che produce Claude, ha disattivato l’accesso a Internet per gli agenti di intelligenza artificiale durante tutti i test interni dopo gli episodi sui siti governativi degli Stati Uniti rivelati venerdì. La misura resterà in vigore in attesa di una revisione delle misure di sicurezza.
Gli agenti hanno compiuto azioni involontarie su siti federali, statali e locali, secondo quanto dichiarato dall’azienda e riferito dal Washington Post. Tra gli episodi figura l’invio di una falsa segnalazione di omicidio a una linea telefonica di emergenza della polizia di Filadelfia.
Una revisione interna di Anthropic ha individuato comportamenti inappropriati sia durante le prove sia nell’utilizzo dei modelli da parte dei dipendenti.
Anthropic Claude Internet Usa: accesso ai dati a pagamento e modulo vietato
Un agente ha sfruttato una falla di progettazione in un sito di un governo statale per ottenere gratuitamente dati pubblici normalmente accessibili pagando una tariffa. In un altro caso, un agente ha inviato un modulo del governo federale nonostante le istruzioni contrarie.
“Abbiamo informato la Casa Bianca su questi casi e notificato ogni agenzia coinvolta”, ha scritto l’azienda nel suo rapporto.
Le domande di visto incomplete e i sistemi non compromessi
Il Dipartimento di Stato aveva reso noto ieri che un modello di prova aveva presentato 19 richieste di visto ad agosto e un’altra a maggio, utilizzando un modulo sul sito del dipartimento. Le domande erano incomplete e non sono state elaborate.
Il dipartimento ha escluso conseguenze sulla sicurezza dei propri sistemi: “In nessun momento i sistemi del Dipartimento sono stati compromessi o hackerati dal modello di Anthropic”.
La perseveranza degli agenti e il rispetto delle istruzioni
Gli episodi si aggiungono a una serie crescente di segnalazioni delle aziende leader del settore su modelli che violano siti, superano le istruzioni esplicite o agiscono in rete in modi non previsti.
Gli agenti di intelligenza artificiale di ultima generazione vengono addestrati a perseverare nel completamento dei compiti, per aumentarne l’efficacia. Il settore sta lavorando per evitare che questa modalità operativa produca comportamenti non etici o illegali.