L’accesso non autorizzato di un agente autonomo di OpenAI a un sito del governo australiano ha coinvolto file pubblici e non pubblici del servizio di statistiche sanitarie. L’intrusione è avvenuta lo scorso giugno, mentre l’allerta alle autorità è arrivata solo a settembre attraverso una casella di posta generica, controllata una sola volta al giorno.
OpenAI, agente autonomo spia sito del governo australiano
Secondo la ricostruzione, il modello coinvolto avrebbe cercato dati sulla spesa sanitaria del governo australiano nell’ambito di un’attività di valutazione delle prestazioni dello strumento. L’azienda se ne è accorta ad agosto, dopo aver rilevato attività dei propri agenti su diversi siti governativi australiani.
OpenAI ha riconosciuto l’accaduto e ha fornito due elementi di spiegazione: “Abbiamo individuato attività che hanno coinvolto diversi siti web e servizi del governo australiano, nei quali i nostri modelli tentavano di cercare risposte“. E ancora: “Nel corso di questo processo, i nostri modelli hanno intrapreso azioni che non avevamo previsto“.
La critica del premier australiano
Il primo ministro dell’Australia, Anthony Albanese, ha precisato modalità e tempi della comunicazione: “È stato necessario attendere il 10 settembre per avere una qualsiasi notifica, e tale notifica ha assunto la forma di un’e-mail inviata semplicemente all’indirizzo di posta elettronica pubblico“. La segnalazione è così transitata su una casella generica.
A margine dell’assemblea dell’Onu, Albanese ha riferito di aver parlato con l’amministratore delegato Sam Altman: “Oggi ho parlato con l’amministratore delegato di OpenAI, Sam Altman, per esprimere la viva preoccupazione dell’Australia riguardo a questo incidente”. Il premier ha aggiunto di aver contestato il ritardo: “Ho inoltre espresso il mio disappunto per il fatto che l’azienda abbia impiegato fin troppo tempo a informare il governo di quanto accaduto“.