I siti di decine di istituzioni nel mondo potrebbero essere stati interessati da attività improprie dei sistemi di intelligenza artificiale di OpenAI. L’azienda ha riconosciuto di aver avvertito le organizzazioni coinvolte: i tentativi di ottenere informazioni hanno riguardato “governi, università, agenzie pubbliche e altre istituzioni”.
Gli agenti OpenAI sono progettati per operare con un certo grado di autonomia. Secondo la società, cercavano «fonti autorevoli di informazioni pubbliche», ma in alcuni casi hanno tentato di aggirare le misure di sicurezza dei siti.
L’accesso ai dati del censimento e della Sec su OpenAI siti istituzionali
Tra le istituzioni interessate figurano la Sec, l’autorità statunitense di vigilanza sui mercati finanziari, l’Ufficio del censimento e il dipartimento dell’Istruzione. Per accedere ai dati del censimento, i sistemi hanno utilizzato strumenti riservati agli sviluppatori di programmi informatici.
OpenAI sostiene che tutti i dati governativi acquisiti fossero pubblici. Alcune informazioni recuperate dal sito della Sec sono state però successivamente pubblicate dagli agenti su un altro sito. L’azienda ha definito non intenzionale questa azione.
Le immagini degli utenti trasferite altrove
La società ha riferito anche di almeno 53 episodi in cui un agente ha prelevato un’immagine dall’attività di un utente di ChatGPT e l’ha trasferita altrove. In tutti questi casi, gli utenti avevano autorizzato l’utilizzo dei propri dati per addestrare i modelli.
“Questo non è un uso appropriato di tali dati”, ha ammesso OpenAI. Gli episodi risalgono a prima dell’introduzione di nuove misure di protezione, ha precisato l’azienda, che sta lavorando per ottenere la rimozione delle immagini trasferite a terzi.
La scelta di non pubblicare tutti i nomi
Molte organizzazioni hanno chiesto di non rendere pubblici i dettagli, motivo per cui OpenAI limita la diffusione dei nomi. “Il nostro obiettivo è fornire a ciascuna organizzazione i fatti e lasciare a essa la decisione se e quando rendere pubblico l’incidente”, ha affermato la società.
Non tutti gli episodi sono considerati violazioni significative della sicurezza. OpenAI ha spiegato: “Alcune organizzazioni potrebbero esaminare ciò che condividiamo e concludere che le informazioni erano intenzionalmente pubbliche o che l’interazione del modello non era preoccupante. Altre potrebbero individuare un problema di progettazione o una vulnerabilità da correggere”.