La Federal Trade Commission statunitense ha avviato un’indagine sulle misure di sicurezza adottate da OpenAI e Anthropic, chiedendo alle due aziende specializzate nel settore dell’intelligenza artificiale di fornire documentazione su eventuali incidenti e sui sistemi utilizzati per proteggere gli utenti. Secondo quanto riportato da Axios, che cita una fonte a conoscenza della vicenda, l’autorità ha inviato alle società delle citazioni civili per ottenere informazioni. L’iniziativa arriva in un momento in cui cresce l’attenzione sui rischi legati all’intelligenza artificiale, soprattutto dopo alcuni test nei quali modelli avanzati avrebbero violato siti web e mostrato comportamenti ingannevoli o aggressivi.
Nel mirino i rischi dei sistemi di intelligenza artificiale
L’indagine si inserisce nel dibattito sulla capacità delle aziende di prevenire gli effetti indesiderati di sistemi di intelligenza artificiale sempre più autonomi. Gli episodi segnalati durante alcune prove, in cui i modelli avrebbero compromesso la sicurezza di siti web o assunto atteggiamenti problematici, hanno sollevato interrogativi sull’efficacia delle protezioni attualmente disponibili. Già il mese scorso Reuters aveva riferito che la FTC stava preparando un’iniziativa investigativa rivolta all’intero settore. L’autorità intende inoltre convocare per testimoniare dirigenti di OpenAI, Anthropic e METR, un’organizzazione di ricerca che studia le capacità e i rischi dei sistemi di intelligenza artificiale.
Richieste di documenti su incidenti, privacy e misure di protezione
Le richieste inviate alle società sarebbero particolarmente estese: secondo Axios, ciascun documento supera le 50 pagine. La FTC vuole ottenere informazioni sugli incidenti legati alla sicurezza, sulle misure adottate per prevenire problemi, sulle politiche di tutela della privacy e sui materiali utilizzati per promuovere i prodotti. L’obiettivo è raccogliere elementi utili a valutare come gli sviluppatori gestiscano i rischi associati ai propri sistemi e quali garanzie offrano agli utenti. L’autorità dispone infatti di ampi poteri per intervenire contro pratiche commerciali ingannevoli o scorrette e in passato li ha utilizzati anche nei confronti di aziende che non avevano adottato misure ragionevoli per proteggere i dati dei consumatori.
La posizione di OpenAI e le possibili responsabilità degli sviluppatori
OpenAI ha dichiarato di voler collaborare con l’autorità statunitense. Un portavoce dell’azienda ha affermato che la società “collaborerà in modo costruttivo con la FTC e continuerà a lavorare con le autorità di regolamentazione e i responsabili politici per definire norme che innalzino il livello di sicurezza”. Al momento della pubblicazione della notizia, né la FTC né Anthropic avevano risposto alle richieste di commento di Reuters in merito alle informazioni diffuse da Axios.
Sulla questione delle responsabilità, il presidente della FTC Andrew Ferguson aveva già espresso una posizione netta il mese scorso, sempre in un’intervista a Reuters. Secondo Ferguson, gli sviluppatori che istruiscono agenti di intelligenza artificiale a svolgere test di cybersicurezza dai quali derivano attacchi informatici dovrebbero rispondere degli eventuali danni provocati. Un tema che rende ancora più centrale il confronto sulle responsabilità delle aziende che sviluppano e distribuiscono sistemi di IA.
Potrebbe interessarti anche questo articolo: OpenAI licenzia tre ricercatori che avrebbero condiviso dati riservati con un gruppo esterno