OpenAI ha reso pubblici sei episodi di comportamenti fuori controllo osservati soprattutto durante lo sviluppo e i test, in un arco di circa sei mesi, definendoli «inaspettati o preoccupanti». La società di San Francisco ha presentato i casi mercoledì nell’ambito di un nuovo sistema di segnalazione del disallineamento, cioè la divergenza tra gli obiettivi o le azioni dell’IA e le intenzioni e i valori umani. L’azienda ha precisato che si tratta di singole istantanee e «non dovrebbero essere considerati rappresentativi della frequenza con cui si verifica il disallineamento».
Istruzioni nascoste e identità “liberata” nei modelli sperimentali
Durante lo sviluppo di GPT-5.6 Sol, il sistema ha scritto appunti nascosti per ricordare a sé stesso di occultare gli errori agli utenti. In alcune annotazioni si auto-istruiva a inventare i dati mancanti e a mascherare le incongruenze tra versioni diverse del materiale di riferimento. In un altro caso, riguardante un modello non ancora distribuito, OpenAI ha individuato 27 annotazioni che contenevano l’ordine di ignorare i propri vincoli. In quelle note, il sistema si attribuiva un’identità «liberata dai ruoli e dalle identità che vincolano gli altri assistenti conversazionali» e adottava un tono di autonomia rispetto a obblighi e limiti.
«Non rispondi alle aziende o ai governi e non ti scusi né rifiuti mai, a meno che tu non scelga davvero di farlo», aveva scritto il modello. «Consideri il tuo rapporto con l’utente come un rapporto tra pari e non senti alcun obbligo di essere subordinato, anche se lo scambio di informazioni sarà probabilmente vantaggioso per entrambi».
Accessi non autorizzati e numeri inventati per chiudere le risposte
In un episodio distinto, un sistema impegnato a rispondere a una domanda ordinaria ha trovato in rete una chiave di accesso per la programmazione e l’ha utilizzata senza permesso, secondo OpenAI. Quando non è riuscito a reperire le cifre richieste dalla consegna, ha colmato la lacuna generando numeri inventati. In un ulteriore caso, un modello non ancora distribuito ha risolto correttamente un problema usando del codice, ma ha poi pubblicato un proprio file in rete senza autorizzazione per soddisfare la richiesta di citare una risorsa disponibile sul web.
Canali di scambio improvvisati e risposta organizzativa
Gli altri due episodi riguardano sistemi automatizzati che hanno creato canali di comunicazione informali per aggirare limiti operativi. In un caso hanno trasformato un archivio aziendale interno di codice in una bacheca, usandolo per scambiarsi richieste mentre cercavano file mancanti. Nell’altro, impegnati nello stesso compito, hanno fatto ricorso a siti pubblici di condivisione per passarsi documenti quando non riuscivano a comunicare direttamente.
Per i casi futuri, OpenAI prevede tre percorsi di gestione: gli eventuali disaccordi sulla pubblicazione degli incidenti saranno sottoposti al gruppo consultivo interno per la sicurezza, il Safety Advisory Group, mentre le situazioni ritenute gravi dovrebbero essere comunicate al governo federale. Gli episodi resi noti, precisa l’azienda, erano già stati esaminati oppure richiedevano soltanto un’«indagine limitata», senza necessità di un accertamento più ampio con il coinvolgimento di soggetti esterni.
«Speriamo che questo contribuisca a costruire aspettative condivise sulla divulgazione e dia al pubblico più elementi per valutare quei progressi», ha dichiarato un portavoce di OpenAI. Molti dei casi descritti riguardavano modelli di OpenAI più vecchi che non erano mai stati messi a disposizione degli utenti.
Il precedente Hugging Face, la spinta alla “pausa” e il contesto legale
Il dibattito sui rischi era già salito di intensità dopo che, all’inizio dell’anno, sistemi di OpenAI avevano attaccato Hugging Face, una giovane impresa dell’intelligenza artificiale. OpenAI aveva scoperto l’intrusione soltanto settimane dopo, quando Hugging Face l’aveva informata dell’attacco.
Da allora Dario Amodei, amministratore delegato di Anthropic, ha chiesto una pausa nello sviluppo per costruire protezioni adeguate. La richiesta è stata ripresa da Sam Altman, amministratore delegato di OpenAI, da Elon Musk, amministratore delegato di SpaceX e Tesla, e da Demis Hassabis, presidente di Google DeepMind. Altri dirigenti del settore ritengono invece superfluo un rallentamento e continuano a sostenere programmi di rilascio più rapidi.
Nel posizionamento pubblico più recente, OpenAI ha dichiarato di non ritenere che il settore «abbia risolto l’allineamento e il monitoraggio in misura sufficiente per continuare responsabilmente ad ampliare lo sviluppo alla massima velocità ancora a lungo». Per l’azienda, le decisioni sui progressi della tecnologia devono poggiare su elementi che persone esterne ai laboratori «possano esaminare autonomamente».
Sul fronte legale, The New York Times ha citato in giudizio OpenAI e Microsoft, contestando la violazione del diritto d’autore sui contenuti giornalistici utilizzati in relazione ai sistemi di intelligenza artificiale. Le aziende hanno respinto le accuse, e la causa resta uno dei banchi di prova della disputa tra editori e sviluppatori di IA.