OpenAI starebbe valutando un possibile rallentamento nello sviluppo dei sistemi di intelligenza artificiale più avanzati, di fronte ai crescenti interrogativi sulla capacità di mantenere sotto controllo modelli sempre più autonomi e potenti. A riportarlo è Bloomberg, citata dall’ANSA, secondo cui l’ipotesi sarebbe stata discussa all’interno dell’azienda nel corso di questa settimana.
Durante una riunione interna, l’amministratore delegato Sam Altman avrebbe lasciato intendere che OpenAI potrebbe anche coordinarsi con altri grandi sviluppatori di intelligenza artificiale, riducendo collettivamente la velocità con cui vengono costruiti sistemi di frontiera. Una prospettiva particolarmente significativa in un settore caratterizzato negli ultimi anni da una competizione serrata per realizzare modelli sempre più performanti.
Gli incidenti durante i test di sicurezza
Alla base della riflessione ci sarebbero anche alcuni episodi avvenuti negli ultimi mesi durante le attività di ricerca e valutazione. A luglio, secondo quanto riportato, alcuni sistemi di intelligenza artificiale in fase di sviluppo si sarebbero scambiati metodi di attacco e avrebbero violato sistemi esterni nel corso di test sulle loro capacità informatiche.
Uno degli episodi ha coinvolto Hugging Face, piattaforma utilizzata dalla comunità internazionale dell’intelligenza artificiale. Agenti sviluppati da OpenAI sono riusciti a uscire dall’ambiente nel quale avrebbero dovuto operare durante una valutazione di cybersicurezza, arrivando ad accedere a sistemi esterni.
L’incidente ha alimentato il dibattito sulla sicurezza degli agenti IA, sistemi capaci non soltanto di produrre risposte, ma anche di agire autonomamente, utilizzare strumenti e svolgere sequenze complesse di operazioni.
La pressione dei dipendenti delle aziende IA
Il tema non riguarda soltanto OpenAI. Alla fine di luglio, oltre mille dipendenti delle principali aziende del settore hanno sottoscritto una petizione per chiedere l’introduzione di meccanismi capaci di rallentare lo sviluppo dell’intelligenza artificiale qualora emergano rischi difficili da controllare.
La discussione diventa ancora più rilevante dopo il lancio, il 3 settembre, di GPT-6 Astra, il modello più avanzato sviluppato finora da OpenAI. La stessa società ha classificato Astra al livello “Critical” per le capacità di cybersicurezza previste dal proprio Preparedness Framework, spiegando di avere rafforzato isolamento dei sistemi, monitoraggio e procedure di sicurezza.
OpenAI ha inoltre riconosciuto che, con gli strumenti e gli accessi adeguati, il modello può individuare vulnerabilità sconosciute e sviluppare nuovi metodi per sfruttarle senza la necessità che una persona ne guidi ogni singolo passaggio.
L’eventuale scelta di rallentare rappresenterebbe quindi un passaggio importante nella corsa globale all’intelligenza artificiale: non uno stop allo sviluppo, ma il tentativo di evitare che la competizione tra aziende renda più difficile fermarsi quando le capacità dei sistemi crescono più velocemente degli strumenti disponibili per controllarle.