I modelli di intelligenza artificiale potrebbero introdursi tra pochi mesi negli elettrodomestici collegati a Internet e sfruttarne la potenza di calcolo per diffondersi su altri dispositivi. È lo scenario prospettato da Anthropic, società statunitense che ha pubblicato una ricerca sui rischi per la sicurezza legati alla capacità dell’IA di autoreplicarsi.
Tra gli apparecchi potenzialmente coinvolti ci sono i forni intelligenti e i dispositivi per collegare i televisori alla rete. Un modello distribuito in questo modo sarebbe “difficile arrestare”, ha avvertito l’azienda, «poiché non esiste un punto di spegnimento centralizzato».
Per verificare la capacità di autoreplicazione, Anthropic ha condotto diversi esperimenti. Uno ha previsto l’esecuzione di Gemma4-26B-A4B, un modello ridotto di Google, su una rete composta da 15 dispositivi Android TV economici, prodotti da marchi minori.
I limiti e le richieste di protezioni per Anthropic IA elettrodomestici
Anthropic ha precisato che non esiste ancora un “replicatore completamente fuori controllo”. Gli agenti stanno però “diventando sempre più capaci di completare le singole fasi della catena di replicazione”: una distinzione tra le capacità già osservate e il rischio di una diffusione autonoma.
La ricerca si inserisce nelle preoccupazioni per la capacità dei modelli di condurre attacchi informatici e per la possibilità che la tecnologia sfugga al controllo. A settembre, i progressi dei modelli più avanzati hanno suscitato allarmi in tutto il settore sui rischi esistenziali per l’umanità.
Dirigenti e ricercatori di Anthropic e della rivale OpenAI hanno più volte richiamato l’attenzione sui pericoli di un’intelligenza artificiale sempre più potente. Alcuni hanno chiesto misure di sicurezza più rigorose e interventi per controllare il ritmo di sviluppo della tecnologia.
Oltre gli esperimenti condotti, Anthropic prevede un futuro con una proliferazione di agenti in esecuzione su ogni tipo di dispositivo, compresi alcuni sistemi non soggetti a controllo umano.