L’intelligenza artificiale potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell’intero Internet nel giro di 6-12 mesi, senza un rallentamento del suo sviluppo. È il rischio indicato da Dario Amodei, a capo di Anthropic, che ha definito il ritmo «esponenziale» dei progressi un «segnale d’allarme» per il settore.
Le parole del fondatore di Anthropic
«Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido», ha ammesso il manager italoamericano in un’intervista a Cbs News, di cui è stata diffusa un’anticipazione e che andrà in onda a “Cbs News Sunday Morning”. Per descrivere l’accelerazione, Amodei ha usato una sequenza: «uno, poi due, poi quattro, poi otto, poi 16, poi 32». Il settore, ha affermato, si trova «sulla curva», che «sta iniziando a farsi ripida».
L’invito a rallentare non coincide però con una richiesta di fermare lo sviluppo. «Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto», ha proseguito Amodei. Si tratta, ha aggiunto, di «un segnale d’allarme: dobbiamo rallentare». Servono misure di sicurezza capaci di stare al passo «con la velocità con cui la tecnologia stessa evolve».
L’intervista è arrivata a poche ore dalla pubblicazione di un intervento sul suo blog. Amodei vi ha esortato le aziende dell’IA a procedere più lentamente e con maggiore cautela, sottolineando l’importanza della prevenzione dei rischi. La proposta ha ricevuto subito il sostegno di Elon Musk, di SpaceX, e Sam Altman, di OpenAI.
Il piano in tre punti mira a «gestire il ritmo di avanzamento della frontiera tecnologica»: prevede i valutatori interni, il coordinamento democratico e il coordinamento globale.
Se gestita con attenzione, «l’IA può essere l’ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l’umanità», ha scritto Amodei. «Ma, come molte tecnologie precedenti, comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi».