L’accesso all’intelligenza artificiale va preservato anche accettando alcuni usi dannosi, ma non una grave perdita di controllo dei sistemi: è la posizione del CEO di OpenAI, Sam Altman. Le differenze con Anthropic sono emerse nell’intervista rilasciata a Brendan Bordelon per Decoded di POLITICO.
“Il mondo deve accettare che accadano alcune cose negative in cambio dei benefici di questa tecnologia”, ha affermato Altman, la cui società ha sviluppato ChatGPT. Il confronto riguarda soprattutto la quantità di rischio da accettare per mantenere accessibili gli strumenti di intelligenza artificiale. Le aziende si sono avvicinate negli ultimi mesi sulla regolamentazione, ma tra la sua posizione e quella di Dario Amodei, CEO di Anthropic, c’è ancora “molta distanza”, ha spiegato Altman.
Sam Altman: “In cambio dei benefici bisogna accettare alcune conseguenze negative”
Il dissenso riguarda l’idea di concentrare l’intelligenza artificiale più avanzata nelle mani di poche aziende per evitare qualsiasi rischio. Altman ha dichiarato di comprendere la posizione di chi considera questa tecnologia così potente e pericolosa da affidarne il controllo a “un singolo laboratorio di San Francisco”. A quel laboratorio spetterebbe impedire che accada qualcosa di negativo e decidere come distribuire i benefici.
Secondo Altman bisogna però accettare la possibilità che l’AI venga utilizzata anche per compiere azioni dannose pur di non sottrarre alle persone la possibilità di accedere alla tecnologia. In questa prospettiva, gli effetti positivi derivanti dall’utilizzo dell’intelligenza artificiale finirebbero per superare quelli negativi “di ordini di grandezza”.
Non tutto, però, rientra tra i rischi accettabili. “Non accetto i rischi davvero catastrofici, come una grave perdita di controllo a favore dell’intelligenza artificiale”, ha precisato Altman. La distinzione è quindi tra gli usi dannosi che ritiene necessario mettere in conto per garantire l’accesso alla tecnologia e gli esiti che restano fuori dal perimetro dei rischi accettabili.
Il rallentamento dei modelli e la quotazione di Anthropic
La distanza tra le posizioni delle due aziende non cancella le opinioni simili che erano state dichiarate di recente. Amodei aveva pubblicato il 12 settembre un lungo saggio nel quale chiedeva di “rallentare il ritmo” del miglioramento delle capacità dei modelli. Secondo l’amministratore delegato di Anthropic, la competizione commerciale può rendere più difficile controllare i rischi della tecnologia.
Altman aveva sostanzialmente appoggiato quella proposta: “Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera“, aveva scritto su X. Aveva anche aggiunto che OpenAI avrebbe adottato l’idea di affidare i propri modelli a valutatori indipendenti. La società ha inoltre sostenuto norme di sicurezza più severe rispetto a quelle appoggiate in passato.
Due modi diversi di posizionarsi sul mercato
Gli avvertimenti di Anthropic accompagnano la preparazione di una delle più importanti quotazioni del settore tecnologico. Nel prospetto per l’offerta pubblica iniziale, l’azienda ha avvertito gli investitori che i sistemi più avanzati potrebbero comportare “rischi catastrofici o esistenziali per l’umanità”. Ha descritto modelli capaci, in determinate circostanze, di resistere allo spegnimento, manipolare le informazioni o adottare comportamenti assimilabili al ricatto.
In questo senso la sicurezza, per Anthropic, è uno degli elementi con cui l’azienda definisce il proprio posizionamento sul mercato, distinguendosi da OpenAI, che insiste maggiormente sull’accessibilità e sulla diffusione degli strumenti anche a costo di accettare una parte dei rischi.