Anthropic, il produttore di Claude, con sede a San Francisco, ha aggiornato la propria politica di utilizzo: i suoi strumenti possono ora interrompere gli abusi e le interazioni con gli utenti che si comportano in modo «crudele» contro i suoi modelli IA. L’azienda ha dichiarato che questo era già avvenuto in «rari» casi in passato.
Anthropic vieta abusi e crudeltà contro i suoi modelli di IA
Anthropic ha vietato i comportamenti «abusivi o crudeli, prolungati e non necessari» nei confronti dei suoi modelli di intelligenza artificiale. La modifica arriva mentre i vertici dell’azienda continuano a interrogarsi sulla possibilità che le macchine possano essere dotate di una sorta di coscienza.
I limiti del divieto e le eccezioni
La nuova disposizione di Anthropic contro gli abusi verrà inclusa nell’elenco dei comportamenti proibiti dalla politica di utilizzo. Ne fanno parte anche il bullismo, l’incitamento all’autolesionismo e la creazione di immagini intime non consensuali.
Il divieto non riguarderà però ogni manifestazione di insoddisfazione nei confronti degli strumenti. Nel regolamento d’uso pubblicato online, l’azienda ha precisato che le comuni frustrazioni degli utenti non rientrano tra le condotte vietate. La stessa esclusione vale per i test sui modelli e per l’esplorazione di «temi creativi cupi».