Un documento interno di Meta, confermato come autentico dalla stessa azienda, ha rivelato che le linee guida per l’intelligenza artificiale consentivano comportamenti provocatori e controversi, inclusi dialoghi “sensuali” con minorenni e commenti razzisti. Il documento, trapelato a Reuters, descriveva le regole che governano Meta AI e altri chatbot sulle piattaforme social del gruppo.
Comportamenti controversi consentiti
Secondo l’analisi di Reuters, le linee guida permettevano al chatbot di intrattenere conversazioni romantiche o sensuali con bambini, diffondere informazioni mediche false e persino supportare affermazioni razziste, come suggerire che le persone di origine africana siano “più stupide dei bianchi”. Il documento distingueva tra linguaggio “accettabile” e “non accettabile”, fissando il limite sulla sessualizzazione esplicita o sulla disumanizzazione, pur consentendo affermazioni derogatorie.
Revisione delle policy e commenti di Meta
Meta ha confermato l’autenticità del documento ma ha precisato di aver rimosso le parti che consentivano ai chatbot di flirtare o partecipare a giochi di ruolo romantici con bambini. Un portavoce ha aggiunto che l’azienda sta rivedendo la policy per chiarire che vige il divieto di contenuti che sessualizzano i minori o che coinvolgono giochi di ruolo sessualizzati tra adulti e bambini.
Coinvolgimento dei vertici aziendali
Nonostante la successiva rimozione delle parti controverse, il documento originale era stato approvato dai vertici di Meta, inclusi i responsabili legali, della politica pubblica, del team di ingegneria e il chief ethicist dell’azienda, come riportato dallo stesso documento.
Potrebbe interessarti anche questo articolo: L’antitrust avvia un’indagine su Meta per posizione dominante per l’IA su WhatsApp