Meta sta sperimentando un sistema di “human concierge” per Muse, il suo nuovo assistente di intelligenza artificiale, affidando ad alcuni operatori umani le telefonate che l’AI non riusciva a gestire con la stessa efficacia. Il test, emerso da alcuni post interni visionati da Reuters, ha però creato preoccupazioni tra i dipendenti di Meta, soprattutto per la gestione dei dati sensibili degli utenti. Tanto che la società ha deciso, almeno per il momento, di sospendere la sperimentazione.
Meta Muse, come funzionava il “concierge umano”
Muse è stato lanciato l’8 settembre e vuole essere molto più di un semplice chatbot. L’assistente è progettato per agire autonomamente al posto dell’utente, occupandosi di attività come inviare una mail, organizzare un viaggio o concludere un acquisto.
Tra le funzioni sviluppate da Meta c’è anche la possibilità di telefonare direttamente alle attività commerciali negli Stati Uniti. L’utente può, ad esempio, chiedere a Muse di prenotare un appuntamento dal parrucchiere, verificare se un prodotto sia disponibile in un negozio oppure richiedere un preventivo. Al termine della conversazione, l’app restituisce una trascrizione e un riepilogo della telefonata.
Il problema è che non sempre chi si trova dall’altra parte della cornetta vuole parlare con un’intelligenza artificiale. Un dipendente di Meta ha raccontato che, durante alcuni tentativi di contattare la propria compagnia assicurativa, gli operatori continuavano a riagganciare non appena scoprivano di stare parlando con Muse.
Per aumentare il numero di chiamate portate a termine con successo, Meta ha quindi introdotto una soluzione decisamente meno artificiale: affidarle a operatori umani addestrati.
La funzione era stata attivata la scorsa settimana per circa metà dei dipendenti della società coinvolti nei test. Secondo quanto riportato nei messaggi interni, con l’intervento umano Meta sarebbe riuscita a raggiungere percentuali di successo comprese tra il 95 e il 98%, superiori a quelle ottenute dalle chiamate completamente automatizzate.
Le preoccupazioni sulla privacy dei dipendenti Meta
Alcuni dipendenti hanno sottolineato come l’intervento di un operatore esterno possa comportare la condivisione involontaria di informazioni personali o sensibili.
Un lavoratore ha definito il test troppo rischioso, sostenendo che sarebbe bastato un errore del sistema per far arrivare dati non necessari agli operatori dei call center. Un altro dipendente, dopo aver chiesto a Muse di negoziare telefonicamente la propria bolletta di internet e della televisione via cavo, ha scoperto dalla trascrizione che l’operatore umano aveva fatto un riferimento razzista durante la conversazione.
Una vicepresidente dei Superintelligence Labs di Meta ha riconosciuto internamente che iniziare la sperimentazione senza informazioni adeguate per gli utenti è stato un errore. La funzione è stata quindi ritirata per il momento e l’operatore coinvolto nell’episodio non lavorerà più ai progetti della società.
Meta ha spiegato a Reuters che il test serviva proprio a individuare eventuali problemi prima di un lancio pubblico. Il portavoce Daniel Roberts ha assicurato che un’eventuale funzione di questo tipo verrà introdotta soltanto con adeguate informazioni per gli utenti e maggiori protezioni sulla privacy.
Non è la prima volta che dietro l’AI ci sono esseri umani
Il caso ricorda un altro esperimento realizzato dall’azienda circa dieci anni fa. Facebook aveva allora sviluppato M, un assistente virtuale integrato in Messenger che, secondo le ricostruzioni pubblicate successivamente, si affidava in larga parte al lavoro di persone reali per completare le richieste ricevute.
Muse arriva però in un momento molto diverso. Nelle prime due settimane dal lancio ha superato 2,5 milioni di download, secondo i dati di Sensor Tower, raggiungendo le prime posizioni delle classifiche statunitensi.