A Gaza, dove migliaia di bambini hanno perso la possibilità di frequentare regolarmente la scuola dopo anni di distruzione e sfollamenti, una fondazione statunitense vuole introdurre un sistema di intelligenza artificiale per monitorare le conversazioni nelle aule. L’obiettivo dichiarato è individuare espressioni considerate antisemite, incitanti all’odio o alla violenza e intervenire quando gli insegnanti si allontanano dal programma educativo stabilito dall’organizzazione. Il progetto, promosso dalla Gaza Children Village, ha però sollevato interrogativi sulla sorveglianza dei minori, sulla libertà di espressione e sul ruolo delle organizzazioni straniere nella gestione dell’istruzione palestinese. A ricostruire l’iniziativa è stata l’Associated Press, in un’inchiesta ripresa da The Independent il 9 ottobre.
Come funziona il sistema di intelligenza artificiale
La fondazione, che gestisce scuole chiamate Academies of Hope, prevede di registrare le conversazioni nelle classi e analizzarle attraverso un sistema basato sull’intelligenza artificiale. Quando il software individua parole o espressioni classificate come problematiche, invia una segnalazione al fondatore dell’organizzazione, David Hasan, che può contattare l’insegnante per approfondire il contesto e fornire indicazioni. Secondo quanto riferito da Hasan durante un webinar a settembre, le registrazioni verrebbero conservate per 72 ore.
La tecnologia sarebbe già stata testata e l’intenzione sarebbe quella di estenderla a decine di classi. Restano tuttavia aspetti fondamentali ancora poco chiari: non è stato precisato quando il monitoraggio dovrebbe entrare in funzione, quali espressioni attiverebbero gli avvisi e se insegnanti, studenti e famiglie siano stati informati del progetto. Non risultano inoltre indicazioni secondo cui la fondazione intenderebbe condividere le registrazioni con soggetti esterni.
Hasan, neurochirurgo nato in Kuwait da genitori palestinesi e docente alla Duke University School of Medicine negli Stati Uniti, ha spiegato di voler interrompere il ciclo di violenza tra israeliani e palestinesi attraverso un’educazione orientata alla pace e alla tolleranza. La sua organizzazione offre agli studenti anche pasti, assistenza medica e supporto psicologico.
Il programma didattico delle scuole si basa in larga parte sui materiali dell’Autorità nazionale palestinese, modificati dall’organizzazione per eliminare, secondo Hasan, contenuti che glorificherebbero la violenza o promuoverebbero posizioni antisemite e ostili a Israele. Il fondatore ha definito il progetto un percorso di “deradicalizzazione” e ha sostenuto che il monitoraggio sia necessario per garantire l’applicazione del programma educativo.
I dubbi sulla sorveglianza dei bambini
La proposta ha incontrato le critiche di esponenti vicini alla fondazione, organizzazioni per i diritti dei palestinesi e almeno un gruppo umanitario partner. Il timore è che uno strumento presentato come mezzo per prevenire l’odio possa trasformarsi in un sistema di controllo delle opinioni espresse da studenti e insegnanti.
Bishara Bahbah, attivista palestinese-americano che fa parte del consiglio della fondazione, ha dichiarato di non essere stato informato del progetto. Ha distinto tra l’utilizzo delle telecamere per valutare l’attività didattica e quello finalizzato a limitare il confronto in aula, sostenendo che gli studenti devono poter discutere liberamente.
Anche un rappresentante di un’organizzazione umanitaria partner, rimasto anonimo, ha avvertito che l’uso dell’intelligenza artificiale per sorvegliare il linguaggio potrebbe aprire una serie di problemi difficili da controllare e portare a una revisione della collaborazione con la fondazione. Alcuni dipendenti delle scuole, inoltre, temerebbero possibili ripercussioni per il programma didattico o per i rapporti dell’organizzazione con enti sostenuti da Israele.
Le preoccupazioni assumono un significato particolare a Gaza, dove la popolazione ha vissuto per anni sotto bombardamenti, sfollamenti e un sistema di sorveglianza militare sempre più tecnologico. Amjad Iraqi, analista dell’International Crisis Group per Israele e i territori palestinesi, ha osservato che l’impiego delle informazioni come strumento di controllo ha alimentato tra i palestinesi il timore che anche parole e comunicazioni possano essere utilizzate contro di loro.
Chi decide cosa devono imparare i bambini palestinesi?
La questione non riguarda soltanto la tecnologia, ma anche chi controlla i contenuti dell’istruzione a Gaza e sulla base di quali criteri. Le organizzazioni critiche verso il progetto sostengono che la fondazione non sia sufficientemente responsabile nei confronti degli organismi palestinesi e delle agenzie delle Nazioni Unite che tradizionalmente hanno partecipato alla gestione delle scuole.
Ines Abdel Razek, co-direttrice del Palestine Institute for Public Diplomacy, ha espresso preoccupazione per il rischio che iniziative di questo tipo limitino l’autonomia dei palestinesi nel decidere come educare le nuove generazioni. Un portavoce del governo palestinese, Mohammad AbuAlrob, ha dichiarato che il programma dell’Autorità nazionale palestinese è incentrato su tolleranza e giustizia, aggiungendo che l’introduzione della sorveglianza nelle classi oltrepasserebbe una soglia importante.
Il dibattito sui programmi scolastici palestinesi non è nuovo. Anche l’UNRWA, l’agenzia delle Nazioni Unite per i rifugiati palestinesi, ha cercato in passato di adattare i materiali didattici per rispettare principi di neutralità, non violenza e non discriminazione, incontrando resistenze da parte di insegnanti e comunità locali.
Nel frattempo, la necessità più urgente resta garantire ai bambini un accesso all’istruzione. Secondo l’UNICEF, centinaia di migliaia di minori a Gaza non frequentano la scuola e gran parte degli edifici scolastici è stata distrutta o danneggiata. La stessa Gaza Children Village afferma che le sue strutture nelle aree centrali e meridionali della Striscia accolgono migliaia di bambini, molti dei quali hanno perso familiari durante la guerra.
La sfida è dunque doppia: ricostruire un sistema educativo devastato e garantire che i bambini possano tornare a imparare in ambienti sicuri. L’intelligenza artificiale può essere utilizzata per sostenere l’insegnamento, ma quando viene impiegata per classificare le parole e le opinioni di chi è in classe diventa anche uno strumento di potere. A Gaza, dove la sorveglianza è già una fonte profonda di paura, la questione è capire chi definisce i limiti del discorso accettabile, chi controlla il sistema e quali garanzie vengono offerte a chi lo subisce.