Stiamo qui a stracciarci le vesti per stabilire se sia lecito usare l’intelligenza artificiale e quando vada dichiarata, mentre il potere di scegliere attraverso quali parole conosciamo il mondo attraversa la storia delle traduzioni, dei libri scolastici e degli imperi, fino a entrare nei modelli che oggi interroghiamo. Vorrei usare l’AI per indagare questa storia, senza concedere a chi la costruisce il privilegio di restare fuori dall’indagine.

MEMRI, il Middle East Media Research Institute, nasce nel 1998 e ha tra i fondatori Yigal Carmon, già colonnello dell’intelligence militare israeliana e consigliere per l’antiterrorismo di due primi ministri. È una delle principali organizzazioni di traduzione in Occidente dei testi arabi. Le sue traduzioni dei media mediorientali raggiungono giornalisti, studiosi e istituzioni occidentali, offrendo materiali immediatamente utilizzabili a persone che spesso non possono verificarne la lingua originale.

Nel 2007, a proposito di una trasmissione palestinese per bambini, MEMRI tradusse le parole di una giovane interlocutrice come «annienteremo gli ebrei», mentre CNN, dopo aver fatto controllare l’audio a diversi arabofoni, riferì una lettura differente: «gli ebrei ci stanno uccidendo». MEMRI difese la propria versione, ma la distanza fra le due interpretazioni mostra quanto possa pesare una traduzione: cambia chi minaccia e chi denuncia di essere minacciato. Per chi vuole approfondire la questione di casi certificati come questo è pieno il web.

L’episodio non dimostra una falsificazione sistematica, mentre il problema della selezione riguarda anche materiali tradotti correttamente: se di una società faccio arrivare soprattutto il predicatore fanatico, il politico antisemita e il commentatore delirante, posso costruire una rappresentazione deformata senza falsificare quasi una parola. Ogni documento può essere autentico e il mondo che ne ricavo profondamente sproporzionato, perché chi legge vede le voci selezionate, ma raramente può misurare il silenzio imposto a tutte le altre.

Se ci spostiamo nell’Africa coloniale, il potere della mediazione entra direttamente nelle aule, dove generazioni di bambini hanno studiato e studiano ancora su manuali scritti e pubblicati dentro gli apparati delle potenze europee; anche dopo le indipendenze, grandi editori europei e americani hanno mantenuto un ruolo importante in diversi sistemi scolastici africani.

La colonizzazione delle menti passava anche dalla possibilità di insegnare a un bambino a guardare la propria terra con gli occhi di chi la possedeva, ordinando la storia intorno alle conquiste europee, presentando territori abitati come luoghi scoperti da chi vi arrivava e distribuendo fra le lingue una gerarchia nella quale alcune producevano conoscenza e altre custodivano soltanto tradizioni.

Questo non rende ogni manuale europeo uno strumento di propaganda né cancella il lavoro degli autori africani, ma obbliga a verificare quanto dell’ordine coloniale sia sopravvissuto nei programmi e nei libri anche dopo la sostituzione delle bandiere, perché ottenere uno Stato non significava possedere immediatamente anche gli strumenti con cui una società insegna a pensarsi.

È su questi materiali che vorrei mettere al lavoro l’intelligenza artificiale, confrontando traduzioni e originali, voci selezionate e voci escluse, manuali coloniali e libri prodotti dagli editori africani, per ricostruire come il potere abbia organizzato ciò che poteva essere conosciuto; un’indagine che deve comprendere anche i modelli impiegati, verificando quali lingue, fonti e categorie privilegino, perché potrebbero riprodurre nelle loro analisi le stesse gerarchie che cerchiamo di portare alla luce.

Usare l’AI per indagare come si è formata la nostra conoscenza richiede di interrogare anche chi ne sceglie i dati, ne orienta le risposte e ne stabilisce i limiti, perché quella stessa autorità che cerchiamo nelle traduzioni e nei manuali si esercita oggi anche attraverso i modelli. Chi ha scelto cosa farci leggere non è molto diverso da chi decide cosa e come deve essere la AI che usiamo.