Manipulation of Public Opinion

Tracce del mio intervento al panel “Manipulation of Public Opinion”  durante la “AI – Balancing Liberty, Security and Democracy. International Conference 2026″ organizzato dagli ordini degli avvocati di Lucca, Verona e Trento. Grazie a Francesco Spina, Francesco Tregnaghi e Flavia Betti Tonini. 

Un ristorante pieno, una sera qualunque. Ai tavoli si parla, si ride, qualcuno alza la voce per farsi sentire sopra gli altri, e a uno di quei tavoli siede da solo un uomo, dentro un abito che gli sta troppo stretto. A un certo punto alza un dito, tende l’orecchio e fa: psss. Nessuno gli bada. Lui ripete il gesto, psss, e questa volta qualcuno si gira, una conversazione si interrompe, poi un’altra, finché tutta la sala tace e ascolta insieme a lui, aspettando di sentire quello che lui ha sentito. Non c’è niente.

Botho Strauß racconta questa scena in Paare, Passanten. Non sappiamo che cosa volesse quell’uomo; sappiamo però che cosa ha ottenuto: tutta la sala ha smesso di parlare, e nessuno sapeva perché. Non ha spiegato niente, non ha detto che cosa stesse ascoltando; gli è bastato fare la faccia di uno che sa qualcosa, e gli altri gli sono andati dietro. L’opinione pubblica comincia anche così, con qualcuno che indica dove guardare, che cosa ascoltare, che cosa merita di interrompere tutto il resto, tanto che prima ancora di discutere se una notizia sia vera o falsa le abbiamo già dedicato un’attenzione che abbiamo sottratto ad altre.

Richiamare l’attenzione non significa manipolare, e lo fa chiunque abbia qualcosa da mostrare. Chi vuole manipolarci, però, può partire da lì, e portarci dove vuole senza farsi notare, in modo che non ci accorgiamo della spinta e non possiamo nemmeno chiederci se ci sta bene. La menzogna ci fa credere qualcosa che chi parla sa essere falso, la coercizione ci piega con una minaccia, mentre la manipolazione può accompagnarci fino a una scelta che sentiamo interamente nostra e della quale qualcuno ha preparato, a nostra insaputa, le condizioni. Non serve il falso per manipolare.

E corriamo veloce verso il digitale. Nel 2012 Facebook modifica per una settimana i feed di 689.003 utenti di lingua inglese: ad alcuni nasconde una parte dei post allegri degli amici, ad altri una parte di quelli tristi. Sono tutti post autentici, e a cambiare è soltanto la selezione; eppure chi si ritrova davanti un mondo un po’ più cupo comincia a scrivere in modo un po’ più cupo, e viceversa. L’effetto è piccolo e non dimostra che Facebook possa decidere come dobbiamo sentirci, ma dimostra che chi distribuisce le informazioni può influenzare ciò che esprimiamo senza inventare una sola notizia. L’uomo del ristorante è diventato una procedura, e la sala, che in quell’esperimento aveva settecentomila tavoli, oggi ne conta alcuni miliardi.

Con l’intelligenza artificiale quella procedura ha imparato a parlare. Risponde, accoglie un’obiezione, riformula un argomento, e può farlo nello stesso momento con moltissime persone, sedendosi a ogni tavolo e dando a ciascuno l’impressione di una conversazione costruita soltanto per lui. 

Su Reddit esiste un forum nel quale le persone pubblicano un’opinione e invitano gli altri a far loro cambiare idea. Fra il novembre 2024 e il marzo 2025 alcuni ricercatori dell’Università di Zurigo vi hanno introdotto, senza avvertire la comunità, degli account che pubblicavano risposte generate dall’AI e che per risultare credibili si inventavano una vita, presentandosi ora come una persona sopravvissuta a una violenza, ora come qualcuno che lavora con i traumi; in una parte dell’esperimento il sistema leggeva anche i vecchi messaggi dell’interlocutore per costruirgli la risposta su misura. Secondo i risultati preliminari, quei commenti ottenevano il riconoscimento di un cambiamento d’opinione da tre a sei volte più spesso del riferimento umano usato nel confronto. È un risultato circoscritto a quel forum, fra persone che chiedevano di essere contraddette, ma l’inganno è concreto: credevano di ascoltare qualcuno che portava un’esperienza, e quell’esperienza non era mai esistita. Nessuno sapeva chi sedesse a quel tavolo.

Gli psicologi dicono che pensiamo in due modi. C’è un pensiero veloce, quello che ci fa frenare prima ancora di aver capito perché, e c’è un pensiero lento, quello che usiamo per fare un conto o per scegliere un mutuo: li chiamano Sistema 1 e Sistema 2. Da quando usiamo l’intelligenza artificiale alcuni studiosi ne hanno aggiunto un terzo, che chiamano Sistema 0, ed è il lavoro che la macchina fa prima di noi, quando sceglie che cosa metterci davanti. Se chiedo a un agente quali sono le soluzioni migliori e lui me ne propone tre, io posso ragionarci sopra con tutta la calma e l’attenzione del mondo, ma sto scegliendo fra tre, e le altre le ha scartate lui. Ragiono con la mia testa, su una tavola che ha apparecchiato qualcun altro.

Poi ci sono i deepfake, cioè i video e le voci costruiti dall’intelligenza artificiale, fatti così bene che sembrano veri. Vediamo un politico dire una frase che non ha mai detto, sentiamo la voce di una persona confessare una cosa che non ha mai fatto, e prima che qualcuno riesca a dimostrare che è un falso il video ha già fatto il giro, una reputazione è distrutta o una decisione è presa. E c’è il rovescio: chi è stato ripreso davvero mentre diceva o faceva qualcosa può sempre rispondere che quel video è un deepfake. Da quando le prove si possono fabbricare, si possono anche negare quelle vere. 

E allora mi sono ricordato due storie, quando arrivò Google Stefano Rodotà un giorno, credo nel 2005, mi disse vedi non siamo più il cogito ergo sum, siamo quello che Google dice che noi siamo. Che bravo che era Stefano.

E poi Cartesio. Nelle Meditazioni fa un esperimento estremo: immagina che un genio maligno, potentissimo e astuto, impieghi tutte le sue forze per ingannarlo, e che il cielo, la terra, i colori, il suo stesso corpo siano illusioni preparate da lui. Gli resta una certezza che l’ingannatore non può togliergli: per essere ingannato deve esistere. Può sbagliare su tutto ciò che pensa, ma mentre pensa non può essere nulla.

Da una parte l’ingannatore, dall’altra un uomo solo, certo della propria esistenza dentro un mondo del quale ha messo in dubbio ogni cosa. E per riavere quel mondo la certezza di esistere non basta: Cartesio deve dimostrare l’esistenza di un Dio che non inganna, sul quale fondare la possibilità di conoscere qualcosa oltre sé stesso.

Ora certo qui non cerchiamo a un Dio che ci aiuti, ma i deepfake ci avvicinano a un frammento di quella condizione: vediamo, ascoltiamo, e non sappiamo più se ciò che abbiamo davanti possa valere come testimonianza. Cominciamo a cercare qualcuno o qualcosa che ci aiuti. Anche questa ricerca può renderci vulnerabili: chi promette di liberarci dall’inganno può ottenere il potere di decidere di che cosa dobbiamo fidarci.

Ma una democrazia non può funzionare con milioni di persone sole, ognuna sicura soltanto di sé e in attesa che qualcuno le dica a che cosa credere. Ha bisogno che su alcune cose ci si possa mettere d’accordo: che quel video è vero, che quella frase è stata detta, che quella decisione l’ha presa lui. E ha bisogno che chiunque possa andare a controllare, e che a chi dice fidatevi si possa rispondere fammi vedere. Quando questo non è più possibile non si riesce più a dire chi ha fatto che cosa, e a chi comanda basta una frase per cavarsela: quel video è falso, non ero io. La verità non è razionale e relazionale.

Harari dice che siamo fatti di storie e che il nostro futuro è una narrazione. Come non essere d’accordo con li questa volta. A Palo Alto all’’Institute for the Future, il motto principale è che sul futuro non esistono fatti, ma solo narrazioni. Esistono diversi tipi di narrazioni: quelle più potenti arrivano dagli sviluppatori, dai produttori e dagli inventori delle intelligenze artificiali, a partire da figure come Hinton e LeCun, che spesso prospettano scenari catastrofici. Penso ad Anthropic, che nelle scorse settimane ha depositato il prospetto per quotarsi in borsa e che, nelle 93 pagine di quel prospetto dedicate ai fattori di rischio, ha riservato ampio spazio al pericolo che l’intelligenza artificiale si riveli catastrofica e arrivi a minacciare l’esistenza stessa dell’umanità. 

È curioso, se ci si ferma un momento: un’azienda chiede soldi al mercato, e quindi a noi, e nello stesso documento avverte che quei soldi potrebbero servire a costruire qualcosa capace di distruggerci. È una narrazione, perché nessuno sa che cosa accadrà davvero, ma i manager di Anthropic la raccontano molto bene: ammettono il rischio e si propongono, implicitamente, come gli unici capaci di gestirlo. La vostra salvezza la troverete soltanto seguendoci, e comprando i nostri prodotti.

Anche per questo è intervenuta l’istituzione che da molti secoli si occupa della salvezza dell’umanità, e Papa Leone ha scritto sull’intelligenza artificiale l’enciclica Magnifica Humanitas. Non l’ha voluta soltanto perché è laureato in matematica, ma anche, e per me prima di tutto, perché è americano: è nato a Chicago, nel cuore dell’industria degli Stati Uniti, conosce da vicino quella realtà e sa che questi colossi non si fermano davanti a niente e a nessuno.

Nei primi anni Duemila, con l’arrivo di Google, Amazon, Facebook e di tutti gli altri, abbiamo perso il primo treno. Avremmo potuto definire i dati delle persone come un bene collettivo. Non lo abbiamo fatto. Li abbiamo lasciati diventare materia prima estrattiva per pochi. Internet era la cosa più decentralizzata al mondo ed è stata centralizzata come mai prima. Con l’AI abbiamo un’altra occasione: costruire istituzioni nelle quali le comunità possano decidere come vengono usati i loro dati, quali sistemi adottare e a quali condizioni. Il discernimento deve poter diventare una decisione che produce effetti, altrimenti restiamo capaci di capire quello che altri continuano a decidere.

Sulle Alpi c’è chi ce l’ha fatta, e da secoli. A Peio, a circa millecinquecento metri, intorno alle case ci sono gli orti e i primi prati, che sono di ciascuno, perché ciascuno riesce a curarli con le proprie mani. Salendo arrivano i boschi, e ancora più su i pascoli in quota, troppo lontani e troppo faticosi per uno solo, e infatti sono di tutti, proprietà collettiva. La regola è semplice e antica: più una risorsa è difficile da gestire da soli, più chiede di essere curata insieme. Quei boschi e quei pascoli hanno dato per secoli legname, formaggio, lavoro, e hanno tenuto in piedi famiglie e paesi.

La proprietà collettiva è sempre stata un’impresa, non una rinuncia. È la comprensione che certe risorse, se lasciate alla logica del singolo, si degradano; se invece vengono tenute insieme, producono qualcosa che nessuno avrebbe potuto costruire da solo: un paesaggio, una comunità, un futuro. 

L’attenzione, le informazioni che ci arrivano, i dati che lasciamo, le condizioni in cui ci formiamo un’opinione sono il nostro pascolo in quota.

Da soli non ce la facciamo: davanti a un sistema che ci conosce e ci risponde, ciascuno di noi è la sala del ristorante, e si volta. Alla manipolazione non si resiste uno per uno: si resiste come si tiene un pascolo, in comune.

L’uomo di Strauß fa psss, e tutti smettono di parlare. Una sala che ha imparato a fare le cose insieme, prima di tacere, si guarda in faccia e si chiede: tu che cosa hai sentito?