Anche il futuro dell’AI può essere sacrificato per salvaguardare quello dell’umanità e del pianeta. Voglio partire da questa possibilità, portarla dentro la discussione sul progresso, perché abbiamo finito per accettare che tutto possa essere rimesso in discussione davanti all’avanzamento tecnologico: il lavoro, i diritti, le risorse naturali, l’autonomia delle comunità, persino il significato dell’essere umani. Anche la traiettoria della tecnologia deve essere esposta alla stessa possibilità di rinuncia, compresa quella che promette risultati straordinari.

È un longtermismo capovolto. Nella sua declinazione tecnologica, il longtermismo può giustificare sacrifici presenti in nome dell’immenso valore attribuito alle civiltà future, indicando nell’intelligenza artificiale la strada per renderle possibili. Chi sostiene questa visione si attribuisce così un potere enorme: parlare a nome di esseri umani che ancora non esistono e chiedere a quelli che esistono di sostenere il costo della propria promessa. Il futuro diventa una fonte di legittimazione sottratta alla verifica, mentre le rinunce vengono richieste a persone, comunità e territori che hanno un’esistenza concreta.

Vorrei rovesciare la direzione di questo ragionamento: interrogare le ambizioni dell’AI, la sua espansione e i suoi possibili traguardi a partire dal futuro dell’umanità e del pianeta, facendo del discernimento sulla sua direzione una responsabilità collettiva e una questione centrale del nostro tempo. E farlo anche quando funziona, anche quando produce ricchezza, anche quando ci offre capacità che desideriamo, se il prezzo è compromettere la vita e la libertà di chi abita e abiterà questo pianeta, pianeta compreso. È proprio davanti a un vantaggio reale che la scelta acquista il suo significato politico: decidere che cosa siamo disposti a lasciare incompiuto perché altre possibilità di esistenza rimangano aperte.

La realizzazione dell’AI non può diventare un obbligo storico al quale tutto il resto deve adattarsi. Nessuna promessa di intelligenza futura conferisce a chi la sviluppa il diritto di disporre del mondo presente, e nessuna capacità tecnica ci esonera dalla responsabilità di decidere se, quanto e in quale direzione svilupparla. Anche una tecnologia straordinaria deve poter incontrare una comunità umana capace di dirle: fin qui. Fin qui significa assumersi la responsabilità di orientarla, attraverso un discernimento collettivo che ne riconosca le possibilità senza considerare inevitabile ogni suo sviluppo.

Quando parlo delle grandi opportunità dell’intelligenza artificiale, spesso, mentre lo sto dicendo, dentro di me si affaccia un pensiero: ma non è che sto dicendo una fesseria? La uso, ne riconosco l’utilità, vedo cose che fino a poco tempo fa sarebbero state difficili persino da immaginare, scoperte incredibili che farà, faremo, eppure mi rimane il dubbio di attribuire a queste possibilità un significato che ancora non siamo in grado di verificare.

Un vantaggio per chi usa uno strumento tecnologico può convivere con una perdita collettiva di autonomia. Una tecnologia può essere un’opportunità per molti senza esserlo per tutti, e può renderci individualmente più capaci mentre ci rende collettivamente meno autonomi. Posso fare più cose, più velocemente, e dipendere sempre di più da infrastrutture, regole e decisioni sulle quali non ho alcun potere. L’utilità che sperimento non mi dice ancora quanta autonomia stiamo guadagnando o cedendo come società, come umanità né quali costi ricadano su chi e che cosa di quei vantaggi gode poco o nulla.

Anche all’arrivo di Internet e poi del web parlavamo di conoscenza accessibile, gerarchie destinate a indebolirsi, intelligenze collettive, un nuovo modello deliberativo finalmente democratico. Ricordo quelle aspettative e quanto fosse facile riconoscere, in ogni esperienza riuscita, in ogni nuova scoperta, un’anticipazione del mondo che sarebbe venuto.

Nel 2010 Clay Shirky pubblicò Surplus cognitivo, un libro che cominciava dalla Londra del Settecento e dalla diffusione del gin. Nella sua lettura, quel consumo accompagnava lo spaesamento di una società investita da trasformazioni profonde: l’alcol aiutava a sopportare una vita urbana per la quale mancavano ancora abitudini, relazioni e istituzioni adeguate. Shirky riprendeva quell’episodio per interrogarsi su come le società assorbono il tempo e le energie resi disponibili dai cambiamenti del lavoro e dell’organizzazione sociale.

Secoli dopo, la televisione avrebbe occupato una parte enorme del tempo libero, assorbendo davanti allo schermo energie e capacità che avrebbero potuto trovare altri impieghi. Internet apriva la possibilità di mettere in relazione quelle risorse: anche una piccola parte delle ore trascorse a guardare programmi televisivi, dedicata invece a scrivere, discutere, condividere conoscenze e collaborare, avrebbe potuto produrre qualcosa di collettivamente rilevante. Il surplus cognitivo era questa disponibilità di tempo e intelligenza umana che la rete permetteva di organizzare, dando alla generosità delle persone una possibilità di cooperazione prima difficilmente praticabile su quella scala. Intelligenza collettiva, pace e cibo per sempre e per tutti, Wikipedia che mostrava che poteva accadere davvero.

Quella possibilità era reale, e proprio per questo il ricordo mi rende più cauto quando parlo dell’AI. La collaborazione e la concentrazione del potere hanno potuto crescere dentro la stessa rete; il sapere condiviso ha convissuto con l’appropriazione privata delle infrastrutture, dell’attenzione e delle relazioni. Aver visto persone costruire insieme qualcosa di straordinario non ci permetteva di sapere chi avrebbe governato l’ambiente in cui lo stavano facendo, né quale società sarebbe cresciuta intorno a quell’esperienza. È questo passaggio che mi torna in mente mentre pronuncio le parole grande opportunità.

Dentro questa prospettiva si collocava anche una convinzione politica: la diffusione delle tecnologie, l’espansione dei mercati e la libertà degli individui si sarebbero sostenute reciprocamente. La storia sembrava avere una direzione riconoscibile, verso un mondo più aperto, trasparente e interconnesso, nel quale confini e gerarchie avrebbero perso progressivamente importanza. Una parte del pensiero liberale, da qui gli errori clamorosi dei progressisti americani da Clinton a Obama di aver favorito un ecosistema chiuso e capitalistico del digitale, aveva trasformato una possibilità storica in una destinazione, trattando gli ostacoli come ritardi lungo un percorso già stabilito.

Oggi quella certezza è difficile da sostenere. La rete ha aperto possibilità straordinarie mentre diventava il luogo di nuove concentrazioni di potere, dipendenze e opacità. Il capitalismo ha saputo appropriarsi della partecipazione, delle relazioni e della produzione spontanea di conoscenza, trasformandole in risorse economiche. Anche la generosità di cui scriveva Shirky poteva alimentare infrastrutture possedute da altri. Con l’AI dovremmo almeno evitare di dedurre dalla meraviglia per ciò che riesce a fare una fiducia anticipata nel mondo che stiamo costruendo intorno a essa.

Dentro il sistema capitalistico digitale la parte umana tecnologica è il rococò digitale; Il rococò rivestiva il privilegio aristocratico di grazia, specchi e ornamenti; il rococò digitale riveste il potere delle Big Tech di meraviglie generate dall’AI, mentre noi decoriamo una libertà sulla quale decidiamo sempre meno.

Questa condizione nella quale la potenza tecnica si accompagna a una proliferazione di rappresentazioni, promesse e ornamenti che rende sempre più difficile leggere le strutture del potere. Ogni cosa può essere ampliata, riscritta, personalizzata, resa coinvolgente; ogni esperienza può ricevere una versione più seducente. Il futuro assume la forma di un aggiornamento continuo, e diventa meno chiaro quanto di questo movimento allarghi davvero la nostra capacità di vivere, comprendere e decidere. La successione delle novità prende il posto di una direzione condivisa.

Dentro questo ambiente, i giganti tecnologici assumono funzioni che oltrepassano quelle di un fornitore di servizi. Stabiliscono regole, amministrano accessi, risolvono controversie, distribuiscono visibilità e possono escludere persone e attività dagli spazi che controllano. Il richiamo alle monarchie assolute, alla corte di Luigi XIV, serve a interrogare questa concentrazione di funzioni: chi abita un ambiente dipende da decisioni sulle quali dispone di possibilità limitate di intervento. Anche gli Stati che integrano infrastrutture digitali, identificazione e controllo possono rafforzare questa asimmetria, portando la capacità amministrativa sempre più vicino alla vita quotidiana.

La promessa liberale del mercato, dei diritti e della libertà di espressione continua a essere pronunciata dentro queste architetture. Può però diventare la decorazione attraverso cui il potere si presenta: siamo invitati a esprimerci mentre ogni gesto alimenta la profilazione; ci viene riconosciuta una libertà di scelta dentro possibilità ordinate da sistemi che conosciamo poco; accettiamo condizioni che incidono sulla nostra vita senza avere partecipato alla loro definizione. I diritti rischiano di dipendere, nella loro concreta praticabilità, dall’accesso a un account e dalle decisioni di chi lo amministra.

La trasformazione investe anche il mercato. Dentro un ecosistema proprietario, chi gestisce l’infrastruttura può stabilire le condizioni degli scambi, imporre commissioni, ordinare l’offerta e decidere quali attività incontreranno il loro pubblico. La concorrenza si svolge su un terreno il cui proprietario può essere contemporaneamente arbitro e concorrente. Questa capacità di organizzare il mercato permette di estrarre valore dalla dipendenza di chi lo abita.

Il rococò digitale, e qui la AI usate per questo fa male, dà a questa organizzazione una forma piacevole, disponibile, persino premurosa. L’abbondanza intrattiene e può anestetizzare la capacità critica, perché tutto chiede una reazione immediata e lascia poco spazio all’elaborazione. La vita tende a diventare una rappresentazione continua di sé, nella quale occorre mostrarsi, aggiornarsi, rendersi riconoscibili. L’AI offre gli strumenti per perfezionare questa rappresentazione e moltiplicarla, rendendo accessibile a chiunque una piccola scenografia personale.

Questa organizzazione del potere richiede anche una diversa lettura dello spazio. Le interpretazioni geopolitiche fondate sul controllo dei territori o sulle grandi appartenenze di civiltà, lasciano aperto il problema di descrivere sovranità che si esercitano attraverso reti, infrastrutture e sistemi di calcolo. La geografia materiale resta decisiva, perché chip, cavi, energia e centri di elaborazione hanno una collocazione precisa; a essa si sovrappone però una geografia delle dipendenze nella quale conta chi controlla i nodi, gli accessi e le connessioni.

Nel 2019, scrivendo della democrazia dentro la rivoluzione digitale, chiamavo questi ambienti metaterritori. Riprendevo da Franco Farinelli la relazione fra lo Stato moderno e uno spazio concepito come continuo, omogeneo e isotropo. Le piattaforme possono organizzare attività e relazioni senza rispettare quella geometria, collegando persone lontane e sottoponendole alle medesime regole private. Lo Stato esercita il proprio mandato su un territorio, mentre una parte crescente delle condizioni della vita collettiva viene stabilita attraverso spazi che lo attraversano.

Con l’AI, questi metaterritori comprendono anche gli ambienti nei quali formuliamo domande, interpretiamo eventi e immaginiamo decisioni. La sovranità riguarda allora il controllo delle infrastrutture materiali insieme alla capacità di organizzare ciò che diventa visibile, dicibile e plausibile. Il rococò digitale è la forma quotidiana di questa sovrapposizione: una ricchezza di possibilità percepite che può accompagnarsi a una concentrazione delle possibilità di decidere.

Per questo trovo prematuro dichiarare l’AI un’opportunità per l’umanità, anche mentre ne riconosco le utilità. Vorrei mettere al centro la parola discernimento: la capacità collettiva di interrogare ciò che stiamo costruendo, distinguere i vantaggi immediati dalle conseguenze durature e comprendere per chi una possibilità diventa un beneficio e su chi ricadono i suoi costi.

Un lavoro da rendere centrale nella ricerca, nell’educazione e nelle decisioni politiche, come dovrebbe esserlo la questione climatica. Se una certa ideologia tecnologica ci chiede di ripensare l’umanità in funzione del futuro dell’AI, il discernimento capovolge questa prospettiva e interroga il futuro dell’AI a partire dall’umanità, dal pianeta e dall’autonomia delle generazioni che verranno. La direzione del suo sviluppo deve poter maturare dentro questo confronto, invece di essere accettata come un destino già deciso dalle Big Tech, dalla politica collusa e incapace e dalle finte democrazie statali.