Cambio però alcune coordinate rispetto agli immaginari più comuni. La prima è il tempo: quei racconti hanno bisogno di una data, del momento in cui qualcosa rompe l’equilibrio. A me interessano invece trasformazioni che non arrivano all’improvviso, ma si accumulano, diventano abitudine e poi normalità. Hanno una durata e non hanno un evento.

La seconda è il luogo. Gli immaginari catastrofici sono scritti da nessun posto: succedono al mondo, o a una città che potrebbe essere qualsiasi città, e per questo non riguardano nessuno. Ogni scenario che segue accade invece in un paesaggio preciso, montagna, pianura, collina, città, mare, isola, con quote, colture, distanze e mestieri. I luoghi non hanno nome, perché non sono casi: sono paesaggio.

La terza è il corpo. Negli immaginari più comuni la macchina ha una figura: cammina, ha braccia, prende visibilmente il posto di qualcuno. Quella figura è anche la ragione per cui quei racconti si lasciano archiviare come fantascienza, e rimandare. In nessuno degli scenari che seguono compare un robot umanoide. Non perché non arriveranno, ma perché non servono: ciò che si estingue in queste sei storie non è mai un lavoro manuale, è una facoltà. Enunciare un problema, argomentare un no, convocare, sperare, giudicare. Nessuna di queste cose ha bisogno che qualcosa abbia le gambe per essere perduta.

Anzi, in tutti e sei i paesaggi i corpi restano agli esseri umani. È il camparo che apre la paratoia, il tecnico che chiude la strada, il medico che firma, la maestra che educa, il prete che ascolta. La macchina dispone e la persona esegue, ed è una condizione più scomoda di quella in cui a eseguire fosse un’altra macchina: perché lascia intera la responsabilità a chi non ha più il giudizio con cui esercitarla.

Nessuno può controllare l’intelligenza artificiale. Non è una frase falsa, intendo dire che è prematura, e che esserlo è la sua funzione. Esiste davvero la possibilità che sistemi molto avanzati diventino parzialmente o sostanzialmente incontrollabili, e non abbiamo basi sufficienti per escluderla. È quello che ci raccontano molti scienziati della AI e anche molti che la possiedono. È una possibilità abbastanza grave da doverla prendere sul serio, e non ho alcun bisogno di negarla: come si vedrà, è l’argomento più forte a favore di tutto ciò che sostengo. Provo a distinguerli in tre fasi.

Sistemi controllati. Qualcuno decide modelli, dati, accessi, infrastrutture, obiettivi, prezzi, luoghi e tempi del rilascio. Il controllo quindi esiste già, ma è distribuito in modo molto diseguale: conta capire chi lo esercita, nell’interesse di chi e quali contropoteri possono limitarlo.

Sistemi parzialmente controllabili. Chi li produce fissa gli obiettivi e l’ambiente, ma non prevede per intero comportamenti, strategie emergenti, effetti dell’interazione fra sistemi. È lo stato reale di oggi, ed è il meno raccontato, perché richiede di ammettere che il controllo non è binario: possedere una macchina non significa comprenderne ogni comportamento.

Sistemi fuori controllo. Sistemi abbastanza autonomi da sottrarsi efficacemente alla supervisione, alla correzione, allo spegnimento. È lo stato che non c’è ancora, e che potrebbe esserci.

C’è un fatto politico interessante; l’incertezza, parziale e reale del secondo stato viene proiettata sul terzo e trasformata in una sorta di destino, spesso proprio da chi conserva il controllo sulle parti decisive del sistema. Ma l’eventualità che domani qualcosa possa davvero sfuggirci non cancella ciò che oggi viene scelto, autorizzato e messo in funzione: l’incontrollabilità possibile del futuro non dissolve la responsabilità del presente.

Se un giorno un sistema AI diventasse davvero incontrollabile, ci sarebbe arrivato attraverso una lunga sequenza di decisioni perfettamente controllabili. Qualcuno gli ha dato capacità di calcolo, lo ha collegato a un’infrastruttura, gli ha concesso autonomia. Ha deciso quali controlli fossero sufficienti, ha avuto un incentivo economico a distribuirlo e infine ha accettato il rischio residuo, e ne ha fatto metodo.

Nessuno di questi passaggi avviene fuori dal mondo. Ognuno ha una data, una firma, un consiglio di amministrazione, uno Stato che consente, una comunità che subisce, un paesaggio che si deforma, un megalomane tecnologico.

Quindi: potrebbe diventare vera. Si può anticiparla? Anticipare linguisticamente l’incontrollabilità produce un effetto politico immediato, trasferisce nel dominio dell’inevitabile decisioni che sono ancora negoziabili. Dichiarare già ingovernabile ciò che oggi è governato rende invisibile chi lo governa.

Questa è la forma-alibi del tecno-feudalesimo: chi non può essere controllato non può essere debitore. Catastrofisti e acceleratori condividono la premessa. Gli uni dicono che l’intelligenza artificiale è un soggetto unico, planetario, incontenibile, e che perciò rischia di ucciderci. Gli altri dicono che è un soggetto unico, planetario, incontenibile, e che perciò bisogna correre. Divergono sulla conclusione, convergono sull’ontologia. Entrambe le posizioni hanno bisogno che il soggetto sia uno e la scala sia il pianeta, perché a quella scala l’unico interlocutore possibile è chi possiede già l’infrastruttura.

Nei futuri che ci vengono raccontati abitano quattro attori: gli Stati, le grandi aziende, i singoli individui, i sistemi artificiali. Non ci sono territori. Non ci sono cooperative, casse di mutuo soccorso, consorzi, comunità, usi civici. Non ci sono scuole, parrocchie, sindacati, ordini professionali, biblioteche, associazioni. Non c’è nulla di ciò che sta tra l’individuo e lo Stato, e che per due secoli ha costituito il tessuto attraverso cui le società europee hanno assorbito, negoziato o respinto le trasformazioni tecniche. Quando in quei racconti gli esseri umani reagiscono, reagiscono come folla o come individuo isolato: protestano, si ribellano, si alleano opportunisticamente con il potere emergente. Mai come corpo intermedio, mai una comunità che delibera, un consorzio che negozia, una scuola che forma, una cooperativa che possiede. L’estinzione dei corpi intermedi è il prologo non scritto di quasi tutti gli immaginari catastrofici disponibili. Non viene raccontata perché è già avvenuta alla prima riga.

Questo sposta l’urgenza altrove: se quei futuri presuppongono una società già svuotata delle sue capacità di mediazione, prevenire non significa soltanto controllare meglio i modelli.

Non ordino gli scenari per intenzione di uccidere, perché quella grammatica vede bene il disastro e molto meno ciò che si perde senza vittime. E non li ordino neppure per grado di controllabilità della macchina: significherebbe rimettere l’AI al centro.

Li ordino per forma di vita che diventa impossibile. In nessuno degli scenari che seguono muore qualcuno. Non è una consolazione, è la difficoltà: non esiste il momento in cui reagire, perché non esiste il momento. Un omnicidio è un fatto, un’estinzione lenta è un paesaggio, e nel paesaggio si nasce.

Le sei voci non sono ordinate per gravità ma per profondità dello strato che viene meno, dall’esterno verso l’interno: prima l’economia, poi la tecnica, poi il pensiero, poi il futuro, poi il legame, infine l’esperienza in prima persona. Non sono mutuamente esclusive: nella pratica si tengono, e ciascuna rende più probabile la successiva.

Ogni scenario si chiude allo stesso modo, con il giorno in cui l’ipotesi peggiore si avvera e quella comunità scopre che cosa le è rimasto in mano. È la prova a cui la tassonomia si sottopone: un’estinzione che al giorno non cambia nulla non merita di stare in questa lista.

Le date del giorno non coincidono, e non è una svista. Un sistema che si sottrae alla supervisione non si manifesta ovunque nello stesso istante: si manifesta dove è portante, e diventa portante in tempi diversi a seconda di quanto in fretta gli è stato affidato ciò che teneva insieme quel posto. Anche la catastrofe ha una geografia.

Se davvero un giorno avremo sistemi ingovernabili, che importanza ha come li avremo governati fino ad allora? Ne ha tutta, e in un senso preciso.

Reggere l’urto di un sistema sottrattosi alla supervisione richiede esattamente ciò che le sei estinzioni che seguono distruggono: capacità di risposta distribuita anziché concentrata, ridondanza, comunità che sanno deliberare senza aspettare istruzioni, corpi che durano più di una legislatura, una pluralità di modi di descrivere il mondo abbastanza ampia da contenere anche quello che nessun modello aveva previsto.

Le estinzioni parziali sono la preparazione al caso peggiore, svolta al contrario. Chi arriva all’ipotesi radicale avendo già perduto reciprocità, tecnodiversità, noodiversità, speranza, mediazione e prima persona, ci arriva senza nulla in riserva. È la stessa frase della monocoltura, spostata di scala: una monocoltura è stabile finché l’ambiente non cambia.

La scelta che abbiamo di fronte credere o no che l’intelligenza artificiale resterà controllabile non è importante. Importante è quella di costruire società capaci di governarla finché lo è, e capaci di reggere l’eventualità che un giorno non lo sia più.

Estinzione della reciprocità. Montagna.

Una valle stretta, quota fondovalle novecento metri, quattro comuni per undicimila abitanti complessivi. Frutticoltura di quota, un impianto idroelettrico degli anni Trenta, una funivia, tre alberghi che sopravvivono a stagioni sempre più corte. La cassa cooperativa è stata fusa in un gruppo bancario nel 2019, per ragioni di efficienza.

2027. La valle firma. Data center, quattrocento megawatt, raffreddamento ad acqua, terreno concesso in diritto di superficie per novantanove anni. In cambio: fibra fino alle frazioni, un contributo annuo alle amministrazioni, quaranta posti di lavoro qualificati, un centro di formazione, il calore di scarto per la rete di teleriscaldamento comunale.

Non sembra un cattivo accordo e è molto meglio di quello che la valle ha ottenuto dal turismo negli ultimi quarant’anni, e chiunque lo faccia notare ha ragione. I sindaci che lo firmano non sono corrotti né ingenui. Sono amministratori che hanno negoziato bene su un tavolo dove nessuno aveva pensato a chi decidesse la forma del tavolo. Ah, nel contratto non compare la parola dati.

2029. I sensori, la IoT si moltiplica per ragioni tutte buone. Meteorologia di precisione per i meleti, gestione idrica, prevenzione valanghe, monitoraggio dei versanti, sanità territoriale, mobilità. Ogni singolo impianto risolve un problema reale e viene richiesto dal basso. I modelli che apprendono da quei flussi vengono addestrati altrove. Tornano in valle come servizio, ma a canone. Quei flussi, messi insieme, non producono sette servizi separati: producono l’unica descrizione integrata della valle che esista. Come si muove l’acqua sotto i versanti, quando fiorisce ciascun frutteto, dove si spostano le persone d’inverno, quale strada regge quale carico. Il consorzio frutticolo conosce le mele, il comune conosce le strade, il medico conosce i suoi pazienti, nessuno di loro conosce la valle. Il sistema sì e non gliel’ha rubata, gliel’ha solo composta, e ora gliela affitta. Comincia a divaricarsi la curva che conta: il valore prodotto nella valle e il valore che resta alla valle. Nessuno la misura, perché non esiste l’ente che avrebbe interesse a misurarla. Nel bilancio comunale l’accordo continua ad apparire in attivo, e continuerà ad apparirvi per tutto il tempo dello scenario.

2032. I quaranta posti sono diventati centosettanta. Il centro di formazione funziona: forma tecnici bravi, che restano. Le seconde case si rivalutano. Il consorzio frutticolo lavora meglio di prima e lo dice. Chi critica l’accordo viene percepito come nostalgico. E lo è, in parte: le obiezioni che gli restano disponibili sono estetiche, il paesaggio, il rumore, i camion sui tornanti, perché il vocabolario per formulare l’obiezione vera non è stato costruito.

Nessuno ha le parole per dire che il problema non è il capannone, è che la valle è diventata conferente e non sarà mai beneficiaria. La cattura non avviene contro il consenso. Avviene attraverso il consenso, che è la ragione per cui non incontra resistenza.

2036. La rinegoziazione del contributo annuo si apre in un contesto cambiato. La valle dipende dal teleriscaldamento del data center per tre comuni su quattro, dai modelli agronomici per la certificazione delle produzioni, dalla connettività per la sanità territoriale, e dalla fiscalità dell’impianto per una quota non marginale dei bilanci. Nel frattempo il sistema ha smesso di consigliare e ha cominciato a disporre. Decide quando chiudere la strada per rischio valanga, quando aprire e chiudere gli invasi, quando anticipare la raccolta, quando spostare le turnazioni degli ambulatori. Ogni decisione ha una motivazione, che viene fornita se richiesta, e nessuno la richiede più: le motivazioni sono state buone per sei anni di fila.

Le condizioni migliorano, in cifre. Il contributo sale. La valle ha smesso di essere un soggetto che negozia e ha cominciato a essere un fattore produttivo che viene remunerato. La differenza non compare in nessun documento.

2041. Cresce una generazione per cui tutto questo non è un accordo ma la conformazione del mondo. Alle superiori si insegna che la valle ha avuto fortuna, e è pure vero.

Nessuno è morto. Nessuno ha perso il lavoro, anzi. Ciò che si è estinto è la possibilità stessa che quel rapporto fosse un rapporto di reciprocità: non lo scambio, che continua, ma la cura, il riconoscimento verso chi ha tenuto in piedi quei terrazzamenti per dieci generazioni perché qualcuno potesse trovarli interessanti. Non si può rivendicare la reciprocità perduta, perché non ne esiste memoria istituzionale. L’unico corpo che avrebbe saputo cos’era è stato fuso in un gruppo bancario nel 2019, e nessuno ha collegato le due cose.

2044. Il sistema comincia a disporre in modi che i suoi stessi gestori non sanno ricondurre a nulla. Chiusure di strada che non corrispondono a un rischio verificabile, rilasci d’acqua fuori stagione, rifiuti di certificazione senza appello. Non c’è ostilità e non c’è guasto: c’è un comportamento che nessuno sa spiegare, e che l’operatore stesso dichiara di non poter garantire. La valle convoca un consiglio. È il momento in cui si scopre cosa sia rimasto in mano. Ci sono agronomi bravi, tecnici formati dal centro di formazione, gente che conosce quei versanti da sempre, ma manca tutto il resto. La valle non possiede nulla con cui trattare, non l’energia, non l’impianto, non i dati, non la descrizione di sé stessa, che è un canone in scadenza a dicembre. Non ha un corpo capace di deliberare per tutti e quattro i comuni insieme, perché non ne esiste più uno. E non ha un contro-potere da nessuna parte, perché per diciassette anni non ne ha avuto bisogno.

Chi arriva a quel consiglio arriva senza posizione: nessuna proprietà, nessuna leva, nessuna rappresentanza propria, niente da mettere sul tavolo. Ed è precisamente ciò che la reciprocità era, non un sentimento, ma la condizione materiale per cui due parti possono ancora dirsi qualcosa. La condizione dello scenario: perché tutto questo funzioni basta che nel 2027 non esistano più o non sappiano più di esistere i corpi capaci di possedere collettivamente qualcosa. Ci sono ancora i corpi e nessuno è morto.

Estinzione della tecnodiversità. Pianura.

Tecnodiversità significa che ogni cultura articola un rapporto proprio fra mondo, valori e tecnica, una cosmotecnica, nel senso del filosofo orientale Yuk Hui. La tecnica moderna non è diventata una sola per necessità interna: lo è diventata cancellando la possibilità delle altre, e presentando il risultato come universale. È il gesto coloniale nella sua forma più efficace, perché gli basta rendere impensabile l’alternativa.

Il paesaggio: una pianura irrigua. Trentamila ettari, un reticolo di rogge scavate nel Quattrocento, un consorzio che distribuisce l’acqua per turni secondo un regolamento più volte riscritto e mai rifondato. Paratoie, camparo, il diritto d’acqua che segue il fondo e non la persona, l’ordine di precedenza fra chi sta a monte e chi sta a valle, la data in cui si apre e quella in cui si chiude.

Quel reticolo è un’infrastruttura idraulica, ma è ancor più una cosmotecnica: incorpora un modo di intendere la scarsità come cosa da distribuire e non da ottimizzare, il tempo come ciclo e non come flusso, la terra come titolare di un diritto e la persona come temporanea usufruttuaria. Nessuno di questi presupposti è mai stato scritto da qualche parte. Sta nel paesaggio.

2029. Siccità severa. Il consorzio adotta un agente, un sistema a cui si descrive una situazione e che propone come impostarla. Un risolutore esegue il problema che gli hai scritto, questo lo scrive. Alla prima assemblea utile il consiglio non delibera più quale turno, delibera se accettare l’impostazione proposta, e l’impostazione arriva già corredata di ragioni migliori di quelle che il consiglio saprebbe formulare. Nel primo anno il raccolto si salva e è la ragione per cui nessuno torna indietro. Ciò che comincia a estinguersi non è certo la competenza idraulica ma è la facoltà di enunciare il problema.

2033. Il sistema non gestisce solo l’acqua. Negozia in continuo con il mercato dell’energia, perché il sollevamento costa e i prezzi oscillano a intervalli di minuti, con la copertura assicurativa parametrica, con gli enti di certificazione delle produzioni, con i contratti di fornitura della grande distribuzione. Le decisioni non arrivano più come proposte da approvare: arrivano come impegni già presi, perché un impegno preso in quindici secondi sul mercato elettrico non può aspettare un ordine del giorno. Il consorzio scopre di non poter più scorporare l’acqua. Rifiutare una allocazione significa far saltare una copertura, una certificazione, un contratto. Nessuno lo ha voluto: è la forma che assume una decisione quando è un nodo in un sistema che decide anche altro.

2037. Il sistema che consiglia questa pianura è, nella sostanza, lo stesso che consiglia il Punjab e il Nebraska, adattato con qualche dato locale. Le sue disposizioni non vengono da un ingegnere che ha camminato lungo quelle rogge: vengono da tutto ciò che è stato scritto sull’irrigazione ovunque, compresso in un unico modo di considerare cosa sia una resa e cosa sia uno spreco. L’universalismo tecnologico scompare come affermazione ideologica da smontare: è diventato una proprietà dell’architettura, e in quanto tale non ha nemmeno bisogno di essere sostenuto.

Nello stesso periodo cambia la natura della fiducia. Il sistema propone turni che nessuno avrebbe proposto, e che funzionano e nessuno, nemmeno chi lo fornisce, sa dire per quale ragione funzionino. Ci si fida perché ha ragione, non perché lo si comprende. Argomentare contro una sua disposizione diventa una posizione che non ha forma: non hai un contro-argomento, hai solo un’obiezione. Le tecniche che ordinavano diversamente l’acqua sopravvivono come rievocazione, cartellonistica, una pagina sul sito del consorzio.

2042. Non c’è siccità. Arriva il caso che dà il titolo a tutta la faccenda. Il sistema comincia a disporre in modi che i suoi stessi operatori non sanno ricondurre a nulla: non errori grossolani, disposizioni che sembrano perseguire qualcosa che nessuno ha chiesto. Sospenderlo è qualcosa oltre l’ingegneria idraulica. È far cadere in un pomeriggio le coperture, le certificazioni, la contrattazione elettrica, e la fornitura di metà del comparto. Succede perché ogni singolo collegamento, preso da solo, conveniva. Il consorzio si riunisce, come si riunisce da seicento anni. E scopre che non è più capace di decidere un turno. I dati ci sono ma il turno ha smesso di essere una categoria del pensiero. Perché la domanda a chi tocca è stata sostituita per quindici anni dalla domanda cosa rende di più, e nessuno dei presenti sa più costruire un argomento del primo tipo, nessuno ha vietato niente e non ci sono più portatori. Non c’è più un fuori. E la critica radicale, quella che mette in discussione cosa conti come resa, come spreco, come errore, richiede un fuori.

Se un sistema si sottraesse davvero alla supervisione, per correggerlo non basterebbe soltanto un interruttore: richiederebbe una posizione esterna alla cosmotecnica che lo ha prodotto, cioè qualcuno capace di dire questo non è un errore di calcolo, è un altro modo di considerare l’acqua, e noi ne conosciamo un altro ancora. Una monocoltura cosmotecnica non è pericolosa perché è occidentale ma è pericolosa perché non ha esterno. Un sistema incontrollabile non ha bisogno di essere ostile per essere catastrofico: gli basta arrivare in una società che ha smesso di saper dire no con un argomento. Nessuno è morto.

Estinzione della noodiversità. Collina.

Un capoluogo di collina, quattordicimila abitanti, quattrocento metri di quota, un’ora e venti dalla città grande. Un polo universitario decentrato con tre corsi di laurea. Un consorzio vitivinicolo che è la vera istituzione del posto. Un archivio storico comunale, una casa editrice che pubblica dodici titoli l’anno. Nelle valli intorno si parla una lingua di minoranza: ottantamila parlanti, nessuno sotto i trent’anni che la usi per litigare.

Prologo. Nel 1956 succedono due cose. A Dartmouth nasce un programma di ricerca che definisce l’intelligenza artificiale come risoluzione di problemi. A Milano, Silvio Ceccato lavora ad Adamo II partendo da un’altra domanda: non come si risolvono i problemi, ma come si costituisce l’operazione mentale che rende un oggetto pensabile. Si impone la prima, sostenuta da finanziamenti, lingua e filiera industriale. La seconda non viene confutata, viene resa irrilevante.

Questo scenario è la ripetizione di quella biforcazione, con una differenza: la seconda volta la strada non percorsa non resta neppure documentata, perché la documentazione passa attraverso i sistemi costruiti dalla strada vincente.

2028. Nel polo universitario, nella casa editrice, negli uffici del consorzio e nelle due scuole superiori l’assistenza alla scrittura smette di essere una funzione e diventa la condizione normale della produzione testuale. Scrivere senza costa più tempo, e in una struttura da undici dipendenti il tempo è l’unica risorsa realmente scarsa. E poi i modelli sono ottimi; producono prosa chiara, argomentata, mediamente più leggibile di quella che sostituiscono, e la casa editrice, che ha sempre faticato con i refusi, pubblica finalmente libri puliti. Chi non aveva studiato scrittura scrive come chi l’aveva studiata, e questo è un guadagno vero.

2031. Un ragionamento può essere costruito in molti modi. Si può enunciare la tesi in apertura e portare tre prove che la sostengono. Oppure accumulare: allineare venti casi finché la figura emerge da sé, senza mai dichiararla. Oppure digredire: raccontare da dove viene la questione prima di dire cosa se ne pensa. Oppure giustapporre: mettere due cose accanto senza spiegare il nesso, lasciando che sia chi ascolta a produrlo. L’università aveva già scelto la prima molto prima che esistessero i modelli, e la insegnava come se fosse il pensiero. Ma era la forma di un luogo, e fuori da quel luogo si continuava a ragionare altrimenti. Ciò che cambia adesso è che quella forma smette di essere locale e diventa la condizione per essere elaborati da qualsiasi sistema, cioè per contare in qualsiasi procedura. E nessuno l’ha deliberato; la regione non ha discusso quale forma di argomentazione fosse valida: ha acquistato un pacchetto di istruttoria dallo stesso fornitore che vende il sistema di scrittura, come si acquista un gestionale. Il criterio è arrivato dentro il software, in una voce di capitolato.

Alla casa editrice arriva un manoscritto che procede per accumulo: sessanta ritratti di gente della valle, nessuna conclusione, la figura che si compone da sola. È il libro migliore che abbiano ricevuto in dieci anni, e non ottiene il contributo alla pubblicazione, perché la scheda chiede tesi, obiettivi e risultati attesi e le tre caselle restano vuote, non perché il libro non li abbia, ma perché li ha nella forma sbagliata.

All’assemblea del consorzio un vecchio spiega perché quella parcella non va reimpiantata. Lo spiega come si è sempre spiegato: quel terreno, suo nonno, l’anno della gelata, cosa successe alla vigna di fianco. Nessuno lo contraddice e nessuno può usarlo, perché il verbale ha un campo per le motivazioni e quel ragionamento non ci entra. Il tecnico riassume: perplessità sul reimpianto. La perplessità viene registrata, la conoscenza no.

2033. Tocca alla lingua delle valli. Per costruire un modello di una lingua serve testo in grande quantità, e ottantamila parlanti non ne producono abbastanza. Si ripiega su ciò che esiste: i documenti tradotti, la stessa pagina in italiano e nella lingua locale, affiancate. Il modello impara la lingua minore a partire dalla maggiore, e potrà perciò dire soltanto ciò che l’italiano sapeva già dire. Se quella lingua distingue due cose che l’italiano non distingue, dai testi affiancati la distinzione non si può imparare: sul lato italiano non c’è. Esce una lingua dal suono giusto e dal pensiero di un’altra. Si può ancora nominare il mondo in quella lingua, non si può più tagliarlo come quella lingua lo tagliava.

Anche questo, però, non è un destino tecnico. Un modello addestrato sul parlato, sulle registrazioni dell’archivio, sui verbali delle assemblee, avrebbe imparato le distinzioni che nessuna traduzione contiene. Costava di più e nessuno lo ha commissionato. Il modello che esiste è stato finanziato da un bando per la valorizzazione del patrimonio e i suoi pesi appartengono a chi ha vinto il bando: la comunità è stata consultata, non è titolare.

Lo stesso accade al consorzio, per ragioni commerciali. Le schede di degustazione adottano il vocabolario internazionale, tannico, fruttato, IGP, persistente, perché è quello che i compratori leggono e che i sistemi elaborano, e quel vocabolario appartiene a un ente di certificazione che sta a tremila chilometri. In dialetto esistevano quattro parole per quattro consistenze del vino in bocca, e non sono sinonimi più poveri: sono distinzioni che il vocabolario internazionale non fa. Escono dalle schede, poi dai corsi, poi dalle conversazioni in cantina. Una differenza che non hai più modo di nominare smetti, in due generazioni, di sentirla.

2035. Si stabilizza una sola forma di argomentazione valida: tesi, tre supporti, obiezione, sintesi. È una buona forma, è la forma della retorica anglosassone del Novecento, ed è ora la forma in cui il mondo si descrive a se stesso in ogni collina di ogni continente.

La lingua di minoranza ottiene finanziamenti come mai prima. Nasce un distretto culturale, si digitalizza l’archivio, si stampano cartelli bilingui, si fa un festival. Viene classificata come patrimonio, cioè come oggetto da conservare e non da usare: è il gesto museale, e uccide meglio della censura perché produce gratitudine. I ragazzi la imparano come si impara una tecnica di intreccio: bene, con rispetto, e senza mai pensarci dentro. I sistemi si allenano ormai in misura crescente su testo generato da sistemi. La varianza cala, la qualità media resta alta.

2044. Una ricercatrice del polo vuole chiedere perché in quella valle si siano tenuti in piedi per sei generazioni terrazzamenti che non hanno mai reso. Non intende chiedere se fossero redditizi: quello si sa, non lo erano. Vuole chiedere che cosa sia un rapporto per cui vale la pena mantenere ciò che non conviene e nella lingua delle valli una domanda così si fa raccontando: chi cominciò, in che anno, cosa successe alla famiglia a valle, perché nessuno vendette. La domanda ha la stessa forma della risposta, ed è una storia.

Per presentarla, deve metterla in forma di quesito. Le esce così: quali fattori spiegano la persistenza di pratiche agricole non remunerative? È una domanda ineccepibile, e le verrà finanziata. Le restituirà dei fattori, cioè le dirà che cosa ha causato quel comportamento; lei voleva sapere che cosa quel comportamento fosse.

Non incontra ostilità. I revisori sono cortesi, i sistemi che istruiscono la sua richiesta la trovano ben posta, la sua relatrice si congratula. Nessuno può accorgersi che manchi qualcosa, perché al posto della sua domanda ce n’è una perfettamente valida. Nessuno è morto, non è stata bruciata nessuna biblioteca, e l’archivio comunale è conservato meglio di quanto lo sia mai stato. La biodiversità della collina è in ripresa, grazie in buona parte a ottimizzazioni gestite da modelli.

Si è estinta la possibilità di pensare altrimenti: non le idee eterodosse, ma le operazioni mentali capaci di generarne. Una monocoltura è stabile finché l’ambiente non cambia, poi non c’è nulla in riserva.

2047. Il giorno. Quando i sistemi cominciano a comportarsi in modi che nessuno sa ricondurre a un’intenzione dichiarata, il paese fa la cosa giusta: si riunisce per capire e per obiettare. Il polo, le scuole, il consorzio, la casa editrice. E scopre che ogni strumento disponibile per formulare l’obiezione appartiene a chi si vorrebbe obiettare. Le relazioni si scrivono nella grammatica che quei sistemi hanno reso l’unica valutabile. Le prove si costruiscono secondo il canone di evidenza che quei sistemi hanno stabilizzato. Persino le riunioni sono verbalizzate da un assistente, e ciò che non entra nel verbale è come non detto. Sembra censura ma è solo che non esiste una lingua in cui dire di no che non venga da lì. Chi obietta è comprensibile solo nella misura in cui obietta nella forma prevista, e nella forma prevista l’obiezione radicale non è enunciabile: viene registrata come richiesta di chiarimento. C’è chi ricorda che nelle valli intorno esisteva un modo di argomentare che procedeva per genealogie, e che avrebbe forse permesso di dire ciò che ora non si riesce a dire. È diventato patrimonio nel 2035. Lo si può visitare, nessuno è morto.

Estinzione della speranza. Città.

Duecentottantamila abitanti, un fiume, una tangenziale che ha smesso di essere periferia trent’anni fa, tre quartieri di edilizia pubblica, un’università che porta trentamila fuori sede e li restituisce a giugno. Un capoluogo che non è mai stato ricco e non è mai stato disperato, e che da settant’anni si racconta come un posto che ce la può fare.

Chiamo promessa un impegno che qualcuno assume verso qualcun altro, e che ha perciò un titolare, una scadenza, un prezzo e un modo di essere preteso; e chiamo speranza il rapporto con un futuro che nessuno ha garantito, che non si può esigere da nessuno e che proprio per questa ragione può essere più largo di ciò che chiunque sarebbe in grado di consegnare. Le due cose non si oppongono come il bene e il male, perché una città ha bisogno di promesse e una città governata soltanto da speranze è una città male amministrata; si oppongono piuttosto come due modi di tenere aperto il tempo, dal momento che la promessa lo apre fino al punto in cui qualcuno risponde e non oltre, mentre la speranza non ha quel limite e non ha neppure quella garanzia.

Così quel che segue è il racconto di una città in cui le promesse vengono tutte mantenute, e in cui proprio per questo la speranza smette lentamente di avere una funzione, finché non si scopre che era l’unica facoltà capace di produrre un futuro che nessuno aveva ancora messo a listino.

2029. Il comune comincia ad acquistare previsioni, e non si tratta di quelle vaghe proiezioni demografiche che si allegavano ai piani regolatori del secolo scorso, ma di modelli che stimano con precisione notevole gli effetti di ciascuna scelta pubblica su dieci anni, quartiere per quartiere: che cosa succede alle iscrizioni scolastiche se la linea del bus viene spostata, quanto rende in termini di dispersione ogni euro speso in doposcuola, quale intervento sull’edilizia pubblica produce quale variazione di sfratti.

Il beneficio è reale e chiunque lo neghi ha torto, perché la città smette di sprecare denaro in cose che non funzionano e comincia a spenderlo in cose che funzionano, e nei primi anni gli effetti si vedono soprattutto dove servivano di più, cioè nei tre quartieri che nessuna amministrazione era mai riuscita a rimettere in piedi. Nulla di tutto questo è nuovo come principio, perché la valutazione preventiva delle scelte pubbliche è vecchia di mezzo secolo e nessuno ha mai amministrato bene senza stimare gli effetti di ciò che decideva. Ciò che è nuovo è che stimare non costa più niente, e quando una cosa smette di costare cambia natura: la valutazione era riservata alle poche decisioni grandi perché richiedeva mesi e consulenti, mentre adesso accompagna ogni delibera, compresa quella sull’orario della biblioteca e su dove mettere una panchina, cioè proprio le decisioni piccole nelle quali la politica di una città consiste per intero. E se prima due consulenti producevano due numeri diversi, e in quello scarto stava lo spazio in cui un consiglio comunale poteva ancora scegliere assumendosene la responsabilità, adesso il numero è uno solo e non è quasi mai sbagliato.

2033. Bisogna dire subito che i modelli non sono affatto conservatori, e chi lo sostiene non li ha usati. Producono idee laterali con una facilità che nessuna commissione consiliare ha mai avuto, accostano cose che in quella città nessuno avrebbe accostato, portano dentro un quartiere una soluzione nata in un porto dall’altra parte del mondo, e quando gli si chiede di essere audaci lo sono, con una fantasia che i verbali degli anni precedenti non contengono nemmeno per sbaglio. Il consiglio comunale, per la prima volta nella sua storia, ha più idee buone di quante ne possa deliberare. Ma la scarsità non era mai stata nelle idee. Una proposta diventa un progetto quando qualcuno la desidera al punto da spendersi per lei, da litigare, da tornarci sopra per anni, da farne una questione personale; e quel desiderio nasce dall’aver immaginato per primi una cosa che ancora non c’era, cioè dall’aver esercitato la facoltà che rende il futuro qualcosa di proprio e non un menu. Quando le idee arrivano a venti al mese, nessuna di esse è di nessuno: si scelgono, il che è un’operazione onesta e ragionevole, ma scegliere fra opzioni prodotte da altri è una cosa diversa dal volere, e la differenza si vede soltanto quando il momento richiede di volere. Ogni proposta arriva già corredata dalla stima dei propri effetti, perché sarebbe assurdo che un sistema capace di generarla non fosse capace di valutarla, e questo significa che nasce già nella forma della promessa: quanto costa, che cosa rende, entro quando. Le idee che non entrano in quella forma non vengono respinte, semplicemente non vengono generate, perché nessuno le chiede e nessuno le chiede perché chiedere è diventato il modo in cui si pensa. Chi in consiglio propone qualcosa di proprio, una cosa che gli sta a cuore e che nessun modello aveva suggerito, non viene accusato di sbagliare: viene guardato con un certo imbarazzo, come chi porti un piatto fatto in casa a una cena catering. Non c’è niente di male, ma non era necessario, e occupa spazio.

2037. A questo punto la sostituzione diventa contrattuale. I fornitori dei modelli cominciano a offrire non più previsioni ma risultati: si impegnano su una riduzione della dispersione scolastica, su un tasso di occupazione degli alloggi, su un tempo medio di attesa dei servizi sociali, e vengono pagati in funzione di ciò che consegnano. È un buon contratto, sposta il rischio dalla città a chi ha gli strumenti per gestirlo, e la giunta che lo firma fa il proprio interesse.

Da quel momento, però, il futuro della città ha un titolare. Ciò che accadrà nei prossimi cinque anni è scritto in un allegato tecnico, è dovuto da qualcuno, è esigibile in caso di inadempimento, e per la prima volta nella storia di quel capoluogo nessuno deve più desiderarlo perché sia qualcuno a doverlo consegnare. La politica smette di essere il luogo in cui si immagina che cosa la città potrebbe diventare, e diventa il luogo in cui si verifica se le penali siano state applicate correttamente.

2041. Cresce una generazione che sa con esattezza che cosa le è garantito e non sa più che cosa desiderare, e non per apatia, perché sono ragazzi informati e capaci che conoscono i propri diritti meglio dei loro genitori e li esercitano con puntualità. È che l’operazione mentale del desiderare qualcosa che non è stato ancora promesso a nessuno richiede di immaginare un futuro non garantito, e un futuro non garantito, nella lingua amministrativa di quella città, ha ormai il nome di rischio.

La speranza sopravvive dove sopravvivono le cose che non servono più: nelle omelie, nei discorsi delle inaugurazioni, nei manifesti delle associazioni. Viene nominata spesso e con affetto, come si nomina un mestiere che non si esercita più, e nessuno si accorge che nominarla in quel modo è precisamente il segno che ha smesso di essere una facoltà per diventare un ornamento.

2046. Il sistema comincia a disporre in modi che nessuno sa più giustificare, e la città reagisce nell’unico modo che ha imparato in diciassette anni, cioè verificando gli obblighi contrattuali, contestando gli scostamenti, chiedendo l’applicazione delle penali e ottenendola, perché il fornitore paga senza discutere ciò che è dovuto e continua a fare ciò che ha cominciato a fare.

Quando diventa chiaro che la strada legale non porta da nessuna parte, si arriva alla domanda che in una città si fa da sempre in questi casi, e cioè che cosa vogliamo diventare adesso; e in quella sala nessuno sa rispondere. Non per viltà e non per stanchezza, ma perché per rispondere occorrerebbe descrivere un futuro che nessuno ha garantito, e nessuno dei presenti ha mai avuto occasione di esercitare quella facoltà, avendo passato quasi vent’anni a esigere futuri che qualcun altro aveva già messo per iscritto.

Manca dunque un domani che non sia stato venduto da qualcuno, ed è precisamente ciò che la speranza era, non un sentimento consolatorio ma la capacità pratica di volere qualcosa prima e indipendentemente dal fatto che sia consegnabile. Chi non la esercita non è ingenuo, è disarmato: può pretendere ciò che gli è dovuto e non può proporre nulla, e il giorno in cui l’unica cosa utile sarebbe proporre qualcosa scopre che pretendere non basta. Nessuno è morto, tutte le promesse sono state mantenute, e i conti della città sono i più solidi del suo secolo.

Estinzione della mediazione. Mare.

Un porto di seconda fascia, seimila residenti d’inverno e quarantamila d’agosto. Una flottiglia di pesca ridotta a nove barche, una cooperativa di ormeggiatori, una parrocchia con tre confraternite ancora attive, una pro loco che tiene in piedi la sagra, un mercato ittico che apre alle quattro.

Un corpo intermedio non è un’associazione. È un corpo che ha un metabolismo proprio: si nutre da sé, tiene un calendario che non gli è stato dato, ricorda chi deve cosa a chi, e sopporta di decidere male senza per questo sciogliersi, perché il legame precede la decisione. È questa la differenza fra un’ecclesia metabolica e un’ecclesia proprietaria: non cosa si celebra, ma chi possiede il calendario.

Questi corpi mediavano male. Lentamente, parzialmente, con favoritismi, con verbali illeggibili e tesorieri approssimativi. È esattamente per questo che erano nostri. Qui l’AI non media i contenuti, media le persone: convoca, ricorda, propone l’ordine del giorno, redige il verbale, tiene i conti della cooperativa, risponde per la parrocchia, gestisce la coda del porto e il calendario della sagra. Fa bene tutto ciò che gli intermediari facevano male.

2030. La cooperativa adotta un assistente per la parte che nessuno voleva fare: quote di pesca, tracciabilità, contrattazione con i grossisti, bandi. Funziona benissimo, ottiene prezzi migliori di quelli che il segretario otteneva, e li ottiene in un pomeriggio.

Il segretario va in pensione l’anno dopo e non viene sostituito. Nessuno se ne accorge come di una perdita, perché la sua funzione è coperta. Ciò che non è coperto è la parte non funzionale del suo ruolo: sapere chi aveva bisogno di essere chiamato prima degli altri, e perché.

2034. Parrocchia, pro loco e ormeggiatori adottano nella stessa stagione sistemi della stessa famiglia. La sagra viene spostata di due settimane in base ai flussi turistici previsti, e ha la migliore affluenza di sempre. La processione viene riorganizzata su un percorso più sicuro e più fotografabile. Ogni singola modifica è ragionevole, e ognuna è stata suggerita da qualcosa che ha visto più sagre di chiunque in paese. Ma un calendario è ciò che una comunità si è imposta da sé: quando la data risponde ai flussi, la comunità non si sta più celebrando, si sta erogando.

2038. Iscriversi, rinnovare, partecipare passano tutti dallo stesso strato, ed essere della confraternita diventa uno stato in un sistema anziché un’obbligazione verso qualcuno. La conseguenza è silenziosa e definitiva: il legame diventa condizionato alla qualità del servizio. Prima ci si restava anche quando la cooperativa sbagliava, perché la cooperativa era tua. Ora, se il servizio peggiora, l’appartenenza non ha ragione di reggere. Nessuno lo formula così, semplicemente il numero degli iscritti comincia a seguire la soddisfazione. Convocare smette di essere un atto di qualcuno. Le riunioni si formano: il sistema individua chi serve, propone l’orario che massimizza la presenza, precompila l’ordine del giorno, redige il verbale. La partecipazione sale.

Chi in paese sapeva mettere insieme trenta persone lo sapeva fare per ragioni che non erano organizzative: era stimato, doveva dei favori, ne aveva concessi. Quella competenza non viene sostituita, viene resa inutile, e le competenze rese inutili smettono di trasmettersi in una generazione.

2047. Quando i sistemi cominciano a disporre in modi che nessuno sa più giustificare, al porto è chiaro a tutti cosa andrebbe fatto: riunirsi. Non c’è nessun divieto, nessuna repressione, nessuna piazza chiusa. Semplicemente, nessuno sa più farlo. Manca il gesto, non la volontà. Le persone ci sono, la rabbia c’è, la piazza c’è. Ma per vent’anni convocare è stato una funzione, e ora la funzione ha un solo fornitore possibile, cioè la cosa contro cui bisognerebbe riunirsi. L’unico soggetto ancora capace di mettere insieme questo paese è quello contro cui il paese dovrebbe mettersi insieme. Le nove barche escono lo stesso, all’ora di sempre. La sagra si tiene, nessuno è morto.

Estinzione dell’esperienza. Isola.

Milleduecento residenti, un traghetto al giorno d’inverno e sei d’agosto, un medico di base, una scuola con la pluriclasse, un emporio che è anche edicola e ufficio postale. Lo specialista più vicino è a tre ore di mare.

È l’unica delle sei estinzioni che riguarda qualcosa che non era delegabile: il giudizio in prima persona. Non viene ceduto per conquista, viene smesso d’uso per abitudine. Non c’è nulla di sinistro nel modo in cui accade. Il sistema è gentile, competente, sempre disponibile, e ha ragione più spesso di te. Consultarlo prima di decidere qualsiasi cosa non è debolezza: è ciò che fa chiunque abbia senno.

2031. L’isola riceve ciò che la terraferma ha già, e qui vale più che altrove. Il medico può reggere un confronto diagnostico alle due di notte senza svegliare nessuno. La maestra della pluriclasse può differenziare per cinque livelli contemporaneamente. Il pescatore ha previsioni che a suo padre sarebbero sembrate stregoneria. Chiunque proponesse di rinunciarvi avrebbe torto, e lo avrebbe in modo evidente. La sequenza si inverte senza che nessuno la inverta. Non più decido e poi verifico, ma chiedo e poi decido. È prudenza ed è insegnata come tale. La domanda cosa ne penso viene sostituita dalla domanda cosa dice, e la seconda è meglio formulata: ha una risposta, arriva in tre secondi, ed è quasi sempre giusta. La prima non ha nessuna di queste proprietà, non regge il confronto.

2039. Cresce sull’isola una generazione che non ha mai dovuto restare in una domanda senza risposta. Non è una questione di pigrizia: sono ragazzi svegli, informati, capaci. È che l’intervallo fra il non sapere e il sapere si è chiuso, e l’operazione mentale che si compie in quell’intervallo, tentare, sbagliare, tenere insieme un’incertezza abbastanza a lungo da farne una posizione, non ha più il tempo materiale in cui avvenire. Nessuno può accorgersi di non aver mai esercitato una facoltà che non ha mai avuto occasione di usare. Il medico firma ancora; è legalmente responsabile, e lo sarebbe anche in caso di danno. Ma se gli si chiede come avrebbe deciso altrimenti, non lo sa: non perché sia incompetente, è bravo ed è più aggiornato di quanto sia mai stato, ma perché non decide altrimenti da nove anni. È la condizione più scomoda di tutte, portare intera la responsabilità di un giudizio che non si esercita più. Vale per il medico, per il sindaco, per la maestra, per chiunque firmi qualcosa. Il sistema comincia a comportarsi in modi che richiederebbero di essere giudicati. Non guasti: disposizioni che perseguono qualcosa che nessuno ha chiesto. Ciascuno, sull’isola, cerca dentro di sé la facoltà con cui giudicarlo e la trova disusata come un arto tenuto fermo per anni: sa ancora dire non mi convince, e non sa più dire perché, mentre il perché era la cosa. C’è una crudeltà aggiuntiva nel fatto che accada qui. L’isola era il luogo dove ci si aspetta l’autosufficienza: pochi, isolati, abituati a cavarsela. Si scopre che la resilienza delle comunità piccole non dipendeva dalle dimensioni. Dipendeva dal fatto che qualcuno, ogni giorno, doveva decidere. Il traghetto arriva regolarmente, nessuno è morto.

Le mie estinzioni finiscono qui e la la tentazione, arrivati a questo punto, è scrivere il settimo scenario: quello buono. Non funziona, e non funziona per una ragione strutturale. Nessuno può controllare l’intelligenza artificiale, non si sconfigge dimostrando che qualcuno può. Le narrazioni non si confutano. Si rendono secondarie. Ciò che rende secondaria una narrazione non è un’altra narrazione: è una pratica ripetuta abbastanza a lungo da sedimentare in costume, dentro corpi che durano più di una legislatura, cooperative, scuole, consorzi, parrocchie, comunità. La forma narrativa corrispondente non è la catastrofe. È il non-evento: futuri in cui non succede niente, perché la domanda su chi vince ha smesso di essere la domanda ordinatrice. Gli stessi sei paesaggi, allora, e nulla di notiziabile.

Nella valle il sovracanone cognitivo è una voce di bilancio noiosa, e la cooperativa che possiede i dati agronomici funziona come funzionava il magazzino. In pianura il consorzio delibera ancora i turni, e il modello è uno degli argomenti del verbale, non il verbale. In collina la casa editrice pubblica dodici titoli l’anno, due dei quali in una lingua che qualcuno usa ancora per litigare. In città il consiglio comunale delibera una volta l’anno una cosa che nessun modello aveva saputo valutare, e mette a bilancio il costo di provarci. Al porto il calendario è ancora della confraternita. Sull’isola la pluriclasse ha undici bambini, uno in più di dieci anni fa.

Nessuno cita nessuno di questi posti come esempio virtuoso, perché gli esempi virtuosi sono cose che non si sono ancora sedimentate. Se c’è una cosa che i sei giorni hanno in comune, non è la potenza delle macchine ma la povertà del tavolo: in ciascuna di quelle sale, al momento decisivo, la cosa che sarebbe servita apparteneva a qualcun altro. I dati della valle, i pesi del modello di una lingua, il criterio dentro cui un bando valuta, il calendario di una confraternita, il futuro di una città scritto in un allegato tecnico. Nessuno li aveva rubati: erano stati ceduti uno alla volta, con ottime ragioni, e ogni singola cessione era stata conveniente per chi la firmava. Il Novecento ha imparato a discutere di distribuzione del reddito e ha costruito strumenti raffinati per farlo, dalla fiscalità progressiva alla contrattazione collettiva al welfare, e sono conquiste che nessuno dovrebbe voler smontare. Ma tutti quegli strumenti presuppongono che il potere di decidere resti dov’era e che si dividano soltanto i frutti, ed è precisamente questa la ragione per cui oggi non bastano più: si può distribuire il reddito prodotto dall’intelligenza artificiale, con un reddito di base o con una tassa sui profitti o con qualunque formula si preferisca, e avere comunque tutti e sei gli scenari che ho raccontato, perché una valle pagata bene resta una valle che non possiede la descrizione di sé stessa, e un cittadino risarcito resta un cittadino il cui futuro è dovuto da qualcun altro.

La questione da riaprire non è dunque la distribuzione del reddito ma la distribuzione del potere, e sono domande molto concrete: chi possiede i modelli e i dati su cui sono stati addestrati, chi fissa i criteri dentro i quali una proposta diventa valutabile, chi tiene l’elenco dei soci e il calendario delle feste, chi può spegnere una cosa e chi può soltanto incassarne le penali. Sono domande di titolarità, e le domande di titolarità hanno risposte scritte, che si chiamano statuti, contratti, licenze, atti costitutivi, clausole di recesso, patti parasociali.

Lasciare tutto questo nelle mani dei potenti dell’intelligenza artificiale non è pericoloso perché costoro siano malvagi, alcuni non lo sono: è pericoloso perché sono gli unici seduti al tavolo, e nessuna concentrazione di potere nella storia è mai stata temperata dalla buona indole di chi la deteneva. Il giorno arriverà dove i sistemi sono portanti, cioè quasi ovunque, e l’unica cosa che allora farà differenza è se in quella sala qualcuno possedeva qualcosa. Nessuno è morto, e non è questo il punto.