L’applicazione si chiama EaseHealth. L’ha sviluppata un’azienda ugandese partendo da un modello medico AI di Google, compresso fino a stare interamente dentro un telefono quasi come un SML, e la storia la racconta Google stesso in una pagina pubblicata a fine giugno: quindici strutture sanitarie, 268 operatori, più di 87 valutazioni cliniche in cinque giorni di test.

È una bella storia. Ed è proprio per questo che va presa sul serio, smontandola.

Partendo con una domanda che il ventunesimo secolo avrebbe dovuto rendere impronunciabile, e che invece bisogna ancora fare: perché queste sperimentazioni atterrano sempre lì. Non è il vecchio colonialismo, quello che conduceva l’esperimento in prima persona: l’azienda è ugandese, gli operatori hanno acconsentito, un’approvazione formale c’è stata. Eppure qualcosa è storto, molto storto. Cinque giorni di fattibilità sono bastati perché il sistema entrasse in una sala parto durante un’emergenza vera; altrove, tra la prova di fattibilità e il primo paziente, passerebbero anni di validazioni, studi controllati, responsabilità assicurative.

È la scarsità a fare da lasciapassare: dove l’alternativa è niente, ogni cosa sembra abbastanza. Si collauda dove l’errore costa meno a chi lo produce. Si venderà dove il margine rende di più.

E se l’app segnala un rischio e l’ostetrica decide diversamente, e va male? L’esito ricade su di lei. Il software ha le sue avvertenze, le risposte, precisa la documentazione, non devono determinare diagnosi né terapie. Lui ha le clausole; lei ha le mani, un talento e una testa che deve uscire. Il giudizio umano resta formalmente sovrano e sostanzialmente esposto. Quando il riconoscimento del giudizio coincide con lo scarico della responsabilità, un’ostetrica viene usata come garanzia in Uganda come a Milano.

Eppure quello che è successo in quella sala parto ha un nome, ed è un nome che viene da lontano: discernimento. Ne parla l’enciclica, e tornerò sul perché continuo a richiamare la Magnifica. La macchina segnala e la professionista verifica, esclude e decide. Il giudizio resta umano non per gentile concessione del software ma per natura; perchè l’intelligenza si può prestare ma il giudizio no. Il discernimento è l’atto di una persona sola, ma in quali condizioni una comunità mette le sue persone in grado di discernere?

E dopo il discernimento c’è una parola che la dottrina sociale ha forgiato quasi un secolo fa, nella Quadragesimo Anno, e che la Magnifica Humanitas ha riportato al centro della questione tecnologica: sussidiarietà. Il principio è semplice; una comunità fa da sé tutto ciò che può fare, e chi sta sopra, lo Stato, e intorno allo Stato chiunque detenga ciò che alla comunità manca, ha il dovere di garantirle di fare da sé, non il diritto di sostituirla. Solo per ciò che davvero non può, la comunità chiede al livello superiore. E così via, risalendo: una scala che si sale per necessità e si ridiscende appena possibile. Togliere a una comunità ciò che sa fare, per assorbirlo in alto, non è aiuto è l’inizio dell’ingiustizia.

E la sussidiarietà deve valere anche per l’intelligenza artificiale e le sue infrastrutture. Chiediamocelo su Luweero: che cosa può fare da sé la comunità sanitaria ugandese, il distretto, le sue istituzioni, il suo Stato? Molto. Tenere le linee guida nazionali dentro il sistema. Possedere i dati raccolti sul campo e usarli per riadattare. Validare gli aggiornamenti prima che tocchino i telefoni. Portare il modello nelle lingue e dentro le malattie del posto. Contare gli errori. Niente di tutto questo richiede capacità di calcolo spaventose: richiede infrastrutture e dati territoriali, e i modelli piccoli mettono questo livello, per la prima volta, tecnicamente ed economicamente alla portata. Ciò che la comunità non può fare, pre-addestrare il modello di base, fondere i chip, quello, e solo quello, spetta al piano di sopra.

Oggi lo schema è rovesciato. Il piano di sopra non garantisce alla comunità di fare da sé: fa al posto suo, e le concede l’uso. Che cosa il modello sa, come viene compresso, quando viene aggiornato, si decide altrove. Il telefono è a Luweero; il potere di cambiare ciò che il telefono pensa non lo è. La comunità non è messa in condizione di esercitare le proprie capacità: è servita. E il decentramento come delega dall’alto, revocabile con una licenza, con una deprecazione, è l’esatto contrario della sussidiarietà, che riconosce alla comunità una capacità sua, non concessa. Questa, per ora, è la caricatura del principio: il piano di sopra che fa tutto, e chiama sussidio la distribuzione del risultato.

Fermarsi al sospetto, però, sarebbe una lettura monca e mancherebbe il punto per cui questa storia merita di essere raccontata. Ed ecco perché l’enciclica: perché non parte dalla diffidenza. Parte dal bene comune, e legge l’AI come un’opportunità grande, forse la più grande che la tecnica abbia mai offerto alla cura. Solo che nella Magnifica Humanitas il bene comune viene prima: è il principio che ordina gli altri, non un correttivo da applicare dopo. La proprietà collettiva e la sussidiarietà sono i suoi strumenti; il discernimento, la levatrice che verifica, esclude, decide è l’atto che li tiene dentro il restare umani. Questo ordine non è un dettaglio dottrinale: è un’architettura politica. E ci voleva un’enciclica, mentre la politica abdica da anni, a manifestarla.

Dati, intelligenza artificiale e infrastrutture devono tendere a essere proprietà collettive delle comunità e dei territori che li generano e li usano. Le valutazioni cliniche di Luweero, le linee guida nazionali, gli adattamenti alle lingue e alle malattie del posto: tutto questo nasce dal territorio e al territorio deve appartenere. Non come dato ceduto in cambio di un servizio: come patrimonio, parola che condivide con matrimonio la stessa radice, munus, il dono che obbliga, il legame che non si liquida. Ed è la radice di un’altra parola ancora: comunità.

Dove la proprietà piena non è possibile, e per i grandi modelli di base, oggi, non lo è, il rapporto con chi possiede il calcolo non può essere un rapporto di mercato, in cui il territorio compra un servizio e lo paga coi propri dati. Deve essere un rapporto di reciprocità e di mutuo soccorso. Il territorio conferisce ciò che ha, acqua, energia, terre rare, dati, lavoro, conoscenza dei propri contesti, e ciò che riceve non è un prodotto. È un debito che l’altra parte contrae.

Il capitalismo estrattivo racconta la storia al contrario: Big Tech creditore di innovazione, tutto il resto del mondo debitore di sviluppo; il territorio deve mettersi in pari, e paga con ciò che ha.

Ma è l’asse a essere rovesciato. Di che cosa è fatto un modello? dell’acqua che raffredda i server, delle terre rare dentro i chip, dell’energia dei bacini, dei corpi e dell’esperienza clinica da cui i dati escono. Senza questo conferimento il modello non esiste.

Sono le Big Tech a essere strutturalmente in debito. E poiché questo debito non si salda con il denaro, perché nella reciprocità il denaro chiude ciò che deve restare aperto, si salda cedendo quote di sovranità: dominio collettivo sugli adattamenti, potere di validazione sugli aggiornamenti, restituzione dei dati in forme riutilizzabili. Non clienti e fornitori: soci. Ciascuno conferisce ciò che l’altro non ha.

È la differenza tra la concessione e la regola. Nella concessione il territorio riceve ciò che il proprietario decide di dare, finché decide di darlo. Nella regola nessuno possiede da solo e nessuno può sfilarsi. E la regola non è un’eccentricità alpina: è un’istituzione che l’umanità ha inventato dappertutto, ogni volta che una risorsa vitale andava governata insieme. Le comunità delle Alpi che da otto secoli amministrano boschi e pascoli come dominio indivisibile. I pozzi dei Borana, tra Etiopia e Kenya, assegnati da consigli comunitari secondo turni che nessun singolo può alterare. Le assemblee d’irrigazione balinesi che coordinano l’acqua delle risaie da un millennio. I patti di villaggio della Cina rurale, che regolavano obblighi reciproci e beni comuni. Stessa architettura, emersa indipendentemente ovunque: assemblea, risorsa, regola, inalienabilità. Sono quelle che chiamo ecclesie metaboliche: assemblee che governano un metabolismo comune, l’acqua che scende, il bosco che ricresce, il paesaggio, e oggi i dati che escono dai corpi e dal lavoro di una comunità.

Il dominio collettivo è un’istituzione da ricordare non un’utopia da fondare . E l’Africa orientale, che ne custodisce esemplari a poche centinaia di chilometri da Luweero, non ha niente da farsi insegnare.

Riletta in quest’ordine, Luweero non dimostra che l’AI medica sia un pericolo travestito da aiuto. Dimostra che l’aiuto è tecnicamente pronto e politicamente orfano. Un bene che serve al bene comune e appartiene a un solo soggetto privato non è un bene comune: è una concessione. E le concessioni hanno una proprietà che nessuna compressione riduce, si revocano.

La sussidiarietà, quella vera, non si scarica da nessun server. Si costruisce come si è sempre costruito il comune: una comunità che fa da sé ciò che può, un piano di sopra obbligato a garantirglielo, una regola scritta che vincola entrambi e sopravvive a entrambi. In quella sala parto di Luweero, per quaranta secondi, il futuro ha funzionato: una donna sola, carica di dubbi ma responsabile, uno strumento che l’ha aiutata a farsi la domanda giusta, una decisione rimasta sua. Il telefono funziona senza rete. Manca solo tutto il resto.