Il potere si presenta davanti al pubblico, riconosce di poter fare danni e ottiene il diritto di continuare certificando la propria buona volontà. A concederla è la politica, che riceve in cambio promesse di investimenti e potenza nazionale. Le aziende tornano ai loro affari con un impegno da esibire. Il governo può dire di essersi occupato del problema senza aver disturbato chi dovrebbe affrontarlo. A noi viene offerta la rassicurazione.

Alla cena di Trump, di ieri sera alla Casa Bianca gli amici della AI (le Big Tech) parlano di sicurezza dell’intelligenza artificiale mentre il presidente rivendica il primato americano. Le aziende promettono di controllarsi. Il presidente vuole che restino le più forti. L’accordo è volontario, la Cina è la cornice. E noi siamo qui, ancora una volta, a chiederci se credere a una sceneggiatura che si smentisce da sola.

Io non ci credo. E non perché sia impossibile regolamentare anche se difficilissimo. Non ci credo perché la regolamentazione, così come viene proposta a quel tavolo è un’assoluzione.

Una regola che vale solo finché non compromette il primato ha già dentro di sé la clausola che la sospende. Quando un controllo chiederà di rallentare davvero, qualcuno ricorderà che il concorrente non aspetta. Quando una protezione costerà mercato, investimenti o capacità strategica, qualcuno spiegherà che quel costo non possiamo permettercelo. La sicurezza sarà rispettata finché resterà compatibile con la vittoria. Dopo, chiedere di rispettarla potrà diventare un’accusa di tradimento.

Il potere si presenta davanti al pubblico, riconosce di poter fare danni e ottiene il diritto di continuare certificando la propria buona volontà. A concederla è la politica, che riceve in cambio promesse di investimenti e potenza nazionale. Le aziende tornano ai loro affari con un impegno da esibire. Il governo può dire di essersi occupato del problema senza aver disturbato chi dovrebbe affrontarlo. A noi viene offerta la rassicurazione.

Chi possiede i sistemi dominanti? Chi dispone delle infrastrutture necessarie per svilupparli? Chi stabilisce quali rischi contano, quali conseguenze siano accettabili, quale idea di essere umano debba orientare un assistente? L’autoregolamentazione riconsegna queste decisioni agli stessi soggetti che dovrebbero esserne vincolati. Parlare di sicurezza senza discutere le finalità significa costruire sistemi conformi a un mondo che nessuno ci ha chiesto se vogliamo abitare. E poi chiederci di fidarci.

La Cina serve anche a questo. È un concorrente reale, ma nel discorso politico diventa una giustificazione inesauribile. Non serve conoscere ogni suo avanzamento, sapere quali rischi accetti o quali limiti imponga. Basta che la paura del sorpasso sia credibile.

E poi ci sono i team di sviluppo, esercitano potere: scelgono dati e criteri, stabiliscono cosa significhi “utile” o “affidabile”. Attraverso di loro una decisione culturale può diventare una necessità tecnica agli occhi di chi approva. Ma la competenza non è un’investitura democratica.I ricercatori possono opporsi, ma lavorano dentro strutture che controllano carriere, risorse e tempi. La coscienza individuale può essere ignorata o esibita come alibi. Per questo serve organizzare il dissenso, documentare le alternative e rendere riconoscibile chi decide di scartarle. Un’impresa può assorbire una dimissione; un gruppo che contesta le condizioni del proprio lavoro apre un conflitto più difficile da neutralizzare.

E poi c’è un altro incomodo, l’infrastruttura. Ci sono chip, data center, energia, acqua, lavoro, dati, contratti militari e reti di comunicazione. La capacità di costruire un’alternativa dipende dall’accesso a queste risorse. Possiamo discutere all’infinito della risposta corretta di un chatbot mentre pochissimi soggetti decidono chi possa permettersi di addestrarne uno, mantenerlo e distribuirlo. Una regolamentazione dell’algoritmo che lascia intatta questa dipendenza rischia di amministrarne gli effetti senza toccarne le cause.

Una regolamentazione che pretende di incidere deve intervenire sul potere economico, sulla proprietà e sul costo delle decisioni. Antitrust, responsabilità economiche effettive, infrastrutture pubbliche e comunitarie di calcolo, governo collettivo dei dati. Sono direzioni di conflitto profondo e non più rimandabile. Anche una norma può consolidare i dominanti, se introduce costi e autorizzazioni che soltanto loro possono sostenere. Va giudicata da chi rende più forte, da quali alternative permette e da chi mette nelle condizioni di opporsi.

Non salveremo quel che rimane della democrazia e della giustizia sociale affidandoci alle regole sull’AI mentre lasciamo intatto il potere di stabilirne le finalità.

La sicurezza comprende un conflitto politico: fra interessi diversi, fra chi decide e chi subisce, fra chi dispone delle risorse e chi deve chiedere accesso. I team di sviluppo possono aprire una frattura perché lavorano dentro i processi che trasformano interessi e intenzioni in comportamenti. Possono rendere contestabile ciò che viene presentato come inevitabile, senza pretendere per questo di decidere al posto di tutti.

Ma quel conflitto deve uscire dai laboratori. Riguarda i lavoratori sui quali vengono applicati questi sistemi, le scuole che li adottano, le amministrazioni che li acquistano, le comunità che ne sostengono i costi materiali. Chi può rifiutare un impiego? Chi può ottenerne la sospensione? Chi dispone dei mezzi per costruire un’alternativa? Da queste possibilità si misura una distribuzione del potere, non dal numero di principi sottoscritti.

Finché chi stabilisce le finalità potrà anche scegliere i controlli e decidere quando ignorarne gli esiti, continuerò a chiamare questo accordo una capitolazione politica. Ai produttori rimane il potere di decidere; a tutti gli altri viene chiesto di fidarsi della loro disponibilità a rinunciarvi quando sarebbe più conveniente esercitarlo. Non ci credo.

Immagine, i partecipanti: Donald Trump e i rappresentanti del settore tecnologico: Elon Musk (Tesla, SpaceX, xAI), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Jeff Bezos (Amazon), Satya Nadella (Microsoft), Sundar Pichai (Google), Greg Brockman (OpenAI), Dario Amodei e Tom Brown (Anthropic), Lisa Su (AMD), Hock Tan (Broadcom), Sanjay Mehrotra (Micron), Alex Karp e Shyam Sankar (Palantir), Nikesh Arora (Palo Alto Networks), Bill McDermott (ServiceNow), Brandon Rahbar Daniels (Exiger), Chamath Palihapitiya (Social Capital), David Sacks (Craft Ventures). Manca Apple, chissà…