Se sarà confermato, come pare, il risultato annunciato da OpenAI su una specifica formulazione del problema di Navier–Stokes, ottenuto con un suo modello di intelligenza artificiale, avremo ragioni straordinarie per appassionarci ancora più a questa tecnologia e alle possibilità che apre alla conoscenza compresa la difficoltà nel comprendere i suoi comportamenti. Il passaggio da questa difficoltà all’alieno merita invece una lettura politica.
Fatico a capire perché dovremmo scorgere in questi successi la nascita di una «mente aliena», per riprendere il titolo scelto da Jakub Pachocki, Chief Scientist di OpenAI.
La difficoltà di comprenderne il funzionamento non cancella ciò che li ha resi possibili: secoli di matematica, linguaggi formalizzati, istituzioni formative, lavoro cognitivo accumulato e cooperazione sociale. Ci sono la storia della specie e il suo sapere collettivo, quel general intellect che oggi viene elaborato e concentrato attraverso infrastrutture, energia e capitali. Che il contributo della macchina sia nuovo, decisivo e perfino oltre le nostre capacità non significa che arrivi da un altrove. A meno che non sia l’ennesimo hype a cui siamo abituati.
C’è invece un’estraneità che possiamo riconoscere nei rapporti di proprietà attraverso cui questa tecnologia entra nelle nostre vite. La società contribuisce a produrre un patrimonio conoscitivo che, rielaborato da infrastrutture private, le ritorna come una potenza sulla quale ha scarsa possibilità di decidere e alla quale deve pagare l’accesso. Possiamo leggere questo processo come una forma contemporanea di feticismo della merce: le relazioni sociali e il lavoro che hanno reso possibile una capacità scompaiono dietro il prodotto, al quale quella capacità sembra appartenere autonomamente. L’estraneità assume così un significato politico: ciò che deriva anche da noi può essere impiegato senza di noi, e persino contro i nostri interessi.
La narrazione dell’alienità, soprattutto quando viene promossa dalle aziende che producono e vendono questi sistemi, può rafforzare questo assetto. Presentare l’AI come un’entità potente, imperscrutabile e pericolosa permette di trasformare la concentrazione delle infrastrutture e la segretezza industriale in presunte misure di sicurezza pubblica. Chi possiede la tecnologia può accreditarsi presso i governi come il custode indispensabile per proteggere la società. La proprietà privata acquista così una giustificazione che supera il diritto a vendere un prodotto: pretende di diventare una garanzia per tutti.
Anche le responsabilità cambiano posto nel racconto. Un sistema sviluppato e messo al lavoro da un’impresa diventa una creatura che ci sorprende. Si discute delle sue presunte capacità umane e extra umane mentre arretrano le scelte su quali comportamenti premiare, quali priorità finanziare, dove impiegare i modelli e quali rischi accettare. L’imprevedibilità può essere reale, ma non cancella la responsabilità di aver deciso quanta autonomia concedere a un sistema e a quali attività e persone esporlo. La difficoltà di comprendere una rete neurale non può diventare uno scudo per sottrarre all’esame pubblico le decisioni di chi la sviluppa.
Non occorre sostenere che qualcuno stia inventando ogni rischio perchè anche un’incertezza reale può essere usata per attrarre investimenti, chiedere fiducia e legittimare una concentrazione di potere. Chi sviluppa questi sistemi possiede competenze necessarie per provare a comprenderli, ma non può rivendicare l’autorità esclusiva di definirne capacità, rischi e significato sociale, né di stabilire come dobbiamo organizzarci attorno a essi.
L’intelligenza artificiale può ampliare enormemente il sapere e liberarci da molto lavoro. Perché queste possibilità diventino un futuro migliore per tutti servono infrastrutture di calcolo pubbliche e comuni, risorse per la ricerca aperta, partecipazione alle decisioni sulle priorità e strumenti che restituiscano alla collettività una parte dei benefici economici. Il contributo di chi ricerca, costruisce e investe va riconosciuto; il debito verso il sapere collettivo deve tradursi anch’esso in diritti, accesso e potere di decisione.
Quanto più l’AI diventa capace, tanto meno è accettabile che la conoscenza da cui deriva torni a noi esclusivamente come un servizio privato, alle condizioni stabilite da chi controlla l’infrastruttura.
Se qualcosa di alieno c’è in questa storia, è la distanza che le Big Tech costruiscono tra il sapere dell’umanità e il potere di decidere come usarlo: una distanza fatta di proprietà, accessi e decisioni sottratte a chi ha contribuito a renderlo possibile.
