Anthropic, la società dell’intelligenza artificiale Claude, si prepara a quotarsi al Nasdaq e dedica 94 pagine del prospetto ai fattori di rischio, avvertendo che, secondo la sua stessa valutazione, l’AI potrebbe arrivare a minacciare la sopravvivenza dell’umanità.
Ora immaginate che Oppenheimer avesse deciso di quotare la bomba atomica in Borsa, chiedendo denaro per svilupparla e avvertendo gli investitori che avrebbe potuto distruggere l’umanità. Avremmo considerato sufficiente dichiarare il rischio per rendere accettabile l’operazione?
Oppenheimer non possedeva la bomba, però la AI in potenza è molto più di una bomba atomica. L’immagine descrive la contraddizione politica che è evidente: stanno quotando una tecnologia alla quale loro stessi attribuiscono un potenziale catastrofico, chiedendo denaro per svilupparla e proponendosi contemporaneamente come garanti della nostra sicurezza. Sganceranno o no la bomba?
Nel Progetto Manhattan il potere decisionale apparteneva a una catena di comando statale, che non equivaleva certo al consenso delle popolazioni coinvolte. Qui un’impresa privata raccoglie capitali per sviluppare qualcosa i cui rischi, secondo le sue stesse dichiarazioni, potrebbero riguardare tutti.
La distribuzione del potere prevista è precisa: i sette fondatori conserveranno il 50,1% dei voti sulle decisioni generali degli azionisti, mentre un gruppo di garanti indipendenti nominerà la maggioranza del consiglio di amministrazione. Lo statuto permetterà di anteporre la sicurezza ai profitti.
Queste garanzie sono solo elemosina perchè non attribuiscono alle comunità coinvolte il potere di decidere. L’umanità compare come destinataria del beneficio, senza diventare il soggetto che ne stabilisce le condizioni.
Anthropic gioca così: descrive il pericolo e, attraverso il proprio impegno a governarlo, costruisce anche una ragione per affidarle fiducia e potere. Il messaggio politico è: sappiamo costruirla, conosciamo i rischi, quindi affidatevi a noi anche per decidere se e come usarla.
Qui il discorso tocca il sacro, perché mette in gioco qualcosa che consideriamo inviolabile, la vita e la sopravvivenza dell’umanità, e il potere di custodirlo. Anthropic assume simbolicamente un ruolo salvifico: chi contribuisce a produrre la possibile minaccia diventa anche il soggetto al quale affidarci per evitarla. La fiducia in un produttore di tecnologia si trasforma così nell’affidamento a un custode del nostro destino.
Chi compra le azioni sceglie di rischiare il proprio denaro in cambio di un possibile guadagno. Agli altri non viene chiesto nulla: sono inclusi nella scommessa senza averla accettata. L’impresa raccoglie il capitale, ma mette in gioco anche il futuro di chi non le ha affidato né un euro né il diritto di decidere al suo posto.
Immagine: Il Giudizio universale, Michelangelo Buonarroti, realizzato tra il 1536 e il 1541, Cappella Sistina. Chi ci promette la salvezza, quale potere ci chiede in cambio?
