Pare che Microsoft alla fine stia facendo molto bene i suoi conti e la strategia delle sue mosse sembra sempre più chiara. Cosi come è chiaro che dal monopolio del sistema operativo, grazie Carlo Mancosu, a quello dei social siamo arrivati a quello della AI. Per ora pare impossibile immaginare che possa nascere qualche nuova startup che non sia nella galassia dei monopolisti digitali di oggi (Facebook, Google, Musk, Apple, Microsoft, Amazon) i costi dei dati e della potenza di calcolo per far partire qualsiasi nuova iniziativa è impossibile fuori dalla loro dimensione.
Cosa ho capito:
1) su Google si eseguono circa 320.000 query di ricerca al secondo.
2) Google ha registrato entrate per $ 162,45 miliardi nel 2022 per attività di ricerca sul suo motore
3) Con un ricavo medio per query di 1,61 centesimi
4) Con il COGS, Cost of goods sold, per query, si arriva al costo di 1,06 centesimi per query di ricerca, generando 1,61 centesimi di entrate.
5) Si stima che il costo per query di ChatGPT sia di 0,36 centesimi.
6) Per Google ci sarebbe una riduzione di 36 miliardi di dollari del reddito operativo. Ricordiamo che sono 36 miliardi di dollari di costi di inferenza LLM.
7) L’implementazione dell’attuale ChatGPT in ogni ricerca eseguita da Google richiederebbe 512.820,51 server A100 HGX con un totale di 4.102.568 GPU A100. Il costo totale di questi server e reti supera i soli $ 100 miliardi Capex.
8) Nadella, CEO di Microsoft, attacca indirettamente Google quando dice “D’ora in poi, il margine lordo per ogni ricerca utente diminuirà per sempre. ”
9) Google sta introducendo la sua versione di ricerca con un LLM, Bard. Bard, che è un fork di LaMDA (che è il LLM esteso di Google), per evitare che il margine lordo si abbassi troppo è molto più leggero sia di ChatGPT che di LaMDA.
10) Microsoft sta facendo saltare il mercato della ricerca cosi com lo abbiamo conosciuto fino a oggi.

Trovate i dettagli qui nell’ottimo post, ovviamente su Substack, che se ancora non vi siete accorti sta soppiantando qualsiasi piattaforma editoriale, media tradizionali compresi, soprattutto per la qualità e per la ricchezza delle informazioni non mainstream.