Mer. Dic 17th, 2025
Quanto sono alti i costi di calcolo di OpenAI? Forse molto più alto di quanto pensassimo

Rimani informato con aggiornamenti gratuiti

Altrove su Internet oggi, il blogger tecnologico Ed Zitron ha un post interessante sul consumo di denaro di OpenAI. Il punto è che i costi di gestione di OpenAI potrebbero essere molto più alti di quanto si pensasse in precedenza e che il suo principale sostenitore, Microsoft, si sta comportando molto bene con il loro accordo di compartecipazione alle entrate.

Il post cita dati che presumibilmente mostrano la spesa per inferenza di OpenAI sulla piattaforma di web hosting Azure di Microsoft. L'inferenza è il processo mediante il quale applicazioni come ChatGPT richiamano modelli di linguaggio di grandi dimensioni per generare risposte.

Prima della pubblicazione, Ed è stato così gentile da discutere con noi le informazioni che ha visto. Ecco i costi di inferenza come grafico:

Il posto migliore per iniziare è dire ciò che i numeri non mostrano. Quanto sopra è inteso solo per inferenza, non per il compito più intenso di formazione del modello, e non può fornire un quadro completo della relazione multi-filo di Microsoft con OpenAI.

Ma soprattutto, i dati sono corretti? Abbiamo mostrato le versioni Microsoft e OpenAI delle cifre presentate sopra, arrotondate a un multiplo, e abbiamo chiesto se le ritenevano sostanzialmente accurate. Abbiamo anche fornito i dati a persone che hanno familiarità con le aziende e abbiamo chiesto eventuali indicazioni che potessero offrire.

Un portavoce di Microsoft ci ha detto: “Non entreremo nei dettagli, ma posso dire che i numeri non sono del tutto corretti”. Alla domanda su cosa significasse esattamente, il portavoce ha detto che Microsoft non ha commentato e non ha risposto alle nostre richieste successive. Un portavoce di OpenAI non ha risposto alle nostre e-mail se non per dire che dovremmo chiedere a Microsoft.

Una persona che ha familiarità con OpenAI ha affermato che i dati che abbiamo mostrato loro non forniscono un quadro completo, ma ha rifiutato di dire di più. In breve, anche se non siamo stati in grado di verificare l'accuratezza dei dati, non ci è stato nemmeno dato motivo di dubitarne sostanzialmente. Fanne quello che vuoi.

Prendendo tutto per oro colato, le cifre sembrano mostrare una disconnessione tra ciò che è stato riportato sulle finanze di OpenAI e i costi di gestione che stanno attraversando i libri contabili di Microsoft.

Ad esempio, nei primi sei mesi del 2025, OpenAI sembra aver speso quasi 5 miliardi di dollari solo per l’inferenza. Il suo consumo di cassa nello stesso periodo è stato riferito a 2,5 miliardi di dollari su un fatturato di 4,3 miliardi di dollari.

Le informazioni riportate da Ed includono anche quelle che si presume siano cifre trimestrali relative alla quota di fatturato del 20% di Microsoft. Questi richiedono particolare cautela.

Oltre a spettare il 20% delle entrate di OpenAI, secondo ai rapportiMicrosoft concede a OpenAI una riduzione del 20% su alcuni ricavi di Azure e Bing. Potrebbero essere applicati anche pagamenti di royalty. È una relazione non pubblica complicata, in qualche modo circolare, che non può essere riassunta in un singolo punto dati.

Moltiplicando il numero della quota di compartecipazione alle entrate per cinque, otteniamo le stime delle entrate del gruppo per OpenAI. Si tratta di stime basse per definizione, a causa della natura bidirezionale della relazione tra le aziende, ma potrebbero comunque offrire un'idea di come le entrate e i costi di gestione si sono evoluti insieme.

Ecco il grafico:

Come scrive Ed, sembra che OpenAI abbia speso più di 12,4 miliardi di dollari in Azure solo per il calcolo inferenziale negli ultimi sette trimestri solari. Le entrate implicite per il periodo sono state pari ad un minimo di 6,8 miliardi di dollari. Anche tenendo conto di una certa confusione tra i tassi di esercizio annualizzati e i totali di fine periodo, il divario apparente tra ricavi e costi di esercizio è molto più di quanto riportato in precedenza. E, come Ed, facciamo fatica a spiegare come mai i numeri possano essere così distanti.

Se i dati sono accurati – cosa che non possiamo garantire, per ribadire, ma stiamo scrivendo questo post dopo aver dato a entrambe le società l'opportunità di dirci che non lo è – allora metterebbe in discussione il modello di business di OpenAI e di quasi tutti gli altri fornitori LLM generici. Ad un certo punto, stando alle cifre, i costi di gestione devono crollare oppure le tariffe dei clienti devono aumentare drasticamente. Non c'è ancora alcun accenno che nessuna delle due tendenze prenda piede.

E cosa succede se non cambia nulla? Beh, è ​​una domanda sciocca per ovvi motivi, ma risponderemo comunque.

Utilizzando i tassi di crescita mobili di quattro trimestri, basati sui dati presentati, le entrate minime implicite del gruppo di OpenAI prima dei suoi accordi di condivisione potrebbero coprire i costi di inferenza entro il 2033 circa. Al netto della quota di compartecipazione alle entrate di Microsoft del 20%, le entrate minime stimate di OpenAI coprirebbero i costi di inferenza quasi mai: