La Cina ha appena costruito un importante modello di intelligenza artificiale senza chip Nvidia. Ora OpenAI ha trovato il modo di funzionare con molti meno chip, riducendo i costi di inferenza di oltre la metà. Eppure, il titolo Nvidia è salito.
Questa è la questione. OpenAI è uno dei maggiori clienti di Nvidia (NVDA). Tuttavia, le azioni sono aumentate anche se l’azienda ora necessita di meno chip.
OpenAI riduce i costi di inferenza su due fronti
Il primo fronte riguarda il software. Secondo quanto riportato da The Information, gli ingegneri di OpenAI hanno ridotto i costi di inferenza di oltre la metà grazie a nuove tecniche di ottimizzazione. OpenAI non ha spiegato in dettaglio le specifiche tecniche.
Il risparmio riduce il numero di chip Nvidia necessari per gestire parte del traffico di ChatGPT. Potrebbe anche permettere a OpenAI di abbassare i prezzi o aumentare i limiti di utilizzo.
Il secondo fronte riguarda l’hardware. Il 24 giugno, OpenAI e Broadcom (AVGO) hanno presentato Jalapeño, il loro primo chip personalizzato. Secondo OpenAI, i primi test indicano prestazioni per watt nettamente superiori rispetto ai chip attuali, il tutto dopo soli nove mesi di progettazione.
I primi chip saranno implementati su scala gigawatt entro la fine del 2026, con Microsoft come partner principale. Nvidia continua a gestire la maggior parte delle attività di inferenza di OpenAI, anche se OpenAI finanziaria la sua partnership con Broadcom per i chip personalizzati.
Le Big Tech corrono per costruire chip personalizzati
OpenAI non è sola. Google realizza unità di elaborazione Tensor dal 2016 e Amazon ha seguito il suo esempio. Secondo la società di ricerca TrendForce, le previsioni sono che i sistemi basati su ASIC raggiungeranno il 27,8% delle spedizioni di server AI nel 2026, il valore più alto dal 2023.
Secondo i dati di TrendForce, i chip personalizzati sono destinati a crescere più rapidamente delle GPU Nvidia per la prima volta. Fornitori come Broadcom e Marvell sono diventati produttori chiave di chip personalizzati per questa transizione.
I dazi spingono la stessa tendenza in Cina. Di recente Meituan ha addestrato il suo modello LongCat-2.0 da 1,6 trilioni di parametri utilizzando chip nazionali cinesi, senza alcun hardware Nvidia.
Perché il titolo Nvidia continua a salire
La minaccia è reale, ma i numeri spiegano la tranquillità. Il titolo Nvidia è salito di quasi il 2% il 30 giugno, avvicinandosi a un valore di 4.800 miliardi di dollari. Gli ultimi risultati di Nvidia mostrano ricavi dai data center in crescita del 75% a un record di 62,3 miliardi di dollari in un singolo trimestre.
La maggior parte della pressione si concentra sull’inferenza, non sull’addestramento. Nvidia mantiene ancora il dominio nell’addestramento dei modelli, dove il suo software CUDA tiene saldo lo sviluppo dal 2006. I chip personalizzati difficilmente offrono la stessa flessibilità.
Nvidia sta anche difendendo il livello di inferenza che viene accusata di perdere. Al GTC, Nvidia ha dichiarato che la piattaforma Rubin di prossima uscita ridurrà i costi di inferenza per token fino a 10 volte rispetto a Blackwell. Un’inferenza più economica tende inoltre a far aumentare l’utilizzo e il calcolo totale.
Non tutti sono convinti. Alcuni investitori hanno spostato le proprie posizioni verso titoli rivali di chip, scommettendo che il cambiamento nell’inferenza sia duraturo. Tuttavia, Nvidia ha previsto questo trimestre senza considerare le vendite in Cina, e vede ancora una domanda record.
Nvidia continua a vendere ogni chip che riesce a produrre. Il vero test sarà capire se i suoi maggiori clienti riusciranno a sostituirla più velocemente di quanto non cresca il mercato.
