La Cina ha appena costruito un importante modello di intelligenza artificiale senza chip Nvidia. Ora OpenAI ha trovato modi per funzionare con un numero molto inferiore di essi, riducendo i costi di inferenza di oltre la metà. Anche così, le azioni di Nvidia sono aumentate.
Questo è l'enigma. OpenAI è uno dei maggiori clienti di Nvidia (NVDA). Eppure le azioni sono salite anche mentre si è spostata verso la necessità di meno chip.
OpenAI Riduce i Costi di Inferenza su Due Fronti
Il primo fronte è il software. The Information ha riportato che gli ingegneri di OpenAI hanno ridotto i costi di inferenza di oltre la metà con nuovi metodi di ottimizzazione. OpenAI non ha pubblicato i dettagli tecnici.
I risparmi riducono il numero di chip Nvidia necessari per gestire parte del traffico di ChatGPT. Potrebbero anche consentire a OpenAI di abbassare i prezzi o aumentare i limiti di utilizzo.
Il secondo fronte è l'hardware. Il 24 giugno, OpenAI e Broadcom (AVGO) hanno svelato Jalapeño, il suo primo chip personalizzato. OpenAI ha dichiarato che i primi test indicano prestazioni di gran lunga migliori per watt rispetto ai chip leader di oggi, con un design di nove mesi.
I primi chip saranno distribuiti su scala di un gigawatt entro la fine del 2026, con Microsoft come partner principale. Nvidia gestisce ancora la maggior parte dell'inferenza di OpenAI, anche se OpenAI finanzia la sua partnership con Broadcom.
Le Grandi Aziende Tecnologiche Corrono per Costruire i Propri Chip
OpenAI non è sola. Google ha costruito unità di elaborazione tensoriale dal 2016, e Amazon ha seguito con la propria. La società di ricerca TrendForce prevede che i sistemi basati su ASIC raggiungeranno il 27,8% delle spedizioni di server AI nel 2026, il massimo dal 2023.
Secondo il conteggio di TrendForce, i chip personalizzati cresceranno più velocemente delle GPU Nvidia per la prima volta. Fornitori come Broadcom e Marvell sono diventati produttori chiave di chip personalizzati nella costruzione.
Le sanzioni stanno spingendo la stessa tendenza in Cina. Meituan ha recentemente addestrato il suo modello LongCat-2.0 con 1,6 trilioni di parametri sui chip domestici cinesi, senza alcun hardware Nvidia.
Perché le azioni Nvidia continuano a salire
La minaccia è reale, ma i numeri spiegano la calma. Le azioni Nvidia sono aumentate di quasi il 2% il 30 giugno, vicino a un valore di 4,8 trilioni di dollari. Gli ultimi risultati di Nvidia hanno mostrato un aumento del fatturato dei data center del 75% a un record di 62,3 miliardi di dollari in un solo trimestre.
La maggior parte della pressione si trova nell'inferenza, non nell'addestramento. Nvidia domina ancora l'addestramento dei modelli, dove il suo software CUDA ha bloccato gli sviluppatori dal 2006. I chip personalizzati raramente eguagliano quella flessibilità.
Nvidia sta anche difendendo il livello di inferenza di cui è accusata di perdere. Al GTC, Nvidia ha dichiarato che la sua prossima piattaforma Rubin riduce i costi di inferenza per token fino a 10 volte rispetto a Blackwell. Un'inferenza più economica tende anche ad aumentare l'uso e il calcolo totale con essa.
Non tutti sono convinti. Alcuni investitori hanno ruotato verso azioni di chip rivali, scommettendo che il cambiamento nell'inferenza si complica. Eppure Nvidia ha guidato questo trimestre senza contare alcuna vendita in Cina e vede comunque una domanda record.
Nvidia continua a vendere ogni chip che può produrre. La vera prova è se i suoi clienti più grandi possono escluderla più rapidamente di quanto il mercato cresca.
Fonte: BeInCrypto
