Rimani informato con aggiornamenti gratuiti
I data center di proprietà statale cinesi a filo con chip di intelligenza artificiale stanno sfruttando l'esperienza dei gruppi tecnologici per aiutare a sostenere i loro investimenti da miliardi di dollari nell'ambito di uno sforzo a livello nazionale per aumentare l'adozione della tecnologia in rapido sviluppo.
I governi locali hanno arruolato il merito interattivo e le start-up Infinigence AI e Siliconflow per sviluppare la tecnologia per l'aumento dei data center di AI creati in tutta la Cina, secondo le persone con conoscenza della questione e dei documenti pubblici.
Mostra come la Cina sta mettendo sempre in comune risorse dai settori privati e statali-combinando il potere di spesa del governo locale con i talenti tecnologici di avvio-come parte di una spinta ad accelerare la sua rete di infrastrutture di informatica.
“Il collo di bottiglia al momento non sta ottenendo le patatine ma capire come farli funzionare in un cluster. Questo è un lavoro davvero complicato “, ha affermato CHIP Investor con sede a Pechino.
La mossa arriva dopo che la start-up cinese DeepSeek ha catturato l'attenzione del mondo il mese scorso con le ultime novità di una serie di rilasci di modelli di intelligenza artificiale che hanno mostrato prestazioni simili a quelli di rivali statunitensi come Openai e Google, ma raggiunti su quello che sembrava essere un budget bootstrap. .
La società con sede a Zhejiang ha utilizzato l'abilità ingegneristica per spremere la più possibile potenza di calcolo dalle sue GPU NVIDIA, riducendo il costo della formazione del modello e la cosiddetta inferenza, il processo di invito a grandi modelli linguistici.
I data center di proprietà statale stanno sfruttando questo tipo di talento di ingegneria del settore privato in mezzo a un boom delle infrastrutture di intelligenza artificiale in tutta la Cina, poiché il paese investe miliardi in corsa contro gli Stati Uniti per assumere la guida nella tecnologia in rapido sviluppo.
A metà del 2024, 250 data center AI erano stati completati o erano in costruzione, secondo i dati ufficiali. I governi locali hanno svolto un ruolo centrale nel bankrolling di questi progetti da miliardi di dollari, emettendo obbligazioni per finanziare la costruzione e garantire i chip, secondo le persone che hanno familiarità con gli accordi. Tuttavia, hanno aggiunto che molti dei progetti avevano sofferto di una mancanza di know -how tecnico e avevano sprecato risorse critiche di chip.
L'IA Infinigence è emersa come uno dei principali beneficiari della spinta dello stato a migliorare le prestazioni di elaborazione, firmando accordi con i data center di Ningxia e Tianjin gestiti dallo stato.
La start-up con sede a Shanghai, supportata da Hongshan e Qiming Venture Partners, affitta i chip Nvidia agli sviluppatori che costruiscono applicazioni di intelligenza artificiale. Fa soldi tra la differenza che paga l'operatore del data center e ciò che addebita l'accesso finale al cliente ai chip.
A dicembre, il governo di Shanghai ha annunciato una collaborazione con Infinigence AI e Start-Up Siliconflow per costruire una piattaforma per i clienti per creare applicazioni di intelligenza artificiale su modelli di terze parti ospitati in un data center gestito da un ramo locale della Cina Telecom di proprietà statale.
Entrambe le aziende costruiscono motori di inferenza che accelerano LLM attraverso tecniche che prendono modelli pre-allenati e li regolano meglio ai dati o comprimendo le dimensioni dei modelli AI.
Un investitore ha affermato che tali collaborazioni sono cruciali per corteggiare i clienti di intelligenza artificiale. Le aziende tecnologiche eseguono test prima di firmare contratti con data center per garantire alcuna interruzione durante costose corse di formazione.
Merit Interactive con sede a Zhejiang è stato anche sfruttato per la sua competenza ingegneristica. Un media di Zhejiang ha pubblicizzato un incontro tra dirigenti interattivi meriti e funzionari locali, in cui la società è stata individuata per il suo ruolo nella costruzione di un grande data center di intelligenza artificiale nella città di Wenzhou.
Il gruppo è associato al partner commerciale del fondatore di DeepSeek Liang Wenfeng presso il suo fondo di negoziazione quantistici, secondo una persona con conoscenza della questione.
Secondo i media locali, Xu Jin, che ha co-fondato High-Flyer con Liang, lavorava presso Merit Interactive come direttore tecnico. Merit Interactive ha interessi aziendali che abbracciano un'attività di importazione ed esportazione per hardware tecnologico agli investimenti in start-up ad alta tecnologia.
Gli Stati Uniti hanno una serie simile di società “neocloud”, tra cui Coreweave, Lambda e Vultr, che gestiscono e affittano l'accesso ai cluster di calcolo nei data center, dando alle aziende la possibilità di utilizzare i chip per una base pay-as-you.
La Cina è stata in grado di sviluppare la sua industria dell'intelligenza artificiale nonostante Washington abbia stretto i suoi controlli di esportazione sui chip di fascia alta di Nvidia. È emerso un fiorente mercato nero per i chip di contrabbandati, con gli addetti ai lavori del settore che hanno rilevato che i prezzi degli H100 altamente ricercati sono diminuiti negli ultimi mesi poiché il numero di chip illeciti portati in Cina si sono gonfiati.
Gli operatori di data center di proprietà statale hanno anche avuto accesso preferenziale ai chip AI AI di Huawei, lo sfidante principale di Nvidia in Cina per il crescente mercato delle inferenze.
Come DeepSeek, sia l'infinigence AI che il Siliconflow hanno lavorato per abbattere i costi di inferenza per rendere più economico l'uso di LLM. Stanno anche lavorando con Huawei per rendere i chip ascendi compatibili con i principali modelli di AI cinesi per l'inferenza.
Questo mese, Huawei e Siliconflow hanno annunciato una collaborazione per rendere disponibili i modelli AI di DeepSeek attraverso il servizio cloud del gigante delle telecomunicazioni. Secondo una persona che ha familiarità con la questione, Deepseek ha collaborato con le due società durante le vacanze di Capodanno cinese per distribuire i suoi modelli su Huawei Chips.
Ulteriori rapporti di Michael Acton a San Francisco