Rimani informato con aggiornamenti gratuiti
Gli sforzi della Cina per eguagliare la potenza di calcolo degli Stati Uniti nell'intelligenza artificiale sono ostacolati da software pieni di bug, con i clienti del principale produttore di chip per l'intelligenza artificiale, Huawei, che lamentano problemi di prestazioni e la difficoltà nel passare dai prodotti Nvidia.
Il colosso cinese della tecnologia è emerso come capofila nella corsa allo sviluppo di un'alternativa nazionale al leader del settore Nvidia, dopo che Washington ha ulteriormente rafforzato i controlli sulle esportazioni di silicio ad alte prestazioni lo scorso ottobre.
La sua serie Ascend è diventata un'opzione sempre più popolare tra i gruppi di intelligenza artificiale cinesi per eseguire l'inferenza, un processo che applicazioni come ChatGPT di OpenAI utilizzano per generare risposte alle query.
Ma diversi addetti ai lavori del settore, tra cui un ingegnere di intelligenza artificiale di un'azienda partner, hanno affermato che i chip erano ancora molto indietro rispetto a quelli di Nvidia per la formazione iniziale dei modelli. Hanno attribuito la colpa a problemi di stabilità, connettività inter-chip più lenta e software inferiore sviluppato da Huawei chiamato Cann.
La piattaforma software Cuda di Nvidia è nota come la “salsa segreta” dell'azienda, perché è facile da usare per gli sviluppatori ed è in grado di accelerare notevolmente l'elaborazione dei dati. Huawei è una delle tante aziende che cercano di rompere la morsa di Nvidia sui chip AI creando software alternativi.
Tra coloro che si lamentano di Cann ci sono anche i dipendenti della Huawei. Un ricercatore, che ha preferito non essere nominato, ha affermato che rendeva il prodotto Ascend “difficile e instabile da usare” e che il lavoro di test ne era ostacolato.
“Quando si verificano errori casuali, è molto difficile scoprire da dove provengono a causa della scarsa documentazione. Hai bisogno di sviluppatori di talento che leggano il codice sorgente per vedere qual è il problema, il che rallenta tutto. La codifica è imperfetta”, hanno detto.
Un altro ingegnere cinese informato sull'uso dei processori Huawei da parte di Baidu ha affermato che i chip si bloccavano frequentemente, complicando il lavoro di sviluppo dell'intelligenza artificiale.
Il ricercatore Huawei ha affermato che gli arresti anomali si sono verificati perché era difficile utilizzare l'hardware. “È facile ottenere risultati negativi perché le persone non conoscono molto l'hardware stesso”, hanno affermato.
Per affrontare il problema, Huawei ha inviato ingegneri per aiutare i clienti in loco a trasferire il codice di training precedentemente scritto su Cuda in Cann, secondo diverse persone a conoscenza della questione. Baidu, iFlytek e Tencent sono tra le aziende tecnologiche che hanno ricevuto team di ingegneri, hanno affermato queste persone.
Huawei ha rifiutato di commentare. Baidu, iFlytek e Tencent non hanno risposto alle richieste di commento.
Un ex dipendente di Baidu ha affermato: “Huawei eccelle nel servizio clienti, quindi ovviamente hanno ingegneri in loco presso i loro grandi clienti, che li aiutano a utilizzare i loro chip”.
Huawei può sfruttare un'enorme forza lavoro per accelerare il cambiamento. Secondo l'azienda, oltre il 50 percento dei suoi 207.000 dipendenti lavora in ricerca e sviluppo, compresi gli ingegneri inviati a installare la tecnologia per i clienti.
“Il vantaggio di Huawei rispetto a Nvidia è che può lavorare a stretto contatto con i suoi clienti”, ha affermato l'analista tecnologico Tilly Zhang presso la società di consulenza Gavekal. “A differenza di Nvidia, ha un ampio team di ingegneri per aiutare a risolvere i problemi dei clienti e farli passare al loro hardware”.
Huawei ha anche creato un portale online in cui gli sviluppatori possono fornire feedback su come migliorare il proprio software.
Secondo fonti a conoscenza della questione, dopo che gli Stati Uniti hanno inasprito i controlli sulle esportazioni in ottobre, Huawei ha aumentato il prezzo dell'Ascend 910B, il chip utilizzato per l'addestramento, del 20-30 per cento.
Anche i clienti di Huawei hanno espresso preoccupazione per le limitazioni di fornitura del chip Ascend, probabilmente dovute a difficoltà di produzione, con le aziende cinesi impossibilitate ad acquistare macchinari all'avanguardia per la produzione di chip dalla società olandese ASML.
Huawei ha visto una forte domanda per i suoi chip AI. Giovedì ha segnalato un aumento del 34 percento nei ricavi del primo semestre, senza fornire una ripartizione delle vendite per le sue diverse attività.
Sono stati “addestrati e iterati” più di 50 modelli fondamentali sul chip Ascend, ha affermato il direttore esecutivo di Huawei, Zhang Ping'an, alla Conferenza mondiale sull'intelligenza artificiale tenutasi a Shanghai a luglio.
iFlytek ha affermato che il suo ampio modello linguistico è stato addestrato esclusivamente sui chip Huawei, dopo che l'anno scorso Huawei ha inviato un gruppo di ingegneri presso la sua sede centrale a Hefei, nella Cina orientale, per integrare la tecnologia.