notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Secondo notizie del 9 agosto, di recente si è tenuto l'Open Computing China Summit 2024 con il tema "Collaborazione aperta: collaborazione, saggezza e innovazione".Fornire informazioniserverDirettore generale della linea di prodottiZhao ShuaiCondiviso le tendenze di sviluppo di modelli di grandi dimensioni eAIIl progresso nell’apertura dell’ecologia della potenza di calcolo indica che tutti i computer del futuro lo sarannoIntelligenza artificiale. Dopo l'incontro, Zhao Shuai, Zhang Zheng, product manager senior della linea di prodotti AI&HPC di Inspur Information, e Luo Jian, responsabile della pianificazione del prodotto della linea di prodotti server di Inspur Information, sono stati intervistati dai media e hanno avuto scambi approfonditi sul tema dell'open computing promuovendo lo sviluppo innovativo dell’intelligenza artificiale.

Zhao Shuai ha detto,Oggi, 2/3 dei modelli sono open source e oltre l’80% dei progetti di intelligenza artificiale sono sviluppati utilizzando framework open source. Il modello open source è stato scaricato più di 300 milioni di volte e ha generato più di 30.000 nuovi modelli. Si può dire che l’open source ha portato allo sviluppo e alla prosperità dell’intelligenza artificiale.Su questa base, la progettazione aperta dell’hardware è diventata anche la chiave per promuovere lo sviluppo ecologico della potenza di calcolo dell’intelligenza artificiale. Solo così possiamo raggiungere al meglio ogni cliente e sbarcare in ogni settore.

Zhao Shuai ha fornito un esempio. Nell'ecosistema aperto, la progettazione di OAM accelerato e standardizzato è stata avviata nel 2019. Inspur Information ha dimostrato il primo UBB del settore al vertice OCP nel 2019 e ha lanciato il progetto del sistema di riferimento OAM MX1 nel 2020. Nel 2021 The nel 2016 è stato rilasciato il server NF5498A5 basato sulla specifica OAM v1.0, che ha promosso lo sviluppo e l'implementazione di chip AI di fascia alta di diversi produttori.Gli standard di progettazione aperta di OAM hanno notevolmente accelerato il processo di adattamento e compatibilità dei chip informatici, risparmiando miliardi di dollari in investimenti in risorse industriali, accelerando l'implementazione e l'iterazione dei computer e supportando la maturità dei modelli di grandi dimensioni di livello superiore e delle applicazioni AIGC.

Nello specifico, l’addestramento efficiente di modelli di grandi dimensioni richiede solitamente il supporto di un sistema server AI composto da chip AI con un’elevata potenza di calcolo di oltre 1.000 calorie. Il prerequisito per interconnettere migliaia di chip e consentire loro di lavorare insieme in modo efficiente è risolvere la connessione diretta ad alta velocità dei chip interni di un singolo server. L'emergere di specifiche di accelerazione aperte OAM ha risolto i problemi di forme e interfacce incoerenti di più schede acceleratrici AI in un singolo server, bassa efficienza dell'interconnessione ad alta velocità e lungo ciclo di ricerca e sviluppo e ha ricevuto supporto e partecipazione da molte imprese.

A questo proposito, Zhang Zheng ha sottolineato che Inspur Information promuove continuamente l'evoluzione degli standard e delle tecnologie in termini di specifiche di accelerazione aperta e lavora silenziosamente nella comunità aperta da molti anni. All'inizio c'erano pochi partner. e questo non accadrà. Porterà profitti all'azienda, ma scopriremo che i vantaggi per l'intera catena industriale sono enormi. Ora, fondamentalmente, i produttori di chip nazionali ed esteri, i prodotti di fascia alta adottano tutti standard apertiIl nostro obiettivo è essenzialmente fare un buon lavoro in un settore. Solo quando il settore è buono e sano possiamo ottenere più valore nella catena industriale.

Secondo i rapporti, i produttori di sistemi rappresentati da Inspur Information hanno sviluppato una serie di server AI conformi alle specifiche di accelerazione aperte. Inspur Information ha definito il primo sistema hardware di interconnessione a 8 schede del settore conforme alle specifiche OAM. Si tratta di un substrato di interconnessione che segue le specifiche di calcolo aperte. Per la prima volta ha raggiunto il tasso più elevato di interconnessione dei chip secondo le specifiche OAM di 56 Gbps, che è molto più alta della velocità di trasmissione PCIe5.0, e le specifiche di accelerazione aperte con velocità più elevate sono ancora in fase di sviluppo. Il server AI di ultima generazione NF5698G7 di Inspur Information basato sulle specifiche OAM supporta una varietà di chip di accelerazione aperti basati sulle specifiche OAM e crea un cluster raffreddato a liquido in kilocalorie per consentire agli utenti di supportare l'addestramento di modelli di grandi dimensioni AI con oltre 100 miliardi di parametri.

A questo punto, i punti critici legati all’accelerazione delle specifiche sono stati risolti e sono emerse nuove sfide.

Zhao Shuai ha affermato che tutto il computing del futuro sarà basato sull'intelligenza artificiale, ma con la diversificazione dei paradigmi applicativi, le CPU stanno mostrando direzioni di sviluppo diversificate. Quindi, come fornire piattaforme di potenza di calcolo migliori e migliorare l'efficienza per CPU diversificate?

La specifica Open Computing Module (OCM) appena lanciata fornisce la risposta. OCM utilizza CPU e memoria come unità di calcolo più piccole e standardizza le interfacce di interconnessione ad alta e bassa velocità. Proprio come OAM costruisce una base di chip di accelerazione unificata, OCM promuoverà l'unificazione delle interfacce delle unità di calcolo della CPU e il miglioramento dell'ecosistema.Questo programma è stato avviato congiuntamente dal China Electronics Standards Institute, Intel, AMD, Inspur Information, Lenovo, Super Fusion, Baidu, Xiaohongshu, ecc. È la prima specifica di progettazione di moduli informatici per server domestici e mira a stabilire un sistema informatico standardizzato basato su processori L'unità del modulo di potenza realizza la compatibilità dei chip del processore di diverse architetture unificando l'interconnessione esterna ad alta velocità, i protocolli di gestione, le interfacce di alimentazione, ecc. di diverse unità di potenza di calcolo del processore e crea una base di potenza di calcolo unificata per la CPU. risolvere le sfide ecologiche della CPU e facilitare i clienti In base a scenari applicativi diversificati come intelligenza artificiale, cloud computing e big data, possiamo abbinare in modo flessibile e rapido la piattaforma di potenza di calcolo più adatta per promuovere uno sviluppo rapido e di alta qualità del settore della potenza di calcolo.

Luo Jian ha aggiunto che quando Inspur Information stava costruendo standard di settore, non è venuto dal nulla, ma è nato da una collisione con i partner a monte e a valle del settore. Ha sottolineato,Gli standard industriali e l'industrializzazione dei prodotti avanzano simultaneamente. Ciò non significa che esista un solo standard. Solo uno standard non ha alcun valore per l'intero settore! Solo immettendo le specifiche sul mercato e applicandole dal lato del cliente è possibile generare valore reale.(Dingxi)

Questo articolo proviene da NetEase Technology Report Per ulteriori informazioni e contenuti approfonditi, seguici.