notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Crecy proviene dal Tempio Aofei
  Qubit |. Account pubblico QbitAI

L’intelligenza artificiale è senza dubbio un tema importante oggi, poiché promuove lo sviluppo dell’economia digitale attraverso vari metodi come modelli di grandi dimensioni, applicazioni verticali e agenti intelligenti.

Tuttavia, l’infrastruttura che serve l’IA——Potenza di calcolo e dati, rappresenta un collo di bottiglia che limita lo sviluppo dell'intelligenza artificiale ed è diventato anche argomento di ulteriore discussione.

Perché esiste ancora questo collo di bottiglia? Come romperlo?

Abbiamo visto alcune risposte in ciò che ha fatto Nortel Digital Intelligence, fondata da un anno:

A Pechino è emersa una “fabbrica di intelligenza artificiale” che raccoglie potenza di calcolo nazionale “disponibile immediatamente”.

“AI Factory” prende di mira l’ansia da potenza di calcolo

Che si tratti di un singolo professionista o dell’intero settore,Mancanza di potenza di calcolo effettivaQuesto è un punto dolente che deve essere risolto con urgenza.

Dal lato della domanda, il boom dello sviluppo dell’intelligenza artificiale generativa rappresentato da modelli di grandi dimensioni, la feroce “battaglia di centinaia di modelli” e l’avvento dell’era dell’inferenza determineranno senza dubbio un enorme aumento della domanda di potenza di calcolo.

Un rapporto pubblicato congiuntamente dall'Accademia cinese di ingegneria e da più di una dozzina di istituzioni nella rivista scientifica Intelligent Computing ha sottolineato che la potenza di calcolo richiesta per l'intelligenza artificiale raddoppia ogni 100 giorniaumenterà di oltre 1 milione di volte nei prossimi cinque anni。

Inoltre, nell’era dell’intelligenza artificiale, la domanda di potenza di calcolo non è più solo il numero di FLOPS, ma anche la struttura della domanda di potenza di calcolo ha subito grandi cambiamenti.

Nell’era dell’AIGC, la struttura della potenza di calcolo è cambiata da CPU+acceleratore a guidata da GPUCalcolo parallelo su larga scala, la percentuale di potenza di calcolo intelligente è in rapido aumento。

Ma attualmente esiste un divario generazionale tra i chip domestici, in particolare quelli di fascia alta, e i prodotti avanzati del settore sotto molti aspetti come le prestazioni di calcolo, il consumo energetico e la velocità di comunicazione tra le carte.

Anche fattori non legati ai chip stanno limitando l’uso efficiente della potenza di calcolo, come capacità di trasmissione di rete insufficienti tra i nodi, ecologia imperfetta del software di supporto e così via.

In questa realtà, la maggior parte della potenza di calcolo intelligente nazionale non può essere utilizzata in modo efficiente, il che ha dato origine alla seconda preoccupazione del settore riguardo alla potenza di calcolo.

La ragione fondamentale di tale ansia è questaGli utenti non hanno una chiara comprensione delle capacità del multi-core, in particolare della potenza di calcolo domestica., possono essere riassunti in diversi aspetti:

• I cluster multi-core nazionali su larga scala mancano di capacità e non possono supportare l’adattamento e la valutazione della potenza di calcolo su larga scala in prossimità degli ambienti di produzione. In altre parole, i test su chip singolo possono solo fornire dati stimati sull’interconnessione tra carte e nodi di calcolo, ma non ci sono dati sul rapporto di accelerazione;
• La piattaforma esistente si basa principalmente su indicatori di valutazione esponenziale e non può essere collegata agli scenari aziendali degli utenti. Non apre completamente il collegamento di adattamento dagli scenari aziendali ai chip sottostanti. In altre parole, gli utenti reali non possono comprendere e giudicare se i cluster multi-core siano in grado di soddisfare i propri bisogni;
• In Cina mancano piattaforme di servizi multi-core eterogenei e mancano anche tentativi di formazione multi-core eterogenea, ibrida e attività di ragionamento.

In generale, il lato della domanda non conosce i servizi che il fornitore può fornire e il grado di supporto per la sua attività effettiva. Il fornitore non ha una piattaforma per dimostrare le sue capacità e cosa può fare, e allo stesso tempo ha una fiera e valutazione e standard chiari.

Per rompere questa percezione e risolvere il puzzle dell'ansia da potenza di calcolo, una società ha chiamato"Spark·Calcolo intelligente"Nasce il marchio AIDC.

"Una singola scintilla può innescare un incendio nella prateria." La scelta di un nome come "Spark" è dovuta al fatto che il fornitore di soluzioni spera che questo marchio possa innescare un incendio nella prateria e ottenere una replica a livello nazionale.

La persona che ha proposto questo piano è stataIntelligenza digitale Nortel——Un'impresa high-tech sotto il controllo elettronico di Pechino che si concentra sull'intelligenza artificiale.

Nortel Digital Intelligence ritiene che,La potenza di calcolo è una nuova forma di produttività nell’era dell’intelligenza artificiale：

Nell’era agricola, la terra era una potenza di calcolo;
Nell’era delle macchine, l’elettricità e la forza del vapore sono potenza di calcolo;
Nell’era dell’intelligenza artificiale, la potenza di calcolo è la principale forma di produttività, proprio come il carbone, l’acqua e l’elettricità.

Per trasformare la potenza di calcolo in un fattore di produttività come l’elettricità, non possiamo più concentrarci sul semplice accumulo di chip, server e armadi;Trasformazione da “magazzino di potenza informatica” a “fabbrica di intelligenza artificiale”, dotato di corrispondenti nuovi rapporti di produzione di qualità.

Questa è anche la nuova idea di Nortel Digital Intelligence durante la realizzazione di Spark Intelligent Computing.

Nello specifico, Spark Intelligent Computing supporta l’innovazione e l’applicazione della tecnologia dell’intelligenza artificiale fornendo potenza di calcolo inclusiva, come acqua, elettricità e carbone.

D'altra parte, con il concetto di "AIDC as a service", fornisce servizi di supporto come modelli base, modelli di settore e catene di strumenti one-stop, consentendo alle aziende di creare rapidamente e facilmente le applicazioni desiderate o ricostruire i prodotti attuali per realizzare Innovazione nei metodi di produzione.

Allo stato attuale, il primo progetto di riferimento del marchio "Xinghuo Intelligent Computing"——Centro informatico per l’economia digitale di PechinoLa costruzione è iniziata e verrà utilizzata come modello da implementare in futuro in tutto il paese.

Per assistere meglio l'aggiornamento della potenza di calcolo, Nortel Digital offre anche due prodotti principali per affrontare pienamente l'ansia da potenza di calcolo nel settore:

• Piattaforma informatica eterogenea avanzata·AI, in risposta all'attuale carenza di risorse informatiche di fascia alta, configurare una soluzione eterogenea multi-core che soddisfi al meglio le esigenze del mercato domestico;
• Pagoda·Piattaforma di adattamento di modelli di grandi dimensioni, adattare ampiamente il chip verso il basso, in modo che il chip possa essere ampiamente disaccoppiato e adattato dal modello di grandi dimensioni;

I due prodotti sono "un corpo e due lati" e risolvono l'ansia da potenza di calcolo da diverse dimensioni.

La piattaforma informatica eterogenea Advance·AI, come piattaforma di verifica iterativa della potenza di calcolo domestica full-stack, può realizzare la gestione e la pianificazione unificate di più potenze di calcolo. Allo stesso tempo, è la prima a introdurre la fatturazione basata sugli effetti. Gli utenti possono applicarla su richiesta senza conoscere i dettagli sottostanti e realizzare una migrazione fluida tra più potenze di elaborazione.

Al fine di consentire un migliore utilizzo della potenza di calcolo, Spark Intelligent Computing ha anche fatto passi avanti attraverso le comunicazioni unificate, l'ottimizzazione della compilazione e altre scoperte tecnologiche in grado di fornire una piattaforma informatica eterogenea con intelligenza artificialeMigliora le prestazioni dei chip domestici di 2-3 volte e aumenta la produttività di 6-7 volte。

Oltre a fornire agli utenti il ​​supporto della potenza di calcolo, crea anche la piattaforma informatica eterogenea Qianjin AINuova modalità di valutazione di “chip × modello × scena”, contribuire a rompere l'asimmetria informativa tra produttori e utenti e aiutare i produttori di chip a risolvere la situazione,Lasciamo che i chip domestici passino da “disponibili” a “facili da usare”。

Ciò significa che, oltre a fornire agli utenti supporto in termini di potenza di calcolo, si promuoverà anche il miglioramento complessivo dei chip domestici e si porterà maggiore potenza di calcolo alla fonte.

Pagoda·Large Model Adaptation System è il modello di empowerment e il lato applicativo, supporta l'implementazione e la gestione dei modelli, esegue una gestione operativa raffinata della potenza di calcolo e supporta ulteriormente le applicazioni di intelligenza artificiale.

Far circolare dati di alta qualità

Se le carenze in termini di potenza di calcolo sono una “nuvola nera” nell’edificio dell’intelligenza artificiale, anche le carenze di dati sono un’altra meritata.

Dou Dejing, capo scienziato della Nortel Digital e illustre professore della Scuola di Informatica e Tecnologia dell'Università di Fudan, ha affermato in un discorso pubblico:La scala e la qualità dei dati determinano il “limite superiore” dell’intelligenza artificiale——Che si tratti di formazione o inferenza, per supportarla sono necessari dati di alta qualità.

Prendi Llama 3.1, l'ultimo modello di grandi dimensioni open source rilasciato da Meta, come esempio. Il suo modello di terza generazione consuma 15T token di dati di addestramento su oltre 16.000 GPU H100, ovvero 7 volte quello della seconda generazione esso il modello di seconda generazione salto di prestazioni sotto la stessa scala di parametri.

Nel nostro Paese, anche l’attuale situazione dal lato dell’offerta di dati si trova ad affrontare la stessa ansia della potenza di calcolo——La quantità totale è abbondante, ma i dati di alta qualità sono densamente popolati.。

Secondo le stime dell'IDC, il volume dei dati della Cina aumenterà da 23,88 ZB a 76,6 ZB dal 2022 al 2027, classificandosi al primo posto nel mondo. Tuttavia, i set di dati disponibili di corpus di alta qualità sono ancora relativamente scarsi.

A condizione che la quantità sia già scarsa, si devono affrontare dati di alto valore“Non può essere fornito, non può essere diffuso e non può essere utilizzato bene”.Questo dilemma rende difficile esercitare valore, rendendo le risorse di dati già limitate ancora più tese.

D'altro canto anche il grado di integrazione dei dati è gravemente insufficiente. Una grande quantità di dati è dispersa sul lato industriale o all'interno di sistemi verticalinon strutturato, non può essere utilizzato direttamente per l'addestramento di modelli di grandi dimensioni.

La ragione di fondo dietro questo èMancanza di tecnologia matura e meccanismi affidabili per supportare la sicurezza dei dati, Le imprese con dati "non sanno, non osano, non possono e non vogliono" lasciarli circolare liberamente. Questi "quattro no" status quo hanno ulteriormente creato la carenza di set di dati odierni e hanno formato un ciclo infinito.

Quindi la massima priorità èStabilire un meccanismo di dati affidabile e sicuro。

A tal fine, Nortel Digital Intelligence ha lanciato un altro importante prodotto:Red Lake·Spazio dati affidabile, consentendo la raccolta completa degli elementi di dati e la completa apertura della scena.

Red Lake·Trusted Data Space è una soluzione multilivello costruita attorno all'"affidabilità", che mira a rivitalizzare i dati, fornire servizi dati affidabili di alta qualità e creare un ambiente di dati di "condivisione sicura e circolazione affidabile".

Da un punto di vista tecnico, Red Lake Trusted Data Space è dotato di un data sandbox affidabile, che utilizza tecnologie come "data warehouse logico" per importare, modificare ed eliminare dati e utilizza la tecnologia privacy computing + blockchain per garantire la sicurezza dei dati e trasparenza, garantire la tracciabilità e la trasparenza dei dati e ottenere la “controllabilità completa della catena”.

Questo approccio rende i dati credibili, controllabili, disponibili, verificabili e crittografati per proteggerli, creando così un ambiente applicativo e di condivisione dei dati in cui vengono rispettati gli accordi di fiducia reciproca e di circolazione dei dati tra più parti.

Con tali misure di sicurezza controllabili durante l’intero processo, i proprietari dei dati possono osare di mettere le proprie risorse di dati in circolazione sul mercato e attirare più proprietari di dati a partecipare al processo.

Con i primi investimenti sui dati, anche l’ecosistema di fornitura dei dati maturerà, la forma di condivisione dei dati diventerà più completa e conveniente e il flusso di dati di alta qualità inietterà più sangue fresco nello sviluppo del settore.

Allo stesso tempo, anche la stessa Nortel Digital ha apportato dati di alta qualità al settore.La matrice del modello verticale è stata presentata nei settori medico, educativo, culturale e in altri settori., consentendo alle società di intelligenza artificiale di individuare meglio gli scenari di implementazione.

Allora, chi è Nortel Digital Intelligence e come è riuscita a trovare una soluzione così completa ai punti critici del settore dell'intelligenza artificiale?

La "centrale elettrica" ​​nell'era dell'intelligenza artificiale, l'"uomo perla" della catena industriale

Nortel Digital Intelligence è un'impresa high-tech del Beijing Electronic Control Group. Si concentra sull'intelligenza artificiale e il suo posizionamento èFornitore di servizi IA full stack。

Prima della creazione di Nortel Digital Intelligence, GPT-3.5 coincise con il rilascio di GPT-3.5. A quel tempo, una nuova era dell'intelligenza artificiale era stata lanciata completamente e la concorrenza dell'IA stava diventando sempre più feroce. In linea con l'evoluzione dei tempi e delle richieste del mercato, nasce Nortel Digital Intelligence.

Quando venne fondato, il primo progetto intrapreso da Nortel Digital Intelligence fu il Beijing Digital Economy Computing Power Center, che fu posizionato comeFornire potenza di calcolo intelligente al pubblico per ottenere una potenza di calcolo inclusiva。

In altre parole, questo centro di potenza di calcolo è come una “centrale elettrica”, che consente alla potenza di calcolo come l’acqua, l’elettricità e il carbone di potenziare l’intero settore dell’intelligenza artificiale, dalla base all’applicazione.

Responsabile strategia e marketing, Nortel Digital IntelligenceYangZhenIntroduzione, questa è la differenza tra Nortel Digital e la tecnologia digitale. La prima priorità di Nortel Digital è supportare il settore dell'intelligenza artificiale in modo che le società di intelligenza artificiale o i singoli sviluppatori possano utilizzare rapidamente l'intelligenza artificiale e godere dell'intelligenza artificiale.

Nell'intero settore dell'intelligenza artificiale, Yang Zhen ritiene che Nortel Digital Intelligence svolga un ruolo importanteCatena industriale "bead man"Il ruolo di: se ci sono già perline in questa catena industriale, infilatele, altrimenti realizzatele;

Ad esempio, l’accelerazione dei chip domestici, la disposizione dei modelli verticali nei modelli di settore e lo spazio dati affidabile sopra menzionato sono tutte “perle” di questa catena industriale.

Oltre a fornire prodotti di potenza di calcolo, il Beijing Digital Economy Computing Power Center ha anche appositamente progettato uno spazio di comunicazione ed esposizione per consentire ai professionisti dell'intelligenza artificiale nello stesso campo o in campi diversi di scontrarsi e comunicare, promuovendo un'innovazione più completa e profonda.

In futuro, lo spazio all'aperto di questo centro di calcolo sarà aperto al pubblico anche come "Parco tecnologico informatico", consentendo a più persone di comprendere il potere del cambiamento produttivo nell'era dell'intelligenza artificiale.

In breve, Nortel Digital utilizzerà il centro di calcolo intelligente come supporto per connettere tecnologie, prodotti e servizi upstream e downstream come chip, server, modelli di grandi dimensioni, applicazioni AI e investimenti industriali per promuovere la crescita e la prosperità del settore dell'intelligenza artificiale e guidare il miglioramento delle industrie economiche regionali.

Fino ad ora, Nortel Digital Intelligence ha più di mille partner ecologici del settore dell’intelligenza artificiale, che coprono percorsi stellari come la ricerca e lo sviluppo di farmaci assistiti dall’intelligenza artificiale, robot generali/intelligenza incorporata, guida senza conducente e agenti di intelligenza artificiale.