Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Crecy stammt aus dem Aofei-Tempel
  Qubits |. Öffentliches Konto QbitAI

Künstliche Intelligenz ist heute zweifellos ein wichtiges Thema und fördert die Entwicklung der digitalen Wirtschaft durch verschiedene Methoden wie große Modelle, vertikale Anwendungen und intelligente Agenten.

Allerdings ist die Infrastruktur, die der KI dient –Rechenleistung und Daten, stellt einen Engpass dar, der die Entwicklung künstlicher Intelligenz einschränkt, und ist ebenfalls zu einem Thema für weitere Diskussionen geworden.

Warum besteht dieser Engpass immer noch? Wie kann man es brechen?

Wir haben einige Antworten darin gesehen, was Nortel Digital Intelligence, das seit einem Jahr etabliert ist, getan hat –

In Peking ist eine „KI-Fabrik“ aufgetaucht, die inländische Rechenleistung sammelt, die „out of the box“ verfügbar ist.

„AI Factory“ zielt auf die Angst vor Rechenleistung ab

Ob für einen einzelnen Praktiker oder die gesamte Branche,Mangel an effektiver RechenleistungDies ist ein Problem, das dringend gelöst werden muss.

Auf der Nachfrageseite werden die boomende Entwicklung der generativen KI, dargestellt durch große Modelle, der erbitterte „Kampf der Hunderte von Modellen“ und das Kommen der Inferenzära zweifellos zu einem enormen Anstieg der Nachfrage nach Rechenleistung führen.

Ein gemeinsam von der Chinesischen Akademie für Ingenieurwissenschaften und mehr als einem Dutzend Institutionen in der Fachzeitschrift „Intelligent Computing“ veröffentlichter Bericht wies darauf hin, dass sich die für künstliche Intelligenz erforderliche Rechenleistung alle 100 Tage verdoppeltwird sich in den nächsten fünf Jahren um mehr als eine Million Mal erhöhen。

Darüber hinaus ist der Bedarf an Rechenleistung im Zeitalter der künstlichen Intelligenz nicht mehr nur die Anzahl der FLOPS, sondern auch die Struktur des Bedarfs an Rechenleistung hat sich stark verändert.

In der AIGC-Ära hat sich die Struktur der Rechenleistung von CPU+Beschleuniger zu GPU-gesteuert geändertDurch das parallele Rechnen in großem Maßstab nimmt der Anteil der intelligenten Rechenleistung rapide zu。

Derzeit besteht jedoch in vielen Aspekten wie Rechenleistung, Stromverbrauch und Kommunikationsgeschwindigkeit zwischen Karten eine Generationslücke zwischen heimischen Chips, insbesondere High-End-Chips, und den fortschrittlichen Produkten der Branche.

Auch Nicht-Chip-Faktoren schränken die effiziente Nutzung der Rechenleistung ein, wie z. B. unzureichende Netzwerkübertragungsfähigkeiten zwischen Knoten, unvollständige unterstützende Softwareökologie usw.

Unter dieser Realität kann der Großteil der inländischen intelligenten Rechenleistung nicht effizient genutzt werden, was zu der zweiten Sorge der Branche hinsichtlich der Rechenleistung geführt hat.

Der Hauptgrund für diese Angst ist dasBenutzer haben kein klares Verständnis für die Fähigkeiten von Multi-Core, insbesondere für die heimische Rechenleistung.lässt sich in mehrere Aspekte zusammenfassen:

• Inländischen großen Multi-Core-Clustern mangelt es an Fähigkeiten und sie können eine groß angelegte Anpassung und Bewertung der Rechenleistung in der Nähe von Produktionsumgebungen nicht unterstützen. Mit anderen Worten: Single-Chip-Tests können nur geschätzte Daten zur Verbindung zwischen Karten und Rechenknoten liefern, es liegen jedoch keine Daten zum Beschleunigungsverhältnis vor.
• Die bestehende Plattform basiert hauptsächlich auf exponentiellen Bewertungsindikatoren und kann nicht mit den Geschäftsszenarien der Benutzer in Verbindung gebracht werden. Mit anderen Worten: Tatsächliche Benutzer können nicht verstehen und beurteilen, ob dies der Fall ist in der Lage, die eigenen Bedürfnisse zu befriedigen;
• In China mangelt es an heterogenen Multi-Core-Dienstplattformen und es mangelt auch an Versuchen, heterogene, hybride Trainings- und Argumentationsaufgaben mit mehreren Kernen durchzuführen.

Im Allgemeinen kennt die Nachfrageseite nicht die Dienstleistungen, die der Anbieter erbringen kann, und den Grad der Unterstützung für sein eigentliches Geschäft. Dem Anbieter fehlt eine Plattform, um seine Fähigkeiten und seine Leistungsfähigkeit zu demonstrieren, und gleichzeitig verfügt er über eine faire und faire Plattform klare bewertung und standard.

Um diese Wahrnehmung zu durchbrechen und das Rätsel der Rechenleistungsangst zu lösen, hat ein Unternehmen namens„Spark·Smart Calculation“Die Marke AIDC entstand.

„Ein einziger Funke kann einen Präriebrand auslösen.“ Die Wahl eines Namens wie „Spark“ beruht darauf, dass der Lösungsanbieter hofft, dass diese Marke einen Präriebrand auslösen und eine landesweite Verbreitung erreichen kann.

Die Person, die diesen Plan vorgeschlagen hat, warNortel Digital Intelligence——Ein High-Tech-Unternehmen unter Beijing Electronic Control, das sich auf künstliche Intelligenz konzentriert.

Nortel Digital Intelligence ist davon überzeugt, dassRechenleistung ist eine neue Form der Produktivität im Zeitalter der künstlichen Intelligenz：

Im Zeitalter der Landwirtschaft war die Erde Rechenleistung;
Im Maschinenzeitalter sind Elektrizität und Dampfkraft Rechenleistung;
Im Zeitalter der künstlichen Intelligenz ist Rechenleistung die primäre Form der Produktivität, genau wie Kohle, Wasser und Strom.

Um Rechenleistung in einen Produktivitätsfaktor wie Strom zu verwandeln, können wir uns nicht mehr auf das einfache Stapeln von Chips, Servern und Schränken konzentrieren;Transformation vom „Computing Power Warehouse“ zur „KI-Fabrik“, ausgestattet mit entsprechenden neuen Qualitätsproduktionsbeziehungen.

Dies ist auch die neue Idee von Nortel Digital Intelligence beim Aufbau von Spark Intelligent Computing.

Insbesondere unterstützt Spark Intelligent Computing die Innovation und Anwendung der Technologie der künstlichen Intelligenz durch die Bereitstellung umfassender Rechenleistung wie Wasser, Strom und Kohle.

Andererseits bietet es mit dem Konzept „AIDC as a Service“ unterstützende Dienste wie Basismodelle, Industriemodelle und One-Stop-Toolketten, die es Unternehmen ermöglichen, schnell und einfach die gewünschten Anwendungen zu erstellen oder aktuelle Produkte zu rekonstruieren um Innovationen in den Produktionsmethoden zu erreichen.

Derzeit ist das erste Benchmark-Projekt der Marke „Xinghuo Intelligent Computing“——Rechenzentrum für die digitale Wirtschaft in PekingDer Bau hat begonnen und wird als Vorlage für die zukünftige Einführung im ganzen Land dienen.

Um die Aufrüstung der Rechenleistung besser zu unterstützen, bietet Nortel Digital außerdem zwei Kernprodukte an, um die Bedenken hinsichtlich der Rechenleistung in der Branche vollständig auszuräumen:

• Advance·AI Heterogene Computing-PlattformKonfigurieren Sie als Reaktion auf den aktuellen Mangel an High-End-Rechenressourcen eine heterogene Multi-Core-Lösung, die den Anforderungen des heimischen Marktes am besten entspricht.
• Pagode·Große Modellanpassungsplattform, den Chip weit nach unten anpassen, so dass der Chip weitestgehend vom großen Modell entkoppelt und angepasst werden kann;

Die beiden Produkte sind „ein Körper und zwei Seiten“ und lösen die Angst vor Rechenleistung aus unterschiedlichen Dimensionen.

Die heterogene Computing-Plattform Advance·AI kann als umfassende iterative Verifizierungsplattform für die inländische Rechenleistung eine einheitliche Verwaltung und Planung mehrerer Rechenleistungen realisieren. Gleichzeitig ist sie die erste, die eine effektbasierte Abrechnung einführen kann Bei Bedarf können Sie ohne Kenntnis der zugrunde liegenden Details eine reibungslose Migration zwischen mehreren Rechenleistungen realisieren.

Um eine bessere Nutzung der Rechenleistung zu ermöglichen, hat Spark Intelligent Computing auch Durchbrüche durch Unified Communications, Kompilierungsoptimierung und andere technologische Durchbrüche in der heterogenen Computing-Plattform „Forward AI“ erzieltVerbessern Sie die Leistung heimischer Chips um das 2- bis 3-fache und erhöhen Sie den Durchsatz um das 6- bis 7-fache。

Die Qianjin AI-Plattform für heterogenes Computing bietet Benutzern nicht nur Unterstützung bei der Rechenleistung, sondern schafft auch die nötige RechenleistungNeuer Auswertungsmodus „Chip × Modell × Szene“, helfen, die Informationsasymmetrie zwischen Herstellern und Benutzern zu durchbrechen und Chipherstellern dabei zu helfen, die Situation zu überwinden,Lassen Sie heimische Chips von „verfügbar“ zu „einfach zu verwenden“ übergehen。

Dies bedeutet, dass den Benutzern nicht nur Rechenleistungsunterstützung geboten wird, sondern auch die allgemeine Verbesserung heimischer Chips gefördert und mehr Quellrechenleistung bereitgestellt wird.

Das Pagoda·Large Model Adaptation System ist die Empowerment-Modell- und Anwendungsseite, unterstützt die Modellbereitstellung und -verwaltung, führt ein verfeinertes Betriebsmanagement der Rechenleistung durch und unterstützt darüber hinaus Anwendungen der künstlichen Intelligenz.

Lassen Sie hochwertige Daten zirkulieren

Wenn Rechenleistungsdefizite eine „dunkle Wolke“ im KI-Gebäude darstellen, dann sind Datendefizite eine weitere wohlverdiente Wolke.

Dou Dejing, Chefwissenschaftler von Nortel Digital und angesehener Professor der Fakultät für Informatik und Technologie der Fudan-Universität, sagte in einer öffentlichen Rede:Datenumfang und -qualität bestimmen die „Obergrenze“ der KI——Ob es sich um Training oder Inferenz handelt, zur Unterstützung sind qualitativ hochwertige Daten erforderlich.

Nehmen Sie als Beispiel Llama 3.1, das neueste von Meta veröffentlichte Open-Source-Modell. Das Modell der dritten Generation verbraucht 15T Token an Trainingsdaten auf mehr als 16.000 H100-GPUs, was dem Siebenfachen der zweiten Generation entspricht Es ist der Leistungssprung der zweiten Generation im gleichen Parametermaßstab.

In unserem Land ist die aktuelle Situation der Datenversorgungsseite ebenfalls mit der gleichen Sorge konfrontiert wie die Rechenleistung –Die Gesamtmenge ist reichlich, aber qualitativ hochwertige Daten sind dicht besiedelt.。

Laut IDC-Schätzungen wird Chinas Datenvolumen von 2022 bis 2027 von 23,88 ZB auf 76,6 ZB steigen und damit weltweit an erster Stelle stehen. Allerdings sind die verfügbaren qualitativ hochwertigen Korpusdatensätze immer noch relativ knapp.

Unter der Voraussetzung, dass die Menge bereits knapp ist, stehen hochwertige Daten zur Verfügung„Es kann nicht geliefert werden, es kann nicht in Umlauf gebracht werden und es kann nicht gut genutzt werden.“Dieses Dilemma erschwert die Wertschöpfung und macht die ohnehin begrenzten Datenressourcen noch angespannter.

Andererseits ist auch der Grad der Datenintegration erheblich unzureichend. Eine große Datenmenge ist auf der industriellen Seite oder innerhalb vertikaler Systeme verstreutnicht strukturiert, kann nicht direkt für das Training großer Modelle verwendet werden.

Der Grund dafür istMangel an ausgereifter Technologie und vertrauenswürdigen Mechanismen zur Unterstützung der DatensicherheitUnternehmen mit Daten, die „nicht wissen, nicht wagen, nicht können und wollen“, lassen die Daten frei zirkulieren. Dieser „Vier-Nein“-Status quo hat die Verknappung der heutigen Datensätze noch weiter verschärft und einen endlosen Kreislauf gebildet.

Oberste Priorität hat alsoRichten Sie einen vertrauenswürdigen und sicheren Datenmechanismus ein。

Zu diesem Zweck hat Nortel Digital Intelligence ein weiteres wichtiges Produkt auf den Markt gebracht:Red Lake·Trusted Data SpaceDadurch können Datenelemente vollständig erfasst und die Szene vollständig geöffnet werden.

Red Lake·Trusted Data Space ist eine mehrschichtige Lösung, die auf „Vertrauenswürdigkeit“ basiert und darauf abzielt, Daten wiederzubeleben, hochwertige vertrauenswürdige Datendienste bereitzustellen und eine Datenumgebung für „sicheren Austausch und vertrauenswürdige Verbreitung“ zu schaffen.

Aus technischer Sicht ist Red Lake Trusted Data Space mit einer vertrauenswürdigen Datensandbox ausgestattet, die Technologien wie „Logical Data Warehouse“ zum Importieren, Ändern und Löschen von Daten verwendet und Privacy Computing + Blockchain-Technologie verwendet, um Datensicherheit zu gewährleisten Transparenz gewährleisten, Datenrückverfolgbarkeit und -transparenz gewährleisten und eine „vollständige Kontrollierbarkeit der Kette“ erreichen.

Dieser Ansatz macht die Daten glaubwürdig, kontrollierbar, verfügbar, überprüfbar und verschlüsselt, um sie zu schützen. Dadurch wird eine Datenfreigabe- und Anwendungsumgebung geschaffen, in der gegenseitiges Vertrauen und Datenzirkulationsvereinbarungen zwischen mehreren Parteien erfüllt werden.

Mit solchen Sicherheitsmaßnahmen, die während des gesamten Prozesses kontrollierbar sind, können Dateneigentümer es wagen, ihre Datenressourcen in den Markt zu bringen und mehr Dateneigentümer für die Teilnahme am Prozess zu gewinnen.

Mit der frühzeitigen Dateninvestition wird auch das Datenversorgungs-Ökosystem ausgereift, die Form des Datenaustauschs wird vollständiger und bequemer und die fließenden, qualitativ hochwertigen Daten werden der Entwicklung der Branche mehr frischen Wind verleihen.

Gleichzeitig hat Nortel Digital selbst auch qualitativ hochwertige Daten in die Branche gebracht.Eine vertikale Modellmatrix wurde in der Medizin-, Bildungs-, Kultur- und anderen Branchen entwickelt., was es Unternehmen für künstliche Intelligenz ermöglicht, Implementierungsszenarien besser zu finden.

Wer ist also Nortel Digital Intelligence und wie kam das Unternehmen zu einer so umfassenden Lösung für die Schwachstellen der Branche der künstlichen Intelligenz?

Das „Kraftwerk“ im Zeitalter der künstlichen Intelligenz, der „Perlenmann“ der Industriekette

Nortel Digital Intelligence ist ein High-Tech-Unternehmen der Beijing Electronic Control Group. Es konzentriert sich auf künstliche Intelligenz und ist positioniertFull-Stack-KI-Dienstleister。

Vor der Gründung von Nortel Digital Intelligence fiel GPT-3.5 mit der Veröffentlichung von GPT-3.5 zusammen. Zu dieser Zeit wurde eine neue Ära der künstlichen Intelligenz eingeleitet und der KI-Wettbewerb wurde immer härter. Im Einklang mit der Entwicklung der Zeit und der Marktnachfrage entstand Nortel Digital Intelligence.

Bei seiner Gründung war das erste von Nortel Digital Intelligence durchgeführte Projekt das Beijing Digital Economy Computing Power Center, das als positioniert warBereitstellung intelligenter Rechenleistung für die Öffentlichkeit, um integrative Rechenleistung zu erreichen。

Mit anderen Worten: Dieses Rechenleistungszentrum ist wie ein „Kraftwerk“, das Rechenleistung wie Wasser, Strom und Kohle für die gesamte Schichtung der KI-Industrie von der Basis bis zur Anwendung bereitstellt.

Leiter Strategie und Marketing, Nortel Digital IntelligenceYang ZhenEinleitung, das ist der Unterschied zwischen Nortel Digital und Digital Technology. Die erste Priorität von Nortel Digital besteht darin, die Branche der künstlichen Intelligenz zu unterstützen, damit Unternehmen oder einzelne Entwickler künstliche Intelligenz schnell nutzen und künstliche Intelligenz genießen können.

Yang Zhen glaubt, dass Nortel Digital Intelligence in der gesamten Branche der künstlichen Intelligenz eine wichtige Rolle spieltIndustriekette „Perlenmännchen“Die Rolle: Wenn es in dieser Industriekette bereits Perlen gibt, fädeln Sie sie auf. Wenn nicht, stellen Sie sie her.

Beispielsweise sind die Beschleunigung inländischer Chips, die Anordnung vertikaler Modelle in Industriemodellen und der oben erwähnte vertrauenswürdige Datenraum allesamt „Perlen“ in dieser Industriekette.

Neben der Bereitstellung von Rechenleistungsprodukten hat das Beijing Digital Economy Computing Power Center auch speziell einen Kommunikations- und Ausstellungsraum entworfen, der es KI-Praktikern in denselben oder verschiedenen Bereichen ermöglicht, zusammenzustoßen und zu kommunizieren und so umfassendere und tiefere Innovationen zu fördern.

In Zukunft wird der Freiraum in diesem Rechenzentrum auch als „Computing Technology Park“ für die Öffentlichkeit zugänglich sein, damit mehr Menschen die Macht des Produktionswandels im Zeitalter der künstlichen Intelligenz verstehen können.

Kurz gesagt, Nortel Digital wird das intelligente Rechenzentrum als Unterstützung für die Verbindung vor- und nachgelagerter Technologien, Produkte und Dienstleistungen wie Chips, Server, große Modelle, KI-Anwendungen und Industrieinvestitionen nutzen, um das Wachstum und den Wohlstand der Branche der künstlichen Intelligenz zu fördern und die Modernisierung der regionalen Wirtschaftsindustrie vorantreiben.

Bisher verfügt Nortel Digital Intelligence über mehr als tausend ökologische Partner in der KI-Branche, die Branchen wie KI-gestützte Arzneimittelforschung und -entwicklung, allgemeine Roboter/verkörperte Intelligenz, fahrerloses Fahren und KI-Agenten abdecken.