Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Laut Nachrichten vom 9. August fand kürzlich der Open Computing China Summit 2024 mit dem Thema „Offene Zusammenarbeit: Zusammenarbeit, Weisheit und Innovation“ statt.Inspur-InformationenServerGeneral Manager der ProduktlinieZhao ShuaiTeilen Sie die Entwicklungstrends großer Modelle undKIDer Fortschritt bei der Öffnung der Rechenleistungsökologie zeigt, dass alle Computer in der Zukunft so sein werdenKI. Nach dem Treffen wurden Zhao Shuai, Zhang Zheng, leitender Produktmanager der AI&HPC-Produktlinie von Inspur Information, und Luo Jian, Produktplanungsmanager der Serverproduktlinie von Inspur Information, von den Medien interviewt und führten einen ausführlichen Austausch zum Thema Open Informatik, die die innovative Entwicklung der künstlichen Intelligenz fördert.

Zhao Shuai sagte:Heute sind 2/3 der Modelle Open Source und mehr als 80 % der KI-Projekte werden mit Open Source-Frameworks entwickelt. Das Open-Source-Modell wurde mehr als 300 Millionen Mal heruntergeladen und hat mehr als 30.000 neue Modelle hervorgebracht. Man kann sagen, dass Open Source zur Entwicklung und zum Wohlstand der KI geführt hat.Auf dieser Grundlage ist das offene Design der Hardware auch zum Schlüssel zur Förderung der ökologischen Entwicklung der Rechenleistung künstlicher Intelligenz geworden. Nur so können wir jeden Kunden besser erreichen und in jeder Branche landen.

Zhao Shuai gab ein Beispiel: Im Rahmen des offenen Ökosystems wurde 2019 das Design von beschleunigtem und standardisiertem OAM eröffnet. Inspur Information stellte auf dem OCP Summit 2019 das erste UBB der Branche vor und brachte 2020 das OAM-Referenzsystemdesign MX1 auf den Markt Der auf der OAM v1.0-Spezifikation basierende Server NF5498A5 wurde 2016 veröffentlicht, was die Entwicklung und den Einsatz von High-End-KI-Chips mehrerer Hersteller förderte.Die offenen Designstandards von OAM haben den Anpassungs- und Kompatibilitätsprozess von Computerchips erheblich beschleunigt, Milliarden von Dollar an industriellen Ressourceninvestitionen eingespart, die Computerbereitstellung und -iteration beschleunigt und die Reife großer Modelle der oberen Schicht und AIGC-Anwendungen unterstützt.

Konkret erfordert ein effizientes Training großer Modelle in der Regel die Unterstützung eines KI-Serversystems bestehend aus KI-Chips mit hoher Rechenleistung von mehr als 1.000 Kalorien. Die Voraussetzung dafür, Tausende von Chips miteinander zu verbinden und effizient zusammenarbeiten zu können, ist die Lösung der schnellen Direktverbindung der internen Chips eines einzelnen Servers. Das Aufkommen der offenen Beschleunigungsspezifikation OAM hat die Probleme der inkonsistenten Formen und Schnittstellen mehrerer KI-Beschleunigerkarten in einem einzelnen Server, der geringen Effizienz der Hochgeschwindigkeitsverbindung und des langen Forschungs- und Entwicklungszyklus gelöst und von vielen Unternehmen Unterstützung und Beteiligung erhalten.

In diesem Zusammenhang wies Zhang Zheng darauf hin, dass Inspur Information die Entwicklung von Standards und Technologien im Hinblick auf offene Beschleunigungsspezifikationen kontinuierlich vorantreibt und seit vielen Jahren stillschweigend in der offenen Community arbeitet. Und diese Angelegenheit wird dem Unternehmen keinen Gewinn bringen, aber wir werden feststellen, dass die Vorteile für die gesamte Industriekette sehr groß sind. Im Grunde genommen übernehmen die meisten High-End-Produkte offene StandardsUnser Endergebnis besteht im Wesentlichen darin, in einer Branche gute Arbeit zu leisten. Nur wenn die Branche gut und gesund ist, können wir in der Industriekette mehr von unserem eigenen Wert erzielen.

Berichten zufolge haben die von Inspur Information vertretenen Systemhersteller eine Reihe von KI-Servern entwickelt, die den offenen Beschleunigungsspezifikationen entsprechen. Inspur Information hat das branchenweit erste 8-Karten-Verbindungshardwaresystem definiert, das der OAM-Spezifikation entspricht. Dabei handelt es sich um ein Verbindungssubstrat, das der Open-Computing-Spezifikation folgt. Es hat erstmals die höchste Chip-Verbindungsrate gemäß der OAM-Spezifikation erreicht von 56 Gbit/s, was viel höher ist als die PCIe5.0-Übertragungsrate, und offene Beschleunigungsspezifikationen mit höheren Raten sind noch in der Entwicklung. Der auf OAM-Spezifikationen basierende KI-Server NF5698G7 der neuesten Generation von Inspur Information unterstützt eine Vielzahl offener Beschleunigungschips auf Basis von OAM-Spezifikationen und baut einen flüssigkeitsgekühlten Kilokalorien-Cluster auf, damit Benutzer das Training großer KI-Modelle mit über 100 Milliarden Parametern unterstützen können.

An diesem Punkt sind die Schwachstellen der Beschleunigung von Spezifikationen gelöst und es sind neue Herausforderungen entstanden.

Zhao Shuai sagte, dass alle Computer in der Zukunft KI sein werden, aber mit der Diversifizierung der Anwendungsparadigmen weisen CPUs diversifizierte Entwicklungsrichtungen auf. Wie kann man also bessere Rechenleistungsplattformen bereitstellen und die Effizienz diversifizierter CPUs verbessern?

Die gerade veröffentlichte Open Computing Module (OCM)-Spezifikation liefert die Antwort. OCM nutzt CPU und Speicher als kleinste Recheneinheit und standardisiert Hochgeschwindigkeits- und Niedriggeschwindigkeits-Verbindungsschnittstellen. So wie OAM eine einheitliche Beschleunigungschipbasis aufbaut, wird OCM die Vereinheitlichung der Schnittstellen von CPU-Rechnereinheiten und die Verbesserung des Ökosystems fördern.Dieses Programm wurde gemeinsam vom China Electronics Standards Institute, Intel, AMD, Inspur Information, Lenovo, Super Fusion, Baidu, Xiaohongshu usw. initiiert. Es ist die erste inländische Designspezifikation für Server-Computing-Module und zielt darauf ab, ein standardisiertes Computersystem zu etablieren Die Leistungsmoduleinheit ermöglicht die Kompatibilität von Prozessorchips verschiedener Architekturen durch die Vereinheitlichung der externen Hochgeschwindigkeitsverbindungen, Verwaltungsprotokolle, Stromversorgungsschnittstellen usw. verschiedener Prozessor-Rechenleistungseinheiten und bildet eine einheitliche Rechenleistungsbasis für die CPU Lösen Sie ökologische CPU-Herausforderungen und erleichtern Sie Kunden. Entsprechend vielfältiger Anwendungsszenarien wie künstliche Intelligenz, Cloud Computing und Big Data können wir flexibel und schnell die am besten geeignete Rechenleistungsplattform anpassen, um eine qualitativ hochwertige und schnelle Entwicklung der Rechenleistungsbranche zu fördern.

Luo Jian fügte hinzu, dass die Entwicklung von Industriestandards durch Inspur Information nicht aus dem Nichts geschah, sondern aus einer Kollision mit vor- und nachgelagerten Partnern der Branche entstand. Er betonte,Industriestandards und Produktindustrialisierung schreiten gleichzeitig voran. Das bedeutet nicht, dass es nur einen Standard gibt. Nur ein Standard ist für die gesamte Branche wertlos. Nur wenn Spezifikationen auf den Markt gebracht und auf der Kundenseite umgesetzt werden, kann ein echter Mehrwert generiert werden.(Dingxi)

Dieser Artikel stammt aus dem NetEase Technology Report. Für weitere Informationen und ausführliche Inhalte folgen Sie uns.