ニュース

Inspur Zhao Shuai 氏との対話: オープンソースが AI に発展と繁栄をもたらす

2024-08-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

8月9日のニュースによると、最近「オープンコラボレーション:コラボレーション、知恵、イノベーション」をテーマとした2024年オープンコンピューティング中国サミットが開催された。インスパー情報サーバ製品ラインゼネラルマネージャー趙帥大型モデルの開発動向を共有し、AIコンピューティングパワーエコロジーの開放の進展は、将来のすべてのコンピューティングが人工知能。会議後、Zhao Shuai氏、Inspur Information社のAI&HPC製品ラインのシニアプロダクトマネージャであるZhang Zheng氏、Inspur Information社のサーバー製品ラインの製品企画マネージャであるLuo Jian氏がメディアのインタビューに応じ、オープン化のテーマについて深い意見交換を行った。人工知能の革新的な開発を促進するコンピューティング。

趙帥はこう言った。現在、モデルの 2/3 はオープンソースであり、AI プロジェクトの 80% 以上がオープンソース フレームワークを使用して開発されています。このオープンソース モデルは 3 億回以上ダウンロードされ、30,000 を超える新しいモデルが誕生しました。オープンソースがAIの発展と繁栄をもたらしたと言えるでしょう。これに基づいて、ハードウェアのオープン設計も、人工知能コンピューティング能力の生態学的発展を促進する鍵となっています。この方法によってのみ、あらゆる顧客に適切にアプローチし、あらゆる業界に到達することができます。

Zhao Shuai 氏は、オープン エコシステムの下で、高速化および標準化された OAM の設計が 2019 年に公開されたと例を挙げました。Inspur Information は、2019 年の OCP サミットで業界初の UBB をデモンストレーションし、2020 年に OAM リファレンス システム設計 MX1 を発表しました。 OAM v1.0 仕様に基づくサーバー NF5498A5 が 2016 年にリリースされ、複数のメーカーによるハイエンド AI チップの開発と導入が促進されました。OAM のオープン設計標準は、コンピューティング チップの適応と互換性のプロセスを大幅に加速し、産業リソースへの投資を数十億ドル節約し、コンピューティングの導入と反復を高速化し、上位層の大規模モデルと AIGC アプリケーションの成熟をサポートしました。

具体的には、大規模モデルを効率的にトレーニングするには、通常、1,000 カロリーを超える高い計算能力を持つ AI チップで構成される AI サーバー システムのサポートが必要です。数千のチップを相互接続し、それらが効率的に連携できるようにするための前提条件は、単一サーバーの内部チップの高速直接接続を解決することです。オープンアクセラレーション仕様 OAM の登場により、単一サーバー内の複数の AI アクセラレータ カードの形式とインターフェイスの不一致、高速相互接続の低効率、研究開発サイクルの長期化といった問題が解決され、多くの企業からの支持と参加を得ています。

この点に関して、Zhang Zheng 氏は、Inspur Information はオープン アクセラレーション仕様の観点から標準とテクノロジーの進化を継続的に推進しており、長年にわたってオープン コミュニティで静かに活動してきましたが、当初はパートナーがほとんどいなかったと指摘しました。この問題は会社に利益をもたらすことはありませんが、業界チェーン全体にとっての利益は非常に大きいことがわかります。現在、基本的に国内外のチップメーカーはすべてオープンスタンダードを採用しています。私たちの最終目標は、本質的に、業界で良い仕事をすることです。業界が健全で健全である場合にのみ、業界チェーン内で私たち自身の価値をさらに高めることができます。

報道によると、Inspur Informationを代表とするシステムメーカーは、オープンアクセラレーション仕様に準拠したAIサーバーを多数開発しているという。 Inspur Information は、OAM 仕様に準拠した業界初の 8 カード相互接続ハードウェア システムを定義しました。これは、オープン コンピューティング仕様に準拠した相互接続基板であり、OAM 仕様の下で最高のチップ相互接続速度に初めて達しました。これは、PCIe5 .0 伝送速度よりもはるかに高速であり、より高い速度のオープン アクセラレーション仕様はまだ開発中です。 Inspur Information の OAM 仕様に基づく最新世代 AI サーバー NF5698G7 は、OAM 仕様に基づくさまざまなオープン アクセラレーション チップをサポートし、ユーザーが 1,000 億を超えるパラメーターを含む AI 大型モデルのトレーニングをサポートするためのキロカロリー水冷クラスターを構築します。

この時点で、仕様の高速化に伴う問題点は解決され、新たな課題が浮上しています。

Zhao Shuai氏は、将来のコンピューティングはすべてAIになると述べましたが、アプリケーションパラダイムの多様化に伴い、CPUも多様な開発の方向性を示しています。では、より優れたコンピューティングパワープラットフォームを提供し、多様化したCPUの効率を向上させるにはどうすればよいでしょうか?

発表されたばかりの Open Computing Module (OCM) 仕様がその答えを提供します。 OCMはCPUとメモリを最小の演算器として使用し、高速および低速のインターコネクトインターフェースを標準化します。OAMが統合アクセラレーションチップベースを構築するのと同様に、OCMはCPU演算器インターフェースの統一とエコシステムの向上を推進します。このプログラムは、中国電子標準化協会、Intel、AMD、Inspur Information、Lenovo、Super Fusion、Baidu、Xiaohongshu などによって共同で開始されました。これは、国内初のサーバー コンピューティング モジュール設計仕様であり、以下に基づいて標準化されたコンピューティング システムを確立することを目的としています。パワーモジュールユニットは、異なるプロセッサの演算電源ユニットの外部高速相互接続、管理プロトコル、電源インターフェースなどを統合することで、異なるアーキテクチャのプロセッサチップの互換性を実現し、CPUの統一された演算能力基盤を構築します。 CPUの生態学的課題を解決し、顧客の利便性を高める人工知能、クラウドコンピューティング、ビッグデータなどの多様なアプリケーションシナリオに基づいて、最適なコンピューティングパワープラットフォームを柔軟かつ迅速にマッチングし、コンピューティングパワー業界の高品質かつ迅速な発展を促進します。

Luo Jian 氏は、Inspur Information が業界標準を構築していたとき、それは何もないところから生まれたのではなく、業界の上流および下流のパートナーとの衝突から生まれたと付け加えました。彼はこう強調した。工業規格と製品の工業化は同時に進んでいます。規格が 1 つだけでは業界全体にとって価値がないというわけではありません。仕様を市場に投入し、それを顧客側に適用することによってのみ、真の価値を生み出すことができます。(丁西)

この記事は NetEase Technology Report からのものです。詳細と詳細な内容については、こちらをご覧ください。