ニュース

新製品 | Inspur 情報リリース X400 Super AI イーサネット スイッチが Spectrum-X プラットフォームをサポート

2024-07-23

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

7月23日のニュースインスパー情報生成AI「X400 Super AI」を発売イーサネットスイッチは、NVIDIA Spectrum-X プラットフォーム テクノロジをサポートし、X400 および BlueField-3 SuperNIC に基づいて端末とネットワークのコラボレーションを実現する初の国内 X400 スーパー AI イーサネット (X400 AI ファブリック) ソリューションであり、Wanka GPU トレーニング パフォーマンスを 1.6 倍に大幅に向上させます。

大型モデル時代の競争がますます激化するにつれ、大型モデルの反復機能が市場競争力の核となっていると報告されています。しかし、コンピューティング能力の規模が増大し続けるにつれて、単一チップの性能が決定的な鍵ではなくなり、AI システムの効率がユーザーの焦点になっています。現在、大規模な AI モデル ユーザーのトレーニング プロセスでは、ネットワーク通信がトレーニング時間の最大 20 ~ 40% を占めています。たとえば、以前のメタ統計によると、ネットワーク通信は AI トレーニング時間の平均 35% (最高は 57%) を占めており、これは数百万または数十億で購入された GPU に費やされる時間の 35% に相当します。ドルは無料です。 GPU リソースの使用率を向上させるためには、ネットワークの通信効率を早急に改善する必要があります。ただし、従来の RoCE ネットワークにおける ECMP の不均一な HASH 問題により、全体的なリンク負荷の使用率が低くなります。専用ネットワーク ソリューションはパフォーマンス要件を満たすことができますが、確立されたイーサネット エコシステムを考慮することはできません。

最近では、Inspur Information の「X400 Super AI Ethernet」は、Spectrum-X プラットフォームに基づいており、端末とネットワークの連携技術を使用して、パフォーマンス、拡張性、安定性、安定性の 4 つの側面から AI 大型モデル学習ネットワーク構築の新たな道を切り開きます。これにより、顧客が直面する課題に対処し、イーサネットと専用ネットワークのどちらを採用するかというジレンマから顧客を救います。同時に、スーパー AI イーサネット スイッチ X400 は、オープン アーキテクチャを採用し、S3IP-UNP 仕様に準拠して設計されており、ソフトウェアとハ​​ードウェアの階層的な分離を実現し、オープン ネットワーク エコシステムを構築することで顧客のビジネス イノベーションを加速します。 16K GPU カードのコンピューティング スケールでの GPT3 モデル トレーニングの実際のテストでは、Super AI Ethernet は従来の RoCE の 1.6 倍に達する画期的なパフォーマンスを達成しました。

ネットワーク パフォーマンスの点では、X 400 Super AI イーサネット ソリューションは、X400 とインテリジェント ネットワーク カードの協調スケジューリングを採用しており、アダプティブ ルーティング、パケット順序保存、プログラマブル CC などのテクノロジーを通じて、スイッチとネットワーク カードがより密接に連携して提供できます。 AI ソリューションは、パケット損失ゼロ、ノンブロッキングのフルリンク スイッチング ネットワーク、400G のマシン間相互接続パフォーマンスを提供し、有効帯域幅は従来の 60% から 95% に増加し、パフォーマンスは 1.6 倍になります。伝統的なRoCEの。

コンピューティングリソースの柔軟な拡張という点で、X400 Super AI Ethernetは非常に高いパフォーマンスを実現しました。ポート密度と柔軟なスケーラビリティのサポートにより、超高性能を備え、第 2 層ネットワークの GPU で数十万枚のカードの計算能力規模に対応できます。サーバその数は 1024 ユニットに達し、8K GPU カードをサポートし、コンピューティング能力の規模に応じて 3 層ネットワークに柔軟に拡張できます。GPU サーバーの規模は 64,000 ユニットに達し、サポートされる GPU カードの最大数に達します。 512K は、さまざまな規模のグループのニーズに対応し、ネットワーク要件に合わせて、柔軟で弾力性のあるネットワーキングがビジネス イノベーションの強力な推進力となっています。

運用効率の点では、Inspur X400 Super AI Ethernet ソリューションは、Ethernet ソリューションの互換性と費用対効果を継続し、機敏な運用とメンテナンスと超高性能を確保しながら、ネットワーク構築の TCO を大幅に削減し、顧客向けにワンクリックで自動導入を実現します。モデル特性の適応的なネットワーク構成を実現し、導入サイクルを数週間から数日に短縮し、包括的に可視化されたインテリジェントな運用および保守プラットフォームと組み合わせることで、潜在的なリスクと障害を直感的に発見してビジネスの継続性を確保できます。 (丁西)