ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

新世代のNVIDIA BlackwellアーキテクチャGPUの供給が遅れていると以前に報じられていたが、関係者はそれを認めも否定もせず、静かに新世代GB200 GPU+GPUスーパーをベースとしたサーバーシステムを導入した。チップを実装してデモしました。

GB200 Grace Blackwell には 2 つの B200 GPU と 1 つの Grace CPU が含まれており、総消費電力は最大 2700 W です。

このうちB200は、2040億個のトランジスタ、8096ビットの192GB HBM3Eメモリ（帯域幅8TB/秒）を搭載し、性能は9PFlops（毎秒9京回）に達し、消費電力は初めて1000Wに達した。

NVIDIAが展示したサーバーは、青と銅色のケーブル、多数の極太径の銅管、超大型のヒートシンクが巨大な構造を成しており、まるで芸術品のようだ。

NVIDIA は具体的な構成を明らかにしていないが、NVSwitch ありとなしの 2 つのバージョンに分かれており、総帯域幅が最大 14.4TB/s であることだけを明らかにした。

パフォーマンスに関しては、データが 1 つだけ示されています。Llama 3.1 700 億パラメータ大規模モデルの AI 推論パフォーマンスは、H200 と比較して完全に 1.5 倍向上しました。

放熱はどうすればいいのでしょうか？ NVIDIAは、消費電力を28％削減できる温水冷却システムを開発中であることを明らかにした。

ただし、NVIDIA は Blackwell GPU サーバーの出荷時期をまだ明らかにしておらず、今年の第 4 四半期になると推定されています。

次回の Hot Chip 2024 カンファレンスで、NVIDIA は Blackwell GPU について詳細に説明し、将来の Vera CPU と Rubin GPU に関するニュースをさらに公開します。