ニュース

北京にAI時代の発電所が出現!国産チップが組み立てられており、インテリジェントなコンピューティング能力をすぐに使用できます。

2024-08-02

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

  • クレシーはアオフェイ寺院から来ています
    パブリックアカウント QbitAI

人工知能は間違いなく今日重要なトピックであり、大規模モデル、垂直アプリケーション、インテリジェントエージェントなどのさまざまな方法を通じてデジタル経済の発展を促進します。

しかし、AIを支えるインフラは——コンピューティング能力とデータ、人工知能の開発を制限するボトルネックとなっており、今後の議論のテーマにもなっています。

なぜこのボトルネックが依然として存在するのでしょうか?それを壊す方法は?

設立から 1 年が経過した Nortel Digital Intelligence の取り組みの中に、いくつかの答えが見えてきました。

「すぐに利用できる」国内のコンピューティング能力を集めた「AI工場」が北京に浮上した。

「AI Factory」はコンピューティング能力の不安をターゲットにしています

一人の実務者であっても、業界全体であっても、効果的なコンピューティング能力の欠如これは早急に解決する必要がある問題点です。

需要面では、大規模モデルに代表される生成型 AI の開発のブーム、熾烈な「数百モデルの戦い」、推論時代の到来により、コンピューティング パワーに対する需要が大幅に増加することは間違いありません。

中国工程院と十数機関が共同で科学サブジャーナル「インテリジェント・コンピューティング」に発表した報告書では、この計算に基づいて、人工知能に必要な計算能力は100日ごとに2倍になると予想されていると指摘した。今後5年間で100万倍以上に増加するだろう



さらに、人工知能の時代においては、演算能力に対する需要は単にFLOPS数だけではなく、演算能力需要の構造も大きく変化しています。

AIGC時代には、計算能力の構造はCPU+アクセラレータからGPU主導へと変化しました。大規模並列コンピューティング、インテリジェントなコンピューティング能力の割合が急速に増加

しかし現在、国産チップ、特にハイエンドチップと業界の先端製品との間には、コンピューティング性能、消費電力、カード間通信速度など多くの面で世代間ギャップがある。



ノード間の不十分なネットワーク伝送能力、不完全なサポート ソフトウェア エコロジーなど、チップ以外の要因もコンピューティング パワーの効率的な使用を制限しています。

この現実の下では、国内のインテリジェント コンピューティング能力のほとんどを効率的に使用することができず、これがコンピューティング能力に関する業界の 2 番目の不安を引き起こしています。



このような不安の根本的な理由は、ユーザーは、マルチコアの機能、特に国内のコンピューティング能力について明確に理解していません。、いくつかの側面に要約できます。

  • 国内の大規模マルチコア クラスターには機能が不足しており、実稼働環境に近い大規模なコンピューティング能力の適応と評価をサポートできません。言い換えれば、シングルチップのテストでは、カードとコンピューティング ノード間の相互接続に関する推定データしか提供できませんが、加速率に関するデータはありません。
  • 既存のプラットフォームは主に指数関数的な評価指標に基づいており、ユーザーのビジネス シナリオと結び付けることができず、ビジネス シナリオから基盤となるチップへの適応リンクを完全に開くことができません。言い換えれば、実際のユーザーはマルチコア クラスターが適切であるかどうかを理解して判断することができません。自分自身のニーズを満たすことができる。
  • 中国にはマルチコアの異種サービス プラットフォームが不足しており、マルチコアの異種混合トレーニングや推論タスクの試みも不足しています。

一般に、需要側はサプライヤーがどのようなサービスを提供できるのか、実際のビジネスをどの程度サポートしているのかが分かりません。サプライヤーはその能力や何ができるかを実証するプラットフォームを欠いており、同時に公正かつ公平な立場を持っています。明確な評価と基準。

この認識を打ち破り、コンピューティング能力に対する不安のパズルを解決するために、という名前の会社が誕生しました。「スパーク・スマート計算」AIDCブランドが誕生しました。

「単一の火花が草原の火災を引き起こす可能性があります。」 「Spark」のような名前を選択したのは、ソリューション プロバイダーがこのブランドが草原の火災を引き起こし、全国的な再現を達成できることを望んでいるからです。

この企画を提案したのは、ノーテル デジタル インテリジェンス——北京電子制御傘下の人工知能に特化したハイテク企業。

Nortel Digital Intelligence は次のように考えています。コンピューティング能力は人工知能時代の新しい生産性の形です

農耕時代には、地球はコンピューティングパワーを持っていました。
機械の時代では、電気と蒸気の力が計算能力になります。
人工知能の時代では、石炭、水、電気と同様に、コンピューティング能力が生産性の主要な形態となります。

コンピューティング能力を電気のような生産性要因に変えるには、もはやチップ、サーバー、キャビネットの単純な積み重ねに焦点を当てることはできません。「コンピューティングパワー倉庫」から「AI工場」への変革、対応する新しい品質の生産関係が装備されています。

これは、Spark Intelligent Computing を構築する際の Nortel Digital Intelligence の新しいアイデアでもあります。

具体的には、Spark インテリジェント コンピューティングは、水、電気、石炭などの包括的なコンピューティング パワーを提供することで、人工知能テクノロジーの革新と応用をサポートします。

一方、「AIDC as a Service」のコンセプトで、ベースモデル、インダストリモデル、ワンストップツールチェーンなどのサポートサービスを提供し、企業が必要なアプリケーションを迅速かつ簡単に構築したり、現在の製品を再構築したりできるようにします。生産方法の革新を実現します。

現在、「Xinghuo Intelligent Computing」ブランドの最初のベンチマークプロジェクト——北京デジタル経済計算センター建設は開始されており、将来的には全国に展開されるテンプレートとして使用されます。

コンピューティング能力のアップグレードをより適切に支援するために、Nortel Digital は業界のコンピューティング能力に対する不安に完全に対処する 2 つのコア製品も用意しています。

  • Advance・AIヘテロジニアスコンピューティングプラットフォーム現在のハイエンドコンピューティングリソースの不足に対応して、国内市場のニーズに最適なマルチコアヘテロジニアスソリューションを構成します。
  • Pagoda・大規模モデル適応プラットフォーム、チップを下方に広く適応させることで、チップを大きなモデルから広く分離して適応させることができます。

2つの製品は「1つのボディと2つの側面」を備えており、コンピューティングパワーの不安を異次元から解決します。

Advance・AIヘテロジニアスコンピューティングプラットフォームは、フルスタックの国内コンピューティングパワー反復検証プラットフォームとして、複数のコンピューティングパワーの統合管理とスケジューリングを実現すると同時に、ユーザーは効果ベースの課金を導入できます。基礎的な詳細を知らなくてもオンデマンドで実行でき、複数のコンピューティング能力間のスムーズな移行を実現します。

コンピューティング能力の有効活用を可能にするために、Spark インテリジェント コンピューティングは、ユニファイド コミュニケーション、コンパイルの最適化、その他の Forward AI ヘテロジニアス コンピューティング プラットフォームを通じて画期的な進歩を遂げました。国産チップの性能を2~3倍向上させ、スループットを6~7倍向上

Qianjin AI ヘテロジニアス コンピューティング プラットフォームは、ユーザーにコンピューティング能力のサポートを提供すると同時に、「チップ×モデル×シーン」の新評価モード、メーカーとユーザーの間の情報の非対称性を打破し、チップメーカーが状況を打破するのを支援します。国産チップを「買える」から「使いやすい」へ

これは、ユーザーにコンピューティング能力のサポートを提供すると同時に、国内チップの全体的な向上を促進し、より多くのソースコンピューティング能力をもたらすことを意味します。

Pagoda・Large Model Adaptation Systemはエンパワーメントモデルとアプリケーション側です、モデルの展開と管理をサポートし、コンピューティング能力の洗練された運用管理を実行し、人工知能アプリケーションをさらにサポートします。

高品質なデータを流通させましょう

コンピューティング能力の欠陥が AI 構築上の「暗雲」の 1 つである場合、データの欠陥も当然のことです。

Nortel Digital の主席科学者であり、復旦大学コンピュータ科学技術学部の特別教授である Dou Dejing 氏は、公開演説で次のように述べました。データの規模と品質がAIの「上限」を決める——トレーニングでも推論でも、それを裏付ける高品質なデータが必要です。

Meta がリリースした最新のオープンソース大規模モデルである Llama 3.1 を例に挙げると、その第 3 世代モデルは、16,000 個を超える H100 GPU で 15T トークンのトレーニング データを消費します。これは、第 2 世代の 7 倍にもなります。第 2 世代モデルでは、同じパラメータスケールでパフォーマンスが飛躍的に向上しました。

我が国において、データ供給側の現状も、コンピューティングパワーと同様の不安に直面している――。総量は豊富ですが、質の高いデータが密集しています。

IDC の推計によれば、中国のデータ量は 2022 年から 2027 年にかけて 23.88ZB から 76.6ZB に増加し、世界第 1 位になると予想されています。ただし、利用可能な高品質のコーパス データセットはまだ比較的不足しています。

すでに量が不足している状況では、価値の高いデータは次のような課題に直面しています。「供給できない、流通できない、うまく使えない」。このジレンマにより価値を発揮することが困難になり、すでに限られたデータ リソースがさらに緊迫したものになります。

一方で、データの統合度も著しく不十分であり、産業側や垂直システム内に大量のデータが散在しています。構造化されていない、大規模なモデルのトレーニングに直接使用することはできません。

この背後にある根本的な理由は、データセキュリティをサポートするための成熟したテクノロジーと信頼できるメカニズムの欠如, データを「知らない、あえてしない、できない、しない」という企業は、これらの「4 つのノー」の現状がさらに今日のデータセットの不足を生み出し、終わりのないサイクルを形成しています。

したがって、最優先事項は信頼できる安全なデータメカニズムを確立する

この目的を達成するために、Nortel Digital Intelligence はもう 1 つの重要な製品を発売しました —Red Lake·信頼できるデータスペース、データ要素を完全に収集し、シーンを完全に開くことができます。

Red Lake・Trusted Data Spaceは、データの活性化、高品質な信頼できるデータサービスの提供、「安全な共有と信頼された循環」のデータ環境の構築を目的とした、「信頼性」を軸とした多層ソリューションです。

技術的な観点から見ると、Red Lake Trusted Data Space には信頼できるデータ サンドボックスが装備されており、「論理データ ウェアハウス」などのテクノロジーを使用してデータをインポート、変更、削除し、プライバシー コンピューティング + ブロックチェーン テクノロジーを使用してデータのセキュリティとセキュリティを確保します。透明性、漏洩、データのトレーサビリティと透明性を確保し、「完全なチェーン制御性」を実現します。

このアプローチにより、データの信頼性、制御性、可用性、監査可能性が高まり、データを保護するために暗号化されるため、複数の当事者間の相互信頼とデータ循環の合意が満たされるデータ共有およびアプリケーション環境が構築されます。

プロセス全体を通じて制御可能なこのようなセキュリティ対策により、データ所有者は自らのデータ リソースを市場に流通させ、より多くのデータ所有者をプロセスに参加させることができます。

早期のデータ投資により、データ供給エコシステムも成熟し、データ共有の形式がより完全かつ便利になり、流れる高品質のデータが業界の発展により多くの新鮮な血を注入します。

同時に、Nortel Digital 自体も高品質のデータを業界にもたらしました。垂直モデル マトリックスは、医療、教育、文化、その他の業界で展開されています。、人工知能企業が実装シナリオをより適切に見つけることができるようになります。



では、Nortel Digital Intelligence とは何ですか?また、人工知能業界の問題点に対するこのような包括的なソリューションをどのようにして思いついたのでしょうか?

人工知能時代の「発電所」、産業チェーンの「ビーズマン」

Nortel Digital Intelligence は、Beijing Electronic Control Group 傘下のハイテク企業であり、人工知能に重点を置いています。フルスタック AI サービス プロバイダー

Nortel Digital Intelligence の設立前、GPT-3.5 のリリースは当時、人工知能の新時代が本格的に始まり、AI の競争がますます激化していました。時代の発展と市場の需要に応じて、Nortel Digital Intelligence が誕生しました。

ノーテル デジタル インテリジェンスが設立されたとき、最初に取り組んだプロジェクトは北京デジタル エコノミー コンピューティング パワー センターでした。インテリジェントなコンピューティング能力を一般に提供し、包括的なコンピューティング能力を実現する

言い換えれば、このコンピューティング パワー センターは「発電所」のようなもので、水、電気、石炭などのコンピューティング パワーを利用して、ベースからアプリケーションまで階層化された AI 産業全体に電力を供給することができます。

Nortel Digital Intelligence 戦略およびマーケティング部門責任者ヤン・ジェンはじめに、これが Nortel Digital と Digital Technology の違いです。 Nortel Digital の最優先事項は、人工知能企業や個人の開発者が人工知能をすぐに使用して享受できるように、人工知能業界をサポートすることです。

Yang Zhen 氏は、人工知能業界全体において、Nortel Digital Intelligence が重要な役割を果たしていると考えています。産業チェーン「ビーズマン」役割 - この業界チェーンにすでにビーズがある場合は、ビーズを結びます。ない場合は、ビーズを作成します。

たとえば、国産チップの高速化、インダストリ モデルにおける垂直モデルのレイアウト、前述した信頼できるデータ スペースはすべて、この産業チェーンにおける「真珠」です。

北京デジタル エコノミー コンピューティング パワー センターは、コンピューティング パワー製品の提供に加えて、同じ分野または異なる分野の AI 実践者が衝突してコミュニケーションできるようにするためのコミュニケーションおよび展示スペースも特別に設計し、より包括的でより深いイノベーションを促進します。

将来的には、このコンピューティングセンターのオープンスペースも「コンピューティングテクノロジーパーク」として一般公開され、より多くの人が人工知能時代の生産変革の力を理解できるようになります。

つまり、ノーテル デジタルは、チップ、サーバー、大型モデル、AI アプリケーション、産業投資などの上流と下流のテクノロジー、製品、サービスを接続するサポートとしてインテリジェント コンピューティング センターを使用し、人工知能業界の成長と繁栄を促進します。地域の経済産業の高度化を推進します。

これまで、ノーテル デジタル インテリジェンスは、AI 業界のエコロジカル パートナーを 1,000 社以上抱えており、AI 支援医薬品の研究開発、汎用ロボット/身体性知能、無人運転、AI エージェントなどのスタートラックをカバーしています。