wuwen core qiong は設立から 16 か月で 10 億元の資金を調達し、大型モデルの時代に第一選択となる「コンピューティングパワーオペレーター」になることを目指しています。
2024-09-02
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
本紙の写真と情報
大型モデルのインフラスタートアップであるinfinigence aiは本日、シリーズa資金調達で5億元近くを完了したと発表した。 wuwen xinqiong は設立してまだ 16 か月ですが、これまでのところ 10 億元近くの資金調達を完了しています。
wuwen xinqiong の共同創設者兼 ceo である xia lixue 氏は、ai 2.0 の波によってもたらされた新しい「8/8 の法則」は、垂直シナリオの一般化の 80% をサポートするために、主要な技術的問題の 20% を解決するだけで十分であると考えています。中国のコンピューティングパワーエコシステム 私たちは、需要と供給の不均衡とリソースの不均等な配分に直面しています。これは間違いなく、wuwenxinqiong が上流と下流で協力して、多様で異種のコンピューティングパワーの効率的な統合を達成する機会を生み出しています。
wuwen xinqiong 氏は、今回の資金調達で調達した資金は、技術人材の採用と技術の研究開発を強化し、ソフトウェアとハードウェアのコラボレーションにおける技術的リーダーシップを維持し、製品の商業化をさらに促進し、 infini-ai 異種クラウド プラットフォーム製品と市場の緊密な統合。環境協力を強化し、異種クラスター コンピューティング リソースを活性化し、「m タイプのモデル」と「n タイプのチップ」をサポートする ai コンピューティング パワー ベースを構築します。 「ai モデルの計算能力のスーパー アンプ」「...wuwen xinqiong は、大型モデルの時代に最初に選ばれる「計算能力オペレーター」になるよう尽力していきます。
ai モデルのコンピューティング能力の「スーパー アンプ」になる
大規模モデルがサポートできる実際の産業規模は、ai モデルの実際に利用可能なコンピューティング能力によって異なります。 wuwen core qiong 氏は、大規模モデルで実際に利用可能な計算能力は、チップの理論上の計算能力に依存するだけでなく、最適化係数を通じて計算能力の利用効率を増幅し、クラスター サイズを通じて全体の計算能力のスケールを増幅できると考えています。そこで、wuwen core qiong は「チップの計算能力 × 最適化係数 (ソフトウェアとハードウェアの連携) × クラスター サイズ (複数の異種混合) = ai モデルの計算能力」という式を提案しました。この方式に従って、wuwen core qiong は、ソフトウェアとハードウェアの共同最適化技術を通じて大規模モデル タスクにおけるチップ コンピューティング能力の利用率を向上し続け、クラスター コンピューティング能力の利用率を向上させ、複数のヘテロジニアス コンピューティングを通じてクラスター コンピューティング能力の利用を拡大します。電力適応テクノロジー。業界全体のコンピューティング電源。
ソフトウェアとハードウェアの共同最適化に関して、wuwen xinqiong は、自社開発の推論高速化テクノロジ flashdecoding++ を通じて、メインストリームおよび異種ハードウェアの使用率を大幅に向上させ、以前の sota を上回り、amd、huawei で複数のメインストリーム オープンソース大型モデルを完成させました。 ascend は、biren、cambrian、suiyuan、haiguang、tianshu zhixin、muxi、moore thread、nvidia など 10 種類以上のコンピューティング カードに適応されており、一部のコンピューティング カードで業界をリードする推論高速化の結果を達成しています。さまざまな業界で増大する大規模モデル推論の需要に効率的に対応します。このソリューションによって達成された最適化の結果に基づいて、wuwen core dome は商用 ai アプリケーションのパフォーマンス向上を共同で推進するために amd と戦略的提携を締結しました。
マルチ異種コンピューティング能力の適応という点では、wuwen xinqiong は、業界では希少な異種適応およびクラスタリング機能も備えています。7 月にリリースされた大規模な異種分散ハイブリッド トレーニング システム hethub は、業界で初めてです。ファーウェイが推進する、tianshu zhixin、muxi、moore threads、amd、nvidia を含む合計 6 つの「4+2」チップの組み合わせが、キロカロリー規模の異種コンピューティング能力混合トレーニングを実現するために使用されています。ベンチマーク ソリューションの方が約 30% 優れています。これは、同じマルチチップ コンピュータ ルーム条件またはクラスタ条件下で、wuwen core dome は合計トレーニング時間を 30% 圧縮できることを意味します。
異機種混在のコンピューティング能力を活用し、大規模なモデル アプリケーションを開発するためのフルスタック機能を提供します。
近年、モデル層とチップ層は国際的に徐々に「双頭収束」パターンを形成しているが、中国のモデル層とチップ層は引き続き「m種類のモデル」と「」からなる「m×n」パターンを示している。 n種類のチップ」。しかし、異なるハードウェア プラットフォームは異なるソフトウェア スタックやツール チェーンに適応する必要があり、異種チップ間には同時に使用することが難しい「エコロジー サイロ」現象が長年存在していました。国内の異種コンピューティングパワーチップが全国各地のローカルコンピューティングパワークラスターで使用されることが増えるにつれ、異種コンピューティングパワーを効果的に利用することが難しいという問題はますます深刻になり、徐々に中国の大型モデル産業の発展のボトルネックとなっている。 。
wuwen core dome は、ソフトウェアとハードウェアのコラボレーションとマルチヘテロジニアス テクノロジの利点を利用して、マルチチップ コンピューティング パワー ベースに基づいた infini-ai ヘテロジニアス クラウド プラットフォームを作成しました。このプラットフォームは、複数の異種コンピューティング パワー チップと下位互換性があり、全国で休眠中の異種コンピューティング パワーを効果的に活性化することができ、現在稼働しているコンピューティング パワーは全国の 15 都市をカバーしています。さらに、infini-ai ヘテロジニアス クラウド プラットフォームには、ワンストップ ai プラットフォーム (aistudio) と大規模モデル サービス プラットフォーム (genstudio) も含まれています。プラットフォームの立ち上げ以来、kimi、liblibai、liepin、shengshu technology、zhipu ai などの大規模モデル業界の多くの主要顧客が、infini-ai 異種クラウド プラットフォーム上で異種コンピューティング能力を安定して使用し、手間のかからない大規模モデル開発を享受してきました。コアドームが提供するツールチェーンサービス。
infini-ai 異種クラウド プラットフォームは、下流の顧客がハードウェアの違いを簡単にシールドし、基礎となる異種コンピューティング能力をシームレスかつ効率的に使用できるよう支援するだけでなく、国内の異種コンピューティング能力の生態学的ジレンマを効果的に打破し、上位層の段階的な変革を加速します。コンピューティング パワー ベースの移行により、国内の大規模モデル業界で利用可能なコンピューティング パワーの規模が効果的に統合され、拡張され、ヘテロジニアス コンピューティング パワーが使用可能で十分かつ使いやすい大規模なコンピューティング パワーに真の意味で変換されます。 、中国の特性を備えたローカライズされたコンピューティング パワーの構築に役立ちます。
著者: 沈秋沙
文：shen qiusha 写真：インタビュー対象者提供 編集者：shen qiusha 編集者：ren quan
この記事を転載する場合は出典を明記してください。
