ニュース

大規模なモデルが業界に浸透する場合、シナリオが実装の鍵となります。 ToB 業界の観察 |

2024-08-02

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


「テクノロジーとして、大型モデルは、その真の価値を発揮する前に、業界で実際に使用され、実際的な問題を解決する必要があります。」インテル コーポレーション マーケティング グループ副社長兼インテル中国ネットワーク担当ゼネラルマネージャーのグオ・ウェイ氏は述べています。エッジ&チャネルデータセンター部門との話し合い、TMTpost Media APPとのやり取りの中で何度も指摘を受けてきました。

ChatGPT が登場してからほぼ 2 年が経ちますが、2 年も経たないうちに、大規模な AI モデルが前例のないスピードであらゆる分野に浸透しています。特に今年以降、大手モデルメーカーと当事者A企業の両方は、モデルパラメータのサイズから、大規模モデルが業界の問題点をどのように解決するかに焦点を移し、業界独自の問題を解決できる1つまたは複数の大規模モデルを見つけようとしています。 。

一般から産業まで、大規模モデルの実装にはシナリオが鍵となります

大手メーカーの大型モデルの競争を前半と後半に分けると、前半は大手メーカーが一般的な大型モデルを次々と投入し、AIが大型化する後半はモデルのパラメータを継続的に向上させて強みを発揮する。モデルがより多くの業界に受け入れられるようになった サイド企業が注目するようになると、より多くの小さなパラメータ モデルが登場し、業界のアプリケーション シナリオが自然と当事者 A の企業と当事者 B の大規模なモデル サプライヤーの焦点になりました。現段階で大型モデルが本当に実現できるかどうかが、業界側の「マネタイズ」の鍵となる。

この点に関して、Guo Wei氏はTMTpost Media APPに対し、AI大型モデル技術が徐々に業界に浸透するにつれて、モデルは徐々に一般的な大型モデルから業界固有の大型モデルに変化すると信じていると語った。 「同時に、インダストリ モデルは、より多くの業界固有の知識を組み合わせ、1 つまたは複数の特定のシナリオに焦点を当てることになります。」

偶然にも、JD グループの技術委員会の委員長であり JD クラウド部門の社長である Cao Peng 氏も、最近の JD Cloud Summit で「一般的な大規模モデルは構築するためにコンピューティング能力に依存しているが、大規模な産業モデルはビジネスに依存している」と公に述べました。万京東はすでに 35 名以上の自社配送担当者、200,000 人を超える販売者、30,000 人を超える医師、20,000 人を超える調達および販売業務、10,000 人を超える研究開発担当者を擁しており、京東の 100 以上の AI シナリオで大規模なモデル駆動型アプリケーションを使用しています。

「2024年世界デジタル経済白書」によると、世界の大規模人工知能モデルの数は1,328に達し、そのうち中国が36%を占めている。一方、IDCのデータによると、中国の生成AIは2022年のAI市場投資総額の4.6%を占めるだろう。生成AI技術の急速な発展により、2027年には生成AIへの投資割合は33.0%に達し、投資規模は130億米ドルを超え、5年間の複合成長率(CAGR)は86.2%となる見込みです。

明らかに、この大きなモデルはクラウド コンピューティングの前時代と同じであり、テクノロジーだけの点では、中国はまだ世界の一流のレベルにわずかに遅れているかもしれませんが、シナリオに焦点を当てると、中国には豊富なアプリケーション シナリオがあり、これらのシナリオが存在します。シナリオ これが、大規模な AI モデルを真に「一般人の家に飛ばす」ための鍵です。

クラウドからエッジまで、大規模モデルをより効果的に使用するにはどうすればよいでしょうか?

大規模モデルが一般的な大規模モデルの大きなパラメータから業界固有のモデルの小さなパラメータに徐々に移行するにつれて、大規模モデルもクラウドからデバイス側に移行する傾向が見られます。 IDC データによると、2026 年までに世界企業の 80% が生成 AI を使用し、世界のエッジ展開の 50% に AI が含まれるようになります。

この点に関して、インテルのネットワークおよびエッジ部門のシニアバイスプレジデント兼ゼネラルマネージャーであるサチン・カッティ氏は、人工知能の将来はオープンエコシステムに依存し、人工知能のアプリケーションはデータセンターからエッジコンピューティングに移行しつつあるとかつて述べました。

それだけでなく、インテル コーポレーション副社長兼中国ネットワーク・エッジ部門ゼネラルマネージャーのチェン・ウェイ氏もTMTpost Media APPに対し、今年の開発傾向から判断すると、今年はインテルの顧客だけが大規模エッジモデルの導入を検討するだろうと語った。このソリューションを求める顧客は増えています。「今年はまったく異なります。今年は基本的に、顧客の半数以上が大規模なエッジ モデルに基づいた実装ソリューションを検討していると言えるでしょう。」Chen Wei 氏はこう述べています。さらに指摘した。

大規模なモデルがエッジに移行するにつれて、企業は導入時に遅延要件、実用性、マイクロデータの調整可能な最適化、情報セキュリティ要件などの多くの要素を考慮する必要があります。

ただし、大規模モデルのエッジ側展開はまだ開発の初期段階にあり、現在市場には多くの展開モデルが存在します。パフォーマンスの最適化は急速に発展しているモデルです」と、クライアント側で大規模モデルをより適切に適用する方法について Titanium Media APP から提起された質問に直面したとき、Chen Wei 氏は述べました。

業界で導入されている中国の大型モデルの傾向と見通しについて語る際、Guo Wei 氏は TMTpost Media APP に対し、今年以降、ますます多くの業界ユーザーが多くの業界大型モデルを導入していると語った。今年、業界での導入事例がますます増えており、それらはすべて業界の問題点を効果的に解決できるシナリオです」と Guo Wei 氏は述べています。

現在のアプリケーションから判断すると、エンド側のモデル パラメーターは一般的な大型モデルのパラメーターよりもはるかに小さく、現時点ではエンド側のモデル パラメーターはほとんどが 7B から 10B の間になります。何か重要で難しいこと。現在の主流のモデルは、データを圧縮しながら業界固有の知識をデータに注入することであり、一般にプログレッシブ プルーニング技術ソリューションとして知られています。

これに関して、JD Cloudの技術ディレクターはTitanium Media APPに対し、無人物流車両のシナリオを例として、マグニチュード削減とニューラルネットワーク検索を通じて、モデル自体を縮小することなくパラメータの数を約2倍圧縮することが可能であると語った。パフォーマンスも向上し、遅延も約 2 倍削減できます。

同時に、Guo Wei氏はTitanium Media APPに対し、中国の大規模産業モデルの発展の見通しについての分析と判断を共有し、中国は3つの側面でより速く発展する可能性があると指摘した。

まず、産業用途におけるモデル自体の開発です。前述したように、「テクノロジーだけの観点から見ると、中国はまだ世界の一流のレベルには遠く及ばないかもしれないが、産業への導入、特にアプリケーションとの統合という点では、中国には豊富なアプリケーションシナリオがある」とGuo Wei氏は見ています。 , 中国はより速く進むことができる 「中国市場の特徴の 1 つは、アプリケーションの開発が迅速であり、業界の問題点を解決する効果的な方法を迅速に模索できることです」と Guo Wei 氏は強調しました。

第二に、モデル推論能力が向上します。大規模なモデルが実際に業界に適用される場合、業界の問題点を真に解決するには、モデルの推論機能を向上させることが特に重要です。今年は機能も大幅に向上します。

第三に、Guo Wei 氏の見解では、大規模モデルが業界に実装される場合、クラウド、デバイス側、エッジの間でコンピューティング能力の配分を調整する必要があります。 「大規模なモデルは主にクラウドに展開される可能性があります。しかし、業界での実装の必要性により、AI のコンピューティング能力は必然的にエッジと端末側に分散されることになります」と Guo Wei 氏は TMTpost Media APP に語った。

多くのシーンが実装されています

Guo Wei 氏が述べたように、今年以来、大規模なインダストリ モデルの多くのアプリケーション シナリオがデバイス側に展開されています。

教育の面では、Seewo はインテル® Core™ Ultra プロセッサーの助けを借りて、クラウド コンピューティング リソースに依存せずに大規模な AI 教育モデルの操作をローカルで完了できる「AI + 教育」ソリューションを共同で立ち上げました。これにより、システムの応答速度と安定性が向上し、ティーチングプロセス中のスムーズな体験が保証されます。

小売業界では、Tous Les Jours がエッジ コンピューティング テクノロジーを通じてスマート ストア ソリューションを作成しました。このソリューションは、店舗内の既存のオーディオおよびビデオ収集機器を使用し、データ統合および最適化管理プラットフォームを通じて、さまざまな店舗のニーズと特性に応じて、店舗専用の一連のデジタル・インテリジェント・ストア・モデルを作成し、商品ディスプレイを提供します。および店舗サービス、店舗衛生、従業員規範、群衆に関する洞察、および顧客の流れに関する洞察。これらにより、Tous Les Jours 店舗運営の差別化された管理能力が強化され、管理効率が向上し、手動による店舗検査のコストが削減され、次のような取り組みが強化されました。従業員の規範、製パン業界のインテリジェントな発展を加速します。

医療健康の面では、JD Healthは、JD Yanxi大型モデルをベースにした「Jingyi Qianxun」医療大型モデルを立ち上げました。これは、多数の臨床診療ガイドライン、医学文献、専門知識を統合し、さまざまな医療機器の移行を迅速に完了できます。医療と健康の分野、学習のシナリオ。 「Beijing Medical Qianxun」の大規模モデルに基づいて、クラウドクリニック、診断後のフォローアップ、専門家の共同コンサルティング、臨床科学研究、医師IPブランドのインキュベーションなど、現役医師向けの一連のソリューションを開始しました。インテリジェント ドクター アシスタント」ツール。医師のオンライン診断と治療の効率と質を最適化するだけでなく、診療の安全性も向上します。

セキュリティの面では、360、Qi'anxin、Tencent Cloud、Sangfor などの多くのセキュリティ ベンダーが、大規模モデルの機能に基づいてセキュリティ業界で大規模モデル製品を発売したり、AI の大規模モデルの機能を独自の製品に統合したりしています。セキュリティシステム製品の中でも、AI時代にAIがもたらす厳しさを増すセキュリティ課題に対し、当社は「AIでAIを倒す」という目標を達成しました。

オフィスワークに関しては、多くのメーカーが AIPC の概念を提案し、オフィス AI アシスタントに注力しています。AI チャットボットのシナリオでは、大規模なモデルを Intel Core Ultra AI PC に迅速に導入でき、ユーザーは強力な AI アシスタントをスムーズに使用できます。大規模なモデルの作成、プログラミング、数学的計算、論理的推論の機能を備え、便利で安全なローカライズされたインテリジェントなインタラクティブなエクスペリエンスをお楽しみいただけます。

文書処理の面では、AI PCを使用して電子メールやフォームデータを効率的に処理し、業務文書を自動生成して業務効率を向上させることができます。また、契約書類の迅速な作成や、AIを使用した訴訟事件のインテリジェントな分析など、プロフェッショナルな文書作成を提供します。能力。

上記は、AI 大規模モデル アプリケーションが現在普及しているシナリオのほんの一部にすぎません。さらに、業界大規模モデルは、金融、製造、探査などの多くの分野でも広く使用されています。さまざまな業界が AI 大型モデルの機能を活用してビジネスを強化する時代が始まりました。

データは依然として避けられないトピックです

誰もが知っているように、データは大規模モデルを迅速に開発するための「栄養素」です。一般的な大規模モデルであっても、業界の大規模モデルであっても、本当の価値を実現し、「幻想」を軽減したいのであれば、データは不可欠です。話の話題。

業界に関する限り、業界の大規模モデルには、大規模なインダストリ モデルを使用してコストを削減し、効率を向上させ、デジタル化からデジタル インテリジェンスに移行したいと考えている企業にとって、この部分は非常に重要です。データに対するガバナンス機能により、より高い要件が提示されます。現在の業界アプリケーションの観点から見ると、企業の元のデータだけでは、完全な大規模なエンタープライズ レベルのインダストリ モデルをトレーニングするには不十分です。現在の主なソリューションは、合成データを使用することです。次に、企業は自社のデータの品質を向上させる必要がある一方で、優れた合成データをどのように選択するかが企業にとっての難しい課題となっています。

一方、業界大規模モデルと一般大規模モデルの違いは、業界大規模モデルのほとんどはデバイス側またはエッジ側に展開する必要があることです。 Gartner は、2025 年までに企業が管理するデータの 50% 以上がデータセンターまたはクラウドの外部で作成および処理されるようになると予測しています。

つまり、2025年までにデバイス側のデータ量は50%を超えることになります。このプロセスにおいて、エッジサイドのデータ量が増加するにつれて、データ伝送の帯域幅も企業が直面する必要がある大きな課題となっています。「中国はインフラ全体の伝送帯域幅の構築において世界をリードしていますが、大量のデータがエッジで生成されると、依然としてネットワーク ストームを引き起こす可能性があり、ネットワーク管理とデータ送信戦略をさらに最適化する必要があります」と Guo Wei 氏は Titanium Media APP に語った。

将来を見据えて、サチン・カッティ氏はTMTpost Media APPに対し、AIがデータを活用して品質を向上させる一方で、これらのデータはAIの向上を支援し、最終的には好循環を達成すると語った。

明らかに、業界では大規模モデルが急速に発展する時期に入っています。企業は、大規模モデルを業界でより適切に実装できるようにするために、「データ駆動型、シナリオが重要」の原則に従う必要があります。(この記事は最初に Titanium Media APP に掲載されました。著者 | Zhang Shenyu、編集者 | Gai Honda)