ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

テキスト | 趙延秋と周祥岳

編集者 | ニウ・ホイ

中央国有企業が実施する大規模モデルは新たな段階に入っている。 9月のカンファレンスで、ある業界幹部はデジタル・インテリジェンス・フロンティアに対し、大規模モデルの実装はもはや特定の業界に限定されず、各企業内での実装の深さと幅が広くなっていると語った。も大きな一歩を踏み出しました。

業界の観察によると、一部の大手国有企業が率先して大規模モデルの初期パイロット導入を完了し、より中核となるシナリオに向けて徐々に動き始めています。 」今年 5 月以降、大型モデルの価格競争が激化するにつれ、大型モデルの導入がさらに加速し、多くのシナリオが大規模に検討および再現され始め、財務レベルでの roi が向上しました。ポジティブに転じた。「baidu の副社長、xie guangjun 氏は digital intelligence frontline に語った。

今年下半期には再び大型モデルの導入が進むだろう。わずか2か月半で、市場で公開されている大型モデル関連の落札件数が、今年上半期の落札件数の合計を超えた。。 1ヶ月間の落札案件も数百段階に達しています。あらゆる分野で大型モデルの開花が加速しています。中でもエネルギー、金融、教育、インターネットなどの産業が特に活発です。

急速に変化するテクノロジーの波を受けて、業界交流は加速しています。ここ数カ月、大小さまざまなaiカンファレンスが各地で登場しており、baiduは9月25日に2024 baidu cloud intelligence conferenceを開催すると報じられている。さらなる技術交流や衝突が起こるだろう。

01

中央国有企業が新たな大きな一歩を踏み出した

2024年、中国南方電力網は複数の大型モデル関連プロジェクトの募集と調達を完了した、「中国南方電力網主配電システムのai基礎訓練施設の主要技術プロジェクト - 電力システムnlp大型モデル技術の研究と応用」、「中国南方電力網研究所の2024年安全訓練および推論機能セットの研究開発」など電力業界向け大型機種向け「コンポーネント開発」など関連チームは baidu intelligent cloud と協力して共同イノベーションを行っています。

金融業界では、大手国有銀行が昨年、顧客サービスアシスタントとカウンターアシスタントのシナリオで数千人規模の小規模なパイロットプロジェクトを立ち上げたばかりで、今年、これらの機能がいくつかの主要な顧客サービスセンターで正式に開始された。大型モデルの毎日の活動は数万人に達します。

自動車分野では、吉利総合研究所の関係者が最近の会見で「自動車会社が車を売りに行く今、大型車種が載っていないので製品を売るのが恥ずかしい」と率直に語った。大型モデルはスマートコックピットと自動運転を展開しており、デジタルマーケティング、ユーザーオペレーション、その他のシナリオにも力を与えており、最近では吉利傘下のすべての企業に力を与え始めています。

政務市場では、地方自治体が地場産業を踏まえた大規模なモデル計画を策定している。 「まずインテリジェント コンピューティング センターを構築し、今年末から来年第1四半期にかけて、インテリジェントコンピューティングセンターが大規模に導入され、その後大型モデルと地場産業の融合が始まる。。 「政府関係者は市場の進歩について語った。科学、教育、文化、保健分野がこのアプリケーションの導入を始めている。」一部の三次病院では試験シナリオに数千万ドルを投資したところもある。 「ある医療関係者によると、学部長らは症例の生成、人材、財産の管理、科学研究など、サービスレベル、管理、科学研究のレベルに密接に関連するシナリオに重点を置いているという。

輸出入貿易の主要なルートであるこの港も調査され、配置されています。 baidu intelligent cloud logistics and transportation solutions のゼネラルマネージャーである hu wei 氏は、「多くの顧客が今後 3 年間の it 計画に大規模なモデルを書き込んでいるのを目にしてきました。」と、これまでの技術革新のラウンドとは異なり、今回のラウンドはデジタル インテリジェンス フロントラインに語った。 「待って見ている人は減りましたが、試してみる人は増えました。」

例えば、貨物処理量で世界第1位の山東港では、インテリジェント質疑応答とインテリジェント質疑応答の大規模モデルの試験研究が完了し、この2つの機能が全従業員向けに開始されています。

化学業界では、sinochem information と baidu smart cloud が協力して、新素材の研究開発のための大規模モデルの使用を検討しています。ナレッジ アシスタント「hua xiaoyi」は、自然言語を通じて質問し、専門知識を検索して回答できます。分子の特徴や分子合成経路など。現在では、特定分子の検索効率が5倍以上に向上し、研究開発作業の効率が大幅に向上しました。

この熱意は入札市場にも反映されています。公開データは次のことを示しています今年1月から8月までの国内大型モデルの当選件数は2023年通年の5倍に達し、当選金額は昨年の2倍となった。。その中でも大型ヘッドモデルメーカーが依然として受注を独占している。百度は、大規模モデル落札プロジェクト数、落札金額、対象産業、対象となる中央国有企業数という4つの主要指標で第1位にランクされている。

ただし、data intelligence frontline の不完全な統計によると、7月1日から9月15日までのわずか2か月半で、大型モデル関連の落札件数は少なくとも286件に達した。、今年の最初の6か月間でプロジェクトの総数を追いつくことに成功しました。

購入者の中で、依然として最も多くの発注を行っているのは、通信事業者、エネルギー、教育、政府事務、金融などです。明らかな兆候は、一部の企業がますます細分化された要求を提示し、データ収集とガバナンス、大型モデルのセキュリティ、人材育成などの調達がすべて大幅に増加していることです。

例えば、中国南方電力網は、7月から9月中旬までの2か月半以内に少なくとも15件の大規模モデル関連プロジェクトの入札を完了し、国営電力網も第3四半期に複数の大規模モデル関連プロジェクトの入札を完了した。

baidu intelligent cloud energy power industry のゼネラルマネージャーである li chao 氏は digital intelligence frontline に対し、中国南方電力網は昨年 9 月には独立した制御可能な大規模モデル「ビッグワット」をリリースしたと語った。その中で、baidu intelligent cloud qianfan 大型モデル プラットフォームは、電力供給シナリオの技術サポートを提供します。今年の第 3 四半期に、中国南方網は中核事業部門向けの大規模言語モデルの選択を完了し、baidu が技術サービス プロバイダーとして選ばれることに成功しました。

02

大企業は「流れに乗る」ことを重視する

今回のラウンドで最初に大型モデルに進出した企業のほとんどは、小型モデルの経歴を持っていた。たとえば、icbcは2021年頃にプロジェクトを立ち上げ、ocrなどのビジネスアプリケーションを構築するために「より大きなモデル」を使用したいと考えています。 「chatgpt が来てから、彼らはこの状況を利用して大規模なモデル プロジェクトを立ち上げました。」と金融関係者は digital intelligence frontline に語った。

生産安全市場は政策監督の対象であり、中央国有企業にとってほぼ収益源となっている。国家能源グループ最大の二次風力発電会社である龍源電力は、これまで、従来の小規模モデルのセキュリティ ソリューションを採用して、200 基以上の風力発電所と 10,000 基以上の風力タービンを管理し、安全性の監視、分析、分析から完全な生産サイトを形成していました。閉ループの処理に警告を発します。今年の第 2 四半期に、baidu はプロジェクトのアップグレード バージョンの入札を勝ち取りました。これは、大規模な cv モデルの一般化、より正確な特徴認識、および収集された情報を作成する大規模な言語モデルの機能を組み合わせたものです。大量にあると本当に役に立ちます。

以前は小型モデルではできなかったが、大型モデルでは価値をもたらすことができるようになったのは何でしょうか?胡偉氏は、港内のスケジューリング、人員スケジュール、停泊地、保管ヤードなどはすべて、これまで小規模なモデルを使用して個別に行われており、結果は良好であったと述べました。実際、これは数学的アルゴリズムの問​​題であり、小さなモデルが非常に適しています。。ただし、これらを組み合わせて「統合スケジューリング」を行う場合、小規模なモデルでは、データ セットやデバイス全体で大規模な協調コンピューティングや調整された計画を実現できません。 「私たちは特に大規模なモデルを解決できることを期待しています。課題は港でのデータの集約であり、これには時間がかかります。」

産業業界では、小さなサンプルに遭遇した場合、従来の cv 小型モデルの認識率は比較的低かった。 cv ラージ モデルの助けを借りて、小さなサンプル データの認識率を向上させることができます。

多くの企業には、ナレッジ管理、降水量、およびアプリケーションのプラットフォームも不足しています。大規模モデルと知識検索の助けを借りて、企業は知識管理プラットフォーム機能を形成し、暗黙知の明示化、形式知の構造化、構造的知識の関連付け、関連知識の流動化といったタスクを完了できるようになりました。

多くの企業では定期的に生産・運用会議を開催していますが、データを整合させるのは非常に困難です。大規模な言語モデルの助けを借りて、結果をより迅速かつ正確に要約および抽出でき、ユーザーにとって非常に価値のある予備分析を完了できます。

03

コア事業に参入するには「手足」を見つける必要がある

li chao 氏は、過去 2 年間、大規模モデルの適用はまだ初期段階にあり、オフィスや顧客サービスなどのアシスタント シナリオに集中していたと観察しました。これは、数千万、数億、さらには数百億の投資を行う中央国有企業の経営陣の期待と完全に矛盾している。現在、大規模なモデルは企業の中核ビジネスに深く入り込む必要があります。

「エネルギー業界では、私たちはシミュレーションの最適化という一方向に投資しています。。 「リー・チャオ氏はこう語った。業界には、大規模な言語モデルや大規模なcvモデルでは実行できない、メカニズムや科学計算に関連した作業タスクが多数ある。これらの問題が解決されなければ、私たちが想像する未来は、ビッグデータに基づいてモデルを機能センターとして実装し、完全なエージェント サービスを提供することは不可能です。 「li chao 氏は、将来的には、顧客の中核ビジネス シナリオに浸透するには、大型モデルを専門分野の小型モデルと組み合わせる必要があると述べました。

リー・チャオ氏は、百度はシミュレーション最適化エンジンを提供し、電力網の配電、石油と石油化学精製、石油とガスの探査シナリオに参入するために、シミュレーション最適化エンジンを提供していると述べた。電力網の配電や電力網の安定性など、状態解析、石油・石油化学航空エネルギーアイランド運用の最適化、脱硫・脱硝などのメカニズムモデルに関連した実際のプロジェクトが実施されている。今年9月、百度は全国パイプラインネットワークのインテリジェント派遣の入札にも参加した。

「これらは、顧客が非常に懸念している核となる生産方向であると私たちは考えています。これらの方向性は、将来的に大規模モデルをスケジューリング センターとして使用して、全体としていくつかのインテリジェント エージェント サービスを構築するときに不可欠な「手足」です。。 li chao 氏は、この「手足」の計画に特に力を入れると述べ、大きなモデルはこの「手足 (プロフェッショナル api)」があって初めて真の意味でのシーン サービスを実現できると述べています。

「港では、最初に質問と回答を使用して、元の大型モデルが信頼できるものであることを顧客に確認してから、徐々に中核となるビジネス システムに切り込んでいきます。」と hu wei 氏は述べています。「私たち山東港グループは、すでに次の段階を計画しています。」 、ビジネス シナリオについてさらに詳しく説明します。」港は物資、人、トラック、ガントリークレーンなどの輸送が中心となる複合輸送拠点です。。以前は、港によって導入された tos システム (ターミナル オペレーティング システム) に ai アルゴリズムが徐々に組み込まれていました。大規模なモデルでは、より多くのメタデータにアクセスするという問題をさらに解決できます。

大型モデルが生産コア システムに移行するにつれて、世界的な大型模型コンテストの中核となる能力の 1 つは論理的推論です。。 「顧客サイトで実施されたテストでは、異なる大規模モデル間では複雑な問題の論理的推論がまったく異なることがわかりました。さらに、港に配備された多数のカメラによって生成されたビデオ リソースは実際には使用されていませんでした。」現在の 1 つの方向性は、これらのオリジナルのハードウェアと画像リソースを使用することです。マルチモーダルな大規模モデルを統合に使用して、より優れたグローバル コラボレーションを実現します。。 「これが私たちが模索している方向性です。」

04

ai ワークロードの 74% はクラウド上にあります

大規模なモデルの実装は複雑なシステム エンジニアリングです。企業が深海領域に参入するにつれて、実装のためのいくつかの入り口と道が加速して表面化しています。

「私たちが顧客と連絡を取るとき、私たちが最初に行うことは、納期の遅れや問題につながる可能性のある一貫性のない認識を避けるために、顧客が大規模なモデルの境界を理解できるように支援することです。」顧客の期待とはあまりにもかけ離れた状況で、彼らは現在、基本的にあらゆるプロジェクトを抱えています。すべて「軽い相談+実行」の完全なプロセスを経ます。

インテリジェントなコンピューティング能力の構築について、idc データによると、ai ワークロードの 74% はクラウド上にあります。しかし、今日のインテリジェント コンピューティングの技術パラダイムは変化しました。 cpu クラウドの時代では、誰もが柔軟性と最終的な費用対効果に最も関心を持っていますが、gpu クラウドでは大規模なクラスターのコンピューティング能力を利用できるかどうかが重要です。このようなクラスターは高価であるだけでなく、特定の技術的な障壁もあることから、依然としてクラウド ベンダーが主要なプレーヤーとなっています。

コンピューティング能力に加えて、データの重要性が高まり続けています。 data intelligence frontier の不完全な統計によると、2024 年の第 3 四半期には、データの購入、収集、管理、およびその他の関連する購入が大幅に増加しています。

たとえば、データ レベルでは、港の顧客データは各端末会社のサーバーに保存されます。huwei は、顧客に専用のデータ チームを設立することを推奨しています。

データに関して言えば、さらに深い問題があります。 」今、業界で大型モデルの話をするときはデータの話をする必要がありますが、はっきり言って空話が多いです。と業界関係者は率直に語った。

「大型モデルの時代、データをどのように準備し、どのように管理し、大規模なモデルのトレーニングのさまざまな段階にさまざまなデータを適用するかを、ほとんどの人がまだ盲目的に理解しようとしていますか?。 「リーチャオ氏は、百度もこの過程で多くの落とし穴を踏んだと述べた。

たとえば、一般的なモデルに基づいてインダストリ モデルをトレーニングする場合、データをどのように照合するかについての技術ガイドがあります。大規模なモデルに与える量が少なすぎると、その効果は明ら​​かではありません。与える量が多すぎると、モデルの収束が難しくなり、モデルの全体的な機能の低下につながる可能性さえあります。これらの落とし穴があります。その後解決され、一連のツールが形成され、その方法論は qianfan プラットフォームと専用の技術サービス チームを通じて外部にエクスポートされます。

大型モデルのテクノロジーとアプリケーションの間にギャップが生じやすい、多くの「ユーザー部門はaiを理解しておらず、ai部門は業界を理解していません」。 li chao氏は、このギャップを解決するために、ソリューションアーキテクトに業界の背景を備えさせることに加えて、パートナーの選定にも重点を置くと述べた。 「私たちは基本的にエネルギー業界で 2 種類のパートナーのみを選択します。1 つは顧客の産業部門であり、もう 1 つは顧客の業界企業で人的アウトソーシング サービスを提供する企業です。」と li chao は digital intelligence frontline に語った。二人とも顧客のビジネスだけでなく it 業界にも深く関与し、理解しているということです。

さらに、特定のシーンで大規模なモデルを実装する際、まだ多くのエンジニアリング作業を行う必要があります。たとえば、大規模なモデルは、「合計スコアと合計」の形式で回答を出力することに慣れており、回答は毎回異なりますが、一部の顧客は「最初にスコアを付けてから合計」の方法に慣れており、それを期待しています。答えは「再現」できるのです。 「一部の港湾リーダーにとっては、語順や文法のわずかな変更であっても受け入れられない」と胡偉氏は述べ、そのため大規模なモデルの出力が顧客の期待に応えるために多大なエンジニアリング作業を行う必要があると述べた。

企業導入の全体状況から、顧客のニーズは360度あります。興味深いことに、現在、すべてのクラウド企業はクラウド パートナーから ai 変革の戦略的パートナーに移行しており、ai インフラストラクチャ、アルゴリズム モデル、データ、展開の最適化、カスタマイズに関する全体的な技術能力をアップグレードしています。

05

人的要因

あるテクノロジー企業の cio は、大規模モデルの構築や適用推進の際に、リーダーがいくら言っても現場の社員や部門が協力してくれないという大きな抵抗に遭いました。同社がコード アシスタントをインストールした後、全体の効率が 1/3 向上しました。 「人員削減について話題になることはほとんどありませんが、コードを書く人々が開発のフロントエンドまたはバックエンドに異動することを意味します。また、最前線の従業員は解雇されることを心配しており、一部の事業部門には縄張り意識があります。」これらは現実的な問題です。

伝統産業の大企業の多くでは、最大の抵抗は作業の慣性から生じます。第一線の従業員の多くはベテランです。今では、設備保守アシスタントを使用する機会が与えられたら、「何か起こったら、自分で試してみるか、ラオ・チャンとその 3 人に電話してもいいでしょう」と言うでしょう。私たちは残りの人生を一緒に働きます。」

“大型モデルは主要プロジェクトです。 「金融業界関係者は、上層部から下層部まで推進する必要があると述べました。上級リーダーは公の場でベンチマークプロジェクトを支持します。反対しないことも一種の支持である場合もあります。」 」

「初期段階でビジネス部門を巻き込み、構築と最終的な導入と推進に参加してください。」と ianaracy の創設者兼 ceo の jin jianhua 氏は述べています。メンテナンスアシスタントと同様に、グループにはグループのアイデアがあり、子会社には子会社のアイデアがあり、第一線の従業員には第一線の従業員のアイデアがある可能性があります。全員の収益の期待を調整するにはどうすればよいでしょうか。それはバランスの問題です。たとえば、ナレッジ マップの構築の一部は二次企業のベテランの専門家によって行われ、全員が共通の目標に向かって前進できるようになります。

また、企業はベンチマークプロジェクトの運営状況や事業収入を定期的に公開し、インセンティブを公的に提供する必要がある。 「たとえば、従業員にポイントを与え、それをいくつかのシステムにリンクし、ギフトと交換するのです。」と hu wei 氏は述べました。テクノロジー企業の最高経営責任者（cio）は「業績や賞与に直結させる。少々単純で粗雑ではあるが、効果はある」と述べた。

初回の定着率も重要です。改訂と反復後に従業員の最初のログイン エクスペリエンスを改善する方法を見つける必要があります。たとえば、入り口が十分に明確になり、以前は許可されていなかったものが正確になれば、企業の従業員は引き続きそれを使用するようになります。

ビジネス部門の観点から、私たちは伝染性の生々しいストーリーをデザインし、何人かのマスターに伝染する可能性のある自分の経験から話してもらうことができます。プロジェクトの毎日のアクティビティ、月ごとのアクティビティ、その他のデータも同様に重要です。これらは企業の ai 文化を育成する。

大型モデルの上陸の波は押し寄せ続けている。この急速な流れの下、業界チェーンのあらゆる階層のプレーヤーが投資を増やし続けており、より多くの企業がデジタル インテリジェンスの飛躍を達成するよう後押しされています。

百度も近い将来、9月25日に大きな動きを起こす予定だ。2024 百度クラウド インテリジェンス カンファレンス。それまでに、baidu intelligent cloud qianfan プラットフォームは、アプリケーション開発ツール、大規模モデル、およびツール チェーンの 3 つの主要な ai アプリケーション製品、baidu intelligent cloud keyue、wenxin quick code・baidu comate、baidu xiling digital people の新しいアップグレードを導入する予定です。も完全にアップグレードされ、より多くの技術交流と衝突を達成するために、スマート金融、スマート産業、スマート交通、スマート政務、スマートカー、身体化インテリジェンスなどの複数のサブフォーラムが同時に開催されます。