ニュース

インターフェースニュースレポーター | 崔鵬

インターフェースニュース編集者 | 宋建安

9月25日朝，百度は入ってるよユンジ会議でロールアウトする百ゲーあ私異種コンピューティングプラットフォーム4.0そして千帆大型模型プラットフォーム3.0待ってあ私インフラ製品，そして発表したわかった複数あ私関連事業の最新のデータ。で、文心大型モデル日平均電話量すでに超える71億，距離百度前回発表するの61億データ持っているさらに遠く推進する。

存存存存存在するするするするするちょうど終わったばかりアリユンキカンファレンス優れた，アリババｃえお呉永明これまで急行，アリババクラウドの単一のネットワーククラスタすでにに拡張します10万カードレベル、そして百度も受け入れたくない後ろに。baidu group 執行副社長兼 baidu intelligent cloud business group 社長、shen dou 氏特別強調する，百ゲー4.0意思だけでなくはいワンカクラスタ，それよりもそれを持ってください成熟した10万カードクラスタ展開するそしてマネジメント能力。

百度今年いつもそこにある強調する大型モデルの着陸応用。 baidu ceo の robin li 氏が最近社内で講演しましたという意味です，持っているアプリケーションシナリオ、できる継続的な反復アップグレードの大型モデル、そして他のモデル製品ギャップは、どんどん大きくなっていきます。

これに基づいて、百度見つけました長安汽車そしてサムスン待ってたくさんお客様のウェブサイト、による展示するbaidu の大規模モデルのさまざまな業界への適用結果。

シェンは震える急行，この1年で、百度感じるクライアントのモデル必要うねり，必要なクラスター サイズはますます大きくなり、企業右モデル推論コスト衰退の期待されるまたどんどん高くなっていく。

大規模モデルのトレーニング前提は作成するクラスタ, これは、gpu を購入して組み立てるだけの話ではありません。一般的に必要数ヶ月行為装置構成そしてデバッグ。

以前はありましたクラウドベンダークラスターを形成するできる圧縮到着着1空、そしてシェンは震える言う，百ゲー4.0できる最速の1完了時間確立する、主要使用意思業界で人気のトレーニング道具そしてフレーム行為組み込みの方法。

一度入る大規模な訓練ステージ，最も重要なつまり安定性。大規模モデルの分野では、パラメーター、計算能力、データセットのサイズが増加するにつれてモデルのパフォーマンスが向上すると考える有名なスケーリング則に従ってきました。。

神道氏によると、gポあなたクラスターのコスト膨大な量の工事および運営コスト、通常はビルドします1つワンカクラスタ，1つはいグポあなたの購入料金すぐにガンダム何十億もの元。もしはい10万カードクラスタ，サーバある日消費するの力についてはい300万キロワット時，に相当北京東城区ある日の家庭用電力消費量。

存存存存存在するするするするするこの種の大規模なのクラスター上で，ハードウェア避けられないミーティング現れる故障，規模が大きいほど，故障中確率高いほど。存存存存存在するするするするするこれら故障中，大多数はいによるグポあなたによって引き起こされる，なぜならグポあなたはい非常に敏感なハードウェア，右温度、湿度待って環境変動レスポンシブ。

シェン・ドウが言及した，meta が llama3 モデルをトレーニングしたとき、16,000 枚の gpu カードを使用するクラスターでは平均 3 時間ごとに障害が発生しました。

大型モデル電車はい巨大なシングルタスク，1つノードエラー，全体クラスタただ必要です停止、そしてロールバック到着着前のメモリポイント。考慮してグポあなたクラスタの料金とても高い，毎多くの停止1分意思無駄にお金を燃やす，“効果的なトレーニング間隔「それはとても重要な指標。

に対して大型モデル電車進行中頻繁な故障の質問，百ゲー4.0右故障検出手段そして自動フォールトトレランスメカニズム行為わかったアップグレード，現在のところワンカクラスタ優れたの効果的なトレーニング時間成し遂げる99.5%，シェンは震える言うこれはより高いです仲間対戦相手のデータパフォーマンス。また、百ゲー4.0意思主流長い文章推論効率推進するわかった1回その上，同時に減少した推論コスト。

baidu の最新の決算報告では、ロビン・リーこれまでbaidu smart cloud ai の収益貢献度は、前四半期の 6.9% と比較して、第 2 四半期には 9% にさらに増加し​​たことが明らかになりました。

大型モデル道具のパフォーマンス推進するもちろん重要，しかし、百度話しましょう，モデルの着陸の業績より実用的な意義。

アップグレードを除く百ゲープラットフォームに加えて、baidu は次のことも強調しました。最新銭帆3.0プラットフォーム。 shen dou が発表したデータによると、qianfan 大型モデル プラットフォームでは、wenxin 大型モデルは 1 日平均 7 億回以上呼び出され、ユーザーが 30,000 個の大型モデルを微調整し、700,000 を超えるエンタープライズ レベルのアプリケーションを開発するのに役立ちます。qianfan 3.0缶wenxinシリーズの大型モデルを含む国内外の約100台の大型モデルを呼び出すことができ、音声やビジョンなどのさまざまな従来の小型モデルの呼び出しもサポートしています。

現在のところ、大型モデル着陸のビッグ 3主なニーズ彼らですアプリケーション開発、モデル推論そしてモデル開発する。

存存存存存在するするするするするアプリケーション開発層，エンタープライズレベルrあグ（意思企業そして業界データ作ったプラグイン知識ベース与える大型モデル）そしてあ紳士エージェントはい2つの主要な一般の大型モデル着陸シーン。

その中で、インテリジェントエージェントはタスクを受け取った後、独立して考え、タスクを分解し、計画を立て、ツールを呼び出してプロセス全体を独立して完了します。，できる過去を完了する必要3～4個人的なあポポタレント完了しましたタスク。

シェンは震える急行，百度内部のために銭帆プラットフォーム供給わかった百度検索それでそして百度地図待って超える80個人的な公式コンポーネント，に使用される推進するエージェント存存存存存在するするするするする特定のタスクについて能力。

そして、ロビン・リーの見解では、インテリジェント・エージェントは大きなモデルである発展した次重要な方向性。「多くの人がインテリジェント エージェントの開発方向について楽観的ですが、現時点ではインテリジェント エージェントはコンセンサスになっていません。バイドゥのようにインテリジェント エージェントを最も重要な戦略であり、大規模モデルの最も重要な開発方向とみなしている企業は多くありません。」 。」

baidu は、今年の create カンファレンスで、agentbuilder、appbuilder、modelbuilder という 3 つの製品をリリースしました。このうち、agentbuilder と appbuilder はどちらもインテリジェント エージェントに関連しており、一方は敷居が低く、もう一方は機能性を重視しています。

baidu が開示した最新のデータによると、baidu のエコシステムにおけるインテリジェント エージェントの配布数は大幅に増加し、7 月の 1 日あたりの平均配布数は 800 万回を超え、5 月の 2 倍となりました。

百度が所有デジタルマンプラットフォームそしてスマートカスタマーサービス製品も利用可能最新の開発状況。その中で、ザイリン デジタル ヒューマン プラットフォーム 4.0 は、テキストに基づいて、さまざまなメイクアップ スタイルとさまざまな業界特性を持つ 3d デジタル ヒューマン画像とビデオの迅速な生成をサポートし、3d 超リアルなデジタル ヒューマンの価格を 10,000 元から 199 元に引き下げます。

インテリジェントカスタマーサービス製品「keyue」は、ユーザーの意図の理解とマルチモーダルな情報交換の点で最適化され、複雑な問題への対応能力が向上しました。

baidu によると、現在、業界は「問題解決率」の平均レベルは 80% ですが、アップグレード後、「ke yue」はこの指標を 92% に増加させました。この製品は、企業顧客が 1 億 5,000 万人以上にサービスを提供し、5 億回以上やり取りするのに役立ちました。