私の連絡先情報
郵便管理者@information.bz
2024-08-16
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
文 | 王志源
最近、友人が私に次のようなフィードバックをくれました。キミ宣伝って本当に激しいですね。
NetEase Music を聴いたり、bilibili を閲覧したりするとわかりますが、これは一般ユーザー向けの製品であることは間違いありません。しかし、8月も半ばになったばかりで、キミの行動の中には人々に少し違う感情を抱かせるものもあります。
違いは何ですか?
一方で、8月2日、キミの親会社は、月のダークサイド(Moonshot AI) は、Kimi のエンタープライズレベル API の正式リリースを発表しました。このエンタープライズ レベルのモデルは、通常のユーザー バージョンよりも強力なデータ セキュリティ保護と高速な処理速度を提供し、企業が複雑なタスクと大量のデータを処理するのに役立ちます。
その直後、同社は、KIMIオープンプラットフォームのコンテキストキャッシングCache技術のコストを、当初の100万トークンあたり10元から1分あたり5元に引き下げると発表した。この値下げは7月1日からオープンプラットフォームでパブリックベータ版が実施されていることが分かりました。
これを読んだ後、キャッシュとは一体何なのかと興味を持った方もいるかもしれません。
簡単に言えば、その機能は、繰り返し使用され、頻繁にクエリされる可能性のあるテキストまたはデータを事前に保存し、それによってコストを増加させることなくモデルの推論効率を向上させることです。
したがって、これらの行動を見ると、AI は B2B 分野で効果的な道を見つけたのだろうか、と疑問に思うことがあります。一連の調査を行った後、私はこう思います。
まず業界のコンセンサスについて話しましょう。AI の応用がモデルの成功の鍵となるのは間違いありません。
今年の世界人工知能会議で、Baidu CEO の Robin Li 氏は、大規模モデルの適用に関するいくつかの見解を語りました。同氏は次のように述べています。「C サイドの開発は重要ですが、B サイドのアプリケーション シナリオでは、大規模なモデルがより良い結果を達成できるのです。」
彼は、AI 時代には、産業に大きな影響を与え、効率を大幅に向上させることができるアプリケーションの価値がより高まると考えており、医療、金融、教育、製造、輸送、農業の分野でアプリケーションが開発されると予測しています。カスタマイズされたインテリジェントエージェントは、将来的には数百万人に達し、巨大なエコシステムを形成するでしょう。
今年、百度は医療、金融、エネルギー、環境保護、交通などさまざまな分野で、大手国営企業や業界大手企業を含む17件のプロジェクトを獲得し、その金額も巨額だった。
明らかに、Robin Li は、AI アプリケーションをインテリジェント エージェントに迅速に実装する必要があると考えています。
インテリジェントボディの詳細に該当するかどうかはさておき、1 年半以内に提出しなければならない入札書類は数多くあります。
Moonshot AI の創設者である Yang Zhilin 氏がそれについてどう考えているか見てみましょう。
6月、Geek Park創設者のZhang Peng氏とYang Zhilin氏の会話の中で、Yang氏はB面を完全に排除しているわけではなく、主にC面に焦点を当てていると述べた。彼の製品 Kim は、AI 分野でトラフィックと使用率がトップに達しました。
それにもかかわらず、ユーザーはピーク時にコンピューティング能力が不十分なために問題が発生することがよくあります。この状況に対処するために、同社は運営コストを削減し、効率を高めるためにいくつかの措置を講じてきました。
その 1 つは、キャッシュ テクノロジを通じてモデルの推論パフォーマンスを最適化することです。このテクノロジにより、複雑なリクエストを処理する際に Kimi がより速く応答できるようになり、計算を繰り返す必要性が軽減されます。
この改善により、システムの応答速度と処理効率が向上するだけでなく、対話やテキスト生成の一貫性と正確性が保証されます。これは、将来、B サイドのビジネスやビジネスを行う可能性に直面した場合に非常に重要になると思われます。多数のデータ要求の集中処理が特に重要です。
したがって、B サイドに移行したい場合は、まず計算能力の問題を解決する必要があり、計算能力の安定性を確保することが基礎であると楊志林氏は考えています。
一方で、Cエンドのビジネスは、主にコンバージョンを獲得するために広告を使用するため、それほど魅力的ではないと思います。
多くの広告関係者から聞いたところによると、2024 年上半期から 1 人当たりのコンバージョン コストは基本的に 40 元に達するというデータです。
しかし、一般的な傾向を見ると、CエンドシナリオにおけるAI市場における競争コストの増加により、多くのAI企業が市場戦略の再評価を迫られることは間違いありません。
したがって、C サイドの市場には大きな可能性がありますが、B サイドのアプリケーション シナリオは、結局のところ、企業にとって実質的なコスト削減と効率向上を達成することによってのみ、大規模モデルの大きな効果と効率的な結果を達成するための重要な領域となります。業界、さらには業界全体の進歩を促進します。
コンセンサスは正しいので。では、エージェント、AI、または大規模(小規模)モデルはどのようにして B2B 分野に効果的に参入できるのでしょうか?1つ目はB面の上流になる方法です。
それはどういう意味ですか?
いわゆるBサイド上流はサプライチェーンのソースです。たとえば、AI を活用するニーズと適用シナリオがある製薬会社があるとします。しかし、大規模なモデル企業に参入するのは困難です。どうすればよいでしょうか。
この時点で、製薬会社が何らかの SaaS ソフトウェアを使用していることがわかりました。大手 AI モデル企業は、このようにしてソフトウェア サプライヤーとの協力を検討できます。また、製薬会社は、既存のソフトウェア製品に AI を追加できます。ソフトウェアの活用と同時にAI活用への移行もスムーズに行えます。
これが伝統的なBサイドビジネスマンの多くの考え方です。
実際、B2B ソフトウェアには複数の導入形態があります。 1 つ目はローカライズされた展開です。この場合、ソフトウェアは顧客自身のサーバーまたはデバイスにインストールされ、顧客がデータとセキュリティを制御できるようになります。
この方法では定期的なアップグレードが必要となるため、メンテナンスが面倒でコストがかかります。たとえば、かつてはメルセデス ベンツや BMW などの大手メーカーは、代理店を管理するために従来の CRM システムをローカル展開に使用していました。
ただし、AI 統合を実装する場合、ローカライズされた展開では多くの課題に直面します。特に事前トレーニングされたモデルは、一度インストールされれば、インターネットに接続していなくても顧客の問い合わせに応答できます。
多くのToB企業が挑戦に興味を持っていますが、実際の業務は非常に複雑です。たとえば、製薬グループや病院では、新しい AI 機能を統合するためにソフトウェアを更新する必要があると、プロセス全体が非常に複雑になります。
また、プロジェクトリーダーにとっては、なぜ多額の費用をかけてAI機能を導入する必要があるのかを上司に説明しなければなりません。
例えば:
モデルの構築に 2,000 万を費やします。 AI 機能を備えているのは素晴らしいことのように聞こえますが、実際の状況では、これは単なる AI 知識の質問と回答システムにすぎないと思われるかもしれません。こうやって見ると、いつもお得ではないように感じます。
もう一つのポイントは、企業がモデルを導入したとしても、従業員がそれを使えなくなったらどうするかということです。だったらこのお金は無駄ではないでしょうか?もちろん、これには適切な計算はなく、知識ベースさえ持たない企業もあり、AI 機能を導入する必要はありません。
別の形式として、SaaS モデルでは、Feishu などのコラボレーション ツールなどのサブスクリプションを通じて料金を支払うことができます。このモデルでは、SaaS 企業は AI 機能を直接統合でき、小規模なモデル企業をバイパスして大規模なモデル企業から直接サービスを購入してプロセスを変革することもできます。
これらすべての形式の中で、SaaS モデルは AI 機能を統合するのが最も簡単です。これは、サービス プロバイダーが AI 機能をバックエンドで均一に更新および保守できるためであり、顧客は技術的な詳細を心配する必要がありません。
したがって、トップダウンの観点から見ると、AI ソリューションを提供する企業はある程度の受注を獲得する可能性がありますが、顧客を真に成功させるプロセスは非常に困難であり、努力と利益が比例しないことがよくあります。
それで、新しい解決策はあるのでしょうか?持っている。それを下から見てみましょう。
私たちは新たな理解を確立する必要があります。
企業における AI の使用は、実際に画期的な進歩をもたらしています。AI は一般に、既存の作業プロセスを完全に再開するのではなく、作業の効率を向上させるために使用されます。
クリーンスタートとは何ですか?
つまり、ワークフローやプロジェクト管理の文脈において、既存の構造や計画に依存せずに、何かのプロセスをゼロから完全に再設計することは、問題を解決したり実行したりするために、古い方法やシステムを放棄し、まったく新しい方法を採用することを意味します。タスク。
たとえば、ある企業はもともと非常に伝統的な顧客関係管理 (CRM) システムを使用していました。時間が経ち、ビジネスが成長するにつれて、このシステムは会社のニーズを満たすことができなくなりました。
同社は、古いシステムを変更したりアップグレードしたりするのではなく、新しい CRM システムをゼロから開発することを決定しました。この新しいシステムは、最新のテクノロジー スタックを使用し、最新のビジネス プロセスにより適合した機能を設計し、最新のシステムをより適切に統合できます。データ分析ツール。
これは「クリーンスタート」の一例です。でも、ご存知ですか?AI はプロセス リエンジニアリングのプロセスを破壊します。ほとんどの場合、AI は人間がすでに慣れ親しんでいるタスクを処理するため、車輪を再発明する必要はありません。
それはどういう意味ですか?
企業が AI モデルの使用を開始する場合、これらのモデルは企業独自のワークフローと密接に統合される必要があります。たとえば、一部の企業は医療分野や教育分野で高度な大型モデルを使用したいと考えていますが、このプロセスでは多くの困難に遭遇する可能性があります。
各企業のビジネスとプロセスは独自であり、AI が必要とするデータも独自であるため、一般的な大規模なモデルが企業内で真に適用されるのは難しい場合があります。
何をするか?このとき、小さなモデルとアシスタントがいると簡単です。
例えば:
中小企業の会計士は通常、Kingdee、UFIDA、Chanjet などのソフトウェアを使用します。これらのソフトウェアにはすでに大量のデータが保存されています。オペレーターは、元のソフトウェアに大きな変更を加えずに、AI の力を利用してデータをすばやく見つけたり結論を導き出したいだけです。
したがって、AI をビジネス (ToB) シナリオに適用する良い方法は、複雑なビジネス プロセスを多くの小さなタスク、または特定の小さなシナリオに分割し、AI を使用してそれぞれの小さなシナリオを改善することです。
また、マイクロソフトのような企業もオープンAICRM業界のリーダーであるSalesforceだけでなく、投資家も新製品の開発にAIを活用していない。
製品に新機能のラベルを付け続けていますが、実際には、既存のビジネス プロセスや製品機能を支援および強化するために大規模なモデルを使用しています。
言い換えれば、小規模なモデルを、既存のシステムを完全に置き換えるのではなく、より適切に統合して最適化できるアシスタントまたは拡張機能に改良します。
これは、最近多くの AI 企業が PC 側で作成したプラグインに似ています。マウスをそっとスライドするか、ショートカット キーを押すだけで、AI がポップアップして助けてくれます。その中心的な機能は、私たちがより良い意思決定を行えるよう支援することです。
信じられない場合は、ToB 企業が本当に AI に何をしてくれる必要があるのか、考えてみることもできます。
Zhiyuan の調査によると、彼らは主に運営、管理、意思決定、マーケティングにおける意思決定を支援するためにデータを使用しています。では、AI 企業にとって、実用性とコスト効率の両方を実現するにはどうすればよいでしょうか?重要なのは、迅速なレプリケーションを実現し、非常に低コストで複数のシナリオをカバーすることです。
コピーする方法は?
1 つの方法は、ローカル データを呼び出すことができるインテリジェント エージェントに AI をカプセル化することです。これが、頻繁に使用されるローカル テキストを保存することでアシスタントの精度を向上させることができるため、Kimi Chat がキャッシュのコストを削減する理由です。
しかし、ここで疑問があります。精度、多用途性、そして低コストを同時に実現するにはどうすればよいでしょうか?
この点に関して、「高精度」は次のように定義できます。ビジネスが使用可能であり、精度が十分に高い限り、たとえエラーが時々発生したとしても、ユーザーはそれを特定し、その原因を説明することができます。
「低コスト」とは、プロジェクトの初期コストが低く、単一のマシンに展開でき、使用と保守が簡単である必要があることを意味します。現在、多くの大型モデルのハードウェアコストは非常に高くなっており、どれだけの利益が得られるかわからない場合、企業は決して多額の投資をしたくないでしょう。
大規模モデルの利点は、初期の AI アルゴリズムの汎用性の問題を解決できることです。
理論上は 1 つのモデルですべてのシナリオを処理できますが、実際には微調整する必要があります。したがって、「高い汎用性」とは、ツールと自動化を実装できるため、大規模に複製でき、低コストで実装できることと定義します。
1億スケールの大きなモデルは95%以上の精度を達成し、この大きなモデルから小さなモデルを派生させてアシスタントにカプセル化することで、入り口の使用の問題を解決しました。
大手モデル会社が、親モデルのように機能し、企業全体の幅広いニーズをサポートする非常に強力なビッグ モデル ソリューションを持っていると想像してください。
この大規模なモデルは特に強力で、複雑なデータ分析を処理し、非常に正確な洞察を得ることができます。大量のコンピューティング リソースと大規模なデータ処理を必要とする B サイド企業に特に適しています。しかし実際には、すべての B サイド企業がこのような大規模なシステムを必要とするわけではありません。
より多くの中小企業にとっては、より小規模でより焦点を絞ったモデルで十分です。これは、より大きなモデルの「サブモデル」と考えることができます。
これらの小規模モデルは、大規模モデルからコア機能を継承していますが、特定のビジネス ニーズや小規模な動作環境によりよく適合するように最適化および調整されています。
小規模モデルは大規模モデルほど多くの計算能力を必要としませんが、特定のタスクに焦点を当てており、インテリジェントな分析レポートの生成やインテリジェントな分析の実行など、さまざまなニーズに応じて調整できます。
これにより、リソースが限られた中小企業でも AI を活用して作業効率と意思決定の質を向上させることができます。
したがって、小さなモデルは、大きなモデルから抽出されたエッセンスのようなもので、基本的な知識ベースの機能のみが必要です。それを小さなアシスタントにして、ツールに埋め込んで使用することが重要です。
これが自分の論理が正しいことを意味するとは決して考えないでください。 Zhiyuan 氏の調査によれば、AI 製品はすでに B サイド企業に導入されており、TOB の場合、AI アプリケーションのシナリオはエージェントとプラグインになります。
これには、高額なコストを投資する必要がなく、簡単に提供できるという利点もあります。
TOB AIは古い道をたどりません。
小規模モデルが TOB のキーポイントである場合、それらをインテリジェントなエージェントおよびアシスタントにすることが、TOB のラストマイルを繋ぐ重要なリンクとなります。結局のところ、ボトムアップはソフトウェア中心ではなく、人とタスク中心です。