ニュース

大規模モデルのエンタープライズ アプリケーションに関する観察

2024-08-20

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

記事 | Small は大きな起業家パートナーです

今年の 1 月から、上海で大規模モデルのアプリケーション ランディング サロンを毎月開催してきました。ここで私の観察の一部を共有したいと思います。

過去 1 年間の発展について:

認知が揃い、すべてが開花し、わずかな利益が期待でき、ヒットを期待しています。

年初の会議でのスピーチの中には、「当社には人工知能の経験が5年ある」などと意図的か非意図的にLLMと以前のAIを混ぜて話すものもあった。今では、どのシーンが以前の AI テクノロジーを使用しているのか、どのモデルが使用されているのかを率直に知ることができ、どのシーンがそのモデルに基づいているのか、どのシーンが微調整または二次トレーニングを受けているのかも明確に説明されます。これは良い現象であり、誰もがより直接的に議論されるべき領域に入ることを可能にします。

同時に、コンテンツ生成と特定の作業シナリオの組み合わせ、LLM テクノロジーを使用した新しい RPA 製品、人事面接、選考、職業訓練の分野など、LLM が実際に使用されるシナリオもますます増えています。 . 本当に実現します。

すでに実施されているプロジェクトについて、一部の当事者 A は LLM の成果を評価するための比較的定量的なデータを持っており、一部の当事者 B は契約を締結した、またはプロジェクトの支払いを受け取ったと言い始めています。当事者 B が請け負うプロジェクトのほとんどは数十万規模であるようですが、時には数百万規模のプロジェクトもありますが、この方向からの収入はまだ会社の収入の主な支えになっていません。

今年の初めに誰かが質問していましたが、この質問は今でも尋ねられています。つまり、Big Model 2B にはどのような人気のあるソフトウェアがまだ存在していないようです。おそらく長い間ではないでしょうか?ここ数年で 2B ソフトウェアで最大のヒット作は何ですか?オフィスオートメーション?財務ERP? CRM?ディントークフェイシュ?これからも楽しみにしていきましょう

製品形態について:

チャット インターフェイス、従来のインターフェイス、従来の + チャット = Copilot、他には何がありますか?

大型モデルの 2B ソフトウェアについては、誰もがさまざまな期待を抱いており、一部の人は悲観的ですが、ほとんどの人は過度に楽観的であるように見えます。この期待を具体化し、企業内の全員がこの新しい大型モデルのドライバーについてどう思うか尋ねてみましょう。

大型モデルが初めて人々の視界に入ったのは、チャットのインターフェースでした。 Gpt3.0 は、今日のものと非常によく似た機能をすでに実証していますが、チャットがなく API のみであるため、より多くの人々の注目を集めることができず、その輪を壊すこともできませんでした。チャットと検索のインターフェースは似ていますが、一度使ってみると本質的には違うものだと感じられるでしょう。チャットをインターフェースとして使用し、社内の誰もが利用できる新世代の企業情報システム インフラストラクチャは、オフィス ソフトウェア、電子メール、企業向け WeChat/DingTalk/Feishu と同様に、すべての企業で普及すると信じる理由があります。 。 Colingo.ai は小規模大企業の起業家パートナーによって運営されており、この市場に焦点を当てています。

従来のエンタープライズ ソフトウェアでは、一部のバックエンドでさまざまな AI アルゴリズムが使用され、問題をより適切に解決するためにそれらの一部を大規模なモデルに置き換えたり、以前はアルゴリズムで処理できなかったものを処理するために大規模なモデルを使用したりしていましたが、これらのことは静かに行われてきました。エンドユーザーの認知度は比較的低いです。こうしたシナリオは今後も増えていくだろうが、ヒットソフトを生み出すのは容易ではないかもしれない。

チャット インターフェイスと従来の GUI ソフトウェアを組み合わせたものが Copilot です。 OpenAI の初期の密接なパートナーとして、同社はオフィス用 Copilot を立ち上げ、ユーザーがチャット インターフェイスを通じて従来のソフトウェアをより適切に使用できるようにしました。これもしばらくの間、主要なインターフェイス形式の 1 つになるようです。

新しいインターフェースフォームはありますか?デジタル ワーカーは他のワーカーとどのように協力するのでしょうか?この分野にはまだ議論の余地がたくさんあります。

2B ソフトウェア サービス プロバイダーの技術ルートについて:

  • トップ3:アレンジメント、ラグ、エージェント
  • 次の 3 つのパス: コンピューティング能力、インフラストラクチャ、トレーニング、微調整

知識が多すぎると負担になるという現象は、「大きなモデルの考え方」の問題は言うまでもなく、大きなモデルを適用するプロセスからもわかります。さまざまなソフトウェア サービス プロバイダーによるモデル。

上の 3 つの道路と下の 3 つの道路の違いは、数個の GPU だけではなく、人材、作業プロセス、配信サイクル、反復速度、および関連する全体的な包括的なコストも同じ桁ではありません。

多くの企業の技術部門の最初の反応は、まずモデルをトレーニングし、カードを購入し、人材を採用することです。それがCEOにフィードバックされると泥沼にはまってしまう可能性がありますが、これは非常に重いものであり、多額の投資が必要になります。社内では進歩がなく、対外的にはお客様から「大型機種で何ができるの?」と常に言われ続けるジレンマに陥っています。

上位 3 分の 1 のパスは、大規模モデルのアプリケーションに関連するほとんどの問題を解決できます。アプリケーション企業が下位 3 分の 1 のパスに参入する場合、少なくとも上位 3 分の 1 のパスを完了し、下位 3 分の 1 のパスが本当に大幅に効果を向上させることができることを確認してから参入する必要があります。

大規模モデルのアプリケーション開発では「トレーニング」という言葉は許されませんが、大げさな手法かもしれませんが、現段階では、ほとんどのアプリケーション開発会社にとって、上の 3 つのパスをターゲットにすることが成果を上げるための最も早い方法かもしれません。

私が多くの企業と議論してきた具体的な質問が 2 つありますので、皆さんと共有したいと思います。

大規模モデル アプリケーションを開始する顧客の選択について:

「先進的な企業がFeishuを使用している」場合、サービスプロバイダーとしては、「大きなモデル思考」を持っている当事者を見つける必要があります。いいえ、始める前に、そのようなユーザーを避けましょう。

どのモデルを選択するか:

使用できる最高のモデルから始めてください。それができない場合は、この世代のモデルでは十分ではないので、待ってください。

それが完了したら、最も現実的なモデルを使用して調整し、調整された範囲が許容できる場合は続行し、許容できない場合はそのまま待ちます。

モデルのコストを考慮しないでください。現在の価格は 6 か月前とは比べものになりません。6 か月後の機能は間違いなく今日よりも優れています。大規模なモデル アプリケーションを作成するには、「大規模モデルのムーアの法則」に対する基本的な信念を持たなければなりません。現在のモデルの最適化に執着するのではなく、時間を受け入れて味方になることをお勧めします。

機会の判断を要約すると、次のようになります。

大型モデル 2B アプリケーションの市場には、新しいシナリオ、新しい形式、新しい企業、古いシナリオ、新しいソリューション、新旧の PK があります。

新規事業にとってチャンスであることは間違いないが、製品形態はまだ成熟には程遠い。 iPhone は 2007 年半ばにリリースされました。2008 年末に覚えているモバイル アプリケーションは何ですか? 2022年末の大型モデルの登場まであと1年半しかない。もちろん、企業は存続しなければなりませんが、存続することを目的とすることはできません。自分自身または他の人が模索する必要があるチャンスがまだたくさんあります。

2B サービスは最終的にユーザーの問題を解決する必要があり、ユーザーのニーズを最もよく知っているのは、さまざまな業界の現在のソフトウェア サービス プロバイダーにもチャンスがあります。アプリケーション分野では、大規模モデル時代の競争により技術的障壁が大幅に弱まり、ユーザーのニーズを大規模モデルの処理に適した問題に変換する能力が最も重要な競争ポイントとなっており、これは間違いなく同社の業界ソフトウェアサービスの強みです。 。

業界にどれだけ長く携わっていても、異動は必ず起こります。業界で最初であっても最後であっても、この競争で排除される可能性があり、残りのポジションは新しく参入した大型モデルのネイティブ企業に残されます。

決戦は今年の秋。

最初の再注文は今秋に行われる予定です。ほとんどの企業は2023年には大型モデル専用の予算を持たず、個別の調達で他のITプロジェクトの予算を流用することになる。 2024 年には大規模モデルに関連する POC 予算がいくつかあり、2025 年の IT 予算の多くは大規模モデルに関連するはずです。この秋、貴社のソリューションと企業のビジョンを A 党で実現できるかどうかで、2025 年にどれだけのプロジェクトを獲得できるか、そして最初の順位争いでの順位が決まります。