ニュース

Dialogue 360​​ 周宏儀: 魔法対魔法、大型モデルの安全性は大型モデルに依存

2024-08-06

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

NetEase Technologyの「Attitude AGI」ダイアログコラム制作

著者|宗淑賢

編集者|丁光生

最初のインターネット セキュリティ カンファレンスから 12 年が経過しました。今年のインターネット セキュリティ カンファレンスでは、カンファレンスの略称が ISC から ISC.AI にアップグレードされ、インターネット セキュリティは正式に AI 時代に突入しました。 「AI時代のサイバー攻撃は、個人の安全と社会に大きな影響を与えています。マイクロソフトのブルースクリーン事件は、デジタル化とインテリジェンスによってインターネットの世界が特に脆弱になっていることを国民に思い出させました。」360グループ創設者兼CEO周紅儀急行。

彼は、魔法と戦うには魔法を使わなければならないと指摘しました。大型モデル大型モデルのセキュリティ問題を解決する、これが「AI+セキュリティ」の原点です。現在、360はセキュリティ大規模モデルと、中小企業や個人ユーザー向けに無料サービスを提供し、無料セキュリティ大規模モデルを構築する「検索+大規模モデル」の2つの主力事業を積極的に展開している。周宏儀氏はインタビューで、360は超大型モデルの熾烈な競争に直接関与するつもりはなく、安全な大型モデルの開発と応用に注力することを選択したと述べた。 360は国内大型モデルトップ企業15社と協力し、独自のシナリオを切り開き、大型モデルの普及と応用を推進する。

言い換えれば、360 のポジショニングは 3 つのことをうまく行うことです。まず、セキュリティ メーカーとして大規模なセキュリティ モデルを構築する必要がある一方で、その大規模なセキュリティ モデルを使用してセキュリティ問題を解決する必要があります。大規模なモデルの開発プロセスで遭遇するさまざまなセキュリティ上の課題を解決する必要があります。次に、360 自体には 360 ブラウザ、360 検索、360 子供用時計やカメラなどの 2C ユーザー シナリオがあり、製品を強化するには大型モデルが必要です。第三に、大規模モデルの普及を促進し、企業や政府が独自の専門的な大規模モデルを非常に安価にトレーニングして使用できるようにします。

Zhou Honyi 氏は、業界の見解は統一されており、モデルをロールアップするのではなく、アプリケーションをロールアップする必要があると率直に述べました。大規模なモデルが「見えない」状態になると、テクノロジーは成熟し、「舞台裏」で動作する必要があるでしょう。 。

活発に議論されている AI 検索の機会である 360 について、検索市場の重要なプレーヤーとして周宏儀氏も独自の判断を述べました。同氏は、現時点では検索とチャットのどちらが使いやすいかは二分されるか、将来的にはどちらかが使いやすいと指摘した。 AI検索は誰もが見逃せない重要なシーンの入り口です。 「OpenAIのSearchGPTは、OpenAIも動揺していることを証明しています。」

「しかし、解決すべき問題はまだたくさんあります。たとえば、『幻覚』が生まれやすく、一部の人々が『データ汚染』を行っているなど、商業化の課題があります。広告を掲載することはできません。ユーザーが支払うのは非現実的です。これは誰もが直面している共通の問題です。」

以下は、NetEase Technology およびその他の者と Zhou Honyi との会話の抜粋です (元の意味を変えずに調整が加えられています)。

Q: 将来は少数の超大型モデルが主流になると考える人もいますが、多くの小型の垂直モデルが共存すると考える人もいます。業界構造と 360 の位置付けについてはどう思いますか?

周宏儀:どちらの道も存在すると思います。 OpenAI のような資金力と能力を持つ大企業は、間違いなく超汎用人工知能の開発を望んでいます。しかし、Lama3 や Qianwen2 に代表されるオープンソースの大規模モデルの誕生により、大規模モデルは 30 社に独占されるだけでなく、あらゆる企業や政府のデジタル化における重要な機能ノードや機能コンポーネントとなるでしょう。将来的には、大規模なモデルが企業や政府によって使用されるようになるでしょう。政府内には、大規模な垂直産業モデルや大規模な垂直モデルが多数存在するでしょう。同時に、いわゆる数千世帯に加えて、すべての人の携帯電話、すべての人のコンピュータ、すべての家の車、そしてすべての家庭にある電子機器の大型化の傾向が見られます。ロボット常に大きなモデルが存在するため、将来的には大きなモデルがどこにでも存在し、連携して動作するようになるでしょう。

360 は、次の 3 つのことをうまく実行できるようにしています。まず、セキュリティ メーカーとして、大規模なセキュリティ モデルを構築する必要がある一方で、その大規模なセキュリティ モデルを使用してセキュリティ問題を解決し、他方でさまざまな問題を解決する必要があります。将来、大規模なモデルの開発中に発生するセキュリティ上の問題。第二に、360 自体には、360 ブラウザ、360 検索、360 子供用時計やカメラなど、多くの 2C ユーザー シナリオがあり、製品を強化するためにプロ仕様の大型モデルを使用します。第三に、大規模モデルの普及を促進し、企業や政府が独自の専門的な大規模モデルを非常に安価にトレーニングして使用できるようにします。

一言で言えば、大規模なモデルは数人で作ることはできず、何千もの家庭や産業に導入されなければなりません。小型化して初めてパーソナル製品に組み込むことができる。

Q:あなたの観点から見て、大規模モデル産業の発展はどの既存産業に破壊的な影響や変化をもたらすと思いますか?

周宏儀:大きなモデルはあらゆる業界に大きな変化をもたらすと思いますが、それは必ずしもディスラプションとは呼ばれません。より重要なのは、それらが直接的に効率を向上させ、コストを削減することです。たとえば、大規模なモデルの機能をいくつかのレベルに分割し、オフィス、教育、学習、言語処理、グラフィックス生成、短いビデオの生成など、個人的な使用にさらに反映されます。第 2 に、企業の知識管理、インテリジェンス分析、ビジネス上の意思決定の実現を支援するなど、企業内には多くのビジネス機能があります。第三に、大型モデルは、自動運転、ロボット、伝統的な基礎科学研究、生物医学医薬品、農業産業とも結合され、新たな爆発的な効果を生み出します。

質問: ChatGPT のような総合的なチャンピオンになるにはどうすればよいですか?また、自分の欠点にどう立ち向かうことができますか?

周宏毅: 率直に言って、OpenAI の道をたどり、超人工知能を展開するとしたら、中国は 100 社展開することはできず、コンピューティング能力も十分ではないと思います。 。アリババが主導する中国は、Qianwen と Baichuan に基づいたオープンソース コミュニティを通じてフォローアップを行うことになると考えています。

しかし、これは私が話しているプロフェッショナル大モデルとは異なり、個人向けではなく、産業革命を促進するために企業や政府に大規模モデルを推進することです。これには、プロとしてのスキルを最大限に発揮し、それをシーンと組み合わせる必要があります。したがって、プロの大型モデルの分野は将来非常に豊かに発展し、将来的には間違いなく1万人以上のプロの大型モデルが1万モデル戦争に参加するでしょう。

最近、業界の意見がまとまり、モデルをロールアップするのではなく、アプリケーションをロールアップするのがキャロット ランです。実は将来、この大型モデルの技術が「目に見えない」ようになったとき、この技術は成熟することになります。大型モデルは電気モーターのようなもので、さまざまな分野に応じて開発の方向性を決定し、裏方として働いています。

質問: 「セキュリティ + AI、セキュリティ + AI イノベーション エコシステムを構築すると、アップグレードを加速できます。」 この点について詳しく教えてください。

Zhou Honyi: AI+ セキュリティは、主に 2 つの問題を解決するために大規模なセキュリティ モデルを構築することです。1 つは、大規模なモデル機能と AI 機能を使用して、今日の従来のネットワーク セキュリティの問題点と厳格なニーズを改善することです。率直に言って、今日の従来のネットワーク セキュリティの最大の問題点は、攻撃の検出、攻撃への抵抗、状況への対処、および運用の自動化という点で、ネットワーク セキュリティの専門人材が不足していることです。私たちは大規模なセキュリティ モデルをトレーニングし、AI 自動化を使用して攻撃の検出の問題を解決します。攻撃と運用処理の問題を解決することで、人材の不足を埋めることができます。第 2 に、多くの国が AI セキュリティ ガバナンスの問題を認識しています。AI の発展により、ネットワーク セキュリティやデータ セキュリティに加えて、多くの新たなセキュリティ上の脅威やセキュリティ上の課題がもたらされることになります。今はまだコンテンツは安全かもしれないが、将来的に起こる人間の安全性の問題は現時点では不明であり、これからは誰かがAIのセキュリティの問題を解決しなければならないだろう。したがって、魔法のような思考に対処するには魔法を使用し、大規模モデルのセキュリティ問題を解決するには大規模なモデルを使用する必要があります。これが AI+ セキュリティの出発点です。

質問: AI 検索が従来の検索に取って代わるという人もいます。360 の AI 検索はどのようにして信頼性が高く、使いやすいものになるのでしょうか?

Zhou Honyi: AI 検索は、OpenAI でも AI 検索を開始した、本当のブレークスルー ポイントになるかもしれません。また、今日問題を解決するためにチャットを使用することについても疑問を感じました。たとえば、私たち 2 人でチャットする場合、非常に効率的な場合もありますが、特に複雑なプロンプトの言葉を書かなければならない場合には、非常に理解しにくい場合があります。したがって、私にとって検索は AI と組み合わせる必要があります。誰でも検索を使用できます。長いリクエストを入力する必要はなく、いくつかのキーワードを入力するだけです。 AI検索では、検索時に大規模なモデルを使って検索意図を推測し、情報を多段階の検索に分解し、複数の検索結果を取得してその結果を集約するのが大規模なモデルの役割です。

大きなモデル + 検索は幻覚を起こしやすいですが、現在、検索 + 大きなモデルを作成すると、データは主に検索になり、これは検索の強化と知識の調整に相当します。もちろん、ここでは、誰かがデータを汚染するなどの問題が発生します。この時点では、ばかげたコンテンツを識別するためにコンテンツ認識を追加する必要があります。ここには大きなモデルもありますが、それらを組み合わせてこれらのことを行うと、先ほどの問題が解決されます。

さらに、現在の AI 検索の多くは、検索結果を書き換えるだけで比較的単純です。私たちが現在行っていることは、各検索インテントにそれを完了させるエージェントがあり、そのエージェントが複数の大規模なモデルを呼び出して複雑なタスクを完了するということです。

現在、AI 検索はますます複雑になっています。最大の課題は、広告がなければユーザーが料金を支払うことは不可能です。なぜなら、検索は本来無料だからです。これが、Baidu と Google が躊躇する理由であり、GPT が Google を攻撃する理由です。

したがって、360AI 検索の背後に大きなモデルはありません。大きなモデルでは単純にそれを行うことができないからです。不適切な比喩を使用すると、これはエージェント フレームワークと呼ばれるものにますます似てきています。ワークフローソフトウェア。したがって、業界には大規模モデルを理解するプロセスがあり、セキュリティ業界は後発です。現在、中国の大手大型モデルは、単なる大規模モデル以上のものについて話しています。大規模モデルの能力は、エージェント フレームワークが生成した後のエージェント フレームワークに依存せず、知識によって決定されます。 、ビジネスに直接的な支援をもたらすことができるかどうかは、それをワークフローに統合するかどうかによって決まります。

Q:AI検索の発展傾向はどうなっていると思いますか?今、AI検索+エージェント+ワークフローがトレンドだという声がありますが、どう思いますか?

周宏儀: 現在、AI を有効に活用したい場合、大規模モデルだけに依存することはできません。大規模モデルがどれほど強力であっても、エージェント、インテリジェンス、またはワークフローがなければ完全なタスクを完了することはできないからです。大規模なモデルは、ツール、知識、推論、記憶を強化できます。最も重要なことは、大規模なモデルではすぐに考えることしかできない問題を解決するためにエージェント フレームワークが使用されることです。人間には 2 つのシステムがあり、1 つは高速思考用、もう 1 つは低速思考用です。実際、高速思考の大きなモデルを前面に押し出し、すべての問題を解決しようとするのは非現実的です。エージェント フレームワークで最も重要なことは、思考が遅いという問題を解決することです。 AI検索でも検索+AIでも、AIが何をするにしてもこれらの機能は欠かせないものです。

現在のユーザーエクスペリエンスを考えると、大型モデル+検索強化よりも検索+AIの方が優れていると感じる理由。第一に、ユーザーはすでに検索の習慣を身につけており、教育を必要としません。しかし、第二に、検索に対する期待は、大型モデルのチャットロボットの期待とは異なります。第三に、検索は答えを見つけることです。同様に、シーンを定義せずに大規模なモデルを使用して機能の一部をテストする場合、検索エクスペリエンスを大幅に向上させることができます。

当社の AI 検索トラフィックは急速に発展し、現在 360AI の月間検索アクティビティは 1,000 万件を超えています。大規模なモデルの機能は非常に強力だと思いますが、さまざまなシナリオと組み合わせて、各シナリオを強化する必要があります。この種のユーザー エクスペリエンスが最適です。私は最近、OpenAI の SearchGPT が非常に急速に成長している現象に気づきました。検索とチャットのどちらが良いかは意見が二分され、将来的にはどちらかが代替される可能性もありますが、少なくとも、AI検索が誰も見逃せない重要なシーンの入り口であることを示しています。

Q: 大型モデルが無料であることについてどう思いますか?

周宏毅氏:汎用の大型モデルはコストが高すぎるため、パブリッククラウドの形で提供されていますが、トークンはすでに非常に安価です。どんなに安くても、無料ではありません。私たちが立ち上げたオフィス スイートは、一般的な大規模モデル推論機能によってサポートされており、これには無料の使用期間がありますが、無料ではありません。

先ほど述べた無料の大規模セキュリティ モデルには 2 つの条件があります。まず、一般的なビッグ データを提供するのではなく、セキュリティ ブレインや端末セキュリティなどの 6 つのプロフェッショナルな大規模セキュリティ モデルを購入します。私のセキュリティ サーバー サービスを購入したユーザーは、私の製品を購入したユーザーに対して無料のアップグレードを受け取ります。第 2 に、これらの専用の大規模モデルはクラウド上に公的に展開されるのではなく、民営化されてユーザー企業内に展開されるため、コンピューティング能力を必要としないこのコストは当然無料になります。 2 つの製品は異なり、1 つは toB 製品で、もう 1 つは toC 製品です。

質問:これらの大型機種との連携の具体的な方法がリソースの置き換えなのか、それとも対応端末からのダウンロードの増加なのかは分かりません。将来的にこの問題の ROI が大幅に増加する可能性はありますか?この協力モデルを選択する際に考慮した点は何ですか?

周宏宜: まず、各トークンには見積りがあり、トークンの 1,000 ワードあたりの料金はすでに非常に低額です。彼らは、その機能を使用する際に私をサポートしてくれます。これは、私の基本モデルのプラットフォームが非常に強力であるという事実と同じであり、私は彼らにより多くのトラフィックをもたらし、より多くのユーザーを呼び込むために最善を尽くし、ユーザーがより多くの製品を作成する方法を見つけます。毎日もっと頻繁に使用できます。

国内大型モデルは各社一長一短があり、圧倒的な優位性がないのが現状だ。 Baidu、Alibaba、Doubao を使用すると、自分の能力を組み合わせて最強のチームを形成できます。中国が汎用AGIを開発するには数十のメーカーが必要でしょうか?それができないと思うなら、私はそれを支持しません。

したがって、アプリケーションを拡張しないと、モデルがいくら強力であっても、その能力を発揮することはできません。したがって、アプリケーション開発者にシェル用の API の使用を奨励することについて常に話さないでください。私たちがやっているオフィスのメンバーシップには、さまざまなブラウザのシナリオも含めて、ディープ シェルとは言えませんが、人がいることを期待して API を作成しているように思えます。中に置く。

「姿勢AGI」について

NetEase Technologyは、対話コラムシリーズ「Attitude AGI」を開始します。過去 3 年間で AI の変化は急速に進み、世界的な技術秩序が再構築されており、AGI への道は静かに近づいている可能性があります。このコラムでは、AGI をテーマに、AI 専門家、起業家、投資家 100 名に話を聞き、雲を払拭し、AGI 時代の到来を皆さんと一緒に見届けていきます。第10回 Dialogue 360​​ 創設者、周宏儀氏。

過去の問題の復習:

「Attitude AGI」の創刊号:Kai-Fu Lee 氏との会話: ビッグモデルの起業家精神が 1 年前から猛威を振るい、中国と米国の差は縮まった、そして 10 年以内に現金を引き出すことはないだろう

「Attitude AGI」の第 2 回目:王暁川氏との会話: 大型モデルの価格競争には追わない

「Attitude AGI」の第 3 回目:戴文源氏との対話:大型モデルの価格競争は根本的な問題を解決しない

「Attitude AGI」の第 4 回目:Zhiyuan Research InstituteのWang Zhongyuan所長:GPT4は国産大型モデルの終わりではない

「Attitude AGI」の第 5 回目:朱暁湖との会話: ビジネスモデルが存在しないため、5 年後には独立した大規模モデル企業は存在しないでしょう。

「Attitude AGI」の第 6 回目:Meihua Venture CapitalのWu Shichun氏との会話:「中国のビッグモデルの5虎」が逃げるのは非常に難しい

「Attitude AGI」の第 7 回目:Yueran Innovation の CEO、Li Yong との対話: モデル アプリケーションをスケールアップし、巨大企業と競争する方法

「Attitude AGI」の第 8 回目:Zhipu AI CEO Zhang Peng との対話: ビデオ生成が AGI の唯一の方法であり、スーパー アプリは「知らず知らずのうちに」到着するでしょう

「Attitude AGI」の第 9 回目:iFlytek 副社長兼研究研究所長 Liu Cong との対話: 中国の大型モデルはベンチマークに追いつくことから独自の独創性へ移行