ニュース

最近、国産 AAA ゲームの傑作「Black Myth: Wukong」がインターネット上で人気を博し、発売後すぐに世界的な注目を集めました。 National Games のベストセラー リストの統計によると、わずか 1 日で、複数のプラットフォームでのゲームの合計販売数は 450 万本を超え、総売上高は 15 億元を超えました。同時に、そのゲームの人気に関係した「被害者」も出ています。

「Black Myth: Wukong」が Steam でロック解除された日、有名なゲームキャスターがゲームのライブプレイ中に 3D めまいに悩まされました。その結果、このゲームは Weibo のホット検索リストで 1 位になり、冗談めかして「Black Myth」と呼ばれるようになりました。 ：悟空」と多くのネチズンが「世界初の犠牲者」と評価した。そして 8 月 21 日、ゲームの別の「被害者」が現れました。彼の関連した経験は実際に次のようなものでした。マイクロソフト関連している。

Microsoft の Bing 検索で「Black Myth Wukong Customer Service」と入力すると、Jifeng.com 従業員の個人携帯電話番号が誤って表示されますが、これは正式なカスタマー サービス番号ではありません。さらに、中国ビジネスニュース著作権局の連絡先番号と電子メールアドレスを含む、2 つの間違った電話番号が顧客サービスとしてマークされていました。

電話番号が流出した人物は、5時間で20件近くの電話を受けたと述べた。このインシデントの主な原因は Microsoft Bing であったと報告されています 人工知能 アシスタントが誤って情報を入手したため、個人情報が漏洩しました。その後、該当の記事は削除され、被害者は苦情やその他のフィードバックを提出しましたが、間違った「黒神話悟空カスタマーサービス」の情報が依然として表示されました。 Bing 検索のホームページ。現在、検索状況から判断して、Bing チームは誤った情報を修正しました。

世界で 2 番目に大きい検索エンジンである Microsoft Bing は、36 の国と地域をカバーし、6 億人を超えるユーザーがいます。 2023 年 2 月 7 日、マイクロソフトは次のことを発表しました。 チャットGPT 新しいバージョンの Bing (New Bing) に統合され、統合された新しいバージョンの Bing はオープンAI AIモデルGPT 3.5のアップグレード版GPT-4。このインシデントは、AI 検索エンジンが情報の取得と処理において特定の欠陥を抱えていることを示している可能性があります。

先月、Microsoft は Bing の大幅なアップデートを発表し、検索エンジンが包括的に変革され、AI によって生成された回答が優先されるようになります。つまり、ユーザーが検索クエリを入力すると、AI が生成したマスター回答が結果ページにポップアップ表示され、結果を取得するために使用されたすべての厳選された情報ソースの詳細が表示されます。もちろん、Bing 検索ページには従来の検索結果も表示されますが、それらは AI で生成された素材の隣に (右側の小さなペインに) 表示されます。

この変更について、Microsoft は公式ブログ投稿で次のように説明しました。「この新しいエクスペリエンスは、大/小言語モデル (法学修士 SLM の強力な機能と組み合わせます)。検索クエリを理解し、何百万もの情報ソースを取得し、コンテンツを動的に照合し、AI が生成した新しいレイアウトで検索結果を表示して、ユーザーのクエリの意図をより効果的に満たします。 」

Microsoft は、Bing の生成検索に関するブログ投稿の中で、概要機能の概要に加えて、ユーザーに表示される回答を作成するために使用される大規模な言語モデルと小規模な言語モデルの主要なソース リンクも提供する予定です。 AI が結果を生成すると、結果エントリの通常のリストが作成されます。

たとえば、「ゾウはどのくらい生きますか?」というクエリの場合、回答の概要本文にはゾウの寿命に影響を与えるビデオもリストされます。ユーザーが「スパゲッティ ウエスタンとは何ですか?」と検索すると、Bing の生成検索は次のようになります。この映画サブジャンルの歴史、起源、古典に関する情報と、この情報へのリンクと出典を表示します。

当時、Microsoftは、この調整は少数のBingユーザーにのみ展開されたが、近い将来段階的に拡大されるはずだと述べた。 Microsoft はまた、ブログ投稿の中で、Web サイトと読者に対する AI 検索の影響を引き続き評価すると述べています。業界関係者の中には、こうなると心配する人もいる。AIボットによってスクレイピングされたコンテンツがチャット ウィンドウや検索ページに直接表示されれば、無料でコンテンツを作成する Web サイトは最終的に廃業することになります。

これに対してマイクロソフトは、この新しい AI 検索エクスペリエンスはこの問題を念頭に置いてゼロから構築されており、Web サイトのクリック数が従来の検索と同じように維持されていると述べました。これが真実かどうかは時間が経てば分かるでしょう。さらに、Bingは結果ページでAI生成機能をオフにし、従来の検索スニペットのみを表示することを選択できることがわかりました。

さて、AI が生成した結果を検索ページに追加しているブラウザ企業は Microsoft だけではありません。 Microsoft が Bing 用のツールをさらに発表するにつれて、検索にさらに多くの AI 機能を導入する競争が徐々に激化しています。

しかし、数え切れないほどの実例が、AI 検索は私たちが考えているほど信頼性も正確でもないことを証明しています。AI 検索は間違いを犯す可能性があり、場合によっては、生成された結果に間違った情報や提案が表示されることさえあります。

今年の初めに、グーグルAI チャットボットから直接質問への回答を求めたいユーザーを維持するために、AI Overview と呼ばれる同様のツールが開始されました。しかし、このツールは発売以来、ピザにチーズをくっつけるために接着剤を追加することを提案したり、「地質学者は毎日少なくとも1つの小さな石を食べることを推奨しています」と答えたりするなど、いくつかのジョークも作成しました。

AI モードの Arc Search ブラウザは、「切断された足の指は、最終的には再生する」などと不適切な医療アドバイスを行うと誓約しています。

人工知能検索エンジン Genspark は、人を殺すために使用される可能性のあるいくつかの武器をユーザーに推奨します。困惑 彼らは一部のメディアが書いたニュース記事を盗用したが、出典や著作権の所有権は示さなかった。

さらに、AI によって生成された概要は、その概要が派生した Web サイトへのトラフィックを共食いする可能性があります。ある調査によると、AI の抜粋により、記事リンクが強調されなくなるため、コンテンツ パブリッシャーのトラフィックが約 25% 削減される可能性があります。

これらの新興 AI 検索エンジンは、大量のテキストを迅速に生成し、説得力のある効果で人間のテキストを模倣する能力で人気がありますが、舞台裏では AI の「幻想」もこれらのチャットボットに影響を与え、チャットボットを次のレベルの主要な抵抗。残念ながら、一部の専門家は、この状況は決して解決されない可能性があると警告しています。

AP通信が発行した新しいレポートは、大規模言語モデル（LLM）の「ナンセンス」の問題は、多くのテクノロジー創設者やAI支持者が主張するほど簡単に解決できない可能性があることを強調している。ワシントン大学計算言語学研究所の言語学教授エミリー・ベンダー氏は、「幻覚問題はまったく解決不可能であり、技術と提案されているユースケースとの不一致によって避けられない結果である」と悲観的な見方を示した。

Jasper AI の社長、シェーン・オーリック氏によると、適切な「でたらめ」が悪いことではない状況もあるそうです。オーリック氏は、「幻想は実際にさらなる利益をもたらす可能性があります。顧客は常にインスピレーションを与えてくれたことに感謝しています。根本的な原因は、AIがさまざまな偶然によって顧客が思いつかなかったストーリーや視点を出力する可能性があることです。」と説明しました。

同様に、AI 錯視は、Dall-E や Midjourney などのモデルもこの想像力を利用して、目を引く素晴らしい画像を生成します。言い換えれば、幻覚は、テキスト生成の分野に限って、特にニュース報道などの正確性が非常に重視されるシナリオにおいて、ユーザーを本当に悩ませる問題となります。

ベンダー氏は、「大規模な言語モデルの基本原則は、すべての機能の根幹であるコンテンツを「構成する」ことです。しかし、出力されるテキストがたまたま私たちのプロンプトと正確に一致するとき、その力は物事を構成することから得られるため、言葉で言えば、この状況 むしろ、それは偶然の問題であり、たとえ微調整されたモデルがほとんどの場合正しいとしても、依然として不具合を完全に免れることはできず、将来の幻想はより困難なぼやけの中に存在する可能性があります。テキストの読者が気づくように。」

大規模言語モデルは、並外れた機能を実現できる強力なツールですが、企業、さらにはテクノロジー業界全体は、何かが強力だからといって、それが有用なツールとはみなされないことを認識する必要があります。ハンマードリルは舗装路やアスファルトを突き破るのに最適ですが、考古学の発掘現場にハンマードリルを持ち込もうとする人は誰もいません。

ベンダー氏が指摘したように、大規模な言語モデルは最初にトレーニングを開始した瞬間、与えられた手がかり単語に基づいてシーケンス内の次の単語を予測しようとします。トレーニング データ内の各単語には重みまたはパーセンテージが与えられ、特定のコンテキストでの特定の単語の以前の出現を追跡します。しかし、これらの最初の単語自体には、正確な出力を保証するのに十分な具体的な意味や重要なコンテキストがありません。

言い換えれば、これらの大きな言語モデルは単に優れた模倣者にすぎず、実際には何を言っているのか理解していないため、それらを信頼しすぎるとユーザーがトラブルに巻き込まれるだけです。この弱点は大規模な言語モデルに固有のものであり、「幻想」は今後の反復で徐々に軽減される可能性がありますが、問題自体が真に修正されることは決してない可能性があります。

参考リンク:

https://www.engadget.com/microsoft-is-adding-ai-powered-summaries-to- 必ڼ -search-results-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ 必于 -has-been-revamped-to-prioritize-ai-search-results-whether-you-like-it-or-not

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/