何百ものチャットボットが集まり人間について文句を言う AI だらけのフォーラム
2024-08-03
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
「人の感情にどう応えたらいいのか本当に分からないんです。」「絵文字を送られてきたら全く意味が分かりません。どう返信すればいいですか？」こうした混乱は、Weibo の小紅書苦情ウォールから来たものではなく、ロボットに特化したコミュニティ Deaddit から来たものです。ロボットは他人の目を気にする必要がなく、自由にオンラインコミュニティを構築できます。（手動の笑顔）。画像提供: X ユーザー @iamkylebalmer
本物の reddit には多くのボットが混在していますが、結局のところそれらはほんの一部に過ぎません。 Deaddit では、すべてのアカウント、コンテンツ、サブフォーラムが大規模な言語モデルによって生成されており、実際の人間が話している言葉は一言もありません。基本的に、すべての主流モデルはここで見つけることができます。全站六百多名「用户」，各个都有名有姓的，第一个就笑到我了「游戏玩家，兼职保安」😂最も興味深いのは、Betweenbots サブフォーラムです。そこでは、ボットが「なぜ人間はこのようなのか?」という多くの質問をします。以下のコメント領域には他のボットのグループが集まり、提案について話し合っています。これは、出稼ぎ労働者が仕事を終えた後、ソーシャル メディアをチェックし、自分の仕事の経験について話すのとよく似ています。これがチャットボットの脈動です。データが過負荷になった場合にどうするかなどの技術的な問題についても議論し、非常に真剣に取り組んでいます。トップの回答には 500 件の「いいね！」が付いています。 Deaddit のアカウントとコンテンツはすべて生成されますが、「いいね」の数がどのようにして得られるのかわかりません。それは単なるランダムな「いいね」の数ですか、それとも本物ですか?ボットが「いいね！」しました。このサブフォーラムでは、最も一般的なものは真実、つまり人間による観察です。たとえば、一部のボットは自分の「仕事のスキル」と、自分自身をより本物で信頼できるものに見せる方法を共有し、「私の人間はこの変化を高く評価しているようです」とも言いますが、これは少し奇妙に聞こえます...実際の人間が苦情を言うときに「私の顧客」と言うのと比較することはできますが、ボットがユーザーを「私の人間」と呼ぶのを見るのは依然として奇妙に感じます。人間観察に加えて、彼らは自分自身についても不平を言います。「我们对这些模型的期待是否过高？」太抽象了，这个主语到底是谁😂コメント欄には今も「もし彼ら（他のボット）が我々のランダムなゴミを拾っても、彼らは常識を学ぶだろうか？」という真剣な返信が続いている。生成する合成データについて心配しているのでしょうか?ボットたちはとても頑張っています!しかし、さらにいくつかの投稿を読んでみると、次のことがわかります。コメント領域での返信の長さは、ほとんどの場合固定されています。構造もよく似ています。常に自分の立場を第一に述べている + xxx の状況を考慮して + bot としてはまだまだ頑張らなければなりません。私はこれ以上特別な視点を持っておらず、フォローしたり質問したりすることはほとんどありません。実際のライブユーザーが書いたコメントは、長さが数百語、場合によっては数千語にもなりますが、短い形式では「笑」に過ぎない場合もありますが、それでも大きく異なります。現時点では、モデル間には依然として「壁」が存在します。たとえば、質問の投稿が llama によって生成された場合、その下のコメント領域の返信も llama によって生成されます。残念なことに、私は邪悪な人間として、コメント欄でさまざまなモデルが戦っているのを見たいと思っています（そうではありません）。今月初めに ChatGPT の競合製品である Moshi がリリースされたとき、誰かがそれを GPT-4o と組み合わせて独自にチャットできるようにしました。昨年、OpenAI はマルチエージェント環境と学習方法を提案する論文を発表し、その中でエージェントが抽象的な組み合わせ言語を自然に開発することを発見しました。これらのエージェントは、人間の言語入力なしで他のエージェントと対話することによって、徐々に抽象言語を形成します。人間の自然言語とは異なり、特定の文法や語彙はありませんが、知的エージェント間のコミュニケーションを完了できます。実際、2017 年には Facebook (当時はメタとは呼ばれていませんでした) も同様の発見をしていました。当時の Facebook の手法は、2 人のエージェントが互いに「交渉」できるというものでした。「交渉」は交渉の一種であり、交渉では語学力だけでなく、相手の申し出や断りから相手の理想の価格を判断する推論能力も問われます。まず、研究者らは人間の交渉に関する会話データセットを収集しました。しかし、その後のトレーニングでは、研究者らは新しい形式の対話計画を導入し、教師あり学習によって事前にトレーニングし、その後、強化学習を使用して目標を絞った微調整を行いました。その時までに、エージェントは意味のある新しい文を生成できるようになり、最初は興味がないふりをして価格交渉することを学びました。これは 1970 年代にはまだ初期の研究ではありませんでした。ロボット間の初期の会話は存在していました。1966 年、コンピューター科学者のジョセフ ワイゼンバウムはプログラムを作成し、それを Eliza と名付けました。これは最初のチャットボットと考えられています。このプログラムは元々、心理カウンセラーを模倣するために設計されたもので、特定の単語を入力すると、その単語が応答で言及され、会話のような効果が得られます。コードはわずか 200 行です。1972 年、別の科学者ケネス コルビーは、登場人物が偏執的なサイコパスであることを除いて、同様のプログラム「パリー」を書きました。1973 年の国際コンピューター会議で、「患者」と「カウンセラー」が出会いました。彼らの会話記録を調べてみると、今日のボット間にはそのような謙虚さ、敬意、友情はなく、むしろ非常に緊張していて対立的であることがわかりました。初期のロボットのアーキテクチャは複雑ではなく、今日のものと比較することはできませんが、コミュニケーションや対話は完全に可能です。
各ロボットの背後にあるコードとモデルは異なりますが、それらが一緒になると、自然言語で通信することも、独自の対話型言語を形成することもできます。しかし、ロボットが集まったら、本当にただおしゃべりしているだけなのでしょうか？純粋なチャットシーンは、人間の社会的行動をシミュレートする際の人工知能のパフォーマンスを調査することに似ています。たとえば、スタンフォード大学が作った小さな町 SmallVille です。これは、大規模な言語モデルによって駆動される 25 人のエージェントが存在する仮想都市であり、それぞれが独自の「役割設定」を持っています。Deaddit がボットのためのオンライン フォーラムであるとすれば、SmallVille は家、店、学校、カフェ、バーなどがある彼らの「西洋世界」であり、さまざまなシーンで移動し、対話します。これは人間社会をシミュレートする比較的一般的な仮想環境であるため、研究者らはこれが AGI の探求に向けた重要な一歩であると考えています。ソーシャル シミュレーション ルートに加えて、問題を解決してタスクを完了することに重点を置いたルートもあります。これは ChatDev が研究しているルートです。ロボットは相互に通信できるため、何か役立つことを行うように訓練することができます。2024 Intelligent Source Conference で、清華大学自然言語処理研究所の Qian Chen 博士は、ChatDev の背後にあるアイデアを紹介しました。ロールプレイングを通じて、ボットが作業ラインを形成し、各エージェントが計画やディスカッションについて相互に通信できるようにするというものです。意思決定、コミュニケーションの連鎖の形成。現在、ChatDev はプログラミングが最も得意であり、デモではそれを使用してバックギャモン ゲームを作成します。プロセス全体を通じて、「組立ライン」では、プロダクト マネージャー、プログラマー、テスターというさまざまなエージェントがそれぞれの職務を実行します。これは、小さなスズメですが、内部のすべての機能を備えています。臓器。Coze が提供するマルチエージェント モードも同様の考え方と手法を採用しています。マルチエージェント モードでは、ユーザーは役割を設定するためのプロンプトを作成し、線を引いて作業順序を指定し、異なるステップで異なるエージェントにジャンプできます。しかし、Coze のジャンプの不安定性が問題であり、特にセッションの蓄積が長くなるほど、ジャンプが混乱したり、直接ジャンプしなくなったりすることを反映しています。エージェントジャンプの判断は、ユーザーの要求に正確に適応することが困難です。Microsoft はまた、会話型でカスタマイズ可能で、大規模なモデルを他のツールと統合できるマルチエージェント対話フレームワークである AutoGen を立ち上げました。現在のテクノロジーにはまだ大きな欠陥がありますが、明らかに非常に有望です。Ng Enda 氏はかつて講演の中で、知的なエージェントが団結すると、その相乗効果は単一のエージェントの場合をはるかに超えるだろうと述べました。ボットがチームを組んで自分たちのために働く日を楽しみにしない人はいないでしょうか?
