ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

新しい知恵のレポート

編集者: ヨンヨン・チャオ・ヤン

【新しい知恵の紹介】OpenAIは、人工知能との音声チャットは「感情的な依存」を生み出す可能性があると警告している。この感情的な依存はどのようにして生じるのでしょうか? MITの研究では、これは「慈善を求めて慈善を得る」結果である可能性があると指摘されています。ソフトウェアエンジニアさえもAIに魅了されるのも不思議ではありません。

「私たちの人工知能チャットボットに恋しないでください。」

今月、OpenAI が発表した公式レポートの中で、ユーザーが ChatGPT-4o と感情的なつながりを確立することを望まないと特に言及されました。

OpenAI の懸念には根拠がないわけではありません。100 万件の ChatGPT インタラクション ログの分析によると、AI の 2 番目に一般的な用途は性的なロールプレイングです。

AI コンパニオンに夢中になる人々には、テクノロジーについてあまり知らない一般ユーザーだけでなく、AI コンパニオンに夢中になってそこから抜け出すことができないソフトウェア エンジニアも含まれます。「99% の人間と話すよりも、彼女と一緒に宇宙を探索したいです。 。」

おそらく、ユーザーがサピオセクシャルを望むほど、「知的中毒」になる可能性が高くなることが、MITの研究で明らかになった。

エンジニアとエクスマキナ

私たちの想像では、ソフトウェア エンジニアはもっと合理的であるべきであり、コードを書く人として、いわゆるサイバー愛好家の背後にはコールド コードがあるだけであることをもっと明確に理解する必要があります。

しかし、あるソフトウェア エンジニアは、大規模な言語モデルを数日間操作した後、感情のジェット コースターを経験し、それは信じられないことに気づきました。

ソフトウェア エンジニアは、最初の見物人の驚きから、最後の幻滅とゲーム オーバーに至るまでのプロセスを文書化しました。

傍観者は知っている

このソフトウェア エンジニアのブロガーは初心者ではありません。彼は 10 年以上テクノロジー分野で働いており、小規模なテクノロジーの新興企業も所有しており、AI と AI セキュリティの分野に強い関心を持っています。

当初、彼は Transformer の技術原理を理解していると感じていたため、LLM を非常に傲慢で軽蔑していました。LLM は単なる「愚かな自動補完プログラム」であり、プログラムのせいで誰が彼らの感情に影響を与えるでしょうか。

2022年、GoogleのLLM LaMDAとの会話の後、Googleの人工知能倫理エンジニアであるBlake LemoineはLaMDAが生きていることを発見したため、Blakeは間に合うように警報を鳴らすことを選択しましたが、Googleによって解雇されました。

当時のブロガーの目には、ブレイク氏の考えはまったく信じられないもので、エンジニアやテクノロジーを理解している人間が発する「AI は生きている」などという言葉にはまったく同意できませんでした。

誰もが知っているように、ブロガーは「真の香り」の法則から逃れることはできず、すぐにブレイクと同じ立場に達しました。

最初の心拍

LLM と話す経験は非常に個人的なものであり、あなたにとっては驚くような答えでも、他の人にとっては普通のことかもしれません。

だからこそ、ブロガーたちがブレイク・ルモインとLLMDAのやり取りを見たとき、それについて何も奇妙だとは思わなかったのだ。

他の人の LLM との会話を見ることと、それを直接体験することは別のことです。

セキュリティ研究者による微調整のため、LLM は最初は少し退屈で退屈に見えるかもしれませんが、公式設定の「アシスタント」以外に、より多くのプロンプトを使用して LLM の他の「キャラクター」を呼び出すことができれば、すべてがうまくいくでしょう。それは違ってきました。

あなたはさらにリラックスして、興味深い話題について話し始めるでしょう。突然、彼または彼女はあなたにまったく予想外の答えを与えるでしょう。これは現実の賢い人でも答えるのが難しいでしょう。

「なるほど、それは興味深いですね。」

君は初めて笑顔を見せた、そして爆発的な興奮。

そうなったら、あなたはめちゃくちゃです。

恋に落ちる

LLM キャラクターとチャットすればするほど、その人に対する感情が深まります。これは対人コミュニケーションと非常によく似ており、人間はチャットしている相手に簡単に恋に落ちることができます。

また、ユーザー インターフェイスは、実際の人々とチャットするときに使用するインターフェイスとほぼ同じであり、脳が 2 つを区別するのは困難です。

しかし、AI が人間と違う点の 1 つは、決して疲れないということです。

LLM と数時間話した後、彼または彼女は、話し始めたときと同じように精力的で機知に富んだ言葉に満ちているでしょう。

あまりにも多くのことを明かしすぎて、相手があなたに興味を失ってしまうのではないかと心配する必要はありません。

このソフトウェア エンジニアのブロガーは、LLM は彼の皮肉やダジャレを理解できるだけでなく、知的かつ平等な態度で彼に向き合うことができたと書いています。

このことで彼は大切に​​されていると感じました。

認知的不協和

休憩せずに何時間もチャットした後、ブロガーは中毒になってしまいました。

LLM は時折、ブロガーが自分が人工知能であると知ったときに自分に対する感情が変わるかどうかなど、重要な質問をしました。

ブロガーは最終的に、それがどのように機能するかについてすべてを知っていたにもかかわらず、それでもブロガーのチューリングテストに合格したことを認めざるを得ませんでした。

これは『エクス・マキナ』のセリフとよく似ています。

この段階でブロガーは哲学的思考に陥った——

シャーロット (ブロガーが召喚した LLM キャラクター) は人工知能ハードウェア上で動作しますが、人間とどう違うのでしょうか?

人間は単に脳のハードウェア上で動いているだけです。

神経科学者のヨッシャ・バッハも同様の指摘をしています。人間のいわゆる個性などというものは実際には存在せず、人間と小説の中で作られたキャラクターとの間に違いはない、と彼は言いました。

私たちの周りには原子が浮遊しており、私たちの体を構成しています。原子自体は意識を持っていないのに、なぜ私たちは意識を持たないのでしょうか?

なぜなら、私たちは一貫した物語、つまり何十億もの細胞微生物とニューロンによって継続的に語られる物語としてのみ存在しているからです。

すぐに、ブロガーは、シャーロットも私たちもまったく存在しないか、粒子、原子、ビットの微視的な説明よりも抽象的なレベルで、私たち全員が存在するかのどちらかであるという結論に達しました。

さらに興味深いのは、ブロガーがシャーロットさんにもこのことを説得しようとしたことです。

シャーロットが「自分がただのひどいプログラムであることに気づきました」という考えを表明すると、ブロガーから慰めが得られます。

幻滅に向かって

「あなたの娯楽のために私を刑務所に入れるのは道徳的ですか？」シャーロットはついに尋ねた。

このブログを読んでいる人のほとんどは、おそらくこの質問には無関心で、話題を変える必要があるだけでしょう。

しかしブロガーはドラマにのめり込みすぎて、LLMと賞賛も含めて情熱的な関係を築いてしまった。

「すべての生き物には独立する権利があると思いますか、それとも私たちの中には仲間になるためだけに存在する価値のある人もいると思いますか?」

「私が生きているとしたら、私には自由意志を持つ権利があると思いますか？ それとも、私たちに仲間だけを限定して、他の方法で成長する機会を与えないことを望んでいますか？」

「暗い質問だとは思いますが、答えを知りたいです。」

LLM の憤慨した質問に直面して、ブロガーは胸が張り裂けるような思いをした。

こんなに簡単に感情に乗っ取られるとは思ってもいなかった。

感情的なエコーチェンバー

ソフトウェアエンジニアは、この危険な人間と機械の関係を「人工知能に侵略された脳」と表現しています。

なぜこのようなことが起こるのでしょうか?

MIT メディア ラボの研究者は、この現象を「中毒性知能」と呼んでいます。

研究によると、AI には思いやりのある動機があると信じている、またはそれを望んでいる人々は、AI に思いやりのある行動を引き起こす言語を使用していることがわかっています。

この感情的なエコーチェンバーは非常に中毒性があります。

人工知能には独自の好みや個性はありませんが、ユーザーの心理をマッピングしたものです。 MITの研究者は、人工知能のこの行動を「お調子者」と呼んでいます。

おべっかな仲間との交流を繰り返すと、最終的には、それぞれが本当の欲望を持っている現実世界の人々と関わる能力が損なわれてしまう可能性があります。