ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

新しい知恵のレポート

編集者: 楊陶子喬

【新しい知恵の紹介】AI エージェントはネットワーク全体に分散されています。今後騙されるのを防ぐにはどうすればよいでしょうか?プライバシーを保護するにはどうすればよいですか? OpenAI、マイクロソフト、MIT、その他25機関は、個人情報を一切開示せずに本人であることを証明できる「個人証明書」を共同提案した。

この半月の間に、インターネット全体が OpenAI の「AI 内部告発者」によって騙されました。

誰もが「Brother Strawberry」の @iruletheworldmo アカウントをよく知っているはずで、時々彼の爆発的な投稿に遭遇するでしょう。

今週の水曜日まで、誰も彼が予測した GPT-4o 大型モデルを待っていませんでしたが、代わりに AI スタートアップ MultiOn の創設者がその正体を明らかにしました—。

「ストロベリーブラザー」はAIエージェントです。

一時期、インターネット上の多くのプラットフォームが「Brother Strawberry」関連の再投稿の禁止を開始しました。

Reddit のサブレディット r/singularity では、それがトップに固定され、すべてのメンバーが関連コンテンツに言及することが禁止されています。

@iruletheworldmo を直接「ブロック」した人もいます。

OpenAIの本物の内部告発者であるジミー・アップルズも、AIエージェントの発言が真実であると信じていた。

その後、AI エージェントは私がチューリング テストに合格したかどうかについてのオンライン アンケートも開始しました。予想外にも、半数以上の人が肯定的な回答をしました。

そしてこれはただのAIです。

Xiao Zha 氏はかつてこう述べました。「将来的には、誰もが AI アシスタントを持ち、すぐに何十億もの AI エージェントが私たちの代わりにインターネットをサーフィンするようになるでしょう。」

将来、このようなことが起こったら、人々はソーシャル メディア アカウントが一目でボットであるかどうかをどうやって判断するようになるでしょうか?個人情報を提出せずに、自分の身元が「実在の人物」であることを証明するにはどうすればよいですか?

OpenAI、Microsoft、MIT、UCB を含む 25 機関の学者が共同で検証技術「personhodd Credentials (PHC)」を提案しました。

PHC は、ユーザーのプライバシーを保護しながら、「あなたはあなたである」こと、そして AI ではなく本物の人間であることをインターネット上で証明できます。

論文アドレス: https://arxiv.org/pdf/2408.07892

Microsoftの首席科学者兼首席補佐官は、「プライバシーを維持しながらオンラインで人間のアイデンティティを確立することは、AI時代の決定的な課題の1つである」と述べた。

別の研究者は、この研究はタイムリーで示唆に富んだものだと述べた。

なぜそんなことを言うのですか？

30億人分のデータが流出、プライバシー保護に解決策はない？

冒頭の「ストロベリー・ブラザー」事件に加え、最近では30億人近くのデータが流出し全米を席巻しており、史上最大規模のデータ事件の一つとも言える。

これには、名前、電子メール、住所、電話番号、社会保障番号、電子メールアドレスなどの居住者の詳細な個人情報が含まれます。

さらに恐ろしいのは、住所データは30年前までさかのぼることができ、20年以上前に亡くなった親族の情報さえも掘り起こせるということだ。

したがって、匿名性は、プライバシーを重視する多くの人々が自分自身を守るために常にとっている手段でした。

ただし、重要な確認のために個人情報を引き渡さなければならない場合があります。

現在、ますます強力な AI が登場しており、犯罪者が虚偽の情報をだまして拡散する手口はより巧妙であり、容易に大規模な拡散に拡大する可能性があります。

また、AIの敷居やコストも下がり、入手しやすくなりました。

たとえば出会い系アプリなどで、AI によって生成された写真、ビデオ、音声がますます現実的になるにつれて、どうすれば相手が本物の人間であることを確認できるでしょうか?

検証コードなどの現在の既存のソリューションでは明らかに不十分です。

これは、従来の人間と機械による検証方法が失敗していることも意味します。

結局のところ、画像認識などの分野での AI の進歩に伴い、この方法の信頼性はますます低くなりつつあります。

現在、ユーザーのプライバシーとインターネットの包括性を過度に犠牲にすることなく、AI による欺瞞を効果的に防止できるバランスを見つけることが非常に必要です。

これは、OpenAI、Microsoft、その他の機関の研究者が研究を通じて実用化を期待している効果でもあります。

あなたが AI ではなく人間であることを証明してください

研究者のスティーブン・アドラー氏が述べたように、プライバシー保護ツール「Personality Credential」（PHC）は、あなたが個人であることを証明できますが、「あなたが誰であるか」を明らかにすることはありません。

具体的には、「人格資格情報」は、AI が偽造できない次の 2 つの要素によってサポートされています。

「リアル認証」と「安全な暗号化技術」。

つまり、AIがどんなに優秀になっても、この2点からは逃れられないのです。

つまり、PHC は、ユーザーが個人情報を開示することなく、自分が AI ではなく実在の人物であることをオンライン サービスに証明できるデジタル証明書です。

この種の証明書は、政府などの信頼できる組織によって発行されます。

著者の定義によれば、PHC はローカル システムまたはグローバル システムであり、必ずしも生体認証技術に基づいているわけではありません。

AI エージェントがネットワーク全体に殺到、詐欺を防ぐ最新の戦略

この論文の共著者である Nouran Soliman 氏と Tobin South 氏は、MIT の大学院生で、最近 MIT News のインタビューでこのテクノロジーを簡単に紹介し、その必要性、リスク、安全な場所での使用方法について議論しました。 PHC を正しく適用してください。

「本人証明書」の必要性

AI に関して言えば、公の場での議論の多くは ChatGPT のようなチャットボットに焦点を当てていますが、人工知能の機能は明らかにそれを超えています。

インターネット上での AI の関与には、識別不能性と拡張性という 2 つの特徴があり、これが AI による欺瞞の継続的な成長を促進します。

AI は、ソーシャル ネットワーク上でアカウントを作成したり、虚偽のコンテンツを投稿したり、人間になりすましたり、アルゴリズムを通じて特定のコンテンツを大規模に増幅したり、さらには大規模な攻撃を実行したりすることができるため、多くのリスクが生じます。

これにより、ソーシャルメディアの閲覧体験が変化し、同意のない「デジタルダブル」の問題と同様に、複雑なAIと人間を区別することがますます困難になるでしょう。

「パーソナリティ認証情報」は、オンライン コンテンツのフィルタリングや受信情報の信頼レベルの決定などに潜在的なソリューションを提供します。

人格証明書とは何ですか?セキュリティを確保するにはどうすればよいですか?

前述したように、「本人証明書」は、身元に関する情報を一切明かさずに、あなたが人間であることを証明できます。

著者は、AIがどれほど進歩したとしても、人間が実行できる2つのこと、つまりオフラインで現実世界の文書を取得することと、高度な暗号化システムを偽造または解読することはできないと述べた。

したがって、「人格認証情報」は、暗号化によるセキュリティと、人間が人間であることを実際に証明するために AI にはない能力をまだ持っているという事実という 2 つのアイデアを組み合わせたものです。

「個人証明書」を取得するには、ユーザーは納税者番号や運転免許証など政府との関係が必要で、オフラインで参加する必要があります。

プライバシー技術を通じて、ユーザーは自分の身元に関する機密情報を共有することなく、この事実を証明できます。

「個人認証」の実装は、オンライン サービスへのログインに電子メール アカウントなどの識別子を使用するなど、数十年にわたって存在してきたインフラストラクチャとセキュリティ テクノロジに依存します。 PHC はこれらの既存の方法を補完できます。

ただし、ユーザーによる「個人証明書」の使用は必須ではなく任意であるべきであり、サービスプロバイダーはそれを使用するかどうかをユーザーに選択させることができます。

オプションであるということは、インターネット上で AI の参加を完全に排除し、ユーザーがオンラインで実際の検証済みの人間とのみ対話できるようにすることはまだできないことを意味します。

ただし、オンライン ショッピングや取引交渉などのシナリオで、相手が人間であることを確認したい場合は、「人格証明書」が便利です。

リスクは何ですか?どうすればこれらのリスクを軽減できるでしょうか?

リスクの 1 つは、その実装方法にあります。特定の 1 つのエンティティが「個人証明書」の唯一の発行者である場合、またはすべての権限が 1 つのエンティティに与えられるようにシステムが設計されている場合、権限が過度に集中する懸念が生じる可能性があります。

困難または危険な社会政治的環境にいる場合、人格証明書を取得するためにオフラインの場所に行く必要があるのは恐怖であり、オンラインで情報を共有することを人々が思いとどまる可能性があります。

考えられる解決策の 1 つは、「個人証明書」の発行者を複数設定することです。

私たちの論文は、政府、政策立案者、指導者、研究者が、さまざまな実装方向により多くのリソースを投資し、このテクノロジーがコミュニティに与える可能性のある広範な影響を調査し、適切な政策とルールが確実に導入されるように奨励することを目指しています。

AI は非常に急速に発展しており、政府が適応できる速度をはるかに超えています。したがって、政府や大企業は、プライバシーとセキュリティを保護しながらユーザーが人間であることを証明できるようにデジタル システムを適応させることを今すぐ考え始め、より高度な AI が登場する未来に備えるべきです。

技術紹介

「性格証明書」の技術はどのように実装されているのでしょうか？この 63 ページの論文には、非常に詳細な答えが示されています。

論文アドレス: https://arxiv.org/pdf/2408.07892

まず、「個人認証情報」が所有者のデバイスにデジタル的に保存されます。信頼性とプライバシーを確​​保するために、PHC システムは次の 2 つの前提条件を満たす必要があります。

・「個人証明書」は1人1枚しか保有できず、盗難防止のため定期的に再認証する必要があります。

- PHC を保有するユーザーは、サービス プロバイダーと匿名で対話します。たとえPHC発行者とサービスプロバイダーが共謀したとしても、ユーザーのデジタルアクティビティを追跡することはできず、ましてやさまざまなプラットフォームでのユーザーのアクティビティを結び付けることはできません。

PHC システムの登録と使用のプロセスを図 3 に示します。

要求に応じて、ユーザーは必要最小限の情報を発行者に提供するだけで済みます。発行者は、ユーザーが人間であること、およびユーザーが以前に PHC に登録していないことを確認する責任があります。さらに、発行者は PHC を撤回または回復する権利を有します。

ユーザーがサードパーティのデジタル サービスを使用する場合、PHC を提供し、「ゼロ知識証明」を経て本人確認を完了できます。

サービスプロバイダーは、PHC 以外の追加情報を取得することはできません。各証明書は特定のアプリケーションに限定されているため、PHC を介して異なるプラットフォームを同じユーザーにリンクすることはできません。

この論文では、PHC システムの複数の発行者を設計することが理想的な実装計画であると提案しています。ユーザーは複数の発行者から PHC に登録することを選択できますが、各発行者が取得できる証明書は 1 つだけであるため、ユーザーのプライバシーを確​​保しながら大規模な詐欺を削減できます。

この PHC システムには次の 3 つの利点が期待されます。

- 「パペット」ユーザーの影響を軽減し、インターネット上で大規模な実際の人間の入力と参加を実現します。

- ボット攻撃の軽減

- AIアシスタントを悪意のあるユーザーに操作されるのではなく、真に信頼できるユーザーの代表者にしましょう

同時に、PHC が公平かつ安全に現実に実施されるためには、次の 4 つの課題に直面する必要があります。

• 公平なアクセス

PHC 検証を頻繁に行うと、使用中に摩擦やフラストレーションが生じる可能性があり、テクノロジーに不慣れなユーザー、特に高齢者に影響を及ぼします。 PHC を持たないユーザーでもデジタル サービスを利用できるようにすることも必要です。

• 自由な表現

ユーザーは、PHC が自分のデジタル活動をオフラインでの実際のアイデンティティに結び付け、オンラインで本当の意見を表明する意欲を低下させることを心配するかもしれません。

• パワーチェック

PHC エコシステムが直面している重大な課題は、少数の機関、特に PHC 発行会社や大規模なサービスプロバイダーに権力が集中していることであり、PHC の使用に関する決定が重大な影響を与えることになります。

• 攻撃やエラーに対する堅牢性

他のデジタル システムと同様に、PHC システムは、証明書発行者、サービス プロバイダー、悪意のあるユーザーなど、複数の関係者からの攻撃や悪用に対して脆弱です。 DoS 防止や攻撃者による機密記録へのアクセスのブロックなど、サイバーセキュリティにおけるこれまでのベスト プラクティスの使用を検討してください。

論文の最後で、著者は取るべき次のステップを提案します。

まず、既存のデジタル ネットワーク システムに適応し、人工知能の影響に備える必要があります。

具体的には、AIがインターネットやコミュニケーションをどのように変えるのかを再考する必要があります。

第二に、緊急の解決策として「人格証明書」を優先すること。

最後の図は、この論文のすべての重要なポイントを要約しています。

特筆すべきは、インターネットプラットフォームが「実名制」を理由に過度に情報を収集するのを防ぐため、中国公安部とサイバースペース局が最近「オンラインIDカード」を開始したことである。

NFC機能を搭載した携帯電話があれば、IDカード認証と顔認証を行って携帯電話番号を紐付けると、仮想的な「オンラインIDカード」を取得できる。

上記の「ネットワーク番号」は文字と数字で構成されており、平文の識別情報は含まれておらず、名前やID番号などの情報を入力する必要がなく、淘宝網、WeChatおよびその他のアプリでの実名認証に直接使用できます。 、など。

個人のプライバシーを保護するという観点から、より良い解決策は何だと思いますか?

参考文献:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exused-americans-social-security-numbers-100046695.html