ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

[文/オブザーバーネットワーク廖宜恒]

AI時代の到来により、一部の学者は今年の米国選挙を「有権者に影響を与えるための人工知能の大規模な利用」とみなしている。この選挙で起きた多くの出来事も、多くの人の意見を裏付けている。米国の人々 選挙における大規模な言語モデルの介入が米国の民主主義制度に悪影響を与えるのではないかとの懸念がある。 2023年のスロバキア総選挙におけるAGIディープフェイク録音事件がAIによる選挙介入の最初の事例に過ぎないとすれば、現在進行中の米国選挙はAGIによる選挙介入の大規模な戦いと言えるだろう。

8月初旬、トランプ大統領は「デトロイト集会でハリス氏が飛行機から降りた際に待っていた何千人もの人々の写真はAIによって捏造されたものだ！」と非難したが、複数のメディアの調査チームもロイターを含むハリス氏のチームによって否定された。ハリス氏の集会での騒音は確かに真実だったが、これはまた、アメリカ国民がAI技術による選挙介入に非常に神経質になっていることを示している。

現地時間8月7日、ミシガン州のロムルス空港で行われた選挙集会に参加するカマラ・ハリス副大統領とミネソタ州知事のティム・ウォルツを待つ人々がいた。ドナルド・トランプ氏は集会の参加者を激しく非難し、集会の写真について虚偽の主張をしてきた。インターネットの写真

偶然にも、今年7月26日、マスク氏は自身のプラットフォームX上で、「これは素晴らしい」というテキストと笑いの絵文字を添えたハリス氏に関するディープフェイク動画を共有した。このビデオには、ハリス選挙運動チームによるこれまでのキャンペーン広告素材が多数含まれているほか、米国におけるジェンダーと人種間の対立を引き起こすのに十分なハリスのナレーションが含まれています。「私は女性であり、有色人種です。あなたは私の言うことを何でも批判します、もしそんなことを言うなら、あなたは性差別主義者であり人種差別主義者です。」

この動画は3日間で1億回以上再生され、騒動を巻き起こした。実はこの動画はハリス本人が撮影したものではなく、生成人工知能によって合成されており、合成されたハリスの声も伴っていて、かなりリアルだ。しかしマスク氏は投稿の中でこの動画を偽物とラベル付けしなかった。

ハリス氏の選挙陣営は深刻な抗議を表明し、声明で「この事件は、米国大統領選挙が近づくにつれて、人工知能によって生成されたリアルな画像、ビデオ、またはビデオがどのように使用される可能性があるかを示す好例である。音声クリップは、面白おかしく利用するためにどのように使用されるのか」と強調した。政治を誤解させます。」

マスク氏が自身のソーシャルメディアXに再投稿したビデオ。このビデオは生成人工知能 (AGI) によって合成され、実際のキャンペーン情報とブレンドされて非常に現実的なものになっています。インターネットの写真

実際、AI技術が米国選挙に介入するという話は今年初めから展開されている。バイデン氏が選挙戦から撤退する前にも、「AIバイデン」がニューハンプシャー州の予備選を混乱させる事件があった。関連報道によると、一部の有権者は今年1月21日、バイデン氏の合成音声を使った電話を受け、11月の本選に向けて投票を保存するよう求め、党の予備選挙に参加すると投票できなくなると主張した。最後の選挙に参加するために。その後、カリフォルニア大学バークレー校のデジタルフォレンジック専門家ハニ・ファリド氏は、電話の音声が実際には「比較的劣った」人工知能技術によって偽造されたものであることを認めた。

その後、今年2月25日、民主党大統領候補でフィリップス議員の政治コンサルタントであるスティーブ・クレイマー氏は、カーペンター氏を雇い、鄧小平氏の音声とこの電話嵐の計画を通じて百度ソフトウェアをでっち上げるようカーペンター氏に依頼したことを認めた。有権者への呼びかけは、「AIの誤解を招く応用を防ぐよう国民に注意を促す」だけだった。

マジック・カーペンターはメディアに対し、「偽のバイデン電話」音声の作成を依頼された経緯を説明した。インターネットの写真

米国選挙における両党のAI争奪戦はすでに始まっている。民主党はまた、共和党の AI 活用における大胆かつ洗練された経験を目の当たりにしています。

今年3月、トランプ大統領と黒人有権者の写真がアメリカのソーシャルメディアに掲載され続けた。 BBCの事実番組「パノラマ」の調査チームは、これらの画像の共通点は、いずれも黒人がトランプ前大統領を支持し、共和党に投票することを示唆しているように描写していることだと判明した。実際、これらの画像は戦略的な物語を前進させます。トランプは今や黒人社会で絶大な人気を誇っています。 2020年の選挙でバイデンの勝利の鍵を握るのは黒人有権者であることを知らなければならない。

もちろん、これらのディープフェイク画像は最終的に発見されましたが、普及の過程で、これらのディープフェイク写真には、非現実的な属性を示す透かしや注釈が付けられていませんでした。一部の注意深いネチズンはこれらの写真の光沢と質感の歪みを見つけることができますが、誰もがそれらを識別するのに十分なエネルギーと判断力を持っているわけではありません。

トランプ大統領は黒人女性のグループを受け入れた。この写真は後に、生成人工知能によってディープフェイクされたことが確認された。インターネットの写真

調査の結果、これらの写真の一部はトランプを風刺したアカウントからのものだったが、クリーニング後に広く拡散し、一部はトランプ自身の熱狂的な支持者によって生成されたことが判明した。画像の1枚の作成者はBBCに対し、「私はそれが本物の写真だとは言っていない」と語った。この種の答えは人々を無力に感じさせます。なぜなら、AGI が徹底的に偽物の写真を生成する前に、ほとんどの人はデフォルトで「百聞は一見に如かず」という判断をするからです。

トランプ大統領の熱狂的な支持者によって自然発生的に拡散された虚偽の情報に加え、トランプ陣営自体もAI分野への注目と投資を高めている。選挙資金の記録によると、トランプ陣営、共和党全国委員会、およびその関連資金調達委員会が、トランプ陣営の元選挙部長パースケール氏が所有するキャンペーン・ニュークリアスなどの関連企業に220万ドル以上を支払ったことが示されている。 Campaign Nucleus のビジネスには、カスタマイズされた電子メールの生成、有権者の感情を測定するための広範囲のデータの解析、動揺する有権者の発見、「反覚醒」インフルエンサーのソーシャル メディア投稿の拡大を支援するための AGI の使用が含まれます。 AIテクノロジーを使用して政治的使命の支持者を分析し、プロフィールを構築し、パーソナライズされたプログラムを通じて有権者の好みを操作しようとすることに焦点を当てています。

一部のテクノロジーリーダーも政治的立場を変え、トランプ氏を支持し始めていることは注目に値する。これは双方向の競争であるようだ。象徴的な人物の一人はイーロン・マスクです。トランプ銃撃事件後、マスク氏は自身のソーシャルプラットフォームX上で、トランプ前大統領の立候補を支持し、選挙運動を支援するために資金を提供する用意があると正式に発表した。

シリコンバレーの一部の指導者による共和党支持の逆転は、ダイバーシティ政策の欠陥に直接関係しているが、より広範な理由はテクノロジー業界の将来についての彼らの考慮によるものでもある。つまり、ファンドやコミュニケーションプラットフォームといった要素がAGIテクノロジーの支援と深く結びついて、思わぬ力を発揮しているのです。

緻密に編まれたブラックボックスの秘密

選挙の水を濁すAGIの前例のない能力を目の当たりにした私たちは、次の疑問を抱かずにはいられません。AGIが選挙に介入するメカニズムは何でしょうか?

AGI によって生成されたテキスト、音声、写真、ビデオなどのディープ フェイク コンテンツ (ディープフェイク)。これらの要素は、選挙プロパガンダにおける情報および認知要素と深く絡み合っており、実際、政治コミュニケーション モデルと深く結びついています。 AGI は選挙プロセスに深く組み込まれることで、有権者の認識に疑問を呈し、影響を強めたり揺るがしたりすることで、有権者を操作するという目的を達成します。

米国選挙プロパガンダ分析フレームワーク Sun Chenghao: 米国選挙プロパガンダへの生成人工知能の介入: 経路、シナリオ、リスク、2024-7。 [3]

米国の選挙宣伝メカニズムは主に、入力、処理、出力の 3 段階で構成されます。候補者や政党は選挙に勝つために選挙活動を行いますが、この活動は本質的に有権者を説得し、有権者が政治宣伝の内容を処理、消化できるようにし、最終的には有権者に選択をさせるという目的を達成することを目的としています。

AGI の徹底的な権限付与により、米国の選挙宣伝の分野で、有権者登録、有権者データ分析、選挙予測分析、選挙戦略策定、選挙プロセス追跡、宣伝配信および有権者支援関連の選挙リソースを含むプロセスがすべて完了しました。新しいフォームについて。

選挙予測、有権者データ分析、選挙戦略策定、有権者支援の観点から見ると、AGI の現在の業績は概ね良好な軌道に乗っています。具体的には、選挙キャンペーンチームや意思決定者が選挙状況をより迅速かつ注意深く分析し、候補者が有権者の特徴を分析し、詳細なセグメンテーション戦略を策定できるようにすると同時に、候補者間の関係を改善します。 AGI 自動電子メール返信やその他の方法を通じて、有権者との対話の質が向上し、フィードバック効果が高まり、有権者に必要なタイムリーな選挙情報を提供する選挙百科事典として機能します。

しかし、他の側面では、AGI を徹底的に適用することで、明らかにいくつかの問題が明らかになりました。有権者登録において、AGI の本来の目的は、電子メールや電話を積極的に発信することで投票率を高めることです。しかし、年初の「AIバイデン電話」事件は、AGIが有権者の投票を妨害する点でも「輝ける」可能性があることを証明した。

選挙プロセスの追跡と宣伝配信の観点から見ると、AGI エンパワーメントの積極的な意義は、選挙プロセスにおける異常な活動を特定し、ネットワーク詐欺やネットワーク攻撃を防止し、選挙の秩序を維持し、細分化されたグループを特定し、選挙情報を正確に配信することです。これらの有権者について。しかし、トランプ大統領の黒人写真事件や、先のスロバキア録音事件では、AGIが秩序の維持と正確な配信とは逆の役割を果たし、破壊的で極めて虚偽の配信になってしまったことが分かる。

AGI によって破壊された選挙運動環境が有権者の認知に及ぼす損害は、主に 2 つの側面に反映されています。それは、有権者の認知を揺るがすことと、有権者の認知を強化することです。

不安定化効果の観点から言えば、トランプ大統領と黒人の偽写真事件では、黒人、特に若い黒人の支持を得るために、AGI は一連の極めて虚偽の写真の生成に協力しました。 AGI の正確な位置決めを通じて、これらの極めて虚偽の写真が密かに有権者に公開され、黒人有権者のこれまでの認識に疑問を呈し、躊躇する若い有権者の心を揺さぶりました。

効果を強化するという点では、プロパガンダ情報自体については、AGI 生成のスピードが選挙チームに大規模な情報砲撃によるプロパガンダの利点をもたらし、コピーライティングの品質によっても有権者の「痛みのポイント」をより正確に把握し、彼らの寄付を集めます。さらに、政治家ロボットなどの AGI の擬人化は、政党が有権者に近づき、効率的なコミュニケーションとフィードバックを実現するのに役立ちます。

AGIの柔軟な強化効果と、短期間に大量の情報を生成し、正確にプッシュする能力は、政治的コミュニケーションの特定の期間に急速に増幅され、深い偽情報の爆発的な拡散を容易に引き起こすことは注目に値します。こうした状況は、選挙の開始時や選挙の沈黙期間中に、さまざまな宣伝団体がまだ会場に入っていなかったり、宣伝会場から強制的に排除されたりするときによく発生します。

生成人工知能によって処理された情報が有権者の認知を破壊するメカニズム Sun Chenghao: 米国選挙プロパガンダへの生成人工知能の介入: 経路、シナリオ、リスク、2024-7。 [3]

さらに、一部の AGI 自体が潜在的なイデオロギーを持っています。たとえば、有名な GhatGPT は、明らかな左翼イデオロギーの立場を持つことがテストで指摘されました。ニール・ポストマンはかつて、メディアテクノロジーを分析する際に「メディアは比喩である」という視点について言及し、メディア自体が強力な意味を持ち、人々の考え方を変えて現実を再定義できると信じていました。トランプ大統領の「Twitter選挙」と「Twitterガバナンス」の頃から、私たちは有権者を形作るメディアの力を感じてきたが、AGIがメディアプラットフォームに強力な権限を与えると、この比喩自体が簡単に無限に増幅される可能性がある。

サイバー選挙に向けて

今年3月、米国のブルッキングス研究所の関連専門家がオフラインで討論会を開催し、選挙中に人工知能や虚偽の情報がもたらすリスクについて議論した。彼らは、AGI が選挙にもたらす現在のリスクは、法律、テクノロジー、通信メカニズムの緊密な統合という 3 つの側面に集中していると考えています。

セミナー、左から右へ、Darrell M. West (テクノロジーイノベーションセンターシニアフェロー)、Soheil Feizi (メリーランド大学コンピュータサイエンス学部准教授)、Shana M Broussard (連邦選挙管理委員会委員)、Matt Perault (ノースカロライナ大学チャペルヒル校) キャンパステクノロジー政策センターディレクター) ビデオのスクリーンショット

立法レベルでは、米国連邦政府がAGIによる選挙干渉を立法する準備ができていないことは明らかであり、その責任のほとんどは依然として州法と主要な民間メディアプラットフォームにある。

2023 年 10 月 30 日、バイデン大統領は「人工知能の安全、安心、信頼できる開発と使用」に関する大統領令 14110 に署名しました。この大統領令は、米国における人工知能のガバナンスに対するこれまでで最も包括的なアプローチであり、カバーリングも対象としています。その分野は、AI の安全性に関する新しい業界標準から、プライバシー保護、公民権、労働者の利益、技術革新、政府による AI の利用、米国の国際的リーダーシップに至るまで多岐にわたります。

ある程度、この大統領令は、米国における人工知能の安全性分野における将来の法律のロードマップとみなすことができ、これまでの統治における分裂の軌道を繰り返すことを回避し、各州によるばらばらの提案から規制作業を再開することを可能にする。連邦制度が管理されています。しかし、この「包括的人工統治手法」はまだ初期段階にあり、選挙における国内AGIが引き起こす問題はすでに現実化しつつある。

技術レベルでは、ディープフェイクで生成されたコンテンツを識別するために電子透かしを使用することを提案する人もいますが、専門家はこれは信頼できないと言っています。これらの透かしは、AGI 生成プロセス中に簡単に消去できますが、これは基本的な技術的な制限であり、短期間で解決するのは困難です。現時点で最も効果的な方法は、民間部門が何らかの検討サービスを積極的に提供できることを期待することである。これは、法律の整備に直面して問題を解決するのに十分ではないが、少なくともある程度の役割を果たすことができる。

会議の専門家らは、コミュニケーションメカニズムに影響を与えるレベルで、実際に虚偽の情報が有権者の変動に影響を与えるのは5％から10％であり、有権者の大多数は最初から自分の陣営をすでに決めていると述べた。この点について、他の専門家は、深い偽情報の出現についてあまり悲観的になる必要はないと言っています。

まず、一般の人々が受け取る情報のうち、誤ったニュースはほんの一部にすぎません。 「2020年の調査によると、平均的なアメリカ人は毎日約7.5時間メディアに費やしており、そのうちの約14％はニュース関連であり、そのほとんどがテレビによるものであると推定されています。別の最近の調査では、平均的なアメリカ人の成人のFacebookユーザーは、 2020 年の米国選挙までの数か月間であっても、彼らが見たコンテンツのうちニュース関連のものは 7% 未満でした。」

第二に、実際に存在する深刻な偽情報については、それが主に少数のアメリカ人の間に集中していることが研究で示されています。これは、アルゴリズムによって引き起こされる情報の繭に関連している可能性がありますが、これらの深い偽情報は、通常、オンライン大衆の大多数に到達することができません。特に、AGI がユーザー グループを深く分断するのに役立つと、特定の情報に対応するユーザー ベースが小さくなります。 。

連邦法の強化やテクノロジー企業によるAGIの共同管理の促進に加え、「免責条項」の推進、選挙活動の透明性向上を選挙運動チームに義務付けること、公教育の強化も解決策として議論されている。

「免責事項」による解決策を求める声は超党派のクロア・マロフスキー上院議員から来ている。しかし、問題は、信憑性が不明なコンテンツに免責事項が表示されると、人々はそのコンテンツを不信感を抱く傾向が強まり、その結果、たとえ免責事項が記載されていたとしても、このマークが付いたすべての情報の信頼性が低下し、関連する宣伝効果が弱まってしまうことです。識別されたコンテンツは本物である可能性があります。

選挙運動チームに透明性の向上と積極的な開示を求めるアプローチは、人工知能システムがいつどのように使用されるかを選挙運動に積極的に開示することを要求することです。ただ、この方法には現時点では十分な信頼と保証が欠けています。なぜなら、この計画は候補者自身に責任を負わせているにもかかわらず、候補者自身が責任を負いたくない、自分の行動を積極的に開示したくない、さらには意図的に隠したくない場合、コレクションは収集されないからです。特に技術的な限界がまだあるため、非常にコストがかかります。

さらに、それが罰金または軽度の行政罰にすぎない場合、結局のところ、AGI の誤った適用によってもたらされる利益が罰金のコストよりも大きい場合、候補者は間違いなく罰せられることになるでしょう。候補者に「合法的」とは、大量殺人兵器を使用する機会に対して代償を払うことを意味します。しかし、大統領選挙に勝つという誘惑に直面すると、立法府は法を破るコストにどれだけのチップをつぎ込む必要があるでしょうか。人々は怖いですか？

同時に、トランプ氏の黒人との偽写真事件やバイデン氏のAI電話事件では、行為の開始者が（少なくとも表面上は）候補者本人ではなかったことから、責任も伴うことも見なければならない。結局のところ、何千人もの支持者に責任を割り当てることは、大きな抑止力にはなりません。

公教育は当面の解決策ではありますが、問題を根本的に解決するわけではありません。私たちは、一般の人々全員が、深い虚偽の情報を理解する能力を持っているわけではないことを知っておく必要があります。特に、深い虚偽の内容が真実と虚偽が混在している場合はそうです。選挙期間中定期的に有権者に積極的に教育を行い、重大な虚偽の内容を特定する方法や情報を客観的に処理する方法を伝えることは、情報の繭に閉じ込められている有権者や十分な教育を受けていない有権者にとって大きな助けとなるでしょう。

いずれにせよ、AGI を深く統合する選挙の時代が到来しました。情報の信頼性をどのように特定するか、反対者をどのように防御するか、規制メカニズムを確立して公共政策の有効性を評価する方法は、今回の選挙で両党が直面する共通の課題となっている。

注記：

[1]AP：イーロン・マスクがシェアしたパロディ広告はカマラ・ハリスの声を複製しており、政治におけるAIに対する懸念が高まっている。

https://apnews.com/article/parody-ad-ai-harris-musk-x-misleading-3a5df582f911a808d34f68b766aa3b8e

[2] 論文: 米国選挙が近づく、そして AI ゲームの下での虚偽情報のジレンマ

https://www.thepaper.cn/newsDetail_forward_27359556

[3] Sun Chenghao: 米国選挙プロパガンダへの生成人工知能の介入: 経路、シナリオ、リスク、2024-7、P4-5。

[4]ブルッキングス研究所：選挙におけるAIと偽情報の危険性、2024-3

https://www.brookings.edu/events/the-dangers-posed-by-ai-and-disinformation-during-elections/

[5]ブルッキングス研究所：汎用AIの規制：EUと米国における収束と相違の領域、2024-5年

https://www.brookings.edu/articles/regulatory-general-Purpose-ai-areas-of-convergence-and-divergence-across-the-eu-and-the-us/

[6]ブルッキングス研究所：誤解されたメカニズム：AI、TikTok、嘘つきの配当が2024年の選挙に及ぼす影響、2024-1

https://www.brookings.edu/articles/misunderstood-mechanics-how-ai-tiktok-and-the-liars-dividend-might-affect-the-2024-elections/

この記事は Observer.com の独占原稿であり、記事の内容は純粋に著者の個人的な意見であり、プラットフォームの意見を表すものではありません。許可なく複製することはできません。そうしないと法的責任が追及されます。 WeChat guanchacn で Observer.com をフォローし、興味深い記事を毎日読んでください。