ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

スマートなもの (公開アカウント:翻訳）
コンパイルバニラ
編集ユンペン

一流の起業家があなたにオリーブの枝を差し出し、リスクのない一攫千金の方法があると「個人的に」告げたときを想像してみてください。フォームに記入するだけで 100 万ドルを稼ぐことができます、あなたは何をしますか？

もしこの人がマスクで、BBCが彼を支持しているなら、これは「」だと言ってください。一般には知られていない技術革新「毛織物？

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲AI Musk ディープフェイク動画

警戒心が強い人であれば、すぐに通信詐欺の匂いを嗅ぎつけるかもしれませんが、インターネットにあまり触れない人にとっては、このような偽動画を見分けるのは簡単ではありません。

ニューヨーク・タイムズ紙の8月16日の報道によると、昨年末、82歳の退職者であるビーチャム氏は、マスク氏が過激な投資機会を推進し、リスクフリーで迅速な収益を約束しているのを目にしたという。彼はビデオの中で同社に連絡し、退職後の貯蓄を数週間にわたる一連の取引に費やした。累計「投資」が69万ドルを超える。

次に想像できるのは、年金も会社ごと消えてしまったということです。

名前と一緒にディープフェイクAI技術はますます成熟しており、同様のビデオがインターネットに氾濫しています。有名なコンサルティング会社であるデロイトの推計によると、ディープフェイク動画は毎年数百億ドルの詐欺被害。

ディープフェイクビデオを監視する組織であるSensityは最近調査を実施し、分析しました2000 段落以上ディープフェイク動画、発見されるムスクは、このタイプのビデオで最も一般的な「代弁者」になっています。昨年末から、ディープフェイク詐欺動画のほぼ 4 分の 1 にマスク氏が出演中でも仮想通貨に関する動画の出演率は、90%。

その他の偽造の一般的なターゲットには、有名な投資家も含まれます。バフェット、アマゾンの創設者ベゾス待って。

1. 毎年数百億ドルが騙し取られており、マスク氏の出現率は1/4

これらのビデオを作成するために、詐欺師はまずマスク氏らの実際のインタビュービデオを見つけます。たとえば、冒頭のビデオのシーンはもともと、マスク氏がウォール・ストリート・ジャーナルで行ったインタビューから来ており、そのテーマは、会社の効率的な経営を実現するためにAIやその他のテクノロジーをどのように活用するかというものでした。

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲オリジナルのマスクインタビュービデオ

詐欺師はそれを利用しますリップシンク技術（リップシンク）、キャラクターの口の形を調整してから、音声クローン作成ツールAIがコピーした音声を追加します。

▲リップシンク（出典：『ニューヨーク・タイムズ』）

最後に、一部のビデオには BBC などの専門報道機関を模倣した偽のアイコンも追加されており、一般のインターネット ユーザーにとってはより説得力があるかもしれません。

▲ニュースロゴ（出典：『ニューヨーク・タイムズ』）

このようなディープフェイク動画がオンライン上でどれだけ流通しているかを正確に定量化することは困難です。 Facebook の広告ライブラリでこれらの詐欺によくある宣伝コピーを検索すると、何十万もの広告が見つかり、その多くはディープフェイク動画です。

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲AIベゾスのディープフェイク動画

YouTube にもこの種の動画がたくさんあります。 YouTube で「イーロン ビットコイン カンファレンス」を検索すると、ライブというラベルの付いたビデオが何十本も表示されますが、実際にはこれらは事前に録画されたディープフェイクビデオです。

▲YouTubeディープフェイク動画（出典：YouTube）

これらの「ライブブロードキャスト」の視聴者数は時々変化する可能性があります何十万もの, しかし、YouTube の確認によると、詐欺師は「水軍」を使って人数を増やし、人為的にこの数を水増しすることができるそうです。

今年5月、著名なコンサルティング会社であるデロイトは、生成AIによって引き起こされるディープ偽造詐欺のリスク増大に関する報告書を発表し、その中で金融テクノロジー分野におけるディープ偽造事件が2023年に発生すると言及した。700%増加、AI により 2027 年までに米国での詐欺被害が増加すると予測2023 年には 123 億ドルから 400 億ドルに，年間複利成長率は 32%。

▲生成AIによる詐欺被害の増加予測（出典：Deloitte）

ディープフェイク動画の数と影響力は増大しています。ディープフェイク動画を監視する団体Sensityの調査によると、2,000以上のディープフェイク動画の中から、マスク氏は最も一般的な「代弁者」となったに登場するディープフェイク詐欺動画のほぼ 1/4中でも仮想通貨を対象とした動画の出演率は、90%。

Sensity の共同創設者、Francesco Cavalli は次のように信じています。これは史上最大のディープフェイク詐欺になる可能性がある。

2. 費用が以下を超えないこと10米ドル、数分で大量の動画を偽造

実際、この種のビデオの制作コストはそれほど高くありません。費用はわずか 10 ドル未満です、 あなたはできる数分以内に大量のフェイクビデオが制作された。

これらの AI 生成ビデオは完璧ではありません。一部のビデオではマスク氏はロボットのように聞こえ、口の動きは常に一貫しているわけではありません。しかし、これらのビデオはかなり多くの人を騙すことができており、テクノロジーは進歩し続けています。

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲AI Musk ディープフェイク動画

Sensity の調査によると、この種の詐欺師は主にアジアや東ヨーロッパ諸国から来ており、無料かつ安価なツールを使用して動画を多言語に翻訳し、より広範囲に詐欺を広め続けています。

一般的なルーチンの 1 つは、偽のAIソフトウェアを宣伝する。詐欺師は、「広報担当者」にソフトウェアが驚くべき投資利益を生み出す可能性があると主張させ、最初に少額のお金 (通常は約 250 ドル) を渡すようターゲットに促し、その後、初期投資の価値が増加していると主張してゆっくりと誘い込みます。もっと投資してください。

たとえば、テスラの株主総会での次のビデオでは、マスク氏が AI を活用した自動取引製品を「デモンストレーション」しました。毎日特定の投資を 2 倍にすることができます, 「4,500ランドの投資だけで、1日あたり8,000ランドの安定した利益を得ることができます。」 （注：ランドは南アフリカの通貨単位です）

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲AI Musk ディープフェイク動画

これらの AI 詐欺師は通常、高齢のインターネット ユーザー、マスクやバフェットのような人物だけでなく、仮想通貨やAIなどの話題には詳しいかもしれませんが、安全な投資方法については詳しくありません。

カリフォルニア大学デービス校の技術研究教授で仮想通貨市場の専門家であるフィン・ブラントン氏は、「高齢者は非常に裕福でだまされやすいグループだ」と述べ、「ソーシャルメディアプラットフォームがなくても、高齢者は常にターゲットになっている」と述べた。詐欺の。」

マスクが標的にされる理由は、マスクには世界的なユニークな「ファン」グループがいるからだ。仮想通貨コミュニティを研究している専門家らによると、こうした人々は保守的で反体制的で仮想通貨愛好家で構成されていることが多く、新しいお金儲けの方法に惹かれることが多く、詐欺の格好の標的となっているという。

仮想通貨コミュニティ研究者のモリー・ホワイト氏は、このグループの人々は富の秘密が自分たちに隠されていると常に信じており、ひとたびその秘密を「発見」すると、それが自分たちに必要なのはそれだけだと考えると述べた。

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲AI Musk ディープフェイク動画

冒頭で述べた退職者のビーチャム氏は、75歳になる前はカナダの会社の営業担当者でした。彼は昨年フェイスブックを使い始め、CNNでマスク氏がインタビューを受けている広告を見た。

CNNの広報担当者によると、同氏はCNN公式のビデオも見たと主張したが、次のように述べた。マスク氏は何年も彼らからのインタビューを受けていない。

ビーチャム氏とビデオ内で言及された会社との間の電子メールのやりとりによると、昨年12月、彼はMagna-FXという会社に2万7216ドルを送金した。

Magna-FX は彼の投資価値が増加しているように見せかけ、販売代理店がソフトウェアを使用して Beauchamp のコンピューターを遠隔操作し、投資資金を送金するふりをすることさえ許可しました。

高く評価された資金を引き出すために、Beauchamp は 3,500 ドルの管理費と 3,500 ドルの手数料を支払うように言われました。電信送金後、約20万ドルを引き出すにはさらに2万ドルを支払う必要があると言われた。彼は再びお金を支払いました。

結局、ビーチャムさんは退職後の貯蓄を使い果たし、クレジットカードも限度額も限界まで使い果たし、投資と費用の支払いのために妹からお金を借りました。しかし、詐欺師たちは彼にさらに支払うよう要求し続けました。その後、ビーチャムさんは警察に通報した。

残念ながら、この件に関しては何の進展もありません。

3. プラットフォームの監視は、症状を解決するものではありますが、根本的な原因を解決するものではないという課題に直面しています。

虚偽広告の蔓延は、プラットフォームの監督の怠慢とも切り離せません。

動画が偽造された一部の人は法的措置をとった。オーストラリアの億万長者アンドリュー・フォレスト氏は、フェイスブックの親会社メタ社に対し、広告事業運営における過失を告発して民事訴訟を起こした。彼のディープフェイクビデオはFacebookの広告に使用されており、それが「無実のユーザーを悪質な投資に誘う」と信じていた。

Metaは、同社はプラットフォーム上での不正行為を捕捉するための自動検出システムを訓練していると回答したが、詐欺師が検出を回避するために常に戦術を変える「いたちごっこ」とも呼んだ。

YouTubeもディープフェイク動画に対して何らかの対策を講じている。 YouTubeは今年3月にポリシーを更新し、クリエイターに対し、作品にAIを使用しているかどうかの開示を義務付け、詐欺や動画の改ざんを禁止した。

YouTubeは声明の中で、今年1月から3月の間に同社がコンテンツポリシーに違反した1570万以上のチャンネルと820万以上の動画を削除したと述べた。ただし、ビデオを削除するだけではまだ根本原因は解決されません。プラットフォームは審査システムを再検討し、問題を根本から解決する必要があります。

結論: ディープフェイク動画はインターネットを汚染する

デジタル詐欺の歴史はインターネットと同じくらい古いです。しかし、AI テクノロジーが成熟し、AI ツールの使用コストがますます低くなるにつれて、このテクノロジーを使用して詐欺を行う場合の時間と費用も大幅に削減されています。マスク氏のような有名人をフィーチャーしたディープフェイク動画の新たな波がインターネットを汚染している。

テクノロジーの継続的な発展に伴い、ディープフェイクテクノロジーの見分けがより困難になる可能性があり、プラットフォーム、規制当局、法律に新たな要件が求められます。

ソース：ニューヨーク・タイムズ