ニュース

人工知能 (AI) の開発と反復により、生成型 AI は前例のないスピードで日常生活を再構築していますが、そこから派生した新たな詐欺や新たなルーティンも、リスク予防に対する人々の理解を新たにしています。この背景には、消費者の財産の安全だけでなく、個人の安全のリスクや隠れた危険も存在します。

最近、外国メディアが新たなデジタル詐欺を暴露しました。詐欺師は複雑な AI ツールを使用して、テスラ CEO のマスクなどの有名人のビデオを作成し、これらの「AI 有名人」を利用してさまざまな偽の商品や高い収益を約束します。投資。

典型的なケースでは、「AIマスク」が支持するいわゆる外国為替会社が、82歳の退職者から生涯貯蓄のうち69万ドル（約495万元）以上をいとも簡単にだまし取った。

このタイプの詐欺では、詐欺師は通常、まずマスクがインタビューを受けている本物のビデオを見つけ、次に AI ツールを使用して彼の声を置き換え、リップシンク技術を使用してマスクの口の形を編集してビデオをより本物に見せます。一般の人にとって、この種のフェイクビデオを見分けるのは非常に難しいかもしれません。

マスク氏のほかに、「株の神様」バフェット氏やアマゾン創業者のジェフ・ベゾス氏も、こうした詐欺動画によく出演する著名人だ。

「AIマスク」が横行しており、生成には数分しかかからないが、誰かが500万元近くをだまし取られた。

ここ数カ月間、「ディープフェイク」として知られる何千ものAIを活用した動画がインターネット上に氾濫した。Deloitte の推計によると、AI を利用した「ディープフェイク」動画や広告は、毎年数十億ドルの詐欺被害を引き起こすと予想されています。

しかし、これらのビデオの作成にかかる費用はわずか数ドルで、数分で作成できます。このようなビデオは有名人であるため、Facebook の有料広告などのソーシャル メディアで広く宣伝され、リーチが増加します。

詐欺師は、以下のようなウォール・ストリート・ジャーナル紙のマスク氏へのインタビューのような実際のビデオから始める。質問者は同紙の編集者ソロルド・バーカー氏で、その声もビデオクリップに登場している。

画像出典：「ウォール・ストリート・ジャーナル」

「ディープフェイク」動画では、マスク氏の口の動きが、人の話し方を調整する口パク技術を使って編集されていた。詐欺師は、サンプルから任意のサウンドをコピーできる音声クローン ツールを使用して AI 音声を追加することもあります。したがって、結果として得られるビデオは、平均的なインターネット ユーザーにとって非常に説得力のあるものになる可能性があります。

これに騙された人もいます。82歳の退職者スティーブ・ビーチャム氏は典型的なケースだ。海外メディアの報道によると、昨年末、82歳の退職男性ビーチャムさんはビデオ広告を視聴した。このビデオの中でマスク氏は、迅速な収益を約束する積極的な投資機会を支持しており、彼の口の形と声はよく一致しています。マスク氏の象徴的な南アフリカのアクセントも組み込まれています。非常にリアルに見えます。そこでビーチャム氏は、Magna-FX という広告の背後にある外国為替会社に連絡し、248 ドルで口座を開設しました。数週間にわたる一連の取引の後、ビーチャム氏は退職金口座を使い果たし、最終的に69万ドル以上を投資することになったが、その資金はすべてなくなった。

別の人によると非営利の消費者擁護団体「ベター・ビジネス・ビューロー」の報告書によると、テキサス州の男性は、2023年2月にマスク氏がいわゆるYouTubeの「ライブ」ビデオで講演するのを見て、3.6ドル相当のお金を失ったと述べた。同氏は「ビットコインを送ったが、二度と何も受け取らなかった」と述べた。

「ディープフェイク」の監視と検出を担当する企業である Sensity は、2,000 以上のディープフェイク動画を分析し、これまでのところ、マスクは、このタイプのビデオで最も一般的な「AI 画像」です。具体的には、昨年末以降、「ディープフェイク」詐欺の4分の1近くに「AIマスク」が出現している。仮想通貨関連の「ディープフェイク」動画では、彼の出演頻度は90％にも上る。

この点に関して、仮想通貨コミュニティを研究している専門家らは、マスク氏には保守派、反体制派、仮想通貨愛好家など、独特のファン層が世界中に存在しており、そのようなグループは別の金儲けの方法に惹かれることが多いと述べている。これにより、デジタル詐欺師にとっても格好の標的となります。さらに、このグループの中でも、高齢のインターネット ユーザーが詐欺師の標的になる可能性が高くなります。このグループは暗号通貨、AI、マスクに精通していますが、十分な警戒心を持っていないことがよくあります。

マスク氏のほかに、「株の神様」バフェット氏やアマゾン創業者のジェフ・ベゾス氏も、こうした詐欺動画によく出演する著名人だ。

AI テクノロジーは詐欺のツールとなっており、Facebook と YouTube は最も大きな被害を受けている分野です

海外メディアの報道によると、現在オンラインで流通している「ディープフェイク」動画の数を定量化することは困難だが、Facebookの広告ライブラリでこれらの詐欺によくあるキーワードを検索すると、数十万件の広告が見つかる可能性があり、その多くには「ディープフェイク」動画が含まれている。 。

Facebookはポリシーに違反する多くの動画を削除し、一部のアカウントを停止したが、他の動画は依然としてオンライン上に出回っており、毎日さらに多くの動画が公開されているようだ。 Facebook だけでなく、YouTube にもこうした偽動画が溢れており、多くの場合「ライブ」タグが使用されています。しかし実際には、これらのビデオは事前に録画された「ディープフェイク」ビデオです。

YouTube は声明で、今年の第 1 四半期だけでも、1,570 万以上のチャンネルと 820 万以上の動画が削除されました。このコンテンツの大部分は、スパム対策ポリシーに違反したため削除されました。

このような「ディープフェイク」広告の蔓延を受け、オーストラリアの億万長者アンドリュー・フォレスト氏も、フェイスブックの親会社メタ社の広告事業運営における過失を告発して民事訴訟を起こすに至った。同氏は、フェイスブックの広告事業が「罪のないユーザーの間違った投資」を誘発していると考えている。 Metaは、同社のプラットフォーム上で不正を捕捉するための自動検出システムを訓練していると述べたが、潤沢な資金を持つ詐欺師は検出を回避するために戦略を変更し続けるだろうとも述べた。YouTubeは、自社のポリシーで詐欺や改ざんされた動画は禁止されており、今年3月にはクリエイターに対し、本物のコンテンツを作成するためにAIを使用する場合は開示するよう義務付けたと発表した。

実際、デジタル詐欺は新しいものではありませんが、昨年 AI ツールがオープンソースになって以来、「ディープ フェイク」動画の新たな波が爆発的に発生しました。

今年の初めに、米国連邦取引委員会（FTC）とFBIも、AIを活用したサイバー犯罪とディープフラウドが増加していると警告している。FBIは「犯罪者はAIを利用してサイバー攻撃やその他の犯罪行為をより効果的にし、検出を困難にしている」と述べた。

「ディープフェイク」ビデオは完璧ではなく、一部のビデオでは「AIマスク」の口の形が一致しないこともあるが、一部の詐欺師のターゲットグループにとって、彼らが制作するビデオは十分に興味深いものであるようであり、説得力があると一部の専門家は述べている。常に改善しています。

さらに、一部の詐欺では、多額の投資利益が得られると主張して、偽の人工知能ソフトウェアを宣伝することがあります。詐欺師はこれを利用して、ターゲットの視聴者をだまして最初に少額の資金 (約 250 ドル) を投資させます。その後、詐欺師は投資の価値が上がると主張し続け、人々は徐々により多くの資金を投資するように誘惑されることがよくあります。

人生の貯金を騙し取られたボーシャン「現時点では、私はだまされやすさに対する罰として、すべての批判や嘲笑を喜んで受け入れるつもりだ」と同氏はBetter Business Bureauへの報告書で述べた。

同氏は、詐欺師たちに非公開の少額の退職金口座と年金に頼ってやりくりしており、その貯蓄を使って世界一周旅行をするつもりだったと語った。ボーシャン地元警察には通報済みだが、事件はゆっくりと進んでいる。 「詐欺事件が多発したため、私の訴訟は保留されました。あまり期待していませんでした。」と彼は言いました。

毎日の経済ニュース