ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

AIによって生成された偽マスクは、オンライン最大の嘘つきとなった。

元のリンク: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

出典: NetEase Technology (ID: tech_163)

原題：AIによって生成された偽マスクはオンライン最大の嘘つきとなった

8月15日の米国メディアの報道によると、人工知能ディープフェイク技術（ディープフェイク）は、近年オンライン詐欺、特にイーロン・マスクの偽動画を使った詐欺行為に広く利用されているとのこと。動画はマスク氏の声や動きを模倣することで投資家を誤解させた。このようなディープフェイク動画は安価で急速に拡散するため、詐欺師は詐欺行為の範囲を容易に拡大でき、その結果、偽の投資機会により多くの被害者が巨額の損失を被ることになります。ディープフェイクのリスクがますます明らかになるにつれ、ディープフェイクによる詐欺被害は毎年数十億ドルに達すると予想されています。

翻訳の全文は次のとおりです。

82歳の退職者スティーブ・ビーチャムさんは家族に収入を加えたいと考え、イーロン・マスクに希望を託した。昨年末、ビーチャム氏はマスク氏が短期間での利益を約束する積極的な投資計画を推奨しているように見えるビデオを見つけた。これに触発されたビーチャムさんは、すぐにビデオの背後にある会社に連絡し、248 ドルで投資口座を開設しました。しかし、その後数週間で徐々に投資額を増やし、最終的には退職金口座から 69 万ドル以上を引き出しました。

しかしその直後、そのお金は人工知能を利用して新しいタイプのデジタル詐欺を実行する詐欺師グループの手に渡って消えてしまいました。詐欺師たちはマスク氏の実際のインタビューを巧妙に改変し、AI技術を使ってマスク氏の声を置き換え、デジタルヒューマン用に書いた新しい台本に合わせて口の形を微調整した。平均的な視聴者にとって、この操作はほとんど知覚できません。

ビーチャム氏はビデオを思い出し、感慨深そうにこう語った。「ビデオの中で彼は独特のイメージを持っており、一目でマスクであることがわかります。彼にその言葉を言わせたのがAIかどうかについては、今となってはわかりません。しかし、ただ「ビデオに関する限り、もし誰かが私に群衆の中で彼を特定するよう求めたら、私は間違いなく彼を指摘することができます。」

01

マスク氏はディープフェイクを頻繁に訪れるようになる

ここ数カ月間、インターネット上には、潜在的な投資家を誤解させるためにマスク氏の偽の画像が使用された「ディープフェイク」として知られる、AIを利用した動画が何千本も氾濫している。デロイトは、この種の AI を利用したディープフェイクは、毎年数十億ドルの詐欺被害につながる可能性があると推定しています。

これらのビデオは制作費が非常に安く、数分で完了でき、Facebook の有料広告などのソーシャル メディアを通じて宣伝されるため、リーチが大幅に広がります。ディープフェイク動画の監視と検出を行う企業Sensityの共同創設者で脅威インテリジェンス担当ディレクターのフランチェスコ・カヴァリ氏は、「これは史上最大のディープフェイク詐欺になるかもしれない」と警告した。

ビデオは多くの場合本物のようで、マスク氏の特徴である途切れ途切れのイントネーションと南アフリカのアクセントを正確に捉えています。詐欺師は通常、ウォール ストリート ジャーナルのインタビューなどの本物のビデオから始めますが、レポーターの音声は偽のビデオに残されているため、ビデオの信頼性が高まります。

高度な口パク技術を使用して、詐欺師たちはマスクの口の動きを調整して、偽のセリフに完全に一致させました。また、サンプル クリップから任意のサウンドをコピーできるサウンド クローン ツールを使用して AI サウンドを追加しました。最終的な広告には、報道機関のスタイルを模倣した偽のグラフィックも含まれる場合があり、これは平均的なインターネット ユーザーにとって非常に説得力のあるものになる可能性があります。

Sensity の分析によると、これらのビデオで最もよく登場するのはマスク氏です。彼は、特に昨年末以降、分析された約 2,000 のサンプルのうち、ディープフェイク詐欺のほぼ 4 分の 1 に登場していました。仮想通貨をテーマにした動画の中では、この割合は 90% 近くに達することもあります。ディープフェイク広告には、ウォーレン・バフェットのような有名な投資家や、アマゾンの創設者ジェフ・ベゾスなどの実業家もよく登場します。

オンラインで流通しているディープフェイクの数を正確に数えることは困難ですが、Facebook の広告ライブラリで一般的な詐欺関連の文言を検索したところ、何十万もの広告が見つかり、その多くにはディープフェイク動画が含まれていました。 Facebookはポリシーに違反したコンテンツの多くを削除し、関与したアカウントを禁止したが、他のビデオはネットワーク上に残り、毎日さらに多くのビデオが公開されているようだ。

YouTube には偽のコンテンツも氾濫しており、多くの場合「ライブ」ラベルが付いています。実際、これらは事前に録画されたディープフェイクビデオです。 YouTube で「イーロン ビットコイン カンファレンス」などのキーワードを検索すると、ライブ配信を装った数十の動画が表示されますが、この動画に登場するディープフェイクのマスク氏は、非常に誤解を招く詐欺を行っています。

ドナルド・J・トランプ前米国大統領がビットコインカンファレンスで講演した後、すぐに「ライブ」と表示された数十の動画がYouTubeに公開され、マスク氏の事前に録画されたディープフェイク動画が表示され、同氏のアカウントに送金された仮想通貨が2倍になると主張した。しかし、ビデオは多くの視聴者を魅了し、中には数十万回の再生回数に達するものもありました。しかしYouTubeは、詐欺師がオンライン荒らしを利用して再生回数を人為的につり上げている可能性があると述べた。

非営利の消費者擁護団体であるベター・ビジネス・ビューローの報告書によると、2023年2月にテキサス州在住の男性が、ビットコインのいわゆる「ライブ」ビデオを通じてマスク氏を騙る詐欺メッセージを見て3万6000ドルを失った。 「ビットコインを送金したが、何も受け取らなかった」と住民は語った。

02

FBとYouTubeが最も大きな打撃を受ける

YouTubeは声明で、今年1月から3月だけで同プラットフォームが1570万本以上のチャンネルと820万本以上の動画を削除したが、その主な理由はスパム対策ポリシーに違反したと述べた。

虚偽広告の蔓延を踏まえ、オーストラリアの億万長者アンドリュー・フォレスト氏は、フェイスブックの親会社メタに対し、これらの広告事業が罪のないユーザーを誤った投資に誘導したとして、同社の広告事業における過失を告発して民事訴訟を起こした。フォレスト自身のビデオもディープフェイク広告の作成に使用されたと報告されています。

これに対しメタ社は、プラットフォーム上での不正行為を特定するための自動検知システムを訓練していると述べたが、潤沢な資金を持つ詐欺集団が検知を回避するために常に戦術を変えるため、複雑なイタチごっこであることは認めた。 YouTubeは詐欺や動画改ざんに対する方針を改めて表明し、今年3月にはすべてのクリエイターに対し、AIを利用してリアルなコンテンツを作成する際には明確な開示を行うよう求めた。

インターネット上には、多くの人が貯蓄を失った詐欺の報告が溢れています。香港証券先物委員会は５月、マスク氏が関与した詐欺行為について警告を発した。今年初め、連邦取引委員会とFBIも、AIを活用したサイバー犯罪とディープフェイク詐欺の増加についてアメリカ国民に警告した。

FBIは電子メールで発表した声明で「サイバー攻撃やその他の犯罪行為をより効果的にし、検出を困難にするために、犯罪者はAIをパワーアンプとして利用している」と強調した。

デジタル詐欺はインターネットの成長と並行して増加しています。しかし、昨年、一般の人が有名人の声を複製したり、ビデオを正確に操作したりできる高度なAIツールが利用可能になったことで、マスク氏を特徴とするディープフェイクの新たな波が現れ、ポルノ業界やミームメーカーの注目を集めた。詐欺師とますます増えている詐欺集団。

サイバーセキュリティ研究所CTM Insightsの創設者であるルー・スタインバーグ氏は、「組織犯罪グループがこの方法で金儲けができることを発見したため、状況は変わりつつある。今後、このような偽造の試みがますます増えるだろう」と予測している。金銭を騙し取ることだけが目的。 」

AI によって生成されたビデオは完璧ではありませんが、たとえば、一部のビデオではマスクの声がロボットのように聞こえる場合があり、彼の口の形が必ずしもセリフと一致しないわけではありません。しかし専門家らは、動画は一部の詐欺ターゲットにとって十分説得力があり、技術は時間の経過とともに改良されていると警告している。

Sensity の Cavalli 氏によると、ビデオの作成費用はわずか 10 ドル程度で、ほとんどの詐欺師はさまざまな無料または安価なツールを使用して 10 分以内に偽ビデオを作成します。彼らは主にインド、ロシア、東ヨーロッパにいます。

「それはうまくいきます」とカヴァリ氏は語った。 「その結果、彼らは引き続きこの活動を拡大し、国境を越え、複数の言語に翻訳し、より多くのターゲットに詐欺を拡散し続けるでしょう。」

03

高齢者は完璧なターゲットになる

この種の詐欺は、多くの場合、最初に被害者に 250 ドルなどの少額の投資を誘導するために、高収益の人工知能投資ソフトウェアを使用します。その後、投資による付加価値効果を誇張することで、徐々に投資額の増加を誘導します。

テスラの株主総会のビデオも捏造され、その中でマスク氏はAIを活用した自動取引製品について説明し、投資収益率を毎日2倍にできると主張した。

仮想通貨コミュニティを研究している専門家らは、マスク氏には世界的なファンというユニークなグループがあり、そのほとんどが保守派、反体制派、仮想通貨愛好家で、彼らは富を築くための非伝統的な方法を探すことが多いため、詐欺の理想的なターゲットになっていると指摘している。 。

「富の秘密は隠されていると信じている人々のグループが間違いなく存在します」と、仮想通貨コミュニティを研究する研究者のモリー・ホワイトは言う。彼女は、富の秘密をマスターすることを常に空想し、それを見つけたら一夜にして金持ちになれると考えている人がいると指摘した。

詐欺師は特に、仮想通貨、人工知能、マスクについては知識があるものの、安全な投資方法には詳しくない高齢のインターネット ユーザーをターゲットにしています。

「ソーシャルメディアが台頭する前から、高齢者は常に詐欺師の標的だった」とカリフォルニア大学デービス校の仮想通貨市場専門家のフィン・ブラントン研究教授は語る。

ビーチャムは未亡人で、75 歳で退職するまでカナダのオンタリオ州にある会社の営業担当者として働いていました。 2023年にFacebookに入社して間もなく、広告詐欺に遭遇した。同氏はマスク氏をCNNの生放送で見たことを思い出したが、CNNの広報担当者はマスク氏が同局で何年もインタビューされていなかったと述べた。

同氏と同社との電子メールのやりとりによると、ビーチャム氏は12月、Magna-FXという会社に2万7216ドルを送金しており、その影響で投資価値が上昇していると確信したという。この期間中、販売代理店はソフトウェアを使用してビーチャム氏のコンピュータを遠隔制御し、許可なく資金を送金することさえあった。

ビーチャム氏が資金を出金しようとしたところ、3,500ドルの管理手数料とさらに3,500ドルの手数料を支払わなければならないと言われました。彼はその金を支払ったが、後に約20万ドルの資金を解放するには2万ドルを支払う必要があると言われた。彼が退職後の貯蓄を使い果たし、クレジットカードを限度額まで使い果たし、信用枠を利用し、投資と経費の支払いのために妹からお金を借りたにもかかわらず、詐欺師は彼に追加の支払いを要求した。この時までにビーチャムさんは問題の深刻さに気づき、警察に連絡した。

Magna-FX の痕跡のほとんどは、同社の Web サイト、ビーチャムと通信していたエージェントが使用していた電話番号、電子メール アドレスなど、Web 上から消えています。同様の名前とサービスを提供する会社はコメント要請に応じなかった。

「現時点では、私はだまされやすさに対する罰として、すべての批判と嘲笑を受け入れるつもりです」とビーチャム氏はBetter Business Bureauへの報告書で述べた。

同氏は、詐欺師らに明かしていない少額の退職金口座と年金に頼ってやりくりしており、その貯蓄を使って世界一周旅行をするつもりだったと語った。ビーチャムさんは地元警察に犯行を届け出たが、事件はゆっくりと進んでいる。

「あまりにも多くの詐欺事件があったため、私の訴訟は保留されました。あまり期待していませんでした。」と彼は語った。

※ヘッダー画像出典：Visual China

オタクが尋ねた

ソーシャルメディアプラットフォーム

ディープフェイクコンテンツの蔓延に直面して、

責任は何ですか?

蔡崇信: 優れたリーダーは、最も自意識の高い人でなければなりません。

いいねとフォローGeek Park ビデオ アカウント，