ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

固定焦点 (dingjiaoone) オリジナル

著者 | 王陸

編集者 | 魏佳

百聞は一見に如かず、AI の顔変更は多くの人を騙してきました。

2日前、湖北省警察は、AIの顔変更技術を利用してソーシャルアカウントのロックを解除し、営利目的で転売していた事件を摘発した。犯罪者は AI の顔を変更して、プラットフォームによって凍結された出会い系アカウントのロックを解除できるよう支援し、ロック解除されたアカウントごとに 15 ～ 30 元を請求します。集団は計2107口座の凍結を解除し、40万元の利益を得た。

データによると、AI ベースのディープ偽造詐欺は 2023 年に 3,000% 急増するとのことです。ディープフェイクとも呼ばれるディープフェイクは、学習とフェイクを組み合わせたもので、主に AI ディープラーニング技術を使用して人物の写真や人物を合成することを指します。ビデオやサウンドなど、最も一般的なのは AI の顔変更です。工業情報化省は最近、AIによる顔を変える詐欺リスクリマインダー機能を開始すると発表した。

AI顔変更詐欺事件が多発する一方で、AI顔変更技術は繰り返され続けています。

AI サークルは最近、AI 顔変更プロジェクト、Deep-Live-Cam で話題になっています。ユーザーは写真をアップロードするだけで、ザッカーバーグやドン・ユフイなど、なりたい人物にリアルタイムで顔を変更できます。

このプロジェクトは無料ですべてのユーザーに公開されており、GitHub (コード ホスティング プラットフォーム) で公開されており、パーソナル コンピューターへのインストールをサポートしています。プロジェクト開発者がインストール方法を公開しており、技術的な経験のない一般の人でも学習とインストールを同時に行うことができます。

Deep-Live-Cam は、そのシンプルで便利な操作と顔の変更における高度なリアリズムにより、GitHub ホット リストで 1 位にランクされ、24 時間で 1,600 以上のスターを獲得しました (スターはプロジェクトのいいね! とフォローしている指標を表し、数千のスターを獲得しました)かなり良い）レベル）。多くのネチズンが顔をマスクに変えて、世界的な億万長者になった気分を味わいました。

しかし、誰もがAI顔変更技術の進歩を嘆く一方、「詐欺が容易になった」ことを懸念している。 AIによる顔を変えることをボイコットすべきでしょうか?

一般人でも使えるAI顔替え、

費用は十数元と安い

現在、国内外で AI 顔変更ツールが数多く存在しています。Deep-Live-Cam が話題になっている主な理由は次のとおりです。ユーザーは写真をアップロードするだけで済みますが、置換効果は非常にリアルで、リアルタイムの顔置換もサポートしています。

実際、「リアルタイム顔変更」機能の技術的敷居は高くありません。

Ruilai Intelligence の共同創設者でアルゴリズム科学者の Xiao Zihao 氏は、リアルタイムのビデオの顔変更効果を実現するには 2 つの方法があると述べました。1 つは、事前に作成された顔変更ビデオを再生することで、もう 1 つはアクセスすることです。リアルタイムで顔が変わるビデオ。 Deep-Live-Cam は後者に属します。

AI 顔変更ビデオは種類に関係なく、前後のフレームの連続性を考慮する必要があり、連続した顔ビデオに基づく処理では、前のフレームの多くの検出リソースに基づいて微調整を行うことができます。連続フレームベースのビデオ/ライブの顔変更は、個々のフレームで顔を変更するよりも効率的です」と AI テクノロジーに携わる研究者は述べています。

AI の顔を変更する基礎となるテクノロジーはディープフェイクであると専門家は推測しており、ディープライブカムもこのテクノロジーを使用しているため、合成に必要な材料と計算能力だけを考えると、コストはそれほど高くないと考えられます。

Xiao Zihao氏は、他のハードウェアの購入コストを考慮に入れなければ、ほとんどのAI顔交換のコストは、主に写真と計算能力を含めて1回あたりわずか十数元であり、Deep-Live-Camの場合はさらに低くなる可能性があると述べた。他の AI 顔変更ツールと比較して、Deep-Live-Cam は使用する写真が少なく、通常のコンピューターもサポートしており、写真と計算能力のコストが低くなります。

対照的に、ディープライブカメラたった 1 枚の写真で変面をサポートすることは、実践者にさらに衝撃を与えました。以前の AI 顔を変える製品では、ユーザーはさまざまな角度から少なくとも 12 枚の写真を提供する必要があったためです。

写真の難しさが軽減され、ユーザーは楽しく撮影できます。 AI フォロワーの Xiao C さんは、これまで AI 顔変更ツールに触れたことはなく、Deep-Live-Cam の操作の敷居は高くなく、発行者の指示に従って完了できると感じていると述べています。顔を変える素材を見つけるのもそれほど難しくありません。

彼は自分の顔を郭徳剛、呉静、雷嘉音などの有名人に変え、それぞれの写真を1枚だけ使用しました。正面顔、額に遮るものがなく、自然光で、自分の肌の色に近く、証明写真に示されているプロポーションの写真を提供する限り、1 枚の写真で成功し、顔の置き換え効果は得られると彼は言いました。とても自然です。

一部の映画やテレビドラマで使用されている AI 顔変更技術は敷居が高く、コストが高いだけでなく、顔の変更効果が十分に自然ではなく、撮影中に変形や歪みが発生することが多いと複数の専門家が考えています。話すプロセス。 「これが AI 顔変更ツールの最大の問題でしょうか?Deep-Live-Cam は、ライブ ブロードキャスト中の画像の効果をサポートできます。顔の端には明らかなマッピングの痕跡はなく、肌の色は元のキャラクターとあまり変わりません。 AI 顔変更ツール。」と Xiao Zihao 氏は、開発者は画像レンダリング モデルにおいて、以前の AI 顔変更ツールにはなかった画期的な進歩を達成できたはずだと分析しました。

ただし、Deep-Live-Cam には、顔の変更はサポートされるが音声の変更はサポートされないなど、いくつかのバグがまだあります。しかし、Xiao Zihao氏は、これを実現するのは難しいことではなく、リアルタイム音声変更ツールに接続するだけで、プログラミングの基礎が少しあれば誰でも完了できると述べた。

AIによる顔の変化、

避けられない詐欺や侵害

Deep-Live-Cam などのツールにより、ユーザーの敷居は低くなりましたが、犯罪者が写真だけを使用して顔を変更し、詐欺を行うことができるのではないかと誰もが懸念し始めており、一般の人にとってはリスクが大幅に増加します。

Ruilai Smart Dataは、国内のAI詐欺事件の被害額は2020年の20万件から2023年には1,670万件に増加し、年平均成長率は1928.8％にも達すると指摘した。 2024 年上半期の AI 詐欺事件は 1 億 8,500 万件を超えました。 Qi'anxinが発表した「2024年人工知能セキュリティレポート」によると、AIを利用したディープフォージェリ詐欺は2023年に3,000％増加した。

AI詐欺でよく使われる手法は、AI音声変更、AI顔変更、AI生成の3つで、その中でAI生成コンテンツには秒数が限られており、画質や文字に明らかな欠陥があるため、AI音声変更とAI顔が使用される。 -変更は、犯罪者が最もよく使用する方法です。ほとんどの人は「百聞は一見にしかず」と信じているため、AI の顔の変化は AI の声の変化よりも欺瞞的になります。

AI の顔を変えることで高齢者がだまされただけでなく、テクノロジー分野で働く多くの若者が一夜にして数百万ドルもの損失を被りました。

公的メディアの報道によると、昨年、あるテクノロジー企業のCEOが友人から送金依頼を受け、10分も経たないうちに430万元を騙し取られたという。詐欺師は主にAIの顔を変える技術を利用した。香港の多国籍企業の従業員も、犯罪者が仕組んだ上級幹部らとのテレビ会議にだまされて相手の口座に２億香港ドルを送金したという。

AIによる顔の変更は「本物と混同される可能性がある」段階に達しているというのが実務家の一致した意見だ。

詐欺対策チームの責任者であるLi Xu氏は、AI顔変更技術への関心はさまざまな詐欺事件に端を発していると述べた。同氏は、AI顔を変える詐欺事件は過去2年間で頻繁に発生しており、非常に成熟したAI顔を変える詐欺手口が3つほど市場に出回っていると述べた。

1つ目は、AIを使って顔を変えたり、偽のポルノビデオを使って被害者を脅迫したりするというものだ。

例えば、犯罪組織はインターネットなどのさまざまな経路から被害者の写真や映像情報を収集し、ワンクリックで衣服を脱がせたり、AIによる顔を変更するなどの合成処理を行って、偽造したわいせつ映像やヌード写真を被害者に送信する。強奪のため。

2つ目は、AIを利用して顔を変え、知人になりすまして詐欺を行うタイプです。

たとえば、詐欺集団は市販されている顔を変えるツールを使用して被害者の親族、友人、同僚、指導者などになりすまして、まず緊急の理由をでっち上げ、騙されたターゲットの詐欺行為への焦りを利用します。油断してお金を送金してしまうのは簡単です。

現在、ディープライブカメラを使用することで、被害者の写真を 1 枚か 2 枚集めるだけでディープフェイク動画を作成できるようになりました。Li Xu 氏は、AI による顔を変える詐欺の範囲はほとんどの一般人の認識を超えていると感じています。通信詐欺のシナリオも防御が難しく、さらに悪化しています。

第三に、AI の顔を変えることにより、有名人になりすまして生放送を行い、ユーザーをだまして注文させます。

たとえば、アンカーは「AI 顔変更」を使用して生放送室の有名人の顔を「変更」することで、生放送のビデオ トラフィックを増加させ、生放送による商品の販売に貢献します。

また、AIによる変顔を使った著名人・一般人の長短動画の作成や、他人の許可なく絵文字を作成するといった侵害問題も非常に多いです。

AI の顔を変える詐欺事件はさまざまな手口で頻繁に発生しており、これはこのテクノロジーの成熟度と幅広さに密接に関係しています。

Hanhao Technology CEOのWu Jieqian氏は「Dingjian」にこう語った。「現在、AI ビデオ生成、デジタル ヒューマン、AI 顔変更技術はすべて成熟しており、AI 顔変更は最も早く開発された分野です。」

2014 年のディープフェイク技術の出現は、AI 顔変更の誕生を示しましたが、一部のユーザーがその技術を使用して偽のポルノ画像を投稿した 2017 年になって初めて、AI 顔変更が登場しました。しかし同時に、このテクノロジーは大量の偽コンテンツをもたらすため、物議を醸しています。

複数の実務家は、近年、AI 顔変更に関する公の議論は主に映画やテレビドラマの保存に焦点を当てているが、監督が不十分なため、詐欺目的での AI 顔変更の使用が後を絶たないと述べた。また、AI変面技術は進化を続けており、現在では一部の大手メーカーに加え、国内の多くのデジタル人材やAIによる映像スタートアップがAI変面ビジネスを開発しており、多くの参入企業が存在している。テクノロジーは比較的普及しています。そのようなツールはますます増えています。

この技術は成熟していて普及しており、監視も困難であるため、AI 顔変更技術は長年にわたって悪用されてきました。

ますます現実的になる AI の顔交換をどのように識別するか?

過去 2 年間、AI の顔変更は多くの違法行為や犯罪行為を引き起こしており、その制御不能性から、AI の顔変更技術はボイコットされるべきだと考える人もいます。

しかし、多くの専門家は、テクノロジー自体は中立であり、その良し悪しの影響は主にユーザーに依存すると信じています。 AI 顔変更テクノロジーの出現と反復を止めるべきではありません。

ジェシー・ウー氏は、現時点では国内外のAI顔面変更技術に対する万能のアプローチは存在せず、むしろ立法管理が重要だと述べた。

たとえば、米国はディープ偽造に関する特別法を導入し、欧州連合は一般データ保護規則などの既存の法的枠組みや規制にディープ偽造を組み込み、ドイツ、シンガポール、英国などの国々も同様の規制を導入しています。偽造関連犯罪を刑法制度に深く組み込む。中国も「インターネット情報サービスの深層総合に関する規定」でこの技術の仕様を明らかにしている。

多くの実務家は、AI やその他の管理方法によって作成されたコンテンツにラベルを付けること、また AI 詐欺を防ぐための方法を一般に教えることが非常に必要であると考えています。

たとえば、一部の技術者は、ビデオ通話中に、相手に顔に指を当てて顔が変形していないか注意深く観察するよう依頼したり、口を開けて歯や歯並びが崩れていないか確認するよう依頼したりすることを提案しました。舌は鮮明で完全であるため、画像が本物の人物であるか、AI が合成したものであるかを判断できます。

この方法は昨年は比較的効果がありましたが、今年はAI顔変更技術のアップグレードにより失敗しました。

Xiao Zihao氏は、現在のAI顔変更技術は以下のことを実現できると述べた。障害物があっても顔や動きが崩れず、画質も非常にクリアです。Li Xu も発見しました。最近の AI 顔変更詐欺事件では、非常に強力な技術的手段が使用されており、動きだけで特定することはほぼ不可能です。

AI 顔変更技術の急速な発展を考慮すると、現時点では警戒心を高めることが比較的効果的な方法だと Li Xu 氏は考えています。たとえば、知人からお金を借りるためにビデオ通話を受けたとき、相手だけが知っているプラ​​イベートな質問を相手にぶつけたり、より多くの周囲の人に確認を求めたりすることができます。

実務家の中には、AI を使用して AI を識別するのが良い方法かもしれないと感じている人もいます。

例えば、顔のエッジに傷がないかなど、明らかに常識に反する要素がないかをまずチェックし、AIツールを活用します。 Xiao Zihao 氏は、AI を使用して詐欺の大部分を特定できると考えています。現在、多くの企業や政府部門が AI の顔を変える防御システムとの協力を打診しています。

しかし、この動きは国内外でいくつかの論争も引き起こした。

まず第一に、この方法には使用するための一定のしきい値があり、ユーザーは携帯電話/コンピューターに関連するアプリケーションをダウンロードする必要があります。第二に、本質的に、この種の防御ツールは主に現在の AI 顔変更ツールに対応するため、一定の遅れがありますが、AI 顔変更テクノロジーと合成方法は常に変化しています。

AI変面詐欺やAI変面ポルノビデオの販売、変面タレントのグッズ販売などの違法行為の厳罰化など、関連法規制の整備に期待を寄せている人は多い。

昨年、杭州蕭山区の人民法院は、AI変顔を利用してわいせつビデオを制作した訴訟で判決を下し、被告はAI変顔をカスタマイズしたサービスを提供し、AI変顔を介して大量のわいせつビデオを制作し、また、金群容疑者はAIの顔を変える手法を使って視聴者に金を支払わせたが、この事件に関与した総額は6万元を超え、最終的に懲役7年3か月と罰金6万元を言い渡された。

ただし、皆さんに思い出していただきたいのは、AIによる顔変更のすべてが肖像権侵害となるわけではありません。

今年6月、北京インターネット法廷は2件のAI顔を変える侵害訴訟を宣告した。2人の中国風のショートビデオモデルは、自分たちのビデオがソーシャルプラットフォーム上の顔を変えるAPPに掲載されていることを発見し、APPの背後にあるテクノロジー企業を訴えた。裁判所は、肖像権と人格権を侵害したと判断した。

判決は、被告が原告が出演する映像を使用したが、当該映像における原告の顔は差し替えられていたため、原告の肖像権を侵害するものではなく、この行為が著作権侵害に当たると認定したにすぎない。原告の個人情報の権利の侵害。

現時点では、AI 顔変更技術はまだアップグレードされており、AI 顔変更ツールはまだ大量に出回っています。

「Dingjiao」は最近、電子商取引プラットフォームで「AI 顔変更」を直接検索しましたが、情報は見つかりませんでした。ただし、キーワードを少し変更する限り、関連する顔変更ツールが販売されています。パスはより秘密であり、取引のために中古の Web サイトにジャンプします。テクノロジーと欺瞞が絶えず進歩している現在、誰もができることは、AI の顔の変更による被害を防ぐために、より警戒することです。

※記事内のタイトル画像と添付画像はPexelsより提供させていただいております。