ニュース

「少し前に、誰かが私の写真を見たとプライベートメッセージを送ってきて、プライベートで電話に出てもいいかと尋ねてきました。私が注意深く調べたところ、いわゆる写真はAIによって合成されたものであることがわかりました。」とブロガーのシャオさんは語った。 Kさん（仮名）には今でも恐怖心が残っています。

近年、AI技術は徐々に多くの人々の生活に入り込んでいますが、一部の歪んだ考えを持つ人々もビジネスチャンスを見出しています。北京ニュースシェルファイナンスの記者の調査によると、現在、黒とグレーの製品プラットフォームでインターネットの有名人や女優を販売する「AI脱衣」写真グループが多数存在することが判明した。ブラック＆グレー業界の専門家によると、5元で「衣服の脱着」が可能、20元で「ビデオ顔の変更」が実現できるという。この業界チェーンには、目を引く写真でトラフィックを集め、「会員制」サービスで利益を上げる業者もいる。また、BilibiliやXiaohongshuなどのプラットフォームには「AI脱衣チュートリアル」などのタイトルで注目を集める動画作者もいる。

これに関連して、北京中文法律事務所のパートナーである趙胡氏は、AIが脱衣した写真やAIが顔を変えた写真を販売することは公安行政処罰法の規定に違反し、加害者は拘留または罰金の行政罰に処されるだろうと述べた。 、刑事責任を問われる可能性もあります。写真を販売せずに流布した場合でも、情状が重大であれば、わいせつ物頒布罪となり、法に基づいて相応の刑事責任を追及されることになる。テクノロジーの教育には犯罪を幇助または教唆した疑いがある。また、加害者によるAI衣服脱衣やAI顔変更行為も国民の個人情報の侵害を伴います。

「ディープ偽造と従来の技術的偽造にAIを使用することの間に本質的な違いはありませんが、効率は従来の偽造方法よりもはるかに高く、技術的な敷居ははるかに低く、一般の人々がそれを達成するのが簡単であり、作品は深層偽造により、インターネットの氾濫がさらに進むだろう」とQi'anxin Groupの産業セキュリティ研究センター所長であるPei Zhiyong氏は、写真やビデオの偽造防止技術を積極的に研究し促進する必要があると北京ニュースシェルファイナンスの記者に語った。

マルチプラットフォームのインターネット有名人がトラフィックを集めるために「脱衣」に遭遇：5元のカスタマイズされた写真

簡単な調査の結果、Little K はついに写真の流出元を発見しました。誰かが彼の「AI 脱衣」写真を使用して、外国のソーシャル プラットフォームやポルノ Web サイトのトラフィックを集め、AI 画像編集サービスを販売したのです。

リトル K の経験は特別なものではありません。すでに昨年3月には、小紅書ブロガーが地下鉄で撮影した写真が人工知能によって「脱がされ」、WeChatグループで拡散された。このブロガーのコメント欄には、多くの女性たちが同じような経験を訴え、共感し合い、感情を隠しきれない様子でした。

シェル・ファイナンスの記者は手がかりを探し、「AIストリッピング」に携わる売り手を発見した。相手は、写真を提供すれば、さらに5元で「衣類除去」サービスを提供できると言い、写真で効果が得られない場合は、写真を変更するために連絡してください。さらに、20元で「ビデオ変面」も受けられます。

出品者は「最近『脱衣』の注文が多すぎて、顔交換する気にもなれません」と話していました。

北京ニュースシェルファイナンスの記者と「AIストリッピング」販売者の間のチャット履歴のスクリーンショット。

ポルノにおける「AI脱衣」技術の悪用は、2020年に海外でリリースされたソフトウェアにまで遡ることができる。論争のため、開発者によってすぐに棚から撤去された。それにもかかわらず、このテクノロジーは依然として一部の犯罪者によって金儲けのために使用されています。

今年6月、北京警察は、かつてインターネット企業に勤めていた技術者が「コンピュータAIが格安で服を脱がせる」「周囲の人やネットの有名人、著名人も利用できる」と主張した事件を捜査した。 」と、そうすることで余分なお金を稼ぎました。各写真の写真はわずか 1.50 ドルです。彼はインターネットを通じて関連写真を 351 人に販売し、合計 7,000 枚近くの写真を販売しました。最終的に、彼は営利目的でわいせつ物を頒布した罪で北京海淀区検察局に起訴された。

シェルファイナンスの記者による調査で、「AI脱衣」は現在、AIディープフェイク写真の販売、通常の写真の有料AI「Pピクチャ」の販売、脱衣を実現するための「技術」の指導など、業界チェーンを形成していることが判明した。 。

さらに、黒とグレーの製品はすでに女性のネット有名人や女性有名人などの有名人をターゲットにしており、「AIストリッピング」はトラフィックパスワードになっています。

シェル・ファイナンスの記者らは、「インターネット有名人XXの脱衣交換グループ」と呼ばれるこのグループのメンバーが1万5000人近くいることを発見した。一部の有名なネット有名人は、ほとんどが自分自身の服を脱いでいる写真を持っている。

シェル・ファイナンスの記者らは、このグループが当初はインターネットの有名人美女の一部の写真に対してのみ「AIストリッピング」を行っていたが、その後徐々にエンターテインメントやスポーツ界にも拡大していたことに気づいた。このタイプの「コミュニケーショングループ」の収益方法も比較的単純で、黒人と灰色の業界の関係者は、まずグループに写真を投げて、「メンバーシップグループ」サービスを購入するメンバーを集めます。会費は約70元です。

BilibiliとXiaohongshuにはまだ「AI脱衣チュートリアル」がある 弁護士：テクノロジーの教育は準犯罪に当たる可能性がある

記者は、AI生成モデル技術が成熟した後、対応する「ワンクリック脱衣」機能が、有名な外国のオープンソースAI生成モデルからネチズンによって「開発」され、徐々に普及したことを発見しました。各国の規制ルールの改善に伴い、大型モデルでは「脱衣」などの指示が見直されました。しかし、シェル・ファイナンスの記者がBilibiliとXiaohongshuで検索したところ、「AI脱衣チュートリアル」ビデオがまだいくつかあることがわかったが、実際にはAIが「着替え」ているものもあるが、これはまた、この種の技術が依然として横行していることを意味する。

記者は動画サイトで「AI脱衣」などの関連キーワードを使って検索した。

この点で、国内のネット有名人の多くは全く無力だ。昨年5月、50万人以上のフォロワーを持つ人気女性ブロガーは、「写真やその他のポルノ写真が盗まれ、トラフィックを集めて『ビデオを販売』するために外部ネットワークに載せられた経験を多くの人が経験している」と苦情を投稿した。目の肥えた人なら、こうした低レベルな噂はひと目で嘘だとわかるだろう、私は普段は気にも留めていないが、プライベートメッセージの数が急に増えて、初めて「リズム」が増えたことに気づいた。噂を否定しなければならなかったのです。」

趙胡氏はシェルファイナンスの記者に対し、AIの脱衣写真や顔を変更した写真を有料で販売することは、公安局処罰法の規定に違反し、営利目的でポルノ素材を作成・販売する罪に該当する可能性があると語った。写真を販売せずに流布した場合でも、情状が重大であれば、わいせつ物頒布罪が成立する。テクノロジーを教えることは、犯罪の幇助または教唆に当たる可能性があります。

「AIの脱衣写真の『カスタマイズ』を支援するために課金することは、営利を目的としたわいせつ物の制作、複製、出版、販売、流布という犯罪に当たる可能性がある」とZhao Hu氏は、AIが服を脱ぐ行為やAIが顔を変える行為も権利侵害に当たると述べた。国民の個人情報。この情報が漏洩または悪用されると、個人のプライバシーとセキュリティに重大な脅威をもたらすことになります。

「偽造に AI ツールを使用する方が、従来の偽造方法よりもはるかに効率的であることは明らかですが、技術的な敷居ははるかに低くなります。ことわざにあるように、噂を立てたら反論すれば足を失うことになります。」ペイ・ジーヨン氏はシェル・ファイナンス記者に対し、現在、AIのディープフェイク動画や写真は専門的な技術的手段や専門家の鑑定によって特定できるが、コストも非常に高いと語った。生成または合成されたビデオは認証できません。」

彼の見解では、人々が AI を使用して偽のビデオや画像を生成するのを防ぐのは非現実的ですが、偽のビデオや画像に対して何もすることがないという意味ではありません。 「この国には、オンラインのポルノビデオや写真に対する非常に成熟した管理方法があります。画像の信頼性を特定するためにテクノロジーを使用できなくても、プラットフォーム側からポルノコンテンツの拡散を防ぎ、ポルノの拡散源を特定することができます。」内容を確認し、取り締まりを行う。」

Pei Zhiyong氏は、インターネットプラットフォームは一方的にトラフィックを追求することはできないが、対応する法律の指導の下でネットワークガバナンスに積極的に参加し、関連情報の配布範囲を効果的に制限する必要があり、未検証の主要情報には「未検証」のラベルを付ける必要があると述べた。一般の人々が誤解されるリスクを軽減します。

Pei Zhiyong 氏は、写真やビデオの偽造防止技術を積極的に研究し、推進する必要があると考えています。「たとえば、特定のブランド、モデル、シリアル番号の特定の携帯電話を使用して写真を撮影すると、写真ファイルには次のような情報が保存されます。肉眼では見えないが機械では認識できる文字列。暗号化された検証コード。誰かがこの写真を改変したとしても、それが AI 改変であっても、手動による改変であっても、検証システムはそれがオリジナルの画像ではないことを認識できます。この方法は新しい技術ではありませんが、成熟した暗号技術の普及と普及が必要です。」

北京核心楯時科技有限公司の創設者兼最高技術責任者（CTO）であるSun Yue氏は、シェル・ファイナンスの記者とのインタビューで、ディープ偽造技術が蔓延しており、声や顔などの生体認証の特徴は本来の高い信頼性を失っていると述べた。認証属性。テクノロジーによって被害を防止したい場合は、主要なシステム プラットフォームでアプリケーション システムの ID 認証を強化し、ID 偽造のリスクに対抗する強力な認証手段が必要です。これは多要素 ID によって実現できます。製品テクノロジーは、ユーザー行動モデリング、ナレッジ グラフの因果推論、その他の手段と組み合わせることで、深層偽造によって引き起こされるアイデンティティ リスクに効果的に対抗できます。

「今後、AIの健全な発展のためには、ディープ偽造技術がもたらすリスクに対処するために、まず政府と業界の規制当局が積極的に関連法規制を整備する必要がある。次に、研究開発を強化する必要がある。ディープ偽造検出、電子透かし、その他の技術の研究開発への投資に加えて、関連部門と報道機関も詐欺防止の宣伝を強化し、人々のセキュリティ意識を向上させ、人々の個人と財産の安全を守るために協力する必要がある。 」とSun Yue氏はシェルファイナンスの記者団に語った。

記者の連絡先メールアドレス: [email protected]

北京ニュースシェルファイナンスの記者、羅宜丹編集者の王晋宇氏が校正する楊立氏