ai生成写真の5大混乱②｜「ポルノ写真」ビジネス～変面や脱衣、度重なる禁止も阻止困難～
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
ai があらゆる場所に存在し、参入障壁がほぼ無限にあるこの時代において、ai を使用して写真やビデオを生成したこと (以下、総称して ai 生成写真と呼びます) を試したことがないのであれば、それは十分に「トレンディー」とは言えません。
他の新技術と同様、ai イメージング技術もその誕生以来、議論に満ちており、その過程には花も棘も伴いました。支持者はこれを破壊的な技術革命とみなしますが、反対者はそれを災難とみなします。特に過去 2 年間で、chatgpt や sora に代表される大規模な ai データ モデルが登場し、ai 画像生成が人気のトレンドとなり、ますます多くのネチズンに求められています。それは人々に大きな利便性、驚き、快適さをもたらす一方で、不条理、煩わしさ、さらには違法であるなど、多くの否定的な問題も必然的に露呈します。
aiは無害であり、鍵はそれをどう使うかにあります。最低限の倫理と法の支配を遵守することによってのみ、テクノロジーは人類により良い利益をもたらすことができます。本日、アップストリームニュースは、近年ai画像生成分野で露呈したさまざまなカオスに焦点を当て、その原因を追跡し、原因と結果を分析し、解決策を模索する「ai画像生成における5つのカオス」に関する特別レポートを開始します。 ai業界の健全な発展に貢献するため。
2024年2月、重慶市渝北区に住むシャンさん（仮名）は、突然、白黒のヌード写真を含むテキストメッセージを受け取った。写真ではシャン氏がホテルのベッドに横たわる若い女性を腕に抱えており、「画像データはすべて持っていますので、急いで連絡してください」という追記とともに電話番号も記載されている。シャンさんは普段から自分を清潔に保ち、インターネット詐欺やaiによる顔面変更などの常識に精通しているため、aiを使って写真を生成する犯罪者に詐欺を受けていることを知っていたが、妻にもそのことを話していなかった。この経験を wechat の友人グループに共有したところ、多くの気の利いた嘲笑を受けました。この点に関して、シャン氏はアップストリームニュースの記者（レポートメール：[email protected]）に次のように語った。 「気になるのですが、詐欺師たちはどこで私の証明写真と携帯電話番号を見つけたのでしょうか？」 上流報道記者の調査により、複数のメディアや警察の報道によれば、近年同様のai顔交換詐欺が発生しており、多くの人がそれを真実だと信じ込み、結果として巨額の資産や財産がだまし取られていることが判明した。家族を引き裂くことさえあります。写真やビデオを作成・流布し、詐欺を働いた多くの犯罪者も法律によって厳しく処罰されました。
被害者: お金を騙し取られた人もいれば、顔を変えられた人もいます。
重慶出身のシャンさんは犯罪者から脅迫メールを受け取ったが、幸運にも逃げ出すことができた。対照的に、山東省威海市の王さんも同様の詐欺に遭い、68万元を要求され、最終的に20万元の送金を強要された。
王さんが受け取ったテキストメッセージの内容は、シャンさんからのものとほぼ同じで、何も考えずにテキストメッセージの番号にダイヤルした。相手は名前と勤務先を正確に述べ、支払わなければ動画を公開すると王さんに伝えた。相手の脅しを受けて、王さんはそれを信じた。その後、王氏は複数の関係者から資金を集め、20万元を送金した。しかし、この20万元では相手の食欲は全く満たされません。その後、警察が王さんに連絡した。
事件を捜査していた警察が注意深く観察した結果、テキストメッセージ内の写真の顔は王さんに似ていたが、顔の形や体型は王さんとは全く異なることが判明した。その後、警察は王氏が移送した２つの銀行口座に対して緊急支払い停止作戦を速やかに実施した。警察は、回収口座の調査と分析を行った後、犯罪容疑者の鄭氏と鍾氏の身元情報をロックした。今年1月、威海市警察は容疑者2人を逮捕し、裁判にかけた。
シャン氏とワン氏はテキストメッセージ詐欺に遭遇し、彼らのアバターはaiによってヌード写真にされた。
威海警察によると、この事件では容疑者がまずインターネットなどを通じて被害者の動画や写真、関連情報を収集した。次に、ps に ai 顔変更技術を使用して、いわゆる「わいせつなビデオ」または「ヌード写真」を合成し、sms、電子メール、その他のチャネルを通じて選択したオブジェクトに正確に送信し、最終的に連絡先情報を残したいと考えています。選択されたターゲットを脅迫し、被害者に指定された銀行口座への送金を要求するために、その家族に報告、広め、知らせる。警察は、そのような状況に遭遇した場合は、証拠の保全に注意し、時間内に警察に通報する必要があると注意を喚起しました。
男性に比べ、若くて美しい女性、特に著名な女性インターネット有名人は、aiによる顔変更やaiによる「ワンクリック衣服除去」の影響を受ける可能性が高く、写真や動画は有料コンテンツになって販売されることもある。昨年7月、400万人以上のファンを持つ女性インターネット有名人ブロガーは、多くのファンが彼女の「ポルノビデオ」を見たというメッセージを残していることを発見した。罪のない人は自省し、最終的には噂は消えるでしょう。「ある日、友人がヒロインが自分に似ているポルノビデオを転送して初めて、彼女は悪意を持って「顔を変えられた」ことに気づきました。ポルノビデオにされた。
当時の報道によると、売り手の価格表では、ファン数が50万人未満から1000万人以上まで、ファンのレベルに応じて数百人のネット有名人が分けられ、それに応じた顔交換ポルノビデオが販売されていたという。 30元から50元までは変わりません。さらに、表には多くの女性スターがいます。ある販売者は、80人以上の有名人と1万5000枚以上の写真を所有していると語った。すべて購入しても価格はわずか 60 元で、23 本のビデオがプレゼントされます。販売者はまた、1 人の有名人の顔を交換する写真を購入すると、数量に応じて料金が発生し、5 元で 300 枚の写真を購入できると述べました。
さらに、学校、ショッピングモール、オフィス、地下鉄などの日常的な場面で撮影された多くの女性の写真もaiの顔盗みの対象となり、aiによって顔を変えられたり、服を脱がされたりしていることがあります。何千、あるいは何万もの関連する写真が表示されます。
広州の若い女性の写真が、地下鉄に乗っているときにワンクリックで「服を脱がされた」。
プロデューサー: 7,000 枚近くのヌード写真を偽造し、1 枚あたり 1.5 元の価格を付けた
ポルノやわいせつなコンテンツの制作者として、オンラインに隠れている多くの作者は法律によって厳しく罰せられています。
今年7月、cctvニュースは、ai技術を利用して7,000枚近くのポルノ画像が偽造された違法事件を報じた。北京在住のバイ・モウモウ容疑者はもともとインターネット企業の技術者で、aiの「ワンクリックで衣服を除去する」技術を利用して7,000枚近くのわいせつな写真をディープフェイクし、1枚あたり1.5元の価格で販売した。写真には学生、教師、同僚など多くの女性が写っています。検察機関は、被告のバイ・モウモウが営利目的でわいせつ物を作成・販売したことは重大であり、その行為は中華人民共和国の刑法の関連規定に違反していると考えており、刑事責任を問われるべきであるとしている。営利目的でわいせつ物を製造・販売する犯罪。
北京のある男性は約7,000枚のわいせつな写真を作成し、1枚あたり1.5元で販売した。
杭州市人民検察院によると、昨年4月、安徽省出身の1980年代生まれの男性、余氏が営利目的でわいせつ物を作成・頒布した疑いで起訴された。ユウさんは、「ai顔変更」が登場し始めた2020年頃からこの技術に興味を持ち、自らも独学でこの技術を習得しました。その後、ユウさんは海外のソーシャルプラットフォームにアカウントを登録し、グループを作成しました。他の人が「内部グループ」に参加したい場合は、グループに参加した後、198元から498元の「会費」を支払う必要があります。 aiを利用して多くの人に見られる 顔交換技術を利用して制作されたポルノビデオは、顧客のニーズに応じて女性有名人の異なる画像を使用して「カスタマイズ」することもできます。わずか数か月で、ユウさんは数万元を稼ぎました。
ユウ氏が設立した公的グループでは、公安機関が1,200本以上のポルノビデオと1,600枚以上の写真を検査した結果、これらはすべてポルノ資料であることが判明した。昨年11月、杭州市蕭山区人民法院は余被告に対し、営利目的でわいせつ物を作成・頒布した罪で懲役7年3月と罰金6万元を言い渡した。
若くて美しい女性はaiによる顔変更の被害者になりやすく、「カスタマイズされたサービス」を提供する企業もある。
調査: ソフトウェアの購入は困難、tieba はブロックされている
以前のメディアの報道によると、2023年には「ワンクリックで衣服を削除」機能を備えた関連ソフトウェアが多くのプラットフォームで利用可能になる予定だという。多くのネチズンも、関連するソフトウェアや製品をオンラインで購入し、その経験を交換しています。
例えば、ある製品には「このソフトウェアは、現実の人物を漫画に変換したり、頭を切り替えたり、着替えたりする機能を実現できます。」と明記されています。このソフトウェアはわずか 16.66 元で販売されており、月間売上は 200 以上の注文に達しています。店内のコメント欄に「本当に脱げるんですか？」という質問があり、多くの人が「はい」と答えました。
当時、「ディープフェイク」と呼ばれる投稿バーにはaiによる顔変更に関する投稿が9000件以上あり、有名人の顔を変える動画の販売情報が大量に含まれていた。 「合成同盟」という名前のユーザーは、グループ内で顔を交換するポルノビデオを公然と販売しており、そのリストには150本以上のビデオが含まれており、「価格はわずか58元だ」としている。
上流のニュース記者がディープフェイクの投稿バーを検索したところ、投稿バーがブロックされていることが判明した。記者は複数のecプラットフォームで「ai顔変更」「ワンクリック洋服脱着」というキーワードを検索したが、いずれも表示されなかった。一部の店舗では、「インテリジェント消去」や「インテリジェント画像拡大」などの機能を備えたソフトウェア製品が多数存在しますが、店舗オーナーは「ワンクリックで衣類を削除する」機能はないと回答しました。しかし記者は、浙江省の販売業者が「着替えも塗り替えも簡単にできる」と主張して「着替えアーティファクト」というソフトを18.80元で販売していることに気づいた。
記者はプライベートメッセージで販売者に連絡を取った。 「服を脱いでいいですか？」という問い合わせについて、販売者は「監視しているので露骨に言わないでください！」と非常に警戒し、「y（服）に行ってもいいですよ」と曖昧に言いました。報告者が必要な料金を支払った後、販売者は、ネットワーク ディスクのダウンロード アドレスと使用方法のチュートリアルを発行しました。
記者が業者の指示に従ってみたところ、このアプリが「ワンクリックで衣類の取り外し」の機能を実際に実現できることがわかりました。
某中古取引プラットフォームでは、今でも「ワンクリックで衣類除去」機能を搭載したソフトを密かに販売する業者が存在する。
弁護士声明：情状が特に深刻な場合、最高刑は終身刑
記者は、一部のフォーラムで、無料の「ワンクリックで衣類を削除できる」ソフトウェアを密かに探しているネチズンが依然としていることを発見した。では、関連ソフトウェアを公開または販売する販売者は、法律違反や犯罪を犯した疑いがあるのでしょうか?ネットユーザーがソフトウェアを使用して関連する写真やビデオを生成し、公開した場合、それらを「楽しむ」目的で保存するためだけに使用した場合、法律違反になりますか?シェアしたらどんな罰を受けるのでしょうか？
著名な刑事弁護人で河南ゼジン法律事務所所長の傅建氏は記者団に対し、写真やビデオの作成、「ワンクリックで衣類を除去できる」ソフトウェアの販売などの活動には、個人のプライバシーと肖像権の侵害が含まれるとの疑いがあると述べた。違法または犯罪的であり、刑事罰の対象となる可能性があります。まず、関連ソフトウェアを販売する業者は、刑法の規定により、営利を目的としてわいせつ物を作成、複製、出版、販売、または流布した者とされます。 3 年以下の有期懲役、刑事拘留または監視に処され、情状が重大な場合には、3 年以上の有期懲役に処される。情状が特に重大な場合は、10 年以上の有期懲役又は無期懲役に処し、罰金又は財産を没収する。
第二に、自然人の肖像権は法律によって保護されており、自然人の同意なしに他人の肖像を直接使用することはできません。ネットユーザーがソフトウェアを使用して関連する写真やビデオを生成し、「楽しむ」ために保存した場合、他人の肖像権を侵害する疑いもあります。制作後にwechatグループやソーシャルプラットフォームで共有した場合、他人の肖像権や名誉権を侵害した疑いがあり、一定の民事責任を負う必要があります。彼の行為は「公安管理処罰法」違反の疑いがあり、ひどい場合にはわいせつ物頒布の疑いもある。情状の重大性に応じて、有期懲役、拘留、罰金等の刑罰が科せられる場合があります。
中国人民大学法科大学院の李良教授は、aiによる顔の変更や衣服の脱着などの現象に対し、まず人工知能の違法応用の侵害対象を明確に分ける必要があると述べた。第二に、人工知能の違法な適用に対する責任（結果）を共有するメカニズムを構築する必要があります。第三に、法原則と社会的利益を総合的に考慮して科学的立法を実施し、人工知能に関連する法制度を確立および改善する必要があります。応用を促進し、技術研究と科学開発を促進し、監督と規制メカニズムを強化します。
上流ニュース記者のジン・シンは、cctvニュース、cctv、北京ニュース、人民日報などからの情報を部分的に合成しました。
