ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

39歳のイ・ヨンジェは、韓国の公共福祉団体の創設者兼最高経営責任者（ceo）である。彼女は全米に蔓延する「ディープフェイク犯罪」と戦っている。

一部のアナリストは、女性の顔をわいせつな動画に合成し、広く拡散させる「ディープフェイク犯罪」が韓国女性を「パニックに陥らせている」と指摘し、同様の事件が女性の日常生活における安心感を失わせるだろうと指摘した。

今年5月、ソウル大学の卒業生が顔を変えるディープ偽造技術を利用してポルノ写真や動画を合成した疑いが持たれ、ソーシャルメディア「テレグラム」上に200近くのオンラインチャットルームを開設し、制作・拡散に参加した。約1,700件の違法な写真とビデオ。

3か月後、韓国の仁荷大学で新たなディープフェイク犯罪が発生した。 1,200人以上の参加者がテレグラム上でディープフェイクのポルノ画像を合成し、そのコンテンツを使って女性を脅迫したり屈辱を与えたりした。 8月下旬、韓国メディアは、全国の学校に関連するチャットグループがテレグラム上に多数出現し、ユーザーが知り合いの女性の写真をアップロードし、他のユーザーがこれらの写真をディープフェイクのポルノコンテンツに変換する行為もあったと報じた。特定の被害者に向けた「恥辱の部屋」。

事前調査では被害者の8割が女性で、犯罪行為は中高生、大学生、教師、看護師など未成年者にも広がっており、女性兵士も被害者となっている。

このようなニュースは、li juanzhi さんに大きな影響を与えました。彼女は、誰かが「恥の部屋」を調査し、内部状況を暴露するのに協力してくれる人を探しているとソーシャル メディア プラットフォーム x に投稿しているのを目にしました。李典志容疑者は男性ユーザーを装って潜入し、情報を収集した。彼女は、違法なディープフェイクポルノの蔓延がすでにフリールームでも蔓延していることを発見した。

li juanzhi さんは収集したビデオとスクリーンショットを一緒に働いた同僚に集め、捜査員に引き渡しました。 li juanzhi さんは、彼らが提出した資料がいくつかの事件の関係者を特定するのに役立ったという話を聞いて、少し安心しました。

「屈辱部屋」の内容は李典志さんを非常に不快にし、一時は眠れないほど気分が悪くなったが、彼女は演技を続けた。一方で、規律の強化を求めるオンライン請願活動が開始され、他方では街頭で抗議活動が行われた。 「政府は犯罪と闘い、『ゼロ・トレランス』刑罰法を施行するために断固たる姿勢をとらなければならない」と李典志氏は述べた。

オンラインとオフラインでの抗議活動

9月6日午後7時、ソウルは夜になり、小雨が降っていたが、李典志さんは約束の時間に鍾路区宝神閣近くに到着した。しばらくして、グループの代表者や個人が先頭に立ってそれぞれの声明を読み上げ、その後、500人から600人のグループが黒地に白のスローガンを掲げて街頭に繰り出した。

その夜の抗議活動には、現役教師、性教育団体、女性団体、学生らが参加し、「恐怖や不安のない生活を送ろう」「性犯罪のディープフェイクを宣伝するプラットフォームを規制せよ」と叫んだ。女性蔑視のディープフェイクを打倒する」などのスローガンを掲げる。

抗議活動は約２時間続いた。李典志さんは、彼女と仲間たちも9月21日に地下鉄恵化駅で2回目の抗議活動を行う予定だと語った。各地からバスをレンタルするよう連絡が入り始めており、全国から抗議活動参加者をソウルまで輸送することになる。

オフラインの街頭抗議活動は、ソーシャルメディア上でオンラインの韓国人女性の声と共鳴した。韓国でディープフェイク性犯罪の報道が世間の注目を集めて以来、事件が軽視されることへの懸念から、多くの韓国人女性が「学校デジタル性犯罪」を利用して「ディープフェイクセックスを宣伝する」とソーシャルメディアで積極的に声を上げるようになった。 「女性を守れ」などのハッシュタグで「ディープフェイク性犯罪」のニュースが世界的な注目を集め、多くの韓国人女性が中国のインターネットを通じて支援のメッセージを送っている。

「これまでのところ、この『ハッシュタグ抗議』キャンペーンは良い結果をもたらしている。9月1日、ソーシャルメディアプラットフォームx上で『公開ディープフェイク性犯罪者』を含むタグが爆発的に増加し、合計60投稿、1万件以上の投稿があり、世界第2位にランクされている」世界のリアルタイム トレンドでもトップ 2 を占めており、韓国のリアルタイム トレンドでもトップ 2 を占めています」と li juanzhi 氏は述べています。

勢いを高めるためのオンラインとオフラインの連携に加えて、李典志氏はまた、重大な偽造犯罪を含む処罰法案の調査と研究を開始した。その中でも特に気になったのが「普及のため」という言葉だった。ある分析記事では、こうしたディープフェイク犯罪者を処罰することが難しい理由の1つは、拡散意図があることを証明するのが難しいことにあると考えている。

以前韓国で起きた「n号室」事件を彷彿とさせるが、一部の重要犯罪者を除いてほとんどの人は処罰されなかった。 li juanzhi 氏は、大規模なディープフェイク犯罪を可能にしているのは既存の法制度の抜け穴であることに気づきました。

li juanzhi 氏がいわゆる「屈辱部屋」に潜入した際、各グループの部屋は若干異なるものの、通常、参加者がグループに入るには女性の写真 10 枚を提供するか、写真を合成する必要があることを発見しましたが、これはディープフェイクと考えられていました。新しい被害者ターゲットが提供されました。一部のグループルームは一度無料で合成され、その後サービスを利用し続けるには参加者は「パスワード」を入力するか、新しい男性をルームに招待する必要がある。グループルームには「女性教師の写真300枚必須」「高校生割引」などの張り紙も。

「恥辱の部屋」では、参加者の性別を特定する方法も模索しています。一部のグループルームでは、グループへの参加希望者が特定の銀行口座に1韓国ウォンを入金し、その銀行口座の入金名を使用して新規メンバーが男性であるかどうかを確認する必要があります。

一部の参加者はディープフェイクの画像やビデオを合成することで料金を請求され、他の参加者はディープフェイクのコンテンツを販売して収益を上げ、より多くのユーザーがいるルームでは telegram 自体が広告収入を生み出すことになります。 「彼らは犯罪組織と同じように利益を分配している。」とリー・ファンジ氏は、彼らは利益主導の組織であり、「受動的な聴衆」という概念はないと述べた。

このことから、彼女は議会に請願することを思いつきました。李典志氏は、これらのグループルームの参加者全員を犯罪組織のメンバーとみなし、処罰するよう要求した。韓国の法律では子供と青少年が関与した事件に対するおとり捜査のみが認められているため、成人が関与した性犯罪のおとり捜査ができるよう請願制度が改善されることも期待している。

人工知能を活用した「簡単なディープ偽造」

ディープフェイクスキャンダルの中心にいるのはメッセージングアプリのテレグラムだ。

これは暗号化されたメッセージング アプリで、ユーザーは通常匿名で、部屋は「プライベート」モードに設定でき、コンテンツは痕跡を残さずにすぐに削除されます。 「telegram」の当初の設計は、ユーザーの発言のプライバシーを保護することでしたが、横行する犯罪活動の主要な場所であることが判明しました。

ディープフェイク コンテンツの作成に使用されるテクノロジーも入手するのが難しくありません。ニューヨーク州立大学バッファロー校のコンピューターサイエンス工学部の教授であるsiwei lyu氏は、「ディープフェイク」という言葉自体がディープラーニングとフェイクメディアを組み合わせたものであり、マルチメディアを指すと北京ニュースの記者に説明した。ディープ ニューラル ネットワーク モデルに依存する生成人工知能モデルを使用して作成されたテキスト (テキスト、音声、画像、ビデオなど)。生成 ai システムは大量のラベルなしデータでトレーニングでき、これらのモデルは魅力的なコンテンツを生成するのに十分強力です。したがって、技術的な敷居が大幅に下がります。

「人工知能技術を使えば、ディープフェイクの視聴覚素材を簡単、迅速、そして安価に作成できます。これは、映画、小売業界など、より有益な側面で使用できたはずです。オランダのティルブルフ大学の准教授」バート・ファン・デル・スロート教授は、残念ながらディープフェイク技術の最も一般的な用途はポルノであり、「特に若い女の子が被害者となった場合、悲惨な結果を招く可能性がある」と述べた。

ディープフェイクの使用を調査した2019年の報告書では、オンラインディープフェイクの96％がポルノに関連しており、この数は今も増加していることが判明した。

現在の観点からすると、ディープ偽造と戦うには多くの障害があります。 slote 氏は、ディープフェイクのポルノ コンテンツが生成された場合、被害者はそれを知らないことが多く、コンテンツがインターネットを通じて拡散された後でのみ外部の世界によって発見され、影響を受けることを発見しました。オンライン上にはディープフェイクポルノが大量に存在するため、法執行機関がそのコンテンツが本人の同意によるものであるかどうか、それが実在の人物であるか、aiによって生成された人物であるかを評価することは困難です。たとえ加害者が見つかり、被害者が特定され、物品が撤去されたとしても、その時にはすでに被害が発生しており、手遅れであることがよくあります。

li juanzhi氏は、事後追跡は単に「事態を正しくする」だけであり、「犯罪者が匿名のプラットフォームに隠れれば、このプラットフォームは犯罪の温床になるだろう」とソースからのプラットフォームレベルの監視を強化する必要があると考えている。

具体的な対策について、lu siwei 氏は、短期的には、有害な影響を意図したディープフェイク コンテンツを禁止または制限する一連の政策と規制を導入する必要があると考えています。長期的な解決策はテクノロジー自体にあり、ディープフェイクを自動的に検出、削除、追跡するテクノロジーのさらなる開発が必要です。

ディープフェイク犯罪が韓国社会で議論を引き起こしたことを受け、現地時間9月2日、韓国警察庁国家捜査本部長のウ・ジョンス氏は定例記者会見で、警察がソーシャルメディアの捜査を開始したと述べた。 「ディープフェイク犯罪幇助」容疑 プラットフォーム「テレグラム」が事件の事前捜査を実施。 telegram 自体は、プラットフォーム上の有害なコンテンツと積極的に戦うことを約束しています。

未解決の女性蔑視

この事件に加えて、外の世界ではなぜ韓国が深層偽造の最も被害を受けている地域になったのか疑問が生じ始めた。

個人情報盗難防止に注力するアメリカの新興企業「セキュリティヒーロー」が2023年に発表した世界的なディープフェイク報告書によると、韓国がディープフェイクポルノコンテンツの主なターゲットであり、そのようなディープフェイク作品の登場人物は韓国の歌手や女優が占めていることが示されている53。 %。

韓国のディープフェイク犯罪も横行しており、2021年は156件、2022年は160件、昨年は180件となった。今年1月から7月までに、重大な捏造を伴う性犯罪事件が297件発生した。

観察者らは、一見突然に見えるディープフェイクスキャンダルは、長年の性差別問題を反映して水面下に潜んでいた可能性があると考えている。

oecd諸国の中で、韓国女性の教育水準は最も高いが、労働参加率は最も低い。韓国の男女間の賃金格差は31.2%で、oecd加盟35カ国中第1位となっている。

「ただ楽しむため」「よりリアルにするために知人の写真を使用する」などの理由から、ディープフェイクは娯楽ゲームと同じくらい普及している。一部のアナリストは、ディープフェイク性犯罪であれ、トイレや更衣室で小型隠しカメラでこっそり撮影された韓国人女性であれ、これらはテクノロジーの発展に伴って出現した最新形態の「女性蔑視」であると言う。

これはli juanzhi氏の観察とも一致します。

彼女が女性問題に最初に焦点を当てたのは、ディープフェイクの犯罪ではなく、運転分野における男女平等のテーマでした。

li juanzhi さんは、韓国の女性が運転を学ぶ際に差別に遭遇することが多いことを発見しました。例えば、女性が第一種免許（注：大型車を運転できる上級免許）を取得したい場合、第二種免許への切り替えを勧められる。女性は運転免許を取得できても、交通事故の対応や自動車保険、車の修理などの情報を得るのは容易ではありません。女性ドライバーは情報不足から運転を怖がる人が多く、運転技術が低い女性は「ミス・ゴールド」と蔑称されることもある。

2020年、韓国女性家族省の支援を受けて、li juanzhi氏は「unniecar」と呼ばれる女性運転プロジェクトを立ち上げ、講義や書籍を提供し、運転初心者の女性を「男性の説教」なしに支援することを目的としている。安全で正確な情報を入手してください。ここ数年、李典志氏は女性の社会問題への関心を拡大し続け、女性の権利の保護を強調している。

li juanzhi 氏は、差別を助長することはディープフェイク犯罪にまでつながると考えています。韓国社会に存在する「女性蔑視」は効果的に解決されていない。それだけでなく、「女性蔑視」は政治にも悪用され、男性グループの反発をさらに煽り、政治家が票を集める手段となっている。男女間の平等で自然な関係を確立するのではなく、女性を疎外する環境が『ルームn』やディープフェイクの発生を許したのです。」

ディープフェイクスキャンダルの暴露後、韓国の84の女性権利団体は声明に署名し、差別が問題の核心であると指摘し、「この現象の根本原因は構造的な男女差別であり、解決策は男女平等を達成することだ」と指摘した。

後を絶たない事件と社会団体からの訴えを前に、韓国のユン・ソクユ大統領は、匿名性を利用してディープ偽造技術を悪用することは犯罪であり、これを完全に根絶するために関連部門が徹底的な調査を行うことを期待すると述べた。デジタルテクノロジー犯罪。

韓国政府はディープフェイク犯罪に対する罰則を強化する計画もある。韓国与党国民権力党のキム・サンフン政策委員長は、国民権力党と韓国政府が虚偽動画の流布などの犯罪に対する最高刑を5年から7年に引き上げる法案を進める計画だと述べた。年。

しかし、李典志氏は依然として韓国政府のコミットメントに疑問を抱いており、行動が実行されるかどうかを懸念している。

この疑問には根拠がないわけではありません。 2022年の大統領選挙期間中、イン・シユエ氏は常に韓国における構造的な性差別の存在を否定し、出生率の低下はフェミニズムのせいだと非難し、性的暴行の虚偽報告はより厳しく処罰されると主張してきた。ユン・ソクユエ氏が政権を握った後、韓国政府も教科書から「男女平等」という言葉を削除することを推進し、日常的な性差別と闘うプログラムへの資金提供を中止した。

「長い間、政府が性差別を解決する政策を導入しているのを見たことがない。それどころか、それらの政策は男女平等の進歩を台無しにしている。」と李典志氏は、韓国の出生率は最低レベルの一つに落ちたと語った。世界で「女性蔑視」に真剣に取り組まなければ、「性犯罪は増え続けるだろう。性犯罪が厳罰に処されなければ、犯罪者は将来、新たなテクノロジーを利用してより複雑な犯罪を犯すことになり、韓国社会の準備は整わないだろう」その時。"

スロット氏は、深層偽造犯罪に根本的に対処するには、すべてのつながりの連携が不可欠である可能性があると述べた。政府は対応努力を優先し、明確な処罰基準を設け、基準となる事件を設定し、必要に応じてディープフェイク犯罪に対処する専門チームを設立する必要がある。学校や職場も、同意のないオンライン ポルノについて教育する必要があります。インターネットサービスプロバイダーは、ディープフェイクポルノの拡散を防ぐために自社のプラットフォームを監視し、ディープフェイクポルノが自社のサービスプラットフォームを通じて拡散した場合には永久に削除されることをユーザーに警告することが義務付けられている。

9月7日、李典志氏は北京ニュースの記者に対し、議会への請願は必要な5万人の同意を得ており、韓国政府の関連部門は請願に応じる義務があると語った。

ボールは韓国政府側に蹴られた、と李典志氏は語った。

北京ニュース記者ルアン・ルオシー

編集者胡傑氏と校正者張燕軍氏