ディープフェイク犯罪のリスクを防ぐために情報保護を強化します
2024-09-16
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
最近、韓国で「約22万人の加害者がディープ偽造技術を利用して顔を変え、不特定の女性に関するわいせつなコンテンツを作成し、広く拡散した」というニュースが流れ、これは韓国社会にパニックを引き起こし、ディープの社会的・犯罪的リスクも暴露した。捏造が再び公の場に戻る。
人工知能 (ai) の研究開発が深化するにつれ、ディープフェイク技術はますます成熟し、その高忠実度、技術的包括性、低コスト、個人的な関連性などの特性により、ai の「デジタル化」から大きな利用価値がもたらされています。映画やテレビの画像を再撮影に置き換えるなど、一部の業界でのディープフェイク技術の応用の見通しはますます広がっています。
しかし、鋭い「両刃の剣」として、ディープフェイク技術の恩恵を享受する一方で、犯罪をより効率的に、より隠蔽し、社会にさらに有害にする可能性のあるその巨大な潜在的リスクを無視することはできません。個人レベルでは、ディープフェイク技術により、被害者の同意なしに画像を盗んで利益を得ることができ、これは個人の肖像権の侵害となります。さらに、ディープフェイク技術は、詐欺師が自分自身を偽装するために利用することもできます。たとえば、今年の初め、香港の企業の財務担当者が、なりすました経営者によって 2 億香港ドルを騙し取られました。有名人や政治家にとって、ディープフェイク技術はさらに大きな破壊的かつ社会的損害を引き起こす可能性があります。アメリカの女優テイラー・スウィフトはかつてフォトショップで猥褻な写真を加工され、ソーシャルプラットフォーム上で広く拡散されたが、これは彼女の個人的および商業的イメージに重大な損害を与えただけでなく、社会秩序と公共の秩序を混乱させた。さらに、ディープフェイク技術は証拠の偽造にも使用され、写真やビデオなどの証拠の信頼性に影響を与え、それによって裁判官の判断を妨げ、司法を妨害する可能性があります。
ディープフェイク技術のリスクを防ぐためには、個人の生体情報の保護を強化することが第一です。データガバナンスの観点から見ると、ディープフェイクの制作プロセスは主にデータ取得（主に生体情報データ）→データ処理→データ出力（偽コンテンツの出力）の3つのリンクに分かれます。ディープフェイク技術の悪用とは、基本的に、許可や同意なしに他人の生体情報を取得し、その情報をなりすましに使用することです。したがって、個人生体情報の保護メカニズムを改善するには、ディープフェイク情報の入出力を厳密に制御し、ソースガバナンスとエンドポイント制御を実現する必要があります。
まず、生体情報を収集する際の「知識許可」の仕組みを強化する必要がある。個人の生体情報は「唯一性」と「不変性」という特性を持っているため、一度漏洩・悪用されると情報主体に多大な損害を与え、長期にわたる影響を与えるため、最高レベルの個人情報保護が求められます。適用される。 「中華人民共和国個人情報保護法」および関連法規定によれば、国家安全保障および公共の安全の必要性、犯罪捜査および司法手続きなどに基づく特定の状況下でのみ通知が免除されます。上記の状況を除き、個人生体情報を収集および使用する場合は、「知識許可」メカニズムを厳密に実装する必要があります。明示的な同意なしに収集することは禁止されています。一方で、個人がオンラインで開示する情報は、個人の生体情報の再処理に同意することを意味するものではないことを明確にする必要があります。現時点では、ディープフェイクの商用利用シナリオが数多く存在しており、事業者が「オンライン情報に自由にアクセスしている」という誤解を払拭し、通知義務を履行する必要がある。さらに、情報利用者は通知の実効性を確保しなければなりません。ユーザー、収集目的、処理動作、情報の流れなどの具体的な情報を含むだけでなく、強制的な時間制限付きのポップアップウィンドウなど、十分に明らかな通知方法を採用する必要があります。
第二に、プラットフォームの監視とトレーサビリティのメカニズムを改善します。プラットフォームは、実写画像の二次創作などディープフェイクが多用されている分野に重点を置き、二次著作物の許諾の有無を厳格に審査するなど、技術審査と手作業審査を組み合わせて監督・トレーサビリティを強化する必要がある。利用された情報主体の記録等未承認または偽造された認証証明書が他者に関する情報として使用されていることが判明した場合、プラットフォームは配布を禁止し、アカウントの禁止などの対応する制限措置を講じるべきです。
第三に、対象を絞った法律を通じて、より深刻な責任と処罰のメカニズムを確立します。身分情報の偽造に関しては、我が国の刑法では現在、詐欺罪となりすまし罪が規定されています。前者の犯罪の構成要素は、対象者を国家機関の職員であるかのように装い、財産、名誉、待遇、感情等を詐取することであり、後者は、検査などの特定の手続きにおける身分権を目的とするものである。国民の個人情報を侵害する罪には「生体情報の不正利用」は含まれない。このことは、現行法の下では、詐欺罪やなりすまし罪に頼るだけでは、犯罪化の観点からディープフェイクスポークスマンのような混乱に効果的に対抗することは困難であることを意味している。したがって、将来的には、他人の身元を盗む行為を具体的に規制する新たな犯罪を追加する必要がある。この分野において、米国の法案は「他人の識別データの転送、使用、または悪用は個人情報の盗難として扱われるものとする」と規定しており、我が国にとって一定の参考となる。私の国の刑法では、将来的には、情報主体の同意なしに他人の生体情報を使用し、状況が深刻な場合（クリック率や転送数など）に「個人情報窃盗」の罪が追加される可能性があります。 500回）、個人情報窃盗罪として扱われます。他の犯罪（詐欺など）に関与した場合は重罪として扱われます。
鋭い刃は鞘に収め、獣は檻に入れなければなりません。ディープフェイク技術には応用の可能性が十分にありますが、人類にとって真に便利なツールとなるためには、完全な適用、監視、処罰システムの確立が前提条件となります。この点に関して、すべての関係者はシステムを第一に考え、健全な法制度でその境界を定め、効率的な監督によってその適用を制限し、正しい価値観と倫理に基づいてシステムの開発を導き、テクノロジーが人々に役立つという目標を達成し、この技術は人類に利益をもたらす正しい軌道に乗っています。 （著者はそれぞれ浙江省デジタル開発・ガバナンス研究センターの研究員と浙江省平陽県人民検察院の検察官である）
