ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

出典: 法の支配日刊紙

張祥坤記者

写真も真実もあり、すべて専門家が証明しています。

最近、天津市民の李夢さん（仮名）は、「ポピュラーサイエンスの記事」をめぐって母親と激しい口論をした。彼女の母親は、その記事にはビデオ、写真、さまざまないわゆる医師や医療チームが導き出した研究結論が含まれていると固く信じていた。それは偽物である可能性があります。李蒙氏は注意深く記事を特定し、その記事が AI によって生成されたものであることを発見し、プラットフォームもその噂を否定したので、それは偽物であるに違いありません。

この記事の内容は猫に関するものです - 猫と遊んでいた女の子が「病」と呼ばれる不治の病にかかり、その後、彼女の全身が認識できなくなりました。まさにこの記事のせいで、李蒙さんの母親は、自分も「病気」に苦しむことを恐れて、彼女が猫を飼うことに断固反対したのです。李夢さんはこれについて笑うことも泣くこともできず、「母がインターネットの使用を減らしてくれることを本当に願っています」と語った。

AIの噂に騙されているのは李夢君の母親だけではない。最近、各地の公安機関が AI ツールを使用したデマ拡散に関連した多数の事件を発表している。たとえば、「西安爆発事件」に関する虚偽ニュースを発表した公安機関は、4,000 ～ 7,000 件の虚偽ニュースを生成する可能性がある。ピーク時の1日の収入は1万元を超え、同社の実際の管理者であるWang Moumou氏は、842の営業口座を持つ5つの金融機関を運営している。

「法治日報」の記者が取材した専門家らは、便利なAIツールによってデマ製造コストが大幅に削減され、デマの規模と拡散が桁違いに増加したと指摘した。 AIによるデマ宣伝は敷居が低く、大量生産で特定が難しいという特徴があり、監視を強化し、その背後にある利権の連鎖を断ち切ることが急務である。

AIを使って虚偽ニュースを捏造

すぐに広まって多くの人が騙された

6月20日、上海警察はブランドマーケティング担当者2名が人気を集めるために「地下鉄中山公園駅で人を刺す」などの虚偽の情報を捏造したとして、関係者を警察に行政拘束したと通告した。この報告書では、偽造者が AI ソフトウェアを使用してビデオ技術を生成し、地下鉄攻撃の偽ビデオなどの虚偽の情報を捏造したという詳細が注目を集めました。

記者は、近年、AI を使用した噂の拡散が頻繁に行われており、一部の噂はかなりの社会的パニックと被害を引き起こしていることを知りました。

昨年、上海で少女が行方不明になった事件では、暴力団が「クリックベイト」や「ショックグループ」の手法で「少女の父親は義父である」「少女は温州に連れて行かれた」などの噂を悪意を持って捏造した。ギャングは AI ツールやその他のツールを使用して、114 のアカウントからなるマトリックスを通じて 6 日間で 268 件の記事を公開し、多くの記事が 100 万回以上クリックされました。

公安省サイバーセキュリティ局は最近、ある事件を発表した。 2023年12月以降、「西安市虎一区で地中から熱水が湧き出ている」という情報がインターネット上で頻繁に拡散され、「地震の影響で地中から熱水が湧き出ている」などのデマが飛び交っている。 」そして「地下熱管の破裂のため」。調査の結果、関連する噂はAI原稿クリーニングを通じて生成されたものであることが判明しました。

最近では「済南市の高層住宅で火災が発生し、多くの人が飛び降りて逃げた」「朝の運動員が済南市の英雄山近くの墓で生きている人を発見した」など…とんでもない「超大作」 news』はインターネット上で広く拡散され、大きな注目を集めた。済南市サイバースペース管理局党委員会は、済南インターネット共同噂反論プラットフォームを通じて直ちにこの噂に反論したが、依然として多くの人々が「写真と真実」の出現に混乱している。

清華大学ジャーナリズム・コミュニケーション学部ニューメディア研究センターが今年4月に発表した調査報告書によると、過去2年間のAIに関する噂のうち、経済および企業に関する噂が最も高い割合を占め、43.71％に達した。過去 1 年間、経済および企業の噂 AI 噂の成長率は 99.91% にも達しており、ケータリングのテイクアウトや宅配便などの業界が AI の噂によって最も大きな打撃を受けています。

では、AI を使用してフェイクニュースを作成することはどれほど簡単なのでしょうか?

記者は、市場で人気のあるさまざまな人工知能ソフトウェアをテストしたところ、キーワードが与えられさえすれば、事件の詳細、コメント、見解を含む「ニュースレポート」が数秒で即座に生成されることがわかりました。・アップアクションなど 時間や場所、写真やBGMを加えると、本物にも偽物にも見えるニュースレポートが完成します。

記者は、AIが生成した噂の多くに、「報道によると」、「関連部門が事故原因を徹底的に調査し、応急修理を実施する措置を講じている」、「一般の人々に注意を喚起する」などの内容が混在していることを発見した。日常生活における安全に注意を払うよう国民に呼びかけます。オンラインで公開した後、人々はしばしば真贋を見分けるのに苦労します。

AI ニュース、人気の科学記事、写真、吹き替えビデオ、顔を置き換えた後の模倣音声に加えて、これらはすべて AI を使用して生成され、手動で微調整して実際のコンテンツを組み込むと、区別することが難しくなります。

中国人民大学ジャーナリズム・社会発展センターの研究者ゼン・チー氏は、「生成AI」のつなぎ合わせの性質は噂と強い親和性を持っており、どちらも「無から有を生み出す」、つまり見た目の情報を作り出すものであると述べた。現実的で合理的。 AI により、噂を広める行為がよりシンプルかつ「科学的」になりました。AI は話題の出来事に基づいてパターンを要約し、プロットをつなぎ合わせ、人々の「期待」に応える噂を迅速に作成し、より迅速に広めることができます。

「オンライン プラットフォームは AI テクノロジーを使用して画像やビデオのつなぎ合わせを逆検出できますが、コンテンツを検閲することは困難です。現時点では、人々は噂を完全に傍受する能力を持っていません。言うまでもなく、未確認または未確認の噂がたくさんあります。」検証不能で曖昧な情報だ」とゼン・チー氏は語った。

トラフィックを獲得するために偽造する

複数の犯罪の疑いがある

一部の AI ソフトウェアの「噂を広める効率」は驚くべきものです。たとえば、1 日に 19 万件の記事を生成できる偽ソフトウェアがあります。

ソフトウェアを押収した西安警察によると、ソフトウェアによって保存された記事を7日間抽出したところ、その総数は時事ニュース、社会的にホットな話題、社会生活などを網羅しており、その総数は100万件を超えていたことが判明したという。アカウントユーザーは、これらの「ニュース」を関連プラットフォームに組織的に公開し、プラットフォームのトラフィック報酬システムを利用して利益を上げます。現在、この事件に関与したアカウントはプラットフォームによってブロックされており、関連するソフトウェアとサーバーも閉鎖されており、警察は依然として事件を捜査している。

多くの AI 噂を広める事件の背後には、噂を広める者の主な動機はトラフィックを迂回させて利益を上げることです。

「AIを使って人気のコピーライティングを量産すれば、突然お金持ちになれます。」 「AIに宣伝記事を書いてもらいます。1分で3記事完成します。」 「画像と文章をAIが自動で書いてくれます。」 1 つの数字で 1 日に 500 以上のマルチアカウント操作を簡単に作成できるため、初心者でも簡単に始めることができます。」...記者が検索したところ、同様の「金持ちになる」記事が多くのソーシャル プラットフォーム上で流通しており、多くのブロガーがそれを推進していることがわかりました。コメント欄に書いてください。

今年2月、上海市公安局は、あるアーティストが「不運で無念の思いで亡くなった」という短い動画が電子商取引プラットフォームに掲載され、多数の「いいね！」や再投稿を集めていたことを発見した。

調査の結果、動画の内容は捏造されたものであることが判明した。ビデオ公開者が事件に到着した後、電子商取引プラットフォームで地元の特産品のオンラインショップを運営していたことを告白した。売り上げが低迷したため、オンライン ストア アカウントへのトラフィックを集めるために、目を引くフェイク ニュースを作成しました。彼はビデオ編集の方法を知らないため、AI テクノロジーを使用してテキストとビデオを生成します。

北京英和法律事務所のパートナー、張強氏は記者団に対し、AIを利用してオンライン上の噂を捏造すること、特に偽りの危険、伝染病、災害、警察情報を捏造し意図的に広めることは、虚偽の情報を捏造し意図的に広めた罪に問われる可能性があると語った。刑法の下で。個人や企業の評判に影響を与える場合、刑事上の名誉毀損や企業の信用や名誉を毀損した疑いがかけられる可能性があります。株式や先物取引に影響を及ぼし、取引市場を混乱させた場合には、刑法に基づく有価証券や先物取引に関する虚偽情報の捏造・流布罪に問われる可能性がある。

噂を反論するメカニズムの改善を継続する

合成コンテンツに明確なラベルを付ける

AI 詐欺や混乱を制御し、オンライン エコシステムのガバナンスを強化するために、関連部門やプラットフォームは近年、多くのポリシーや措置を導入してきました。

早ければ2022年に中国サイバースペース局などは「インターネット情報サービスの深層合成管理に関する規定」を発行し、いかなる組織や個人も深層合成サービスを利用して情報を作成、コピー、公開、または配布してはならないと規定した。法律および行政規制によって禁止されている深層合成サービスは、国家の安全と利益を危険にさらす、国のイメージを損なう、社会的および公共の利益を侵害する、経済的および社会的秩序を混乱させる、正当な権利を侵害するなど、法律および行政規制によって禁止されている活動に従事します。そして他人の利益など。深層合成サービスのプロバイダーおよびユーザーは、深層合成サービスを使用して虚偽のニュース情報を作成、コピー、公開、または流布することはできません。

今年4月、中央サイバースペース委員会事務局は「『セルフメディア』無制限の大量トラフィックの浄化と是正に関する特別措置の実施に関する通知」を発表し、情報源の表示と表示の強化を求めた。 。 AI などのテクノロジーを使用して情報が生成される場合は、テクノロジーによって生成されたものであることを明確に示す必要があります。フィクション、推理などを含むコンテンツには、フィクションであることを明確に示す必要があります。

AI技術の使用が疑われるコンテンツについて、一部のプラットフォームでは「コンテンツはAIによって生成された疑いがあるため、慎重に審査してください」というリマインダーを下に掲載し、フィクションや推理などを含むコンテンツにはフィクションのラベルを明確に追加します。 、不正なアカウントに対して「措置」を講じる」などの措置を講じます。一部の大規模モデル開発者は、バックグラウンド設定を通じて大規模モデルで生成されたコンテンツに透かしを入れてユーザーに通知するとも述べています。

Zhang Qiang 氏の見解では、人々はまだ生成 AI について十分に理解しておらず、それに対処する経験も不足しています。この場合、AI情報のスクリーニングに注意を払うようにメディアを通じて人々に注意を喚起することが非常に必要です。同時に、法執行機関レベルでの対応を強化し、AIを活用してデマや詐欺などの行為を迅速に調査・是正する必要がある。

中国伝播大学文化産業管理学院法学部の鄭寧所長は、既存の噂に対する反論の仕組みをさらに改善する必要があると考えており、ある情報が噂であると特定されたら、直ちにマークを付けるべきであると考えている。噂を閲覧したユーザーに、その噂に反論するためのヒントを再度プッシュします。

注意すべきは、デマを広めているという自覚を持たずに、AIが合成したコンテンツをそのままインターネット上に公開する人もおり、その結果、大量に転載され、多くの人がそれを信じてしまい、被害が発生するということです。

この点に関して、ゼン氏は、これを防ぐ最も簡単な方法は、関連部門またはプラットフォームを通じて規制を策定し、すべてのAI合成コンテンツに「この写真/ビデオはAI合成です」とマークする必要があると考えています。