今すぐコメントする｜ai が生成したコンテンツが本物と混同されないように、特徴的なロゴを追加します。
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
私たちが毎日オンラインで目にする大量の画像、テキスト、ビデオのうち、どれだけが人工知能によって生成および合成されているのでしょうか? ai記事、ai写真、aiビデオを正確に区別するにはどうすればよいでしょうか?
9月14日、中国サイバースペース局は「人工知能により生成された合成コンテンツのラベル表示に関する措置（コメント草案）」を発表した。「コメント草案」では、サービスプロバイダーが提供する生成合成サービスにはテキストが含まれることを規定する予定である。音声、写真、ビデオ、仮想シーンなど、目立つプロンプト記号を適切な場所に追加する必要があります。サービスプロバイダーが合成コンテンツをダウンロード、コピー、エクスポートする方法を提供する場合は、ファイルに次の条件を満たす明示的な記号が含まれていることを確認する必要があります。要件。
この規定は非常に現実的であり、必要なものです。近年、人工知能の深層合成技術は、画像、テキスト、ビデオの生成からオンラインの質疑応答まで、さまざまな分野で広く活用され、さまざまな応用例が後を絶たない。 aiツールが私たちのコンテンツ制作や知識の普及をより効率的にしてくれることは間違いなく、aiの学習能力がますます強力になるにつれ、そのコンテンツ「制作」能力は将来的には人間をも超えるでしょう。
しかしその一方で、深層合成コンテンツの効果はより現実的であり、制作がより効率的になるため、合成コンテンツの本物と偽物を区別することが難しくなります。真と偽の区別が難しくなり、百聞は一見に如かずとなると、人工知能技術は両刃の剣のようなものとなり、情報の歪みや認知の混乱などの問題も社会にもたらすことになります。
中国サイバースペース局は2022年11月、「インターネット情報サービスの深層合成管理規定」を公布し、深層合成コンテンツの目的、表示、使用範囲、悪用に対する罰則などを規定した。この「意見募集草案」では、テキスト、音声、写真、ビデオのいずれであっても、「適切な場所に目立つ注意喚起の標識を追加しなければならない」ことをさらに明確にしています。これはサービスプロバイダーにとって明確な要件です。記事であれ写真であれ、ai ツールによって生成されたものである限り、目立つ識別情報を追加する必要があります。
これは実際、オンライン情報が混在していることを視聴者に思い出させるものであり、「インサイダー」記事、「話題の」写真、または「衝撃的な」ビデオを見たときは、まずそれらが ai によって生成されたものであるかどうか、またそれらを受け入れるべきかどうかに注意を払う必要があります。それらを識別するにはどうすればよいでしょうか?
テクノロジーが徐々に「民間」になるにつれて、犯罪者が簡単に ai を使用して噂を広めたり、フェイク ニュースを作成したりできることは注目に値します。少し前に、一部のメディアが ai を使用して毎日 4,000 ～ 7,000 件の噂記事を生成できる mcn 組織を立ち上げました。ai テクノロジーの恩恵により、これらの記事はインターネット テクノロジーに詳しくない視聴者にとって非常に「現実的で合理的」に見えます。 . このような情報を「写真と真実」で見ると、それが真実であると信じてしまいがちです。
メディアの調査によると、国産aiを使用した場合、ai記事のコストはわずか0.00138元で、1セントで7本の記事を生成できるという。このような「資本がなく、莫大な利益」は、「地下鉄襲撃」、「西安の爆発」、「重慶市無錫の民家の爆発」など、犯罪者によって簡単に悪用される可能性があります。社会に悪影響を及ぼしたその真相はai量産化の噂。
人工知能をログに記録して合成コンテンツを生成することは、技術的には難しくありません。一部の専門家は、このプラットフォームをaiコンテンツ生成プラットフォームの大規模モデルシステムに完全に接続し、リアルタイムでデータの識別と比較を実行し、削除できない電子透かしや「この写真/映像はaiによって合成されています。」
この「コメント草案」では、「いかなる組織や個人も、本措置で規定されている生成された合成コンテンツ識別子を悪意を持って削除、改ざん、偽造、隠蔽してはならない」と強調しており、これはaiサービスプロバイダーやプラットフォームにaiを使用してはならないことを思い出させるためである。 「トラフィックの配当」をもたらすために、私たちは見て見ぬふり、片目をつぶるという宥和的な態度をとります。明確なサイバースペースでは、ai コンテンツが混乱して現実の境界があいまいになることを許してはなりません。情報が噂であると特定された場合、プラットフォームは直ちにラベルを付けてクリーンアップする必要があります。
人工知能の生成および合成能力は従来の認識を超えており、それによって私たちも次のことを認識できます。多くのオンライン記事は非常に「科学的」に見え、多くのオンラインビデオは特に「本物」に見えますが、必ずしも信頼できるわけではないため、使用しないでください。急いで信じないでください。まず、コンテンツの目立つ位置に「この写真/ビデオは ai によって合成されています」という表示があるかどうかを探してみてはいかがでしょうか。
リー・チンユー氏、同紙主席解説委員
（この記事はthe paperからのものです。よりオリジナルの情報については、「the paper」アプリをダウンロードしてください）
