ニュース

最近、杭州警察は、個人のプライバシーを盗むために大規模な ai モデルを使用して顔を変更した国内初の事件を明らかにしましたが、これは考えるのも恐ろしいことです。

犯罪者は被害者の静止写真をモデルに入力し、テキストと音声でライブビデオを生成するよう要求します。このライブビデオは人間の顔を模倣してうなずいたり、瞬きしたり、横を向いたりして、プラットフォームの顔認証を突破し、他人のアカウントへのログインを強制し、被害者の大量の個人データを入手して利益を得る目的で販売する可能性があります。

これは、ai テクノロジー応用の混乱における氷山の一角にすぎません。近年、人工知能技術は急速に発展し、より多くの新たな機会や便利なサービスをもたらしていますが、一部の犯罪者が新しい技術を利用し、犯罪の「共犯者」となるケースも少なくありません。

ai の「顔を変える」詐欺行為、ai の写真偽造による噂の拡散、ai による営業電話の迷惑… あらゆる種類の混乱は、消費者の正当な権利と利益を侵害し、個人と財産の安全を脅かすだけでなく、 ai産業の健全かつ秩序ある発展。

ai が科学技術発展の重要な方向性であり、国家間競争の技術的高地であることは疑いの余地がありません。しかし、aiを開発する際には、その隠れたリスクを無視してはなりません。急速に進むaiの「安全ベルト」を締め、aiを「共犯者」ではなく「協力者」とし、ガバナンスと規制の強化に注力する。

最近開催された2024年国家サイバーセキュリティ啓発週間では、aiセキュリティアプリケーションの問題が話題になりました。この期間中、関連部門は「人工知能セキュリティガバナンスフレームワーク」バージョン1.0をリリースし、人工知能セキュリティガバナンスの原則などの方向性のあるソリューションを提案しました。 aiの顔の変化やaiのオノマトペなどの詐欺の手口を効果的に特定して対抗するaiリアルタイム偽造システムなど、aiのセキュリティリスクに対処するいくつかのブラックテクノロジーもサイバーセキュリティexpoで公開されました。

テクノロジーは常に「両刃の剣」であり、それが良いものであるか悪いものであるか、有益であるか有害であるかは、剣を持つ人がそれをどのように使用する準備ができているかによって決まります。 aiを積極的に開発する場合、aiが人類にさらに利益をもたらすためには、セキュリティ意識を高め、関連するセキュリティ技術の推進と適用を強化し、社会のすべての関係者によるガバナンスの合意形成を促進する必要があります。 （コピーライター：馬若胡）