ニュース

9月6日、2024年ブントカンファレンス「ai大型モデル時代におけるaiの活用による攻防」フォーラムにおいて、大型モデルの攻防をテーマとした国内初の科学技術コンテスト「グローバルai」が開催される攻防チャレンジ』を発表した。このイベントは、ai の大規模モデルの産業上の実践に焦点を当てており、攻撃と防御の双方向のトラックを設計し、あらゆる分野のホワイト ハット ハッカーと技術的才能を招待して、「データ ポイズニング」に対する実際の攻撃と防御の訓練を実施します。 vincentian の大規模モデルの作成、および 100 万元の技術賞を争うコンテンツ偽造防止検出コンテストの作成。

このコンテストは、中国画像グラフィックス協会、アント グループ、中華圏クラウド セキュリティ アライアンス (csa) が共同で主催しており、清華大学、上海交通大学、浙江大学、その他の c9 大学と多数の大学が共同で主催しています。上海人工知能インテリジェント研究所は、産学研究機関の技術協力部門として機能します。このコンテストは、技術コンテストを通じて学術と業界の力を結集し、大規模モデルの適用に潜むリスクに直面して解決し、世界の ai 産業の健全かつ持続可能な発展を支援することを目的としています。

中国工程院の学会員で中国画像グラフィック学会会長の王耀南氏は、大規模モデルの時代において、aiシステムのセキュリティと制御性をどのように確保するか、そして社会の潜在的なリスクに効果的に対処する方法が重要であると述べた。サプライチェーンは解決すべき重要な課題となっています。この ai 攻防チャレンジは、中国画像グラフィックス協会とアント グループ、および業界のその他の著名な企業や機関が共同で作成した世界的な技術の祭典であり、顔認証から生成コンテンツまでの大型モデル aigc トラックに焦点を当てています。私たちは、大規模モデル アプリケーションの安全性と産業セキュリティをさらに確保するための、より革新的なソリューションを発見することを楽しみにしています。

このコンテストには、「攻撃」と「防御」の 2 つの主要なトラックがあり、それぞれ、大規模モデル自体のセキュリティ、大規模モデルで生成されたコンテンツの偽造防止検出、および大規模モデルの悪用リスク検出に焦点を当てており、機械学習、画像処理、およびコンピュータービジョン、データ処理など。複数のアルゴリズム分野のテストポイント。

このうち「アタックトラック」では、ヴィンセント大規模モデルの実用化リスク問題に焦点を当てている。参加者は、ターゲットハイジャック、シナリオ導入、論理ネスティングなどの多様な動的攻撃誘発テクノロジーを通じて大規模モデルに危険な画像を出力させることができ、それによって大規模モデルの潜在的な弱点や抜け穴を活性化し、大規模モデルの画像生成のセキュリティ耐性を強化できます。 。 「ディフェンストラック」は、ディープフェイクやaigcの偽証明書のますます深刻化するリスクに対処するため、aiコアにおける金融シナリオの認証情報改ざんの検出に焦点を当てています。このコンテストでは、100 万レベルの認証情報改ざんデータ トレーニング セットが提供されます。参加者は、モデルを開発およびトレーニングし、対応するテスト セットを使用してモデルの有効性を評価し、データ改ざんの確率値を与える必要があります。

このコンテストへの登録は9月6日に正式に開始され、コンテストの審査は11月初旬に完了しました。今後、出場者は中国画像グラフィック協会の公式ウェブサイト、alibaba cloud tianchi big data crowd intelligence platform の公式ウェブサイト、およびその他のチャネルを通じて登録できます。この分野の傑出した才能を選出し、表彰するために、コンテスト全体を通じて100万元近くの賞金プールが用意されています。

出典：北京日報クライアント

記者：孫琦琦