소식

9월 6일, 2024 bund conference "ai를 활용한 ai 대형 모델 시대의 공격 및 수비 방식 방어" 포럼에서 대형 모델 공방을 주제로 한 국내 최초 기술 대회인 "글로벌 ai 공격 및 수비" 디펜스 챌린지'를 발표했다. 이번 행사는 ai 대형모델의 산업적 실천에 초점을 맞춰 공격과 방어의 양방향 트랙을 설계했다. 화이트햇 해커와 각계각층의 기술 인재들을 초청해 '데이터 중독'에 대한 실제 공격과 방어 훈련을 진행한다. vincentian 대형 모델 및 금융 시나리오의 대형 모델 생성. 백만 위안의 기술 상을 놓고 경쟁하는 콘텐츠 위조 방지 감지 경쟁.

이 대회는 중국 이미지 및 그래픽 협회(china image and graphics society), ant group 및 csa(cloud security alliance) greater china가 공동 후원합니다. tsinghua university, shanghai jiao tong university, zhejiang university 및 기타 c9 대학이 공동 후원합니다. 산학연 연구기관 상하이 인공지능 지능형 연구소는 기술 협력 단위 역할을 합니다. 이번 대회는 기술경쟁을 통해 학계와 업계의 힘을 하나로 모으고, 대형 모델 적용에 숨겨진 위험을 직면하고 해결하며, 글로벌 ai 산업의 건전하고 지속가능한 발전을 돕는 것을 목표로 한다.

중국 공정원 원사이자 중국 이미지 그래픽 학회 회장인 왕 야오난(wang yaonan)은 대형 모델 시대에 ai 시스템의 보안과 제어 가능성을 보장하는 방법과 잠재적인 위험에 효과적으로 대처하는 방법에 대해 말했습니다. 공급망은 해결해야 할 중요한 문제가 되었습니다. 이번 ai 공격 및 방어 챌린지는 중국 이미지 그래픽 협회(china image and graphics society)와 ant group 및 기타 업계 유명 기업 및 기관이 공동으로 주최하는 글로벌 기술 축제로, 대형 모델 aigc 트랙부터 생성 콘텐츠까지 중점을 두고 있습니다. 감지를 통해 대형 모델 애플리케이션의 안전과 산업 보안을 더욱 보장할 수 있는 더욱 혁신적인 솔루션을 발견할 수 있기를 기대합니다.

대회에는 대형 모델 자체의 보안, 대형 모델 생성 콘텐츠의 위조 방지 탐지, 대형 모델 남용 위험 탐지에 각각 초점을 맞춘 "공격"과 "방어"라는 두 가지 주요 트랙이 있으며, 기계 학습, 이미지 처리 및 컴퓨터 비전‌, 데이터 처리 등 여러 알고리즘 분야의 테스트 포인트입니다.

그 중 'attack track'은 빈첸시안 대형 모델의 실제 적용 위험 문제에 초점을 맞췄다. 참가자는 표적 하이재킹, 시나리오 도입, 논리적 중첩 등 다양한 동적 공격 유도 기술을 통해 대형 모델이 위험한 이미지를 출력하도록 유도하여 대형 모델의 잠재적인 약점과 허점을 활성화하고 대형 모델 이미지 생성의 보안 면역력을 강화할 수 있습니다. . "방어 트랙"은 점점 심각해지는 deepfake 및 aigc 가짜 인증서 위험에 대처하기 위해 ai 코어에서 금융 시나리오 자격 증명 변조를 탐지하는 데 중점을 둡니다. 대회에서는 백만 수준의 자격 증명 변조 데이터 훈련 세트를 제공합니다. 참가자는 모델을 개발 및 훈련하고 해당 테스트 세트를 사용하여 모델의 효율성을 평가하고 데이터 위조 가능성 값을 제공해야 합니다.

이번 대회의 공식 등록은 9월 6일부터 시작되었으며, 11월 초에 대회 심사가 완료되었습니다. 이제부터 참가자는 중국 이미지 그래픽 협회 공식 웹사이트, alibaba cloud tianchi 빅 데이터 크라우드 인텔리전스 플랫폼 공식 웹사이트 및 기타 채널을 통해 등록할 수 있습니다. 해당 분야의 뛰어난 인재를 선발하고 표창하기 위해 대회 전반에 걸쳐 거의 100만 위안에 달하는 상금 풀이 마련되어 있습니다.

출처: 베이징 데일리 클라이언트

기자: 손치루