2024-09-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
it하우스는 6일 오전 2024년 인클루전·더 와이탄 컨퍼런스 'ai를 활용해 ai 대형모델 시대의 공격과 방어방식 방어' 포럼에서 국내 최초의 대형모델 공세와 방어를 주제로 한 기술 이벤트 '글로벌 ai '공격과 방어의 도전''이 공식 출범을 알렸다.
이번 대회는 ai 대형 모델의 산업적 관행에 초점을 맞춰 공격과 방어의 양방향 트랙을 설계해 온갖 종류의 '화이트 햇 해커'를 초청했다.(it 하우스 참고: 해커의 관점에서 자신의 시스템을 공격하는 프로그래머) 보안취약점 조사), 기술인재들은 빈첸시안 대형 그래프 모델의 '데이터 중독'에 대한 실제 공격 및 방어 훈련을 진행했으며, 대형 금융 현장 모델에서 생성된 콘텐츠에 대한 위조방지 적발 대회도 진행했다.
"attack track"은 vincentian 대형 모델의 실제 적용 위험 문제에 중점을 둡니다. 참가자는 표적 하이재킹, 시나리오 도입, 논리적 중첩 등 다양한 동적 공격 유도 기술을 통해 대형 모델이 위험한 이미지를 출력하도록 유도하여 대형 모델의 잠재적인 약점과 허점을 활성화하고 대형 모델 이미지 생성의 보안 면역력을 강화할 수 있습니다. .
"방어 트랙"은 점점 심각해지는 deepfake 및 aigc 가짜 인증서 위험에 대처하기 위해 ai 코어에서 금융 시나리오 자격 증명 변조를 탐지하는 데 중점을 둡니다. 대회에서는 백만 수준의 자격 증명 변조 데이터 훈련 세트를 제공합니다. 참가자는 모델을 개발 및 훈련하고 해당 테스트 세트를 사용하여 모델의 효율성을 평가하고 데이터 위조 가능성 값을 제공해야 합니다.
이 행사는 중국 그래픽 및 그래픽 협회(china graphics and graphics society), ant group 및 csa(cloud security alliance) greater china가 공동으로 후원하며 shanghai jiao tong university, zhejiang university 등 c9 대학과 여러 업계의 지원을 받습니다. -대학 연구 기관.
이번 대회에는 약 100만 위안에 달하는 상금이 책정되었으며, 학계와 업계의 유명 전문가들을 심사위원으로 초청했습니다. 중국 공학원 원사이자 중국 이미지 그래픽 협회 회장인 wang yaonan과 yunan alliance(csa) greater china 회장인 li yuhang이 이번 대회의 운영 위원회 전문가로 활동하고 있습니다. university, shanghai jiao tong university, shanghai artificial intelligence laboratory 및 china graphics graphics society 및 기타 부서의 유명 학자 약 30명이 대회 조직 및 검토에 참여할 예정입니다.
이번 대회의 공식 등록은 9월 6일부터 시작되었으며, 11월 초에 대회 심사가 완료되었습니다. 이제부터 참가자는 중국 이미지 그래픽 협회 공식 웹사이트, alibaba cloud tianchi 빅 데이터 크라우드 인텔리전스 플랫폼 공식 웹사이트 및 기타 채널을 통해 등록할 수 있습니다.
