소식

jimu news 기자 zhou dan

9월 6일 2024inclusion bund 컨퍼런스의 "ai로 ai 보호, 대형 모델 시대의 공격 및 방어 방법" 포럼에서 wdta 세계 디지털 기술 연구소(wdta world digital technology institute)는 국제 표준 "대형 모델 공급망에 대한 보안 요구 사항"을 공식 발표했습니다. 이 표준은 csa(cloud security alliance) greater china, ant group, microsoft, google, meta, privateai 및 기타 수십 개의 국내외 단위의 전문가들이 작성했습니다. 이는 대규모 모델 공급망 보안을 위한 업계 최초의 국제 표준으로, 글로벌 ai 거버넌스에서 국제 협력의 또 다른 확고한 발걸음을 내디뎠습니다.

이날 회의에 참석한 유엔과학기술개발위원회 집행위원장이자 세계디지털기술아카데미(world academy of digital technology) 창립회장인 피터 메이저(peter major)는 인공지능(ai)이 전 세계 다양한 산업에 지속적으로 발전하고 영향을 미치면서 국제 협력이 활발해지고 있다고 말했다. 인공지능 관련 표준에 대한 중요성이 점점 커지고 있습니다. 세계적으로 인정받는 인공 지능에 대한 국제 표준을 개발하면 인공 지능에 대한 신뢰를 구축하고 혁신을 촉진하며 인공 지능 시스템이 다양한 산업과 지역에서 안정적으로 작동하도록 보장할 수 있습니다.

이번에 발표된 표준에 대해 csa(cloud security alliance) 중화권 회장 li yuhang은 대규모 모델 시스템의 운영은 전 세계에 분산되어 있는 상호 연결된 공급망 생태계에 달려 있다고 말했습니다. 글로벌 인공지능 대규모 모델의 광범위한 적용은 전례 없는 기회를 가져오는 동시에 공급망 보안에 큰 과제를 안겨주었습니다. wdta가 발표한 표준은 대형 모델의 전체 수명 주기 보안을 위한 체계적인 관리 프레임워크를 제공하고 공급망의 보안 문제를 해결하며 글로벌 인공 지능 기술의 안전하고 지속 가능한 개발을 지원하고 업계의 전반적인 신뢰성을 향상시킵니다.

정보에 따르면 "대형 모델 공급망 보안 요구 사항"은 wdta의 인공 지능 안전, 신뢰성 및 책임(ai str) 표준 중 하나입니다. 이 표준은 대규모 언어 모델에 대한 공급망 보안 보호 프레임워크를 제공하고, 데이터 준비, 대규모 모델 개발에서 배포 및 운영에 이르기까지 모든 측면과 관련된 공급망 관련 보안 위험 및 공급 활동 관리에 대한 요구 사항을 제공하며, 일반적인 공급망 보안 위험을 제공합니다. , 일반적인 보안 사례 및 기타 관련 정보를 제공합니다. 이 표준을 통해 데이터 유출, 모델 변조, 공급업체 비준수 등과 같은 대규모 모델 시스템의 수명 주기에서 직면하게 되는 잠재적인 공급망 보안 위험을 효과적으로 식별하고 평가하여 무결성, 가용성 및 기밀성을 보장할 수 있습니다. 공급망을 통해 대규모 모델 시스템의 보안을 향상시킵니다.

이 표준은 대규모 모델 공급망의 공급 당사자와 수요 당사자 모두에게 체계적인 보안 관리 프레임워크를 제공할 뿐만 아니라 제3자 기관 및 권위 있는 부서의 보안 검토 및 규정 준수 관리를 위한 신뢰할 수 있는 기반을 제공하여 더욱 강화되는 것으로 이해됩니다. 시스템의 전반적인 안전하고 신뢰할 수 있는 개발.

wdta(world digital technology academy)는 2023년 4월 설립되었으며 제네바에 등록된 국제 비정부기구입니다. 이 조직은 전 세계적으로 디지털 기술을 발전시키고 국제 협력을 촉진하는 데 전념하고 있습니다. ai str 프로그램은 인공지능 시스템의 안전성, 신뢰성, 책임성 보장을 목표로 하는 wdta의 핵심 이니셔티브로 microsoft, google, anthropic, ant group, baidu 등이 모두 회원으로 참여하고 있습니다. wdta는 올해 4월 유엔 과학기술회의에서 openai, ant group, iflytek, google 등 수십 개의 단위가 편찬한 ai str 시리즈 표준인 2개의 국제 대형 모델 안전 표준을 발표했습니다.

포럼은 표준 발표 외에도 중국 최초의 대규모 모델 공격 및 방어 테마 기술 대회인 '글로벌 ai 공격 및 방어 챌린지'의 공식 개시도 발표했습니다. 이번 행사는 ai 대형 모델의 산업적 관행에 초점을 맞추고 '공격'과 '방어'의 양방향 트랙을 설계하여 각계각층의 기술 인재를 초대하여 대형 모델 자체 보안에 대한 위조 방지 탐지를 수행합니다. , 대형 모델 생성 콘텐츠, 대형 모델 남용 위험 감지 대회 등 수백 개의 대회에서 10,000위안의 기술 보너스를 놓고 경쟁합니다.

이번 대회는 중국 그래픽 및 그래픽 협회, ant group 및 csa(cloud security alliance) greater china가 공동 후원하고 tsinghua university, shanghai jiao tong university, zhejiang university 및 기타 c9 대학이 공동 후원하는 것으로 이해됩니다. 상하이 인공지능 연구소는 기술 협력 단위로서 학계와 업계의 힘을 모아 대형 모델 적용에 숨겨진 위험을 해결하고 건강한 사람들을 돕는 것을 목표로 합니다. 글로벌 ai 산업의 지속 가능한 발전.

(출처: 지무뉴스)

더 흥미로운 정보를 보려면 애플리케이션 마켓에서 "jimu news" 클라이언트를 다운로드하세요. 승인 없이 재인쇄하지 마십시오. 뉴스 단서를 제공하는 것을 환영하며 승인되면 비용이 지급됩니다.