notícias

em 6 de setembro, no fórum da bund conference 2024 "using ai to defend offensive and defensive ways in the ai ​​​​large model era", a primeira competição nacional de ciência e tecnologia com o tema de grande modelo de ataque e defesa - o "global ai desafio ofensivo e de defesa" foi anunciado. este evento concentra-se na prática industrial de grandes modelos de ia e projetou uma via bidirecional de ataque e defesa. ele convida hackers de chapéu branco e talentos técnicos de todas as esferas da vida para realizar exercícios ofensivos e defensivos reais sobre "envenenamento de dados". de grandes modelos vicentinos, bem como a geração de grandes modelos de cenários financeiros, competição de detecção antifalsificação de conteúdo para competir por um prêmio de tecnologia de um milhão de yuans.

esta competição é patrocinada conjuntamente pela sociedade chinesa de imagens e gráficos, ant group e cloud security alliance (csa) greater china. é patrocinada conjuntamente pela universidade tsinghua, universidade jiao tong de xangai, universidade zhejiang e outras universidades c9 e várias universidades. organizações industriais-universitárias-de pesquisa xangai inteligência artificial o laboratório inteligente serve como uma unidade de cooperação técnica. a competição visa unir forças acadêmicas e industriais por meio de competições técnicas, enfrentar e solucionar os riscos ocultos na aplicação de grandes modelos e ajudar o desenvolvimento saudável e sustentável da indústria global de ia.

wang yaonan, acadêmico da academia chinesa de engenharia e presidente da sociedade chinesa de imagem e gráficos, disse que na era dos grandes modelos, como garantir a segurança e a controlabilidade dos sistemas de ia e como lidar eficazmente com os riscos potenciais no cadeia de abastecimento tornaram-se questões importantes que precisam ser resolvidas. este desafio ofensivo e de defesa de ia é um festival de tecnologia global criado em conjunto pela sociedade de imagens e gráficos da china e pelo ant group e outras empresas e instituições conhecidas do setor, com foco na trilha aigc de grande modelo, da verificação facial ao conteúdo generativo. detecção, esperamos descobrir soluções mais inovadoras para garantir ainda mais a segurança de aplicações de grandes modelos e segurança industrial.

a competição tem duas vertentes principais: "ataque" e "defesa", com foco respectivamente na segurança dos próprios modelos de grande porte, detecção antifalsificação de conteúdo gerado por grandes modelos e detecção de risco de abuso de modelos de grandes dimensões, abrangendo aprendizado de máquina, processamento de imagens e visão computacional‌, processamento de dados, etc. pontos de teste em vários campos de algoritmo.

entre eles, o “trilha de ataque” concentra-se nas questões de risco de aplicação prática do grande modelo vicentino. os competidores podem induzir o modelo grande a produzir imagens arriscadas por meio de tecnologias diversificadas de indução de ataque dinâmico, como sequestro de alvo, introdução de cenário e aninhamento lógico, ativando assim as potenciais fraquezas e brechas do modelo grande e aumentando a imunidade de segurança da geração de imagens do modelo grande. . a “trilha defensiva” concentra-se na detecção de adulteração de credenciais de cenário financeiro no núcleo de ia para lidar com os riscos cada vez mais sérios de certificados falsos deepfake e aigc. a competição fornece um conjunto de treinamento de dados para adulteração de credenciais de um milhão de níveis. os participantes precisam desenvolver e treinar modelos e usar o conjunto de testes correspondente para avaliar a eficácia do modelo e fornecer um valor de probabilidade para falsificação de dados.

as inscrições para esta competição começaram oficialmente em 6 de setembro e a revisão da competição foi concluída no início de novembro. a partir de agora, os concorrentes podem se inscrever através do site oficial da sociedade chinesa de imagem e gráficos, do site oficial da alibaba cloud tianchi big data crowd intelligence platform e de outros canais. há uma premiação de quase 1 milhão de yuans durante toda a competição para selecionar e elogiar talentos de destaque na área.

fonte: cliente diário de pequim

repórter: sun qiru