noticias

el 6 de septiembre, en el foro de la conferencia del bund de 2024 "uso de la ia para defender formas ofensivas y defensivas en la era de los modelos grandes de ia", se celebró la primera competencia de tecnología nacional con el tema de la ofensiva y la defensa de modelos grandes: la "ofensiva y defensa global de la ia". desafío de defensa". este evento se centra en la práctica industrial de los grandes modelos de ia y ha diseñado una pista bidireccional de ataque y defensa. invita a hackers de sombrero blanco y talentos técnicos de todos los ámbitos de la vida a realizar ejercicios ofensivos y defensivos reales sobre "intoxicación de datos". de grandes modelos vicencianos, así como la generación de grandes modelos de escenarios financieros competencia de detección de falsificación de contenido para competir por un premio de tecnología de un millón de yuanes.

este concurso está copatrocinado por la sociedad china de imagen y gráficos, ant group y la alianza de seguridad en la nube (csa) de la gran china. está patrocinado conjuntamente por la universidad de tsinghua, la universidad jiao tong de shanghai, la universidad de zhejiang y otras universidades c9 y varias. de organizaciones de investigación industria-universidad. inteligencia artificial de shanghai el laboratorio inteligente sirve como una unidad de cooperación técnica. la competencia tiene como objetivo unir las fuerzas académicas y de la industria a través de competencias técnicas, enfrentar y resolver los riesgos ocultos en la aplicación de grandes modelos y ayudar al desarrollo saludable y sostenible de la industria global de la ia.

wang yaonan, académico de la academia china de ingeniería y presidente de la sociedad china de imagen y gráficos, dijo que en la era de los grandes modelos, cómo garantizar la seguridad y controlabilidad de los sistemas de ia y cómo abordar eficazmente los riesgos potenciales en el la cadena de suministro se ha convertido en cuestiones importantes que deben resolverse. este desafío de defensa y ofensiva de ia es una fiesta tecnológica global creada conjuntamente por la sociedad de imágenes y gráficos de china y ant group y otras empresas e instituciones reconocidas en la industria, que se centra en la pista aigc de modelos grandes, desde la verificación facial hasta el contenido generativo. detección, esperamos descubrir soluciones más innovadoras para garantizar aún más la seguridad de las aplicaciones de modelos grandes y la seguridad industrial.

la competencia tiene dos áreas principales: "ataque" y "defensa", que se centran respectivamente en la seguridad de los propios modelos grandes, la detección antifalsificación de contenido generado por modelos grandes y la detección de riesgos de abuso de modelos grandes, que cubren el aprendizaje automático, el procesamiento de imágenes y visión por computadora, procesamiento de datos, etc. puntos de prueba en múltiples campos de algoritmos.

entre ellos, el "attack track" se centra en las cuestiones de riesgo de aplicación práctica del gran modelo vicenciano. los concursantes pueden inducir al modelo grande a generar imágenes riesgosas a través de tecnologías diversificadas de inducción de ataques dinámicos, como el secuestro de objetivos, la introducción de escenarios y el anidamiento lógico, activando así las posibles debilidades y lagunas del modelo grande y mejorando la inmunidad de seguridad de la generación de imágenes del modelo grande. . la "vía defensiva" se centra en la detección de manipulación de credenciales en escenarios financieros en el núcleo de ia para hacer frente a los riesgos cada vez más graves de los certificados falsos deepfake y aigc. la competencia proporciona un conjunto de capacitación de datos sobre manipulación de credenciales de un millón de niveles. los participantes deben desarrollar y entrenar modelos y utilizar el conjunto de pruebas correspondiente para evaluar la efectividad del modelo y proporcionar un valor de probabilidad de falsificación de datos.

la inscripción para esta competencia comenzó oficialmente el 6 de septiembre y la revisión de la competencia se completó a principios de noviembre. a partir de ahora, los concursantes pueden registrarse a través del sitio web oficial de la sociedad china de imagen y gráficos, el sitio web oficial de alibaba cloud tianchi big data crowd intelligence platform y otros canales. hay un premio acumulado de casi 1 millón de yuanes durante toda la competencia para seleccionar y elogiar talentos destacados en el campo.

fuente: cliente diario de beijing

reportero: sun qiru