noticias

el reportero de jimu news, zhou dan.

el 6 de septiembre, en el foro "protegiendo la ia con ia, formas ofensivas y defensivas en la era de los modelos grandes" en la conferencia inclusion bund 2024, el wdta world digital technology institute lanzó oficialmente el estándar internacional "requisitos de seguridad para cadenas de suministro de modelos grandes". el estándar fue compilado por expertos de cloud security alliance (csa) de la gran china, ant group, microsoft, google, meta, privateai y otras docenas de unidades nacionales y extranjeras. este es el primer estándar internacional de la industria para la seguridad de la cadena de suministro de modelos grandes, lo que marca otro paso sólido en la cooperación internacional en la gobernanza global de la ia.

peter major, presidente ejecutivo de la comisión de ciencia y tecnología para el desarrollo de las naciones unidas y presidente fundador de la academia mundial de tecnología digital, que asistió a la reunión, dijo que a medida que la inteligencia artificial continúa desarrollándose y afectando a diversas industrias en todo el mundo, la cooperación internacional sobre estándares relacionados con la inteligencia artificial se ha vuelto cada vez más importante. el desarrollo de estándares internacionales para la inteligencia artificial reconocidos a nivel mundial ayudará a cultivar la confianza en la inteligencia artificial, promover la innovación y garantizar que los sistemas de inteligencia artificial funcionen de manera confiable en diferentes industrias y regiones.

con respecto a los estándares publicados esta vez, li yuhang, presidente de la gran china de la cloud security alliance (csa), dijo que el funcionamiento de grandes sistemas modelo se basa en el ecosistema de la cadena de suministro interconectada distribuido en todo el mundo. la aplicación generalizada de modelos globales de inteligencia artificial a gran escala ha brindado oportunidades sin precedentes y, al mismo tiempo, ha expuesto enormes desafíos para la seguridad de la cadena de suministro. el estándar publicado por wdta proporciona un marco de gestión sistemático para la seguridad del ciclo de vida completo de modelos grandes, resuelve desafíos de seguridad en la cadena de suministro, respalda el desarrollo seguro y sostenible de la tecnología de inteligencia artificial global y mejora la credibilidad general de la industria.

la información muestra que los "requisitos de seguridad de la cadena de suministro de modelos grandes" son uno de los estándares de seguridad, confiabilidad y responsabilidad de la inteligencia artificial (ai str) de la wdta. este estándar proporciona un marco de protección de seguridad de la cadena de suministro para modelos de lenguaje grandes, proporciona requisitos para los riesgos de seguridad relacionados con la cadena de suministro y la gestión de la actividad de suministro involucrada en todos los aspectos, desde la preparación de datos, el desarrollo de modelos grandes hasta la implementación y operación, y proporciona riesgos de seguridad de la cadena de suministro comunes. , casos típicos de seguridad y otra información relacionada. a través de este estándar, los posibles riesgos de seguridad de la cadena de suministro que se enfrentan en el ciclo de vida de sistemas modelo grandes pueden identificarse y evaluarse de manera efectiva, como fuga de datos, manipulación de modelos, incumplimiento de proveedores, etc., asegurando la integridad, disponibilidad y confidencialidad de la cadena de suministro, mejorando así la seguridad de los sistemas modelo grandes.

se entiende que este estándar no solo proporciona un marco sistemático de gestión de seguridad tanto para las partes de oferta como de demanda en la gran cadena de suministro de modelos, sino que también proporciona una base confiable para la revisión de seguridad y la gestión de cumplimiento por parte de instituciones de terceros y departamentos autorizados, mejorando aún más el el desarrollo general seguro y confiable del sistema.

la academia mundial de tecnología digital (wdta) se estableció en abril de 2023 y es una organización internacional no gubernamental registrada en ginebra. la organización se dedica a promover la tecnología digital a nivel mundial y promover la cooperación internacional. el programa ai str es la iniciativa central de wdta, cuyo objetivo es garantizar la seguridad, credibilidad y responsabilidad de los sistemas de inteligencia artificial. microsoft, google, anthropic, ant group, baidu, etc., son todos sus miembros. en la conferencia de ciencia y tecnología de las naciones unidas en abril de este año, wdta publicó dos estándares internacionales de seguridad para modelos grandes compilados por docenas de unidades, incluidas openai, ant group, iflytek y google, ambos estándares de la serie ai str.

además de la publicación de estándares, el foro también anunció el lanzamiento oficial del "desafío global de defensa y ataque de ia", la primera competencia de tecnología de defensa y ataque modelo a gran escala de china. este evento se centra en la práctica industrial de los modelos grandes de ia y ha diseñado una pista bidireccional de "ataque" y "defensa". invita a talentos técnicos de todos los ámbitos de la vida a realizar una detección antifalsificación de la autoseguridad de los modelos grandes. , contenido generado por modelos grandes y concursos de detección de riesgos de abuso de modelos grandes, compitiendo por cientos de concursos de bonificación tecnológica de 10.000 yuanes.

se entiende que esta competencia está patrocinada conjuntamente por la sociedad china de gráficos y gráficos, ant group y la alianza de seguridad en la nube (csa) de la gran china, y está patrocinada conjuntamente por la universidad de tsinghua, la universidad jiao tong de shanghai, la universidad de zhejiang y otras universidades c9. y una serie de organizaciones de investigación de la industria, la universidad y como unidad de cooperación técnica, el laboratorio de inteligencia artificial de shanghai tiene como objetivo reunir las fuerzas de la academia y la industria para enfrentar y resolver los riesgos ocultos en la aplicación de grandes modelos y ayudar a las personas sanas. y el desarrollo sostenible de la industria global de la ia.

(fuente: noticias jimu)

para obtener más información interesante, descargue el cliente "jimu news" en el mercado de aplicaciones. no reimprima sin autorización. puede proporcionar pistas de noticias y se le pagará una vez que lo acepte.