notícias

repórter do jimu news, zhou dan

em 6 de setembro, no fórum "guardando ia com ia, formas ofensivas e defensivas na era dos grandes modelos" na conferência bund de inclusão 2024, o wdta world digital technology institute lançou oficialmente o padrão internacional "requisitos de segurança para cadeias de suprimentos de grandes modelos". o padrão foi compilado por especialistas da cloud security alliance (csa) greater china, ant group, microsoft, google, meta, privateai e outras dezenas de unidades nacionais e estrangeiras. este é o primeiro padrão internacional da indústria para a segurança da cadeia de abastecimento de grandes modelos, marcando mais um passo sólido na cooperação internacional na governação global da ia.

peter major, presidente executivo da comissão das nações unidas sobre ciência e tecnologia para o desenvolvimento e presidente fundador da academia mundial de tecnologia digital, que participou na reunião, disse que à medida que a inteligência artificial continua a desenvolver-se e a afectar várias indústrias em todo o mundo, a cooperação internacional em padrões relacionados à inteligência artificial tornou-se cada vez mais importante. o desenvolvimento de normas internacionais reconhecidas mundialmente para a inteligência artificial ajudará a cultivar a confiança na inteligência artificial, a promover a inovação e a garantir que os sistemas de inteligência artificial funcionam de forma fiável em diferentes indústrias e regiões.

em relação aos padrões divulgados desta vez, li yuhang, presidente da grande china da cloud security alliance (csa), disse que a operação de grandes sistemas modelo depende do ecossistema da cadeia de suprimentos interconectada distribuída em todo o mundo. a aplicação generalizada de modelos globais de inteligência artificial em grande escala trouxe oportunidades sem precedentes e, ao mesmo tempo, expôs enormes desafios à segurança da cadeia de abastecimento. a norma lançada pela wdta fornece uma estrutura de gestão sistemática para a segurança do ciclo de vida completo de grandes modelos, resolve desafios de segurança na cadeia de abastecimento, apoia o desenvolvimento seguro e sustentável da tecnologia global de inteligência artificial e aumenta a credibilidade geral da indústria.

as informações mostram que os "requisitos de segurança da cadeia de suprimentos de grandes modelos" são uma das séries de padrões de segurança, confiabilidade e responsabilidade de inteligência artificial (ai str) da wdta. este padrão fornece uma estrutura de proteção de segurança da cadeia de suprimentos para grandes modelos de linguagem, fornece requisitos para riscos de segurança relacionados à cadeia de suprimentos e gerenciamento de atividades de fornecimento envolvidos em todos os aspectos, desde a preparação de dados, desenvolvimento de grandes modelos até implantação e operação, e fornece riscos comuns de segurança da cadeia de suprimentos , casos típicos de segurança e outras informações relacionadas. através desta norma, os potenciais riscos de segurança da cadeia de abastecimento enfrentados no ciclo de vida de grandes sistemas de modelos podem ser eficazmente identificados e avaliados, tais como fuga de dados, adulteração de modelos, incumprimento de fornecedores, etc., garantindo a integridade, disponibilidade e confidencialidade de a cadeia de abastecimento, melhorando assim a segurança de grandes sistemas modelo.

entende-se que esta norma não só fornece uma estrutura sistemática de gestão de segurança para ambas as partes da oferta e da procura no grande modelo de cadeia de abastecimento, mas também fornece uma base confiável para a revisão de segurança e gestão de conformidade por instituições terceiras e departamentos autorizados, melhorando ainda mais o o desenvolvimento geral seguro e confiável do sistema.

a world digital technology academy (wdta) foi criada em abril de 2023 e é uma organização não governamental internacional registrada em genebra. a organização se dedica ao avanço da tecnologia digital globalmente e à promoção da cooperação internacional. o programa ai str é a iniciativa central do wdta, com o objetivo de garantir a segurança, credibilidade e responsabilidade dos sistemas de inteligência artificial microsoft, google, anthropic, ant group, baidu, etc. na conferência de ciência e tecnologia das nações unidas em abril deste ano, a wdta lançou dois padrões internacionais de segurança para grandes modelos compilados por dezenas de unidades, incluindo openai, ant group, iflytek e google, ambos padrões da série ai str.

além do lançamento dos padrões, o fórum também anunciou o lançamento oficial do "desafio global de ataque e defesa de ia", a primeira competição de tecnologia temática de ataque e defesa em grande escala da china. este evento concentra-se na prática industrial de grandes modelos de ia e projetou uma via bidirecional de "ataque" e "defesa". ele convida talentos técnicos de todas as esferas da vida para realizar a detecção anti-falsificação de autossegurança de grandes modelos. , conteúdo gerado por modelos grandes e competições de detecção de risco de abuso de modelos grandes, competindo por centenas de competições de bônus de tecnologia de 10.000 yuans.

entende-se que esta competição é patrocinada conjuntamente pela chinese graphics and graphics society, ant group e cloud security alliance (csa) grande china, e é patrocinada conjuntamente pela universidade tsinghua, universidade jiao tong de xangai, universidade zhejiang e outras universidades c9. e uma série de organizações industriais, universitárias e de pesquisa como unidade de cooperação técnica, o laboratório de inteligência artificial de xangai visa reunir as forças da academia e da indústria para enfrentar e resolver os riscos ocultos na aplicação de grandes modelos e ajudar os saudáveis. e o desenvolvimento sustentável da indústria global de ia.

(fonte: jimu news)

para obter informações mais interessantes, baixe o cliente "jimu news" no mercado de aplicativos. não reimprima sem autorização. você pode fornecer dicas de notícias e será pago assim que aceito.