notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

De acordo com notícias de 2 de agosto, a 12ª Conferência de Segurança na Internet (ISC.IA 2024), esta conferência será realizada sob o tema “Construindo uma Segurançamodelo grande, Liderando uma Nova Revolução na Indústria de Segurança" como tema, focando em profundidade nos dois principais campos da segurança e da IA. No local, entrevistamos360Presidente de ZhinaoZhang Xiangzheng, conduziu intercâmbios aprofundados sobre a compreensão da 360 Intelligence sobre questões de segurança e planejamento de produtos.

Zhang Xiangzheng apresentou que a equipe do Cérebro Inteligente é responsável pelos recursos gerais do modelo, bem como recursos especiais para cenários de negócios principais, como leitura inteligente, navegadores, resumo de texto, resumo de vídeo/legenda, geração de mapas mentais, adivinhação de palavras de pesquisa, reconhecimento de intenção e resumo, etc. espere. Ao mesmo tempo, a equipe do Intelligent Brain também é responsável pelo trabalho de combinar segurança de API e IA com grandes capacidades de modelo.

O tema desta conferência é "Construindo um Grande Modelo de Segurança". Quando se trata de tópicos de segurança, Zhang Xiangzheng disse que as questões de segurança estão divididas em várias partes. A primeira parte é o nível de implantação do sistema, que está relacionado à segurança de rede tradicional. incluindo a estrutura do agente, incluindo bancos de dados de vetores, incluindo a estrutura PyTorch, que por si só apresenta riscos potenciais de vulnerabilidade. A segunda parte é se o conteúdo gerado atende aos requisitos regulatórios, incluindo o alinhamento de valores, assumindo que o resultado é um erro; 10% ocorre, não sei se esses 10% ocorrem. Em que ponto se deve acreditar ou não no resultado gerado em muitos casos? O quarto bloco está relacionado à estrutura do Agente. O modelo grande é apenas o centro de agendamento e pode acessar muitos terceiros ou muitos bancos de dados dentro de empresas ou empreendimentos. Se operações automatizadas forem realizadas, isso poderá afetar a segurança de outros sistemas. Por exemplo, quando usado para inteligência incorporada, algumas ações perigosas podem ser executadas.

No nível de segurança, a diferença entre ToB e ToG também é óbvia. Zhang Xiangzheng introduziu que a tolerância às questões de segurança é diferente. Por exemplo, os departamentos governamentais precisam fornecer soluções de implantação privatizadas para dados de treinamento e todo o treinamento incremental e de ajuste fino. deve estar dentro de agências governamentais. Faça isso em um ambiente de rede. No cenário ToB, um típico é a educação. Há um poema “Moonlight before the Bed”. Existem duas versões online. O gerente de produto está em pânico, perguntando-se por que a introdução de todo o poema é diferente do texto para tal. um poema famoso. As crianças não têm boa capacidade de discriminação, o que leva a requisitos muito elevados quanto à fiabilidade dos resultados.

Falando sobre o tema de modelos pequenos, Zhang Xiangzheng destacou que fizemos algumas explorações sobre a aplicação de modelos pequenos no lado do computador e testamos soluções relacionadas internamente, mas ainda há poucos notebooks que atendem aos requisitos, e o volume é não é tão grande. Além disso, também consideramos a aceitabilidade. Acreditamos que a atual produção de modelos pequenos ainda tem um longo caminho a percorrer.

Em relação ao tópico recentemente discutido sobre pesquisa de IA, Zhang Xiangzheng respondeu que, em comparação com a pesquisa tradicional, a pesquisa de IA é mais exclusiva porque pode usar raciocínio em várias etapas ou pesquisas de múltiplas palavras-chave para quebrar problemas complexos e resolvê-los passo a passo e automaticamente . Depois de fazer a recuperação em várias etapas, faça a fusão ou, após concluir a primeira etapa da inferência, faça outra pesquisa nos resultados da inferência e, em seguida, entregue-o ao modelo grande e, em seguida, faça a fusão. No futuro, se as capacidades de pesquisa da IA ​​​​se tornarem cada vez mais fortes, os hábitos dos usuários migrarão, mas não se pode dizer que seja uma forma de produto completamente nova. Isso está relacionado aos hábitos de uso dos usuários. (Dingxi)

Este artigo vem do NetEase Technology Report. Para obter mais informações e conteúdo aprofundado, siga-nos.