notícias

recentemente, a polícia de hangzhou divulgou o primeiro caso no país de utilização de um grande modelo de ia para mudar de rosto e roubar privacidade pessoal, o que é horrível de se pensar.

os criminosos inserem fotos das vítimas no modelo e, em seguida, fazem solicitações por meio de texto e voz para gerar um vídeo ao vivo. este vídeo ao vivo pode imitar um rosto humano acenando com a cabeça, piscando e de lado, quebrando a autenticação facial da plataforma, forçando você a fazer login nas contas de outras pessoas e obter uma grande quantidade de dados privados da vítima para vender com lucro.

esta é apenas a ponta do iceberg no caos das aplicações de tecnologia de ia. nos últimos anos, a tecnologia de inteligência artificial desenvolveu-se rapidamente, trazendo mais oportunidades e serviços mais convenientes. no entanto, as novas tecnologias são frequentemente utilizadas por alguns criminosos e tornam-se “cúmplices” de crimes.

a "mudança de rosto" da ia ​​comete fraude, a ia forja imagens para espalhar boatos e as ligações de vendas da ia ​​​​são perturbadoras ... todos os tipos de caos não apenas infringem os direitos e interesses legítimos dos consumidores, ameaçam a segurança pessoal e patrimonial, mas também dificultam o desenvolvimento saudável e ordenado da indústria de ia.

não há dúvida de que a ia é uma direção importante para o desenvolvimento científico e tecnológico e um altiplano tecnológico para a competição entre os países. no entanto, ao desenvolver a ia, não devemos ignorar os seus riscos ocultos. aperte o “cinto de segurança” para a ia rápida, deixe-a tornar-se um “ajudante” em vez de um “cúmplice”, e concentre-se no fortalecimento da governação e da regulamentação.

na semana nacional de conscientização sobre segurança cibernética de 2024, realizada recentemente, a questão das aplicações de segurança de ia se tornou um tema quente. durante este período, os departamentos relevantes lançaram a versão 1.0 do "quadro de governança de segurança de inteligência artificial", propondo soluções direcionais, como princípios de governança de segurança de inteligência artificial. algumas tecnologias negras para lidar com riscos de segurança de ia também foram reveladas na cyber ​​​​security expo, como o sistema de falsificação de ia em tempo real, que identifica e combate efetivamente truques de fraude, como mudança de rosto de ia e onomatopeia de ia.

a tecnologia sempre foi uma “faca de dois gumes”. seja ela boa ou má, benéfica ou prejudicial, a chave depende de como a pessoa que segura a espada está preparada para usá-la. ao desenvolver vigorosamente a ia, devemos aumentar a sensibilização para a segurança, reforçar a promoção e aplicação de tecnologias de segurança relevantes e promover a formação de um consenso de governação entre todas as partes da sociedade para que a ia possa beneficiar melhor a humanidade. (redator: ma ruohu)