notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Foco fixo (dingjiaoone) original

Autor | Wang Lu

Editor | Wei Jia

Ver para crer, a mudança de rosto da IA ​​enganou muitas pessoas.

Dois dias atrás, a polícia de Hubei descobriu um caso de uso de tecnologia de mudança de rosto de IA para desbloquear contas sociais e revendê-las com fins lucrativos. Os criminosos usam a mudança de rosto de IA para ajudar as pessoas a desbloquear contas de namoro que foram congeladas pela plataforma. Eles cobram de 15 a 30 yuans por cada conta desbloqueada. A gangue descongelou 2.107 contas no total e obteve um lucro de 400 mil yuans.

Os dados mostram que a fraude de falsificação profunda baseada em IA aumentará 3.000% em 2023. Deep fake, também conhecido como deepfake, é uma combinação de aprendizagem e falsificação. Refere-se principalmente ao uso de tecnologia de aprendizagem profunda de IA para sintetizar a imagem ou falsificação de uma pessoa. vídeo ou mesmo som, o mais comum é a mudança de rosto por IA. O Ministério da Indústria e Tecnologia da Informação declarou recentemente que lançará uma função de lembrete de risco de fraude que muda a face da IA.

Por um lado, os casos de fraude de mudança de rosto de IA ocorrem com frequência e, por outro lado, a tecnologia de mudança de rosto de IA continua a iterar.

O círculo de IA recentemente esteve alvoroçado com um projeto de mudança de rosto de IA - Deep-Live-Cam. Os usuários só precisam fazer upload de uma foto para mudar seu rosto em tempo real para quem quiserem, como Zuckerberg ou Dong Yuhui.

Este projeto é gratuito e aberto a todos os usuários, publicado no GitHub (plataforma de hospedagem de código) e suporta instalação em computadores pessoais. O desenvolvedor do projeto anunciou o método de instalação, e pessoas comuns sem experiência técnica podem aprender e instalá-lo ao mesmo tempo.

Devido à sua operação simples e conveniente e alto grau de realismo na mudança de rosto, Deep-Live-Cam ficou em primeiro lugar na lista quente do GitHub, conquistando mais de 1.600 estrelas em 24 horas (as estrelas representam gostos de projetos e indicadores seguintes, alguns milhares de estrelas é muito bom) nível). Muitos internautas mudaram seus rostos para Musk e experimentaram a sensação de serem um bilionário global.

Mas enquanto todos lamentam o avanço da tecnologia de mudança de rosto da IA, eles também estão preocupados com o fato de “a fraude ter se tornado mais fácil”. Deveríamos boicotar a mudança de rosto da IA?

Mudança de rosto de IA que pessoas comuns podem usar,

O custo é tão baixo quanto uma dúzia de yuans

Atualmente, existem muitas ferramentas de mudança de rosto de IA no país e no exterior. A principal razão pela qual o Deep-Live-Cam é tão discutido é que,Os usuários só precisam fazer upload de uma imagem, mas o efeito de substituição é muito realista e também suporta a substituição de rosto em tempo real.

Na verdade, o limite técnico para a função de “mudança de rosto em tempo real” não é alto.

Xiao Zihao, cofundador da Ruilai Intelligence e cientista de algoritmos, disse que existem duas maneiras de obter o efeito de mudança de rosto de vídeo em tempo real: uma é reproduzir um vídeo pré-fabricado de mudança de rosto e a outra é acessar o vídeo de mudança de rosto em tempo real. Deep-Live-Cam pertence a este último.

Independentemente do tipo, os vídeos de mudança de rosto de IA precisam levar em consideração a continuidade dos quadros anteriores e seguintes, e o processamento baseado em vídeos de rostos contínuos pode fazer pequenos ajustes com base em muitos recursos de detecção do quadro anterior “Isso também faz. vídeo contínuo baseado em quadros/mudança de rosto ao vivo é mais eficiente do que mudança de rosto em quadros individuais", disse um pesquisador envolvido em tecnologia de IA.

A tecnologia subjacente na qual a mudança de face da IA ​​depende é o Deepfake. Os profissionais especulam que o Deep-Live-Cam também usa essa tecnologia, portanto o custo não será muito alto com base apenas nos materiais e no poder de computação necessários para produzir a síntese.

Xiao Zihao disse que se outros custos de compra de hardware não forem levados em consideração, o custo da maioria das substituições de rostos de IA é de apenas cerca de uma dúzia de yuans por vez, incluindo principalmente fotos e poder de computação, e Deep-Live-Cam pode ser ainda menor. Em comparação com outras ferramentas de mudança de rosto de IA, o Deep-Live-Cam usa menos fotos. A ferramenta também oferece suporte a computadores comuns e o custo das fotos e do poder de computação é menor.

Em contraste, Deep-Live-CamApoiar a mudança de rosto com apenas uma imagem chocou ainda mais os profissionais.Porque os produtos anteriores de mudança de rosto de IA exigiam que os usuários fornecessem pelo menos uma dúzia de fotos de ângulos diferentes.

A redução da dificuldade das fotos permite que os usuários se divirtam. O seguidor de IA Xiao C disse que nunca entrou em contato com nenhuma ferramenta de mudança de rosto de IA antes. Ele sente que o limite de operação do Deep-Live-Cam não é alto e pode ser concluído seguindo as instruções do editor. também não é muito difícil encontrar materiais que mudem o rosto.

Ele mudou seu rosto para celebridades como Guo Degang, Wu Jing, Lei Jiayin, etc., e usou apenas uma foto de cada um deles. Ele disse que desde que você forneça uma foto do rosto frontal, testa desobstruída, luz natural, próxima à cor da sua pele e as proporções mostradas na foto de identificação, uma foto terá sucesso e o efeito de substituição do rosto será ser muito natural.

Mais de um profissional acredita que a tecnologia de mudança de rosto de IA usada em alguns dramas de cinema e televisão não só tem alto limiar e alto custo, mas também o efeito de mudança de rosto não é natural o suficiente, e deformação e distorção ocorrem frequentemente durante o processo de falar. “Este é o maior problema com as ferramentas de mudança de rosto da IA?Deep-Live-Cam pode suportar o efeito de uma imagem durante a transmissão ao vivo. Não há traços óbvios de mapeamento nas bordas do rosto e a cor da pele não é muito diferente do personagem original. A fidelidade está à frente de muitos. Ferramentas de mudança de rosto de IA.”, Xiao Zihao analisou que seus desenvolvedores deveriam ter alcançado um avanço no modelo de renderização de imagens que as ferramentas anteriores de mudança de rosto de IA não tinham.

No entanto, ainda existem alguns bugs no Deep-Live-Cam, como suporte para mudança de rosto, mas não para mudança de voz. No entanto, Xiao Zihao disse que não é difícil conseguir isso, basta conectar-se à ferramenta de mudança de voz em tempo real e qualquer pessoa com um pouco de base em programação pode concluí-la.

Mudança de rosto de IA,

Fraude e infração que não podem ser evitadas

Ferramentas como Deep-Live-Cam reduziram o limite para os usuários, mas todos também começaram a temer que os criminosos possam usar apenas uma imagem para mudar de rosto e fraudar. Para as pessoas comuns, o risco aumentará dramaticamente.

Ruilai Smart Data destacou que o montante envolvido em casos domésticos de fraude de IA aumentou de 0,2 milhões em 2020 para 16,7 milhões em 2023, com uma taxa composta de crescimento anual de até 1.928,8%. No primeiro semestre de 2024, os casos de fraude de IA ultrapassaram 185 milhões. O "Relatório de Segurança de Inteligência Artificial de 2024" divulgado por Qi'anxin mostra que a fraude de falsificação profunda baseada em IA aumentou 3.000% em 2023.

Mudança de voz por IA, mudança de rosto por IA e geração de IA são três métodos comumente usados ​​​​para fraude de IA. Entre eles, o conteúdo gerado por IA tem segundos limitados e falhas óbvias na qualidade da imagem e dos personagens. -mudar são os métodos mais comumente usados ​​pelos criminosos. A maioria das pessoas acredita que "ver para crer", o que torna a mudança de rosto da IA ​​​​mais enganosa do que a mudança de voz da IA.

A mudança de rosto da IA ​​​​não enganou apenas os idosos, mas também muitos jovens que trabalham na área de tecnologia perderam milhões da noite para o dia.

De acordo com relatos da mídia pública, no ano passado, o CEO de uma empresa de tecnologia recebeu um pedido de transferência de um amigo e foi fraudado em 4,3 milhões de yuans em menos de 10 minutos. O golpista usou principalmente tecnologia de mudança de rosto de IA. Houve também um funcionário de uma empresa multinacional de Hong Kong que foi enganado em uma videoconferência com altos executivos idealizada por criminosos e transferiu 200 milhões de dólares de Hong Kong para a conta da outra parte.

É consenso entre os profissionais que a mudança de face da IA ​​atingiu o ponto em que “pode ser confundida com a realidade”.

Li Xu, chefe da equipe antifraude, disse que seu interesse na tecnologia de mudança de rosto de IA decorre de vários casos de fraude. Ele disse que casos de fraude de mudança de rosto de IA ocorreram com frequência nos últimos dois anos, e existem cerca de três métodos de fraude de mudança de rosto de IA muito maduros no mercado.

A primeira é usar IA para mudar rostos e falsificar vídeos pornográficos para chantagear a vítima.

Por exemplo, gangues criminosas coletarão fotos e informações de vídeo das vítimas de vários canais, como a Internet, e então realizarão processos de síntese, como remoção de roupas com um clique e mudança de rosto por IA, e enviarão vídeos indecentes forjados ou fotos de nudez às vítimas. por extorsão.

O segundo tipo é usar IA para mudar de rosto e fingir ser um conhecido para cometer fraudes.

Por exemplo, as gangues fraudulentas usarão algumas ferramentas de mudança de rosto no mercado para fingir ser parentes, amigos, colegas, líderes, etc. da vítima, primeiro inventar um motivo de emergência e aproveitar a urgência do alvo enganado para cometer fraude .É fácil baixar a guarda e transferir dinheiro.

Agora, usando Deep-Live-Cam, você só precisa coletar uma ou duas fotos da vítima para criar um vídeo profundamente falso. Li Xu sente que a extensão da fraude de mudança de rosto por IA está além da consciência da maioria das pessoas comuns, e isso. também alterou directamente o cenário da fraude nas telecomunicações, que é difícil de evitar e está a piorar.

Terceiro, a mudança de rosto da IA ​​é usada para fingir ser uma celebridade para realizar transmissões ao vivo e enganar os usuários para que façam pedidos.

Por exemplo, o âncora usa "mudança de rosto de IA" para "mudar" o rosto de uma celebridade na sala de transmissão ao vivo, aumentando assim o tráfego de vídeo ao vivo e ajudando a transmissão ao vivo a vender produtos.

Além disso, problemas de infração, como a criação de vídeos longos e curtos de celebridades/pessoas comuns por meio da mudança de rosto por IA e da criação de emoticons sem a permissão de outras pessoas, também são muito comuns.

Os casos de fraude que alteram a face da IA ​​ocorrem frequentemente e com vários métodos, o que está intimamente relacionado com a maturidade e amplitude desta tecnologia.

O CEO da Hanhao Technology, Wu Jieqian, disse a "Dingjian","Atualmente, a geração de vídeo de IA, as tecnologias digitais humanas e de mudança de rosto de IA estão todas maduras, e a mudança de rosto de IA é o primeiro campo desenvolvido."

O surgimento da tecnologia Deepfake em 2014 marcou o nascimento da mudança de rosto de IA, mas ela tem se espalhado em pequena escala. Somente em 2017, quando alguns usuários usaram a tecnologia para postar imagens pornográficas falsas, é que a mudança de rosto de IA veio. à vista do público mas, ao mesmo tempo, esta tecnologia tem sido controversa devido à grande quantidade de conteúdo falso que traz.

Mais de um profissional disse que, nos últimos anos, embora as discussões públicas sobre a mudança de rosto da IA ​​tenham se concentrado principalmente em salvar filmes e dramas de TV, devido à má supervisão, o uso da mudança de rosto da IA ​​para fraudes nunca parou. Além disso, a tecnologia de mudança de rosto de IA tem sido iterada e há muitos participantes. Atualmente, além de alguns grandes fabricantes envolvidos neste negócio, muitas pessoas digitais nacionais e startups de vídeo geradas por IA desenvolveram negócios de mudança de rosto de IA. a tecnologia é relativamente popular. Existem cada vez mais ferramentas desse tipo.

A tecnologia é madura e popular e a supervisão também é difícil. Como resultado, a tecnologia de mudança de rosto da IA ​​tem sido abusada ao longo dos anos.

Como identificar trocas faciais de IA cada vez mais realistas?

Nos últimos dois anos, a mudança de rosto da IA ​​levou a muitos atos ilegais e criminosos. A incontrolabilidade faz com que algumas pessoas sintam que a tecnologia de mudança de rosto da IA ​​deveria ser boicotada.

No entanto, muitos profissionais acreditam que a tecnologia em si é neutra e que o seu bom ou mau impacto depende principalmente do utilizador. O surgimento e a iteração da tecnologia revolucionária da IA ​​não devem ser interrompidos.

Jesse Wu disse que, no momento, não existe uma abordagem única para a tecnologia de mudança de rosto de IA no país e no exterior, e que se trata mais de gestão legislativa.

Por exemplo, os Estados Unidos introduziram legislação especial sobre falsificação profunda, a União Europeia incorporou a falsificação profunda nos quadros jurídicos e regulamentos existentes, como o Regulamento Geral de Protecção de Dados, e países como a Alemanha, Singapura e o Reino Unido também incorporaram crimes profundos relacionados com a falsificação nos seus sistemas de direito penal. A China também esclareceu as especificações desta tecnologia no “Regulamento sobre a Síntese Aprofundada dos Serviços de Informação da Internet”.

Muitos profissionais acreditam que é muito necessário rotular o conteúdo criado pela IA e outros métodos de gestão, bem como ensinar ao público alguns métodos para prevenir a fraude da IA.

Por exemplo, alguns técnicos propuseram certa vez que durante uma videochamada, a outra parte pode ser solicitada a colocar os dedos no rosto e observar cuidadosamente se o rosto está deformado, ou pedir à outra parte que abra a boca para ver se os dentes e a língua é clara e completa, de modo a determinar se a imagem é uma pessoa real ou uma síntese de IA.

Este método foi relativamente eficaz no ano passado, mas este ano, com a atualização da tecnologia de mudança de rosto da IA, falhou.

Xiao Zihao disse que a atual tecnologia de mudança de rosto de IA pode alcançarRostos e movimentos não se deformam quando aparecem obstáculos e a qualidade da imagem é muito nítida.Li Xu também descobriu,Casos recentes de fraude de mudança de face de IA utilizaram meios técnicos muito fortes e são quase impossíveis de identificar simplesmente por movimentos.

Tendo em conta o rápido desenvolvimento da tecnologia de mudança facial de IA, Li Xu acredita que aumentar a vigilância é um método relativamente eficaz no momento. Por exemplo, ao receber uma videochamada de um conhecido para pedir dinheiro emprestado, você pode fazer à outra parte algumas perguntas particulares que apenas a outra parte conhece e pedir verificação a mais pessoas ao seu redor.

Alguns profissionais acham que usar IA para identificar IA pode ser uma boa maneira.

Por exemplo, primeiro verifique se há algum elemento na imagem que obviamente contrarie o bom senso, focando se há falhas nas bordas do rosto, e depois use algumas ferramentas de IA. Xiao Zihao acredita que o uso de IA para detectar IA pode identificar a grande maioria dos golpes. Atualmente, muitas empresas e departamentos governamentais os abordaram para cooperar com sistemas de defesa de mudança de rosto de IA.

Mas esta medida também causou alguma controvérsia no país e no exterior.

Em primeiro lugar, este método tem um certo limite de utilização e os utilizadores precisam de descarregar aplicações relevantes nos seus telemóveis/computadores. Em segundo lugar, em essência, há um certo atraso neste tipo de ferramentas de defesa, que respondem principalmente às atuais ferramentas de mudança de face da IA. No entanto, a tecnologia de mudança de face da IA ​​e os métodos de síntese estão mudando o tempo todo.

Muitas pessoas depositam suas esperanças na melhoria das leis e regulamentos relevantes, como o aumento da punição para atividades ilegais, como fraude de mudança de rosto de IA, venda de vídeos pornográficos de mudança de rosto de IA e celebridades que vendem produtos que mudam de rosto.

No ano passado, o Tribunal Popular do distrito de Xiaoshan, Hangzhou, decidiu sobre um caso de uso de mudança de rosto de IA para produzir vídeos obscenos. O réu forneceu serviços personalizados de mudança de rosto de IA, produziu um grande número de vídeos obscenos por meio de mudança de rosto de IA e. também usou métodos de mudança de rosto de IA para atrair espectadores a pagar, o valor total envolvido no caso foi de mais de 60.000 yuans, e ele acabou sendo condenado a sete anos e três meses de prisão e multado em 60.000 yuans.

No entanto, gostaria de lembrar a todos queNem todas as mudanças faciais de IA infringirão os direitos de retrato.

Em junho deste ano, o Tribunal da Internet de Pequim pronunciou dois casos de violação de mudança de rosto de IA. Dois modelos de vídeos curtos de estilo chinês descobriram que seus vídeos apareciam em um APP de mudança de rosto em plataformas sociais, então processaram a empresa de tecnologia por trás do APP. O tribunal considerou que isso havia prejudicado seu direito ao retrato e os direitos pessoais.

A decisão do tribunal foi que o réu utilizou um vídeo em que o autor apareceu, mas como o rosto do autor no vídeo envolvido foi substituído, isso não infringiu os direitos de retrato do autor. violação dos direitos de informação pessoal do requerente.

Neste momento, a tecnologia de mudança de rosto de IA ainda está sendo atualizada e ainda não foi banida. As ferramentas de mudança de rosto de IA ainda estão circulando no mercado em grande número.

"Dingjiao" recentemente pesquisou diretamente por "mudança de rosto de IA" em uma plataforma de comércio eletrônico e não conseguiu encontrar nenhuma informação. No entanto, desde que as palavras-chave sejam ligeiramente alteradas, ferramentas de mudança de rosto relacionadas ainda podem ser encontradas à venda. o caminho é mais secreto e irá para um site de segunda mão para transações. Numa época em que a tecnologia e o engano estão em constante atualização, o que todos podem fazer é estar mais vigilantes para evitar serem prejudicados pela mudança de rosto da IA.

*A imagem do título e as imagens que acompanham o artigo são da Pexels.