notícias

Com o desenvolvimento e a iteração da inteligência artificial (IA), a IA generativa está a remodelar a vida quotidiana a uma velocidade sem precedentes, mas os novos esquemas e as novas rotinas dela derivadas também estão a renovar a compreensão das pessoas sobre a prevenção de riscos. Por trás disso não está apenas a segurança patrimonial dos consumidores, mas também riscos de segurança pessoal e perigos ocultos.

Recentemente, a mídia estrangeira expôs um novo golpe digital. Os golpistas usam ferramentas complexas de IA para criar vídeos de celebridades como o CEO da Tesla, Musk, e usam essas "celebridades de IA" para realizar vários produtos falsos ou "endossos e promessas de alto retorno sobre". investimento.

Num caso típico, uma chamada empresa de câmbio endossada por "AI Musk" fraudou facilmente um aposentado de 82 anos em mais de US$ 690.000 (aproximadamente 4,95 milhões de yuans) das economias de sua vida.

Nesse tipo de golpe, os golpistas geralmente encontram primeiro um vídeo real de Musk sendo entrevistado, depois usam ferramentas de IA para substituir sua voz e usam tecnologia de sincronização labial para editar o formato da boca de Musk para tornar o vídeo mais autêntico. Para as pessoas comuns, esse tipo de vídeo falso pode ser muito difícil de distinguir.

Além de Musk, "Stock God" Buffett e o fundador da Amazon, Jeff Bezos, também são celebridades que aparecem frequentemente em vídeos fraudulentos.

"AI Musk" é desenfreado. Leva apenas alguns minutos para ser gerado, mas alguém foi fraudado em quase 5 milhões de yuans.

Nos últimos meses, milhares de vídeos alimentados por IA, conhecidos como “deepfakes”, inundaram a Internet.De acordo com as estimativas da Deloitte, espera-se que vídeos/anúncios “deepfake” alimentados por IA causem bilhões de dólares em perdas por fraude a cada ano.

No entanto,Esses vídeos custam poucos dólares para serem criados e podem ser feitos em minutos.Esses vídeos são amplamente divulgados nas redes sociais, inclusive por meio de publicidade paga no Facebook, devido ao seu status de celebridade, o que aumenta seu alcance.

Os golpistas começarão com um vídeo real, como o abaixo, de uma entrevista com Musk do The Wall Street Journal, onde o questionador é Thorold Barker, editor do jornal cuja voz também aparece no videoclipe.

Fonte da imagem: “Wall Street Journal”

No vídeo “deepfake”, os movimentos da boca de Musk foram editados usando tecnologia de sincronização labial, que ajusta a forma como a pessoa fala. Os golpistas também adicionam vozes de IA usando ferramentas de clonagem de voz, que podem copiar qualquer som que desejarem de uma amostra. Portanto, o vídeo resultante pode ser bastante convincente para o usuário médio da Internet.

Algumas pessoas foram enganadas por isso.O aposentado Steve Beauchamp, de 82 anos, é um caso típico. De acordo com relatos da mídia estrangeira, no final do ano passado, Beauchamp, aposentado de 82 anos, assistiu a um anúncio em vídeo. No vídeo, Musk apóia uma oportunidade de investimento agressiva que promete retornos rápidos, e o formato de sua boca e sua voz combinam perfeitamente.Também incorpora o icônico sotaque sul-africano de Musk.Parece extremamente real. Então Beauchamp contatou a empresa de câmbio por trás do anúncio chamada Magna-FX e abriu uma conta por US$ 248. Após uma série de negociações durante várias semanas, Beauchamp esgotou sua conta de aposentadoria e acabou investindo mais de US$ 690.000, que foi liquidada.

De acordo com outroUm homem do Texas disse que perdeu US$ 3,6 em dinheiro depois de ver Musk falar em um chamado vídeo “ao vivo” do YouTube em fevereiro de 2023, de acordo com um relatório do grupo sem fins lucrativos de defesa do consumidor Better Business Bureau. Ele disse: “Enviei os bitcoins e nunca mais recebi nada”.

A Sensity, empresa responsável por monitorar e detectar “deepfakes”, analisou mais de 2.000 vídeos deepfake e descobriu que até agora,Musk é a “imagem AI” mais comum neste tipo de vídeo. Especificamente, desde o final do ano passado, “AI Musk” apareceu em quase 1/4 dos golpes “deep fake”. Em vídeos “deep fake” relacionados a criptomoedas, sua frequência de aparição chega a 90%.

A este respeito, especialistas que estudam a comunidade de criptomoedas disseram que Musk tem uma base de fãs única em todo o mundo, incluindo conservadores, facções anti-establishment e entusiastas de criptomoedas. Esses grupos são frequentemente atraídos por formas alternativas de ganhar dinheiro.Isso também os torna um alvo perfeito para golpistas digitais. Além disso, entre este grupo, os utilizadores mais velhos da Internet são frequentemente mais propensos a tornar-se alvos de fraudadores. Este grupo está muito familiarizado com criptomoeda, IA e Musk, mas muitas vezes não está suficientemente vigilante.

Além de Musk, "Stock God" Buffett e o fundador da Amazon, Jeff Bezos, também são celebridades que aparecem frequentemente em vídeos fraudulentos.

A tecnologia de IA tornou-se uma ferramenta para fraudes, e o Facebook e o Youtube são as áreas mais atingidas

De acordo com relatos da mídia estrangeira, atualmente é difícil quantificar quantos vídeos "deepfake" estão circulando online, mas pesquisar palavras-chave comuns para esses golpes na biblioteca de anúncios do Facebook pode revelar centenas de milhares de anúncios, incluindo muitos contêm vídeos "deepfake" .

Embora o Facebook tenha removido muitos vídeos que violam suas políticas e suspendido algumas contas, outros vídeos ainda estão circulando online, e aparentemente mais aparecem todos os dias. Não só o Facebook, mas o YouTube também está cheio desses vídeos falsos, muitas vezes usando a tag “live”. Mas, na verdade, esses vídeos são vídeos “deepfake” pré-gravados.

O YouTube disse em comunicado que somente no primeiro trimestre deste ano,Mais de 15,7 milhões de canais e mais de 8,2 milhões de vídeos foram excluídos.A maior parte deste conteúdo foi removida por violar sua política anti-spam.

A prevalência de tais anúncios “deepfake” também levou o bilionário australiano Andrew Forrest a abrir um processo civil, acusando a empresa-mãe do Facebook, Meta, de negligência em suas operações comerciais de publicidade. Ele acredita que o negócio de publicidade do Facebook induz “usuários inocentes a fazerem investimentos errados”. A Meta disse que está treinando sistemas de detecção automática para detectar fraudes em sua plataforma, mas também mencionou que os fraudadores bem financiados continuarão a mudar suas estratégias para evitar a detecção.O YouTube disse que suas políticas proíbem fraudes e vídeos adulterados e, em março deste ano, exigiu que os criadores divulgassem ao usar IA para criar conteúdo autêntico.

Na verdade, a fraude digital não é nova, mas desde o código aberto das ferramentas de IA no ano passado, uma nova onda de vídeos "profundamente falsos" explodiu.

No início deste ano,A Comissão Federal de Comércio dos EUA (FTC) e o FBI também alertaram que o crime cibernético impulsionado pela IA e a fraude profunda estão aumentando.“Os criminosos estão usando IA para tornar os ataques cibernéticos e outras atividades criminosas mais eficazes e mais difíceis de detectar”, disse o FBI.

Os vídeos "deep fake" não são perfeitos e, mesmo em alguns vídeos, o formato da boca de "AI Musk" não corresponde, mas alguns especialistas dizem que, para alguns grupos-alvo de golpistas, os vídeos que eles produzem parecem ser suficientemente interessantes e persuasivos. melhorando o tempo todo.

Além disso, algumas fraudes promovem frequentemente softwares falsos de inteligência artificial, alegando que podem gerar retornos significativos sobre o investimento. Os golpistas usam isso para induzir o público-alvo a investir inicialmente uma pequena quantia de dinheiro (aproximadamente US$ 250). As pessoas são lentamente atraídas a investir mais dinheiro, à medida que os golpistas continuam a afirmar que o valor do investimento será valorizado.

Roubado com as economias de sua vidaBeauchamp“Neste momento, estou disposto a aceitar todas as críticas e ridículos como punição pela minha credulidade”, disse ele num relatório ao Better Business Bureau.

Ele disse que contava com uma conta de aposentadoria e pensão menores que não havia divulgado aos golpistas para sobreviver, e que planejava usar as economias para viajar ao redor do mundo.BeauchampUma denúncia foi feita à polícia local, mas o caso avança lentamente. “Meu caso foi colocado na fila por causa de todos os casos de fraude”, disse ele. “Eu não tinha grandes esperanças”.

notícias econômicas diárias