notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Coisas inteligentes (conta pública:zhidx com）
compilarbaunilha
editarYunpeng

Imagine quando um grande empreendedor lhe oferece um ramo de oliveira e lhe diz “pessoalmente” que existe uma maneira livre de riscos de enriquecer rapidamente.Basta preencher um formulário e você pode ganhar US$ 1 milhão,o que você vai fazer?

Se essa pessoa for Musk e a BBC o apoiar, diga-lhe que isto é "Uma revolução tecnológica desconhecida do público“Pano de lã?

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲ Vídeo deepfake de AI Musk

Pessoas mais vigilantes podem sentir imediatamente o cheiro de fraude nas telecomunicações, mas para pessoas que não estão frequentemente expostas à Internet, não é fácil identificar esses vídeos falsos.

De acordo com a reportagem do New York Times de 16 de agosto, no final do ano passado, Beauchamp, um aposentado de 82 anos, viu Musk promovendo uma oportunidade de investimento radical e prometendo retornos rápidos e sem risco. Ele entrou em contato com a empresa no vídeo e gastou suas economias para a aposentadoria em uma série de transações nas semanas seguintes.“Investimento” acumulado ultrapassa US$ 690 mil。

A próxima coisa que você pode imaginar é que a pensão desapareceu junto com a empresa.

Com o nomeProfundo falsoA tecnologia de IA está se tornando cada vez mais madura e vídeos semelhantes estão inundando a Internet. Segundo estimativas da Deloitte, uma conhecida empresa de consultoria, vídeos deepfakeDezenas de bilhões de dólares em perdas por fraude todos os anos。

Sensity, uma organização que monitora vídeos deepfake, conduziu recentemente uma pesquisa e analisouMais de 2.000 parágrafosVídeos deepfake, descobertosAlmíscartornou-se o “porta-voz” mais comum neste tipo de vídeo. Desde o final do ano passado,Musk aparece em quase 1/4 dos vídeos de golpes deepfake, entre os quais sua taxa de aparição em vídeos sobre criptomoedas chega a90%。

Outros alvos comuns de falsificação incluem investidores famososBuffett, fundador da AmazonBezosespere.

1. Dezenas de bilhões de dólares são fraudados todos os anos, e a taxa de aparecimento de Musk é1/4

Para criar esses vídeos, os golpistas encontrarão primeiro vídeos reais de entrevistas de Musk e outros. Por exemplo, a cena do vídeo de abertura veio originalmente de uma entrevista concedida por Musk ao Wall Street Journal. O tema era como usar IA e outras tecnologias para alcançar uma gestão eficiente da empresa.

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲ Vídeo original da entrevista com Musk

Os golpistas aproveitarãoTecnologia de sincronização labial (sincronização labial), ajuste o formato da boca do personagem e useFerramenta de clonagem de vozAdicione uma voz copiada por IA.

▲ Sincronização labial (Fonte: "New York Times")

Finalmente, alguns vídeos também adicionam ícones falsos que imitam organizações de notícias profissionais como a BBC, o que pode ser mais convincente para os utilizadores comuns da Internet.

▲ Logotipo de notícias (Fonte: "New York Times")

É difícil quantificar exatamente quantos vídeos deepfake estão circulando online. A busca por cópias promocionais comuns desses golpes na biblioteca de anúncios do Facebook resultará em centenas de milhares de anúncios, muitos dos quais são vídeos deepfake.

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲ Vídeo deepfake de AI Bezos

O YouTube também está cheio desses tipos de vídeos. Se você pesquisar “Elon Bitcoin Conference” no YouTube, encontrará dezenas de vídeos rotulados ao vivo, mas na verdade são vídeos deepfake pré-gravados.

▲ Vídeo deepfake do YouTube (Fonte: YouTube)

O número de espectadores dessas "transmissões ao vivo" pode variar de tempos em temposcentenas de milhares, mas de acordo com a confirmação do YouTube, os golpistas podem usar “exércitos de água” para aumentar o número de pessoas e inflar artificialmente esse número.

Em Maio deste ano, a Deloitte, uma conhecida organização de consultoria, divulgou um relatório sobre o aumento do risco de fraude de falsificação profunda causada pela IA generativa, que mencionou que incidentes de falsificação profunda no campo da tecnologia financeira ocorrerão em 2023.aumentou em 700%e prevê que a IA gerará perdas por fraude nos EUA até 2027para US$ 40 bilhões, de US$ 12,3 bilhões em 2023，A taxa composta de crescimento anual é de 32%。

▲ Previsão de crescimento nas perdas por fraude causadas por IA generativa (Fonte: Deloitte)

Os vídeos deepfake estão crescendo em número e impacto. De acordo com uma pesquisa da Sensity, organização que monitora vídeos deepfake, entre mais de 2.000 vídeos deepfake,Musk se tornou o "porta-voz" mais comum, aparece emQuase 1/4 dos vídeos de golpes deepfakeEntre eles, sua taxa de aparição em vídeos direcionados a criptomoedas é tão alta quanto90%。

Francesco Cavalli, cofundador da Sensity, acredita,Este pode ser o maior golpe deepfake de todos os tempos。

2. O custo não excede10Dólares americanos, falsifique muitos vídeos em poucos minutos

Na verdade, o custo de produção desse tipo de vídeo não é alto;Custa apenas menos de $ 10, você podedentro de alguns minutosUm grande número de vídeos falsos foi produzido.

Esses vídeos gerados por IA não são perfeitos. Musk parece robótico em alguns vídeos e os movimentos de sua boca nem sempre são consistentes. Mas esses vídeos conseguiram enganar algumas pessoas e a tecnologia continua a melhorar.

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲ Vídeo deepfake de AI Musk

A investigação da Sensity mostra que este tipo de golpistas vem principalmente da Ásia e de países do Leste Europeu. Eles usam ferramentas gratuitas e baratas para traduzir vídeos em vários idiomas e continuam a espalhar o golpe para um público mais amplo.

Uma das rotinas comuns éPromova software de IA falso. Os golpistas incentivam os alvos a entregar primeiro uma pequena quantia de dinheiro - geralmente em torno de US$ 250 - fazendo com que "porta-vozes" afirmem que o software pode gerar retornos surpreendentes sobre o investimento e, em seguida, atraí-los lentamente, alegando que o valor do investimento inicial está aumentando .Invista mais.

Por exemplo, no vídeo a seguir da assembleia de acionistas da Tesla, Musk “demonstrou” um produto comercial automatizado alimentado por IA.Pode dobrar um investimento específico todos os dias, “Com apenas um investimento de R4.500, você pode obter um lucro estável de R8.000 por dia.” (Nota: Rand é a unidade monetária da África do Sul)

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲ Vídeo deepfake de AI Musk

Esses golpistas de IA geralmente têm como alvoUsuários mais velhos da Internet, eles podem estar familiarizados com tópicos como criptomoeda e IA, bem como pessoas como Musk e Buffett, mas não estão familiarizados com métodos de investimento seguros.

“Os idosos são um grupo muito rico e crédulo”, disse Finn Brunton, professor de estudos de tecnologia na Universidade da Califórnia, Davis, e especialista no mercado de criptomoedas. “Mesmo sem plataformas de mídia social, os idosos sempre foram o alvo. de fraudes.”

A razão pela qual Musk é o alvo é porque Musk tem um grupo global único de “fãs”. Especialistas que estudam a comunidade das criptomoedas dizem que essas pessoas geralmente são formadas por conservadores, antiestablishment e entusiastas da criptografia, que muitas vezes são atraídos por novas maneiras de ganhar dinheiro – o que os torna alvos perfeitos para golpes.

A pesquisadora da comunidade de criptomoedas Molly White disse que esse grupo de pessoas sempre acreditou que o segredo da riqueza estava escondido deles e, uma vez que “descobriram” o segredo, pensaram que era tudo de que precisavam.

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲ Vídeo deepfake de AI Musk

Beauchamp, o aposentado mencionado no início, foi representante comercial de uma empresa canadense antes de completar 75 anos. Ele começou a usar o Facebook no ano passado e viu um anúncio de Musk sendo entrevistado na CNN.

Embora ele tenha insistido que também tinha visto o vídeo oficial da CNN, de acordo com um porta-voz da CNN,Musk não é entrevistado por eles há anos。

De acordo com trocas de e-mails entre Beauchamp e a empresa mencionada no vídeo, em dezembro do ano passado, ele enviou US$ 27.216 para a empresa chamada Magna-FX.

A Magna-FX fez parecer que o valor dos seus investimentos estava a aumentar, permitindo até que um agente de vendas utilizasse software para controlar remotamente o computador de Beauchamp e fingir transferir fundos para investimento.

Para retirar os fundos apreciados, Beauchamp foi instruído a pagar uma taxa de administração de US$ 3.500 e uma comissão de US$ 3.500. Depois de transferir o dinheiro, ele foi informado de que precisava pagar outros US$ 20 mil para sacar cerca de US$ 200 mil. Ele pagou o dinheiro novamente.

Por fim, Beauchamp esgotou suas economias para a aposentadoria, estourou o limite de seus cartões de crédito, estourou o limite de sua linha de crédito e pediu dinheiro emprestado à irmã para investir e pagar despesas. Mas os golpistas continuaram pedindo que ele pagasse mais. Beauchamp então contatou a polícia.

Infelizmente, nenhum progresso foi feito neste caso.

3. A supervisão da plataforma enfrenta desafios. A exclusão de vídeos trata os sintomas, mas não a causa raiz.

A prevalência da publicidade enganosa também é inseparável da negligência na supervisão da plataforma.

Algumas pessoas cujos vídeos foram falsificados tomaram medidas legais. O bilionário australiano Andrew Forrest entrou com uma ação civil contra a Meta, controladora do Facebook, acusando-a de negligência em suas operações comerciais de publicidade. Seus vídeos deepfake foram usados ​​em anúncios no Facebook, que ele acreditava que atrairiam “usuários inocentes a fazerem maus investimentos”.

Meta respondeu que a empresa está treinando sistemas de detecção automatizados para detectar fraudes em sua plataforma, mas também chamou isso de jogo de “gato e rato”, com os golpistas mudando constantemente suas táticas para evitar a detecção.

O YouTube também está tomando algumas medidas para lidar com vídeos deepfake. Em março deste ano, o YouTube atualizou as suas políticas para exigir que os criadores divulguem se utilizam IA nas suas criações e para proibir fraudes e adulterações de vídeos.

O YouTube mencionou em comunicado que entre janeiro e março deste ano, a empresa removeu mais de 15,7 milhões de canais e mais de 8,2 milhões de vídeos que violavam as políticas de conteúdo. No entanto, apenas excluir o vídeo ainda é um indicador, mas não cura a causa raiz. A plataforma precisa reexaminar seu sistema de revisão e resolver o problema desde a raiz.

Conclusão: vídeos deepfake poluem a Internet

A história da fraude digital é tão antiga quanto a Internet. No entanto, à medida que a tecnologia de IA se torna mais madura e o custo da utilização de ferramentas de IA se torna cada vez mais baixo, os custos de tempo e dinheiro da utilização desta tecnologia para cometer fraudes também foram significativamente reduzidos. Uma nova onda de vídeos deepfake com celebridades como Musk está poluindo a internet.

Com o desenvolvimento contínuo da tecnologia, a tecnologia deepfake pode tornar-se mais difícil de distinguir, o que impõe novos requisitos para plataformas, agências reguladoras e leis.

fonte:O jornal New York Times