notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

O falso Musk gerado pela IA se tornou o maior mentiroso online.

Link original: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

Fonte: Tecnologia NetEase (ID: tech_163)

Título original: Fake Musk gerado por IA se tornou o maior mentiroso online

De acordo com relatos da mídia dos EUA, em 15 de agosto, a tecnologia deepfake de inteligência artificial (Deepfake) tem sido amplamente utilizada em fraudes online nos últimos anos, especialmente o uso de vídeos falsos de Elon Musk para cometer fraudes. Os vídeos enganaram os investidores ao simular a voz e os movimentos de Musk. Esses vídeos deepfake são baratos e se espalham rapidamente, permitindo que os golpistas expandam facilmente o escopo de suas atividades fraudulentas, resultando na perda de muitas vítimas de enormes somas de dinheiro devido a falsas oportunidades de investimento. À medida que os riscos dos deepfakes se tornam cada vez mais aparentes, espera-se que as perdas por fraude que deles possam resultar atinjam milhares de milhões de dólares todos os anos.

A seguir está o texto completo da tradução:

Steve Beauchamp, um aposentado de 82 anos, queria aumentar a renda de sua família e depositou suas esperanças em Elon Musk. No final do ano passado, Beacham deparou-se com um vídeo em que Musk parecia recomendar um plano de investimento agressivo que prometia lucros rápidos. Inspirado por isso, Beacham rapidamente contatou a empresa por trás do vídeo e abriu uma conta de investimento de US$ 248. No entanto, nas semanas seguintes, ele aumentou gradualmente seus investimentos, acabando por sacar mais de US$ 690.000 de sua conta de aposentadoria.

Mas logo depois, o dinheiro desapareceu, caindo nas mãos de um grupo de golpistas que usavam inteligência artificial para perpetrar um novo tipo de golpe digital. Os golpistas alteraram habilmente uma entrevista real com Musk, usando tecnologia de IA para substituir sua voz e ajustar o formato de sua boca para corresponder ao novo roteiro que escreveram para o ser humano digital. Para o espectador comum, esta operação é quase imperceptível.

Beacham relembrou o vídeo e disse emocionado: “Ele tem uma imagem distinta no vídeo e pode ser reconhecido como Musk à primeira vista. Quanto a se foi a IA que o fez dizer essas palavras, não tenho certeza agora. apenas "No que diz respeito ao vídeo, se alguém me pedisse para identificá-lo no meio de uma multidão, eu definitivamente poderia apontá-lo."

01

Musk se torna um visitante frequente de deepfakes

Nos últimos meses, a Internet foi inundada com milhares de vídeos baseados em IA, conhecidos como “deepfakes”, nos quais uma imagem falsa de Musk é usada para enganar potenciais investidores. A Deloitte estima que esses tipos de deepfakes alimentados por IA podem levar a bilhões de dólares em perdas por fraude a cada ano.

Esses vídeos são extremamente baratos de produzir, podem ser concluídos em minutos e são promovidos nas redes sociais, incluindo publicidade paga no Facebook, ampliando enormemente seu alcance. Francesco Cavalli, cofundador e diretor de inteligência de ameaças da Sensity, empresa que monitora e detecta vídeos deepfake, alertou: “Este pode ser o maior golpe deepfake de todos os tempos”.

Os vídeos costumam ser realistas, capturando com precisão as entonações agitadas e o sotaque sul-africano característicos de Musk. Os golpistas geralmente começam com um vídeo real, como uma entrevista do Wall Street Journal, e a voz do repórter é mantida no vídeo falso, o que aumenta a autenticidade do vídeo.

Usando tecnologia avançada de sincronização labial, os golpistas ajustaram os movimentos da boca de Musk para combinar perfeitamente com suas linhas falsas. Eles também adicionaram sons de IA usando ferramentas de clonagem de som, que podem copiar qualquer som de um clipe de amostra. O anúncio final também pode incluir gráficos falsos, imitando o estilo de uma organização de notícias, o que pode ser bastante convincente para o utilizador médio da Internet.

Segundo a análise da Sensity, Musk é o orador mais comum nesses vídeos. Ele apareceu em quase um quarto dos golpes deepfake de quase 2.000 amostras analisadas, especialmente desde o final do ano passado. Entre os vídeos com temática de criptomoeda, essa proporção chega a quase 90%. Anúncios deepfake também costumam usar investidores famosos como Warren Buffett e magnatas dos negócios como o fundador da Amazon, Jeff Bezos.

Embora seja difícil contar com precisão quantos deepfakes estão circulando online, uma pesquisa na biblioteca de anúncios do Facebook por linguagem comum relacionada a golpes revelou centenas de milhares de anúncios, muitos dos quais incluíam vídeos deepfake. Embora o Facebook tenha removido grande parte do conteúdo que violava suas políticas e banido as contas envolvidas, outros vídeos permanecem na rede e mais aparecem aparentemente todos os dias.

O YouTube também está repleto de conteúdo falso, muitas vezes com o rótulo “ao vivo”. Na verdade, estes são vídeos deepfake pré-gravados. Pesquise palavras-chave como "Elon Bitcoin Conference" no YouTube e você poderá ver dezenas de vídeos disfarçados de transmissões ao vivo. O falso Musk no vídeo está vendendo golpes de criptomoeda, o que é altamente enganoso.

Depois que o ex-presidente dos EUA, Donald J. Trump, falou em uma conferência sobre Bitcoin, dezenas de vídeos rotulados como “Live” apareceram rapidamente no YouTube, mostrando um vídeo deepfake pré-gravado de Musk, alegando dobrar qualquer criptomoeda enviada para sua conta. Os vídeos atraíram um grande público, alguns alcançando centenas de milhares de visualizações. Mas o YouTube diz que os golpistas podem usar trolls online para aumentar artificialmente o número de visualizações.

De acordo com um relatório do Better Business Bureau, um grupo sem fins lucrativos de defesa do consumidor, um residente do Texas perdeu US$ 36.000 em fevereiro de 2023 depois de ver uma mensagem fraudulenta supostamente de Musk por meio de um vídeo chamado “ao vivo” de Bitcoin no YouTube. “Transfirei Bitcoin, mas não recebi nada”, disse o morador.

02

FB e YouTube são os mais atingidos

O YouTube afirmou em comunicado que só entre janeiro e março deste ano, a plataforma removeu mais de 15,7 milhões de canais e mais de 8,2 milhões de vídeos, principalmente por violarem sua política anti-spam.

À luz da proliferação de publicidade enganosa, o bilionário australiano Andrew Forrest entrou com uma ação civil contra a empresa-mãe do Facebook, Meta, acusando-a de negligência em seu negócio de publicidade, alegando que essas empresas de publicidade enganaram usuários inocentes para que fizessem investimentos errados. É relatado que os próprios vídeos de Forrest também foram usados ​​para criar anúncios profundamente falsos.

A Meta respondeu dizendo que estava treinando sistemas de detecção automatizados para identificar atividades fraudulentas na plataforma, mas admitiu que era um jogo complexo de gato e rato, já que redes de fraudes bem financiadas mudam constantemente suas táticas para evitar a detecção. O YouTube reiterou a sua política contra fraude e adulteração de vídeos e, em março deste ano, exigiu que todos os criadores fizessem divulgações claras ao usar IA para criar conteúdo realista.

A Internet está inundada de relatos de golpes em que muitas pessoas perderam suas economias. A Comissão de Valores Mobiliários e Futuros de Hong Kong emitiu um alerta em maio sobre atividades fraudulentas envolvendo Musk. No início deste ano, a Comissão Federal de Comércio dos EUA e o FBI também alertaram os americanos sobre o aumento do crime cibernético impulsionado pela IA e dos golpes deepfake.

“Os criminosos estão usando a IA como amplificador de potência para tornar os ataques cibernéticos e outras atividades criminosas mais eficazes e difíceis de detectar”, enfatizou o FBI em comunicado enviado por e-mail.

Os golpes digitais cresceram junto com o crescimento da Internet. Mas uma nova onda de deepfakes caracterizada por Musk surgiu quando ferramentas sofisticadas de IA foram disponibilizadas ao público no ano passado. As ferramentas permitem que pessoas comuns clonem vozes de celebridades ou manipulem vídeos com precisão, atraindo a atenção da indústria pornográfica e dos criadores de memes. fraudadores e cada vez mais gangues fraudulentas.

“As coisas estão a mudar agora porque os grupos do crime organizado descobriram que podem ganhar dinheiro desta forma”, disse Lou Steinberg, fundador do laboratório de investigação em segurança cibernética CTM Insights. único propósito de fraudar dinheiro. "

Embora os vídeos gerados por IA não sejam perfeitos, por exemplo, a voz de Musk pode soar robótica em alguns vídeos, e o formato de sua boca nem sempre corresponde às linhas. Mas os especialistas alertam que os vídeos são convincentes o suficiente para alguns alvos de golpes e que a tecnologia está melhorando com o tempo.

De acordo com Cavalli, da Sensity, a criação dos vídeos custa muito pouco, cerca de US$ 10, e a maioria dos golpistas monta os vídeos falsos em menos de 10 minutos, usando uma variedade de ferramentas gratuitas ou baratas. Eles estão localizados principalmente na Índia, Rússia e Europa Oriental.

“Funciona”, disse Cavalli. “Como resultado, eles continuarão a expandir esta atividade, cruzarão fronteiras, traduzirão para vários idiomas e continuarão a espalhar o golpe para mais alvos”.

03

Pessoas mais velhas são alvos perfeitos

Esse tipo de golpe geralmente usa software de investimento de inteligência artificial de alto retorno como pretexto para induzir inicialmente as vítimas a investir pequenas quantias de dinheiro – como US$ 250. Posteriormente, ao exagerarem o efeito de valor acrescentado do investimento, são gradualmente induzidos a aumentar o montante do investimento.

Um vídeo da assembleia de acionistas da Tesla também foi falsificado, no qual Musk explicava um produto comercial automatizado alimentado por IA, alegando ser capaz de duplicar o retorno do investimento todos os dias.

Especialistas que estudam a comunidade de criptomoedas apontam que Musk tem um grupo único de fãs globais que são em sua maioria conservadores, figuras anti-establishment e entusiastas de criptomoedas que muitas vezes procuram maneiras não tradicionais de ganhar riqueza, o que os torna um alvo ideal para golpes. .

“Definitivamente há um grupo de pessoas que acredita que o segredo da riqueza está sendo escondido”, disse Molly White, pesquisadora que estuda a comunidade das criptomoedas. Ela ressaltou que algumas pessoas sempre fantasiam em dominar o segredo da riqueza, pensando que, uma vez que a encontrem, ficarão ricas da noite para o dia.

Os golpistas visam principalmente usuários mais velhos da Internet que, embora tenham conhecimento sobre criptomoedas, inteligência artificial ou Musk, não estão familiarizados com métodos de investimento seguros.

“Os idosos sempre foram alvo de golpistas, mesmo antes do surgimento das mídias sociais”, disse Finn Brunton, professor pesquisador de ciência e tecnologia da Universidade da Califórnia, Davis, especialista no mercado de criptografia.

Beacham era viúvo e trabalhou como representante de vendas para uma empresa em Ontário, Canadá, até se aposentar aos 75 anos. Pouco depois de ingressar no Facebook em 2023, ele encontrou um golpe publicitário. Embora se lembre de ter visto Musk na transmissão ao vivo da CNN, uma porta-voz da CNN disse que Musk não era entrevistado na estação há anos.

Em dezembro, Beacham transferiu US$ 27.216 para uma empresa chamada Magna-FX, o que o levou a acreditar que o valor de seus investimentos estava aumentando, de acordo com trocas de e-mails entre ele e a empresa. Nesse período, um agente de vendas chegou a utilizar um software para controlar remotamente o computador de Beacham e transferir fundos sem autorização.

Quando Beacham tentou sacar seus fundos, foi informado que teria que pagar uma taxa de administração de US$ 3.500 e outros US$ 3.500 em comissões. Ele pagou o dinheiro, mas mais tarde foi informado que precisava pagar US$ 20 mil para liberar cerca de US$ 200 mil dos fundos. Embora ele tivesse esgotado suas economias para a aposentadoria, estourado o limite de seus cartões de crédito, utilizado sua linha de crédito e pedido dinheiro emprestado à irmã para investir e pagar despesas, os golpistas pediram-lhe que pagasse mais. A essa altura, Beacham percebeu a gravidade do problema e contatou a polícia.

A maioria dos vestígios da Magna-FX desapareceram da web, incluindo o site da empresa, números de telefone e endereços de e-mail usados ​​pelos agentes com quem Beacham se comunicou. Uma empresa com nome e serviços semelhantes não respondeu a um pedido de comentário.

“Neste momento, estou disposto a aceitar todas as críticas e o ridículo como punição pela minha credulidade”, disse Beacham num relatório ao Better Business Bureau.

Ele disse que contava com uma conta de aposentadoria e pensão menores que não foram divulgadas aos golpistas para sobreviver, e que planejava usar as economias para viajar ao redor do mundo. Beacham relatou o incidente à polícia local, mas o caso está progredindo lentamente.

“Meu caso foi colocado na fila porque havia muitos casos de fraude”, disse ele. “Eu não tinha grandes esperanças”.

*Fonte da imagem do cabeçalho: Visual China

Geek perguntou

plataforma de mídia social

Diante da proliferação de conteúdo profundamente falso,

Quais são as responsabilidades?

Cai Chongxin: Um bom líder deve ser a pessoa mais autoconsciente.

Curta e sigaConta de vídeo do Geek Park，