noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

El falso Musk generado por la IA se ha convertido en el mayor mentiroso online.

Enlace original: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

Fuente: Tecnología NetEase (ID: tech_163)

Título original: Fake Musk generado por IA se ha convertido en el mayor mentiroso online

Según informes de los medios estadounidenses, el 15 de agosto, la tecnología de inteligencia artificial deepfake (Deepfake) se ha utilizado ampliamente en el fraude en línea en los últimos años, especialmente el uso de videos falsos de Elon Musk para cometer fraude. Los vídeos engañaron a los inversores al simular la voz y los movimientos de Musk. Estos vídeos deepfake son baratos y se difunden rápidamente, lo que permite a los estafadores ampliar fácilmente el alcance de sus actividades fraudulentas, lo que hace que muchas víctimas pierdan enormes sumas de dinero debido a falsas oportunidades de inversión. A medida que los riesgos de los deepfakes se vuelven cada vez más evidentes, se espera que las pérdidas por fraude que puedan resultar de ellos alcancen miles de millones de dólares cada año.

El siguiente es el texto completo de la traducción:

Steve Beauchamp, un jubilado de 82 años, quería añadir algunos ingresos a su familia y puso sus esperanzas en Elon Musk. A fines del año pasado, Beacham se topó con un video en el que Musk parecía recomendar un plan de inversión agresivo que prometía ganancias rápidas. Inspirado por esto, Beacham se puso en contacto rápidamente con la empresa detrás del vídeo y abrió una cuenta de inversión por 248 dólares. Sin embargo, durante las siguientes semanas, aumentó gradualmente sus inversiones y finalmente retiró más de 690.000 dólares de su cuenta de jubilación.

Pero poco después, el dinero desapareció, cayendo en manos de un grupo de estafadores que utilizan inteligencia artificial para perpetrar un nuevo tipo de estafa digital. Los estafadores alteraron inteligentemente una entrevista real con Musk, utilizando tecnología de inteligencia artificial para reemplazar su voz y afinar la forma de su boca para que coincida con el nuevo guión que escribieron para el humano digital. Para el espectador medio, esta operación es casi imperceptible.

Beacham recordó el video y dijo con emoción: "Tiene una imagen distinta en el video y se le puede reconocer como Musk de un vistazo. En cuanto a si fue la IA la que le hizo decir esas palabras, no puedo estar seguro ahora. Pero simplemente "En lo que respecta al video, si alguien me pidiera que lo identificara entre la multitud, definitivamente podría señalarlo".

01

Musk se convierte en un visitante frecuente de los deepfakes

En los últimos meses, Internet se ha visto inundada de miles de vídeos impulsados ​​por inteligencia artificial, conocidos como "deepfakes", en los que se utiliza una imagen falsa de Musk para engañar a posibles inversores. Deloitte estima que este tipo de deepfakes impulsados ​​por IA podrían generar miles de millones de dólares en pérdidas por fraude cada año.

Estos videos son extremadamente baratos de producir, se pueden completar en minutos y se promocionan a través de las redes sociales, incluida la publicidad paga en Facebook, lo que amplía enormemente su alcance. Francesco Cavalli, cofundador y director de inteligencia de amenazas de Sensity, una empresa que monitorea y detecta vídeos deepfake, advirtió: "Esta puede ser la mayor estafa de deepfake jamás realizada".

Los videos suelen ser realistas y capturan con precisión las entonaciones entrecortadas y el acento sudafricano característicos de Musk. Los estafadores suelen comenzar con un vídeo real, como una entrevista del Wall Street Journal, y la voz del periodista se retiene en el vídeo falso, lo que aumenta la autenticidad del vídeo.

Utilizando tecnología avanzada de sincronización de labios, los estafadores ajustaron los movimientos de la boca de Musk para que coincidieran perfectamente con sus líneas falsas. También agregaron sonidos de IA utilizando herramientas de clonación de sonido, que pueden copiar cualquier sonido de un clip de muestra. El anuncio final también puede incluir gráficos falsos, imitando el estilo de una organización de noticias, lo que puede resultar bastante convincente para el usuario medio de Internet.

Según el análisis de Sensity, Musk es el orador más habitual en estos vídeos. Apareció en casi una cuarta parte de las estafas deepfake de las casi 2.000 muestras analizadas, especialmente desde finales del año pasado. Entre los vídeos con temática de criptomonedas, esta proporción llega incluso a casi el 90%. Los anuncios deepfake también suelen utilizar inversores famosos como Warren Buffett y magnates empresariales como el fundador de Amazon, Jeff Bezos.

Si bien es difícil contar con precisión cuántos deepfakes circulan en línea, una búsqueda en la biblioteca de anuncios de Facebook en busca de lenguaje común relacionado con estafas reveló cientos de miles de anuncios, muchos de los cuales incluían videos deepfake. Si bien Facebook eliminó gran parte del contenido que violaba sus políticas y prohibió las cuentas involucradas, otros videos permanecen en la red y aparentemente aparecen más todos los días.

YouTube también está plagado de contenido falso, a menudo con una etiqueta "en vivo". De hecho, se trata de vídeos deepfake pregrabados. Busque palabras clave como "Conferencia Elon Bitcoin" en YouTube y podrá ver docenas de videos disfrazados de transmisiones en vivo. El falso Musk en el video está vendiendo estafas con criptomonedas, lo cual es muy engañoso.

Después de que el ex presidente de los Estados Unidos, Donald J. Trump, hablara en una conferencia sobre Bitcoin, rápidamente aparecieron en YouTube docenas de videos etiquetados como "En vivo", que mostraban un video pregrabado de Musk, que afirmaba duplicar cualquier criptomoneda enviada a su cuenta. Sin embargo, los vídeos atrajeron a un gran público y algunos alcanzaron cientos de miles de visitas. Pero YouTube dijo que los estafadores pueden estar utilizando trolls en línea para inflar artificialmente el número de vistas.

Según un informe del Better Business Bureau, un grupo de defensa del consumidor sin fines de lucro, un residente de Texas perdió 36.000 dólares en febrero de 2023 después de ver un mensaje fraudulento que pretendía ser de Musk a través de un video llamado "en vivo" en YouTube. "Transfirí Bitcoin pero no recibí nada", dijo el residente.

02

FB y YouTube son los más afectados

YouTube dijo en un comunicado que sólo entre enero y marzo de este año, la plataforma eliminó más de 15,7 millones de canales y más de 8,2 millones de vídeos, la mayoría por violar su política antispam.

A la luz de la proliferación de publicidad engañosa, el multimillonario australiano Andrew Forrest ha presentado una demanda civil contra Meta, la empresa matriz de Facebook, acusándola de negligencia en su negocio publicitario, alegando que estos negocios publicitarios engañaron a usuarios inocentes para que hicieran inversiones equivocadas. Se informa que los propios vídeos de Forrest también se utilizaron para crear anuncios falsos.

Meta respondió diciendo que estaba entrenando sistemas de detección automatizados para identificar actividades fraudulentas en la plataforma, pero admitió que era un juego complejo del gato y el ratón, ya que bandas de fraude bien financiadas cambian constantemente sus tácticas para evadir la detección. YouTube reiteró su política contra el fraude y la manipulación de vídeos, y en marzo de este año exigió a todos los creadores que hicieran revelaciones claras cuando utilicen IA para crear contenido realista.

Internet está inundado de informes de estafas en las que muchas personas han perdido los ahorros de toda su vida. La Comisión de Valores y Futuros de Hong Kong emitió una advertencia en mayo sobre actividades fraudulentas que involucraban a Musk. A principios de este año, la Comisión Federal de Comercio y el FBI también advirtieron a los estadounidenses sobre el aumento de los delitos cibernéticos impulsados ​​por la IA y las estafas ultrafalsas.

"Los delincuentes están utilizando la IA como amplificador de potencia para hacer que los ciberataques y otras actividades delictivas sean más eficaces y difíciles de detectar", enfatizó el FBI en un comunicado enviado por correo electrónico.

Las estafas digitales han crecido a la par del crecimiento de Internet. Pero una nueva ola de deepfakes caracterizada por Musk surgió cuando el año pasado se pusieron a disposición del público sofisticadas herramientas de inteligencia artificial que permiten a la gente común clonar voces de celebridades o manipular videos con precisión, atrayendo la atención de la industria del porno y los creadores de memes. estafadores y cada vez más bandas de estafadores.

"Las cosas están cambiando ahora porque los grupos del crimen organizado han descubierto que pueden ganar dinero de esta manera", dijo Lou Steinberg, fundador del laboratorio de investigación de ciberseguridad CTM Insights. Predice que veremos cada vez más intentos de falsificación de este tipo. con el único fin de defraudar dinero. "

Aunque los vídeos generados por IA no son perfectos, por ejemplo, la voz de Musk puede sonar robótica en algunos vídeos y la forma de su boca no siempre coincide con las líneas. Pero los expertos advierten que los vídeos son lo suficientemente convincentes para algunos objetivos de estafa y que la tecnología está mejorando con el tiempo.

Según Cavalli de Sensity, crear los vídeos cuesta muy poco, alrededor de 10 dólares, y la mayoría de los estafadores crean vídeos falsos en menos de 10 minutos utilizando una variedad de herramientas gratuitas o económicas. Se encuentran principalmente en India, Rusia y Europa del Este.

"Funciona", dijo Cavalli. "Como resultado, seguirán ampliando esta actividad, cruzarán fronteras, traducirán a varios idiomas y seguirán propagando la estafa a más objetivos".

03

Las personas mayores son objetivos perfectos

Este tipo de estafa suele utilizar software de inversión en inteligencia artificial de alto rendimiento como pretexto para inducir inicialmente a las víctimas a invertir pequeñas cantidades de dinero, como 250 dólares. Posteriormente, al exagerar el efecto de valor agregado de la inversión, se los induce gradualmente a aumentar el monto de la inversión.

También fue falsificado un vídeo de la reunión de accionistas de Tesla, en el que Musk explicaba un producto comercial automatizado impulsado por IA, afirmando que podía duplicar el rendimiento de la inversión cada día.

Los expertos que estudian la comunidad de criptomonedas señalan que Musk tiene un grupo único de fanáticos globales que son en su mayoría conservadores, figuras antisistema y entusiastas de las criptomonedas que a menudo buscan formas no tradicionales de generar riqueza, lo que los convierte en un objetivo ideal para las estafas. .

"Definitivamente hay un grupo de personas que creen que el secreto de la riqueza está oculto", dijo Molly White, investigadora que estudia la comunidad de criptomonedas. Señaló que algunas personas siempre fantasean con dominar el secreto de la riqueza, pensando que una vez que lo encuentren, se harán ricos de la noche a la mañana.

Los estafadores se dirigen especialmente a los usuarios de Internet de mayor edad que, si bien conocen las criptomonedas, la inteligencia artificial o Musk, no están familiarizados con los métodos de inversión seguros.

"Las personas mayores siempre han sido el objetivo de los estafadores, incluso antes del auge de las redes sociales", dijo Finn Brunton, profesor investigador de ciencia y tecnología en la Universidad de California, Davis, experto en el mercado de criptomonedas.

Beacham era un viudo que trabajó como representante de ventas para una empresa en Ontario, Canadá, hasta su jubilación a los 75 años. Poco después de unirse a Facebook en 2023, se encontró con una estafa publicitaria. Aunque recordó haber visto a Musk en la transmisión en vivo de CNN, una portavoz de CNN dijo que Musk no había sido entrevistado en la estación en años.

En diciembre, Beacham transfirió 27.216 dólares a una empresa llamada Magna-FX, lo que le llevó a creer que el valor de sus inversiones estaba aumentando, según los intercambios de correo electrónico entre él y la empresa. Durante este período, un agente de ventas incluso utilizó un software para controlar remotamente la computadora de Beacham y transferir fondos sin autorización.

Cuando Beacham intentó retirar sus fondos, le dijeron que tendría que pagar una tarifa de gestión de 3.500 dólares y otros 3.500 dólares en comisiones. Pagó el dinero, pero luego le dijeron que necesitaba pagar 20.000 dólares para liberar unos 200.000 dólares de los fondos. Aunque había agotado sus ahorros para la jubilación, había agotado sus tarjetas de crédito, había aprovechado su línea de crédito y había pedido dinero prestado a su hermana para invertir y pagar gastos, los estafadores le pidieron que pagara más. En ese momento, Beacham se dio cuenta de la gravedad del problema y contactó a la policía.

La mayoría de los rastros de Magna-FX han desaparecido de la web, incluido el sitio web de la empresa, los números de teléfono y las direcciones de correo electrónico utilizadas por los agentes con los que Beacham se había comunicado. Una empresa con nombre y servicios similares no respondió a una solicitud de comentarios.

"En este punto, estoy dispuesto a aceptar todas las críticas y el ridículo como castigo por mi credulidad", dijo Beacham en un informe al Better Business Bureau.

Dijo que dependía de una cuenta de jubilación y una pensión más pequeñas que no había revelado a los estafadores para llegar a fin de mes, y que había planeado usar los ahorros para viajar alrededor del mundo. Beacham ha denunciado el crimen a la policía local, pero el caso avanza lentamente.

"Mi caso quedó en espera porque había muchos casos de fraude", dijo. "No tenía grandes esperanzas".

*Fuente de la imagen del encabezado: Visual China

Preguntó el friki

plataforma de redes sociales

Ante la proliferación de contenidos deep fake,

¿Cuáles son las responsabilidades?

Cai Chongxin: Un buen líder debe ser la persona más consciente de sí misma.

Me gusta y sigueCuenta de vídeo de Geek Park，