noticias

Con el desarrollo y la iteración de la inteligencia artificial (IA), la IA generativa está remodelando la vida diaria a una velocidad sin precedentes, pero las nuevas estafas y las nuevas rutinas derivadas de ella también están refrescando la comprensión de la gente sobre la prevención de riesgos. Detrás de esto no sólo está la seguridad material de los consumidores, sino también riesgos para la seguridad personal y peligros ocultos.

Recientemente, los medios extranjeros expusieron un nuevo fraude digital. Los estafadores utilizan complejas herramientas de inteligencia artificial para crear videos de celebridades como Musk, el director ejecutivo de Tesla, y utilizan estas "celebridades de inteligencia artificial" para realizar varios productos o "inversiones" falsas y prometer un alto rendimiento. inversión.

En un caso típico, una supuesta empresa de cambio de divisas respaldada por "AI Musk" defraudó fácilmente a un jubilado de 82 años con más de 690.000 dólares (aproximadamente 4,95 millones de yuanes) de los ahorros de toda su vida.

En este tipo de estafa, los estafadores generalmente encuentran primero un video real de Musk siendo entrevistado, luego usan herramientas de inteligencia artificial para reemplazar su voz y usan tecnología de sincronización de labios para editar la forma de la boca de Musk para que el video parezca más auténtico. Para la gente corriente, este tipo de vídeo falso puede resultar muy difícil de distinguir.

Además de Musk, "Stock God" Buffett y el fundador de Amazon, Jeff Bezos, también son celebridades que aparecen a menudo en este tipo de vídeos fraudulentos.

"AI Musk" está desenfrenado. Solo toma unos minutos generarlo, pero alguien fue defraudado por casi 5 millones de yuanes.

En los últimos meses, miles de vídeos impulsados ​​por IA, conocidos como "deepfakes", han inundado Internet.Según las estimaciones de Deloitte, se espera que los vídeos/anuncios “deepfake” impulsados ​​por IA causen miles de millones de dólares en pérdidas por fraude cada año.

Sin embargo,Crear estos videos cuesta unos pocos dólares y se pueden hacer en minutos.Estos vídeos se promocionan ampliamente en las redes sociales, incluso mediante publicidad paga en Facebook, debido a su condición de celebridades, lo que aumenta su alcance.

Los estafadores comenzarán con un vídeo real, como el que aparece a continuación de una entrevista con Musk del Wall Street Journal, donde el interrogador es Thorold Barker, un editor del periódico cuya voz también aparece en el vídeo.

Fuente de la imagen: "Wall Street Journal"

En el vídeo "deepfake", los movimientos de la boca de Musk fueron editados utilizando tecnología de sincronización de labios, que ajusta la forma en que habla una persona. Los estafadores también añaden voces de IA mediante herramientas de clonación de voz, que pueden copiar cualquier sonido que quieran de una muestra. Por lo tanto, el vídeo resultante puede resultar bastante convincente para el usuario medio de Internet.

Algunas personas han sido engañadas por esto.Steve Beauchamp, jubilado de 82 años, es un caso típico. Según informes de medios extranjeros, a finales del año pasado, Beauchamp, un jubilado de 82 años, vio un anuncio en vídeo. En el vídeo, Musk apoya una agresiva oportunidad de inversión que promete retornos rápidos, y la forma de su boca y su voz coinciden estrechamente.También incorpora el icónico acento sudafricano de Musk.Parece extremadamente real. Entonces Beauchamp se puso en contacto con la empresa de cambio de divisas detrás del anuncio llamada Magna-FX y abrió una cuenta por 248 dólares. Después de una serie de operaciones durante varias semanas, Beauchamp agotó su cuenta de jubilación y terminó invirtiendo más de 690.000 dólares, todo lo cual desapareció.

Según otroUn hombre de Texas dijo que perdió 3,6 dólares en dinero después de ver a Musk hablar en un video "en vivo" de YouTube en febrero de 2023, según un informe del grupo sin fines de lucro de defensa del consumidor Better Business Bureau. Dijo: "Envié los Bitcoins y nunca recibí nada".

Sensity, empresa encargada de monitorear y detectar "deepfakes", analizó más de 2.000 videos deepfake y descubrió que hasta el momento,Musk es la "imagen de IA" más común en este tipo de vídeos. Específicamente, desde finales del año pasado, "AI Musk" ha aparecido en casi una cuarta parte de las estafas "deep fake". En videos "deep fake" relacionados con criptomonedas, su frecuencia de aparición llega incluso al 90%.

En este sentido, los expertos que estudian la comunidad de las criptomonedas dijeron que Musk tiene una base de seguidores única en todo el mundo, incluidos conservadores, facciones antisistema y entusiastas de las criptomonedas. Estos grupos a menudo se sienten atraídos por formas alternativas de ganar dinero.Esto también los convierte en un objetivo perfecto para los estafadores digitales. Además, entre este grupo, los usuarios de Internet de mayor edad suelen tener más probabilidades de convertirse en blanco de estafadores. Este grupo está muy familiarizado con las criptomonedas, la inteligencia artificial y Musk, pero a menudo no están lo suficientemente atentos.

Además de Musk, "Stock God" Buffett y el fundador de Amazon, Jeff Bezos, también son celebridades que aparecen a menudo en este tipo de vídeos fraudulentos.

La tecnología de inteligencia artificial se ha convertido en una herramienta para el fraude, y Facebook y Youtube son las áreas más afectadas.

Los informes de los medios extranjeros afirmaron que en la actualidad es difícil cuantificar cuántos videos "deepfake" circulan en línea, pero la búsqueda de palabras clave comunes para estas estafas en la biblioteca de anuncios de Facebook puede revelar cientos de miles de anuncios, incluidos muchos que contienen "deepfake". vídeos.

Aunque Facebook ha eliminado muchos vídeos que violan sus políticas y ha suspendido algunas cuentas, otros vídeos siguen circulando en línea y, al parecer, aparecen más cada día. No sólo Facebook, sino también YouTube está lleno de estos vídeos falsos, que a menudo utilizan la etiqueta "live". Pero, de hecho, estos videos son videos "deepfake" pregrabados.

YouTube dijo en un comunicado que solo en el primer trimestre de este año,Se eliminaron más de 15,7 millones de canales y más de 8,2 millones de vídeos.La mayor parte de este contenido fue eliminado por violar su política antispam.

La prevalencia de este tipo de anuncios "muy falsos" también ha llevado al multimillonario australiano Andrew Forrest a presentar una demanda civil, acusando a la empresa matriz de Facebook, Meta, de negligencia en el funcionamiento de su negocio publicitario. Considera que el negocio publicitario de Facebook induce a "usuarios inocentes a realizar inversiones equivocadas". Meta dijo que está entrenando sistemas de detección automática para detectar fraudes en su plataforma, pero también mencionó que los estafadores bien financiados seguirán cambiando sus estrategias para evadir la detección.YouTube dijo que sus políticas prohíben el fraude y los videos manipulados, y en marzo de este año exigió a los creadores que revelaran cuándo usaban IA para crear contenido auténtico.

De hecho, el fraude digital no es nuevo, pero desde que se abrió el código abierto de las herramientas de inteligencia artificial el año pasado, ha estallado una nueva ola de videos "muy falsos".

A principios de este año,La Comisión Federal de Comercio de Estados Unidos (FTC) y el FBI también han advertido que los delitos cibernéticos y el fraude profundo impulsados ​​por la IA están aumentando."Los delincuentes están utilizando la IA para hacer que los ciberataques y otras actividades delictivas sean más eficaces y más difíciles de detectar", afirmó el FBI.

Los videos "deep fake" no son perfectos, e incluso en algunos videos, la forma de la boca de "AI Musk" no coincide, pero algunos expertos dicen que para los grupos objetivo de algunos estafadores, los videos que producen parecen ser bastante interesantes y. mejorando todo el tiempo.

Además, algunas estafas suelen promover software de inteligencia artificial falso, alegando que pueden generar importantes retornos de la inversión. Los estafadores utilizan esto para engañar al público objetivo para que invierta una pequeña cantidad de dinero (aproximadamente $250) inicialmente. Luego, el estafador continúa afirmando que la inversión aumentará de valor y, a menudo, las personas se ven atraídas lentamente a invertir más dinero.

Estafado con los ahorros de toda su vidaBeauchamp"En este punto, estoy dispuesto a aceptar todas las críticas y el ridículo como castigo por mi credulidad", dijo en un informe al Better Business Bureau.

Dijo que dependía de una cuenta de jubilación y una pensión más pequeñas que no había revelado a los estafadores para llegar a fin de mes, y que había planeado usar los ahorros para viajar alrededor del mundo.BeauchampSe ha presentado una denuncia a la policía local, pero el caso avanza lentamente. “Mi caso quedó en espera debido a todos los casos de fraude”, dijo. “No tenía grandes esperanzas”.

noticias económicas diarias