noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Cosas inteligentes (cuenta pública:zhidxcom）
compilarvainilla
editarYunpeng

Imagínese cuando un gran empresario le ofrece una rama de olivo y le dice “personalmente” que existe una manera sin riesgos de hacerse rico rápidamente.Simplemente complete un formulario y podrá ganar $1 millón,¿Qué vas a hacer?

Si esta persona es Musk y la BBC lo respalda, decirles que esto es "Una revolución tecnológica desconocida para el público"¿Paño de lana?

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲ Vídeo deepfake de AI Musk

Las personas más atentas pueden oler inmediatamente el olor a fraude en las telecomunicaciones, pero para las personas que no están expuestas con frecuencia a Internet, no es fácil identificar esos vídeos falsos.

Según el informe del New York Times del 16 de agosto, a finales del año pasado, Beauchamp, un jubilado de 82 años, vio a Musk promoviendo una oportunidad de inversión radical y prometiendo retornos rápidos y sin riesgos. Se puso en contacto con la empresa en el video y gastó sus ahorros para la jubilación en una serie de transacciones durante las próximas semanas.La “inversión” acumulada supera los 690.000 dólares。

Lo siguiente que puedes imaginar es que la pensión desapareció junto con la empresa.

con el nombrefalsoLa tecnología de inteligencia artificial es cada vez más madura y videos similares están inundando Internet. Según estimaciones de la conocida consultora Deloitte, los vídeos deepfakeDecenas de miles de millones de dólares en pérdidas por fraude cada año。

Sensity, una organización que monitorea videos deepfake, realizó recientemente una encuesta y analizóMás de 2000 párrafosVídeos deepfake, descubiertosAlmizcleSe ha convertido en el "portavoz" más habitual en este tipo de vídeos. Desde finales del año pasado,Musk aparece en casi una cuarta parte de los vídeos de estafas deepfake, entre los cuales su tasa de aparición en videos dirigidos a criptomonedas es tan alta como90%。

Otros objetivos comunes de la falsificación incluyen a inversores famosos.Buffett, fundador de AmazonBezosesperar.

1. Cada año se defraudan decenas de miles de millones de dólares y la tasa de aparición de Musk es1/4

Para crear estos videos, los estafadores primero encontrarán videos de entrevistas reales de Musk y otros. Por ejemplo, la escena del vídeo de apertura surgió originalmente de una entrevista que Musk concedió al Wall Street Journal, donde el tema era cómo utilizar la IA y otras tecnologías para lograr una gestión eficiente de la empresa.

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲ Vídeo original de la entrevista de Musk

Los estafadores se aprovecharán deTecnología de sincronización de labios (Lip-syncing), ajusta la forma de la boca del personaje y luego usaHerramienta de clonación de vozAgregue una voz copiada por IA.

▲Sincronización de labios (Fuente: "New York Times")

Por último, algunos vídeos también añaden iconos falsos que imitan a organizaciones de noticias profesionales como la BBC, lo que puede resultar más convincente para los usuarios habituales de Internet.

▲Logotipo de noticias (Fuente: "New York Times")

Es difícil cuantificar exactamente cuántos videos falsos de este tipo circulan en línea. La búsqueda de textos promocionales comunes para estas estafas en la biblioteca de anuncios de Facebook mostrará cientos de miles de anuncios, muchos de los cuales son videos deepfake.

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲ Vídeo deepfake de AI Bezos

YouTube también está lleno de este tipo de vídeos. Si busca "conferencia Elon Bitcoin" en YouTube, obtendrá docenas de videos etiquetados en vivo, pero en realidad son videos pregrabados deepfake.

▲ Vídeo deepfake de YouTube (Fuente: YouTube)

El número de espectadores de estas "transmisiones en directo" puede variar de vez en cuandocientos de miles, pero según la confirmación de YouTube, los estafadores pueden utilizar "ejércitos de agua" para aumentar el número de personas e inflar artificialmente este número.

En mayo de este año, Deloitte, una reconocida organización consultora, publicó un informe sobre el mayor riesgo de fraude por falsificación profunda causado por la IA generativa, que mencionaba que en 2023 se producirán incidentes de falsificación profunda en el campo de la tecnología financiera.aumentó en un 700%y predice que la IA generará pérdidas por fraude en EE. UU. para 2027a 40.000 millones de dólares desde 12.300 millones de dólares en 2023，La tasa de crecimiento anual compuesta es del 32%.。

▲ Previsión de crecimiento de las pérdidas por fraude causadas por la IA generativa (Fuente: Deloitte)

Los vídeos deepfake están creciendo en número e impacto. Según una encuesta de Sensity, una organización que monitorea videos deepfake, entre más de 2.000 videos deepfake,Musk se ha convertido en el "portavoz" más común, aparece enCasi una cuarta parte de los vídeos de estafas deepfakeEntre ellos, su tasa de aparición en videos dirigidos a criptomonedas es tan alta como90%。

Francesco Cavalli, cofundador de Sensity, cree:Esta podría ser la estafa deepfake más grande de la historia。

2. El costo no excede10Dólares estadounidenses, falsifica muchos videos en unos minutos.

De hecho, el coste de producir este tipo de vídeo no es elevado;Solo cuesta menos de $10, puededentro de unos minutosSe produjeron una gran cantidad de vídeos falsos.

Estos videos generados por IA no son perfectos. Musk suena robótico en algunos videos y los movimientos de su boca no siempre son consistentes. Pero estos vídeos han podido engañar a bastantes personas y la tecnología sigue mejorando.

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲ Vídeo deepfake de AI Musk

La investigación de Sensity muestra que este tipo de estafadores provienen principalmente de Asia y países de Europa del Este. Utilizan herramientas gratuitas y económicas para traducir vídeos a varios idiomas y continúan extendiendo la estafa a una gama más amplia.

Una de las rutinas comunes esPromocionar software de IA falso. Los estafadores alientan a los objetivos a entregar primero una pequeña cantidad de dinero (normalmente alrededor de 250 dólares) haciendo que "portavoces" afirmen que el software puede generar sorprendentes rendimientos de la inversión y luego, poco a poco, los atraen afirmando que el valor de la inversión inicial está aumentando. . Invertir más.

Por ejemplo, en el siguiente vídeo de la reunión de accionistas de Tesla, Musk “demostró” un producto comercial automatizado impulsado por IA.Puede duplicar una inversión específica cada día"Con sólo una inversión de 4.500 rands, puedes obtener un beneficio estable de 8.000 rands al día". (Nota: Rand es la unidad monetaria de Sudáfrica)

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲ Vídeo deepfake de AI Musk

Estos estafadores de IA suelen apuntarUsuarios de Internet mayores, pueden estar familiarizados con temas como las criptomonedas y la inteligencia artificial, así como con personas como Musk y Buffett, pero no están familiarizados con los métodos de inversión seguros.

“Las personas mayores son un grupo muy rico y crédulo”, afirmó Finn Brunton, profesor de estudios tecnológicos en la Universidad de California, Davis, y experto en el mercado de las criptomonedas. “Incluso sin plataformas de redes sociales, las personas mayores siempre han sido el objetivo. de estafas”.

La razón por la que se ataca a Musk es porque Musk tiene un grupo global de "fans" único. Los expertos que estudian la comunidad de criptomonedas dicen que estas personas a menudo están compuestas por conservadores, antisistema y entusiastas de las criptomonedas que a menudo se sienten atraídos por formas novedosas de ganar dinero, lo que los convierte en objetivos perfectos para las estafas.

La investigadora de la comunidad de criptomonedas Molly White dijo que este grupo de personas siempre creyó que el secreto de la riqueza estaba oculto para ellos, y una vez que "descubrieron" el secreto, pensaron que era todo lo que necesitaban.

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲ Vídeo deepfake de AI Musk

Beauchamp, el jubilado mencionado al principio, fue representante de ventas de una empresa canadiense antes de cumplir los 75 años. Comenzó a usar Facebook el año pasado y vio un anuncio de Musk siendo entrevistado en CNN.

Aunque insistió en que también había visto el vídeo en un funcionario de CNN, según un portavoz de CNN,Musk no ha sido entrevistado por ellos en años。

Según los intercambios de correo electrónico entre el Sr. Beauchamp y la empresa mencionada en el vídeo, en diciembre del año pasado envió 27.216 dólares a la empresa llamada Magna-FX.

Magna-FX hizo parecer que sus inversiones estaban aumentando en valor, incluso permitiendo que un agente de ventas usara un software para controlar remotamente la computadora de Beauchamp y pretender transferir fondos para inversiones.

Para retirar los fondos apreciados, se le pidió a Beauchamp que pagara una tarifa de gestión de 3.500 dólares y una comisión de 3.500 dólares. Después de transferir el dinero, le dijeron que necesitaba pagar otros $20,000 para retirar alrededor de $200,000. Pagó el dinero nuevamente.

Con el tiempo, Beauchamp agotó sus ahorros para la jubilación, agotó sus tarjetas de crédito, agotó su línea de crédito y pidió dinero prestado a su hermana para invertir y pagar gastos. Pero los estafadores seguían pidiéndole que pagara más. Beauchamp luego contactó a la policía.

Lamentablemente no se ha logrado ningún avance en este caso.

3. La supervisión de la plataforma enfrenta desafíos. La eliminación de videos trata los síntomas pero no la causa raíz.

La prevalencia de la publicidad engañosa también es inseparable de la negligencia de la supervisión de las plataformas.

Algunas personas cuyos videos fueron falsificados emprendieron acciones legales. El multimillonario australiano Andrew Forrest ha presentado una demanda civil contra Meta, la empresa matriz de Facebook, acusándola de negligencia en sus operaciones comerciales de publicidad. Sus vídeos deepfake se utilizaron en anuncios de Facebook, que creía que atraerían a "usuarios inocentes a hacer malas inversiones".

Meta respondió que la empresa está entrenando sistemas de detección automatizados para detectar fraudes en su plataforma, pero también lo llamó un juego del "gato y el ratón", en el que los estafadores cambian constantemente sus tácticas para evadir la detección.

YouTube también está tomando algunas medidas para hacer frente a los vídeos deepfake. En marzo de este año, YouTube actualizó sus políticas para exigir a los creadores que revelen si utilizan IA en sus creaciones y prohibir el fraude y la manipulación de vídeos.

YouTube mencionó en un comunicado que entre enero y marzo de este año, la compañía eliminó más de 15,7 millones de canales y más de 8,2 millones de videos que violaban las políticas de contenido. Sin embargo, simplemente eliminar el video sigue siendo un indicador, pero no soluciona la causa raíz. La plataforma necesita volver a examinar su sistema de revisión y resolver el problema desde la raíz.

Conclusión: los vídeos deepfake contaminan Internet

La historia del fraude digital es tan antigua como Internet. Sin embargo, a medida que la tecnología de IA se vuelve más madura y el costo de usar herramientas de IA es cada vez menor, los costos de tiempo y dinero de usar esta tecnología para cometer fraude también se han reducido significativamente. Una nueva ola de vídeos deepfake en los que aparecen celebridades como Musk está contaminando Internet.

Con el desarrollo continuo de la tecnología, la tecnología deep fake puede volverse más difícil de distinguir, lo que impondrá nuevos requisitos a las plataformas, agencias reguladoras y leyes.

fuente:Los New York Times