noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Enfoque fijo (dingjiaoone) original.

Autor |

Editor | Wei Jia

Ver para creer, el cambio de rostro de la IA ha engañado a muchas personas.

Hace dos días, la policía de Hubei descubrió un caso de uso de tecnología de cambio facial de inteligencia artificial para desbloquear cuentas sociales y revenderlas con fines de lucro. Los delincuentes utilizan el cambio de rostro mediante inteligencia artificial para ayudar a las personas a desbloquear cuentas de citas que han sido congeladas por la plataforma. Cobran entre 15 y 30 yuanes por cada cuenta desbloqueada. La banda descongeló 2.107 cuentas en total y obtuvo una ganancia de 400.000 yuanes.

Los datos muestran que el fraude por falsificación profunda basado en IA aumentará un 3000% en 2023. Deep fake, también conocido como deepfake, es una combinación de aprendizaje y falsificación. Se refiere principalmente al uso de tecnología de aprendizaje profundo de IA para sintetizar la imagen de una persona o. vídeo o incluso sonido, el más común es el cambio de cara por IA. El Ministerio de Industria y Tecnología de la Información declaró recientemente que lanzará una función de recordatorio de riesgo de fraude que cambiará la cara de la IA.

Por un lado, los casos de fraude que cambian la cara de la IA ocurren con frecuencia y, por otro lado, la tecnología de cambio de cara de la IA continúa iterando.

El círculo de la IA ha estado alborotado recientemente con un proyecto de IA que cambia la cara: Deep-Live-Cam. Los usuarios sólo necesitan subir una foto para cambiar su rostro en tiempo real a quien quieran ser, como Zuckerberg o Dong Yuhui.

Este proyecto es gratuito y abierto a todos los usuarios, está publicado en GitHub (plataforma de alojamiento de código) y admite la instalación en una computadora personal. El desarrollador del proyecto ha anunciado el método de instalación y la gente corriente sin experiencia técnica puede aprenderlo e instalarlo al mismo tiempo.

Debido a su operación simple y conveniente y su alto grado de realismo en el cambio de caras, Deep-Live-Cam ocupó el primer lugar en la lista caliente de GitHub, obteniendo más de 1,600 estrellas en 24 horas (las estrellas representan los gustos del proyecto y los indicadores de seguimiento, unos pocos miles de estrellas es bastante bueno) nivel). Muchos internautas cambiaron sus rostros por los de Musk y experimentaron la sensación de ser un multimillonario global.

Pero si bien todo el mundo lamenta el avance de la tecnología de inteligencia artificial, también les preocupa que "el fraude se haya vuelto más fácil". ¿Deberíamos boicotear el cambio de cara de la IA?

Cambio de rostro de IA que la gente común puede usar,

El costo es tan bajo como una docena de yuanes.

En la actualidad, existen muchas herramientas de IA para cambiar la cara en el país y en el extranjero. La razón principal por la que se discute acaloradamente Deep-Live-Cam es que:Los usuarios solo necesitan cargar una imagen, pero el efecto de reemplazo es muy realista y también admite el reemplazo de rostros en tiempo real.

De hecho, el umbral técnico para la función de “cambio de rostro en tiempo real” no es alto.

Xiao Zihao, cofundador de Ruilai Intelligence y científico de algoritmos, dijo que hay dos formas de lograr el efecto de cambio de rostro en video en tiempo real: una es reproducir un video de cambio de rostro prefabricado y la otra es acceder el vídeo que cambia de cara en tiempo real. Deep-Live-Cam pertenece a este último.

Independientemente del tipo, los videos de cambio de rostros con IA deben tener en cuenta la continuidad de los cuadros anteriores y siguientes, y el procesamiento basado en videos de rostros continuos puede realizar ajustes menores basados ​​en muchos recursos de detección del cuadro anterior. El vídeo continuo basado en fotogramas/el cambio de rostro en vivo es más eficiente que el cambio de rostro en fotogramas individuales", dijo un investigador dedicado a la tecnología de IA.

La tecnología subyacente en la que se basa el cambio de cara de IA es Deepfake. Los profesionales especulan que Deep-Live-Cam también utiliza esta tecnología, por lo que el costo no será muy alto basándose únicamente en los materiales y la potencia informática necesarios para producir la síntesis.

Xiao Zihao dijo que si no se tienen en cuenta otros costos de compra de hardware, el costo de la mayoría de los reemplazos faciales de IA es de solo una docena de yuanes a la vez, e incluye principalmente fotos y potencia informática, y Deep-Live-Cam puede ser incluso menor. En comparación con otras herramientas de cambio de rostro de IA, Deep-Live-Cam utiliza menos fotografías. La herramienta también es compatible con computadoras comunes y el costo de las fotografías y la potencia informática es menor.

Por el contrario, Deep-Live-CamApoyar el cambio de rostro con una sola imagen sorprendió aún más a los practicantes.Porque los productos anteriores de IA que cambiaban la cara requerían que los usuarios proporcionaran al menos una docena de fotografías desde diferentes ángulos.

La reducción de la dificultad de las fotografías permite a los usuarios divertirse. El seguidor de IA, Xiao C, dijo que nunca antes había entrado en contacto con ninguna herramienta de cambio de rostro de IA. Considera que el umbral de operación de Deep-Live-Cam no es alto y se puede completar siguiendo las instrucciones del editor. Tampoco es muy difícil encontrar materiales que cambien la cara.

Cambió su rostro por el de celebridades como Guo Degang, Wu Jing, Lei Jiayin, etc., y solo usó una imagen de cada uno de ellos. Dijo que siempre que proporcione una foto de la cara frontal, una frente sin obstáculos, luz natural, cercana al color de su propia piel y las proporciones que se muestran en la foto de identificación, una foto será exitosa y el efecto de reemplazo de la cara será muy natural.

Más de un practicante cree que la tecnología de cambio de rostro de IA utilizada en algunos dramas de cine y televisión no solo tiene un umbral alto y un costo elevado, sino que además el efecto de cambio de rostro no es lo suficientemente natural, y a menudo se producen deformaciones y distorsiones durante el proceso. proceso de habla. “¿Es este el mayor problema con las herramientas de cambio de rostro de IA?Deep-Live-Cam puede soportar el efecto de una imagen durante la transmisión en vivo. No hay rastros obvios de mapeo en los bordes de la cara y el color de la piel no es muy diferente del personaje original. La fidelidad está por delante de muchos. Herramientas de IA para cambiar la cara.", Xiao Zihao analizó que sus desarrolladores deberían haber logrado un gran avance en el modelo de representación de imágenes que las herramientas anteriores de cambio de rostro de IA no tenían.

Sin embargo, todavía hay algunos errores en Deep-Live-Cam, como permitir el cambio de cara pero no el cambio de voz. Sin embargo, Xiao Zihao dijo que no es difícil lograr esto, simplemente conéctese a la herramienta de cambio de voz en tiempo real y cualquiera con un poco de base en programación podrá completarlo.

IA que cambia de cara,

Fraude e infracción que no se pueden evitar

Herramientas como Deep-Live-Cam han reducido el umbral para los usuarios, pero también todos han comenzado a temer que los delincuentes puedan usar sólo una imagen para cambiar caras y defraudar. Para la gente común, el riesgo aumentará dramáticamente.

Ruilai Smart Data señaló que la cantidad involucrada en casos nacionales de fraude de IA aumentó de 0,2 millones en 2020 a 16,7 millones en 2023, con una tasa de crecimiento anual compuesta de hasta el 1928,8%. En el primer semestre de 2024, los casos de fraude con IA superaron los 185 millones. El "Informe de seguridad de la inteligencia artificial de 2024" publicado por Qi'anxin muestra que el fraude por falsificación profunda basado en IA aumentó un 3000 % en 2023.

El cambio de voz con IA, el cambio de rostro con IA y la generación de IA son tres métodos comúnmente utilizados para el fraude con IA. Entre ellos, el contenido generado por IA tiene segundos limitados y fallas obvias en la calidad de la imagen y los personajes. -El cambio son los métodos más utilizados por los delincuentes. La mayoría de la gente cree que "ver para creer", lo que hace que el cambio de rostro con IA sea más engañoso que el cambio de voz con IA.

El cambio de rostro de la IA no solo ha engañado a las personas mayores, sino que también muchos jóvenes que trabajan en el campo de la tecnología han perdido millones de la noche a la mañana.

Según informes de los medios públicos, el año pasado el director ejecutivo de una empresa de tecnología recibió una solicitud de transferencia de un amigo y fue defraudado por 4,3 millones de yuanes en menos de 10 minutos. El estafador utilizó principalmente tecnología de cambio de rostro de inteligencia artificial. También hubo un empleado de una empresa multinacional de Hong Kong que fue engañado para mantener una videoconferencia con altos ejecutivos diseñada por delincuentes y transfirió 200 millones de dólares de Hong Kong a la cuenta de la otra parte.

Los profesionales coinciden en que el cambio de rostro de la IA ha llegado al punto en el que "puede confundirse con la realidad".

Li Xu, jefe del equipo antifraude, dijo que su interés en la tecnología de IA que cambia la cara surge de varios casos de fraude. Dijo que los casos de fraude que cambian la cara de la IA han ocurrido con frecuencia en los últimos dos años, y que hay alrededor de tres métodos de fraude que cambian la cara de la IA muy maduros en el mercado.

La primera es utilizar IA para cambiar caras y falsificar vídeos pornográficos para chantajear a la víctima.

Por ejemplo, las bandas criminales recopilarán imágenes y videos de las víctimas de varios canales, como Internet, y luego realizarán procesos de síntesis, como quitarse la ropa con un solo clic y cambiar la cara con IA, y enviarán videos indecentes falsificados o fotografías de desnudos a las víctimas. por extorsión.

El segundo tipo consiste en utilizar la IA para cambiar de cara y hacerse pasar por un conocido para cometer fraude.

Por ejemplo, las bandas de estafadores utilizarán algunas herramientas de cambio de rostro en el mercado para hacerse pasar por familiares, amigos, colegas, líderes, etc. de la víctima, primero inventar un motivo de emergencia y aprovechar la urgencia del objetivo engañado para cometer fraude. Es fácil bajar la guardia y transferir dinero.

Ahora, al usar Deep-Live-Cam, solo necesita recopilar una o dos fotos de la víctima para crear un video profundamente falso. Li Xu siente que el alcance del fraude de cambio de rostro con IA está más allá del conocimiento de la mayoría de la gente común, y esto. También ha cambiado directamente el guión del fraude en las telecomunicaciones. Es difícil protegerse contra él y está empeorando.

En tercer lugar, el cambio de rostro mediante IA se utiliza para pretender ser una celebridad para realizar transmisiones en vivo y engañar a los usuarios para que realicen pedidos.

Por ejemplo, el presentador utiliza el "cambio de rostro de IA" para "cambiar" el rostro de una celebridad en la sala de transmisión en vivo, aumentando así el tráfico de video en vivo y ayudando a la transmisión en vivo a vender productos.

Además, también son muy comunes los problemas de infracción, como la creación de vídeos largos y cortos de celebridades o gente corriente mediante el cambio de cara mediante IA y la creación de emoticones sin el permiso de otros.

Los casos de fraude que cambian la cara de la IA ocurren con frecuencia y con diversos métodos, lo que está estrechamente relacionado con la madurez y amplitud de esta tecnología.

El director ejecutivo de Hanhao Technology, Wu Jieqian, dijo a "Dingjian","En la actualidad, la generación de vídeo de IA, las tecnologías humanas digitales y de cambio de rostros de IA están maduras, y el cambio de rostros de IA es el campo desarrollado más tempranamente".

La aparición de la tecnología Deepfake en 2014 marcó el nacimiento del cambio de rostro con IA, pero se ha ido extendiendo a pequeña escala. No fue hasta 2017, cuando algunos usuarios utilizaron la tecnología para publicar imágenes pornográficas falsas, que llegó el cambio de rostro con IA. a la vista del público, pero al mismo tiempo, esta tecnología ha sido controvertida debido a la gran cantidad de contenido falso que trae.

Más de un profesional dijo que en los últimos años, aunque los debates públicos sobre el cambio de rostro con IA se han centrado principalmente en salvar películas y series de televisión, debido a la mala supervisión, el uso del cambio de rostro con IA para fraude nunca se ha detenido. Además, la tecnología de cambio de rostro de IA se ha estado iterando y hay muchos participantes. En la actualidad, además de algunos fabricantes importantes involucrados en este negocio, muchas personas digitales nacionales y nuevas empresas de video generadas por IA han desarrollado negocios de cambio de rostro de IA. La tecnología es relativamente popular. Cada vez hay más herramientas de este tipo.

La tecnología es madura y popular, y la supervisión también es difícil. Como resultado, a lo largo de los años se ha abusado de la tecnología de cambio de rostro de IA.

¿Cómo identificar un intercambio de caras de IA cada vez más realista?

En los últimos dos años, el cambio de rostro de la IA ha dado lugar a muchos actos ilegales y criminales. La incontrolabilidad hace que algunas personas sientan que la tecnología de cambio de rostro de la IA debería boicotearse.

Sin embargo, muchos profesionales creen que la tecnología en sí es neutral y que su impacto bueno o malo depende principalmente del usuario. No se debe detener el surgimiento y la iteración de la tecnología de IA que cambia la cara.

Jesse Wu dijo que en la actualidad no existe un enfoque único para la tecnología de IA que cambia la cara en el país y en el extranjero, y se trata más bien de gestión legislativa.

Por ejemplo, Estados Unidos ha introducido una legislación especial sobre falsificación profunda, la Unión Europea ha incorporado la falsificación profunda en los marcos legales y regulaciones existentes, como el Reglamento General de Protección de Datos, y países como Alemania, Singapur y el Reino Unido también han incorporado delitos profundos relacionados con la falsificación en sus sistemas de derecho penal. China también ha aclarado las especificaciones de esta tecnología en el "Reglamento sobre la síntesis en profundidad de los servicios de información de Internet".

Muchos profesionales creen que es muy necesario etiquetar el contenido creado por la IA y otros métodos de gestión, así como enseñar al público algunos métodos para prevenir el fraude de la IA.

Por ejemplo, algunos técnicos propusieron una vez que durante una videollamada, se le puede pedir a la otra parte que se ponga los dedos en la cara y observe cuidadosamente si la cara está deformada, o pedirle que abra la boca para ver si los dientes y La lengua es clara y completa, para determinar si la imagen es una persona real o una síntesis de IA.

Este método fue relativamente efectivo el año pasado, pero este año, con la actualización de la tecnología de cambio de rostro de IA, fracasó.

Xiao Zihao dijo que la tecnología actual de cambio de rostro de IA puede lograrLos rostros y los movimientos no se deforman cuando aparecen obstáculos y la calidad de la imagen es muy clara.Li Xu también descubrió,Los casos recientes de fraude de IA que cambian la cara han utilizado medios técnicos muy potentes y son casi imposibles de identificar simplemente por los movimientos.

En vista del rápido desarrollo de la tecnología de IA que cambia la cara, Li Xu cree que aumentar la vigilancia es un método relativamente eficaz en la actualidad. Por ejemplo, al recibir una videollamada de un conocido para pedir dinero prestado, puede hacerle a la otra parte algunas preguntas privadas que solo la otra parte conoce y pedir verificación a más personas a su alrededor.

Algunos profesionales creen que utilizar la IA para identificarla puede ser una buena manera.

Por ejemplo, primero verifique si hay elementos en la imagen que obviamente vayan en contra del sentido común, enfocándose en si hay fallas en los bordes de la cara, y luego use algunas herramientas de inteligencia artificial. Xiao Zihao cree que el uso de IA para detectar IA puede identificar la gran mayoría de las estafas. Actualmente, muchas empresas y departamentos gubernamentales se han acercado a ellos para cooperar con sistemas de defensa que cambian la cara de IA.

Pero esta medida también ha causado cierta controversia dentro y fuera del país.

En primer lugar, este método tiene un cierto umbral de uso y los usuarios deben descargar aplicaciones relevantes en sus teléfonos móviles/computadoras. En segundo lugar, en esencia, existe un cierto retraso en este tipo de herramientas de defensa, que responden principalmente a las herramientas actuales de cambio de cara de la IA. Sin embargo, la tecnología de cambio de cara de la IA y los métodos de síntesis cambian todo el tiempo.

Mucha gente pone sus esperanzas en la mejora de las leyes y regulaciones pertinentes, como aumentar el castigo por actividades ilegales como el fraude de cambio de rostro con IA, la venta de videos pornográficos con cambio de rostro de IA y la venta de productos por celebridades que cambian de rostro.

El año pasado, el Tribunal Popular del distrito de Xiaoshan, Hangzhou, se pronunció sobre un caso de uso de cambio de rostro con IA para producir videos obscenos. El acusado proporcionó servicios personalizados de cambio de rostro con IA, produjo una gran cantidad de videos obscenos mediante el cambio de rostro con IA y. También utilizó métodos de cambio de rostro de IA para atraer a los espectadores a pagar, la cantidad total involucrada en el caso fue de más de 60.000 yuanes, y finalmente fue sentenciado a siete años y tres meses de prisión y una multa de 60.000 yuanes.

Sin embargo, me gustaría recordarles a todos queNo todos los cambios de rostro con IA infringirán los derechos de retrato.

En junio de este año, el Tribunal de Internet de Beijing pronunció dos casos de infracción de cambio de rostro por IA. Dos modelos de videos cortos al estilo chino descubrieron que sus videos aparecían en una aplicación que cambiaba el rostro en plataformas sociales, por lo que demandaron a la compañía de tecnología detrás de la aplicación. El tribunal consideró que había vulnerado su derecho al retrato y sus derechos personales.

El fallo del tribunal fue que el demandado había utilizado un vídeo en el que aparecía el demandante, pero dado que el rostro del demandante en el vídeo en cuestión había sido reemplazado, no infringía los derechos de retrato del demandante, por lo que sólo consideró que este movimiento constituía un. infracción de los derechos de información personal del demandante.

En este momento, la tecnología de cambio de rostro de IA todavía se está actualizando y aún no se ha prohibido. Las herramientas de cambio de rostro de IA todavía circulan en grandes cantidades en el mercado.

"Dingjiao" recientemente buscó directamente "cambio de rostro con IA" en una plataforma de comercio electrónico y no pudo encontrar ninguna información. Sin embargo, siempre que las palabras clave cambien ligeramente, aún se pueden encontrar herramientas de cambio de rostro relacionadas a la venta. el camino es más secreto, saltará a un sitio web de segunda mano para realizar transacciones. En un momento en que la tecnología y el engaño se actualizan constantemente, lo que todos pueden hacer es estar más atentos para evitar ser perjudicados por el cambio de rostro de la IA.

*La imagen del título y las imágenes que acompañan al artículo son de Pexels.