noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

lee yeonjee, de 39 años, es el fundador y director ejecutivo de una organización de bienestar público en corea del sur. ella está luchando contra el "crimen deepfake" que se está extendiendo por todo el país.

algunos analistas señalaron que el "crimen profundamente falso" de sintetizar rostros de mujeres en videos indecentes y difundirlos ampliamente ha provocado que las mujeres coreanas "caigan en pánico". incidentes similares harán que las mujeres pierdan su sentido de seguridad en la vida diaria.

en mayo de este año, un graduado de la universidad nacional de seúl fue sospechoso de utilizar tecnología de falsificación profunda para cambiar rostros y sintetizar fotografías y videos pornográficos. estableció cerca de 200 salas de chat en línea en la red social "telegram" y participó en la producción y difusión de. alrededor de 1.700 fotografías y vídeos ilegales.

tres meses después, ocurrió otro crimen profundamente falso en la universidad de inha en corea del sur. más de 1.200 participantes sintetizaron imágenes pornográficas deepfake en telegram y utilizaron el contenido para chantajear y humillar a mujeres. a finales de agosto, los medios de comunicación de corea del sur informaron que una gran cantidad de grupos de chat relacionados con escuelas de todo el país aparecieron en telegram. los usuarios subieron fotos de mujeres que conocían y otros usuarios convirtieron estas fotos en contenido pornográfico deepfake. "cuarto de la vergüenza" para una víctima específica.

la investigación preliminar muestra que el 80% de las víctimas son mujeres, y las actividades criminales se han extendido entre menores como estudiantes de secundaria y preparatoria, estudiantes universitarios, maestros y enfermeras. incluso las mujeres soldados son víctimas.

esta noticia tuvo un gran impacto en li juanzhi. vio a alguien publicando en la plataforma de redes sociales x para investigar la "sala de la vergüenza" y buscar a alguien que le ayudara a exponer la situación interna. li juanzhi se hizo pasar por un usuario masculino, se coló y recopiló información. descubrió que la difusión de pornografía ilegal deepfake ya estaba muy extendida incluso en las salas gratuitas.

li juanzhi recopiló los videos y capturas de pantalla recopilados entre sus colegas que trabajaron juntos y se los entregó a los investigadores. de manera algo reconfortante, li juanzhi escuchó que los materiales que enviaron ayudaron a identificar a las personas involucradas en algunos casos.

el contenido en la "sala de humillación" hizo que li juanzhi se sintiera muy incómoda, e incluso estaba tan enferma que en un momento no pudo dormir, pero continuó actuando. por un lado, se lanzaron peticiones en línea para exigir normas disciplinarias más estrictas; por otro, se llevaron a cabo protestas en las calles; "el gobierno debe adoptar una postura firme para combatir el crimen e implementar leyes de castigo de 'tolerancia cero'", afirmó li juanzhi.

protestas en línea y fuera de línea

a las 7 de la tarde del 6 de septiembre, cayó la noche en seúl y llovía ligeramente. li juanzhi llegó cerca de bosingak en jongno-gu a la hora acordada. después de un rato, la protesta comenzó oficialmente. los representantes del grupo y los individuos tomaron la iniciativa para leer sus respectivas declaraciones. después, un grupo de entre quinientas y seiscientas personas salió a la calle con consignas blancas sobre fondo negro.

entre los que participaron en la protesta esa noche se encontraban profesores actuales, organizaciones de educación sexual, grupos de mujeres y estudiantes de escuelas. gritaron: "vivamos una vida sin miedo ni ansiedad", "regulen las plataformas que promueven deepfakes de delitos sexuales", "nosotros". derrocará a los deepfakes misóginos” y otros lemas.

la protesta duró unas dos horas. li juanzhi dijo que ella y sus compañeros también planean realizar una segunda protesta en la estación de metro hyehwa el 21 de septiembre. varios lugares han comenzado a contactarlos para alquilar autobuses, que transportarán a manifestantes de todo el país a seúl.

las protestas callejeras fuera de línea hicieron eco de las voces de las mujeres coreanas en línea en las redes sociales. desde que los informes noticiosos sobre crímenes sexuales falsos atrajeron la atención pública en corea del sur, muchas mujeres coreanas se han pronunciado activamente en las redes sociales debido a la preocupación de que el incidente quede expuesto a la ligera, utilizando "delitos sexuales digitales escolares" para "publicitar sexo falso". delincuentes" hashtags como "proteger a las mujeres" han promovido noticias de "delitos sexuales falsos y profundos" para ganar atención global, y muchas mujeres coreanas han enviado mensajes de ayuda a través de la internet china.

"hasta ahora, esta campaña de 'protesta de hashtags' ha logrado buenos resultados. el 1 de septiembre, las etiquetas que incluían 'delincuentes sexuales públicos deepfake' explotaron en la plataforma de redes sociales x, con un total de 60 con más de 10,000 publicaciones, ocupa el segundo lugar en tendencias globales en tiempo real y también ocupa los dos primeros puestos en tendencias coreanas en tiempo real", afirmó li juanzhi.

además de los vínculos en línea y fuera de línea para generar impulso, li juanzhi también comenzó a investigar y estudiar el proyecto de ley de castigo relacionado con delitos de falsificación profunda. entre ellas, le llamó especialmente la atención la expresión "con fines de difusión". un artículo de análisis cree que una de las razones por las que es difícil castigar a estos delincuentes deepfake es que es difícil demostrar que tienen la intención de difundirse.

con reminiscencias del incidente anterior de la "sala n" en corea del sur, a excepción de unos pocos delincuentes clave, la mayoría de las personas no fueron castigadas. li juanzhi se dio cuenta de que eran las lagunas del sistema legal existente las que hacían posibles los delitos de falsificación profunda a gran escala.

durante la infiltración de li juanzhi en la llamada "sala de humillación", descubrió que, aunque cada sala del grupo era ligeramente diferente, los participantes generalmente necesitaban proporcionar 10 fotografías de una mujer para ingresar al grupo o componer una foto, lo que se consideraba un deepfake. se proporcionan nuevos objetivos de víctimas. algunas salas grupales se sintetizarán una vez de forma gratuita y luego los participantes deberán proporcionar "contraseñas" o invitar a nuevos hombres a la sala para continuar usando el servicio. también hay avisos publicados en salas de grupo como "se requieren 300 fotografías de maestras" y "descuento para estudiantes de secundaria".

las "salas de la vergüenza" también encuentran formas de identificar el género de sus participantes. algunas salas grupales requerirán que las personas que quieran unirse al grupo depositen 1 won coreano en una cuenta bancaria determinada y utilicen el nombre del depósito de la cuenta bancaria para confirmar si el nuevo miembro es un hombre.

a algunos participantes se les cobrará por sintetizar imágenes o videos deepfake, otros ganarán dinero vendiendo contenido deepfake y el propio telegram generará ingresos publicitarios en salas con más usuarios. "comparten las ganancias al igual que las organizaciones criminales". li juanzhi dijo que son organizaciones con fines de lucro y no existe el concepto de "audiencia pasiva".

a partir de ahí surgió la idea de presentar una petición al congreso. li juanzhi exigió que todos los participantes en estas salas grupales sean considerados miembros de organizaciones criminales y sean castigados. dado que la ley surcoreana sólo permite investigaciones encubiertas de casos que involucran a niños y adolescentes, ella también espera que el sistema de peticiones pueda mejorarse para permitir investigaciones encubiertas de delitos sexuales que involucran a adultos.

“falsificación fácil y profunda” impulsada por inteligencia artificial

en el centro del escándalo de los deepfakes está la aplicación de mensajería telegram.

es una aplicación de mensajería cifrada donde los usuarios son generalmente anónimos, las salas se pueden configurar en modo "privado" y el contenido se elimina rápidamente sin dejar rastro. el diseño original de "telegram" era proteger la privacidad del discurso de los usuarios, pero resultó ser un lugar importante para actividades criminales desenfrenadas.

la tecnología utilizada para crear contenido deepfake tampoco es difícil de conseguir. siwei lyu, profesor del departamento de ingeniería y ciencias de la computación de la universidad estatal de nueva york en buffalo, explicó al reportero de beijing news que la palabra "deepfake" en sí misma es una mezcla de aprendizaje profundo y medios falsos, se refiere a multimedia. texto, incluido texto, audio, imágenes y videos, creado utilizando modelos de inteligencia artificial generativa que se basan en modelos de redes neuronales profundas. los sistemas de ia generativa se pueden entrenar con grandes cantidades de datos sin etiquetar, y estos modelos son lo suficientemente potentes como para generar contenido atractivo. por tanto, el umbral técnico se reduce considerablemente.

"con la tecnología de inteligencia artificial, se pueden producir materiales audiovisuales deepfake de forma fácil, rápida y económica, que podrían haberse utilizado en aspectos más beneficiosos como el cine, la industria minorista, etc. investigador sobre derecho, tecnología y sociedad en la universidad de tilburg en los países bajos". el profesor bart van der sloot dijo que, lamentablemente, la aplicación más común de la tecnología deepfake es la pornografía, "especialmente cuando las niñas se convierten en víctimas, lo que puede tener consecuencias desastrosas".

un informe de 2019 que investiga el uso de deepfakes encontró que el 96% de los deepfakes en línea estaban relacionados con la pornografía, y este número sigue aumentando.

desde el punto de vista actual, existen muchos obstáculos para combatir la falsificación profunda. slote descubrió que cuando se genera contenido pornográfico deepfake, la víctima a menudo no lo sabe, y el mundo exterior sólo descubre el contenido y actúa sobre él después de que se difunde a través de internet. con tanta pornografía deepfake en línea, es difícil para las fuerzas del orden evaluar si la persona involucrada dio el consentimiento al contenido, ya sea una persona real o una persona generada por ia. incluso si se encuentra al perpetrador, se identifica a la víctima y se retira el material, para entonces el daño ya está hecho y ya es demasiado tarde.

li juanzhi cree que el seguimiento posterior al evento es simplemente "hacer las cosas bien" y que la supervisión a nivel de plataforma debe reforzarse desde la fuente. "si los delincuentes se esconden en una plataforma anónima, esta plataforma se convertirá en un foco de delincuencia".

en cuanto a medidas específicas, lu siwei cree que a corto plazo se deberían introducir una serie de políticas y regulaciones para prohibir o restringir el contenido deep fake destinado a tener efectos nocivos. la solución a largo plazo reside en la propia tecnología, que requiere un mayor desarrollo de tecnologías para detectar, eliminar o rastrear automáticamente los deepfakes.

después de que los crímenes deepfaking desencadenaran debates en la sociedad surcoreana, el 2 de septiembre, hora local, woo jong-soo, director de la sede de investigación nacional de la agencia de policía nacional de corea, declaró en una conferencia de prensa habitual que la policía comenzó a investigar las redes sociales en sospecha de "ayudar a los delitos de deepfaking" la plataforma "telegram" lleva a cabo una investigación previa al caso. la propia telegram se ha comprometido a combatir agresivamente el contenido dañino en su plataforma.

la misoginia no resuelta

además del incidente, el mundo exterior comenzó a preguntarse por qué corea del sur se ha convertido en la zona más afectada por la falsificación profunda.

un informe global sobre deepfakes publicado en 2023 por "security hero", una startup estadounidense que se centra en la protección contra el robo de identidad, muestra que corea del sur es el principal objetivo del contenido pornográfico deepfake, y que los cantantes y actrices coreanos representan los personajes de dichas obras deepfake 53. %.

los delitos de deepfakes en corea del sur también están cada vez más extendidos: 156 casos en 2021, 160 casos en 2022 y 180 casos el año pasado. de enero a julio de este año, hubo 297 casos de delitos sexuales relacionados con falsificaciones profundas.

los observadores creen que el escándalo aparentemente repentino de los deepfake puede haber estado acechando bajo la superficie, reflejando problemas de sexismo de larga data.

entre los países de la ocde, las mujeres surcoreanas tienen el nivel más alto de educación, pero la tasa de participación en la fuerza laboral más baja. la brecha salarial de género en corea del sur ocupa el primer lugar entre los 35 miembros de la ocde, con una brecha del 31,2%.

por motivos como "sólo por diversión" y "usar fotos de conocidos para ser más realistas", los deepfakes se han vuelto tan extendidos como los juegos de entretenimiento. algunos analistas dicen que ya sean crímenes sexuales falsos o mujeres coreanas filmadas en secreto con pequeñas cámaras ocultas en baños o vestuarios, estas son las últimas formas de "misoginia" que han surgido con el desarrollo de la tecnología.

esto también coincide con la observación de li juanzhi.

su enfoque inicial en los problemas de las mujeres no fue el delito de los deepfakes, sino el tema de la igualdad de género en el ámbito de la conducción.

li juanzhi descubrió que las mujeres coreanas suelen sufrir discriminación cuando aprenden a conducir. por ejemplo, cuando las mujeres quieren obtener una licencia de conducir de categoría 1 (nota: una licencia avanzada que puede conducir un automóvil grande), se las persuade para que cambien a una licencia de categoría 2. incluso si obtienen con éxito una licencia de conducir, no es fácil para las mujeres obtener información sobre cómo afrontar accidentes de tráfico, seguros de automóviles, reparaciones de automóviles, etc. las conductoras a menudo tienen miedo de conducir debido a la falta de información, y a las mujeres con malas habilidades para conducir también se las llama con desdén "sra. gold".

con la ayuda del ministerio de igualdad de género y asuntos familiares de corea del sur, en 2020, li juanzhi creó un proyecto de conducción femenina llamado "unniecar", que ofrece conferencias y libros y tiene como objetivo ayudar a las mujeres que son nuevas en la conducción sin "sermones masculinos". obtenga información segura y precisa. en los últimos años, el enfoque de li juanzhi en las cuestiones sociales de las mujeres ha seguido ampliándose, enfatizando la protección de los derechos de las mujeres.

li juanzhi cree que desde impulsar la discriminación hasta crímenes profundamente falsos. la "misoginia" que existe en la sociedad coreana no se ha resuelto de manera efectiva. no sólo eso, la "misoginia" también ha sido explotada por la política, avivando aún más el resentimiento entre los grupos masculinos y convirtiéndose en una forma para que los políticos soliciten votos. "hoy en día, hay un gran número de hombres jóvenes en la adolescencia y en los veinte años que cosifican y cosifican. alienar a las mujeres, en lugar de establecer una relación igualitaria y natural entre los sexos, es el entorno que permitió la aparición de la 'room n' y los deepfakes".

después de que se expuso el escándalo de los deepfakes, 84 organizaciones coreanas de derechos de las mujeres firmaron una declaración, señalando que la discriminación es el quid de la cuestión: "la causa fundamental de este fenómeno es la discriminación estructural de género, y la solución es lograr la igualdad de género".

ante los interminables casos y llamamientos de grupos sociales, el presidente surcoreano, yoon seok-yue, respondió diciendo que confiar en el anonimato para utilizar maliciosamente tecnología de falsificación profunda es un delito y espera que los departamentos pertinentes lleven a cabo una investigación exhaustiva para erradicar completamente esto. delitos de tecnología digital.

el gobierno de corea del sur también tiene planes de endurecer las penas por delitos de deepfakes. kim sang-hoon, presidente del comité de políticas del gobernante partido del poder nacional de corea del sur, dijo que el partido del poder nacional y el gobierno de corea del sur planean avanzar en una legislación para aumentar la pena máxima por delitos como la difusión de videos falsos de cinco a siete años. años.

sin embargo, li juanzhi todavía tiene dudas sobre el compromiso del gobierno surcoreano y le preocupa si las acciones se implementarán.

esta duda no es infundada. durante la campaña presidencial de 2022, yin xiyue siempre ha negado la existencia de una discriminación estructural de género en corea del sur, ha culpado al feminismo de la baja tasa de natalidad y ha afirmado que las denuncias falsas de agresiones sexuales serán castigadas con mayor dureza. después de que yoon seok-yue llegó al poder, el gobierno de corea del sur también presionó para eliminar la palabra "igualdad de género" de los libros de texto escolares y canceló la financiación de programas para combatir la discriminación de género diaria.

"durante mucho tiempo, no he visto al gobierno introducir políticas para resolver la discriminación de género. al contrario, están socavando los avances logrados en materia de igualdad de género". li juanzhi dijo que la tasa de natalidad de corea del sur ha caído a uno de los niveles más bajos. en el mundo, si la "misoginia" no se aborda seriamente, "los delitos sexuales seguirán aumentando. si los delitos sexuales no se castigan severamente, los delincuentes utilizarán nuevas tecnologías para cometer delitos más complejos en el futuro y la sociedad coreana no estará preparada". en ese tiempo."

slote dijo que para abordar fundamentalmente el delito de falsificación profunda, la vinculación de todos los vínculos puede ser indispensable. el gobierno debe priorizar los esfuerzos de respuesta, tener estándares de castigo claros, establecer casos de referencia y, si es necesario, establecer un equipo dedicado a lidiar con los delitos de deepfakes. las escuelas y los lugares de trabajo también deben educar sobre la pornografía en línea no consensuada. los proveedores de servicios de internet deben monitorear sus plataformas para evitar la propagación de pornografía deepfake y advertir a los usuarios que una vez que la pornografía deepfake se difunda a través de sus plataformas de servicios, será eliminada permanentemente.

el 7 de septiembre, li juanzhi le dijo a un periodista del beijing news que su petición al congreso había recibido el consentimiento de las 50.000 personas requeridas y que los departamentos pertinentes del gobierno de corea del sur estaban obligados a responder a la petición.

el balón ha sido pateado a un lado del gobierno de corea del sur "estoy esperando sus próximas acciones", dijo li juanzhi.

luan ruoxi, periodista de beijing news

editor hu jie y corrector zhang yanjun