cinco grandes caos de fotografías generadas por ia ②｜negocios en “fotografías pornográficas”: cambios de rostro y desnudos, prohibiciones repetidas pero difíciles de detener
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
en esta era en la que la ia está en todas partes y las barreras de entrada son casi ilimitadas, si no ha intentado utilizar la ia para generar imágenes o vídeos (en lo sucesivo denominados colectivamente imágenes generadas por ia), entonces, en realidad, no está lo suficientemente “de moda”.
al igual que otras nuevas tecnologías, la tecnología de imágenes de ia ha estado llena de controversia desde su nacimiento, con flores y espinas acompañándola en el camino. los partidarios la ven como una revolución tecnológica disruptiva, mientras que los opositores la ven como un flagelo. especialmente en los últimos dos años, han surgido grandes modelos de datos de ia representados por chatgpt y sora. la generación de imágenes de ia se ha convertido en una tendencia popular y es buscada por cada vez más internautas. si bien brinda gran comodidad, sorpresa y comodidad a las personas, también inevitablemente expone muchos problemas negativos, como ser absurdo, molesto e incluso ilegal.
la ia es inocente, la clave está en cómo utilizarla. sólo si se respetan los principios básicos de la ética y el estado de derecho, la tecnología podrá beneficiar mejor a la humanidad. hoy, upstream news lanza un informe especial sobre "cinco caos en la generación de imágenes de ia", centrándose en los diversos caos expuestos en el campo de la generación de imágenes de ia en los últimos años, rastreando la fuente, analizando la causa y el efecto y explorando soluciones, en para contribuir al desarrollo saludable de la industria de la ia.
en febrero de 2024, el sr. shang (seudónimo), que vive en el distrito de yubei, chongqing, recibió repentinamente un mensaje de texto que contenía una foto de un desnudo en blanco y negro. en la imagen, el sr. shang sostiene en sus brazos a una mujer joven, acostada en una cama de un hotel, con la posdata "tengo todos los datos de su imagen, por favor contácteme rápidamente" y proporciona un número de teléfono. debido a que generalmente se mantiene limpio y está familiarizado con el sentido común, como el fraude en internet y el cambio de rostro con ia, el sr. shang sabía que estaba siendo defraudado por delincuentes que usaban ia para generar fotografías, pero también lo ignoró. también le contó a su esposa sobre su situación. la experiencia y la compartió con su grupo de amigos de wechat recibió muchas burlas afables. en este sentido, el sr. shang le dijo a un periodista de upstream news (correo electrónico del informe: [email protected]): “sé que la imagen fue sintetizada por ia, usando la cara de mi tarjeta de identificación para crear un cuerpo desnudo. tengo curiosidad: ¿dónde encontraron estos estafadores mi foto de identificación y mi número de teléfono móvil? una investigación realizada por un reportero de noticias upstream encontró que, según informes de múltiples medios de comunicación y de la policía, en los últimos años se han producido estafas similares de intercambio de caras con ia, y muchas personas creyeron que eran ciertas, lo que resultó en que fueran defraudadas con enormes cantidades de activos y incluso separar a sus familias. muchos delincuentes que produjeron y difundieron fotografías y vídeos y cometieron fraude también fueron severamente castigados por la ley.
víctimas: a algunas les defraudaron dinero y a otras les cambiaron la cara.
aunque el sr. shang de chongqing recibió mensajes de texto de chantaje de delincuentes, tuvo suerte de escapar. por el contrario, el sr. wang de weihai, provincia de shandong, también se encontró con la misma estafa. le pidieron 680.000 yuanes y finalmente lo obligaron a transferir 200.000 yuanes.
el contenido del mensaje de texto que recibió el sr. wang era casi exactamente el mismo que el del sr. shang. sin pensarlo mucho, marcó el número que figuraba en el mensaje de texto. la otra parte indicó con precisión su nombre y lugar de trabajo, y le dijo al sr. wang que podía comprar los videos transfiriendo 680.000 yuanes. si no pagaba, los videos se harían públicos. bajo la amenaza de la otra parte, el sr. wang lo creyó. posteriormente, el sr. wang recaudó fondos de múltiples partes y transfirió 200.000 yuanes. sin embargo, estos 200.000 yuanes no pueden satisfacer en absoluto el apetito de la otra parte. más tarde, la policía se puso en contacto con el sr. wang.
después de una cuidadosa observación, la policía que investigaba el caso descubrió que aunque el rostro en la foto del mensaje de texto era similar al del sr. wang, la forma de la cara y del cuerpo eran completamente diferentes a las suyas. posteriormente, la policía llevó a cabo rápidamente operaciones de emergencia para detener los pagos en las dos cuentas bancarias transferidas por el sr. wang. después de investigar y analizar la cuenta de cobro, la policía bloqueó la información de identidad de los sospechosos criminales zheng y zhong. en enero de este año, la policía de weihai arrestó a dos sospechosos y los llevó ante la justicia.
los señores shang y wang se encontraron con un fraude de mensajes de texto y la ia convirtió sus avatares en fotografías de desnudos.
según la policía de weihai, en este caso, el sospechoso primero recopiló vídeos, fotografías e información relacionada de la víctima a través de internet y otros canales. luego, utilice la tecnología de cambio de rostro de ia en ps para sintetizar los llamados "videos indecentes" o "fotos de desnudos", y luego envíelos con precisión a los objetos seleccionados a través de sms, correo electrónico y otros canales y, finalmente, deje la información de contacto que desee. denunciar, difundir e informar a sus familiares y otros medios para amenazar a los objetivos seleccionados y exigir a las víctimas que transfieran dinero a sus cuentas bancarias designadas. la policía recordó que si se encuentra en una situación de este tipo, debe prestar atención a conservar las pruebas y llamar a la policía a tiempo.
en comparación con los hombres, las mujeres jóvenes y hermosas, especialmente las celebridades femeninas conocidas de internet, tienen más probabilidades de verse afectadas por el cambio de rostro de la ia y la "eliminación de ropa con un solo clic". las fotos y los videos incluso se convierten en contenido pago para la venta. en julio del año pasado, una bloguera famosa de internet con más de 4 millones de fanáticos descubrió que muchos de ellos dejaban mensajes diciendo que habían visto sus "videos pornográficos". los inocentes se autoexaminarán y los rumores eventualmente pasarán "no fue hasta que un día un amigo le envió un video pornográfico en el que la heroína se parecía a ella que se dio cuenta de que le habían "cambiado la cara" maliciosamente y que la habían cambiado. sido convertido en un vídeo pornográfico.
según informes de los medios de comunicación en ese momento, en la lista de precios del vendedor, cientos de celebridades de internet estaban divididas según el nivel de fanáticos, desde menos de 500.000 fanáticos hasta más de 10 millones de fanáticos, y se vendieron los correspondientes videos porno de intercambio de caras. de 30 yuanes a 50 yuanes no varía. además, hay muchas estrellas femeninas en la tabla. un vendedor dijo que posee más de 80 celebridades y más de 15.000 fotografías. si los compras todos, el precio es de solo 60 yuanes y te regalarán 23 videos. el vendedor también dijo que si compras una foto de una sola celebridad con intercambio de rostros, se te cobrará según la cantidad. puedes comprar 300 fotos por 5 yuanes.
además, muchas fotografías de mujeres comunes en escenas cotidianas como escuelas, centros comerciales, oficinas, metros, etc. también se han convertido en el objetivo del robo de rostros de ai. miles o incluso decenas de miles de imágenes relacionadas de vistas.
una foto de una joven de guangzhou “desnudada” con un clic mientras viajaba en el metro.
productor: falsificó casi 7.000 fotografías de desnudos, a un precio de 1,5 yuanes cada una.
como productores de contenido pornográfico y obsceno, muchos autores ocultos en línea han sido severamente castigados por la ley.
en julio de este año, cctv news informó sobre un caso ilegal en el que se falsificaron casi 7.000 imágenes pornográficas utilizando tecnología de inteligencia artificial. el sospechoso criminal bai moumou vive en beijing y originalmente era técnico de una empresa de internet. utilizó la tecnología de ia de "eliminación de ropa con un solo clic" para falsificar casi 7.000 imágenes obscenas y las vendió a un precio de 1,5 yuanes cada una. en las imágenes aparecen un gran número de mujeres, entre ellas estudiantes, profesoras y colegas. la fiscalía cree que el acusado bai moumou produjo y vendió materiales obscenos con el fin de obtener ganancias. las circunstancias eran graves y su comportamiento violó las disposiciones pertinentes del código penal de la república popular china. debe ser considerado penalmente responsable. el delito de producir y vender materiales obscenos con fines de lucro.
un hombre en beijing produjo cerca de 7.000 imágenes obscenas y las vendió por 1,5 yuanes cada una.
en abril del año pasado, según la fiscalía popular municipal de hangzhou, yu, un hombre nacido en la década de 1980 en la provincia de anhui, fue procesado bajo sospecha de fabricar y distribuir material obsceno con fines de lucro. yu se interesó en esta tecnología ya en 2020, cuando el "cambio de rostro de ia" recién comenzaba a surgir, y también dominó esta tecnología a través del autoestudio. más tarde, yu registró una cuenta en una plataforma social extranjera y creó un grupo. si otros quieren unirse al "grupo interno", deben pagar una "cuota de membresía" que oscila entre 198 y 498 yuanes. se puede ver a mucha gente usando ia. los videos pornográficos producidos con tecnología de intercambio de rostros también se pueden "personalizar personalmente" utilizando diferentes imágenes de celebridades femeninas según las necesidades de los clientes. en sólo unos meses, yu ganó decenas de miles de yuanes.
en el grupo público establecido por yu, los órganos de seguridad pública examinaron más de 1.200 vídeos pornográficos y más de 1.600 fotografías. después de la identificación, todos los anteriores eran materiales pornográficos. en noviembre del año pasado, el tribunal popular del distrito de xiaoshan de la ciudad de hangzhou declaró al acusado yu culpable de producir y distribuir materiales obscenos con fines de lucro. fue sentenciado a siete años y tres meses de prisión y una multa de 60.000 yuanes.
las mujeres jóvenes y hermosas son propensas a convertirse en víctimas del cambio de rostro de la ia, y algunas empresas incluso ofrecen "servicios personalizados".
encuesta: el software es difícil de comprar, tieba ha sido bloqueado
según informes de los medios anteriores, en 2023, el software relacionado con la función "quitarse la ropa con un solo clic" estará disponible en muchas plataformas. muchos internautas también compran e intercambian en línea sus experiencias sobre software y productos relacionados.
por ejemplo, un determinado producto está claramente marcado: "este software puede realizar la función de convertir personas reales en dibujos animados, cambiar de cabeza y cambiarse de ropa". este software se vende por sólo 16,66 yuanes y las ventas mensuales superan los 200 pedidos. alguien preguntó en el área de comentarios de la tienda: "¿de verdad puedes quitarte la ropa?". mucha gente respondió: "sí".
en ese momento, había más de 9.000 publicaciones relacionadas con el cambio de cara de ia en la barra de publicaciones llamada "deepfake", que contenía una gran cantidad de información de ventas sobre videos de celebridades que cambiaban de rostro. un usuario llamado "synthetic alliance" vende abiertamente videos pornográficos de intercambio de caras en el grupo, con más de 150 videos en la lista, diciendo "el precio es sólo 58 yuanes".
un reportero de noticias upstream buscó en la barra de publicaciones deepfake y descubrió que la barra de publicaciones había sido bloqueada. el periodista buscó las palabras clave "cambio de rostro con ia" y "eliminación de ropa con un clic" en múltiples plataformas de comercio electrónico, pero no se mostró ninguna. en algunas tiendas, hay muchos productos de software con funciones como "borrado inteligente" y "expansión inteligente de imágenes", pero los dueños de las tiendas respondieron que no tienen la función de "quitar ropa con un solo clic". sin embargo, el periodista notó que un vendedor en zhejiang vendía un software llamado "artefacto para cambiarse de ropa" por 18,80 yuanes, afirmando que "se puede manejar fácilmente ya sea cambiando de ropa o repintando".
el periodista se puso en contacto con el vendedor a través de un mensaje privado. con respecto a la pregunta sobre "¿puedo quitarme la ropa?", el vendedor se mostró muy cauteloso: "¡no lo digas tan claramente, lo estamos monitoreando!". luego dijo vagamente: "puedes ir a y (ropa)". después de que el reportero pagó según lo requerido, el comerciante emitió aquí hay una dirección de descarga del disco de red y un tutorial de uso.
el periodista siguió las instrucciones del comerciante y descubrió que la aplicación puede realizar la función de "quitarse la ropa con un solo clic".
en cierta plataforma de comercio de segunda mano, todavía hay comerciantes que venden en secreto software con la función "quitarse la ropa con un solo clic".
declaración del abogado: si las circunstancias son especialmente graves, la pena máxima es cadena perpetua
el periodista descubrió que en algunos foros todavía hay internautas que buscan en secreto un software gratuito para "quitar ropa con un solo clic". entonces, ¿se sospecha que los comerciantes que publican o venden software relacionado infringen la ley o incluso cometen un delito? si los internautas utilizan software para generar y publicar fotografías y vídeos relevantes, ¿es una violación de la ley si sólo se utilizan para guardarlos para “disfrutarlos”? ¿qué tipo de castigo enfrentarás si lo compartes?
fu jian, un conocido abogado defensor penal y director del bufete de abogados henan zejin, dijo a los periodistas que se sospecha que actividades como hacer fotografías y vídeos y vender software para "quitar ropa con un solo clic" implican una infracción de la privacidad personal y los derechos de retrato. siendo ilegal o incluso criminal, y puede enfrentar sanciones penales. en primer lugar, los comerciantes que venden software relacionado son sospechosos de producir, vender y difundir material obsceno. según las disposiciones del código penal, quienes producen, copian, publican, venden o difunden material obsceno con el fin de obtener ganancias. será sancionado con pena privativa de libertad no mayor de tres años, detención o vigilancia penal, y además será multado si las circunstancias son graves, será condenado a pena privativa de libertad no menor de tres años ni mayor; de diez años, y también será multado si las circunstancias son particularmente graves, será condenado a pena privativa de libertad no menor de diez años o cadena perpetua, y también será multado o se le confiscarán sus bienes;
en segundo lugar, el derecho al retrato de una persona física está protegido por la ley sin el consentimiento de la persona física, el retrato de otra persona no puede utilizarse directamente. si los internautas utilizan software para generar fotografías y vídeos relevantes y guardarlos para "disfrutarlos", también se sospecha que infringen los derechos de retrato de otras personas. si se comparte en grupos de wechat o plataformas sociales después de la producción, se sospecha que infringe los derechos de imagen y reputación de otras personas, y usted debe asumir cierta responsabilidad civil. se sospecha que su comportamiento viola la "ley de castigo de la gestión de la seguridad pública" y, en casos graves, se puede sospechar que difunde material obsceno. dependiendo de la gravedad de las circunstancias, puede enfrentar sanciones como prisión por período fijo, detención penal y multas.
en respuesta a fenómenos como el cambio de rostro de la ia y la eliminación de la ropa, li liang, profesor de la facultad de derecho de la universidad minzu de china, dijo que, en primer lugar, es necesario dividir claramente a los sujetos infractores de las aplicaciones ilegales de inteligencia artificial. en segundo lugar, se debe construir un mecanismo para compartir la responsabilidad (consecuencias) por las aplicaciones ilegales de la inteligencia artificial. en tercer lugar, se debe llevar a cabo una legislación científica basada en una consideración integral de los principios legales y los intereses sociales, establecer y mejorar el sistema legal relacionado con la inteligencia artificial; aplicaciones, promover la investigación tecnológica y el desarrollo científico, y fortalecer los mecanismos de supervisión y regulación.
el reportero de noticias upstream jin xin sintetizó parcialmente información de cctv news, cctv, beijing news, people's daily, etc.
