reforzar la protección de la información para prevenir el riesgo de delitos de deepfakes
2024-09-16
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
recientemente, surgió la noticia en corea del sur de que "aproximadamente 220.000 perpetradores utilizaron tecnología de falsificación profunda para cambiar sus rostros y crear contenido obsceno sobre mujeres no especificadas y difundirlo ampliamente. esto causó pánico en la sociedad surcoreana y también expuso los riesgos sociales y criminales de las prácticas profundas". falsificación. volviendo a la vista del público nuevamente.
a medida que la investigación y el desarrollo de la inteligencia artificial (ia) continúan profundizándose, la tecnología de deepfaking se ha vuelto cada vez más madura. su alta fidelidad, inclusión técnica, bajo costo, relevancia personal y otras características han aportado un enorme valor de uso a la ia "digital". con la sustitución de imágenes de cine y televisión por nuevas tomas, las perspectivas de aplicación de la tecnología deep fake en algunas industrias se están generalizando cada vez más.
sin embargo, como un "arma de doble filo" afilada, aunque disfrutamos de los dividendos de la tecnología deepfake, no podemos ignorar sus enormes riesgos potenciales que pueden hacer que los delincuentes sean más eficientes, más ocultos y más dañinos para la sociedad. a nivel individual, la tecnología deepfake puede permitir a la víctima robar su imagen con fines de lucro sin su consentimiento, lo que constituye una infracción de los derechos de retrato personal. es más, los estafadores también pueden utilizar la tecnología deepfake para disfrazarse. por ejemplo, a principios de este año, gerentes suplantados defraudaron al personal financiero de una empresa de hong kong por valor de 200 millones de dólares de hong kong. para las celebridades y figuras políticas, la tecnología ultrafalsa puede causar un daño social y destructivo aún mayor. la actriz estadounidense taylor swift fue retocada en una ocasión para crear fotografías indecentes que circularon ampliamente en las plataformas sociales. esto no solo causó graves daños a su imagen personal y comercial, sino que también alteró el orden social y el orden público. además, la tecnología deepfake también puede utilizarse para falsificar pruebas, lo que afecta a la credibilidad de pruebas como fotografías y vídeos, interfiriendo así con el juicio de los jueces y obstruyendo la justicia.
para prevenir los riesgos de la tecnología ultrafalsa, la primera prioridad es fortalecer la protección de la información biométrica personal. desde la perspectiva de la gobernanza de datos, el proceso de producción de deepfake se divide principalmente en tres enlaces: obtener datos (principalmente datos de información biométrica), procesar datos y generar datos (generar contenido falso). el abuso de la tecnología deepfake consiste esencialmente en obtener información biométrica de otras personas sin autorización o consentimiento y luego utilizar esta información para suplantar su identidad. por lo tanto, para mejorar el mecanismo de protección de la información biométrica personal, debemos controlar estrictamente la entrada y salida de información ultrafalsa, a fin de lograr la gobernanza de la fuente y el control de los puntos finales.
en primer lugar, debemos fortalecer el mecanismo de “conocimiento-permiso” al recopilar información biométrica. dado que la información biométrica personal tiene las características de "singularidad" e "inmutabilidad", una vez que se filtra y se abusa de ella, causará un gran daño al interesado y tendrá un impacto duradero. por lo tanto, se debe aplicar el nivel más alto de protección de la información personal. ser aplicado. de acuerdo con la "ley de protección de información personal de la república popular china" y las disposiciones legales pertinentes, la notificación está exenta sólo en circunstancias específicas basadas en necesidades de seguridad nacional y pública, investigación criminal y procedimientos judiciales, etc. excepto en las circunstancias anteriores, cualquier sujeto debe implementar estrictamente el mecanismo de "conocimiento-permiso" al recopilar y utilizar información biométrica personal. no se permite la recopilación sin el consentimiento explícito. por otro lado, es necesario dejar claro que la información que una persona divulga en línea no significa que esté de acuerdo con el reprocesamiento de información biométrica personal. en la actualidad, existen muchos escenarios de aplicación comercial de deepfakes. es necesario disipar el malentendido de que los operadores "acceden libremente a información en línea" y cumplir con sus obligaciones de notificación. además, los usuarios de la información deberán garantizar la eficacia de la notificación. no sólo debe contener información específica como el usuario, el propósito de la recopilación, el comportamiento de procesamiento y el flujo de información, sino también adoptar un método de notificación suficientemente obvio, como una ventana emergente con un límite de tiempo obligatorio, etc.
en segundo lugar, mejorar el mecanismo de supervisión y trazabilidad de la plataforma. las plataformas deben centrarse en áreas donde se utilizan mucho los deepfakes, como la creación secundaria de imágenes de la vida real, y fortalecer la supervisión y la trazabilidad mediante una combinación de revisión técnica y revisión manual, como revisar estrictamente si las obras de segunda generación tienen autorización. registros de los sujetos de información utilizados, etc. si se descubre que certificados de autorización no autorizados o falsificados se utilizan como información sobre otros, la plataforma debe prohibir la difusión y tomar las medidas restrictivas correspondientes, como prohibir cuentas.
en tercer lugar, establecer un mecanismo de rendición de cuentas y castigo más serio mediante legislación específica. en cuanto a la falsificación de información de identidad, la legislación penal de mi país actualmente tipifica los delitos de fraude y suplantación de identidad. los elementos del primer delito incluyen pretender que el objetivo es un funcionario de una agencia estatal, y defraudar la propiedad, el honor, el trato, los sentimientos, etc.; el segundo tiene como objetivo los derechos de identidad en procedimientos específicos como los exámenes. el delito de vulneración de la información personal de los ciudadanos no incluye el "uso ilegal de información biométrica". esto significa que, según la ley actual, es difícil combatir eficazmente el caos como el de los portavoces falsificados desde la perspectiva de la criminalización basándose simplemente en los delitos de fraude y suplantación de identidad. por tanto, será necesario añadir nuevos delitos en el futuro para regular específicamente la conducta de sustracción de identidad ajena. en este ámbito, el proyecto de ley estadounidense estipula que "la transferencia, uso o apropiación indebida de datos de identificación de otras personas será tratada como usurpación de identidad", lo que puede proporcionar cierta referencia para nuestro país. la legislación penal de mi país también puede agregar el delito de "robo de identidad" en el futuro a cualquier persona que utilice información biométrica de otras personas sin el consentimiento del interesado, y las circunstancias sean graves (como la tasa de clics o el número de reenvíos). 500 veces), será tratado como el delito de robo de identidad. si también está involucrado en otros delitos (como fraude), se tratará como un delito grave.
hay que envainar la hoja afilada y enjaular a la bestia. la tecnología deep fake tiene buenas perspectivas de aplicación, pero el establecimiento de un sistema completo de aplicación, supervisión y castigo es el requisito previo para que se convierta realmente en una herramienta útil para la humanidad. en este sentido, todas las partes relevantes deben poner el sistema en primer lugar, demarcar sus límites con un sistema legal sólido, restringir su aplicación con una supervisión eficiente, guiar su desarrollo con valores y ética correctos, lograr el objetivo de que la tecnología sirva a las personas y garantizar que la falsificación profunda es una esta tecnología va por buen camino para beneficiar a la humanidad. (los autores son, respectivamente, investigador del centro provincial de investigación de gobernanza y desarrollo digital de zhejiang y fiscal de la fiscalía popular del condado de pingyang, provincia de zhejiang)
