noticias

recientemente, la policía de hangzhou reveló el primer caso en el país de uso de un gran modelo de ia para cambiar caras y robar privacidad personal, lo cual es horrible de pensar.

el delincuente ingresa las fotografías fijas de la víctima en el modelo y luego realiza una solicitud a través de texto y voz para generar un video en vivo. este video en vivo puede imitar un rostro humano para asentir, parpadear y de lado, romper la autenticación facial de la plataforma, obligarlo a iniciar sesión en las cuentas de otras personas y obtener una gran cantidad de datos privados de la víctima para venderlos con fines de lucro.

esto es sólo la punta del iceberg en el caos de las aplicaciones de la tecnología de ia. en los últimos años, la tecnología de inteligencia artificial se ha desarrollado rápidamente, brindando más oportunidades nuevas y servicios más convenientes. sin embargo, algunos delincuentes suelen utilizar las nuevas tecnologías y se convierten en "cómplices" de delitos.

el "cambio de rostro" de la ia comete fraude, la ia falsifica imágenes para difundir rumores y las llamadas de ventas de la ia son inquietantes... todo tipo de caos no solo infringe los derechos e intereses legítimos de los consumidores, amenaza la seguridad personal y de la propiedad, sino que también obstaculiza la desarrollo sano y ordenado de la industria de la ia.

no hay duda de que la ia es una dirección importante para el desarrollo científico y tecnológico y un altiplano tecnológico para la competencia entre países. sin embargo, al desarrollar la ia, no debemos ignorar sus riesgos ocultos. abróchese el "cinturón de seguridad" a la creciente ia y conviértala en un "ayudante" en lugar de un "cómplice". la atención se centra en fortalecer la gobernanza y la regulación.

en la semana nacional de concientización sobre la seguridad cibernética de 2024 celebrada recientemente, el tema de la aplicación de seguridad de la ia se convirtió en un tema candente. durante este período, los departamentos pertinentes lanzaron la versión 1.0 del "marco de gobernanza de seguridad de inteligencia artificial", proponiendo soluciones direccionales como los principios de gobernanza de seguridad de inteligencia artificial. en la cyber ​​​​security expo también se dieron a conocer algunas tecnologías negras para abordar los riesgos de seguridad de la ia, como el sistema de falsificación de ia en tiempo real, que identifica y contrarresta eficazmente trucos de fraude como el cambio de rostro de la ia y la onomatopeya de la ia.

la tecnología siempre ha sido un "arma de doble filo". ya sea buena o mala, beneficiosa o dañina, la clave depende de cómo la persona que sostiene la espada está preparada para usarla. al desarrollar vigorosamente la ia, debemos mejorar la conciencia sobre la seguridad, fortalecer la promoción y aplicación de tecnologías de seguridad relevantes y promover la formación de un consenso de gobernanza entre todas las partes de la sociedad para que la ia pueda beneficiar mejor a la humanidad. (redactor: ma ruohu)