noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Fuente: Diario del Estado de Derecho

Reportero Zhang Shoukun

"Hay fotografías y la verdad, y todo está certificado por expertos".

Recientemente, la ciudadana de Tianjin Li Meng (seudónimo) tuvo una acalorada discusión con su madre por un "artículo de divulgación científica": su madre creía firmemente que el artículo contenía vídeos, fotografías y conclusiones de investigaciones extraídas por varios supuestos médicos y equipos médicos. Puede ser falso; Li Meng identificó cuidadosamente el artículo y descubrió que fue generado por IA, y la plataforma también refutó el rumor, por lo que debe ser falso.

El contenido de este artículo está relacionado con los gatos: había una niña que estaba jugando con un gato y contrajo una enfermedad terminal llamada "enfermedad". Más tarde, toda su persona se volvió irreconocible. Fue precisamente por este artículo que la madre de Li Meng se opuso firmemente a que criara un gato porque temía que ella también sufriera "enfermedades". Li Meng no podía reír ni llorar por esto: "Realmente espero que mi madre pueda usar menos Internet".

La madre de Li Meng no es la única que ha sido engañada por los rumores de IA. Recientemente, las agencias de seguridad pública en muchos lugares han publicado una serie de casos relacionados con el uso de herramientas de inteligencia artificial para difundir rumores. Por ejemplo, la agencia que publicó noticias falsas sobre la cuenta de la "explosión de Xi'an" podría generar entre 4.000 y 7.000 piezas de información. noticias falsas en un día en su apogeo, con un ingreso diario de 1 Más de 10.000 yuanes, y el controlador real de la empresa, Wang Moumou, opera 5 instituciones de este tipo con 842 cuentas operativas.

Los expertos entrevistados por periodistas del "Rule of Law Daily" señalaron que las convenientes herramientas de inteligencia artificial han reducido en gran medida los costos de fabricación de los rumores y han aumentado el orden de magnitud y la difusión de los rumores. La difusión de rumores sobre IA tiene las características de umbral bajo, producción por lotes y dificultad de identificación. Es urgente fortalecer la supervisión y cortar la cadena de intereses detrás de ella.

Usar IA para fabricar noticias falsas

Se difundió rápidamente y muchas personas fueron engañadas.

El 20 de junio, la policía de Shanghai emitió un aviso de que dos vendedores de marcas habían fabricado información falsa como "Apuñalar a alguien en la estación de metro de Zhongshan Park" para ganar popularidad. El personal pertinente fue detenido administrativamente por la policía. En el informe, un detalle llamó la atención: un falsificador utilizó software de inteligencia artificial para generar tecnología de video para fabricar videos falsos de ataques al metro y otra información falsa.

El periodista descubrió que en los últimos años, el uso de IA para difundir rumores se ha producido con frecuencia y se propaga muy rápidamente. Algunos rumores han causado un pánico y daño social considerable.

El año pasado, en el caso de una niña desaparecida en Shanghai, una pandilla fabricó maliciosamente rumores como "el padre de la niña es su padrastro" y "la niña fue llevada a Wenzhou" a modo de "clickbait" y "grupo de choque". La pandilla utilizó herramientas de inteligencia artificial y otras herramientas para generar contenido de rumores. A través de una matriz de 114 cuentas, publicaron 268 artículos en 6 días, y muchos de ellos obtuvieron más de 1 millón de clics.

La Dirección de Seguridad Cibernética del Ministerio de Seguridad Pública anunció recientemente un caso. Desde diciembre de 2023, se ha difundido con frecuencia en Internet información sobre "agua caliente brotando del suelo en el distrito de Huyi, ciudad de Xi'an", con rumores como "agua caliente brotando del suelo debido a un terremoto". " y "por rotura de tuberías térmicas subterráneas". Después de la investigación, los rumores relevantes se generaron mediante la limpieza de manuscritos de IA.

Recientemente, "se produjo un incendio en un edificio residencial de gran altura en Jinan, y muchas personas saltaron para escapar" y "un hombre que hacía ejercicios matutinos descubrió a una persona viva en una tumba cerca de la Montaña de los Héroes en Jinan"... Estos escandalosos "éxitos de taquilla "Noticias" se difundieron ampliamente en Internet y atrajeron mucha atención. La Administración del Ciberespacio del Comité Municipal del Partido de Jinan refutó inmediatamente los rumores a través de la Plataforma Conjunta de Refutación de Rumores de Internet de Jinan, pero muchas personas todavía estaban confundidas por la apariencia de "imágenes y verdad".

Un informe de investigación publicado por el Centro de Investigación de Nuevos Medios de la Facultad de Periodismo y Comunicación de la Universidad de Tsinghua en abril de este año mostró que entre los rumores sobre IA en los últimos dos años, los rumores económicos y corporativos representaron la proporción más alta, alcanzando el 43,71%; El año pasado, los rumores económicos y corporativos La tasa de crecimiento de los rumores de IA llega al 99,91%, entre las cuales industrias como la comida para llevar y la entrega urgente son las más afectadas por los rumores de IA.

Entonces, ¿qué tan fácil es utilizar la IA para crear una noticia falsa?

El periodista probó una variedad de software de inteligencia artificial popular en el mercado y descubrió que, siempre que se proporcionen las palabras clave, se puede generar inmediatamente un "informe de noticias" en unos segundos, incluidos los detalles del incidente, los comentarios y las opiniones. acciones de preparación, etc. Agregue la hora y el lugar, imágenes y música de fondo, y se completará un informe de noticias que parece real y falso.

El periodista descubrió que muchos rumores generados por IA estaban mezclados con contenidos como "según los informes", "los departamentos pertinentes están llevando a cabo investigaciones en profundidad sobre la causa del accidente y tomando medidas para llevar a cabo reparaciones de emergencia" y "recordando al general público a prestar atención a la seguridad en la vida diaria". Las personas a menudo tienen dificultades para distinguir la autenticidad después de publicarlo en línea.

Además de las noticias de IA, los artículos de divulgación científica, las imágenes, los videos doblados y las voces imitadas después del reemplazo de rostros, todos estos se pueden generar usando IA después de realizar ajustes manuales e incorporar contenido real, serán difíciles de distinguir.

Zeng Chi, investigador del Centro de Periodismo y Desarrollo Social de la Universidad Renmin de China, dijo que la naturaleza de empalme de la “IA generativa” tiene una fuerte afinidad con los rumores. Ambos están “creando cosas de la nada”, creando información que parece. real y razonable. La IA ha hecho que la difusión de rumores sea más simple y más "científica". La IA resume patrones y empalma tramas basadas en eventos candentes, y puede crear rápidamente rumores que satisfagan las "expectativas" de las personas y se difundan más rápidamente.

"Las plataformas en línea pueden utilizar tecnología de inteligencia artificial para detectar de manera inversa la unión de imágenes y videos, pero es difícil censurar el contenido. En la actualidad, la gente no tiene la capacidad de interceptar completamente los rumores, sin mencionar que hay muchos rumores no verificados o información no verificable y ambigua ", dijo Zeng Chi.

Falsificación para ganar tráfico

Sospechoso de múltiples delitos

La “eficacia para difundir rumores” de algunos programas de inteligencia artificial es asombrosa. Por ejemplo, existe un software falso que puede generar 190.000 artículos al día.

Según la policía de Xi'an que confiscó el software, extrajeron los artículos guardados por el software durante 7 días y descubrieron que el número total excedía el millón, cubriendo noticias de actualidad, temas sociales candentes, vida social y otros aspectos. Los usuarios de cuentas publican estas "noticias" en plataformas relevantes de manera organizada y luego utilizan el sistema de recompensa de tráfico de la plataforma para obtener ganancias. En la actualidad, la plataforma ha bloqueado las cuentas involucradas en el caso y el software y los servidores relevantes también han sido cerrados. La policía todavía está investigando el caso.

Detrás de muchos incidentes de difusión de rumores sobre IA, las motivaciones de los propagadores de rumores son principalmente desviar el tráfico y obtener ganancias.

"Utilice la IA para producir en masa redacción publicitaria popular y, de repente, se hará rico". "Deje que la IA me ayude a escribir artículos promocionales y podré terminar 3 artículos en 1 minuto. "Creación de imágenes y texto, la IA escribe artículos automáticamente y". un solo número puede producir fácilmente más de 500 por día. Operación de múltiples cuentas, los principiantes pueden comenzar fácilmente”... La búsqueda del reportero encontró que hay artículos similares sobre “hacerse rico” circulando en muchas plataformas sociales, y hay muchos blogueros presionando. ellos en el área de comentarios.

En febrero de este año, la Oficina de Seguridad Pública de Shanghai descubrió que un video corto de un artista "desafortunado y muerto de pesar" apareció en una plataforma de comercio electrónico, lo que atrajo una gran cantidad de "me gusta" y publicaciones repetidas.

Después de la investigación, se descubrió que el contenido del vídeo era falso. Cuando el editor del vídeo llegó al caso, confesó que tenía una tienda online de especialidades locales en una plataforma de comercio electrónico. Debido a las bajas ventas, creó noticias falsas llamativas para atraer tráfico a la cuenta de su tienda en línea. No sabe editar vídeos, por lo que utiliza tecnología de inteligencia artificial para generar texto y vídeos.

Zhang Qiang, socio del bufete de abogados Beijing Yinghe, dijo a los periodistas que el uso de inteligencia artificial para fabricar rumores en línea, especialmente fabricar y difundir deliberadamente peligros, epidemias, desastres e información policial falsos, puede ser sospechoso del delito de fabricar y difundir deliberadamente información falsa. bajo la ley penal. Si afecta la reputación de un individuo o de una empresa, puede ser sospechoso de difamación criminal y daño a la credibilidad y reputación empresarial. Si afecta a las operaciones con valores y futuros y perturba el mercado de operaciones, se puede sospechar que fabrica y difunde información falsa sobre valores y operaciones con futuros según la ley penal.

Continuar mejorando el mecanismo de refutación de rumores.

Etiquete claramente el contenido sintético

Para controlar el fraude y el caos de la IA y profundizar la gobernanza del ecosistema en línea, los departamentos y plataformas pertinentes han introducido una serie de políticas y medidas en los últimos años.

Ya en 2022, la Administración del Ciberespacio de China y otros emitieron el "Reglamento sobre la gestión de la síntesis profunda de los servicios de información de Internet", que estipula que ninguna organización o individuo puede utilizar servicios de síntesis profunda para producir, copiar, publicar o difundir información. prohibidos por leyes y reglamentos administrativos Los servicios de síntesis profunda participan en actividades prohibidas por leyes y reglamentos administrativos, como poner en peligro la seguridad y los intereses nacionales, dañar la imagen del país, infringir los intereses sociales y públicos, alterar el orden económico y social, infringir los derechos legítimos. e intereses de otros, etc. Los proveedores y usuarios de servicios de síntesis profunda no pueden utilizar servicios de síntesis profunda para producir, copiar, publicar o difundir información de noticias falsas.

En abril de este año, la Secretaría de la Comisión Central de Asuntos del Ciberespacio emitió el "Aviso sobre la realización de la acción especial de "limpieza y rectificación del tráfico generoso ilimitado de los 'automedios'', exigiendo el fortalecimiento del etiquetado y visualización de las fuentes de información. . Si la información se genera utilizando tecnologías como la IA, debe marcarse claramente como generada por tecnología. Cualquier contenido que contenga ficción, deducción, etc. debe estar claramente etiquetado como ficción.

Para el contenido que se sospecha que utiliza tecnología de IA, algunas plataformas publicarán un recordatorio a continuación de que "se sospecha que el contenido es generado por IA, revise con atención" y agregarán claramente una etiqueta de ficción al contenido que contenga ficción, deducción, etc. ., y tomar "medidas" sobre las cuentas ilegales "Prohibición de cuentas" y otras medidas. Algunos desarrolladores de modelos grandes también declararon que pondrán marcas de agua en el contenido generado a través de modelos grandes a través de configuraciones de fondo para informar a los usuarios.

En opinión de Zhang Qiang, la gente todavía no tiene suficiente conocimiento sobre la IA generativa y carece de experiencia para manejarla. En este caso, es muy necesario recordar a las personas a través de los medios que presten atención a la detección de información de IA. Al mismo tiempo, es necesario aumentar los esfuerzos de respuesta a nivel de aplicación de la ley e investigar y corregir rápidamente comportamientos como rumores y fraudes a través de la IA.

Zheng Ning, director del Departamento de Derecho de la Escuela de Gestión de la Industria Cultural de la Universidad de Comunicación de China, cree que el mecanismo existente para refutar rumores debería mejorarse aún más, una vez que una información se identifica como rumor, debe marcarse inmediatamente y. Empujó nuevamente a los usuarios que navegaron por el rumor para refutar el rumor. Consejos para evitar que este rumor se propague más y cause un daño mayor.

Vale la pena señalar que es posible que algunas personas no tengan ninguna conciencia subjetiva de difundir rumores, sino que simplemente publican contenido sintetizado por IA en Internet. Como resultado, se vuelve a publicar en grandes cantidades y muchas personas lo creen, lo que causa daño.

En este sentido, Zeng cree que la forma más sencilla de evitarlo es formular regulaciones a través de los departamentos o plataformas pertinentes, y todo el contenido sintetizado por IA debe estar marcado con "esta imagen/vídeo está sintetizado por IA".