noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Agencia de noticias Xinhua, Beijing, 24 de julio. El 24 de julio, el "Xinhua Daily Telegraph" publicó un comentario titulado "Para controlar el uso de la IA para difundir rumores, también podríamos" usar la IA para luchar contra la IA.

Recientemente, las agencias de seguridad pública de muchos lugares han anunciado una serie de casos relacionados que implican el uso de herramientas de inteligencia artificial para difundir rumores. El 20 de junio, el Cuerpo de Ferrocarriles y Autobuses Urbanos de la Oficina de Seguridad Pública de Shanghai emitió una alerta: para llamar la atención, algunos especialistas en marketing utilizaron software de inteligencia artificial para generar videos falsos de los "ataques al metro de Shanghai" y los publicaron en línea, lo que provocó una reacción social negativa. impacto. Además, se confirmó que eran rumores sensacionales y ampliamente difundidas "noticias" como "una explosión repentina en Xi'an" y "se produjo un incendio en un edificio residencial de gran altura en Jinan, y muchas personas saltaron para escapar". inventado por software de IA. La principal motivación para difundir rumores es obtener clics y recompensas por lectura de las plataformas de contenido de Internet para los creadores, y atraer tráfico a las plataformas de comercio electrónico. Después de todo, todavía se trata de dinero.

Frente a la tecnología de IA generativa en constante iteración, "ver para creer" y "las imágenes y la verdad" están siendo desafiados. A juzgar por casos relevantes, los rumores producidos por delincuentes que utilizan la última tecnología de inteligencia artificial pueden ser "falsos y verdaderos" y extremadamente engañosos. La inteligencia artificial también puede generar rumores personalizados basados ​​en las características del canal de comunicación y entregarlos a audiencias específicas de manera rápida y precisa. Como resultado, a menudo ocurren difamación, filtración de información y riesgos de seguridad personal contra individuos o grupos específicos.

Para la gestión de rumores en línea, el mayor desafío es que las convenientes herramientas de inteligencia artificial han reducido en gran medida el costo de difundir rumores y han aumentado el orden de magnitud y el poder de difusión de los rumores. Los rumores tienen las características de umbral bajo, producción por lotes y dificultad de identificación. Al buscar en Internet, hay un sinfín de artículos publicitarios como "Creación de imágenes y texto, la IA escribe artículos automáticamente, un solo número puede producir fácilmente más de 500 por día, se pueden operar varios números y los principiantes pueden comenzar fácilmente" y "No "Necesita lavar manuscritos, la IA puede producir 100 artículos originales al día", llamando la atención. La participación de aquellos con motivos ocultos también ha llevado a la formación acelerada de cadenas industriales grises. Al mismo tiempo, para verificar información que es difícil distinguir entre lo verdadero y lo falso, las instituciones y las personas relevantes tienen que invertir mano de obra y recursos materiales, lo que genera muchos costos sociales. También causan pérdidas considerables a las operaciones sociales y económicas. Todo lo anterior requiere que demos gran importancia a las características de "arma de doble filo" de la tecnología de inteligencia artificial, tomemos acciones decididas, mantengamos una postura de alta presión y frenemos el comportamiento ilegal en la mayor medida posible.

Debemos utilizar medios más potentes para eliminar las enfermedades y eliminar los efectos nocivos. Algunas plataformas de contenidos de Internet buscan "el tráfico primero" y permiten que se difundan noticias falsas, "clickbait" y temas controvertidos, lo que proporciona un terreno fértil para la difusión de rumores sobre la IA. Deberíamos ser muy conscientes de que el tráfico generado por la difusión de información falsa no puede durar mucho y nunca habrá ningún negocio en el mundo que no tenga costos y sea rentable. Las plataformas deberían primero consolidar las responsabilidades principales, identificar y cortar rápidamente la cadena de transmisión y la cadena de interés de información falsa, incluidos los rumores de IA, optimizar aún más la distribución del tráfico y el mecanismo de reparto de ingresos que involucra contenido de IA, y reducir el espacio de obtención de ganancias para aquellos con intenciones ulteriores. Motivos para producir rumores. Los departamentos pertinentes también deben usar sus espadas de acuerdo con la ley, utilizar medicinas fuertes para eliminar la enfermedad, tomar medidas severas contra las personas e instituciones que crean noticias falsas y establecer una línea de alto voltaje en el ciberespacio para prohibir la difusión de rumores sobre IA.

Para "superar" los rumores de una forma más rápida. Frente a la difusión precisa e inteligente de los rumores sobre la IA, también podríamos explorar el “uso de la IA para luchar contra la IA”. En los últimos años, algunas plataformas de contenido de Internet han establecido mecanismos para refutar los rumores, y los departamentos pertinentes también se han coordinado para publicar rápidamente los resultados de la investigación y el manejo para responder a las preocupaciones sociales. En el futuro, las tecnologías y mecanismos como la recomendación de algoritmos, el monitoreo diario y la recopilación de pistas deben optimizarse y mejorarse aún más para impulsar la información que refuta los rumores de manera más rápida y precisa, de modo que más información verdadera y valiosa pueda "correr" antes que los rumores.

Es necesario mejorar el estado de derecho y liderar la tecnología para hacer el bien. Cómo hacer que la inteligencia artificial se desarrolle en la dirección de las personas y la tecnología, la supervisión es inseparable de la garantía del estado de derecho. En la actualidad, mi país ha promulgado e implementado leyes pertinentes como el "Reglamento sobre la gestión de la síntesis profunda de los servicios de información de Internet" y las "Medidas provisionales para la gestión de los servicios de inteligencia artificial generativa". refinamiento de la gobernanza judicial en el campo de la IA. Sólo delineando los resultados básicos para el desarrollo y uso de la IA a través de la legislación y aclarando los derechos y responsabilidades de todas las partes podremos prevenir los riesgos desde su origen y evitar la situación pasiva de "primero la contaminación y después la gobernanza".