nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Agence de presse Xinhua, Pékin, 24 juillet. Le 24 juillet, le « Xinhua Daily Telegraph » a publié un commentaire intitulé « Pour contrôler l'utilisation de l'IA pour propager des rumeurs, nous pourrions aussi bien « utiliser l'IA pour combattre l'IA ».

Récemment, les agences de sécurité publique de nombreux endroits ont annoncé un certain nombre de cas liés à l'utilisation d'outils d'IA pour propager des rumeurs. Le 20 juin, le Corps des transports urbains et des bus du Bureau de la sécurité publique de Shanghai a émis une alerte : afin d'attirer l'attention, certains spécialistes du marketing ont utilisé un logiciel d'IA pour générer de fausses vidéos des « attaques du métro de Shanghai » et les ont publiées en ligne, provoquant un impact social négatif. impact. En outre, des « nouvelles » sensationnelles et largement diffusées telles que « une explosion soudaine à Xi'an » et « un incendie s'est déclaré dans un immeuble résidentiel de grande hauteur à Jinan, et de nombreuses personnes ont sauté pour s'échapper » ont toutes été confirmées comme étant des rumeurs. concocté par un logiciel d’IA. La principale motivation de la propagation des rumeurs est d'obtenir des clics et des récompenses de lecture des plateformes de contenu Internet auprès des créateurs, et d'attirer du trafic vers les opérations des plateformes de commerce électronique. Après tout, c'est toujours une question d'argent.

Face à une technologie d’IA générative constamment itérative, « voir c’est croire » et « les images et la vérité » sont remis en question. À en juger par les cas pertinents, les rumeurs produites par les criminels utilisant les dernières technologies d'IA peuvent être « fausses et vraies » et extrêmement trompeuses. L'intelligence artificielle peut également générer des rumeurs personnalisées basées sur les caractéristiques du canal de communication et les transmettre rapidement et précisément à des publics spécifiques. En conséquence, des diffamations, des fuites d'informations et des risques pour la sécurité personnelle contre des individus ou des groupes spécifiques se produisent souvent.

Pour la gestion des rumeurs en ligne, le plus grand défi est que des outils d'IA pratiques ont considérablement réduit le coût de propagation des rumeurs et augmenté l'ordre de grandeur et le pouvoir de propagation des rumeurs. Les rumeurs présentent les caractéristiques d'un seuil bas, d'une production par lots et d'une difficulté d'identification. En recherchant sur Internet, il existe une infinité d'articles publicitaires tels que "Création d'images et de texte, l'IA écrit automatiquement des articles, un seul numéro peut facilement en produire plus de 500 par jour, et plusieurs numéros peuvent être utilisés, et les novices peuvent facilement commencer" et "Non "Il faut laver les manuscrits, l'IA peut produire 100 articles originaux par jour", attirant l'attention. La participation de ceux qui ont des arrière-pensées a également conduit à la formation accélérée de chaînes industrielles grises. Dans le même temps, afin de vérifier des informations difficiles à distinguer du vrai du faux, les institutions et les individus concernés doivent investir des ressources humaines et matérielles, ce qui entraîne d'importants coûts sociaux. Certaines rumeurs non seulement causent un préjudice mental à la victime, mais également ; entraînent également des pertes considérables dans les opérations sociales et économiques. Tout ce qui précède nous oblige à attacher une grande importance aux caractéristiques « à double tranchant » de la technologie de l'IA, à prendre des mesures résolues, à maintenir une posture de haute pression et à freiner au maximum les comportements illégaux.

Nous devons utiliser des moyens plus puissants pour éliminer les maladies et éliminer leurs effets néfastes. Certaines plateformes de contenu Internet privilégient le « trafic d'abord » et permettent la propagation de fausses nouvelles, de « clickbaits » et de sujets controversés, fournissant ainsi un terrain fertile pour la propagation des rumeurs sur l'IA. Nous devons être sobrement conscients que le trafic généré par la diffusion de fausses informations ne peut pas durer longtemps et qu’il n’y aura jamais d’affaires au monde qui soient gratuites et rentables. Les plates-formes doivent d'abord consolider les principales responsabilités, identifier et couper rapidement la chaîne de transmission et la chaîne d'intérêt des fausses informations, y compris les rumeurs sur l'IA, optimiser davantage le mécanisme de distribution du trafic et de partage des revenus impliquant le contenu de l'IA, et réduire l'espace de profit pour ceux qui ont des conséquences ultérieures. motifs pour produire des rumeurs. Les départements concernés doivent également utiliser leurs épées conformément à la loi, utiliser des médicaments puissants pour éliminer la maladie, réprimer sévèrement les individus et les institutions qui créent de fausses nouvelles et mettre en place une ligne à haute tension dans le cyberespace pour interdire les rumeurs liées à l'IA.

Pour « surpasser » les rumeurs plus rapidement. Face à la diffusion précise et intelligente des rumeurs sur l’IA, autant explorer « l’utilisation de l’IA pour combattre l’IA ». Ces dernières années, certaines plateformes de contenu Internet ont mis en place des mécanismes pour réfuter les rumeurs, et les départements concernés se sont également coordonnés pour publier rapidement les résultats des enquêtes et du traitement afin de répondre aux préoccupations sociales. À l'avenir, les technologies et les mécanismes tels que la recommandation d'algorithmes, la surveillance quotidienne et la collecte d'indices devraient être encore optimisés et améliorés pour diffuser les informations réfutant les rumeurs plus rapidement et plus précisément, afin que des informations plus vraies et plus précieuses puissent « anticiper » les rumeurs.

Il est nécessaire d’améliorer l’État de droit et d’amener la technologie à faire le bien. Comment faire évoluer l'intelligence artificielle vers une approche humaine et technologique, la supervision est indissociable de la garantie de l'État de droit. À l'heure actuelle, mon pays a promulgué et mis en œuvre des lois pertinentes telles que le « Règlement sur la gestion de la synthèse approfondie des services d'information sur Internet » et les « Mesures provisoires pour la gestion des services d'intelligence artificielle générative ». Cependant, il reste encore de la place pour aller plus loin. affinement de la gouvernance judiciaire dans le domaine de l’IA. Ce n'est qu'en définissant les principes fondamentaux du développement et de l'utilisation de l'IA par la législation et en clarifiant les droits et responsabilités de toutes les parties que nous pourrons prévenir les risques à la source et éviter la situation passive de « la pollution d'abord et la gouvernance ensuite ».