nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Source : Quotidien de l'État de droit

Le journaliste Zhang Shoukun

"Il y a des images et la vérité, et tout est certifié par des experts."

Récemment, Li Meng (pseudonyme), une citoyenne de Tianjin, a eu une vive dispute avec sa mère au sujet d'un « article scientifique populaire » : sa mère croyait fermement que l'article contenait des vidéos, des photos et des conclusions de recherches tirées par divers soi-disant médecins et équipes médicales. Il se peut que ce soit faux ; Li Meng a soigneusement identifié l'article et a découvert que l'article avait été généré par l'IA, et la plateforme a également réfuté la rumeur, il doit donc être faux.

Le contenu de cet article est lié aux chats - il y avait une fille qui jouait avec un chat et qui a contracté une maladie terminale appelée « maladie ». Plus tard, toute sa personne est devenue méconnaissable. C'est précisément à cause de cet article que la mère de Li Meng s'est fermement opposée à ce qu'elle élève un chat parce qu'elle avait peur de souffrir également de « maladies ». Li Meng ne pouvait ni rire ni pleurer à ce sujet : « J'espère vraiment que ma mère pourra moins utiliser Internet.

La mère de Li Meng n’est pas la seule à avoir été trompée par les rumeurs d’IA. Récemment, les agences de sécurité publique de nombreux endroits ont publié un certain nombre de cas liés à l'utilisation d'outils d'IA pour propager des rumeurs. Par exemple, l'agence qui a publié de fausses nouvelles sur « l'explosion de Xi'an » peut générer 4 000 à 7 000 fausses nouvelles. en une journée à son apogée, avec un revenu quotidien de 1 Plus de 10 000 yuans, et le contrôleur actuel de l'entreprise, Wang Moumou, gère 5 de ces institutions avec 842 comptes d'exploitation.

Les experts interrogés par les journalistes du « Rule of Law Daily » ont souligné que des outils pratiques d'IA ont considérablement réduit le coût de fabrication des rumeurs et augmenté l'ordre de grandeur et la propagation des rumeurs. La rumeur sur l'IA présente les caractéristiques d'un seuil bas, d'une production par lots et d'une difficulté d'identification. Il est urgent de renforcer la surveillance et de couper la chaîne d'intérêts qui la sous-tend.

Utiliser l’IA pour fabriquer de fausses nouvelles

Se propage rapidement et de nombreuses personnes ont été trompées

Le 20 juin, la police de Shanghai a publié un avis selon lequel deux commerçants de marques avaient fabriqué de fausses informations telles que « Poignarder quelqu'un à la station de métro Zhongshan Park » afin de gagner en popularité. Le personnel concerné a été administrativement détenu par la police. Dans le rapport, un détail a attiré l'attention : un contrefacteur a utilisé un logiciel d'IA pour générer une technologie vidéo et a fabriqué de fausses informations telles que de fausses vidéos d'attaques dans le métro.

Le journaliste a découvert que ces dernières années, l'utilisation de l'IA pour propager des rumeurs s'est produite fréquemment et s'est propagée très rapidement. Certaines rumeurs ont provoqué une panique sociale et des dommages considérables.

L'année dernière, dans le cas d'une jeune fille disparue à Shanghai, un gang a malicieusement fabriqué des rumeurs telles que « le père de la jeune fille est son beau-père » et « la jeune fille a été emmenée à Wenzhou » à la manière d'un « piège à clics » et d'un « groupe de choc ». Le gang a utilisé des outils d'IA et d'autres outils pour générer du contenu de rumeurs, à travers une matrice de 114 comptes, ils ont publié 268 articles en 6 jours, dont de nombreux articles ont généré plus d'un million de clics.

Le Bureau de cybersécurité du ministère de la Sécurité publique a récemment annoncé une affaire. Depuis décembre 2023, une information concernant « de l'eau chaude jaillissant du sol dans le district de Huyi, ville de Xi'an » a été fréquemment diffusée sur Internet, avec des rumeurs telles que « de l'eau chaude jaillissant du sol à cause d'un tremblement de terre ». » et « en raison de la rupture de canalisations thermiques souterraines ». Après enquête, les rumeurs pertinentes ont été générées grâce au nettoyage des manuscrits par l'IA.

Récemment, « un incendie s'est déclaré dans un immeuble résidentiel de grande hauteur à Jinan, et de nombreuses personnes ont sauté pour s'échapper » et « un homme qui faisait des exercices matinaux a découvert une personne vivante dans une tombe près de la Montagne des Héros à Jinan »... Ces scandaleux « blockbuster news" ont été largement diffusées sur Internet et ont attiré beaucoup d'attention. Le comité municipal du Parti de l'administration du cyberespace de Jinan a immédiatement réfuté les rumeurs via la plateforme conjointe de réfutation des rumeurs sur Internet de Jinan, mais de nombreuses personnes étaient encore confuses par l'apparition des « images et de la vérité ».

Un rapport de recherche publié par le Centre de recherche sur les nouveaux médias de l'École de journalisme et de communication de l'Université Tsinghua en avril de cette année a montré que parmi les rumeurs sur l'IA au cours des deux dernières années, les rumeurs économiques et commerciales représentaient la proportion la plus élevée, atteignant 43,71 % ; l'année dernière, rumeurs économiques et d'entreprise Le taux de croissance des rumeurs sur l'IA atteint 99,91 %, et des secteurs tels que la restauration à emporter et la livraison express sont les plus durement touchés par les rumeurs sur l'IA.

Alors, est-il facile d’utiliser l’IA pour créer une fausse nouvelle ?

Le journaliste a testé une variété de logiciels d'intelligence artificielle populaires sur le marché et a constaté que tant que les mots-clés sont donnés, un « reportage » peut être généré immédiatement en quelques secondes, comprenant les détails de l'incident, les commentaires et les opinions, suivre -up actions, etc. Ajoutez l'heure et le lieu, les images et la musique de fond, et un reportage qui semble réel et faux est terminé.

Le journaliste a constaté que de nombreuses rumeurs générées par l'IA étaient mélangées à des contenus tels que « selon les rapports », « les départements concernés mènent des enquêtes approfondies sur la cause de l'accident et prennent des mesures pour effectuer des réparations d'urgence » et « rappellent au général public à prêter attention à la sécurité dans la vie quotidienne". Les gens ont souvent du mal à distinguer l'authenticité après l'avoir publié en ligne.

En plus des actualités sur l'IA, des articles scientifiques populaires, des images, des vidéos doublées et des voix imitées après le remplacement du visage, tout cela peut être généré à l'aide de l'IA. Après un réglage manuel et l'incorporation de contenu réel, ils deviendront difficiles à distinguer.

Zeng Chi, chercheur au Centre de journalisme et de développement social de l'Université Renmin de Chine, a déclaré que la nature fusionnelle de « l'IA générative » a une forte affinité avec les rumeurs. Les deux « créent des choses à partir de rien » – créant des informations qui semblent. réel et raisonnable. L'IA a rendu la rumeur plus simple et plus « scientifique ». L'IA résume des modèles et assemble des intrigues basées sur des événements chauds, et peut rapidement créer des rumeurs qui répondent aux « attentes » des gens et se propagent plus rapidement.

« Les plateformes en ligne peuvent utiliser la technologie de l'IA pour détecter à rebours l'assemblage d'images et de vidéos, mais il est difficile de censurer le contenu. À l'heure actuelle, les gens n'ont pas la capacité d'intercepter complètement les rumeurs, sans compter qu'il existe de nombreuses informations non vérifiées ou non. informations invérifiables et ambiguës", a déclaré Zeng Chi.

La contrefaçon pour gagner du trafic

Soupçonné de plusieurs crimes

L’« efficacité de certains logiciels d’IA en matière de rumeurs » est étonnante. Il existe par exemple de faux logiciels capables de générer 190 000 articles par jour.

Selon la police de Xi'an qui a saisi le logiciel, elle a extrait les articles enregistrés par le logiciel pendant 7 jours et a constaté que le nombre total dépassait le million, couvrant l'actualité, les sujets d'actualité sociale, la vie sociale et d'autres aspects. Les utilisateurs du compte publient ces « nouvelles » sur les plateformes pertinentes de manière organisée, puis utilisent le système de récompense du trafic de la plateforme pour réaliser des bénéfices. À l'heure actuelle, les comptes impliqués dans l'affaire ont été bloqués par la plateforme, et les logiciels et serveurs concernés ont également été fermés. La police continue d'enquêter sur l'affaire.

Derrière de nombreux incidents de rumeurs liés à l’IA, les motivations des faiseurs de rumeurs sont principalement de détourner le trafic et de réaliser des profits.

"Utilisez l'IA pour produire en masse des rédactions populaires, et tout à coup vous deviendrez riche." "Laissez l'IA m'aider à rédiger des articles promotionnels, et je pourrai terminer 3 articles en 1 minute." un numéro unique peut facilement en produire plus de 500 par jour. Opération multi-comptes, les novices peuvent facilement commencer »… La recherche du journaliste a révélé qu'il existe des articles similaires « devenir riche » circulant sur de nombreuses plateformes sociales, et que de nombreux blogueurs poussent la pression. les dans la zone de commentaires.

En février de cette année, le Bureau de la sécurité publique de Shanghai a découvert qu'une courte vidéo d'un artiste « malheureux et mort avec regret » était apparue sur une plateforme de commerce électronique, ce qui a attiré un grand nombre de likes et de republications.

Après enquête, le contenu de la vidéo s’est avéré falsifié. Après que l'éditeur de vidéos soit arrivé sur le dossier, il a avoué qu'il dirigeait une boutique en ligne de spécialités locales sur une plateforme de commerce électronique. En raison des faibles ventes, il a créé de fausses nouvelles accrocheuses pour attirer du trafic vers son compte de boutique en ligne. Il ne sait pas comment éditer des vidéos, il utilise donc la technologie de l'IA pour générer du texte et des vidéos.

Zhang Qiang, associé du cabinet d'avocats Beijing Yinghe, a déclaré aux journalistes que l'utilisation de l'IA pour fabriquer des rumeurs en ligne, en particulier la fabrication et la diffusion délibérée de faux dangers, d'épidémies, de catastrophes et d'informations policières, pourrait être soupçonnée de crime de fabrication et de diffusion délibérée de fausses informations. en vertu du droit pénal. Si cela affecte la réputation d’un individu ou d’une entreprise, cela peut être soupçonné de diffamation criminelle et d’atteinte à la crédibilité et à la réputation de l’entreprise. Si cela affecte le commerce des titres boursiers et des contrats à terme et perturbe le marché commercial, il peut être soupçonné de fabrication et de diffusion de fausses informations sur le commerce des titres et des contrats à terme en vertu du droit pénal.

Continuer à améliorer le mécanisme de réfutation des rumeurs

Étiqueter clairement le contenu synthétique

Afin de contrôler la fraude et le chaos liés à l'IA et d'approfondir la gouvernance de l'écosystème en ligne, les départements et plateformes concernés ont introduit un certain nombre de politiques et de mesures ces dernières années.

Dès 2022, l'Administration chinoise du cyberespace et d'autres ont publié le « Règlement sur la gestion de la synthèse profonde des services d'information sur Internet », qui stipule qu'aucune organisation ou individu ne peut utiliser des services de synthèse profonde pour produire, copier, publier ou diffuser des informations. interdits par les lois et les réglementations administratives. Les services de synthèse approfondie se livrent à des activités interdites par les lois et les réglementations administratives telles que mettre en danger la sécurité et les intérêts nationaux, nuire à l'image du pays, porter atteinte aux intérêts sociaux et publics, perturber l'ordre économique et social, porter atteinte aux droits légitimes. et les intérêts des autres, etc. Les fournisseurs et utilisateurs de services de synthèse approfondie ne sont pas autorisés à utiliser les services de synthèse approfondie pour produire, copier, publier ou diffuser de fausses informations.

En avril de cette année, le Secrétariat de la Commission centrale des affaires du cyberespace a publié une « Avis sur la mise en œuvre de l'action spéciale de « nettoyage et rectification du trafic abondant et illimité des « auto-médias » », exigeant le renforcement de l'étiquetage et de l'affichage des sources d'information. . Si les informations sont générées à l’aide de technologies telles que l’IA, elles doivent être clairement marquées comme générées par la technologie. Tout contenu contenant de la fiction, de la déduction, etc. doit être clairement étiqueté comme fiction.

Pour le contenu soupçonné d'utiliser la technologie de l'IA, certaines plateformes publieront ci-dessous un rappel indiquant que « le contenu est soupçonné d'être généré par l'IA, veuillez l'examiner attentivement » et ajouteront clairement une étiquette de fiction au contenu contenant de la fiction, de la déduction, etc. ., et prendre des « mesures » en cas d'interdiction de compte « et d'autres mesures. Certains développeurs de grands modèles ont également déclaré qu'ils filigraneraient le contenu généré par les grands modèles via des paramètres d'arrière-plan pour informer les utilisateurs.

Selon Zhang Qiang, les gens ne comprennent toujours pas suffisamment l’IA générative et manquent d’expérience pour la gérer. Dans ce cas, il est très nécessaire de rappeler aux gens, par le biais des médias, de prêter attention au filtrage des informations sur l'IA. Dans le même temps, il est nécessaire d’intensifier les efforts de réponse au niveau des forces de l’ordre et d’enquêter et de corriger rapidement les comportements tels que les rumeurs et la fraude grâce à l’IA.

Zheng Ning, directeur du département de droit de l'École de gestion de l'industrie culturelle de l'Université de communication de Chine, estime que le mécanisme existant de réfutation des rumeurs devrait être encore amélioré. Une fois qu'une information est identifiée comme une rumeur, elle doit être immédiatement marquée et identifiée. a poussé à nouveau les utilisateurs qui ont parcouru la rumeur pour réfuter la rumeur. Conseils pour éviter que cette rumeur ne se propage davantage et ne cause plus de tort.

Il convient de noter que certaines personnes n'ont peut-être aucune conscience subjective de la propagation de rumeurs, mais publient simplement du contenu synthétisé par l'IA sur Internet. En conséquence, il est republié en grand nombre et de nombreuses personnes y croient, causant ainsi du tort.

À cet égard, Zeng estime que le moyen le plus simple de l'empêcher est de formuler des réglementations par l'intermédiaire des départements ou des plateformes concernés, et que tout contenu synthétisé par l'IA doit être marqué de « cette image/vidéo est synthétisée par l'IA ».