commentez maintenant｜ajoutez des logos distinctifs pour éviter que le contenu généré par l'ia ne soit confondu avec le contenu réel.
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
combien d’images, de textes et de vidéos que nous voyons quotidiennement en ligne sont générés et synthétisés par l’intelligence artificielle ? comment distinguer avec précision les articles ia, les images ia et les vidéos ia ?
le 14 septembre, l'administration chinoise du cyberespace a publié les « mesures d'étiquetage du contenu synthétique généré par l'intelligence artificielle (projet pour commentaires) ». le « projet pour commentaires » entend stipuler que les services de synthèse générés fournis par les fournisseurs de services incluent du texte, audio, images et vidéos, scènes virtuelles, etc., des invites et des panneaux bien visibles doivent être ajoutés aux emplacements appropriés ; lorsque les fournisseurs de services proposent des méthodes de téléchargement, de copie et d'exportation de contenu synthétique, ils doivent s'assurer que les fichiers contiennent des signes explicites ; répondre aux exigences.
cette disposition est très réaliste et nécessaire. ces dernières années, la technologie de synthèse profonde de l'intelligence artificielle a été largement utilisée dans de nombreux domaines, de la génération d'images, de textes et de vidéos aux questions et réponses en ligne, et diverses applications émergent sans cesse. il ne fait aucun doute que les outils d'ia peuvent rendre notre production de contenu et la diffusion de nos connaissances plus efficaces, et à mesure que la capacité d'apprentissage de l'ia devient de plus en plus forte, ses capacités de « production » de contenu dépasseront même les humains à l'avenir.
mais d'un autre côté, l'effet du contenu synthétique profond est plus réaliste et la production est plus efficace, ce qui rend également le contenu synthétique « difficile à distinguer du vrai du faux ». lorsqu'il est difficile de distinguer le vrai du faux et que voir n'est plus croire, la technologie de l'intelligence artificielle est comme une épée à double tranchant, qui entraînera également des problèmes tels que la distorsion de l'information et la confusion cognitive dans la société.
en novembre 2022, l'administration chinoise du cyberespace a publié le « règlement sur la gestion de la synthèse profonde des services d'information sur internet », qui stipule l'objectif, l'étiquetage, la portée de l'utilisation et les sanctions en cas d'abus de contenu profondément synthétisé. ce « projet pour commentaires » précise en outre que, qu'il s'agisse de texte, d'audio, d'images ou de vidéos, « des panneaux de rappel bien visibles doivent être ajoutés aux endroits appropriés ». il s’agit d’une exigence claire pour les prestataires de services : tant qu’il est généré par un outil d’ia, qu’il s’agisse d’un article ou d’une image, une identification bien visible doit être ajoutée.
il s’agit en fait d’un rappel au public que les informations en ligne sont mélangées. lorsque vous voyez des articles « d’initiés », des images « chaudes » ou des vidéos « choquantes », vous devez d’abord faire attention à savoir s’ils ont été générés par l’ia et s’ils doivent être acceptés. .comment les identifier ? soyez plus prudent.
il convient de noter qu’à mesure que la technologie devient progressivement « civile », les criminels peuvent facilement utiliser l’ia pour propager des rumeurs et produire de fausses nouvelles. il n'y a pas si longtemps, certains médias ont lancé une organisation mcn capable d'utiliser l'ia pour générer 4 000 à 7 000 articles de rumeurs chaque jour. grâce à la bénédiction de la technologie de l'ia, ces articles semblent très « réels et raisonnables » pour un public qui n'est pas familier avec la technologie internet. quand on voit ce genre d’informations avec « des images et de la vérité », il est facile de croire que c’est vrai.
selon une enquête médiatique, en utilisant une ia nationale, le coût d'un article sur l'ia n'est que de 0,00138 yuans, et 7 articles peuvent être générés pour 1 centime. de telles images et vidéos « sans capital et profits énormes » peuvent facilement être exploitées par des criminels, telles que « attaque dans le métro », « explosion à xi'an », « explosion dans une maison privée à wuxi, chongqing », etc. un mauvais impact social. la vérité derrière cela, ce sont les rumeurs de production de masse de l’ia.
l'enregistrement de l'intelligence artificielle pour générer du contenu synthétique n'est pas techniquement difficile à mettre en œuvre. certains experts suggèrent que la plate-forme peut être entièrement connectée au système de grands modèles de la plate-forme de génération de contenu ia, effectuer la reconnaissance et la comparaison des données en temps réel, puis attacher un filigrane numérique inamovible ou une description textuelle telle que « cette photo/vidéo ». est synthétisé par l'ia".
ce « projet pour commentaires » souligne qu'« aucune organisation ou individu ne doit supprimer, altérer, falsifier ou dissimuler de manière malveillante les identifiants de contenu synthétique générés stipulés dans ces mesures ». il s'agit de rappeler aux fournisseurs de services et aux plateformes d'ia qu'ils ne doivent pas utiliser l'ia. outils grâce à pour réaliser le « dividende du trafic », nous adoptons une attitude d'apaisement consistant à fermer les yeux et à fermer les yeux. un cyberespace clair ne doit pas permettre de confondre le contenu de l’ia et de brouiller les frontières de la réalité ; si une information est identifiée comme étant des rumeurs, la plateforme doit immédiatement l’étiqueter et la nettoyer.
la capacité de l'intelligence artificielle à générer et à synthétiser dépasse la cognition traditionnelle, et elle nous fait également comprendre que de nombreux articles en ligne semblent très « scientifiques », et que de nombreuses vidéos en ligne semblent particulièrement « réelles », mais elles ne sont pas nécessairement fiables, alors ne le faites pas. je ne me précipite pas pour le croire. autant le chercher d'abord. y a-t-il un panneau « cette image/vidéo est synthétisée par l'ia » à un endroit bien en vue du contenu ?
li qinyu, commentateur en chef du paper
(cet article provient de the paper. pour plus d'informations originales, veuillez télécharger l'application « the paper »)
