Le piège derrière l’IA : les images ne sont pas nécessairement la vérité, méfiez-vous du « nouveau déguisement » des rumeurs
2024-08-26
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Ces dernières années, la technologie de l’IA s’est développée rapidement et est devenue un point chaud dans le domaine scientifique et technologique mondial. L’IA est passée d’une simple recherche universitaire à une force importante qui change les modes de vie humains. Cependant, certaines personnes ayant des arrière-pensées en font un outil pour répandre des rumeurs et gagner de l’argent.
cas réel
En août 2024, une nouvelle choquante s’est rapidement répandue sur Internet. "Le comté de Songxi à Nanping a été frappé par des vents violents, entraînant la mort d'une personne dans la rue Zaoling." La nouvelle était illustrée d'images et de textes, et comportait même des clips vidéo réalistes, qui ont immédiatement attiré l'attention et la transmission d'un grand nombre d'internautes. Cependant, après vérification par l’agence de sécurité publique, il a été découvert qu’il s’agissait en fait d’une vidéo de rumeur en ligne fabriquée à l’aide de l’IA.
Après enquête, il a été découvert que la rumeur avait été générée par l'éditeur Zhou via un logiciel d'IA afin d'attirer l'attention et le trafic. Après avoir rassemblé des images et des clips vidéo, Zhou a créé de fausses informations avec des « images », du « texte » et des « sons » et les a publiées sur la plateforme Internet, provoquant un impact social négatif.
Les organes de sécurité publique ont imposé des sanctions administratives à Zhou conformément à la loi.
Étude de cas
Les marchands de rumeurs profitent du faible coût, de la grande efficacité et de la simplicité d'utilisation de l'IA. En fournissant des mots-clés, le logiciel d'IA analysera automatiquement les informations pertinentes sur Internet, en utilisant les actualités d'actualité et les fichiers audio et vidéo aléatoires en ligne comme matériaux pour produire en masse. Rumeurs Internet. Publiez-les sur les principales plateformes en ligne pour attirer l'attention ou monétiser le trafic. La propagation et l’impact des rumeurs augmentent de façon exponentielle.
Lorsque les rumeurs sont déguisées en IA, non seulement elles peuvent générer automatiquement du texte, mais elles peuvent également générer des images, du son et de la vidéo proches de la réalité, donnant vie à des scènes inexistantes et donnant l’impression que des personnages fictifs existent réellement. Cela bouleverse complètement notre compréhension conventionnelle selon laquelle « s’il y a une image, il y a la vérité », ce qui rend difficile pour nous de distinguer la vérité des rumeurs sur Internet elles-mêmes.
Les rumeurs liées à l’IA sont devenues un nouveau sujet sur Internet qui doit être traité de toute urgence. Alors, dans la vie quotidienne, comment pouvons-nous garder les yeux ouverts, identifier et résister aux rumeurs liées à l’IA ?
Alerte Internet
01
La curiosité doit être modérée : face à des informations nouvelles et exagérées, ne vous précipitez pas pour découvrir la vérité en premier. L'IA sélectionne et s'empare des sujets auxquels tout le monde prête attention pour créer des rumeurs en ligne et les diffuser en profitant de la curiosité des internautes. .
02
Ne faites pas confiance aux informations provenant de sources inconnues : n’oubliez pas de ne pas croire aveuglément et de diffuser des informations non vérifiées. Lorsque vous voyez des informations suspectes sur les réseaux sociaux ou sur Internet, vous pouvez d'abord les vérifier ou attendre que les nouvelles officielles soient publiées avant de porter un jugement.
03
Faites toujours attention aux canaux faisant autorité : soyez attentif aux sources d'information lorsque vous parcourez des informations en ligne, abonnez-vous aux comptes des médias officiels et des ministères gouvernementaux et essayez de choisir des médias ou des institutions faisant autorité et dignes de confiance comme sources d'information.
04
L'analyse logique est indispensable : faites attention à la logique des informations du réseau. Si vous trouvez des failles logiques ou des contradictions évidentes dans une information, il est probable qu'elle ait été falsifiée ou fabriquée.
Matériel|Police Internet du Fujian
Source : Bureau de Cybersécurité du Ministère de la Sécurité Publique
