cinq chaos majeurs des photos générées par l'ia ②｜business des « photos pornographiques » : changement de visage et dépouillement, interdictions répétées mais difficiles à arrêter
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
à une époque où l’ia est partout et où les barrières à l’entrée sont presque illimitées, si vous n’avez pas essayé d’utiliser l’ia pour générer des images ou des vidéos (ci-après collectivement appelées images générées par l’ia), ce n’est en effet pas assez « tendance ».
comme d’autres nouvelles technologies, la technologie d’imagerie par l’ia est pleine de controverses depuis sa naissance, avec des fleurs et des épines qui l’accompagnent tout au long du chemin. les partisans y voient une révolution technologique disruptive, tandis que les opposants y voient un fléau. au cours des deux dernières années, de grands modèles de données d'ia représentés par chatgpt et sora sont apparus. la génération d'images d'ia est devenue une tendance populaire et est recherchée par de plus en plus d'internautes. même si cela apporte beaucoup de commodité, de surprise et de réconfort aux gens, cela expose aussi inévitablement de nombreux problèmes négatifs, comme le fait d'être absurde, ennuyeux et même illégal.
l’ia est innocente, la clé réside dans la manière de l’utiliser. ce n’est qu’en adhérant aux principes fondamentaux de l’éthique et de l’état de droit que la technologie pourra mieux profiter à l’humanité. aujourd'hui, upstream news lance un rapport spécial sur "cinq chaos dans la génération d'images ia", axé sur les différents chaos exposés dans le domaine de la génération d'images ia ces dernières années, en retraçant la source, en analysant les causes et les effets et en explorant des solutions, en afin de contribuer au développement sain de l’industrie de l’ia.
en février 2024, m. shang (pseudonyme), qui vit dans le district de yubei, à chongqing, a soudainement reçu un sms contenant une photo de nu en noir et blanc. sur la photo, m. shang tient dans ses bras une jeune femme, allongée sur un lit dans un hôtel, avec le post-scriptum "j'ai toutes vos données d'image, s'il vous plaît contactez-moi rapidement" et a fourni un numéro de téléphone. parce qu'il reste généralement propre et qu'il est familier avec le bon sens tel que la fraude sur internet et le changement de visage par l'ia, m. shang savait qu'il était victime d'une escroquerie par des criminels utilisant l'ia pour générer des photos, mais il l'a également ignoré. expérience et l'a partagée avec son groupe d'amis wechat, a reçu beaucoup de moqueries bon enfant. à cet égard, m. shang a déclaré à un journaliste d'upstream news (e-mail du rapport : [email protected]) : « je sais que l'image a été synthétisée par l'ia, en utilisant le visage sur ma carte d'identité pour créer un corps nu. je suis curieux de savoir où ces escrocs ont-ils trouvé ma photo d'identité et mon numéro de téléphone portable ? » une enquête menée par un journaliste en amont a révélé que, selon les rapports de nombreux médias et de la police, des escroqueries similaires visant à changer le visage de l'ia se sont produites ces dernières années. de nombreuses personnes ont cru que c'était vrai, entraînant la fraude d'énormes sommes d'actifs et même l'éclatement des familles. . de nombreux criminels qui ont produit et diffusé des photos et des vidéos et commis des fraudes ont également été sévèrement punis par la loi.
victimes : certaines ont été victimes d’une fraude financière et d’autres ont vu leur visage changé.
bien que m. shang de chongqing ait reçu des sms de chantage de la part de criminels, il a eu la chance de s'échapper. en revanche, m. wang de weihai, province du shandong, a également été confronté à la même arnaque. on lui a demandé 680 000 yuans et a finalement été forcé de transférer 200 000 yuans.
le contenu du message texte que m. wang a reçu était presque exactement le même que celui de m. shang sans trop réfléchir, il a composé le numéro indiqué dans le message texte. l'autre partie a indiqué avec précision son nom et son lieu de travail et a dit à m. wang qu'il pouvait racheter les vidéos en transférant 680 000 yuans. s'il ne payait pas, les vidéos seraient rendues publiques. sous la menace de l'autre partie, m. wang l'a cru. par la suite, m. wang a levé des fonds auprès de plusieurs parties et a transféré 200 000 yuans. cependant, ces 200 000 yuans ne peuvent pas du tout satisfaire l'appétit de l'autre partie. plus tard, la police a contacté m. wang.
après une observation attentive, la police enquêtant sur l'affaire a découvert que sur la photo du message texte, bien que le visage soit similaire à celui de m. wang, la forme du visage et celle du corps étaient complètement différentes des siennes. par la suite, la police a rapidement procédé à des opérations d'arrêt de paiement d'urgence sur les deux comptes bancaires transférés par m. wang. après recherche et analyse du compte de collecte, la police a verrouillé les informations d'identité des suspects zheng et zhong. en janvier de cette année, la police de weihai a arrêté deux suspects et les a traduits en justice.
m. shang et m. wang ont été confrontés à une fraude par sms et leurs avatars ont été transformés en photos de nus par l'ia.
selon la police de weihai, dans cette affaire, le suspect a d'abord collecté des vidéos, des photos et des informations connexes sur la victime via internet et d'autres canaux. les soi-disant « vidéos indécentes » ou « photos pornographiques » sont ensuite synthétisées à l'aide de la technologie de changement de visage de l'ia, puis envoyées avec précision à la cible sélectionnée par sms, e-mail et autres canaux et en laissant les informations de contact. enfin, ils souhaitent signaler, diffuser et informer leurs familles et d'autres moyens pour menacer les cibles sélectionnées et exiger des victimes qu'elles transfèrent de l'argent sur leurs comptes bancaires désignés. la police a rappelé que si vous rencontrez une telle situation, vous devez veiller à conserver les preuves et appeler la police à temps.
par rapport aux hommes, les femmes jeunes et belles, en particulier les célébrités féminines bien connues d'internet, sont plus susceptibles d'être affectées par le changement de visage et le « retrait de vêtements en un clic » de l'ia. les photos et les vidéos sont même transformées en contenu payant à vendre. en juillet de l'année dernière, une blogueuse célèbre sur internet comptant plus de 4 millions de fans a découvert que de nombreux fans laissaient des messages disant qu'ils avaient vu ses "vidéos pornographiques". "je n'y ai pas beaucoup réfléchi à l'époque. je pensais que c'était le cas". des innocents vont s'auto-interroger et les rumeurs finiront par passer. « ce n'est qu'un jour qu'une amie lui a transmis une vidéo pornographique dans laquelle l'héroïne lui ressemblait, qu'elle s'est rendu compte qu'elle avait été malicieusement « changée de visage » et qu'elle avait changé de visage. été transformé en vidéo pornographique.
selon les médias de l'époque, dans la liste de prix du vendeur, des centaines de célébrités internet étaient réparties selon le niveau de fans, allant de moins de 500 000 fans à plus de 10 millions de fans, et les vidéos pornographiques d'échange de visage correspondantes étaient vendues. pour 30 yuans à 50 yuans, cela ne varie pas. de plus, il y a de nombreuses stars féminines dans le tableau. un vendeur a déclaré posséder plus de 80 célébrités et plus de 15 000 photos. si vous les achetez tous, le prix n'est que de 60 yuans et 23 vidéos seront offertes en cadeau. le vendeur a également déclaré que si vous achetez une photo d'échange de visage d'une seule célébrité, vous serez facturé en fonction de la quantité. vous pouvez acheter 300 photos pour 5 yuans.
en outre, de nombreuses photos de femmes ordinaires dans des scènes quotidiennes telles que des écoles, des centres commerciaux, des bureaux, des métros, etc. sont également devenues la cible de vols de visage par ai. leurs visages ont été modifiés ou leurs vêtements ont été enlevés par ai. des milliers, voire des dizaines de milliers d'images associées.
une photo d'une jeune femme de guangzhou a été « déshabillée » en un seul clic alors qu'elle prenait le métro.
producteur : a falsifié près de 7 000 photos de nus, au prix de 1,5 yuan chacune
en tant que producteurs de contenus pornographiques et obscènes, de nombreux auteurs cachés en ligne ont été sévèrement punis par la loi.
en juillet de cette année, cctv news a rapporté une affaire illégale dans laquelle près de 7 000 images pornographiques avaient été falsifiées à l’aide de la technologie de l’ia. le suspect bai moumou vit à pékin et était à l'origine technicien pour une société internet. il a utilisé la technologie d'ia de « retrait de vêtements en un clic » pour truquer près de 7 000 images obscènes et les a vendues au prix de 1,5 yuan chacune. les photos impliquent un grand nombre de femmes, notamment des étudiantes, des enseignantes et des collègues. l'organe du parquet estime que l'accusé bai moumou a produit et vendu du matériel obscène dans le but de réaliser des profits. les circonstances étaient graves et son comportement a violé les dispositions pertinentes du droit pénal de la république populaire de chine. il devrait être tenu pénalement responsable. le crime de production et de vente de matériel obscène dans un but lucratif.
à pékin, un homme a produit près de 7 000 images obscènes et les a vendues 1,5 yuan pièce.
en avril de l'année dernière, selon le parquet populaire municipal de hangzhou, yu, un homme né dans les années 1980 dans la province d'anhui, a été poursuivi parce qu'il était soupçonné de fabrication et de distribution de matériel obscène dans un but lucratif. yu s'est intéressé à cette technologie dès 2020, lorsque le « changement de visage de l'ia » a tout juste commencé à émerger, et il a également maîtrisé cette technologie grâce à l'auto-apprentissage. plus tard, yu a créé un compte sur une plateforme sociale étrangère et a créé un groupe. si d'autres personnes voulaient rejoindre le « groupe interne », elles devaient payer des « frais d'adhésion » allant de 198 yuans à 498 yuans. vous pouvez voir de nombreuses personnes utiliser l'ia. les vidéos pornographiques produites à l'aide de la technologie d'échange de visages peuvent également être « personnalisées » en utilisant différentes images de célébrités féminines en fonction des besoins des clients. en quelques mois seulement, yu a gagné des dizaines de milliers de yuans.
dans le groupe public créé par yu, les organes de sécurité publique ont examiné plus de 1 200 vidéos pornographiques et plus de 1 600 photos. après identification, il s'agissait toutes de documents pornographiques. en novembre de l'année dernière, le tribunal populaire du district de xiaoshan de la ville de hangzhou a déclaré l'accusé yu coupable de production et de distribution de documents obscènes dans un but lucratif. il a été condamné à sept ans et trois mois de prison et à une amende de 60 000 yuans.
les jeunes et belles femmes sont susceptibles d'être victimes du changement de visage de l'ia, et certaines entreprises proposent même des « services personnalisés ».
enquête : les logiciels sont difficiles à acheter, tieba a été bloqué
selon les médias précédents, en 2023, des logiciels associés dotés de la fonction « enlèvement de vêtements en un clic » seront disponibles sur de nombreuses plates-formes. de nombreux internautes achètent et échangent également en ligne leur expérience sur les logiciels et produits associés.
par exemple, un certain produit est clairement marqué : « ce logiciel peut réaliser la fonction de convertir de vraies personnes en dessins animés, de changer de tête et de changer de vêtements ». ce logiciel se vend à seulement 16,66 yuans, avec des ventes mensuelles atteignant plus de 200 commandes. quelqu'un a demandé dans la zone de commentaires du magasin : « pouvez-vous vraiment enlever vos vêtements ? » beaucoup de gens ont répondu : « oui ».
à cette époque, il y avait plus de 9 000 publications liées au changement de visage par l'ia dans la barre de publication appelée « deepfake », qui contenait un grand nombre d'informations commerciales sur les vidéos de changement de visage de célébrités. un utilisateur nommé « synthetic alliance » vend ouvertement des vidéos pornographiques d'échange de visages dans le groupe. il y a plus de 150 vidéos dans la liste, et il a déclaré que « le prix n'est que de 58 yuans ».
un journaliste en amont a fouillé la barre de publication deepfake et a découvert que la barre de publication avait été bloquée. le journaliste a recherché les mots clés « changement de visage par l'ia » et « retrait de vêtements en un clic » sur plusieurs plateformes de commerce électronique, mais aucun d'entre eux n'a été affiché. dans certains magasins, il existe de nombreux produits logiciels dotés de fonctions telles que « l'effacement intelligent » et « l'expansion intelligente de l'image », mais les propriétaires du magasin ont répondu qu'ils n'avaient pas la fonction « d'enlèvement de vêtements en un clic ». cependant, le journaliste a remarqué qu'un vendeur du zhejiang vendait un logiciel appelé « artefact de changement de vêtements » pour 18,80 yuans, affirmant que « qu'il s'agisse de changer de vêtements ou de repeindre, cela peut être facilement manipulé ».
le journaliste a contacté le vendeur par message privé. concernant la question « puis-je retirer mes vêtements ? », le vendeur s'est montré très méfiant : « ne le dites pas si crûment, nous le surveillons ! » puis il a dit vaguement : « vous pouvez aller à y (vêtements). » après que le journaliste ait payé comme requis, le commerçant a publié voici une adresse de téléchargement du disque réseau et un didacticiel d'utilisation.
le journaliste a suivi les instructions du commerçant et a découvert que l'application pouvait effectivement réaliser la fonction de « retrait des vêtements en un clic ».
sur une certaine plateforme de brocante, il existe encore des commerçants qui vendent secrètement des logiciels dotés de la fonction « déshabillement en un clic ».
déclaration de l’avocat : si les circonstances sont particulièrement graves, la peine maximale est la réclusion à perpétuité
le journaliste a découvert que sur certains forums, il y a encore des internautes qui recherchent secrètement un logiciel gratuit de « retrait de vêtements en un clic ». alors, les commerçants qui éditent ou vendent des logiciels associés sont-ils soupçonnés d’enfreindre la loi, voire de commettre un délit ? si les internautes utilisent des logiciels pour générer et publier des photos et des vidéos pertinentes, est-ce une violation de la loi s'ils sont utilisés uniquement pour les sauvegarder pour le « plaisir » ? à quel genre de punition ferez-vous face si vous le partagez ?
fu jian, un célèbre avocat de la défense pénale et directeur du cabinet d'avocats henan zejin, a déclaré aux journalistes que des activités telles que la prise de photos et de vidéos et la vente de logiciels de « retrait de vêtements en un clic » impliquent une violation de la vie privée et des droits de portrait, sont soupçonnées de être illégal, voire criminel, et peut faire l'objet de sanctions pénales. tout d'abord, les commerçants qui vendent des logiciels connexes sont soupçonnés de produire, vendre et diffuser du matériel obscène. selon les dispositions du droit pénal, ceux qui produisent, copient, publient, vendent ou diffusent du matériel obscène dans le but de réaliser des profits. sera condamné à une peine d'emprisonnement d'au plus trois ans, à la détention ou à la surveillance criminelle et à une amende, si les circonstances sont graves, il sera condamné à une peine d'emprisonnement d'au moins trois ans et d'au plus dix ans ; ans, et sera également condamné à une amende; si les circonstances sont particulièrement graves, il sera condamné à une peine d'emprisonnement d'au moins dix ans ou à la prison à vie, et sera également condamné à une amende ou ses biens seront confisqués.
deuxièmement, le droit au portrait d'une personne physique est protégé par la loi. sans le consentement de la personne physique, le portrait d'une autre personne ne peut être directement utilisé. si les internautes utilisent des logiciels pour générer des photos et des vidéos pertinentes et les sauvegarder pour « plaisir », ils sont également soupçonnés de porter atteinte aux droits de portrait d'autrui. s'il est partagé sur des groupes wechat ou des plateformes sociales après la production, il est soupçonné de porter atteinte aux droits au portrait et aux droits à la réputation d'autrui, et vous devez assumer une certaine responsabilité civile. son comportement est soupçonné de violation de la « loi sur les sanctions en matière de gestion de la sécurité publique » et, dans les cas graves, il peut être soupçonné de diffusion de documents obscènes. en fonction de la gravité des circonstances, vous risquez des sanctions telles qu'une peine d'emprisonnement à durée déterminée, une détention pénale et des amendes.
en réponse à des phénomènes tels que le changement de visage et le retrait des vêtements par l'ia, li liang, professeur à la faculté de droit de l'université minzu de chine, a déclaré qu'il était tout d'abord nécessaire de diviser clairement les sujets contrevenants aux applications illégales de l'intelligence artificielle. deuxièmement, il faut construire un mécanisme de partage des responsabilités (conséquences) des applications illégales de l'intelligence artificielle ; troisièmement, la législation scientifique doit être mise en œuvre sur la base d'une prise en compte globale des principes juridiques et des intérêts sociaux, établir et améliorer le système juridique lié à l'intelligence artificielle ; applications, promouvoir la recherche technologique et le développement scientifique et renforcer les mécanismes de surveillance et de réglementation.
le journaliste en amont jin xin a partiellement synthétisé les informations de cctv news, cctv, beijing news, people's daily, etc.
