nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

lee yeonjee, 39 ans, est le fondateur et pdg d'une organisation d'assistance publique en corée du sud. elle lutte contre le « deepfake crime » qui se propage à travers le pays.

certains analystes ont souligné que le « faux crime » consistant à synthétiser des visages de femmes dans des vidéos indécentes et à les diffuser largement a provoqué la « panique » des femmes coréennes. des incidents similaires feront perdre aux femmes leur sentiment de sécurité dans la vie quotidienne.

en mai de cette année, un diplômé de l'université nationale de séoul a été soupçonné d'avoir utilisé la technologie deepfake pour changer de visage afin de synthétiser des photos et des vidéos pornographiques. il a créé près de 200 forums de discussion en ligne sur le réseau social « telegram » et a participé à la production et à la diffusion d'environ 200 sites. 1 700 photos et vidéos illégales.

trois mois plus tard, un autre faux crime s'est produit à l'université d'inha en corée du sud. plus de 1 200 participants ont synthétisé de fausses images pornographiques sur telegram et ont utilisé le contenu pour faire chanter et humilier les femmes. fin août, les médias sud-coréens ont rapporté qu'un grand nombre de groupes de discussion liés aux écoles à travers le pays étaient apparus sur telegram. les utilisateurs téléchargeaient des photos de femmes qu'ils connaissaient, et d'autres utilisateurs convertiraient ces photos en contenu pornographique deepfake. "salle de la honte" pour une victime spécifique.

l'enquête préliminaire montre que 80 % des victimes sont des femmes et que les activités criminelles se sont répandues parmi les mineurs, notamment les collégiens et lycéens, les étudiants, les enseignants et les infirmières. même les femmes soldats sont des victimes.

une telle nouvelle a eu un grand impact sur li juanzhi. elle a vu quelqu'un publier sur la plateforme de médias sociaux x pour enquêter sur la « salle de la honte » et chercher quelqu'un pour l'aider à exposer la situation interne. li juanzhi a fait semblant d'être un utilisateur masculin, s'y est faufilé et a collecté des informations. elle a constaté que la propagation de la pornographie deepfake illégale était répandue même dans les salles gratuites.

li juanzhi a collecté les vidéos et les captures d'écran collectées pour ses collègues qui ont travaillé ensemble, et les a remises aux enquêteurs. de manière quelque peu réconfortante, li juanzhi a appris que les documents qu'ils avaient soumis aidaient à identifier les personnes impliquées dans certains cas.

le contenu de la « salle d'humiliation » a mis li juanzhi très mal à l'aise, et elle était même si malade qu'elle ne pouvait pas dormir à un moment donné, mais elle a continué à agir. d’un côté, il y a des pétitions en ligne appelant à des normes disciplinaires plus strictes, de l’autre, des manifestations dans les rues. "le gouvernement doit adopter une position ferme pour lutter contre la criminalité et mettre en œuvre des lois punitives de 'tolérance zéro'", a déclaré li juanzhi.

manifestations en ligne et hors ligne

le 6 septembre à 19 heures, la nuit est tombée à séoul et il pleuvait légèrement li juanzhi est arrivé près de bosingak à jongno-gu à l'heure convenue. après un certain temps, la protestation a officiellement commencé, les représentants des groupes et les individus prenant les devants pour lire leurs déclarations respectives. ensuite, un groupe de cinq à six cents d'entre eux sont descendus dans la rue en brandissant des slogans blancs sur fond noir.

parmi ceux qui ont participé à la manifestation ce soir-là figuraient des enseignants actuels, des organisations d'éducation sexuelle, des groupes de femmes et des étudiants. ils ont scandé « vivons une vie sans peur ni anxiété », « réglementons les plateformes qui promeuvent de faux crimes sexuels » et « nous le ferons. renverser les deepfakes misogynes » et d’autres slogans.

la manifestation a duré environ deux heures. li juanzhi a déclaré qu'elle et ses compagnons prévoyaient également d'organiser une deuxième manifestation à la station de métro hyehwa le 21 septembre. divers endroits ont commencé à les contacter pour louer des bus qui transporteront les manifestants de tout le pays à séoul.

les manifestations de rue hors ligne ont fait écho aux voix des femmes coréennes en ligne sur les réseaux sociaux. depuis que les informations faisant état de faux crimes sexuels ont attiré l'attention du public en corée du sud, de nombreuses femmes coréennes se sont activement exprimées sur les réseaux sociaux, craignant que l'incident ne soit révélé à la légère, utilisant les « crimes sexuels numériques à l'école » pour « faire connaître les faux rapports sexuels ». les hashtags tels que « protéger les femmes » ont fait la promotion de « faux crimes sexuels » pour attirer l'attention du monde entier, et de nombreuses femmes coréennes ont envoyé des messages d'aide via l'internet chinois.

"jusqu'à présent, cette campagne de 'protestation par hashtag' a donné de bons résultats. le 1er septembre, les tags incluant 'délinquants sexuels publics deepfake' ont explosé sur la plateforme de médias sociaux x, avec un total de 60. avec plus de 10 000 publications, elle se classe au deuxième rang. tendances mondiales en temps réel et occupe également le top deux des tendances coréennes en temps réel », a déclaré li juanzhi.

en plus des liens en ligne et hors ligne pour créer une dynamique, li juanzhi a également commencé à enquêter et à étudier le projet de loi punissant les crimes de contrefaçon profonde. parmi eux, les mots « à des fins de diffusion » ont particulièrement retenu son attention. un article d'analyse estime que l'une des raisons pour lesquelles il est difficile de punir ces criminels du deepfake est qu'il est difficile de prouver qu'ils ont l'intention de se propager.

rappelant le précédent incident de la « salle n » en corée du sud, à l'exception de quelques criminels clés, la plupart des gens n'ont pas été punis. li juanzhi s'est rendu compte que ce sont les failles du système juridique existant qui ont rendu possibles les crimes de deepfake à grande échelle.

lors de l'infiltration de li juanzhi dans la soi-disant « salle d'humiliation », elle a découvert que même si chaque salle de groupe était légèrement différente, les participants devaient généralement fournir 10 photos d'une femme pour entrer dans le groupe ou composer une photo, ce qui était considéré comme un deepfake. nouvelles cibles de victimes fournies. certaines salles de groupe seront synthétisées une fois gratuitement, puis les participants devront fournir des « mots de passe » ou inviter de nouveaux hommes dans la salle pour continuer à utiliser le service. il y a aussi des avis affichés dans les salles de groupe comme « 300 photos d'enseignantes obligatoires » et « réduction pour les lycéens ».

les « shame rooms » cherchent également des moyens d'identifier le sexe de leurs participants. certaines salles de groupe exigeront que les personnes souhaitant rejoindre le groupe déposent 1 won coréen sur un certain compte bancaire et utilisent le nom du dépôt du compte bancaire pour confirmer si le nouveau membre est un homme.

certains participants seront facturés pour synthétiser des images ou des vidéos deepfakes, d'autres gagneront de l'argent en vendant du contenu deepfake, et telegram lui-même générera des revenus publicitaires dans les salles comptant plus d'utilisateurs. "ils partagent les bénéfices tout comme les organisations criminelles." li juanzhi a déclaré qu'il s'agissait d'organisations axées sur le profit et qu'il n'y avait pas de concept de "public passif".

de là, elle a eu l’idée d’adresser une pétition au congrès. li juanzhi a exigé que tous les participants à ces salles de groupe soient considérés comme membres d'organisations criminelles et soient punis. étant donné que la loi sud-coréenne autorise uniquement les enquêtes secrètes sur les affaires impliquant des enfants et des adolescents, elle espère également que le système de pétition pourra être amélioré pour permettre des enquêtes secrètes sur les crimes sexuels impliquant des adultes.

une « contrefaçon profonde facile » propulsée par l’intelligence artificielle

l’application de messagerie telegram est au centre du scandale des deepfakes.

il s'agit d'une application de messagerie cryptée où les utilisateurs sont généralement anonymes, les salles peuvent être réglées en mode « privé » et le contenu est rapidement supprimé sans laisser de trace. la conception originale de "telegram" était de protéger la confidentialité des paroles des utilisateurs, mais il s'est avéré être un lieu majeur d'activités criminelles généralisées.

la technologie utilisée pour créer du contenu deepfake n’est pas non plus difficile à trouver. siwei lyu, professeur au département d'informatique et d'ingénierie de l'université d'état de new york à buffalo, a expliqué au journaliste du beijing news que le mot « deepfake » lui-même est un mélange d'apprentissage profond et de faux médias, faisant référence au multimédia. du texte, y compris du texte, de l'audio, des images et des vidéos, créé à l'aide de modèles d'intelligence artificielle générative qui s'appuient sur des modèles de réseaux neuronaux profonds. les systèmes d’ia générative peuvent être entraînés sur de grandes quantités de données non étiquetées, et ces modèles sont suffisamment puissants pour générer un contenu convaincant. le seuil technique est donc considérablement abaissé.

"grâce à la technologie de l'intelligence artificielle, les contenus audiovisuels deepfakes peuvent être produits facilement, rapidement et à moindre coût, et ils auraient pu être utilisés dans des domaines plus bénéfiques tels que le cinéma, l'industrie de la vente au détail, etc.". le professeur agrégé bart van der sloot a déclaré que malheureusement, l'application la plus courante de la technologie deepfake est la pornographie, "surtout lorsque les jeunes filles deviennent des victimes, ce qui peut avoir des conséquences désastreuses".

un rapport de 2019 sur l’utilisation des deepfakes a révélé que 96 % des deepfakes en ligne étaient liés à la pornographie, et ce nombre continue d’augmenter.

du point de vue actuel, il existe de nombreux obstacles à la lutte contre la contrefaçon profonde. slote a découvert que lorsque du contenu pornographique deepfake est généré, la victime ne le sait souvent pas et que le contenu n'est découvert et traité par le monde extérieur qu'après sa diffusion sur internet. avec autant de deepfake porn en ligne, il est difficile pour les forces de l’ordre d’évaluer si le contenu a été consenti par la personne impliquée, s’il s’agissait d’une personne réelle ou d’une personne générée par l’ia. même si l'auteur du crime est retrouvé, la victime identifiée et le matériel retiré, le mal est souvent fait et il est trop tard.

li juanzhi estime que le suivi post-événement ne fait que « remettre les choses en ordre » et que la supervision au niveau de la plateforme devrait être renforcée depuis la source : « si les criminels se cachent dans une plateforme anonyme, alors cette plateforme deviendra un foyer de criminalité.

concernant les mesures spécifiques, lu siwei estime qu'à court terme, une série de politiques et de réglementations devraient être introduites pour interdire ou restreindre les contenus profondément faux destinés à avoir des effets néfastes. la solution à long terme réside dans la technologie elle-même, qui nécessite un développement ultérieur des technologies permettant de détecter, supprimer ou suivre automatiquement les deepfakes.

après que les crimes de deepfaking aient déclenché des discussions dans la société sud-coréenne, le 2 septembre, heure locale, woo jong-soo, directeur du quartier général des enquêtes nationales de la police nationale coréenne, a déclaré lors d'une conférence de presse régulière que la police avait commencé à enquêter sur les réseaux sociaux. soupçons d'avoir "contribué à des crimes de deepfaking". la plateforme "telegram" mène une enquête préliminaire. telegram lui-même s'est engagé à lutter de manière agressive contre les contenus préjudiciables sur sa plateforme.

la misogynie non résolue

en plus de cet incident, le monde extérieur a commencé à se demander pourquoi la corée du sud est devenue la région la plus durement touchée par la contrefaçon.

un rapport mondial sur les deepfakes publié en 2023 par « security hero », une startup américaine spécialisée dans la protection contre l'usurpation d'identité, montre que la corée du sud est la principale cible des contenus pornographiques deepfakes, et que les chanteurs et actrices coréens sont responsables des personnages de ces œuvres deepfakes 53. %.

les délits de deepfake en corée du sud sont également de plus en plus répandus, avec 156 cas en 2021, 160 cas en 2022 et 180 cas l'année dernière. de janvier à juillet de cette année, il y a eu 297 affaires de crimes sexuels impliquant de la contrefaçon.

les observateurs estiment que le scandale apparemment soudain des deepfakes se cache peut-être sous la surface, reflétant des problèmes de sexisme de longue date.

parmi les pays de l’ocde, les femmes sud-coréennes ont le niveau d’éducation le plus élevé, mais le taux de participation au marché du travail le plus faible. l’écart salarial entre hommes et femmes en corée du sud se classe au premier rang parmi les 35 membres de l’ocde, avec un écart de 31,2 %.

pour des raisons telles que "juste pour le plaisir" et "utiliser des photos de connaissances pour être plus réalistes", les deepfakes sont devenus aussi répandus que les jeux de divertissement. certains analystes affirment qu'il s'agit de faux crimes sexuels ou de femmes coréennes filmées secrètement par de minuscules caméras cachées dans les toilettes ou les vestiaires, ce sont les dernières formes de « misogynie » apparues avec le développement de la technologie.

cela coïncide également avec l'observation de li juanzhi.

son attention initiale sur les questions féminines n’était pas le crime des deepfakes, mais le thème de l’égalité des sexes dans le domaine de la conduite automobile.

li juanzhi a découvert que les femmes coréennes sont souvent victimes de discrimination lorsqu'elles apprennent à conduire. par exemple, lorsque les femmes souhaitent obtenir un permis de conduire de catégorie 1 (ndlr : un permis avancé permettant de conduire une grosse voiture), elles sont persuadées de passer à un permis de catégorie 2. même si elles réussissent à obtenir un permis de conduire, il n'est pas facile pour les femmes d'obtenir des informations sur la gestion des accidents de la route, l'assurance automobile, la réparation automobile, etc. les conductrices ont souvent peur de conduire en raison du manque d'informations, et les femmes ayant de faibles compétences en conduite sont également appelées avec mépris « mme gold ».

avec l'aide du ministère sud-coréen de l'égalité des genres et des affaires familiales, li juanzhi a créé en 2020 un projet de conduite féminine appelé « unniecar », qui propose des conférences et des livres et vise à aider les femmes qui débutent dans la conduite automobile sans « prêcher les hommes ». obtenez des informations sûres et précises. ces dernières années, l'attention portée par li juanzhi aux questions sociales des femmes s'est également élargie, en mettant l'accent sur la protection des droits des femmes.

li juanzhi estime que cela va de la discrimination à des crimes profondément falsifiés. la « misogynie » qui existe dans la société coréenne n’a pas été résolue efficacement. de plus, la « misogynie » a également été exploitée par la politique, alimentant davantage le ressentiment des groupes masculins et devenant un moyen pour les politiciens de solliciter des votes. « aujourd’hui, il y a un grand nombre de jeunes hommes entre adolescents et dans la vingtaine qui objectisent. et aliéner les femmes, plutôt que d'établir une relation égale et naturelle entre les sexes, c'est l'environnement qui a permis l'apparition des crimes de « nth room » et de deepfakes. »

après la révélation du scandale des deepfakes, 84 organisations coréennes de défense des droits des femmes ont signé une déclaration soulignant que la discrimination est au cœur du problème. « la cause profonde de ce phénomène est la discrimination structurelle entre les sexes, et la solution est d'atteindre l'égalité des sexes. »

face à un flot incessant de cas et d'appels de groupes sociaux, le président sud-coréen yoon seok-yue a répondu en déclarant que s'appuyer sur l'anonymat pour utiliser de manière malveillante une technologie de contrefaçon profonde est un crime, et il espère que les départements concernés mèneront une enquête approfondie pour éradiquer complètement. ce crime technologique numérique.

le gouvernement sud-coréen envisage également de renforcer les sanctions pour les délits de deepfake. kim sang-hoon, président du comité politique du parti du pouvoir national au pouvoir en corée du sud, a déclaré que le parti du pouvoir national et le gouvernement sud-coréen envisageaient de faire avancer une législation visant à augmenter de cinq à sept ans la peine maximale pour des crimes tels que la diffusion de fausses vidéos. années.

cependant, li juanzhi a encore des doutes quant à l'engagement du gouvernement sud-coréen et s'inquiète de la mise en œuvre de ces actions.

ce doute n’est pas sans fondement. lors de la campagne présidentielle de 2022, yin xiyue a toujours nié l’existence d’une discrimination structurelle entre les sexes en corée du sud, imputé au féminisme le faible taux de natalité et affirmé que les fausses signalements d’agressions sexuelles seraient punis plus sévèrement. après l'arrivée au pouvoir de yoon seok-yue, le gouvernement sud-coréen a également fait pression pour supprimer le mot « égalité des sexes » des manuels scolaires et annulé le financement des programmes visant à lutter contre la discrimination sexuelle quotidienne.

"pendant longtemps, je n'ai pas vu le gouvernement introduire des politiques pour résoudre la discrimination sexuelle. au contraire, elles sapent les progrès réalisés en matière d'égalité des sexes. li juanzhi a déclaré que le taux de natalité de la corée du sud était tombé à l'un des niveaux les plus bas." dans le monde. si la « misogynie » n'est pas sérieusement combattue, « les crimes sexuels continueront d'augmenter. si les crimes sexuels ne sont pas sévèrement punis, les criminels utiliseront les nouvelles technologies pour commettre des crimes plus complexes à l'avenir, et la société coréenne ne sera pas prête. à ce moment-là."

slote a déclaré que pour lutter fondamentalement contre le crime de contrefaçon profonde, l'établissement de liens entre tous les liens pourrait être indispensable. le gouvernement doit donner la priorité aux efforts de réponse, avoir des normes de sanction claires, définir des cas de référence et, si nécessaire, mettre en place une équipe dédiée pour lutter contre les délits de deepfake. les écoles et les lieux de travail doivent également sensibiliser la population à la pornographie en ligne non consensuelle. les fournisseurs de services internet sont tenus de surveiller leurs plateformes pour empêcher la propagation de toute pornographie deepfake et d'avertir les utilisateurs qu'une fois que la pornographie deepfake se propage via leurs plateformes de services, elle sera définitivement supprimée.

le 7 septembre, li juanzhi a déclaré à un journaliste du beijing news que sa pétition auprès du congrès avait reçu le consentement des 50 000 personnes requises et que les départements concernés du gouvernement sud-coréen étaient obligés de répondre à la pétition.

la balle a été renvoyée du côté du gouvernement sud-coréen. "j'attends avec impatience leurs prochaines actions", a déclaré li juanzhi.

luan ruoxi, journaliste de pékin news

le rédacteur hu jie et le correcteur zhang yanjun