nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Mise au point fixe (dingjiaoone) originale

Auteur | Wang Lu

Editeur | Wei Jia

Voir c'est croire, le changement de visage de l'IA a trompé de nombreuses personnes.

Il y a deux jours, la police du Hubei a découvert un cas d'utilisation d'une technologie de changement de visage par l'IA pour déverrouiller des comptes sociaux et les revendre à des fins lucratives. Les criminels utilisent l'IA pour aider les gens à débloquer des comptes de rencontres gelés par la plateforme. Ils facturent entre 15 et 30 yuans pour chaque compte déverrouillé. Le gang a dégelé 2 107 comptes au total et a réalisé un bénéfice de 400 000 yuans.

Les données montrent que la fraude par falsification profonde basée sur l'IA augmentera de 3 000 % en 2023. Le deep fake, également connu sous le nom de deepfake, est une combinaison d'apprentissage et de faux. Il fait principalement référence à l'utilisation de la technologie d'apprentissage profond de l'IA pour synthétiser l'image ou l'image d'une personne. vidéo ou même du son, le plus courant est le changement de visage par l'IA. Le ministère de l’Industrie et des Technologies de l’information a récemment déclaré qu’il lancerait une fonction de rappel des risques de fraude par l’IA qui changerait le visage.

D’une part, les cas de fraude qui changent le visage de l’IA se produisent fréquemment, et d’autre part, la technologie qui change le visage de l’IA continue d’itérer.

Le cercle de l'IA a récemment été en effervescence avec un projet qui change le visage de l'IA : Deep-Live-Cam. Les utilisateurs n'ont qu'à télécharger une photo pour changer de visage en temps réel en celui qu'ils veulent être, comme Zuckerberg ou Dong Yuhui.

Ce projet est gratuit et ouvert à tous les utilisateurs, publié sur GitHub (plateforme d'hébergement de code) et prend en charge l'installation sur ordinateur personnel. Le développeur du projet a annoncé la méthode d'installation, et les personnes ordinaires sans expérience technique peuvent l'apprendre et l'installer en même temps.

En raison de son fonctionnement simple et pratique et de son haut degré de réalisme dans le changement de visage, Deep-Live-Cam s'est classée première sur la liste chaude de GitHub, récoltant plus de 1 600 étoiles en 24 heures (les étoiles représentent les projets appréciés et les indicateurs suivants, quelques milliers d'étoiles). est plutôt bon) niveau). De nombreux internautes ont changé de visage en Musk et ont ressenti le sentiment d'être un milliardaire mondial.

Mais si tout le monde déplore la percée technologique de l’IA qui change la donne, ils s’inquiètent également du fait que « la fraude est devenue plus facile ». Devons-nous boycotter le changement de visage de l’IA ?

L'IA qui change le visage et que les gens ordinaires peuvent utiliser,

Le coût est aussi bas qu'une douzaine de yuans

À l'heure actuelle, il existe de nombreux outils d'IA qui changent le visage dans le pays et à l'étranger. La principale raison pour laquelle Deep-Live-Cam est très discutée est que :Les utilisateurs n'ont qu'à télécharger une image, mais l'effet de remplacement est très réaliste et prend également en charge le remplacement du visage en temps réel.

En fait, le seuil technique pour la fonction « changement de visage en temps réel » n’est pas élevé.

Xiao Zihao, co-fondateur de Ruilai Intelligence et chercheur en algorithmes, a déclaré qu'il existe deux façons d'obtenir l'effet de changement de visage d'une vidéo en temps réel : l'une consiste à lire une vidéo de changement de visage prédéfinie et l'autre consiste à accéder la vidéo qui change de visage en temps réel. Deep-Live-Cam appartient à ce dernier.

Quel que soit le type, les vidéos de changement de visage de l'IA doivent prendre en compte la continuité des images précédentes et suivantes, et le traitement basé sur des vidéos de visage continues peut apporter des ajustements mineurs en fonction de nombreuses ressources de détection de l'image précédente. la vidéo continue basée sur des images/le changement de visage en direct est plus efficace que le changement de visage dans des images individuelles », a déclaré un chercheur engagé dans la technologie de l'IA.

La technologie sous-jacente sur laquelle repose le changement de visage de l'IA est Deepfake. Les praticiens pensent que Deep-Live-Cam utilise également cette technologie, de sorte que le coût ne sera pas très élevé en fonction uniquement des matériaux et de la puissance de calcul requis pour produire la synthèse.

Xiao Zihao a déclaré que si les autres coûts d'achat de matériel ne sont pas pris en compte, le coût de la plupart des remplacements de visages IA n'est que d'environ une douzaine de yuans à la fois, comprenant principalement les photos et la puissance de calcul, et Deep-Live-Cam pourrait être encore plus bas. Comparé à d'autres outils de changement de visage d'IA, Deep-Live-Cam utilise moins de photos. L'outil prend également en charge les ordinateurs ordinaires, et le coût des photos et de la puissance de calcul est inférieur.

En revanche, Deep-Live-CamSoutenir le changement de visage avec une seule image a encore plus choqué les pratiquants.Parce que les précédents produits d’IA qui changeaient le visage exigeaient que les utilisateurs fournissent au moins une douzaine de photos sous différents angles.

La réduction de la difficulté des photos permet aux utilisateurs de s'amuser. Xiao C, adepte de l'IA, a déclaré qu'il n'avait jamais été en contact avec un outil de changement de visage d'IA auparavant. Il estime que le seuil de fonctionnement de Deep-Live-Cam n'est pas élevé et peut être complété en suivant les instructions de l'éditeur. Il n'est pas non plus très difficile de trouver des matériaux qui changent de visage.

Il a changé son visage en célébrités telles que Guo Degang, Wu Jing, Lei Jiayin, etc., et n'a utilisé qu'une seule photo de chacune d'elles. Il a dit que tant que vous fournissez une photo du visage avant, du front dégagé, de la lumière naturelle, proche de votre propre couleur de peau et des proportions indiquées sur la photo d'identité, une photo sera réussie et l'effet de remplacement du visage sera très naturel.

Plus d'un praticien estime que la technologie de changement de visage de l'IA utilisée dans certaines séries cinématographiques et télévisées a non seulement un seuil élevé et un coût élevé, mais que l'effet de changement de visage n'est pas assez naturel, et que des déformations et des distorsions se produisent souvent pendant le processus de parole. « Est-ce le plus gros problème des outils de changement de visage de l’IA ?Deep-Live-Cam peut prendre en charge l'effet d'une image lors de la diffusion en direct. Il n'y a pas de traces évidentes de mappage sur les bords du visage et la couleur de la peau n'est pas très différente du personnage original. La fidélité est en avance sur beaucoup. Des outils d’IA qui changent le visage.," Xiao Zihao a analysé que ses développeurs auraient dû réaliser une percée dans le modèle de rendu d'image que les précédents outils de changement de visage d'IA n'avaient pas.

Cependant, il existe encore quelques bugs dans Deep-Live-Cam, tels que la prise en charge du changement de visage mais pas du changement de voix. Cependant, Xiao Zihao a déclaré qu'il n'est pas difficile d'y parvenir, il suffit de se connecter à l'outil de changement de voix en temps réel, et toute personne ayant un peu de base en programmation peut le compléter.

L'IA qui change de visage,

Fraude et contrefaçon qui ne peuvent être évitées

Des outils tels que Deep-Live-Cam ont abaissé le seuil pour les utilisateurs, mais tout le monde a également commencé à craindre que les criminels puissent utiliser uniquement une image pour changer de visage et frauder. Pour les gens ordinaires, le risque augmentera considérablement.

Ruilai Smart Data a souligné que le montant impliqué dans les cas nationaux de fraude à l'IA est passé de 0,2 million en 2020 à 16,7 millions en 2023, avec un taux de croissance annuel composé pouvant atteindre 1 928,8 %. Au premier semestre 2024, les cas de fraude à l’IA ont dépassé 185 millions. Le « Rapport sur la sécurité de l'intelligence artificielle 2024 » publié par Qi'anxin montre que la fraude par contrefaçon profonde basée sur l'IA a augmenté de 3 000 % en 2023.

Le changement de voix par l'IA, le changement de visage par l'IA et la génération d'IA sont trois méthodes couramment utilisées pour la fraude par l'IA. Parmi elles, le contenu généré par l'IA a des secondes limitées et des défauts évidents dans la qualité de l'image et des caractères. -Le changement est la méthode la plus couramment utilisée par les criminels. La plupart des gens croient que « voir, c'est croire », ce qui rend le changement de visage par l'IA plus trompeur que le changement de voix par l'IA.

Le changement de visage de l'IA a non seulement trompé les personnes âgées, mais de nombreux jeunes travaillant dans le domaine technologique ont également perdu des millions du jour au lendemain.

Selon les médias publics, l'année dernière, le PDG d'une entreprise technologique a reçu une demande de transfert d'un ami et a été escroqué de 4,3 millions de yuans en moins de 10 minutes. L'escroc a principalement utilisé la technologie de changement de visage de l'IA. Il y avait également un employé d'une entreprise multinationale de Hong Kong qui a été trompé lors d'une vidéoconférence avec des cadres supérieurs conçue par des criminels et a transféré 200 millions de dollars de Hong Kong sur le compte de l'autre partie.

Les praticiens s’accordent à dire que le changement de visage de l’IA a atteint le point où « elle peut être confondue avec la réalité ».

Li Xu, chef de l'équipe anti-fraude, a déclaré que son intérêt pour la technologie de l'IA qui change le visage découle de divers cas de fraude. Il a déclaré que des cas de fraude par changement de visage par l'IA se sont produits fréquemment au cours des deux dernières années et qu'il existe environ trois méthodes de fraude par changement de visage très matures sur le marché.

La première consiste à utiliser l’IA pour changer de visage et à simuler des vidéos pornographiques pour faire chanter la victime.

Par exemple, les gangs criminels collecteront des photos et des informations vidéo sur les victimes à partir de divers canaux tels qu'Internet, puis effectueront des processus de synthèse tels que le retrait des vêtements en un clic et le changement de visage par l'IA, et enverront de fausses vidéos indécentes ou des photos nues aux victimes. pour extorsion.

Le deuxième type consiste à utiliser l’IA pour changer de visage et prétendre être une connaissance pour commettre une fraude.

Par exemple, les gangs frauduleux utiliseront certains outils de changement de visage disponibles sur le marché pour se faire passer pour les parents, amis, collègues, dirigeants, etc. de la victime, inventer d'abord une raison d'urgence et profiter de l'urgence de la cible trompée pour commettre une fraude. Il est facile de baisser la garde et de transférer de l’argent.

Grâce à Deep-Live-Cam, il vous suffit de collecter une ou deux photos de la victime pour créer une fausse vidéo profonde. Li Xu estime que l'ampleur de la fraude par l'IA qui change le visage dépasse la conscience de la plupart des gens ordinaires, et cela. a également directement changé le scénario de la fraude dans les télécommunications, contre laquelle il est difficile de se prémunir et qui s'aggrave.

Troisièmement, le changement de visage par l'IA est utilisé pour prétendre être une célébrité afin de réaliser des émissions en direct et de tromper les utilisateurs pour qu'ils passent des commandes.

Par exemple, le présentateur utilise le « changement de visage AI » pour « changer » le visage d'une célébrité dans la salle de diffusion en direct, augmentant ainsi le trafic vidéo en direct et aidant la diffusion en direct à vendre des produits.

En outre, les problèmes d'infraction tels que la création de vidéos longues et courtes de célébrités/personnes ordinaires grâce au changement de visage par l'IA et la création d'émoticônes sans la permission d'autrui sont également très courants.

Les cas de fraude qui changent la face de l’IA se produisent fréquemment et selon diverses méthodes, ce qui est étroitement lié à la maturité et à l’étendue de cette technologie.

Le PDG de Hanhao Technology, Wu Jieqian, a déclaré à "Dingjian" :« À l'heure actuelle, la génération de vidéos IA, les technologies humaines numériques et les technologies de changement de visage de l'IA sont toutes matures, et le changement de visage de l'IA est le domaine développé le plus tôt. »

L’émergence de la technologie Deepfake en 2014 a marqué la naissance du changement de visage par l’IA, mais elle s’est répandue à petite échelle. Ce n’est qu’en 2017, lorsque certains utilisateurs ont utilisé cette technologie pour publier de fausses images pornographiques, que le changement de visage par l’IA est apparu. Mais en même temps, cette technologie est controversée en raison de la grande quantité de faux contenus qu’elle génère.

Plus d'un praticien a déclaré que ces dernières années, bien que les débats publics sur le changement de visage par l'IA se soient principalement concentrés sur la sauvegarde de films et de séries télévisées, en raison d'une mauvaise supervision, l'utilisation du changement de visage par l'IA à des fins frauduleuses n'a jamais cessé. De plus, la technologie qui change le visage de l'IA se multiplie et il y a actuellement de nombreux entrants, outre certains grands fabricants impliqués dans ce secteur, de nombreux acteurs du numérique nationaux et des startups vidéo générées par l'IA ont développé une activité qui change le visage de l'IA. la technologie est relativement populaire. Il existe de plus en plus d’outils de ce type.

La technologie est mature et populaire, et la supervision est également difficile. En conséquence, la technologie révolutionnaire de l'IA a été utilisée à mauvais escient au fil des ans.

Comment identifier des échanges de visages IA de plus en plus réalistes ?

Au cours des deux dernières années, le changement de visage de l'IA a conduit à de nombreux actes illégaux et criminels. Le caractère incontrôlable donne à certaines personnes le sentiment que la technologie de changement de visage de l'IA devrait être boycottée.

Cependant, de nombreux praticiens estiment que la technologie elle-même est neutre et que son impact, bon ou mauvais, dépend principalement de l’utilisateur. L’émergence et l’itération de technologies révolutionnaires en matière d’IA ne doivent pas être stoppées.

Jesse Wu a déclaré qu'à l'heure actuelle, il n'existe pas d'approche unique pour faire évoluer la technologie de l'IA dans le pays et à l'étranger, et qu'il s'agit davantage d'une question de gestion législative.

Par exemple, les États-Unis ont introduit une législation spéciale sur la contrefaçon profonde, l’Union européenne a intégré la contrefaçon profonde dans les cadres juridiques et réglementations existants tels que le Règlement général sur la protection des données, et des pays comme l’Allemagne, Singapour et le Royaume-Uni ont également intégré la contrefaçon profonde. les crimes liés à la contrefaçon en profondeur dans leurs systèmes de droit pénal. La Chine a également clarifié les spécifications de cette technologie dans le « Règlement sur la synthèse approfondie des services d'information sur Internet ».

De nombreux praticiens estiment qu'il est indispensable d'étiqueter le contenu créé par l'IA et d'autres méthodes de gestion, ainsi que d'enseigner au public certaines méthodes pour prévenir la fraude liée à l'IA.

Par exemple, certains techniciens ont proposé un jour que lors d'un appel vidéo, on puisse demander à l'autre partie de mettre ses doigts sur le visage et d'observer attentivement si le visage est déformé, ou de demander à l'autre partie d'ouvrir la bouche pour voir si les dents et La langue est claire et complète, afin de déterminer si l'image est une personne réelle ou une synthèse d'IA.

Cette méthode était relativement efficace l’année dernière, mais cette année, avec la mise à niveau de la technologie de changement de visage de l’IA, elle a échoué.

Xiao Zihao a déclaré que la technologie actuelle de changement de visage de l'IA peut réaliserLes visages et les mouvements ne se déforment pas lorsque des obstacles apparaissent et la qualité de l'image est très nette.Li Xu a également découvert,Des cas récents de fraude par IA ont fait appel à des moyens techniques très puissants et sont presque impossibles à identifier simplement par les mouvements.

Compte tenu du développement rapide de la technologie de l'IA qui change le visage, Li Xu estime qu'une vigilance accrue est actuellement une méthode relativement efficace. Par exemple, lorsque vous recevez un appel vidéo d'une connaissance pour emprunter de l'argent, vous pouvez poser à l'autre partie des questions privées que seule l'autre partie connaît et demander à davantage de personnes autour de vous pour vérification.

Certains praticiens estiment que l’utilisation de l’IA pour identifier l’IA peut être un bon moyen.

Par exemple, vérifiez d'abord s'il y a des éléments dans l'image qui vont manifestement à l'encontre du bon sens, en vous concentrant sur s'il y a des défauts sur les bords du visage, puis utilisez certains outils d'IA. Xiao Zihao estime que l'utilisation de l'IA pour détecter l'IA peut identifier la grande majorité des escroqueries. Actuellement, de nombreuses entreprises et ministères les ont approchés pour coopérer avec les systèmes de défense qui changent le visage de l'IA.

Mais cette décision a également suscité une certaine controverse dans le pays et à l’étranger.

Tout d’abord, cette méthode a un certain seuil d’utilisation et les utilisateurs doivent télécharger les applications pertinentes sur leurs téléphones mobiles/ordinateurs. Deuxièmement, il existe essentiellement un certain retard dans ce type d'outils de défense, qui répondent principalement aux outils actuels de changement de visage de l'IA. Cependant, la technologie et les méthodes de synthèse de changement de visage de l'IA changent constamment.

De nombreuses personnes placent leurs espoirs dans l'amélioration des lois et réglementations pertinentes, telles que l'augmentation des sanctions pour les activités illégales telles que la fraude par l'IA, la vente de vidéos pornographiques par l'IA et la vente de produits par des célébrités qui changent le visage.

L'année dernière, le tribunal populaire du district de Xiaoshan, à Hangzhou, a statué sur une affaire d'utilisation du changement de visage par l'IA pour produire des vidéos obscènes. L'accusé a fourni des services personnalisés de changement de visage par l'IA, a produit un grand nombre de vidéos obscènes grâce au changement de visage par l'IA, et. a également utilisé des méthodes de changement de visage par l'IA pour inciter les téléspectateurs à payer, le montant total impliqué dans l'affaire était de plus de 60 000 yuans, et il a finalement été condamné à sept ans et trois mois de prison et à une amende de 60 000 yuans.

Cependant, je voudrais rappeler à tous queTous les changements de visage IA ne porteront pas atteinte aux droits de portrait.

En juin de cette année, le tribunal Internet de Pékin a prononcé deux affaires d'infraction à changement de visage. Deux modèles de courtes vidéos de style chinois ont découvert que leurs vidéos apparaissaient dans une application à changement de visage sur les plateformes sociales, ils ont donc poursuivi la société technologique derrière l'APP. Le tribunal a jugé que cela avait porté atteinte à son droit au portrait et à ses droits personnels.

La décision du tribunal a été que le défendeur avait utilisé une vidéo dans laquelle apparaissait le plaignant, mais comme le visage du plaignant dans la vidéo concernée avait été remplacé, cela ne portait pas atteinte aux droits de portrait du plaignant. Il a donc seulement considéré que cette décision constituait une violation. violation des droits à l'information personnelle du demandeur.

À l’heure actuelle, la technologie de changement de visage de l’IA est toujours en cours de mise à niveau et n’a pas encore été interdite. Les outils de changement de visage de l’IA circulent toujours en grand nombre sur le marché.

« Dingjiao » a récemment recherché directement « AI face-changeing » sur une plateforme de commerce électronique et n'a trouvé aucune information. Cependant, tant que les mots-clés sont légèrement modifiés, les outils de changement de visage associés peuvent toujours être trouvés à la vente, et. le chemin est plus secret, passera à un site Web d'occasion pour les transactions. À une époque où la technologie et la tromperie s’améliorent constamment, ce que chacun peut faire, c’est être plus vigilant pour éviter d’être lésé par le changement de visage de l’IA.

*L'image du titre et les images qui l'accompagnent dans l'article proviennent de Pexels.