nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Le faux Musk généré par l’IA est devenu le plus grand menteur en ligne.

Lien d'origine : https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

Source : Technologie NetEase (ID : tech_163)

Titre original : Le faux Musk généré par l'IA est devenu le plus grand menteur en ligne

Selon les médias américains, le 15 août, la technologie de deepfake de l'intelligence artificielle (Deepfake) a été largement utilisée dans la fraude en ligne ces dernières années, en particulier l'utilisation de fausses vidéos d'Elon Musk pour commettre une fraude. Les vidéos ont induit les investisseurs en erreur en simulant la voix et les mouvements de Musk. Ces vidéos deepfake sont bon marché et se propagent rapidement, permettant aux fraudeurs d’étendre facilement la portée de leurs activités frauduleuses, ce qui fait perdre à de nombreuses victimes d’énormes sommes d’argent en raison de fausses opportunités d’investissement. Alors que les risques liés aux deepfakes deviennent de plus en plus évidents, les pertes liées à la fraude qui pourraient en résulter devraient atteindre des milliards de dollars chaque année.

Voici le texte intégral de la traduction :

Steve Beauchamp, un retraité de 82 ans, souhaitait ajouter un peu de revenus à sa famille et il a placé ses espoirs sur Elon Musk. À la fin de l’année dernière, Beacham est tombé sur une vidéo dans laquelle Musk semblait recommander un plan d’investissement agressif promettant des bénéfices rapides. Inspiré par cela, Beacham a rapidement contacté la société à l'origine de la vidéo et a ouvert un compte d'investissement de 248 $. Cependant, au cours des semaines suivantes, il a progressivement augmenté ses investissements, pour finalement retirer plus de 690 000 $ de son compte de retraite.

Mais peu de temps après, l’argent a disparu, tombant entre les mains d’un groupe d’escrocs utilisant l’intelligence artificielle pour perpétrer un nouveau type d’escroquerie numérique. Les escrocs ont intelligemment modifié une interview réelle avec Musk, en utilisant la technologie de l'IA pour remplacer sa voix et affiner la forme de sa bouche pour qu'elle corresponde au nouveau script qu'ils ont écrit pour l'humain numérique. Pour le spectateur moyen, cette opération est presque imperceptible.

Beacham s'est rappelé de la vidéo et a déclaré avec émotion : « Il a une image distincte dans la vidéo et peut être reconnu comme Musk en un coup d'œil. Quant à savoir si c'est l'IA qui lui a fait prononcer ces mots, je ne peux pas en être sûr maintenant. Mais juste "En ce qui concerne les séquences vidéo, si quelqu'un me demandait de l'identifier dans une foule, je pourrais certainement le signaler."

01

Musk devient un visiteur fréquent des deepfakes

Ces derniers mois, Internet a été inondé de milliers de vidéos de ce type, basées sur l'IA, connues sous le nom de « deepfakes », dans lesquelles une fausse image de Musk est utilisée pour tromper les investisseurs potentiels. Deloitte estime que ces types de deepfakes basés sur l’IA pourraient entraîner des milliards de dollars de pertes liées à la fraude chaque année.

Ces vidéos sont extrêmement peu coûteuses à produire, peuvent être réalisées en quelques minutes et sont promues sur les réseaux sociaux, y compris par des publicités payantes sur Facebook, ce qui étend considérablement leur portée. Francesco Cavalli, co-fondateur et directeur du renseignement sur les menaces chez Sensity, une société qui surveille et détecte les vidéos deepfake, a prévenu : « Il s'agit peut-être de la plus grande arnaque deepfake jamais réalisée. »

Les vidéos sont souvent réalistes, capturant avec précision les intonations saccadées et l'accent sud-africain caractéristiques de Musk. Les fraudeurs commencent généralement par une vraie vidéo, comme une interview du Wall Street Journal, et la voix du journaliste est conservée dans la fausse vidéo, ce qui ajoute à l'authenticité de la vidéo.

Grâce à une technologie avancée de synchronisation labiale, les escrocs ont ajusté les mouvements de la bouche de Musk pour qu'ils correspondent parfaitement à leurs fausses lignes. Ils ont également ajouté des sons d’IA à l’aide d’outils de clonage sonore, qui peuvent copier n’importe quel son à partir d’un échantillon de clip. La publicité finale peut également inclure de faux graphiques, imitant le style d'un organisme de presse, ce qui peut être très convaincant pour l'internaute moyen.

Selon l'analyse de Sensity, Musk est l'orateur le plus courant dans ces vidéos. Il est apparu dans près d’un quart des arnaques deepfake sur près de 2 000 échantillons analysés, notamment depuis la fin de l’année dernière. Parmi les vidéos ayant pour thème les cryptomonnaies, cette proportion atteint même près de 90 %. Les publicités Deepfake utilisent également souvent des investisseurs célèbres comme Warren Buffett et des magnats des affaires tels que le fondateur d'Amazon Jeff Bezos.

Bien qu'il soit difficile de compter avec précision combien de deepfakes circulent en ligne, une recherche dans la bibliothèque de publicités de Facebook pour trouver un langage courant lié à l'arnaque a révélé des centaines de milliers de publicités, dont beaucoup incluaient des vidéos deepfake. Alors que Facebook a supprimé une grande partie du contenu qui violait ses politiques et interdit les comptes concernés, d'autres vidéos restent sur le réseau, et d'autres apparaissent apparemment chaque jour.

YouTube regorge également de faux contenus, souvent avec une étiquette « live ». En fait, ce sont des vidéos deepfake préenregistrées. Recherchez des mots clés tels que « Conférence Elon Bitcoin » sur YouTube et vous pourrez voir des dizaines de vidéos déguisées en diffusions en direct. Le faux Musk dans la vidéo colporte des escroqueries à la crypto-monnaie, ce qui est très trompeur.

Après que l'ancien président américain Donald J. Trump ait pris la parole lors d'une conférence Bitcoin, des dizaines de vidéos intitulées « Live » sont rapidement apparues sur YouTube, montrant une vidéo préenregistrée de Musk, prétendant doubler toute crypto-monnaie envoyée sur son compte. Les vidéos ont cependant attiré un large public, certaines atteignant des centaines de milliers de vues. Mais YouTube affirme que les escrocs peuvent utiliser des trolls en ligne pour gonfler artificiellement le nombre de vues.

Selon un rapport du Better Business Bureau, un groupe de défense des consommateurs à but non lucratif, un résident du Texas a perdu 36 000 $ en février 2023 après avoir vu un message frauduleux prétendant être Musk via une vidéo dite « en direct » sur YouTube de Bitcoin. "J'ai transféré du Bitcoin mais je n'ai rien reçu", a déclaré le résident.

02

FB et YouTube sont les plus durement touchés

YouTube a déclaré dans un communiqué qu'entre janvier et mars de cette année seulement, la plateforme avait supprimé plus de 15,7 millions de chaînes et plus de 8,2 millions de vidéos, principalement pour violation de sa politique anti-spam.

Face à la prolifération de fausses publicités, le milliardaire australien Andrew Forrest a intenté une action civile contre la société mère de Facebook, Meta, l'accusant de négligence dans ses activités publicitaires, affirmant que ces entreprises publicitaires avaient induit des utilisateurs innocents en erreur en leur faisant faire de mauvais investissements. Il est rapporté que les propres vidéos de Forrest ont également été utilisées pour créer de fausses publicités.

Meta a répondu en disant qu'elle formait des systèmes de détection automatisés pour identifier les activités frauduleuses sur la plate-forme, mais a admis qu'il s'agissait d'un jeu complexe du chat et de la souris, car les réseaux frauduleux bien financés changent constamment de tactique pour échapper à la détection. YouTube a réitéré sa politique contre la fraude et la falsification de vidéos et, en mars de cette année, a exigé que tous les créateurs fassent des déclarations claires lorsqu'ils utilisent l'IA pour créer du contenu réaliste.

Internet regorge de rapports faisant état d’escroqueries dans lesquelles de nombreuses personnes ont perdu leurs économies. La Securities and Futures Commission de Hong Kong a émis un avertissement en mai concernant les activités frauduleuses impliquant Musk. Plus tôt cette année, la Commission fédérale du commerce des États-Unis et le FBI ont également mis en garde les Américains contre l’augmentation de la cybercriminalité et des escroqueries basées sur l’IA.

"Les criminels utilisent l'IA comme amplificateur de puissance pour rendre les cyberattaques et autres activités criminelles plus efficaces et plus difficiles à détecter", a souligné le FBI dans un communiqué envoyé par courrier électronique.

Les escroqueries numériques se sont développées parallèlement à la croissance d’Internet. Mais une nouvelle vague de deepfakes caractérisée par Musk a émergé lorsque des outils d'IA sophistiqués sont devenus accessibles au public l'année dernière. Ces outils permettent aux gens ordinaires de cloner les voix de célébrités ou de manipuler avec précision des vidéos, attirant ainsi l'attention de l'industrie du porno et des créateurs de mèmes. des fraudeurs et des gangs de fraude de plus en plus nombreux.

"Les choses changent maintenant parce que les groupes criminels organisés ont découvert qu'ils peuvent gagner de l'argent de cette façon", a déclaré Lou Steinberg, fondateur du laboratoire de recherche en cybersécurité CTM Insights. Il prédit que nous verrons de plus en plus de tentatives de contrefaçon de ce type. objectif d'escroquer l'argent. "

Bien que les vidéos générées par l'IA ne soient pas parfaites, par exemple, la voix de Musk peut paraître robotique dans certaines vidéos et la forme de sa bouche ne correspond pas toujours aux lignes. Mais les experts préviennent que les vidéos sont suffisamment convaincantes pour certaines cibles d’arnaque et que la technologie s’améliore avec le temps.

Selon Cavalli de Sensity, la création des vidéos coûte très peu, environ 10 dollars, et la plupart des escrocs créent de fausses vidéos en moins de 10 minutes à l'aide d'une gamme d'outils gratuits ou bon marché. Ils sont principalement situés en Inde, en Russie et en Europe de l’Est.

"Ça marche", a déclaré Cavalli. "En conséquence, ils continueront à étendre cette activité, à traverser les frontières, à traduire dans plusieurs langues et à propager l'arnaque à davantage de cibles."

03

Les personnes âgées sont des cibles idéales

Ce type d'escroquerie utilise souvent un logiciel d'investissement à intelligence artificielle à haut rendement comme prétexte pour inciter initialement les victimes à investir de petites sommes d'argent, par exemple 250 $. Par la suite, en exagérant l’effet de valeur ajoutée de l’investissement, ils sont progressivement incités à augmenter le montant de l’investissement.

Une vidéo de l'assemblée des actionnaires de Tesla a également été truquée, dans laquelle Musk expliquait un produit de trading automatisé alimenté par l'IA, prétendant être capable de doubler les retours sur investissement chaque jour.

Les experts qui étudient la communauté des crypto-monnaies soulignent que Musk compte un groupe unique de fans mondiaux qui sont pour la plupart des conservateurs, des personnalités contestataires et des passionnés de crypto-monnaie qui recherchent souvent des moyens non traditionnels de créer de la richesse, ce qui en fait une cible idéale pour les escroqueries. .

"Il existe définitivement un groupe de personnes qui croient que le secret de la richesse est caché", a déclaré Molly White, chercheuse qui étudie la communauté des crypto-monnaies. Elle a souligné que certaines personnes rêvent toujours de maîtriser le secret de la richesse, pensant qu'une fois qu'elles l'auront trouvé, elles deviendront riches du jour au lendemain.

Les fraudeurs ciblent particulièrement les internautes plus âgés qui, bien que connaissant les crypto-monnaies, l’intelligence artificielle ou Musk, ne connaissent pas les méthodes d’investissement sûres.

"Les personnes âgées ont toujours été une cible pour les escrocs, même avant l'essor des médias sociaux", a déclaré Finn Brunton, professeur de recherche en sciences et technologies à l'Université de Californie, expert sur le marché de la cryptographie.

Beacham était veuf et travaillait comme représentant commercial pour une entreprise en Ontario, au Canada, jusqu'à sa retraite à 75 ans. Peu de temps après avoir rejoint Facebook en 2023, il a été confronté à une arnaque publicitaire. Bien qu'il se souvienne d'avoir vu Musk lors de l'émission en direct de CNN, une porte-parole de CNN a déclaré que Musk n'avait pas été interviewé sur la station depuis des années.

En décembre, Beacham a viré 27 216 $ à une société appelée Magna-FX, ce qui l'a amené à croire que la valeur de ses investissements augmentait, selon les échanges de courriers électroniques entre lui et la société. Durant cette période, un agent commercial a même utilisé un logiciel pour contrôler à distance l'ordinateur de Beacham et transférer des fonds sans autorisation.

Lorsque Beacham a tenté de retirer ses fonds, on lui a dit qu'il devrait payer des frais de gestion de 3 500 $ et 3 500 $ supplémentaires en commissions. Il a payé l'argent, mais on lui a dit plus tard qu'il devait payer 20 000 $ pour débloquer environ 200 000 $ de fonds. Même s’il avait épuisé son épargne-retraite, maximisé ses cartes de crédit, utilisé sa marge de crédit et emprunté de l’argent à sa sœur pour investir et payer ses dépenses, les escrocs lui ont demandé de payer davantage. À ce moment-là, Beacham avait pris conscience de la gravité du problème et avait contacté la police.

La plupart des traces de Magna-FX ont disparu de la toile, notamment le site Internet de la société, les numéros de téléphone et les adresses e-mail utilisés par les agents avec lesquels Beacham avait communiqué. Une entreprise avec un nom et des services similaires n'a pas répondu à une demande de commentaire.

"À ce stade, je suis prêt à accepter toutes les critiques et toutes les moqueries en guise de punition pour ma crédulité", a déclaré Beacham dans un rapport au Better Business Bureau.

Il a déclaré qu'il comptait sur un compte de retraite et une pension plus petits qu'il n'avait pas divulgués aux escrocs pour joindre les deux bouts, et qu'il avait prévu d'utiliser ses économies pour voyager à travers le monde. Beacham a signalé l'incident à la police locale, mais l'affaire progresse lentement.

"Mon dossier a été mis en attente parce qu'il y avait tellement de cas de fraude", a-t-il déclaré. "Je n'avais pas de grands espoirs".

*Source de l'image d'en-tête : Visual China

Geek a demandé

plateforme de médias sociaux

Face à la prolifération des deep fake contenus,

Quelles sont les responsabilités ?

Cai Chongxin : Un bon leader doit être la personne la plus consciente d'elle-même.

Aimez et suivezCompte vidéo Geek Park，