nouvelles

Avec le développement et l'itération de l'intelligence artificielle (IA), l'IA générative remodèle la vie quotidienne à une vitesse sans précédent, mais les nouvelles escroqueries et les nouvelles routines qui en découlent rafraîchissent également la compréhension des gens en matière de prévention des risques. Derrière tout cela se cache non seulement la sécurité des biens des consommateurs, mais aussi les risques pour la sécurité personnelle et les dangers cachés.

Récemment, des médias étrangers ont révélé une nouvelle arnaque numérique. Des escrocs utilisent des outils d'IA complexes pour créer des vidéos de célébrités telles que le PDG de Tesla, Musk, et utilisent ces « célébrités de l'IA » pour réaliser divers faux produits ou « investissements ». investissement.

Dans un cas typique, une soi-disant société de change soutenue par « AI Musk » a facilement escroqué un retraité de 82 ans de plus de 690 000 dollars (environ 4,95 millions de yuans) de ses économies.

Dans ce type d'arnaque, les escrocs trouvent généralement d'abord une vraie vidéo de Musk interviewé, puis utilisent des outils d'IA pour remplacer sa voix et utilisent la technologie de synchronisation labiale pour modifier la forme de la bouche de Musk afin de rendre la vidéo plus authentique. Pour les gens ordinaires, ce genre de fausse vidéo peut être très difficile à distinguer.

Outre Musk, Buffett, le « Stock God », et le fondateur d'Amazon, Jeff Bezos, sont également des célébrités qui apparaissent souvent dans de telles vidéos frauduleuses.

"AI Musk" est endémique. Cela ne prend que quelques minutes à générer, mais quelqu'un a été fraudé de près de 5 millions de yuans.

Ces derniers mois, des milliers de vidéos basées sur l’IA, connues sous le nom de « deepfakes », ont inondé Internet.Selon les estimations de Deloitte, les vidéos/publicités « deepfakes » alimentées par l’IA devraient entraîner des milliards de dollars de pertes liées à la fraude chaque année.

Cependant,La création de ces vidéos coûte quelques dollars négligeables et peut être réalisée en quelques minutes.Ces vidéos sont largement promues sur les réseaux sociaux, notamment via des publicités payantes sur Facebook, en raison de leur statut de célébrité, ce qui augmente leur portée.

Les escrocs commenceront par une vraie vidéo, comme celle ci-dessous tirée d'une interview de Musk du Wall Street Journal, où l'interrogateur est Thorold Barker, rédacteur en chef du journal dont la voix apparaît également dans le clip vidéo.

Source de l'image : "Wall Street Journal"

Dans la vidéo « deepfake », les mouvements de la bouche de Musk ont ​​été modifiés à l'aide d'une technologie de synchronisation labiale, qui ajuste la façon dont une personne parle. Les fraudeurs ajoutent également des voix IA à l’aide d’outils de clonage vocal, qui peuvent copier n’importe quel son à partir d’un échantillon. Par conséquent, la vidéo résultante peut être assez convaincante pour l’internaute moyen.

Certaines personnes ont été trompées par cela.Steve Beauchamp, retraité de 82 ans, est un cas typique. Selon les médias étrangers, à la fin de l'année dernière, Beauchamp, un retraité de 82 ans, a regardé une publicité vidéo. Dans la vidéo, Musk soutient une opportunité d’investissement agressive qui promet des rendements rapides, et la forme de sa bouche et sa voix sont étroitement liées.Il intègre également l’accent sud-africain emblématique de Musk.Cela semble extrêmement réel. Beauchamp a donc contacté la société de change derrière la publicité appelée Magna-FX et a ouvert un compte de 248 $. Après une série d'opérations sur plusieurs semaines, Beauchamp a vidé son compte de retraite et a fini par investir plus de 690 000 $, qui ont été anéantis.

D'après un autreUn homme du Texas a déclaré avoir perdu 3,6 $ d'argent après avoir vu Musk parler dans une vidéo dite « en direct » sur YouTube en février 2023, selon un rapport du groupe de défense des consommateurs à but non lucratif Better Business Bureau. Il a déclaré : « J’ai envoyé les bitcoins et je n’ai plus jamais rien reçu. »

Sensity, une société chargée de surveiller et de détecter les « deepfakes », a analysé plus de 2 000 vidéos deepfake et a découvert que jusqu'à présent,Musk est « l’image IA » la plus courante dans ce type de vidéo. Plus précisément, depuis la fin de l'année dernière, "AI Musk" est apparu dans près d'un quart des escroqueries "deep fake". Dans les vidéos « deep fake » liées aux cryptomonnaies, sa fréquence d’apparition atteint même 90 %.

À cet égard, les experts qui étudient la communauté des crypto-monnaies ont déclaré que Musk dispose d’une base de fans unique dans le monde, comprenant des conservateurs, des factions contestataires et des passionnés de crypto-monnaie. Ces groupes sont souvent attirés par des moyens alternatifs de gagner de l’argent.Cela en fait également une cible idéale pour les escrocs numériques. De plus, parmi ce groupe, les internautes plus âgés sont souvent plus susceptibles de devenir la cible de fraudeurs. Ce groupe connaît très bien la cryptomonnaie, l’IA et Musk, mais ils ne sont souvent pas assez vigilants.

Outre Musk, Buffett, le « Stock God », et le fondateur d'Amazon, Jeff Bezos, sont également des célébrités qui apparaissent souvent dans de telles vidéos frauduleuses.

La technologie de l’IA est devenue un outil de fraude, et Facebook et Youtube sont les domaines les plus durement touchés.

Selon les médias étrangers, il est actuellement difficile de quantifier le nombre de vidéos « deepfake » qui circulent en ligne, mais la recherche de mots-clés courants pour ces escroqueries dans la bibliothèque publicitaire de Facebook peut révéler des centaines de milliers de publicités, dont beaucoup contiennent des vidéos « deepfake ». .

Bien que Facebook ait supprimé de nombreuses vidéos qui enfreignaient ses politiques et suspendu certains comptes, d'autres vidéos circulent toujours en ligne, et de plus en plus apparaissent chaque jour. Non seulement Facebook, mais YouTube regorge également de ces fausses vidéos, utilisant souvent la balise « live ». Mais en fait, ces vidéos sont des vidéos « deepfake » préenregistrées.

YouTube a déclaré dans un communiqué qu'au cours du seul premier trimestre de cette année,Plus de 15,7 millions de chaînes et plus de 8,2 millions de vidéos ont été supprimées.La plupart de ce contenu a été supprimé pour violation de sa politique anti-spam.

La prévalence de ces publicités « deepfake » a également conduit le milliardaire australien Andrew Forrest à intenter une action civile, accusant la société mère de Facebook, Meta, de négligence dans ses opérations publicitaires. Il estime que l'activité publicitaire de Facebook a incité « des utilisateurs innocents à faire de mauvais investissements ». Meta a déclaré qu'elle formait des systèmes de détection automatique pour détecter les fraudes sur sa plate-forme, mais a également mentionné que les fraudeurs bien financés continueront de modifier leurs stratégies pour échapper à la détection.YouTube a déclaré que ses politiques interdisaient la fraude et les vidéos falsifiées et, en mars de cette année, exigeaient que les créateurs divulguent s'ils utilisent l'IA pour créer du contenu authentique.

En fait, la fraude numérique n'est pas nouvelle, mais depuis l'open source des outils d'IA l'année dernière, une nouvelle vague de vidéos « deep fake » a explosé.

Plus tôt cette année,La Federal Trade Commission (FTC) des États-Unis et le FBI ont également averti que la cybercriminalité et la fraude profonde basées sur l’IA étaient en augmentation."Les criminels utilisent l'IA pour rendre les cyberattaques et autres activités criminelles plus efficaces et plus difficiles à détecter", a déclaré le FBI.

Les vidéos « Deep Fake » ne sont pas parfaites, et même dans certaines vidéos, la forme de la bouche de « AI Musk » ne correspond pas, mais certains experts affirment que pour les groupes cibles de certains escrocs, les vidéos qu'ils produisent semblent suffisamment convaincantes et. s'améliorant tout le temps.

De plus, certaines escroqueries font souvent la promotion de faux logiciels d’intelligence artificielle, prétendant qu’ils peuvent générer des retours sur investissement importants. Les fraudeurs l'utilisent pour inciter le public cible à investir initialement une petite somme d'argent (environ 250 $). L’escroc continue ensuite de prétendre que la valeur de l’investissement augmentera, et les gens sont souvent lentement incités à investir plus d’argent.

Arnaqué avec ses économiesBeauchamp"À ce stade, je suis prêt à accepter toutes les critiques et toutes les moqueries comme punition pour ma crédulité", a-t-il déclaré dans un rapport au Better Business Bureau.

Il a déclaré qu'il comptait sur un compte de retraite et une pension plus petits qui n'avaient pas été divulgués aux escrocs pour joindre les deux bouts, et qu'il avait prévu d'utiliser ses économies pour voyager à travers le monde.BeauchampUne plainte a été déposée auprès de la police locale, mais l'affaire avance lentement. "Mon dossier a été mis en attente à cause de tous les cas de fraude", a-t-il déclaré. "Je n'avais pas de grands espoirs".

l'actualité économique quotidienne