nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Objets intelligents (compte public :zhidxcom）
compilervanille
modifierYun Peng

Imaginez simplement lorsqu'un grand entrepreneur vous offre un rameau d'olivier et vous dit « personnellement » qu'il existe un moyen sans risque de devenir riche rapidement.Vous pouvez gagner 1 million de dollars simplement en remplissant un formulaire,que ferez-vous?

Si cette personne est Musk et que la BBC le soutient, dites-vous que c'est "Une révolution technologique méconnue du grand public"Étoffe de laine?

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲Vidéo deepfake d'AI Musk

Les personnes plus vigilantes peuvent immédiatement sentir l'odeur de la fraude dans les télécommunications, mais pour les personnes qui ne sont pas souvent exposées à Internet, il n'est pas facile d'identifier de telles fausses vidéos.

Selon le New York Times du 16 août, à la fin de l'année dernière, Beauchamp, un retraité de 82 ans, avait vu Musk promouvoir une opportunité d'investissement radicale et promettre des rendements rapides et sans risque. Il a contacté l'entreprise dans la vidéo et a dépensé son épargne-retraite dans une série de transactions au cours des semaines suivantes,L’« investissement » cumulé dépasse 690 000 $ US。

La prochaine chose que vous pouvez imaginer, c'est que la pension a disparu avec l'entreprise.

Avec le nomFaux profondLa technologie de l’IA devient de plus en plus mature et des vidéos similaires inondent Internet. Selon les estimations de Deloitte, un cabinet de conseil bien connu, les vidéos deepfakesDes dizaines de milliards de dollars de pertes liées à la fraude chaque année。

Sensity, une organisation qui surveille les vidéos deepfake, a récemment mené une enquête et analyséPlus de 2000 paragraphesVidéos Deepfake, découvertesMuscest devenu le « porte-parole » le plus courant dans ce type de vidéo. Depuis la fin de l'année dernière,Musk apparaît dans près d’un quart des vidéos d’arnaque deepfake, parmi lesquels son taux d'apparition dans des vidéos sur la crypto-monnaie est aussi élevé que90%。

Parmi les autres cibles courantes de la contrefaçon figurent des investisseurs célèbres.Buffett, fondateur d'AmazonBezosattendez.

1. Des dizaines de milliards de dollars sont fraudés chaque année, et le taux d’apparition d’Elon Musk est1/4

Pour créer ces vidéos, les escrocs trouveront d’abord de véritables vidéos d’interview de Musk et d’autres. Par exemple, la scène de la vidéo d’ouverture provenait à l’origine d’une interview accordée par Musk au Wall Street Journal, où le sujet était de savoir comment utiliser l’IA et d’autres technologies pour parvenir à une gestion efficace de l’entreprise.

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲Vidéo originale de l'interview de Musk

Les fraudeurs profiteront deTechnologie de synchronisation labiale (Lip-syncing), ajustez la forme de la bouche du personnage, puis utilisezOutil de clonage vocalAjoutez une voix copiée par l'IA.

▲Synchronisation labiale (Source : "New York Times")

Enfin, certaines vidéos ajoutent également de fausses icônes qui imitent les agences de presse professionnelles telles que la BBC, ce qui peut être plus convaincant pour les internautes ordinaires.

▲Logo d'actualité (Source : "New York Times")

Il est difficile de quantifier exactement combien de vidéos deepfakes circulent en ligne. La recherche de textes promotionnels courants pour ces escroqueries dans la bibliothèque publicitaire de Facebook fera apparaître des centaines de milliers de publicités, dont beaucoup sont des vidéos deepfake.

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲Vidéo deepfake d'AI Bezos

YouTube regorge également de ce type de vidéos. Si vous recherchez « Conférence Elon Bitcoin » sur YouTube, vous obtiendrez des dizaines de vidéos étiquetées en direct, mais en fait ce sont des vidéos deepfake préenregistrées.

▲Vidéo deepfake YouTube (Source : YouTube)

Le nombre de téléspectateurs de ces « émissions en direct » peut varier de temps à autre.des centaines de milliers, mais selon la confirmation de YouTube, les escrocs peuvent utiliser les « armées de l’eau » pour augmenter le nombre de personnes et gonfler artificiellement ce nombre.

En mai de cette année, Deloitte, une organisation de conseil bien connue, a publié un rapport sur le risque accru de fraude par falsification profonde provoqué par l'IA générative, qui mentionnait des incidents de falsification profonde dans le domaine de la technologie financière en 2023.augmenté de 700%, et prédit que l’IA entraînera des pertes dues à la fraude aux États-Unis d’ici 2027à 40 milliards de dollars contre 12,3 milliards de dollars en 2023，Le taux de croissance annuel composé est de 32 %。

▲Prévision de croissance des pertes liées à la fraude causées par l'IA générative (Source : Deloitte)

Les vidéos Deepfake sont de plus en plus nombreuses et ont un impact croissant. Selon une enquête de Sensity, une organisation qui surveille les vidéos deepfake, parmi plus de 2 000 vidéos deepfake,Musk est devenu le « porte-parole » le plus courant, apparaît dansPrès d'un quart des vidéos d'arnaque deepfakeParmi eux, son taux d’apparition dans des vidéos ciblant les cryptomonnaies atteint90%。

Francesco Cavalli, co-fondateur de Sensity, estime :Cela pourrait être la plus grande arnaque deepfake jamais réalisée。

2. Le coût ne dépasse pas10Dollars américains, simulez beaucoup de vidéos en quelques minutes

En fait, le coût de production de ce type de vidéo n’est pas élevé ;Ne coûte que moins de 10 $, tu peuxdans quelques minutesUn grand nombre de fausses vidéos ont été produites.

Ces vidéos générées par l'IA ne sont pas parfaites. Musk semble robotique dans certaines vidéos et les mouvements de sa bouche ne sont pas toujours cohérents. Mais ces vidéos ont réussi à tromper pas mal de monde, et la technologie continue de s’améliorer.

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲Vidéo deepfake d'AI Musk

L'enquête Sensity montre que ce type d'escrocs vient principalement d'Asie et des pays d'Europe de l'Est. Ils utilisent des outils gratuits et bon marché pour traduire des vidéos dans plusieurs langues et continuent de diffuser l'arnaque à un plus large public.

L'une des routines courantes estPromouvoir de faux logiciels d’IA. Les fraudeurs encouragent leurs cibles à remettre d'abord une petite somme d'argent - généralement environ 250 dollars - en faisant en sorte que des « porte-parole » affirment que le logiciel peut générer des retours sur investissement étonnants, puis les attirent lentement en prétendant que la valeur de l'investissement initial augmente. . Investissez davantage.

Par exemple, dans la vidéo suivante de l’assemblée des actionnaires de Tesla, Musk a « fait la démonstration » d’un produit de trading automatisé alimenté par l’IA.Peut doubler un investissement spécifique chaque jour, "Avec seulement un investissement de 4 500 R, vous pouvez réaliser un bénéfice stable de 8 000 R par jour." (Remarque : le rand est l'unité monétaire de l'Afrique du Sud)

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲Vidéo deepfake d'AI Musk

Ces fraudeurs IA ciblent généralementUtilisateurs Internet plus âgés, ils sont peut-être familiers avec des sujets tels que la crypto-monnaie et l'IA, ainsi que des personnes comme Musk et Buffett, mais ils ne sont pas familiers avec les méthodes d'investissement sûres.

"Les personnes âgées constituent un groupe très riche et crédule", a déclaré Finn Brunton, professeur d'études technologiques à l'Université de Californie à Davis et expert du marché des cryptomonnaies. "Même sans les plateformes de médias sociaux, les personnes âgées ont toujours été la cible. d’arnaques. »

La raison pour laquelle Musk est ciblé est parce qu’il possède un groupe mondial de « fans » unique. Les experts qui étudient la communauté des crypto-monnaies affirment que ces personnes sont souvent composées de conservateurs, d’anti-establishment et de passionnés de crypto qui sont souvent attirés par de nouvelles façons de gagner de l’argent, ce qui en fait des cibles idéales pour les escroqueries.

Molly White, chercheuse dans la communauté des crypto-monnaies, a déclaré que ce groupe de personnes a toujours cru que le secret de la richesse leur était caché, et une fois qu'ils ont « découvert » le secret, ils ont pensé que c'était tout ce dont ils avaient besoin.

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲Vidéo deepfake d'AI Musk

Beauchamp, le retraité mentionné au début, était représentant commercial d'une entreprise canadienne avant l'âge de 75 ans. Il a commencé à utiliser Facebook l’année dernière et a vu une publicité pour Musk interviewée sur CNN.

Bien qu'il ait insisté sur le fait qu'il avait également vu la vidéo sur un responsable de CNN, selon un porte-parole de CNN,Musk n’a pas été interviewé par eux depuis des années。

Selon les échanges de courriels entre M. Beauchamp et l'entreprise mentionnée dans la vidéo, en décembre de l'année dernière, il aurait envoyé 27 216 $ à l'entreprise Magna-FX.

Magna-FX a fait croire que ses investissements prenaient de la valeur, permettant même à un agent commercial d'utiliser un logiciel pour contrôler à distance l'ordinateur de Beauchamp et faire semblant de transférer des fonds pour investir.

Afin de retirer les fonds appréciés, Beauchamp devait payer des frais de gestion de 3 500 $ et une commission de 3 500 $. Après avoir viré l'argent, on lui a dit qu'il devait payer 20 000 $ supplémentaires pour en retirer environ 200 000 $. Il a encore payé l'argent.

Finalement, Beauchamp a épuisé son épargne-retraite, maximisé ses cartes de crédit, maximisé sa marge de crédit et emprunté de l'argent à sa sœur pour investir et payer ses dépenses. Mais les escrocs n’arrêtaient pas de lui demander de payer davantage. Beauchamp a alors contacté la police.

Malheureusement, aucun progrès n'a été réalisé dans ce dossier.

3. La supervision de la plateforme est confrontée à des difficultés. La suppression de vidéos traite les symptômes mais pas la cause profonde.

La prévalence de la fausse publicité est également indissociable de la négligence du contrôle des plateformes.

Certaines personnes dont les vidéos étaient truquées ont intenté une action en justice. Le milliardaire australien Andrew Forrest a intenté une action civile contre la société mère de Facebook, Meta, l'accusant de négligence dans ses opérations publicitaires. Ses vidéos deepfake ont été utilisées dans des publicités Facebook, qui, selon lui, inciteraient « des utilisateurs innocents à faire de mauvais investissements ».

Meta a répondu que la société formait des systèmes de détection automatisés pour détecter les fraudes sur sa plate-forme, mais l'a également qualifié de jeu du « chat et de la souris », les escrocs changeant constamment de tactique pour échapper à la détection.

YouTube prend également certaines mesures pour lutter contre les vidéos deepfake. En mars de cette année, YouTube a mis à jour ses politiques pour obliger les créateurs à divulguer s'ils utilisent l'IA dans leurs créations et pour interdire la fraude et la falsification des vidéos.

YouTube a mentionné dans un communiqué qu'entre janvier et mars de cette année, la société avait supprimé plus de 15,7 millions de chaînes et plus de 8,2 millions de vidéos qui enfreignaient les politiques relatives au contenu. Cependant, le simple fait de supprimer la vidéo reste un indicateur mais ne guérit pas la cause profonde. La plateforme doit réexaminer son système de révision et résoudre le problème à la racine.

Conclusion : les vidéos Deepfake polluent Internet

L’histoire de la fraude numérique est aussi vieille qu’Internet. Cependant, à mesure que la technologie de l’IA gagne en maturité et que le coût d’utilisation des outils d’IA diminue de plus en plus, les coûts en temps et en argent liés à l’utilisation de cette technologie pour commettre une fraude ont également été considérablement réduits. Une nouvelle vague de vidéos deepfake mettant en vedette des célébrités comme Musk pollue Internet.

Avec le développement continu de la technologie, les technologies de contrefaçon profonde peuvent devenir plus difficiles à distinguer, ce qui impose de nouvelles exigences aux plateformes, aux agences de réglementation et aux lois.

source:Le New York Times