Nachricht

Mit der Entwicklung und Iteration künstlicher Intelligenz (KI) verändert die generative KI das tägliche Leben in beispielloser Geschwindigkeit, aber die daraus abgeleiteten neuen Betrügereien und neuen Routinen erfrischen auch das Verständnis der Menschen für Risikoprävention. Dahinter verbergen sich nicht nur die Eigentumssicherheit der Verbraucher, sondern auch persönliche Sicherheitsrisiken und versteckte Gefahren.

Kürzlich haben ausländische Medien einen neuen digitalen Betrug aufgedeckt, um Videos von Prominenten wie Tesla-CEO Musk zu erstellen und diese „KI-Prominenten“ zu nutzen, um verschiedene falsche Produkte oder „Investitionen“ zu betreiben Investition.

In einem typischen Fall hat ein von „AI Musk“ unterstütztes sogenanntes Devisenunternehmen einen 82-jährigen Rentner problemlos um mehr als 690.000 US-Dollar (ca. 4,95 Millionen Yuan) seiner Ersparnisse betrogen.

Bei dieser Art von Betrug finden Betrüger normalerweise zunächst ein echtes Video, in dem Musk interviewt wird, verwenden dann KI-Tools, um seine Stimme zu ersetzen, und verwenden die Lippensynchronisationstechnologie, um Musks Mundform zu bearbeiten, damit das Video authentischer aussieht. Für normale Menschen kann es sehr schwierig sein, diese Art von gefälschtem Video zu unterscheiden.

Neben Musk sind auch „Stock God“ Buffett und Amazon-Gründer Jeff Bezos Prominente, die häufig in solchen Betrugsvideos auftauchen.

„AI Musk“ ist weit verbreitet. Die Generierung dauert nur wenige Minuten, aber jemand wurde um fast 5 Millionen Yuan betrogen.

In den letzten Monaten haben Tausende von KI-gestützten Videos, sogenannte „Deepfakes“, das Internet überschwemmt.Nach Schätzungen von Deloitte wird erwartet, dass KI-gesteuerte „Deepfake“-Videos/Werbung jedes Jahr Betrugsverluste in Milliardenhöhe verursachen.

Jedoch,Die Erstellung dieser Videos kostet vernachlässigbar wenige Dollar und kann in wenigen Minuten erstellt werden.Solche Videos werden aufgrund ihres Prominentenstatus in den sozialen Medien, unter anderem durch bezahlte Werbung auf Facebook, weithin beworben, was ihre Reichweite erhöht.

Betrüger beginnen mit einem echten Video, wie dem folgenden aus einem Interview mit Musk vom Wall Street Journal, in dem der Fragesteller Thorold Barker ist, ein Redakteur der Zeitung, dessen Stimme auch im Videoclip zu hören ist.

Bildquelle: „Wall Street Journal“

In dem „Deepfake“-Video wurden Musks Mundbewegungen mithilfe der Lippensynchronisationstechnologie bearbeitet, die die Art und Weise, wie eine Person spricht, anpasst. Betrüger fügen auch KI-Stimmen hinzu, indem sie Tools zum Klonen von Stimmen verwenden, mit denen sie jeden gewünschten Ton aus einem Sample kopieren können. Daher kann das resultierende Video für den durchschnittlichen Internetnutzer durchaus überzeugend sein.

Einige Leute wurden dadurch getäuscht.Der 82-jährige Rentner Steve Beauchamp ist ein typischer Fall. Ausländischen Medienberichten zufolge sah sich der 82-jährige Rentner Beauchamp Ende letzten Jahres eine Videowerbung an. In dem Video unterstützt Musk eine aggressive Investitionsmöglichkeit, die schnelle Renditen verspricht, und seine Mundform und Stimme stimmen gut überein.Es enthält auch Musks ikonischen südafrikanischen Akzent.Es sieht extrem echt aus. Also kontaktierte Beauchamp das Devisenunternehmen namens Magna-FX, das hinter der Anzeige stand, und eröffnete ein Konto über 248 US-Dollar. Nach einer Reihe von Transaktionen über mehrere Wochen hinweg leerte Beauchamp sein Rentenkonto und investierte schließlich mehr als 690.000 US-Dollar, die vollständig vernichtet wurden.

Laut einem anderenEin Mann aus Texas sagte, er habe Tausende von Dollar in Bitcoin verloren, nachdem er Musk im Februar 2023 in einem sogenannten „Live“-Video auf YouTube sprechen sah. Er sagte: „Ich habe die Bitcoins gesendet und nie etwas erhalten.“

Sensity, ein Unternehmen, das für die Überwachung und Erkennung von „Deepfakes“ verantwortlich ist, analysierte mehr als 2.000 Deepfake-Videos und stellte fest, dass bisherMusk ist das häufigste „KI-Bild“ in dieser Art von Videos. Konkret ist „AI Musk“ seit Ende letzten Jahres in fast einem Viertel der „Deep Fake“-Betrügereien aufgetaucht. In „Deep Fake“-Videos mit Bezug zu Kryptowährungen liegt seine Auftrittshäufigkeit sogar bei 90 %.

In diesem Zusammenhang sagten Experten, die sich mit der Kryptowährungs-Community befassen, dass Musk auf der ganzen Welt eine einzigartige Fangemeinde hat, darunter Konservative, Anti-Establishment-Fraktionen und Kryptowährungs-Enthusiasten. Solche Gruppen werden oft von alternativen Möglichkeiten zum Geldverdienen angezogen.Dies macht sie auch zu einem perfekten Ziel für digitale Betrüger. Darüber hinaus werden in dieser Gruppe ältere Internetnutzer oft eher zur Zielscheibe von Betrügern. Diese Gruppe ist mit Kryptowährungen, KI und Musk bestens vertraut, aber sie sind oft nicht wachsam genug.

Neben Musk sind auch „Stock God“ Buffett und Amazon-Gründer Jeff Bezos Prominente, die häufig in solchen Betrugsvideos auftauchen.

KI-Technologie ist zu einem Werkzeug für Betrug geworden, und Facebook und Youtube sind die am stärksten betroffenen Bereiche

In ausländischen Medien heißt es, dass es derzeit schwierig sei, zu quantifizieren, wie viele „Deepfake“-Videos online im Umlauf seien, aber die Suche nach gängigen Schlüsselwörtern für diese Betrügereien in der Werbebibliothek von Facebook könne Hunderttausende von Anzeigen aufdecken, darunter viele enthalten „Deepfake“ Videos.

Obwohl Facebook viele Videos, die gegen seine Richtlinien verstoßen, entfernt und einige Konten gesperrt hat, kursieren immer noch andere Videos online, und es tauchen scheinbar jeden Tag neue auf. Nicht nur Facebook, sondern auch YouTube ist voll von gefälschten Videos, oft mit dem Tag „Live“. Tatsächlich handelt es sich bei diesen Videos jedoch um vorab aufgezeichnete „Deepfake“-Videos.

YouTube sagte in einer Erklärung, dass allein im ersten Quartal dieses JahresMehr als 15,7 Millionen Kanäle und mehr als 8,2 Millionen Videos wurden gelöscht.Die meisten dieser Inhalte wurden aufgrund eines Verstoßes gegen die Anti-Spam-Richtlinie entfernt.

Die Verbreitung solcher „Deep Fake“-Anzeigen hat auch den australischen Milliardär Andrew Forrest dazu veranlasst, eine Zivilklage einzureichen, in der er Facebooks Muttergesellschaft Meta Fahrlässigkeit beim Betrieb seines Werbegeschäfts vorwirft. Er glaubt, dass das Werbegeschäft von Facebook „unschuldige Nutzer zu Fehlinvestitionen verleitet“. Meta sagte, es trainiere automatische Erkennungssysteme, um Betrug auf seiner Plattform zu erkennen, erwähnte aber auch, dass gut finanzierte Betrüger weiterhin ihre Strategien ändern würden, um einer Entdeckung zu entgehen.YouTube erklärte, seine Richtlinien verbieten Betrug und manipulierte Videos und verlangten im März dieses Jahres von den Erstellern, offenzulegen, wann sie KI zur Erstellung authentischer Inhalte nutzen.

Tatsächlich ist digitaler Betrug nichts Neues, aber seit der Veröffentlichung von KI-Tools im vergangenen Jahr ist eine neue Welle von „Deep Fake“-Videos explodiert.

Anfang dieses JahresAuch die US-amerikanische Federal Trade Commission (FTC) und das FBI haben davor gewarnt, dass KI-gesteuerte Cyberkriminalität und tiefgreifender Betrug zunehmen.„Kriminelle nutzen KI, um Cyberangriffe und andere kriminelle Aktivitäten effektiver und schwerer aufzudecken“, sagte das FBI.

„Deep Fake“-Videos sind nicht perfekt und selbst in einigen Videos stimmt die Mundform von „AI Musk“ nicht überein, aber einige Experten sagen, dass die von ihnen produzierten Videos für die Zielgruppen einiger Betrüger interessant genug zu sein scheinen immer besser.

Darüber hinaus fördern einige Betrügereien häufig gefälschte Software für künstliche Intelligenz und behaupten, dass sie erhebliche Kapitalrenditen erzielen können. Betrüger nutzen dies, um Zielgruppen dazu zu verleiten, zunächst einen kleinen Geldbetrag (ca. 250 US-Dollar) zu investieren. Der Betrüger behauptet dann weiterhin, dass die Investition an Wert gewinnt, und die Leute werden oft langsam dazu verleitet, mehr Geld zu investieren.

Um seine Ersparnisse betrogenBeauchamp„Zu diesem Zeitpunkt bin ich bereit, jede Kritik und jeden Spott als Strafe für meine Leichtgläubigkeit hinzunehmen“, sagte er in einem Bericht an das Better Business Bureau.

Er sagte, er verlasse sich auf ein kleineres Rentenkonto und eine kleinere Rente, die er den Betrügern nicht mitgeteilt habe, um über die Runden zu kommen, und er habe geplant, mit den Ersparnissen um die Welt zu reisen.BeauchampEs wurde eine Anzeige bei der örtlichen Polizei erstattet, der Fall schreitet jedoch nur langsam voran. „Mein Fall wurde wegen all der Betrugsfälle in die Warteschlange gestellt“, sagte er. „Ich hatte keine großen Hoffnungen.“

Tägliche Wirtschaftsnachrichten