Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Der von KI erzeugte gefälschte Musk ist zum größten Online-Lügner geworden.

Ursprünglicher Link: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

Quelle: NetEase Technology (ID: tech_163)

Originaltitel: Der von KI erzeugte Fake Musk ist zum größten Online-Lügner geworden

Laut US-Medienberichten vom 15. August wurde die Deepfake-Technologie künstlicher Intelligenz (Deepfake) in den letzten Jahren häufig bei Online-Betrug eingesetzt, insbesondere bei der Verwendung gefälschter Elon Musk-Videos zur Begehung von Betrug. Die Videos führten Anleger in die Irre, indem sie Musks Stimme und Bewegungen simulierten. Solche Deepfake-Videos sind billig und verbreiten sich schnell, sodass Betrüger den Umfang ihrer betrügerischen Aktivitäten leicht ausweiten können, was dazu führt, dass viele Opfer aufgrund falscher Investitionsmöglichkeiten riesige Geldsummen verlieren. Da die Risiken von Deepfakes immer offensichtlicher werden, wird erwartet, dass sich die daraus resultierenden Betrugsverluste jedes Jahr auf Milliarden von Dollar belaufen.

Das Folgende ist der vollständige Text der Übersetzung:

Steve Beauchamp, ein 82-jähriger Rentner, wollte seiner Familie etwas Einkommen verschaffen und setzte seine Hoffnungen auf Elon Musk. Ende letzten Jahres stieß Beacham auf ein Video, in dem Musk offenbar einen aggressiven Investitionsplan empfahl, der schnelle Gewinne versprach. Davon inspiriert kontaktierte Beacham schnell das Unternehmen hinter dem Video und eröffnete ein Anlagekonto über 248 US-Dollar. In den nächsten Wochen erhöhte er jedoch schrittweise seine Investitionen und zog schließlich mehr als 690.000 US-Dollar von seinem Rentenkonto ab.

Doch bald darauf verschwand das Geld und fiel in die Hände einer Gruppe von Betrügern, die künstliche Intelligenz nutzten, um eine neue Art von digitalem Betrug zu begehen. Die Betrüger veränderten geschickt ein reales Interview mit Musk, indem sie KI-Technologie nutzten, um seine Stimme zu ersetzen und seine Mundform so zu verfeinern, dass sie zu dem neuen Drehbuch passte, das sie für den digitalen Menschen geschrieben hatten. Für den durchschnittlichen Betrachter ist dieser Vorgang kaum wahrnehmbar.

Beacham erinnerte sich an das Video und sagte mit Emotionen: „Er hat ein deutliches Bild im Video und kann auf den ersten Blick als Musk erkannt werden. Ob es die KI war, die ihn dazu gebracht hat, diese Worte zu sagen, kann ich jetzt nicht sicher sein. Aber.“ nur „Was das Videomaterial angeht: Wenn mich jemand bitten würde, ihn in einer Menschenmenge zu identifizieren, könnte ich ihn auf jeden Fall darauf hinweisen.“

01

Musk wird zu einem häufigen Besucher von Deepfakes

In den letzten Monaten wurde das Internet mit Tausenden solcher KI-gesteuerten Videos, sogenannten „Deepfakes“, überschwemmt, in denen ein gefälschtes Bild von Musk verwendet wird, um potenzielle Investoren in die Irre zu führen. Deloitte schätzt, dass diese Art von KI-gestützten Deepfakes jedes Jahr zu Betrugsverlusten in Milliardenhöhe führen könnte.

Diese Videos sind äußerst kostengünstig zu produzieren, können in wenigen Minuten fertiggestellt werden und werden über soziale Medien, einschließlich bezahlter Werbung auf Facebook, beworben, was ihre Reichweite erheblich erhöht. Francesco Cavalli, Mitbegründer und Director of Threat Intelligence bei Sensity, einem Unternehmen, das Deepfake-Videos überwacht und erkennt, warnte: „Dies könnte der größte Deepfake-Betrug aller Zeiten sein.“

Die Videos sind oft lebensecht und fangen Musks charakteristische abgehackte Intonation und seinen südafrikanischen Akzent genau ein. Betrüger beginnen normalerweise mit einem echten Video, beispielsweise einem Interview mit dem Wall Street Journal, und die Stimme des Reporters bleibt im gefälschten Video erhalten, was die Authentizität des Videos erhöht.

Mithilfe fortschrittlicher Lippensynchronisationstechnologie passten die Betrüger Musks Mundbewegungen so an, dass sie perfekt zu ihren falschen Linien passten. Sie fügten auch KI-Sounds mithilfe von Sound-Klon-Tools hinzu, mit denen jeder Sound aus einem Beispielclip kopiert werden kann. Die endgültige Anzeige kann auch gefälschte Grafiken enthalten, die den Stil einer Nachrichtenorganisation imitieren, was für den durchschnittlichen Internetnutzer durchaus überzeugend sein kann.

Laut der Analyse von Sensity ist Musk der häufigste Sprecher in diesen Videos. Er tauchte in fast einem Viertel der Deepfake-Betrügereien von fast 2.000 analysierten Proben auf, insbesondere seit Ende letzten Jahres. Bei den Videos mit Kryptowährungsthema liegt dieser Anteil sogar bei fast 90 %. In Deepfake-Anzeigen werden häufig auch berühmte Investoren wie Warren Buffett und Wirtschaftsmagnaten wie Amazon-Gründer Jeff Bezos eingesetzt.

Während es schwierig ist, genau zu zählen, wie viele Deepfakes online im Umlauf sind, ergab eine Suche in der Werbebibliothek von Facebook nach allgemeiner Sprache im Zusammenhang mit Betrug Hunderttausende Anzeigen, von denen viele Deepfake-Videos enthielten. Während Facebook einen Großteil der Inhalte, die gegen seine Richtlinien verstießen, entfernt und die betreffenden Konten gesperrt hat, bleiben andere Videos im Netzwerk und scheinbar jeden Tag tauchen neue auf.

Auch auf YouTube gibt es viele gefälschte Inhalte, oft mit der Bezeichnung „Live“. Tatsächlich handelt es sich dabei um vorab aufgezeichnete Deepfake-Videos. Suchen Sie auf YouTube nach Schlüsselwörtern wie „Elon Bitcoin-Konferenz“, und Sie können Dutzende von Videos sehen, die als Live-Übertragungen getarnt sind. Der Deep-Fake-Muschu in dem Video verkauft Kryptowährungsbetrug, was höchst irreführend ist.

Nachdem der ehemalige US-Präsident Donald J. Trump auf einer Bitcoin-Konferenz gesprochen hatte, erschienen schnell Dutzende von Videos mit der Bezeichnung „Live“, die ein vorab aufgezeichnetes Deepfake von Musks Video zeigten, in dem behauptet wurde, jede an sein Konto gesendete Kryptowährung zu verdoppeln. Die Videos zogen jedoch ein großes Publikum an und einige erreichten Hunderttausende Aufrufe. Laut YouTube könnten Betrüger jedoch Online-Trolle nutzen, um die Anzahl der Aufrufe künstlich zu erhöhen.

Laut einem Bericht des Better Business Bureau, einer gemeinnützigen Verbraucherschutzgruppe, verlor ein Einwohner von Texas im Februar 2023 36.000 US-Dollar, nachdem er über ein sogenanntes „Live“-Video auf YouTube eine betrügerische Nachricht gesehen hatte, die angeblich von Musk stammte. „Ich habe Bitcoin überwiesen, aber nichts erhalten“, sagte der Bewohner.

02

FB und YouTube sind am stärksten betroffen

YouTube sagte in einer Erklärung, dass die Plattform allein zwischen Januar und März dieses Jahres mehr als 15,7 Millionen Kanäle und mehr als 8,2 Millionen Videos entfernt habe, hauptsächlich wegen Verstoßes gegen ihre Anti-Spam-Richtlinie.

Angesichts der Verbreitung falscher Werbung hat der australische Milliardär Andrew Forrest eine Zivilklage gegen die Facebook-Muttergesellschaft Meta eingereicht und ihr Fahrlässigkeit in ihrem Werbegeschäft vorgeworfen. Diese Werbeunternehmen hätten unschuldige Nutzer zu falschen Investitionen verleitet. Es wird berichtet, dass Forrests eigene Videos auch zur Erstellung von Deep-Fake-Werbung verwendet wurden.

Meta antwortete, dass es automatisierte Erkennungssysteme trainiere, um betrügerische Aktivitäten auf der Plattform zu erkennen, gab jedoch zu, dass es sich um ein komplexes Katz-und-Maus-Spiel handele, da gut finanzierte Betrugsringe ständig ihre Taktiken ändern, um einer Entdeckung zu entgehen. YouTube bekräftigte seine Richtlinien gegen Betrug und Videomanipulation und forderte im März dieses Jahres alle YouTuber auf, klare Angaben zu machen, wenn sie KI zur Erstellung realistischer Inhalte verwenden.

Im Internet wimmelt es von Berichten über Betrügereien, bei denen viele Menschen ihre Ersparnisse verloren haben. Die Securities and Futures Commission von Hongkong warnte im Mai vor betrügerischen Aktivitäten, an denen Musk beteiligt war. Anfang des Jahres warnten auch die US-amerikanische Federal Trade Commission und das FBI die Amerikaner vor der Zunahme von KI-gesteuerter Cyberkriminalität und Deepfake-Betrügereien.

„Kriminelle nutzen KI als Leistungsverstärker, um Cyberangriffe und andere kriminelle Aktivitäten effektiver und schwerer auffindbar zu machen“, betonte das FBI in einer per E-Mail versandten Erklärung.

Digitale Betrügereien haben parallel zum Wachstum des Internets zugenommen. Aber eine neue Welle von Deepfakes entstand, als im vergangenen Jahr hochentwickelte KI-Tools der Öffentlichkeit zugänglich wurden. Die Tools ermöglichen es gewöhnlichen Menschen, die Stimmen von Prominenten zu klonen oder Videos präzise zu manipulieren, was die Aufmerksamkeit der Pornoindustrie und der Meme-Macher auf sich zieht Betrüger und immer mehr Betrügerbanden.

„Die Dinge ändern sich jetzt, weil organisierte Kriminalitätsgruppen entdeckt haben, dass sie auf diese Weise Geld verdienen können“, sagte Lou Steinberg, Gründer des Cybersicherheitsforschungslabors CTM Insights. Er prognostiziert, dass wir immer mehr Versuche solcher Fälschungen erleben werden Ziel des Geldbetrugs. "

Obwohl die KI-generierten Videos beispielsweise nicht perfekt sind, kann Musks Stimme in manchen Videos roboterhaft klingen und seine Mundform stimmt nicht immer mit den Linien überein. Experten warnen jedoch, dass die Videos für einige Betrugsziele überzeugend genug seien und dass sich die Technologie mit der Zeit verbessere.

Laut Cavalli von Sensity kostet die Erstellung der Videos sehr wenig, etwa 10 US-Dollar, und die meisten Betrüger stellen die gefälschten Videos mit einer Reihe kostenloser oder billiger Tools in weniger als 10 Minuten zusammen. Sie sind hauptsächlich in Indien, Russland und Osteuropa ansässig.

„Es funktioniert“, sagte Cavalli. „Infolgedessen werden sie diese Aktivität weiter ausbauen, Grenzen überschreiten, in mehrere Sprachen übersetzen und den Betrug weiterhin an mehr Ziele verbreiten.“

03

Ältere Menschen sind perfekte Ziele

Bei dieser Art von Betrug wird häufig hochrentierliche Investitionssoftware mit künstlicher Intelligenz als Vorwand verwendet, um die Opfer zunächst dazu zu verleiten, kleine Geldbeträge – beispielsweise 250 US-Dollar – zu investieren. Anschließend werden sie durch die Übertreibung des Mehrwerteffekts von Investitionen schrittweise dazu veranlasst, den Investitionsbetrag zu erhöhen.

Auch ein Video von der Aktionärsversammlung von Tesla war gefälscht, in dem Musk ein automatisiertes Handelsprodukt auf Basis von KI erklärte und behauptete, es könne die Anlagerenditen jeden Tag verdoppeln.

Experten, die sich mit der Kryptowährungs-Community befassen, weisen darauf hin, dass Musk über eine einzigartige Gruppe globaler Fans verfügt, bei denen es sich überwiegend um Konservative, Anti-Establishment-Persönlichkeiten und Kryptowährungs-Enthusiasten handelt, die oft nach nicht-traditionellen Wegen suchen, um Wohlstand zu schaffen, was sie zu einem idealen Ziel für Betrüger macht .

„Es gibt definitiv eine Gruppe von Menschen, die glauben, dass das Geheimnis des Reichtums verborgen bleibt“, sagte Molly White, eine Forscherin, die die Kryptowährungs-Community untersucht. Sie wies darauf hin, dass manche Menschen immer davon träumen, das Geheimnis des Reichtums zu meistern, und denken, dass sie über Nacht reich werden, wenn sie es erst einmal gefunden haben.

Betrüger haben es vor allem auf ältere Internetnutzer abgesehen, die sich zwar mit Kryptowährungen, künstlicher Intelligenz oder Musk auskennen, aber mit sicheren Anlagemethoden nicht vertraut sind.

„Ältere Menschen waren schon immer ein Ziel für Betrüger, schon vor dem Aufkommen der sozialen Medien“, sagte Finn Brunton, ein Forschungsprofessor für Wissenschaft und Technologie an der University of California, Davis, Experte für den Kryptomarkt.

Beacham war ein Witwer, der bis zu seiner Pensionierung im Alter von 75 Jahren als Handelsvertreter für ein Unternehmen in Ontario, Kanada, arbeitete. Kurz nachdem er 2023 Facebook beigetreten war, stieß er auf einen Werbebetrug. Obwohl er sich daran erinnerte, Musk in der Live-Übertragung von CNN gesehen zu haben, sagte eine CNN-Sprecherin, Musk sei seit Jahren nicht mehr auf dem Sender interviewt worden.

Im Dezember überwies Beacham 27.216 US-Dollar an ein Unternehmen namens Magna-FX, was ihn laut E-Mail-Austausch zwischen ihm und dem Unternehmen glauben ließ, dass der Wert seiner Investitionen steigen würde. In dieser Zeit nutzte ein Handelsvertreter sogar eine Software, um den Computer von Beacham fernzusteuern und ohne Genehmigung Geld zu überweisen.

Als Beacham versuchte, sein Geld abzuheben, wurde ihm mitgeteilt, dass er eine Verwaltungsgebühr von 3.500 US-Dollar und weitere 3.500 US-Dollar an Provisionen zahlen müsse. Er zahlte das Geld, aber später wurde ihm mitgeteilt, dass er 20.000 US-Dollar zahlen müsse, um etwa 200.000 US-Dollar des Geldes freizugeben. Obwohl er seine Ersparnisse für den Ruhestand aufgebraucht, seine Kreditkarten ausgeschöpft, seinen Kreditrahmen in Anspruch genommen und sich Geld von seiner Schwester geliehen hatte, um zu investieren und Ausgaben zu bezahlen, verlangten die Betrüger von ihm, mehr zu zahlen. Zu diesem Zeitpunkt hatte Beacham die Schwere des Problems erkannt und kontaktierte die Polizei.

Die meisten Spuren von Magna-FX sind aus dem Internet verschwunden, darunter die Website des Unternehmens sowie Telefonnummern und E-Mail-Adressen, die von Agenten verwendet wurden, mit denen Beacham kommuniziert hatte. Ein Unternehmen mit einem ähnlichen Namen und ähnlichen Dienstleistungen reagierte nicht auf eine Bitte um Stellungnahme.

„Zu diesem Zeitpunkt bin ich bereit, die gesamte Kritik und den Spott als Strafe für meine Leichtgläubigkeit hinzunehmen“, sagte Beacham in einem Bericht an das Better Business Bureau.

Er sagte, er verlasse sich auf ein kleineres Rentenkonto und eine kleinere Rente, die er den Betrügern nicht mitgeteilt habe, um über die Runden zu kommen, und er habe geplant, mit den Ersparnissen um die Welt zu reisen. Beacham hat den Vorfall der örtlichen Polizei gemeldet, aber der Fall geht nur langsam voran.

„Mein Fall wurde in die Warteschlange gestellt, weil es so viele Betrugsfälle gab“, sagte er, „ich hatte keine großen Hoffnungen.“

*Quelle des Headerbildes: Visual China

Geek fragte

Social-Media-Plattform

Angesichts der Verbreitung von Deep-Fake-Inhalten

Was sind die Verantwortlichkeiten?

Cai Chongxin: Ein guter Anführer muss der selbstbewussteste Mensch sein.

Liken und folgenGeek Park-Videokonto，