Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Smart Things (öffentliches Konto:Abonnieren）
kompilierenVanille
bearbeitenYunpeng

Stellen Sie sich vor, ein Top-Unternehmer bietet Ihnen einen Olivenzweig an und sagt Ihnen „persönlich“, dass es einen risikofreien Weg gibt, schnell reich zu werden.Füllen Sie einfach ein Formular aus und Sie können 1 Million US-Dollar verdienen,was werden Sie tun?

Wenn diese Person Musk ist und die BBC ihn unterstützt, sagen Sie Ihnen, dass dies „Eine der Öffentlichkeit unbekannte technologische Revolution„Wollstoff?

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲AI Musk Deepfake-Video

Wachsamere Menschen riechen vielleicht sofort den Geruch von Telekommunikationsbetrug, aber für Menschen, die nicht oft mit dem Internet in Berührung kommen, ist es nicht einfach, solche gefälschten Videos zu erkennen.

Laut einem Bericht der New York Times vom 16. August sah Beauchamp, ein 82-jähriger Rentner, Ende letzten Jahres, wie Musk eine radikale Investitionsmöglichkeit bewarb und risikofreie und schnelle Renditen versprach. Er kontaktierte das Unternehmen im Video und gab seine Altersvorsorge in den nächsten Wochen für eine Reihe von Transaktionen aus.Die kumulierte „Investition“ übersteigt 690.000 US-Dollar。

Das nächste, was Sie sich vorstellen können, ist, dass die Rente zusammen mit dem Unternehmen verschwunden ist.

Mit dem NamenDeepfakeDie KI-Technologie wird immer ausgereifter und ähnliche Videos überschwemmen das Internet. Nach Schätzungen von Deloitte, einem bekannten Beratungsunternehmen, handelt es sich um Deepfake-VideosJedes Jahr entstehen Betrugsschäden in Höhe von mehreren zehn Milliarden US-Dollar。

Sensity, eine Organisation, die Deepfake-Videos überwacht, hat kürzlich eine Umfrage durchgeführt und analysiertMehr als 2000 AbsätzeDeepfake-Videos entdecktMoschusist zum häufigsten „Sprecher“ in dieser Art von Videos geworden. Seit Ende letzten JahresMusk erscheint in fast einem Viertel der Deepfake-Betrugsvideos, unter anderem ist seine Auftrittsrate in Videos über Kryptowährungen so hoch wie90%。

Zu den weiteren häufigen Zielen von Fälschungen gehören bekannte InvestorenBuffett, Gründer von AmazonBezosWarten.

1. Jedes Jahr werden Dutzende Milliarden Dollar betrogen, und Musks Auftrittsquote ist es auch1/4

Um diese Videos zu erstellen, finden Betrüger zunächst echte Interviewvideos von Musk und anderen. Die Szene im Eröffnungsvideo stammt beispielsweise ursprünglich aus einem Interview, das Musk im Wall Street Journal gab. Es ging darum, wie man KI und andere Technologien nutzen kann, um ein effizientes Management des Unternehmens zu erreichen.

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲Original Musk-Interviewvideo

Betrüger werden es ausnutzenLippensynchronisationstechnologie (Lippensynchronisation), passen Sie die Mundform der Figur an und verwenden Sie sie dannTool zum Klonen von StimmenFügen Sie eine von der KI kopierte Stimme hinzu.

▲Lippensynchronisation (Quelle: „New York Times“)

Schließlich fügen einige Videos auch gefälschte Symbole hinzu, die professionelle Nachrichtenorganisationen wie die BBC imitieren, was für normale Internetnutzer möglicherweise überzeugender ist.

▲News-Logo (Quelle: „New York Times“)

Es ist schwierig, genau zu quantifizieren, wie viele solcher Deepfake-Videos online kursieren. Bei der Suche nach gängigen Werbetexten für diese Betrügereien in der Werbebibliothek von Facebook werden Hunderttausende Anzeigen auftauchen, von denen viele Deepfake-Videos sind.

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲AI Bezos Deepfake-Video

Auch YouTube ist voll von solchen Videos. Wenn Sie auf YouTube nach „Elon Bitcoin-Konferenz“ suchen, werden Sie Dutzende Videos mit der Bezeichnung „Live“ finden, aber in Wirklichkeit handelt es sich dabei um vorab aufgezeichnete Deepfake-Videos.

▲YouTube-Deepfake-Video (Quelle: YouTube)

Die Anzahl der Zuschauer dieser „Live-Übertragungen“ kann von Zeit zu Zeit variierenHunderttausende, aber laut YouTube-Bestätigung können Betrüger „Wasserarmeen“ einsetzen, um die Zahl der Menschen zu erhöhen und diese Zahl künstlich aufzublähen.

Im Mai dieses Jahres veröffentlichte Deloitte, ein bekanntes Beratungsunternehmen, einen Bericht über das erhöhte Risiko von Deep-Forgery-Betrug durch generative KI, in dem erwähnt wurde, dass es im Jahr 2023 zu Deep-Forgery-Vorfällen im Bereich der Finanztechnologie kommen wird.um 700 % erhöhtund prognostiziert, dass KI bis 2027 zu Betrugsverlusten in den USA führen wirdvon 12,3 Milliarden US-Dollar im Jahr 2023 auf 40 Milliarden US-Dollar，Die durchschnittliche jährliche Wachstumsrate beträgt 32 %。

▲Prognose des Anstiegs der Betrugsverluste durch generative KI (Quelle: Deloitte)

Deepfake-Videos nehmen an Zahl und Wirkung zu. Laut einer Umfrage von Sensity, einer Organisation, die Deepfake-Videos überwacht, sind unter mehr als 2.000 Deepfake-VideosMusk ist zum häufigsten „Sprecher“ geworden, erscheint inFast ein Viertel der Deepfake-BetrugsvideosUnter anderem ist seine Auftrittsrate in Videos, die auf Kryptowährungen abzielen, so hoch wie90%。

Francesco Cavalli, Mitbegründer von Sensity, glaubt:Dies könnte der größte Deepfake-Betrug aller Zeiten sein。

2. Die Kosten überschreiten nicht10US-Dollar, viele Videos in wenigen Minuten fälschen

Tatsächlich sind die Kosten für die Produktion dieser Art von Video nicht hoch;Kostet nur weniger als 10 $, du kannstinnerhalb weniger MinutenEs wurden zahlreiche Fake-Videos produziert.

Diese KI-generierten Videos sind nicht perfekt. Musk klingt in manchen Videos roboterhaft und seine Mundbewegungen sind nicht immer gleichmäßig. Aber diese Videos konnten schon einige Leute täuschen, und die Technologie verbessert sich immer weiter.

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲AI Musk Deepfake-Video

Die Untersuchung von Sensity zeigt, dass diese Art von Betrügern hauptsächlich aus Asien und osteuropäischen Ländern kommt. Sie nutzen kostenlose und kostengünstige Tools, um Videos in mehrere Sprachen zu übersetzen und den Betrug weiter zu verbreiten.

Eine der häufigsten Routinen istFördern Sie gefälschte KI-Software. Betrüger ermutigen ihre Opfer, zunächst einen kleinen Geldbetrag auszuhändigen – in der Regel etwa 250 US-Dollar –, indem sie „Sprecher“ behaupten lassen, dass die Software erstaunliche Investitionsrenditen erzielen kann, und sie dann langsam anlocken, indem sie behaupten, dass der Wert der Anfangsinvestition steigt . Investieren Sie mehr.

Im folgenden Video von der Aktionärsversammlung von Tesla „demonstrierte“ Musk beispielsweise ein automatisiertes Handelsprodukt, das auf KI basiert.Kann eine bestimmte Investition jeden Tag verdoppeln„Mit einer Investition von nur 4.500 R können Sie einen stabilen Gewinn von 8.000 R pro Tag erzielen.“ (Hinweis: Rand ist die Währungseinheit Südafrikas)

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲AI Musk Deepfake-Video

Diese KI-Betrüger zielen normalerweise aufÄltere InternetnutzerSie kennen sich vielleicht mit Themen wie Kryptowährung und KI sowie mit Leuten wie Musk und Buffett aus, aber mit sicheren Anlagemethoden sind sie nicht vertraut.

„Ältere Menschen sind eine sehr wohlhabende und leichtgläubige Gruppe“, sagte Finn Brunton, Professor für Technologiestudien an der University of California in Davis und Experte für den Kryptowährungsmarkt. „Auch ohne Social-Media-Plattformen waren ältere Menschen immer das Ziel.“ von Betrügereien.“

Der Grund, warum Musk ins Visier genommen wird, liegt darin, dass Musk über eine einzigartige globale „Fan“-Gruppe verfügt. Experten, die sich mit der Kryptowährungs-Community befassen, sagen, dass diese Leute oft aus konservativen, gegen das Establishment gerichteten und Krypto-Enthusiasten bestehen, die oft von neuartigen Möglichkeiten zum Geldverdienen angezogen werden – was sie zu perfekten Zielen für Betrüger macht.

Molly White, Forscherin der Kryptowährungs-Community, sagte, dass diese Gruppe von Menschen immer glaubte, das Geheimnis des Reichtums sei ihnen verborgen, und als sie das Geheimnis „entdeckten“, dachten sie, es sei alles, was sie brauchten.

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲AI Musk Deepfake-Video

Beauchamp, der eingangs erwähnte Rentner, war vor seinem 75. Lebensjahr Handelsvertreter eines kanadischen Unternehmens. Er begann letztes Jahr, Facebook zu nutzen, und sah eine Anzeige für ein Interview mit Musk auf CNN.

Obwohl er laut einem CNN-Sprecher darauf beharrte, dass er das Video auch auf CNN gesehen hatte, sagte ein CNN-Sprecher:Musk wurde seit Jahren nicht mehr von ihnen interviewt。

Laut E-Mail-Austausch zwischen Herrn Beauchamp und dem im Video erwähnten Unternehmen überwies er im Dezember letzten Jahres 27.216 US-Dollar an das Unternehmen namens Magna-FX.

Magna-FX ließ den Anschein erwecken, dass seine Investitionen an Wert gewannen, und erlaubte sogar einem Handelsvertreter, mithilfe einer Software Beauchamps Computer fernzusteuern und so zu tun, als würde er Gelder für Investitionen überweisen.

Um die geschätzten Mittel abzuheben, wurde Beauchamp aufgefordert, eine Verwaltungsgebühr von 3.500 US-Dollar und eine Provision von 3.500 US-Dollar zu zahlen. Nachdem er das Geld überwiesen hatte, wurde ihm mitgeteilt, dass er weitere 20.000 US-Dollar zahlen müsse, um etwa 200.000 US-Dollar davon abzuheben. Er zahlte das Geld erneut.

Schließlich verbrauchte Beauchamp seine Altersvorsorge, schöpfte seine Kreditkarten aus, schöpfte seinen Kreditrahmen aus und lieh sich Geld von seiner Schwester, um es zu investieren und Ausgaben zu bezahlen. Doch die Betrüger forderten ihn immer wieder auf, mehr zu zahlen. Beauchamp kontaktierte daraufhin die Polizei.

Leider wurden in diesem Fall keine Fortschritte erzielt.

3. Die Überwachung der Plattform steht vor Herausforderungen. Das Löschen von Videos behandelt die Symptome, aber nicht die Grundursache.

Die Verbreitung falscher Werbung ist auch untrennbar mit der Nachlässigkeit der Plattformaufsicht verbunden.

Einige Personen, deren Videos gefälscht waren, haben rechtliche Schritte eingeleitet. Der australische Milliardär Andrew Forrest hat eine Zivilklage gegen den Facebook-Mutterkonzern Meta eingereicht und ihm Fahrlässigkeit im Werbegeschäft vorgeworfen. Seine Fake-Videos wurden in Facebook-Anzeigen verwendet, von denen er glaubte, dass sie „unschuldige Nutzer zu Fehlinvestitionen verleiten“ würden.

Meta antwortete, dass das Unternehmen automatisierte Erkennungssysteme trainiere, um Betrug auf seiner Plattform zu erkennen, nannte es aber auch ein „Katz- und Mausspiel“, bei dem Betrüger ständig ihre Taktiken ändern, um der Entdeckung zu entgehen.

Auch YouTube ergreift einige Maßnahmen, um mit Deepfake-Videos umzugehen. Im März dieses Jahres hat YouTube seine Richtlinien aktualisiert, um von YouTubern zu verlangen, offenzulegen, ob sie KI in ihren Kreationen verwenden, und um Betrug und Manipulation von Videos zu verbieten.

YouTube erwähnte in einer Erklärung, dass das Unternehmen zwischen Januar und März dieses Jahres mehr als 15,7 Millionen Kanäle und mehr als 8,2 Millionen Videos entfernt habe, die gegen Inhaltsrichtlinien verstießen. Das bloße Löschen des Videos ist jedoch immer noch ein Indikator, behebt jedoch nicht die Grundursache. Die Plattform muss ihr Überprüfungssystem erneut überprüfen und das Problem von Grund auf lösen.

Fazit: Deepfake-Videos verschmutzen das Internet

Die Geschichte des digitalen Betrugs ist so alt wie das Internet. Da die KI-Technologie jedoch immer ausgereifter wird und die Kosten für den Einsatz von KI-Tools immer geringer werden, wurden auch die Zeit- und Geldkosten für den Einsatz dieser Technologie zur Begehung von Betrug deutlich reduziert. Eine neue Welle von Deepfake-Videos mit Prominenten wie Musk verunreinigt das Internet.

Mit der kontinuierlichen Weiterentwicklung der Technologie kann es schwieriger werden, Deep-Fake-Technologie zu unterscheiden, was neue Anforderungen an Plattformen, Regulierungsbehörden und Gesetze stellt.

Quelle:Die New York Times