Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Original mit festem Fokus (dingjiaoone).

Autor |. Wang Lu

Herausgeber |. Wei Jia

Sehen heißt glauben, die Gesichtsveränderung durch KI hat viele Menschen getäuscht.

Vor zwei Tagen deckte die Polizei von Hubei einen Fall auf, bei dem KI-Technologie zur Gesichtsveränderung eingesetzt wurde, um soziale Konten freizuschalten und sie mit Gewinn weiterzuverkaufen. Kriminelle nutzen KI-Gesichtsveränderung, um Menschen dabei zu helfen, Dating-Konten freizuschalten, die von der Plattform eingefroren wurden. Für jedes entsperrte Konto berechnen sie 15 bis 30 Yuan. Die Bande hat insgesamt 2.107 Konten freigegeben und einen Gewinn von 400.000 Yuan erzielt.

Daten zeigen, dass KI-basierter Deep-Fälschungsbetrug im Jahr 2023 um 3.000 % zunehmen wird. Deep Fake, auch Deepfake genannt, ist eine Kombination aus Lernen und Fälschung Video oder sogar Ton, die häufigste ist die Gesichtsveränderung durch KI. Das Ministerium für Industrie und Informationstechnologie gab kürzlich bekannt, dass es eine KI-Funktion zur Erinnerung an Betrugsrisiken einführen wird, die das Gesicht verändert.

Einerseits kommt es häufig zu KI-Betrugsfällen, die das Gesicht verändern, und andererseits iteriert die KI-Technologie, die das Gesicht verändert, immer weiter.

Der KI-Kreis war kürzlich mit einem KI-Projekt beschäftigt, das das Gesicht veränderte – Deep-Live-Cam. Benutzer müssen lediglich ein Foto hochladen, um ihr Gesicht in Echtzeit in die Person zu verwandeln, die sie sein möchten, beispielsweise Zuckerberg oder Dong Yuhui.

Dieses Projekt ist kostenlos und steht allen Benutzern offen, wird auf GitHub (Code-Hosting-Plattform) veröffentlicht und unterstützt die Installation auf PCs. Der Projektentwickler hat die Installationsmethode angekündigt, und normale Menschen ohne technische Erfahrung können sie gleichzeitig erlernen und installieren.

Aufgrund seiner einfachen und komfortablen Bedienung und des hohen Maßes an Realismus bei der Gesichtsveränderung belegte Deep-Live-Cam den ersten Platz auf der GitHub-Hotlist und erhielt in 24 Stunden mehr als 1.600 Sterne (Sterne stehen für Projekt-Likes und Follower-Indikatoren, einige tausend Sterne). ist ziemlich gut) Niveau). Viele Internetnutzer verwandelten ihr Gesicht in Musk und erlebten das Gefühl, ein globaler Milliardär zu sein.

Aber während alle den Durchbruch in der KI-Technologie bedauern, die das Gesicht verändert, sind sie auch besorgt darüber, dass „Betrug einfacher geworden ist“. Sollten wir die Gesichtsveränderung durch KI boykottieren?

KI-Gesichtsveränderung, die normale Menschen nutzen können,

Die Kosten betragen nur ein Dutzend Yuan

Derzeit gibt es im In- und Ausland viele KI-Tools, die das Gesicht verändern. Der Hauptgrund, warum Deep-Live-Cam heiß diskutiert wird, ist, dassBenutzer müssen nur ein Bild hochladen, aber der Ersetzungseffekt ist sehr realistisch und es wird auch die Gesichtsersetzung in Echtzeit unterstützt.

Tatsächlich ist die technische Schwelle für die Funktion „Echtzeit-Gesichtsveränderung“ nicht hoch.

Xiao Zihao, Mitbegründer von Ruilai Intelligence und Algorithmuswissenschaftler, sagte, dass es zwei Möglichkeiten gibt, den Effekt der Gesichtsveränderung in Echtzeit-Videos zu erzielen: Eine besteht darin, ein vorgefertigtes Video zur Gesichtsveränderung abzuspielen, und die andere darin, darauf zuzugreifen das Echtzeitvideo, das das Gesicht verändert. Zu Letzterem gehört Deep-Live-Cam.

Unabhängig vom Typ müssen AI-Videos mit Gesichtsveränderung die Kontinuität des vorherigen und nächsten Frames berücksichtigen, und die Verarbeitung basierend auf kontinuierlichen Gesichtsvideos kann geringfügige Anpassungen basierend auf vielen Erkennungsressourcen des vorherigen Frames vornehmen „Kontinuierliches, bildbasiertes Video/Live-Gesichtswechsel ist effizienter als der Gesichtswechsel in einzelnen Bildern“, sagte ein Forscher, der sich mit KI-Technologie beschäftigt.

Die zugrunde liegende Technologie, auf der die KI-Gesichtsveränderung basiert, ist Deepfake. Praktiker spekulieren, dass auch Deep-Live-Cam diese Technologie verwendet, sodass die Kosten allein aufgrund der für die Herstellung der Synthese erforderlichen Materialien und Rechenleistung nicht sehr hoch sein werden.

Xiao Zihao sagte, dass, wenn man andere Anschaffungskosten für Hardware nicht berücksichtigt, die Kosten für die meisten KI-Gesichtsersatzteile jeweils nur etwa ein Dutzend Yuan betragen, hauptsächlich inklusive Fotos und Rechenleistung, und Deep-Live-Cam könnte sogar noch niedriger sein. Im Vergleich zu anderen KI-Tools zur Gesichtsveränderung verwendet Deep-Live-Cam weniger Fotos. Das Tool unterstützt auch normale Computer und die Kosten für Fotos und Rechenleistung sind geringer.

Im Gegensatz dazu Deep-Live-CamDie Unterstützung der Gesichtsveränderung mit nur einem Bild schockierte die Praktizierenden noch mehr.Denn bei früheren KI-Produkten zur Gesichtsveränderung mussten Benutzer mindestens ein Dutzend Fotos aus verschiedenen Blickwinkeln bereitstellen.

Durch die Reduzierung des Fotoschwierigkeitsgrads können Benutzer Spaß haben. KI-Anhänger Xiao C sagte, dass er noch nie zuvor mit KI-Tools zur Gesichtsveränderung in Berührung gekommen sei. Er sei der Meinung, dass die Bedienschwelle von Deep-Live-Cam nicht hoch sei und durch Befolgen der Anweisungen des Herausgebers erreicht werden könne Es ist auch nicht sehr schwierig, gesichtsverändernde Materialien zu finden.

Er verwandelte sein Gesicht in Prominente wie Guo Degang, Wu Jing, Lei Jiayin usw. und verwendete von jedem von ihnen nur ein Bild. Er sagte, solange Sie ein Foto der Vorderseite, eine freie Stirn, natürliches Licht, nahe an Ihrer eigenen Hautfarbe und die im Passfoto gezeigten Proportionen bereitstellen, wird ein Foto erfolgreich sein und der Gesichtsersatzeffekt wird vorhanden sein sehr natürlich.

Mehr als ein Praktiker glaubt, dass die in einigen Film- und Fernsehdramen verwendete KI-Technologie zur Gesichtsveränderung nicht nur eine hohe Schwelle und hohe Kosten aufweist, sondern auch, dass der Effekt der Gesichtsveränderung nicht natürlich genug ist und es häufig zu Verformungen und Verzerrungen kommt Sprechvorgang. „Ist das das größte Problem bei KI-Tools, die das Gesicht verändern?Deep-Live-Cam kann die Wirkung eines Bildes während der Live-Übertragung unterstützen. Es gibt keine offensichtlichen Spuren der Abbildung an den Rändern des Gesichts und die Wiedergabetreue ist vielen voraus KI-Tools, die das Gesicht verändern.„Xiao Zihao analysierte, dass seine Entwickler einen Durchbruch im Bildrenderingmodell hätten erzielen sollen, den frühere KI-Tools zur Gesichtsveränderung nicht hatten.

Es gibt jedoch immer noch einige Fehler in Deep-Live-Cam, z. B. die Unterstützung des Gesichtswechsels, aber nicht der Stimmänderung. Xiao Zihao sagte jedoch, dass dies nicht schwer zu erreichen sei. Stellen Sie einfach eine Verbindung zum Echtzeit-Sprachänderungstool her, und jeder mit ein wenig Programmierkenntnissen könne es schaffen.

KI verändert das Gesicht,

Betrug und Rechtsverstöße, die sich nicht vermeiden lassen

Tools wie Deep-Live-Cam haben die Schwelle für Benutzer gesenkt, aber alle haben auch begonnen zu befürchten, dass Kriminelle nur ein Bild verwenden können, um Gesichter zu ändern und zu betrügen. Für den Normalbürger wird das Risiko dramatisch steigen.

Ruilai Smart Data wies darauf hin, dass die Zahl der inländischen KI-Betrugsfälle von 0,2 Millionen im Jahr 2020 auf 16,7 Millionen im Jahr 2023 gestiegen sei, mit einer durchschnittlichen jährlichen Wachstumsrate von bis zu 1928,8 %. Im ersten Halbjahr 2024 überstieg die Zahl der KI-Betrugsfälle 185 Millionen. Der von Qi'anxin veröffentlichte „2024 Artificial Intelligence Security Report“ zeigt, dass KI-basierter Deep-Forgery-Betrug im Jahr 2023 um 3.000 % zugenommen hat.

KI-Stimmenveränderung, KI-Gesichtsveränderung und KI-Generierung sind drei häufig verwendete Methoden für KI-Betrug. Darunter weisen KI-generierte Inhalte nur begrenzte Sekunden und offensichtliche Mängel bei der Bildqualität und den Charakteren auf -Changing sind die von Kriminellen am häufigsten verwendeten Methoden. Die meisten Menschen glauben, dass „Sehen Glauben bedeutet“, was die Gesichtsveränderung durch KI trügerischer macht als die Stimmveränderung durch KI.

Die Gesichtsveränderung durch KI hat nicht nur ältere Menschen getäuscht, sondern auch viele junge Menschen, die im Technologiebereich arbeiten, haben über Nacht Millionen verloren.

Öffentlichen Medienberichten zufolge erhielt der CEO eines Technologieunternehmens letztes Jahr eine Transferanfrage von einem Freund und wurde in weniger als 10 Minuten um 4,3 Millionen Yuan betrogen. Der Betrüger nutzte hauptsächlich KI-Technologie zur Gesichtsveränderung. Es gab auch einen Mitarbeiter eines multinationalen Unternehmens in Hongkong, der in eine von Kriminellen geplante Videokonferenz mit leitenden Führungskräften getäuscht wurde und 200 Millionen Hongkong-Dollar auf das Konto der anderen Partei überwies.

Unter Praktikern herrscht Konsens darüber, dass die Gesichtsveränderung durch KI einen Punkt erreicht hat, an dem „sie mit der Realität verwechselt werden kann“.

Li Xu, Leiter des Anti-Betrugs-Teams, sagte, sein Interesse an KI-Technologie, die das Gesicht verändert, sei auf verschiedene Betrugsfälle zurückzuführen. Er sagte, dass es in den letzten zwei Jahren häufig zu KI-Betrugsfällen gekommen sei und es auf dem Markt etwa drei sehr ausgereifte KI-Betrugsmethoden gebe.

Die erste besteht darin, mithilfe von KI Gesichter zu ändern und pornografische Videos zu fälschen, um das Opfer zu erpressen.

Beispielsweise sammeln kriminelle Banden Bilder und Videoinformationen von Opfern über verschiedene Kanäle wie das Internet, führen dann Syntheseprozesse wie das Entfernen von Kleidung mit einem Klick und die Gesichtsveränderung durch KI durch und senden gefälschte, anstößige Videos oder Nacktfotos an die Opfer wegen Erpressung.

Die zweite Art besteht darin, mithilfe von KI das Gesicht zu ändern und sich als Bekannter auszugeben, um Betrug zu begehen.

Betrugsbanden nutzen beispielsweise einige auf dem Markt erhältliche Tools zur Gesichtsveränderung, um sich als Verwandte, Freunde, Kollegen, Anführer usw. des Opfers auszugeben, erfinden zunächst einen Notfallgrund und nutzen die Dringlichkeit des getäuschten Ziels aus, um einen Betrug zu begehen . Es ist leicht, unvorsichtig zu sein und Geld zu überweisen.

Mit Deep-Live-Cam müssen Sie jetzt nur noch ein oder zwei Fotos des Opfers sammeln, um ein Deep-Fake-Video zu erstellen. Li hat sich auch direkt geändert Das Szenario des Telekommunikationsbetrugs ist schwer zu verhindern und wird immer schlimmer.

Drittens wird KI-Gesichtsveränderung eingesetzt, um sich als Berühmtheit auszugeben, um Live-Übertragungen durchzuführen und Benutzer dazu zu verleiten, Bestellungen aufzugeben.

Beispielsweise nutzt der Moderator „KI-Gesichtsveränderung“, um das Gesicht eines Prominenten im Live-Übertragungsraum zu „ändern“, wodurch der Live-Videoverkehr erhöht und der Live-Übertragung geholfen wird, Waren zu verkaufen.

Darüber hinaus kommen Verstöße wie das Erstellen langer und kurzer Videos von Prominenten/normalen Menschen durch KI-Gesichtsveränderung und das Erstellen von Emoticons ohne die Erlaubnis anderer sehr häufig vor.

KI-Betrugsfälle, die das Gesicht verändern, treten häufig und mit unterschiedlichen Methoden auf, was eng mit der Reife und Breite dieser Technologie zusammenhängt.

Wu Jieqian, CEO von Hanhao Technology, sagte gegenüber „Dingjian“,„Derzeit sind KI-Videogenerierung, digitale Menschen und KI-Technologien zur Gesichtsveränderung alle ausgereift, und KI-Gesichtsveränderung ist das am frühesten entwickelte Feld.“

Das Aufkommen der Deepfake-Technologie im Jahr 2014 markierte die Geburtsstunde der KI-Gesichtsveränderung, doch sie verbreitete sich in kleinem Umfang. Erst 2017, als einige Benutzer die Technologie zum Posten falscher pornografischer Bilder nutzten, kam die KI-Gesichtsveränderung Aber gleichzeitig ist diese Technologie wegen der großen Menge an gefälschten Inhalten umstritten.

Mehr als ein Praktiker sagte, dass sich die öffentlichen Diskussionen über KI-Gesichtsveränderung in den letzten Jahren zwar hauptsächlich auf die Rettung von Filmen und Fernsehserien konzentrierten, der Einsatz von KI-Gesichtsveränderung zu Betrugszwecken jedoch aufgrund der schlechten Aufsicht nie aufgehört habe. Darüber hinaus hat sich die KI-Technologie, die das Gesicht verändert, immer weiter entwickelt, und es gibt viele Neueinsteiger. Derzeit sind neben einigen großen Herstellern, die in diesem Geschäft tätig sind, auch viele inländische Digitalleute und KI-generierte Video-Start-ups ein KI-Geschäft entwickelt, das das Gesicht verändert Technologie ist relativ beliebt. Es gibt immer mehr solcher Tools.

Die Technologie ist ausgereift und beliebt, und auch die Aufsicht ist schwierig. Daher wurde die KI-Technologie im Laufe der Jahre missbraucht.

Wie erkennt man immer realistischer werdende KI-Gesichtsvertauschungen?

In den letzten zwei Jahren hat die KI-Gesichtsveränderung zu vielen illegalen und kriminellen Handlungen geführt. Die Unkontrollierbarkeit lässt einige Menschen glauben, dass die KI-Gesichtsveränderungstechnologie boykottiert werden sollte.

Viele Praktiker glauben jedoch, dass die Technologie selbst neutral ist und ihre guten oder schlechten Auswirkungen hauptsächlich vom Benutzer abhängen. Das Aufkommen und die Weiterentwicklung der KI-Technologie, die das Gesicht verändert, sollte nicht gestoppt werden.

Jesse Wu sagte, dass es derzeit keinen einheitlichen Ansatz für KI-Technologien gibt, die das Gesicht im In- und Ausland verändern, sondern dass es eher um die Gesetzgebung geht.

Beispielsweise haben die Vereinigten Staaten spezielle Gesetze zu Deep Forgery eingeführt, die Europäische Union hat Deep Forgery in bestehende Rechtsrahmen und Vorschriften wie die Datenschutz-Grundverordnung integriert, und auch Länder wie Deutschland, Singapur und das Vereinigte Königreich haben es integriert tiefgreifende Fälschungsdelikte in ihre Strafrechtssysteme integrieren. China hat die Spezifikationen für diese Technologie auch in den „Regulations on the In- Depth Synthesis of Internet Information Services“ präzisiert.

Viele Praktiker glauben, dass es sehr wichtig ist, die durch KI und andere Verwaltungsmethoden erstellten Inhalte zu kennzeichnen und der Öffentlichkeit einige Methoden zur Verhinderung von KI-Betrug beizubringen.

Einige Techniker haben beispielsweise einmal vorgeschlagen, dass während eines Videoanrufs die andere Partei gebeten werden kann, ihre Finger auf das Gesicht zu legen und genau zu beobachten, ob das Gesicht deformiert ist, oder die andere Partei bitten kann, den Mund zu öffnen, um zu sehen, ob die Zähne und Zähne sichtbar sind Die Sprache ist klar und vollständig, um festzustellen, ob es sich bei dem Bild um eine reale Person oder eine KI-Synthese handelt.

Diese Methode war letztes Jahr relativ effektiv, aber dieses Jahr ist sie mit der Aufrüstung der KI-Technologie, die das Gesicht verändert, gescheitert.

Xiao Zihao sagte, dass die aktuelle KI-Technologie das Gesicht verändern könneGesichter und Bewegungen verformen sich nicht, wenn Hindernisse auftauchen, und die Bildqualität ist sehr klar.Li Xu entdeckte auch:In jüngsten Fällen von KI-Betrug, bei dem das Gesicht verändert wurde, wurden sehr starke technische Mittel eingesetzt und es ist fast unmöglich, sie allein anhand von Bewegungen zu identifizieren.

Angesichts der rasanten Entwicklung der KI-Technologie, die das Gesicht verändert, glaubt Li Xu, dass die Erhöhung der Wachsamkeit derzeit eine relativ wirksame Methode ist. Wenn Sie beispielsweise einen Videoanruf von einem Bekannten erhalten, um sich Geld zu leihen, können Sie der anderen Partei einige private Fragen stellen, die nur die andere Partei kennt, und weitere Personen in Ihrem Umfeld um eine Verifizierung bitten.

Einige Praktiker sind der Meinung, dass der Einsatz von KI zur Identifizierung von KI ein guter Weg sein könnte.

Überprüfen Sie beispielsweise zunächst, ob das Bild Elemente enthält, die offensichtlich gegen den gesunden Menschenverstand verstoßen, und konzentrieren Sie sich dabei auf Fehler an den Gesichtsrändern. Verwenden Sie dann einige KI-Tools. Xiao Zihao glaubt, dass der Einsatz von KI zur Erkennung von KI die überwiegende Mehrheit der Betrügereien identifizieren kann. Derzeit haben sich viele Unternehmen und Regierungsbehörden an sie gewandt, um mit KI-Gesichtsverändernden Abwehrsystemen zusammenzuarbeiten.

Dieser Schritt hat jedoch auch im In- und Ausland für einige Kontroversen gesorgt.

Erstens gibt es für diese Methode eine bestimmte Nutzungsschwelle, und Benutzer müssen relevante Anwendungen auf ihre Mobiltelefone/Computer herunterladen. Zweitens gibt es im Wesentlichen eine gewisse Verzögerung bei dieser Art von Verteidigungsinstrumenten, die hauptsächlich auf aktuelle KI-Tools reagieren, die das Gesicht verändern. Allerdings ändern sich die Technologien und Synthesemethoden der KI ständig.

Viele Menschen hoffen auf die Verbesserung der einschlägigen Gesetze und Vorschriften, beispielsweise auf eine Erhöhung der Strafen für illegale Aktivitäten wie KI-Gesichtsveränderungsbetrug, den Verkauf von Gesichtsveränderungs-Pornografievideos durch KI und den Verkauf von Waren durch Gesichtsveränderungsprominente.

Letztes Jahr entschied das Volksgericht des Bezirks Xiaoshan, Hangzhou, über einen Fall, in dem es um die Verwendung von KI-Gesichtsveränderung zur Produktion obszöner Videos ging Jin Qun nutzte auch KI-Methoden zur Gesichtsveränderung, um die Zuschauer zum Bezahlen zu bewegen. Der Gesamtbetrag in dem Fall betrug mehr als 60.000 Yuan, und er wurde schließlich zu sieben Jahren und drei Monaten Gefängnis und einer Geldstrafe von 60.000 Yuan verurteilt.

Ich möchte jedoch alle daran erinnernNicht jede KI-Gesichtsveränderung verstößt gegen die Porträtrechte.

Im Juni dieses Jahres verkündete das Pekinger Internetgericht zwei Fälle von Verletzung des KI-Gesichtswechsels. Zwei Kurzvideomodelle im chinesischen Stil stellten fest, dass ihre Videos in einer gesichtsverändernden APP auf sozialen Plattformen erschienen, und verklagten daher das Technologieunternehmen hinter der APP. Das Gericht kam zu dem Schluss, dass dadurch sein Porträtrecht und seine Persönlichkeitsrechte verletzt worden seien.

Das Gericht kam zu dem Schluss, dass die Beklagte ein Video verwendet hatte, in dem der Kläger auftrat. Da das Gesicht des Klägers in dem betreffenden Video jedoch ersetzt worden war, stellte dies keine Verletzung der Porträtrechte des Klägers dar. Daher stellte es lediglich fest, dass dieser Schritt eine Verletzung darstellte Verletzung der persönlichen Informationsrechte des Klägers.

Derzeit wird die KI-Technologie zur Gesichtsveränderung noch weiterentwickelt und ist noch nicht verboten. KI-Tools zur Gesichtsveränderung sind immer noch in großer Zahl auf dem Markt im Umlauf.

„Dingjiao“ hat kürzlich direkt auf einer E-Commerce-Plattform nach „AI face-changing“ gesucht und konnte keine Informationen finden. Solange sich die Schlüsselwörter jedoch leicht ändern, können verwandte Tools zur Gesichtsveränderung weiterhin zum Verkauf gefunden werden Der Weg ist geheimnisvoller, er wird für Transaktionen zu einer Second-Hand-Website springen. In einer Zeit, in der sich Technologie und Täuschung ständig weiterentwickeln, kann jeder wachsamer sein, um zu verhindern, dass er durch KI-Gesichtsveränderung geschädigt wird.

*Das Titelbild und die Begleitbilder im Artikel stammen von Pexels.