Nachricht

„Vor einiger Zeit schickte jemand eine private Nachricht, in der er sagte, er habe mein Foto gesehen und mich gefragt, ob ich privat ans Telefon gehen könne. Ich habe sorgfältig gesucht und festgestellt, dass das sogenannte Foto von der KI synthetisiert wurde, nachdem Blogger Xiao dies erlebt hatte.“ K (Pseudonym) hat immer noch Ängste.

In den letzten Jahren hat die KI-Technologie nach und nach Einzug in das Leben von immer mehr Menschen gehalten, aber einige Menschen mit krummen Ideen haben auch Geschäftsmöglichkeiten gesehen. Eine Untersuchung des Beijing News Shell Finance-Reporters ergab, dass es derzeit viele „KI-entkleidende“ Fotogruppen gibt, die Internet-Prominente und -Schauspielerinnen auf der Schwarz-Grau-Produktplattform verkaufen. Laut Praktikern der schwarzen und grauen Industrie können 5 Yuan „Kleidung ausziehen“ und 20 Yuan eine „Video-Gesichtsveränderung“ bewirken. In dieser Industriekette gibt es auch Praktiker, die durch auffällige Fotos Besucher anziehen und dann durch „Mitgliedergruppen“-Dienste Gewinne erzielen. Darüber hinaus gibt es Videoautoren auf Plattformen wie Bilibili und Xiaohongshu, die mit Titeln wie „AI Undressing Tutorial“ auf sich aufmerksam machen.

In diesem Zusammenhang sagte Zhao Hu, ein Partner der Anwaltskanzlei Beijing Zhongwen, dass der Verkauf von Bildern von KI-Entkleidung oder KI-Gesichtsveränderung gegen die Bestimmungen des Strafgesetzes der Verwaltung für öffentliche Sicherheit verstoße und die Täter mit Verwaltungsstrafen wie Haft oder Geldstrafen rechnen müssten und kann auch strafrechtlich zur Verantwortung gezogen werden. Auch wenn die Bilder nicht verkauft, sondern lediglich verbreitet werden und die Umstände schwerwiegend sind, stellt die Verbreitung obszönen Materials dennoch ein Verbrechen dar und wird gemäß dem Gesetz auf entsprechende strafrechtliche Verantwortlichkeit untersucht. Lehrtechnik steht im Verdacht der Beihilfe zu Straftaten. Darüber hinaus gehen die von den Tätern durchgeführten Handlungen der KI-Kleidungsentfernung und KI-Gesichtsveränderung auch mit der Verletzung persönlicher Daten der Bürger einher.

„Es gibt keinen wesentlichen Unterschied zwischen der Verwendung von KI für tiefgreifende Fälschungen und der traditionellen technischen Fälschung, aber die Effizienz ist viel höher als bei herkömmlichen Fälschungsmethoden und die technische Schwelle ist viel niedriger, was es für normale Menschen einfacher macht, dies zu erreichen und zu funktionieren.“ „Die Verbreitung tiefer Fälschungen wird das Internet weiter überschwemmen.“ Pei Zhiyong, Direktor des Industry Security Research Center der Qi'anxin Group, sagte dem Reporter von Beijing News Shell Finance, dass Anti-Fälschungstechnologie für Fotos und Videos aktiv erforscht und gefördert werden sollte.

Multiplattform-Internet-Prominente stoßen auf „Ausziehen“, um Verkehr anzulocken: 5 Yuan individuelle Fotos

Nach einer einfachen Untersuchung fand Little K schließlich die Quelle der Weitergabe seiner Fotos: Jemand nutzte seine „KI-Ausziehfotos“, um Besucher auf ausländischen sozialen Plattformen und pornografischen Websites anzulocken und um KI-Bildbearbeitungsdienste zu verkaufen.

Die Erfahrung von Little K ist nicht einzigartig. Bereits im März letzten Jahres wurde ein von einem Xiaohongshu-Blogger in der U-Bahn aufgenommenes Foto durch künstliche Intelligenz „entkleidet“ und in einer WeChat-Gruppe verbreitet. Im Kommentarbereich dieser Bloggerin beschwerten sich viele Frauen über ähnliche Erfahrungen, zeigten Mitgefühl füreinander und konnten ihre Gefühle nicht verbergen.

Reporter von Shell Finance suchten nach Hinweisen und fanden einen Verkäufer, der „KI-Stripping“ durchführte. Die andere Partei sagte, dass Sie für weitere 5 Yuan einen „Kleidungsentfernungsservice“ anbieten können, wenn Sie ein Foto zur Verfügung stellen. Wenn das Foto den Effekt nicht erzielen kann, kontaktieren Sie uns bitte, um das Foto zu ändern. Darüber hinaus können Sie für 20 Yuan auch „Video-Gesichtsveränderung“ erhalten.

Der Verkäufer sagte: „In letzter Zeit gab es zu viele ‚Ausziehbefehle‘, und ich kann mir nicht einmal die Mühe machen, einen Gesichtsaustausch durchzuführen.“

Screenshot des Chatverlaufs zwischen dem Beijing News Shell Finance-Reporter und dem „AI-Stripping“-Verkäufer.

Der Missbrauch der „KI-Entkleidungs“-Technologie in der Pornografie lässt sich auf eine im Jahr 2020 im Ausland veröffentlichte Software zurückführen. Aufgrund von Kontroversen wurde sie vom Entwickler schnell aus den Regalen genommen. Trotzdem wird diese Technologie immer noch von einigen Kriminellen genutzt, um Geld zu verdienen.

Im Juni dieses Jahres untersuchte die Pekinger Polizei einen Fall, in dem ein Techniker, der einst für ein Internetunternehmen arbeitete, behauptete, dass „Computer-KI Kleidung zu einem Schnäppchenpreis ausziehen kann“ und „von Menschen in Ihrer Umgebung, Internet-Prominenten und Prominenten genutzt werden kann“. ", und verdiente damit zusätzliches Geld. Fotos kosten nur 1,50 $. Er verkaufte verwandte Bilder über das Internet an 351 Personen, insgesamt also fast 7.000 Bilder. Schließlich wurde er von der Staatsanwaltschaft des Bezirks Haidian in Peking wegen der gewinnorientierten Verbreitung obszöner Materialien angeklagt.

Eine Untersuchung eines Reporters von Shell Finance ergab, dass „KI-Ausziehen“ mittlerweile eine Industriekette gebildet hat, die den Verkauf von KI-Deep-Fake-Bildern, bezahlten KI-„P-Bildern“ normaler Fotos und der Vermittlung von „Techniken“ zum Erreichen des Ausziehens umfasst.

Darüber hinaus haben schwarze und graue Produkte bereits bekannte Persönlichkeiten wie weibliche Internet-Prominente und weibliche Stars ins Visier genommen, und „KI-Ausziehen“ ist zu einem Verkehrspasswort geworden.

Reporter von Shell Finance fanden heraus, dass es in dieser Gruppe fast 15.000 Mitglieder auf einer schwarz-grauen Produktplattform namens „Internet Celebrity XX's Clothes Removal Exchange Group“ gibt. Einige bekannte weibliche Internet-Prominente haben meist Bilder von sich selbst, wie sie sich ausziehen.

Reportern von Shell Finance fiel auf, dass diese Gruppe zunächst nur „KI-Stripping“ bei einigen Bildern berühmter Internet-Schönheiten durchführte und sich später nach und nach auf die Unterhaltungs- und Sportkreise ausweitete. Die gewinnbringende Methode dieser Art von „Kommunikationsgruppe“ ist auch relativ einfach. Schwarze und graue Branchenpraktizierende werfen zunächst einige Fotos in die Gruppe, um Mitglieder zum Kauf des „Mitgliedschaftsgruppen“-Dienstes zu bewegen.

Bilibili und Xiaohongshu haben immer noch „KI-Tutorials zum Ausziehen“ Anwalt: Das Unterrichten von Technologie kann ein Nebenverbrechen darstellen

Der Reporter stellte fest, dass nach der Reife der KI-Generierungsmodelltechnologie die entsprechende Funktion zum „Ausziehen mit einem Klick“ von Internetnutzern aus einem bekannten ausländischen Open-Source-KI-Generierungsmodell „entwickelt“ wurde und sich allmählich verbreitete. Obwohl mit der Verbesserung der Regulierungsvorschriften in verschiedenen Ländern das große Modell Anweisungen wie „Ausziehen“ überarbeitet hat. Reporter von Shell Finance suchten jedoch nach Bilibili und Xiaohongshu und stellten fest, dass es immer noch einige „KI-Auszieh-Tutorials“-Videos gibt. Obwohl es sich bei einigen tatsächlich um KI-„Kleidungswechsel“ handelt, bedeutet dies auch, dass diese Art von Technologie immer noch weit verbreitet ist.

Der Reporter durchsuchte die Ergebnisse auf einer Video-Website mit verwandten Schlüsselwörtern wie „KI entkleidet sich“.

In dieser Hinsicht sind viele einheimische Internet-Prominente ziemlich hilflos. Im Mai letzten Jahres veröffentlichte eine beliebte Bloggerin mit mehr als 500.000 Followern eine Beschwerde: „Viele Menschen haben erlebt, dass Bilder gestohlen und in externen Netzwerken veröffentlicht wurden, um Traffic anzulocken und Videos zu verkaufen, sowie Fotos und andere pornografische Bilder eingestellt wurden.“ Menschen mit einem anspruchsvollen Auge können auf den ersten Blick erkennen, dass diese Gerüchte auf niedriger Ebene falsch sind. Ich schenke ihnen normalerweise keine Beachtung. Erst als die Zahl der privaten Nachrichten plötzlich zunahm, bemerkte ich, dass der „Rhythmus“ zunahm. dass ich die Gerüchte widerlegen musste.“

Zhao Hu sagte Reportern von Shell Finance, dass der Verkauf von Bildern, auf denen KI sich auszieht oder Gesichter wechselt, gegen die Bestimmungen des Strafgesetzes der Behörde für öffentliche Sicherheit verstößt, was das Verbrechen der Herstellung und des Verkaufs von pornografischem Material mit Gewinn darstellen kann. Wenn die Bilder nicht verkauft, sondern nur verbreitet werden, stellt die Verbreitung obszöner Materialien unter schwerwiegenden Umständen immer noch eine Straftat dar. Das Unterrichten von Technologie kann ein Beihilfedelikt darstellen.

„Geld für die ‚Anpassung‘ von KI-Ausziehbildern zu verlangen, stellt möglicherweise das Verbrechen dar, obszöne Materialien mit Gewinn zu produzieren, zu kopieren, zu veröffentlichen, zu verkaufen und zu verbreiten.“ Persönliche Daten der Bürger. Sobald diese Informationen durchsickern oder missbraucht werden, stellen sie eine ernsthafte Bedrohung für die Privatsphäre und Sicherheit dar.

„Es muss klar sein, dass der Einsatz von KI-Tools zur Fälschung viel effizienter ist als herkömmliche Fälschungsmethoden, aber die technische Hürde ist viel niedriger. Wie das Sprichwort sagt: Wenn man ein Gerücht verbreitet, verliert man die Beine, wenn man es widerlegt.“ Pei Zhiyong sagte gegenüber Shell Finance Reporters, dass KI-Deepfake-Videos und -Bilder derzeit durch professionelle technische Mittel oder Expertengutachten identifiziert werden können, aber die Kosten seien auch sehr hoch: „Mit der kontinuierlichen Weiterentwicklung der Technologie ist es unvermeidlich, dass die Authentizität von KI verloren geht.“ generierte oder synthetisierte Videos können nicht authentifiziert werden.“

Obwohl es seiner Ansicht nach unrealistisch ist, Menschen daran zu hindern, KI zur Generierung gefälschter Videos oder Bilder zu verwenden, bedeutet dies nicht, dass man nichts gegen gefälschte Videos oder Bilder unternehmen kann. „Das Land verfügt über sehr ausgereifte Verwaltungsmethoden für pornografische Online-Videos und -Bilder. Auch wenn die Technologie nicht zur Identifizierung der Authentizität eines Bildes eingesetzt werden kann, kann sie die Verbreitung pornografischer Inhalte von der Plattform aus verhindern und die Quelle der Verbreitung pornografischer Inhalte lokalisieren.“ Inhalt und Durchführung von Razzien.

Pei Zhiyong sagte, dass Internetplattformen den Datenverkehr nicht einseitig verfolgen können, sondern sich unter Anleitung entsprechender Gesetze aktiv an der Netzwerkverwaltung beteiligen und den Umfang der Verbreitung relevanter Informationen wirksam einschränken sollten. Nicht überprüfte wichtige Informationen sollten mit der Kennzeichnung „nicht überprüft“ auf „mäßig“ gekennzeichnet werden das Risiko einer Irreführung der Öffentlichkeit verringern.

Pei Zhiyong ist der Ansicht, dass Fälschungsschutztechnologien für Fotos und Videos aktiv erforscht und gefördert werden sollten: „Wenn beispielsweise ein bestimmtes Mobiltelefon einer bestimmten Marke, eines bestimmten Modells und einer bestimmten Seriennummer zum Aufnehmen eines Fotos verwendet wird, wird die Fotodatei verwendet Eine Textfolge, die für das bloße Auge unsichtbar ist, aber von der Maschine erkannt werden kann. Unabhängig davon, ob jemand dieses Foto ändert, sei es eine KI-Änderung oder eine manuelle Änderung, kann das Verifizierungssystem erkennen, dass es sich nicht um das Originalbild handelt . Diese Methode ist keine neue Technologie, erfordert jedoch eine ausgereifte Kryptographie-Technologie und eine umfassende Popularisierung.“

Sun Yue, Gründer und CTO von Beijing Core Shield Times Technology Co., Ltd., sagte in einem Interview mit einem Reporter von Shell Finance, dass Deep-Fälschungstechnologie weit verbreitet sei und biometrische Merkmale wie Stimmen und Gesichter ihre ursprüngliche hohe Zuverlässigkeit verloren hätten Authentifizierungsattribute. Wenn Sie den dadurch verursachten Schaden durch Technologie verhindern möchten, wird empfohlen, dass große Systemplattformen die Identitätsauthentifizierung von Anwendungssystemen stärken, um dem Risiko von Identitätsfälschungen zu widerstehen, was durch Multi-Faktor-Identität erreicht werden kann Authentifizierung, Terminalrisikobewusstsein, Big-Data-Analyse usw. Produkttechnologie kann in Kombination mit Benutzerverhaltensmodellierung, kausaler Inferenz von Wissensgraphen und anderen Mitteln Identitätsrisiken, die durch tiefe Fälschung verursacht werden, wirksam widerstehen.

„Für eine gesunde Entwicklung der KI sollten die Regierung und die Regulierungsbehörden der Industrie in Zukunft zunächst die relevanten Gesetze und Vorschriften aktiv verbessern und die Forschung und Entwicklung verstärken.“ Darüber hinaus sollten relevante Abteilungen und Nachrichtenmedien auch die Betrugsbekämpfungspropaganda verstärken, das Sicherheitsbewusstsein der Menschen verbessern und zusammenarbeiten, um die persönliche und Eigentumssicherheit der Menschen zu schützen „, sagte Sun Yue gegenüber Reportern von Shell Finance.

Kontakt-E-Mail des Reporters: [email protected]

Beijing News Shell Finance-Reporter Luo Yidan, Redakteur Wang Jinyu, liest Yang Li Korrektur