fünf große chaos bei ki-generierten fotos ②｜geschäft mit „pornografischen fotos“: gesichtsveränderung und entkleiden, wiederholte verbote, aber schwer zu stoppen
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
in einer zeit, in der ki allgegenwärtig ist und die eintrittsbarrieren nahezu unbegrenzt sind, ist sie in der tat nicht „trendy“ genug, wenn sie noch nicht versucht haben, ki zur generierung von bildern oder videos (im folgenden gemeinsam als ki-generierte bilder bezeichnet) zu verwenden.
wie andere neue technologien war auch die ki-bildgebungstechnologie seit ihrer geburt voller kontroversen, blumen und dornen begleiten sie auf ihrem weg. befürworter sehen darin eine disruptive technologische revolution, während gegner darin eine geißel sehen. insbesondere in den letzten zwei jahren sind große ki-datenmodelle, die durch chatgpt und sora repräsentiert werden, zu einem beliebten trend geworden und werden von immer mehr internetnutzern nachgefragt. während es den menschen große bequemlichkeit, überraschung und trost bringt, bringt es unweigerlich auch viele negative probleme mit sich, wie zum beispiel, dass es absurd, nervig und sogar illegal ist.
ki ist unschuldig, der schlüssel liegt in der art und weise, wie man sie nutzt. nur wenn die grundsätze von ethik und rechtsstaatlichkeit eingehalten werden, kann die technologie der menschheit einen größeren nutzen bringen. heute veröffentlicht upstream news einen sonderbericht zum thema „fünf chaos bei der ki-bildgenerierung“, der sich auf die verschiedenen chaos konzentriert, die in den letzten jahren im bereich der ki-bildgenerierung aufgedeckt wurden, die ursachenverfolgung, die analyse von ursache und wirkung und die suche nach lösungen um zur gesunden entwicklung der ki-branche beizutragen.
im februar 2024 erhielt herr shang (pseudonym), der im bezirk yubei in chongqing lebt, plötzlich eine sms mit einem schwarz-weißen nacktfoto. auf dem bild hält herr shang eine junge frau auf dem arm, die auf einem bett in einem hotel liegt, mit dem nachsatz „ich habe alle ihre bilddaten, bitte kontaktieren sie mich schnell“ und einer telefonnummer. da er sich normalerweise sauber hält und mit gesundem menschenverstand wie internetbetrug und ki-gesichtsveränderung vertraut ist, wusste herr shang, dass er von kriminellen betrogen wurde, die ki zur generierung von fotos nutzten, ignorierte ihn aber auch. er erzählte seiner frau davon erfahrung und teilte es mit seiner wechat-freundesgruppe, erntete viel gutmütigen spott. in diesem zusammenhang sagte herr shang einem reporter von upstream news (berichts-e-mail: [email protected]): „ich weiß, dass das bild von der ki synthetisiert wurde, indem das gesicht auf meinem ausweis verwendet wurde, um einen nackten körper zu erstellen.“ ich frage mich, wo diese betrüger mein ausweisfoto und meine handynummer gefunden haben?“ eine untersuchung eines upstream-nachrichtenreporters ergab, dass berichten mehrerer medien und der polizei zufolge in den letzten jahren ähnliche ki-gesichtstausch-betrügereien stattgefunden haben und viele menschen glaubten, sie seien wahr, was dazu führte, dass sie um riesige mengen an vermögenswerten betrogen wurden sogar ihre familien auseinanderbrechen. auch viele kriminelle, die bilder und videos produzierten, verbreiteten und betrug begingen, wurden vom gesetz hart bestraft.
opfer: einige wurden um geld betrogen und bei einigen wurde das gesicht verändert.
obwohl herr shang aus chongqing erpressende sms von kriminellen erhielt, konnte er mit glück entkommen. im gegensatz dazu wurde auch herr wang aus weihai in der provinz shandong mit demselben betrug konfrontiert. er wurde um 680.000 yuan gebeten und musste schließlich 200.000 yuan überweisen.
der inhalt der sms, die herr wang erhielt, war fast genau derselbe wie der von herrn shang. ohne lange nachzudenken, wählte er die nummer in der sms. die gegenpartei gab seinen namen und seinen arbeitsplatz genau an und teilte herrn wang mit, dass er die videos durch eine überweisung von 680.000 yuan aufkaufen könne, wenn er nicht zahle, würden die videos veröffentlicht. unter der drohung der anderen partei glaubte herr wang es. anschließend sammelte herr wang gelder von mehreren parteien und überwies 200.000 yuan. allerdings können diese 200.000 yuan den appetit der anderen partei überhaupt nicht stillen. später kontaktierte die polizei herrn wang.
nach sorgfältiger beobachtung stellte die polizei, die den fall untersuchte, fest, dass das gesicht auf dem foto in der sms zwar herrn wang ähnelte, die gesichtsform und die körperform jedoch völlig anders waren als seine. anschließend führte die polizei schnell eine notzahlungssperre auf den beiden von herrn wang übertragenen bankkonten durch. nach recherche und analyse des sammelkontos sperrte die polizei die identitätsinformationen der kriminellen verdächtigen zheng und zhong. im januar dieses jahres nahm die polizei von weihai zwei verdächtige fest und stellte sie vor gericht.
herr shang und herr wang wurden opfer von sms-betrug und ihre avatare wurden von der ki in nacktfotos umgewandelt.
nach angaben der polizei von weihai sammelte der verdächtige in diesem fall zunächst videos, fotos und zugehörige informationen des opfers über das internet und andere kanäle. verwenden sie dann die ki-technologie zur gesichtsveränderung, um sogenannte „unanständige videos“ oder „nacktfotos“ zu synthetisieren, und senden sie sie dann präzise per sms, e-mail und anderen kanälen an die ausgewählten objekte. schließlich möchten sie kontaktinformationen hinterlassen melden, verbreiten und informieren sie ihre familien und andere mittel, um die ausgewählten ziele zu bedrohen, und verlangen sie von den opfern, geld auf ihre angegebenen bankkonten zu überweisen. die polizei erinnerte daran, dass sie in einer solchen situation auf die sicherung von beweismitteln achten und rechtzeitig die polizei rufen müssen.
im vergleich zu männern sind junge und schöne frauen, insbesondere bekannte weibliche internet-prominente, eher von der ki-gesichtsveränderung und der „ein-klick-kleidungsentfernung“ betroffen. fotos und videos werden sogar in kostenpflichtige inhalte zum verkauf umgewandelt. im juli letzten jahres entdeckte eine prominente internet-bloggerin mit mehr als 4 millionen fans, dass viele fans nachrichten hinterlassen hatten, in denen sie sagten, sie hätten ihre „pornografischen videos“ gesehen. „ich habe damals nicht viel darüber nachgedacht innocent wird sich selbst prüfen und die gerüchte werden irgendwann verschwinden. „erst als eine freundin eines tages ein pornografisches video weiterleitete, in dem die heldin wie sie aussah, wurde ihr klar, dass sie böswillig „gesichtsverändert“ worden war und dass sie es getan hatte zu einem pornografischen video verarbeitet wurde.
den damaligen medienberichten zufolge wurden in der preisliste des verkäufers hunderte von internet-prominenten nach der anzahl der fans aufgeteilt, die von weniger als 500.000 fans bis zu mehr als 10 millionen fans reichten, und die entsprechenden face-swap-pornovideos verkauft für 30 yuan bis 50 yuan variiert nicht. darüber hinaus sind viele weibliche stars in der tabelle vertreten. ein verkäufer sagte, er besitze mehr als 80 prominente und mehr als 15.000 bilder. wenn sie alle kaufen, beträgt der preis nur 60 yuan und 23 videos werden verschenkt. der verkäufer sagte auch, dass beim kauf eines gesichtstauschbildes einer einzelnen berühmtheit die gebühr entsprechend der menge berechnet wird. sie können 300 fotos für 5 yuan kaufen.
darüber hinaus sind viele fotos von gewöhnlichen frauen in alltäglichen szenen wie schulen, einkaufszentren, büros, u-bahnen usw. zum ziel von gesichtsdiebstahl geworden. sie wurden von der ki verändert oder ausgezogen tausende oder sogar zehntausende verwandter bilder.
ein foto einer jungen frau in guangzhou, die während einer u-bahn-fahrt mit einem klick „ausgezogen“ wurde.
produzent: fast 7.000 nacktfotos zum preis von 1,5 yuan pro stück gefälscht
als produzenten pornografischer und obszöner inhalte wurden viele im internet versteckte urheber strafrechtlich streng bestraft.
im juli dieses jahres berichtete cctv news über einen illegalen fall, bei dem fast 7.000 pornografische bilder mithilfe von ki-technologie gefälscht wurden. der kriminelle verdächtige bai moumou lebt in peking und war ursprünglich techniker bei einem internetunternehmen. er nutzte die ki-technologie „kleidungsentfernung mit einem klick“, um fast 7.000 obszöne bilder zu fälschen und sie zu einem preis von 1,5 yuan pro stück zu verkaufen. auf den bildern sind zahlreiche frauen zu sehen, darunter schülerinnen, lehrerinnen und kolleginnen. die staatsanwaltschaft ist der ansicht, dass der angeklagte bai moumou aus profitgründen obszöne materialien hergestellt und verkauft hat und dass sein verhalten gegen die einschlägigen bestimmungen des strafrechts der volksrepublik china verstößt das verbrechen, obszöne materialien mit gewinn zu produzieren und zu verkaufen.
ein mann in peking produzierte fast 7.000 obszöne bilder und verkaufte sie für 1,5 yuan pro stück.
nach angaben der volksstaatsanwaltschaft der stadt hangzhou wurde yu, ein in den 1980er jahren aus der provinz anhui geborener mann, im april letzten jahres wegen des verdachts der herstellung und verbreitung obszöner materialien aus profitgründen strafrechtlich verfolgt. yu interessierte sich bereits im jahr 2020 für diese technologie, als „ki-gesichtsveränderung“ gerade erst aufkam, und er beherrschte diese technologie auch durch selbststudium. später registrierte yu ein konto auf einer ausländischen sozialen plattform und gründete eine gruppe. wenn andere der „internen gruppe“ beitreten möchten, müssen sie einen „mitgliedsbeitrag“ zwischen 198 yuan und 498 yuan zahlen kann viele menschen sehen, die ki verwenden. pornografische videos, die mit face-swapping-technologie erstellt wurden, können auch „persönlich angepasst“ werden, indem unterschiedliche bilder weiblicher prominenter entsprechend den bedürfnissen der kunden verwendet werden. in nur wenigen monaten verdiente yu zehntausende yuan.
in der von yu eingerichteten öffentlichen gruppe untersuchten die organe der öffentlichen sicherheit mehr als 1.200 pornografische videos und mehr als 1.600 bilder. nach der identifizierung handelte es sich bei allen oben genannten materialien um pornografisches material. im november letzten jahres befand das volksgericht des bezirks xiaoshan der stadt hangzhou den angeklagten yu für schuldig, obszöne materialien aus profitgründen hergestellt und verbreitet zu haben. er wurde zu sieben jahren und drei monaten gefängnis und einer geldstrafe von 60.000 yuan verurteilt.
junge und schöne frauen sind anfällig dafür, opfer einer gesichtsveränderung durch ki zu werden, und einige unternehmen bieten sogar „maßgeschneiderte dienstleistungen“ an.
umfrage: software ist schwer zu kaufen, tieba wurde gesperrt
bisherigen medienberichten zufolge soll im jahr 2023 entsprechende software mit der funktion „kleiderausziehen mit einem klick“ auf vielen plattformen verfügbar sein. viele internetnutzer kaufen und tauschen ihre erfahrungen auch online mit verwandter software und produkten aus.
ein bestimmtes produkt ist beispielsweise deutlich gekennzeichnet: „diese software kann die funktion realisieren, echte menschen in cartoons umzuwandeln, köpfe zu wechseln und kleidung zu wechseln.“ diese software kostet nur 16,66 yuan und der monatliche umsatz beträgt mehr als 200 bestellungen. jemand fragte im kommentarbereich des ladens: „kann man sich wirklich ausziehen?“ viele leute antworteten: „ja.“
zu diesem zeitpunkt gab es in der beitragsleiste namens „deepfake“ mehr als 9.000 beiträge zum thema gesichtsveränderung durch ki, die eine große anzahl von verkaufsinformationen zu gesichtsveränderungsvideos von prominenten enthielten. ein benutzer namens „synthetic alliance“ verkauft in der gruppe offen pornografische videos mit face-swapping, wobei sich mehr als 150 videos auf der liste befinden, und sagt: „der preis beträgt nur 58 yuan.“
ein upstream-nachrichtenreporter durchsuchte die deepfake-post-leiste und stellte fest, dass die post-leiste blockiert worden war. der reporter suchte auf mehreren e-commerce-plattformen nach den schlüsselwörtern „ki-gesichtsveränderung“ und „kleiderentfernung mit einem klick“, aber keines davon wurde angezeigt. in einigen geschäften gibt es viele softwareprodukte mit funktionen wie „intelligentes löschen“ und „intelligente bilderweiterung“, aber die ladenbesitzer antworteten, dass sie nicht über die funktion „kleiderentfernung mit einem klick“ verfügen. der reporter bemerkte jedoch, dass ein verkäufer in zhejiang eine software namens „clothing changing artifact“ für 18,80 yuan verkaufte und behauptete, dass „sie leicht zu handhaben sei, sei es beim umziehen oder beim neuanstrich“.
der reporter kontaktierte den verkäufer per privatnachricht. auf die frage „kann ich meine kleidung ausziehen?“ war der verkäufer sehr vorsichtig: „sagen sie es nicht so unverblümt, wir überwachen es!“ dann sagte er vage: „sie können zu y (kleidung) gehen.“ nachdem der reporter die erforderliche zahlung geleistet hatte, gab der händler folgendes heraus: hier finden sie eine anleitung zum herunterladen von netzwerkfestplatten und zur verwendung.
der reporter befolgte die anweisungen des händlers und stellte fest, dass die app tatsächlich die funktion „kleiderentfernung mit einem klick“ realisieren kann.
auf einer bestimmten second-hand-handelsplattform gibt es immer noch händler, die heimlich software mit der funktion „kleiderentfernung mit einem klick“ verkaufen.
aussage des anwalts: bei besonders schwerwiegenden umständen beträgt die höchststrafe lebenslange freiheitsstrafe
der reporter stellte fest, dass es in einigen foren immer noch internetnutzer gibt, die heimlich nach kostenloser software zum entfernen von kleidung mit einem klick suchen. stehen händler, die entsprechende software veröffentlichen oder verkaufen, im verdacht, gegen das gesetz zu verstoßen oder sogar eine straftat zu begehen? wenn internetnutzer software verwenden, um relevante fotos und videos zu erstellen und zu veröffentlichen, ist es dann ein verstoß gegen das gesetz, wenn sie nur dazu verwendet werden, sie zum „vergnügen“ zu speichern? welche strafe droht ihnen, wenn sie es teilen?
fu jian, ein bekannter strafverteidiger und direktor der anwaltskanzlei henan zejin, erklärte gegenüber reportern, dass aktivitäten wie das anfertigen von bildern und videos und der verkauf von software zur „ein-klick-kleidungsentfernung“ eine verletzung der privatsphäre und des porträtrechts darstellen dies ist illegal oder sogar kriminell und kann mit strafrechtlichen sanktionen geahndet werden. erstens werden händler, die entsprechende software verkaufen, verdächtigt, obszöne materialien zu produzieren, zu verkaufen und zu verbreiten. gemäß den bestimmungen des strafgesetzbuchs sind diejenigen, die obszöne materialien mit der absicht produzieren, kopieren, veröffentlichen, verkaufen oder verbreiten, in der lage, gewinne zu erzielen wird zu einer freiheitsstrafe von nicht mehr als drei jahren, strafrechtlicher inhaftierung oder überwachung verurteilt und wird außerdem mit einer geldstrafe belegt, wenn die umstände schwerwiegend sind, wird er zu einer freiheitsstrafe von mindestens drei jahren und nicht mehr verurteilt wenn die umstände besonders schwerwiegend sind, wird er zu einer freiheitsstrafe von mindestens zehn jahren oder zu lebenslanger freiheitsstrafe verurteilt und wird ebenfalls mit einer geldstrafe belegt oder sein eigentum wird eingezogen.
zweitens ist das recht auf das porträt einer natürlichen person gesetzlich geschützt. ohne die zustimmung der natürlichen person darf das porträt einer anderen person nicht direkt verwendet werden. wenn internetnutzer software verwenden, um relevante fotos und videos zu erstellen und zum „vergnügen“ zu speichern, stehen sie auch im verdacht, die porträtrechte anderer menschen zu verletzen. wenn es nach der produktion auf wechat-gruppen oder sozialen plattformen geteilt wird, besteht der verdacht, dass es die porträt- und reputationsrechte anderer personen verletzt, und sie müssen eine bestimmte zivilrechtliche haftung tragen. sein verhalten steht im verdacht, gegen das „public security management punishment law“ zu verstoßen, und in schwerwiegenden fällen könnte er verdächtigt werden, obszöne materialien zu verbreiten. abhängig von der schwere der umstände können ihnen strafen wie eine befristete freiheitsstrafe, eine strafrechtliche inhaftierung und geldstrafen drohen.
als reaktion auf phänomene wie ki-gesichtsveränderung und kleidungsentfernung sagte li liang, professor an der juristischen fakultät der minzu-universität in china, dass es zunächst einmal notwendig sei, die rechtsverletzenden themen illegaler anwendungen künstlicher intelligenz klar zu trennen zweitens muss ein mechanismus zur aufteilung der haftung (konsequenzen) für illegale anwendungen künstlicher intelligenz geschaffen werden. drittens sollte die wissenschaftliche gesetzgebung auf der grundlage einer umfassenden berücksichtigung rechtlicher grundsätze und sozialer interessen durchgeführt werden, um das rechtssystem im zusammenhang mit künstlicher intelligenz zu etablieren und zu verbessern anwendungen, fördern technologische forschung und wissenschaftliche entwicklung und stärken aufsichts- und regulierungsmechanismen.
der upstream-nachrichtenreporter jin xin synthetisierte teilweise informationen von cctv news, cctv, beijing news, people's daily usw.
