nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

der 39-jährige lee yeonjee ist gründer und ceo einer öffentlichen wohlfahrtsorganisation in südkorea. sie kämpft gegen die „deepfake-kriminalität“, die sich im ganzen land ausbreitet.

einige analysten wiesen darauf hin, dass das „deep-fake-verbrechen“, frauengesichter in unanständige videos zu synthetisieren und diese weithin zu verbreiten, dazu geführt hat, dass koreanische frauen „in panik geraten“. ähnliche vorfälle werden dazu führen, dass frauen ihr sicherheitsgefühl im täglichen leben verlieren.

im mai dieses jahres wurde ein absolvent der seoul national university verdächtigt, mithilfe von deep-fälschungs-technologie gesichter verändert zu haben, um pornografische fotos und videos zu synthetisieren. er richtete fast 200 online-chatrooms in den sozialen medien „telegram“ ein und beteiligte sich an der produktion und verbreitung von etwa 1.700 illegale fotos und videos.

drei monate später ereignete sich an der inha-universität in südkorea ein weiteres deep-fake-verbrechen. mehr als 1.200 teilnehmer synthetisierten deepfake-pornografiebilder auf telegram und nutzten die inhalte, um frauen zu erpressen und zu demütigen. ende august berichteten südkoreanische medien, dass auf telegram zahlreiche chat-gruppen mit bezug zu schulen auftauchten. benutzer luden fotos von frauen hoch, die sie kannten, und andere benutzer würden diese fotos in deepfake-pornoinhalte umwandeln „raum der schande“ für ein bestimmtes opfer.

vorläufige ermittlungen zeigen, dass 80 % der opfer frauen sind und dass sich kriminelle aktivitäten auf minderjährige wie mittel- und oberstufenschüler, studenten, lehrer und krankenschwestern ausgeweitet haben. sogar weibliche soldaten sind opfer.

solche nachrichten hatten einen großen einfluss auf li juanzhi. sie sah, wie jemand auf der social-media-plattform x postete, um den „raum der schande“ zu untersuchen und nach jemandem suchte, der dabei half, die interne situation aufzudecken. li juanzhi gab vor, ein männlicher benutzer zu sein, schlich sich hinein und sammelte informationen. sie stellte fest, dass die verbreitung illegaler deepfake-pornos selbst in kostenlosen räumen bereits weit verbreitet war.

li juanzhi sammelte die gesammelten videos und screenshots für ihre zusammenarbeitenden kollegen und übergab sie den ermittlern. etwas beruhigend hörte li juanzhi, dass die von ihnen eingereichten materialien in einigen fällen dabei halfen, die beteiligten personen zu identifizieren.

der inhalt des „demütigungsraums“ bereitete li juanzhi ein großes unbehagen und ihr wurde sogar so schlecht, dass sie zeitweise nicht schlafen konnte, aber sie spielte weiter. einerseits wurden online-petitionen gestartet, um strengere disziplinarstandards zu fordern; andererseits kam es zu protesten auf der straße. „die regierung muss eine entschlossene haltung zur kriminalitätsbekämpfung einnehmen und ‚null-toleranz‘-strafgesetze umsetzen“, sagte li juanzhi.

proteste online und offline

am 6. september um 19 uhr brach in seoul die nacht herein und es regnete leicht. li juanzhi kam zur vereinbarten zeit in der nähe von bosingak in jongno-gu an. nach einer weile begannen offiziell gruppenvertreter und verlasen ihre jeweiligen erklärungen. anschließend ging eine gruppe von fünf- bis sechshundert menschen mit weißen parolen auf schwarzem hintergrund auf die straße.

zu den teilnehmern des protests an diesem abend gehörten aktuelle lehrer, sexualaufklärungsorganisationen, frauengruppen und schüler. sie riefen: „lasst uns ein leben ohne angst und furcht führen“, „regulieren sie plattformen, die deepfakes von sexualverbrechen fördern“, „wir.“ wird frauenfeindliche deepfakes und andere slogans stürzen.

der protest dauerte etwa zwei stunden. li juanzhi sagte, dass sie und ihre begleiter auch planen, am 21. september einen zweiten protest am u-bahnhof hyehwa abzuhalten. verschiedene orte haben begonnen, mit ihnen kontakt aufzunehmen, um busse zu mieten, die demonstranten aus dem ganzen land nach seoul transportieren sollen.

die offline-straßenproteste spiegelten die stimmen koreanischer frauen online in den sozialen medien wider. seitdem die nachrichtenberichte über deep-fake-sexualverbrechen in südkorea öffentliche aufmerksamkeit erregt haben, haben sich viele koreanische frauen aktiv in den sozialen medien geäußert, weil sie befürchten, dass der vorfall leichtfertig aufgedeckt werden könnte, und nutzen „digitale sexualverbrechen in der schule“, um „deep-fake-sex bekannt zu machen“. hashtags wie „protect women“ haben dafür gesorgt, dass nachrichten über „deep fake sexual crimes“ weltweite aufmerksamkeit erregen, und viele koreanische frauen haben hilfebotschaften über das chinesische internet verschickt.

„bisher hat diese „hashtag-protest“-kampagne gute ergebnisse erzielt. am 1. september explodierten die tags „public deepfake sexualstraftäter“ auf der social-media-plattform x mit insgesamt 60 beiträgen. mit mehr als 10.000 beiträgen belegt sie den zweiten platz „wir sind einer der führenden anbieter weltweiter echtzeittrends und nehmen auch unter den koreanischen echtzeittrends die ersten beiden plätze ein“, sagte li juanzhi.

zusätzlich zur online- und offline-verknüpfung, um dynamik aufzubauen, begann li juanzhi auch mit der untersuchung und untersuchung des gesetzes zur bestrafung von straftaten wegen urkundenfälschung. dabei erregten die worte „zum zwecke der verbreitung“ besonders ihre aufmerksamkeit. ein analyseartikel geht davon aus, dass einer der gründe, warum es schwierig ist, diese deepfake-kriminellen zu bestrafen, darin besteht, dass es schwierig ist zu beweisen, dass sie die absicht haben, sich zu verbreiten.

erinnert an den vorherigen „room n“-vorfall in südkorea: bis auf einige wenige hauptverbrecher wurden die meisten menschen nicht bestraft. li juanzhi erkannte, dass es die lücken im bestehenden rechtssystem waren, die groß angelegte deepfakes-verbrechen ermöglichten.

als li juanzhi in den sogenannten „demütigungsraum“ eindrang, entdeckte sie, dass jeder gruppenraum zwar etwas anders war, die teilnehmer jedoch in der regel zehn fotos einer frau bereitstellen mussten, um der gruppe beizutreten, oder ein foto zusammenstellen mussten, was als deepfake galt. neue opferziele bereitgestellt. einige gruppenräume werden einmalig kostenlos synthetisiert, und dann müssen die teilnehmer „passwörter“ angeben oder neue männer in den raum einladen, um den dienst weiterhin nutzen zu können. außerdem gibt es in gruppenräumen aushänge wie „300 fotos von lehrerinnen gesucht“ und „rabatt für oberstufenschülerinnen“.

„shame rooms“ suchen auch nach möglichkeiten, das geschlecht ihrer teilnehmer zu identifizieren. in einigen gruppenräumen müssen personen, die der gruppe beitreten möchten, 1 koreanischen won auf ein bestimmtes bankkonto einzahlen und anhand des bankkontonamens bestätigen, ob das neue mitglied ein mann ist.

einigen teilnehmern wird die synthese von deepfake-bildern oder -videos in rechnung gestellt, andere verdienen geld mit dem verkauf von deepfake-inhalten und telegram selbst generiert werbeeinnahmen in räumen mit mehr nutzern. „sie teilen ihre gewinne genau wie kriminelle organisationen.“ li juanzhi sagte, dass es sich um gewinnorientierte organisationen handelte und es kein konzept eines „passiven publikums“ gebe.

daraus entstand die idee, eine petition an den kongress zu richten. li juanzhi forderte, dass alle teilnehmer dieser gruppenräume als mitglieder krimineller organisationen betrachtet und bestraft würden. da das südkoreanische recht nur verdeckte ermittlungen in fällen erlaubt, an denen kinder und jugendliche beteiligt sind, hofft sie auch, dass das petitionssystem verbessert werden kann, um verdeckte ermittlungen in sexualverbrechen mit beteiligung erwachsener zu ermöglichen.

„easy deep forgery“ mit künstlicher intelligenz

im zentrum des deepfakes-skandals steht die messaging-app telegram.

es handelt sich um eine verschlüsselte messaging-app, bei der benutzer grundsätzlich anonym sind, räume in den „privaten“ modus versetzt werden können und inhalte schnell und spurlos gelöscht werden. der ursprüngliche zweck von „telegram“ bestand darin, die privatsphäre der benutzer zu schützen, aber es stellte sich heraus, dass es ein wichtiger ort für grassierende kriminelle aktivitäten war.

auch die technologie zur erstellung von deepfake-inhalten ist nicht schwer zu bekommen. siwei lyu, professor am institut für informatik und ingenieurwesen der state university of new york in buffalo, erklärte dem reporter von beijing news, dass das wort „deepfake“ selbst eine mischung aus deep learning und fake media sei und sich auf multimedia beziehe text, einschließlich text, audio, bilder und videos, der mit generativen modellen der künstlichen intelligenz erstellt wurde, die auf modellen tiefer neuronaler netzwerke basieren. generative ki-systeme können auf großen mengen unbeschrifteter daten trainiert werden, und diese modelle sind leistungsstark genug, um überzeugende inhalte zu generieren. daher wird die technische schwelle erheblich gesenkt.

„mit der technologie der künstlichen intelligenz können deepfake-audiovisuelles einfach, schnell und kostengünstig produziert werden, das in vorteilhafteren bereichen wie film, einzelhandel usw. hätte eingesetzt werden können.“ professor bart van der sloot sagte, dass die häufigste anwendung der deepfake-technologie leider pornografie sei, „insbesondere wenn junge mädchen opfer werden, was katastrophale folgen haben kann.“

ein bericht aus dem jahr 2019, der den einsatz von deepfakes untersuchte, ergab, dass 96 % der online-deepfakes mit pornografie zu tun hatten, und diese zahl steigt immer noch.

aus heutiger sicht gibt es viele hindernisse für die bekämpfung von deep forgery. slote stellte fest, dass das opfer bei der generierung von deepfake-pornografischen inhalten oft nichts davon weiß und der inhalt von der außenwelt erst entdeckt und darauf reagiert wird, nachdem der inhalt über das internet verbreitet wurde. bei so vielen deepfake-pornos im internet ist es für die strafverfolgungsbehörden schwierig zu beurteilen, ob die betroffene person dem inhalt zugestimmt hat, ob es sich dabei um eine reale person oder eine von der ki generierte person handelt. selbst wenn der täter gefunden, das opfer identifiziert und das material entfernt wird, ist der schaden oft schon angerichtet und es ist zu spät.

li juanzhi glaubt, dass die verfolgung nach dem vorfall lediglich „die dinge in ordnung bringt“ und dass die überwachung auf plattformebene von anfang an gestärkt werden sollte: „wenn sich kriminelle auf einer anonymen plattform verstecken, wird diese plattform zu einer brutstätte für kriminalität.“

was konkrete maßnahmen betrifft, ist lu siwei der ansicht, dass kurzfristig eine reihe von richtlinien und vorschriften eingeführt werden sollten, um deep-fake-inhalte, die schädliche auswirkungen haben sollen, zu verbieten oder einzuschränken. die langfristige lösung liegt in der technologie selbst, die eine weiterentwicklung von technologien zur automatischen erkennung, entfernung oder verfolgung von deepfakes erfordert.

nachdem deepfaking-verbrechen in der südkoreanischen gesellschaft diskussionen ausgelöst hatten, erklärte woo jong-soo, direktor des nationalen ermittlungshauptquartiers der koreanischen nationalen polizeibehörde, am 2. september ortszeit auf einer regulären pressekonferenz, dass die polizei mit ermittlungen in den sozialen medien begonnen habe verdacht auf „beihilfe zu deepfaking-verbrechen“ die plattform „telegram“ führt vorermittlungen durch. telegram selbst hat sich verpflichtet, schädliche inhalte auf seiner plattform aggressiv zu bekämpfen.

die ungelöste frauenfeindlichkeit

zusätzlich zu dem vorfall begann die außenwelt zu fragen, warum südkorea zum am stärksten betroffenen gebiet von deep-fälschungen geworden ist.

ein im jahr 2023 von „security hero“, einem amerikanischen startup mit schwerpunkt auf identitätsdiebstahlschutz, veröffentlichter globaler deepfakes-bericht zeigt, dass südkorea das hauptziel von deepfake-pornografischen inhalten ist und dass koreanische sängerinnen und schauspielerinnen für die charaktere in solchen deepfake-werken verantwortlich sind 53 %.

auch südkoreas deepfakes-verbrechen nehmen immer mehr zu, mit 156 fällen im jahr 2021, 160 fällen im jahr 2022 und 180 fällen im letzten jahr. von januar bis juli dieses jahres gab es 297 fälle von sexualverbrechen, bei denen es um schwere urkundenfälschung ging.

beobachter glauben, dass der scheinbar plötzliche deepfake-skandal möglicherweise unter der oberfläche lauerte und langjährige probleme des sexismus widerspiegelte.

unter den oecd-ländern haben südkoreanische frauen das höchste bildungsniveau, aber die niedrigste erwerbsbeteiligungsquote. das geschlechtsspezifische lohngefälle liegt in südkorea mit einem abstand von 31,2 % an erster stelle unter den 35 oecd-mitgliedstaaten.

aus gründen wie „nur zum spaß“ und „die verwendung von fotos von bekannten, um realistischer zu wirken“ haben deepfakes eine ebenso große verbreitung gefunden wie unterhaltungsspiele. einige analysten sagen, dass es sich dabei um die neuesten formen von „frauenfeindlichkeit“ handelt, die mit der entwicklung der technologie entstanden sind, egal ob es sich um deep-fake-sexualverbrechen handelt oder darum, dass koreanische frauen heimlich von winzigen versteckten kameras in badezimmern oder umkleidekabinen gefilmt werden.

dies deckt sich auch mit li juanzhis beobachtung.

ihr fokus auf frauenthemen lag zunächst nicht auf dem verbrechen von deepfakes, sondern auf dem thema geschlechtergleichstellung im bereich autofahren.

li juanzhi fand heraus, dass koreanische frauen beim erlernen des autofahrens häufig mit diskriminierung konfrontiert werden. wenn frauen beispielsweise einen führerschein der kategorie 1 erwerben möchten (anmerkung: ein führerschein für fortgeschrittene, der ein großes auto fahren darf), werden sie überredet, auf einen führerschein der kategorie 2 umzusteigen. auch bei erfolgreichem erwerb des führerscheins ist es für frauen nicht einfach, informationen zum umgang mit verkehrsunfällen, zur kfz-versicherung, zur kfz-reparatur etc. zu erhalten. autofahrerinnen haben aufgrund fehlender informationen oft angst vor dem autofahren und auch frauen mit schlechten fahrkenntnissen werden verächtlich als „frau gold“ bezeichnet.

mit hilfe des südkoreanischen ministeriums für geschlechtergleichstellung und familienangelegenheiten gründete li juanzhi im jahr 2020 ein weibliches fahrprojekt namens „unniecar“, das vorträge und bücher anbietet und darauf abzielt, frauen, die neu im autofahren sind, ohne „männliche predigten“ zu helfen. erhalten sie sichere und genaue informationen. in den letzten jahren hat sich li juanzhis fokus auf soziale themen von frauen immer weiter ausgeweitet, wobei der schwerpunkt auf dem schutz der frauenrechte liegt.

li juanzhi glaubt, dass dies von der diskriminierung zu deep-fake-verbrechen führen kann. die „frauenfeindlichkeit“, die in der koreanischen gesellschaft herrscht, wurde nicht effektiv gelöst. darüber hinaus wurde „frauenfeindlichkeit“ auch von der politik ausgenutzt, um den unmut unter männlichen gruppen weiter zu schüren und für politiker zu einer möglichkeit zu werden, wählerstimmen zu gewinnen „die entfremdung von frauen, anstatt eine gleichberechtigte und natürliche beziehung zwischen den geschlechtern herzustellen, ist die umgebung, die das auftreten von ‚room n‘ und deepfakes ermöglicht hat.“

nachdem der deepfakes-skandal aufgedeckt wurde, unterzeichneten 84 koreanische frauenrechtsorganisationen eine erklärung, in der sie darauf hinwiesen, dass diskriminierung der kern der sache sei: „die ursache dieses phänomens ist strukturelle geschlechterdiskriminierung, und die lösung besteht darin, die gleichstellung der geschlechter zu erreichen.“

angesichts endloser fälle und appelle gesellschaftlicher gruppen antwortete der südkoreanische präsident yoon seok-yue, dass es ein verbrechen sei, sich bei der böswilligen nutzung von deep-forgery-technologie auf die anonymität zu verlassen, und hofft, dass die zuständigen abteilungen eine gründliche untersuchung durchführen, um dies vollständig zu beseitigen kriminalität im bereich der digitalen technologie.

die südkoreanische regierung plant außerdem, die strafen für deepfakes-verbrechen zu verschärfen. kim sang-hoon, vorsitzender des politischen ausschusses der regierenden national power party in südkorea, sagte, dass die national power party und die südkoreanische regierung planen, gesetze voranzutreiben, um die höchststrafe für verbrechen wie die verbreitung falscher videos von fünf auf sieben jahre zu erhöhen jahre.

allerdings hegt li juanzhi weiterhin zweifel am engagement der südkoreanischen regierung und macht sich sorgen, ob die maßnahmen umgesetzt werden.

dieser zweifel ist nicht unbegründet. während des präsidentschaftswahlkampfs 2022 hat yin xiyue stets die existenz struktureller geschlechterdiskriminierung in südkorea geleugnet, den feminismus für die niedrige geburtenrate verantwortlich gemacht und behauptet, dass falsche berichte über sexuelle übergriffe härter bestraft werden. nach der machtübernahme von yoon seok-yue drängte die südkoreanische regierung außerdem darauf, das wort „gleichstellung der geschlechter“ aus schulbüchern zu streichen, und stellte die finanzierung von programmen zur bekämpfung der alltäglichen geschlechterdiskriminierung ein.

„ich habe schon lange nicht erlebt, dass die regierung maßnahmen zur lösung der geschlechterdiskriminierung einführt. im gegenteil, sie untergraben die fortschritte bei der gleichstellung der geschlechter.“ li juanzhi sagte, dass südkoreas geburtenrate auf einen der niedrigsten werte gesunken sei wenn „frauenfeindlichkeit“ nicht ernsthaft bekämpft wird, „werden sexualverbrechen weiter zunehmen. wenn sexualverbrechen nicht streng bestraft werden, werden kriminelle in zukunft neue technologien nutzen, um komplexere verbrechen zu begehen, und die koreanische gesellschaft wird nicht darauf vorbereitet sein.“ damals."

slote sagte, dass die verknüpfung aller links unabdingbar sein könne, um das verbrechen der tiefgreifenden fälschung grundsätzlich zu bekämpfen. die regierung muss den reaktionsbemühungen priorität einräumen, klare bestrafungsstandards festlegen, benchmark-fälle festlegen und bei bedarf ein spezielles team für den umgang mit deepfakes-verbrechen einrichten. auch schulen und arbeitsplätze müssen über nicht einvernehmliche online-pornografie aufklären. internetdienstanbieter sind verpflichtet, ihre plattformen zu überwachen, um die verbreitung von deepfake-pornografie zu verhindern, und benutzer zu warnen, dass deepfake-pornografie, sobald sie über ihre dienstplattformen verbreitet wird, dauerhaft entfernt wird.

am 7. september teilte li juanzhi einem reporter der beijing news mit, dass ihre petition an den kongress die zustimmung der erforderlichen 50.000 menschen erhalten habe und die zuständigen abteilungen der südkoreanischen regierung verpflichtet seien, auf die petition zu antworten.

der ball wurde auf die seite der südkoreanischen regierung geworfen: „ich freue mich auf ihre nächsten aktionen.“

beijing news-reporter luan ruoxi

herausgeber hu jie und korrektor zhang yanjun