notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

lee yeonjee, 39 anni, è il fondatore e amministratore delegato di un'organizzazione di assistenza pubblica in corea del sud. sta combattendo il "crimine deepfake" che si sta diffondendo in tutto il paese.

alcuni analisti hanno sottolineato che il "profondo crimine falso" di sintetizzare i volti delle donne in video indecenti e di diffonderli ampiamente ha fatto "cadere nel panico" le donne coreane. episodi simili faranno perdere alle donne il senso di sicurezza nella vita quotidiana.

nel maggio di quest'anno, un laureato della seoul national university è stato sospettato di aver utilizzato la tecnologia della contraffazione profonda per cambiare volto per sintetizzare foto e video pornografici. ha creato quasi 200 chat room online sul social media "telegram" e ha partecipato alla produzione e alla diffusione di queste circa 1.700 foto e video illegali.

tre mesi dopo, un altro grave crimine falso si è verificato all'università di inha in corea del sud. più di 1.200 partecipanti hanno sintetizzato immagini pornografiche deepfake su telegram e hanno utilizzato il contenuto per ricattare e umiliare le donne. alla fine di agosto, i media sudcoreani hanno riferito che su telegram sono apparsi un gran numero di gruppi di chat relativi alle scuole di tutto il paese che gli utenti hanno caricato foto di donne che conoscevano e altri utenti avrebbero convertito queste foto in contenuti pornografici deepfake "stanza della vergogna" per una vittima specifica.

le indagini preliminari mostrano che l'80% delle vittime sono donne e le attività criminali si sono diffuse tra i minori, come studenti delle scuole medie e superiori, studenti universitari, insegnanti e infermiere.

tali notizie hanno avuto un grande impatto su li juanzhi. ha visto qualcuno postare sulla piattaforma di social media x per indagare sulla "stanza della vergogna" e cercare qualcuno che aiutasse a denunciare la situazione interna. li juanzhi ha finto di essere un utente maschio, si è intrufolato e ha raccolto informazioni. ha scoperto che la diffusione del deepfake porno illegale era già diffusa anche nelle stanze libere.

li juanzhi ha raccolto i video e gli screenshot raccolti dai suoi colleghi che hanno lavorato insieme e li ha consegnati agli investigatori. con un certo conforto, li juanzhi ha sentito che i materiali presentati hanno aiutato a identificare le persone coinvolte in alcuni casi.

il contenuto della "stanza dell'umiliazione" ha messo li juanzhi molto a disagio, ed era così malata che ad un certo punto non riusciva a dormire, ma ha continuato ad agire. da un lato sono state lanciate petizioni online per chiedere norme disciplinari più severe, dall’altro si sono svolte proteste nelle strade; "il governo deve assumere una posizione ferma per combattere la criminalità e attuare le leggi punitive di 'tolleranza zero'", ha affermato li juanzhi.

proteste online e offline

alle 19:00 del 6 settembre a seul calò la notte e pioveva leggermente. li juanzhi arrivò vicino a bosingak a jongno-gu all'ora concordata. dopo un po', la protesta è iniziata ufficialmente. i rappresentanti dei gruppi e singoli individui hanno preso l'iniziativa di leggere le rispettive dichiarazioni. successivamente, un gruppo di cinquecento persone è sceso in strada con slogan bianchi su sfondo nero.

tra coloro che hanno partecipato alla protesta quella notte c'erano insegnanti attuali, organizzazioni di educazione sessuale, gruppi di donne e studenti delle scuole. hanno gridato: "viviamo una vita senza paura e ansia", "regolamentiamo le piattaforme che promuovono falsificazioni di crimini sessuali", "noi". rovescerà i deepfake misogini” e altri slogan.

la protesta è durata circa due ore. li juanzhi ha detto che lei e i suoi compagni hanno in programma di organizzare una seconda protesta alla stazione della metropolitana di hyehwa il 21 settembre. vari luoghi hanno iniziato a contattarli per noleggiare autobus, che trasporteranno i manifestanti da tutto il paese a seoul.

le proteste di strada offline hanno fatto eco alle voci delle donne coreane online sui social media. da quando le notizie di crimini sessuali profondamente falsi hanno attirato l'attenzione del pubblico in corea del sud, molte donne coreane si sono espresse attivamente sui social media a causa del timore che l'incidente venisse esposto con leggerezza, usando "crimini sessuali digitali scolastici" per "pubblicizzare il sesso falso profondo". autori di reato" hashtag come "protect women" hanno promosso la notizia di "profondi falsi crimini sessuali" per attirare l'attenzione globale, e molte donne coreane hanno inviato messaggi di aiuto attraverso internet cinese.

"finora questa campagna di 'protesta con hashtag' ha ottenuto buoni risultati. il 1 settembre, i tag tra cui 'deepfake pubblici autori di reati sessuali' sono esplosi sulla piattaforma di social media x, con un totale di 60 con più di 10.000 post, è al secondo posto nella classifica trend globali in tempo reale e occupa anche i primi due posti tra i trend coreani in tempo reale," ha affermato li juanzhi.

oltre al collegamento online e offline per creare slancio, li juanzhi ha anche iniziato a indagare e studiare il disegno di legge punitivo che coinvolge gravi crimini di falsificazione. tra questi, le parole "ai fini della diffusione" hanno attirato particolarmente la sua attenzione. un articolo di analisi ritiene che uno dei motivi per cui è difficile punire questi criminali deepfake è che è difficile dimostrare che abbiano l’intenzione di diffondersi.

ricordando il precedente incidente della "stanza n" in corea del sud, ad eccezione di alcuni criminali chiave, la maggior parte delle persone non è stata punita. li juanzhi si è reso conto che erano le lacune del sistema legale esistente a rendere possibili i crimini deepfake su larga scala.

durante l'infiltrazione di li juanzhi nella cosiddetta "stanza dell'umiliazione", ha scoperto che, sebbene ogni stanza del gruppo fosse leggermente diversa, i partecipanti di solito dovevano fornire 10 foto di una donna per entrare nel gruppo o comporre una foto, che era considerata un deepfake. nuovi obiettivi per le vittime forniti. alcune stanze di gruppo verranno sintetizzate una volta gratuitamente, quindi i partecipanti dovranno fornire "password" o invitare nuovi uomini nella stanza per continuare a utilizzare il servizio. ci sono anche avvisi affissi nelle stanze dei gruppi come "richieste 300 foto di insegnanti donne" e "sconto per studenti delle scuole superiori".

le "stanze della vergogna" trovano anche modi per identificare il genere dei partecipanti. alcune stanze di gruppo richiederanno alle persone che desiderano unirsi al gruppo di depositare 1 won coreano su un determinato conto bancario e di utilizzare il nome del deposito del conto bancario per confermare se il nuovo membro è un maschio.

ad alcuni partecipanti verrà addebitato il compito di sintetizzare immagini o video deepfake, altri guadagneranno soldi vendendo contenuti deepfake e telegram stesso genererà entrate pubblicitarie nelle stanze con più utenti. “condividono i profitti proprio come le organizzazioni criminali”. li juanzhi ha affermato che sono organizzazioni orientate al profitto e non esiste il concetto di “pubblico passivo”.

da ciò le è venuta l'idea di presentare una petizione al congresso. li juanzhi ha chiesto che tutti i partecipanti a queste stanze di gruppo fossero considerati membri di organizzazioni criminali e fossero puniti. poiché la legge sudcoreana consente solo indagini sotto copertura su casi che coinvolgono bambini e adolescenti, spera anche che il sistema delle petizioni possa essere migliorato per consentire indagini sotto copertura su crimini sessuali che coinvolgono adulti.

“fallitura facile e profonda” alimentata dall’intelligenza artificiale

al centro dello scandalo dei deepfake c’è l’app di messaggistica telegram.

si tratta di un'app di messaggistica crittografata in cui gli utenti sono generalmente anonimi, le stanze possono essere impostate in modalità "privata" e i contenuti vengono eliminati rapidamente senza lasciare traccia. il progetto originale di "telegram" era quello di proteggere la privacy delle parole degli utenti, ma si è rivelato un luogo importante per attività criminali dilaganti.

anche la tecnologia utilizzata per creare contenuti deepfake non è difficile da trovare. siwei lyu, professore presso il dipartimento di informatica e ingegneria presso l'università statale di new york a buffalo, ha spiegato al giornalista di beijing news che la stessa parola "deepfake" è un misto di deep learning e falsi media, si riferisce alla multimedialità testo, inclusi testo, audio, immagini e video, creato utilizzando modelli di intelligenza artificiale generativa che si basano su modelli di rete neurale profonda. i sistemi di intelligenza artificiale generativa possono essere addestrati su grandi quantità di dati senza etichetta e questi modelli sono abbastanza potenti da generare contenuti accattivanti. pertanto la soglia tecnica è notevolmente abbassata.

"con la tecnologia dell'intelligenza artificiale, i materiali audiovisivi deepfake possono essere prodotti in modo semplice, rapido ed economico, che avrebbero potuto essere utilizzati in aspetti più vantaggiosi come il cinema, l'industria della vendita al dettaglio, ecc." il professor bart van der sloot ha affermato che sfortunatamente l'applicazione più comune della tecnologia deepfake è la pornografia, "soprattutto quando le ragazze ne diventano vittime, il che può avere conseguenze disastrose".

un rapporto del 2019 che indaga sull’uso dei deepfake ha rilevato che il 96% dei deepfake online erano legati alla pornografia e questo numero è ancora in aumento.

dal punto di vista attuale, ci sono molti ostacoli alla lotta alla falsificazione profonda. slote ha scoperto che quando viene generato contenuto pornografico deepfake, la vittima spesso non lo sa e il contenuto viene scoperto e utilizzato dal mondo esterno solo dopo che il contenuto è stato diffuso attraverso internet. con così tanto porno deepfake online, è difficile per le forze dell'ordine valutare se il contenuto è stato acconsentito alla persona coinvolta, se si trattava di una persona reale o di una persona generata dall'intelligenza artificiale. anche se viene trovato l’autore del reato, identificata la vittima e rimosso il materiale, a quel punto spesso il danno è fatto ed è troppo tardi.

li juanzhi ritiene che il monitoraggio post-evento significhi solo "mettere le cose a posto" e che la supervisione a livello di piattaforma dovrebbe essere rafforzata dalla fonte "se i criminali si nascondono in una piattaforma anonima, questa piattaforma diventerà un focolaio di criminalità".

per quanto riguarda le misure specifiche, lu siwei ritiene che a breve termine dovrebbero essere introdotte una serie di politiche e regolamenti per vietare o limitare i contenuti profondamente falsi destinati ad avere effetti dannosi. la soluzione a lungo termine risiede nella tecnologia stessa, che richiede un ulteriore sviluppo di tecnologie per il rilevamento, la rimozione o il tracciamento automatico dei deepfake.

dopo che i crimini del deepfaking hanno innescato discussioni nella società sudcoreana, il 2 settembre, ora locale, woo jong-soo, direttore del quartier generale investigativo nazionale dell'agenzia nazionale di polizia coreana, ha dichiarato in una conferenza stampa regolare che la polizia ha iniziato a indagare sui social media su sospetto di "aiuto ai crimini di deepfaking" la piattaforma "telegram" conduce indagini pre-caso. la stessa telegram si è impegnata a combattere in modo aggressivo i contenuti dannosi sulla sua piattaforma.

la misoginia irrisolta

oltre all’incidente, il mondo esterno ha iniziato a chiedersi perché la corea del sud sia diventata la zona più colpita dalla falsificazione profonda.

un rapporto globale sui deepfake pubblicato nel 2023 da "security hero", una startup americana focalizzata sulla protezione dai furti di identità, mostra che la corea del sud è l'obiettivo principale dei contenuti pornografici deepfake e che cantanti e attrici coreane rappresentano i personaggi di tali opere deepfake53 %.

anche i crimini legati ai deepfake in corea del sud sono sempre più dilaganti, con 156 casi nel 2021, 160 casi nel 2022 e 180 casi lo scorso anno. da gennaio a luglio di quest'anno, si sono verificati 297 casi di crimini sessuali riguardanti falsificazioni profonde.

gli osservatori ritengono che lo scandalo apparentemente improvviso del deepfake potrebbe essere nascosto sotto la superficie, riflettendo problemi di sessismo di lunga data.

tra i paesi ocse, le donne sudcoreane hanno il livello di istruzione più alto, ma il tasso di partecipazione alla forza lavoro più basso. il divario salariale di genere della corea del sud è al primo posto tra i 35 membri dell’ocse, con un divario del 31,2%.

per ragioni come "solo per divertimento" e "usare foto di conoscenti per essere più realistici", i deepfake sono diventati diffusi quanto i giochi di intrattenimento. alcuni analisti affermano che che si tratti di falsi crimini sessuali o di donne coreane riprese segretamente da minuscole telecamere nascoste nei bagni o negli spogliatoi, queste sono le ultime forme di "misoginia" emerse con lo sviluppo della tecnologia.

ciò coincide anche con l’osservazione di li juanzhi.

il suo focus iniziale sulle questioni femminili non era il crimine dei deepfake, ma il tema dell’uguaglianza di genere nel campo della guida.

li juanzhi ha scoperto che le donne coreane spesso incontrano discriminazioni quando imparano a guidare. ad esempio, quando le donne vogliono ottenere una patente di categoria 1 (nota: una patente avanzata che può guidare un'auto di grandi dimensioni), vengono convinte a passare a una patente di categoria 2. anche se ottengono con successo la patente di guida, non è facile per le donne ottenere informazioni sulla gestione degli incidenti stradali, sull'assicurazione dell'auto, sulla riparazione dell'auto, ecc. le conducenti donne hanno spesso paura di guidare a causa della mancanza di informazioni e le donne con scarse capacità di guida vengono anche chiamate con disprezzo "ms. gold".

con l'aiuto del ministero per l'uguaglianza di genere e gli affari familiari della corea del sud, nel 2020, li juanzhi ha creato un progetto di guida femminile chiamato "unniecar", che fornisce conferenze e libri e mira ad aiutare le donne che sono nuove alla guida senza "predicazione maschile". ottieni informazioni sicure e accurate. negli ultimi anni, anche l'attenzione di li juanzhi sulle questioni sociali delle donne si è ampliata, sottolineando la tutela dei diritti delle donne.

li juanzhi ritiene che dalla discriminazione si arrivi a crimini falsi e profondi. la “misoginia” che esiste nella società coreana non è stata risolta in modo efficace. non solo, la “misoginia” è stata sfruttata anche dalla politica, alimentando ulteriormente il risentimento dei gruppi maschili e diventando un modo per i politici di sollecitare voti. “oggi ci sono un gran numero di giovani adolescenti e ventenni che si oggettivano e l'alienazione delle donne, invece di stabilire una relazione paritaria e naturale tra i sessi, è l'ambiente che ha permesso il verificarsi della "stanza n" e dei deepfake."

dopo che lo scandalo dei deepfakes è stato scoperto, 84 organizzazioni coreane per i diritti delle donne hanno firmato una dichiarazione, sottolineando che la discriminazione è il nocciolo della questione. "la causa principale di questo fenomeno è la discriminazione strutturale di genere e la soluzione è raggiungere l'uguaglianza di genere".

di fronte a infiniti casi e appelli da parte di gruppi sociali, il presidente sudcoreano yoon seok-yue ha risposto affermando che fare affidamento sull’anonimato per utilizzare maliziosamente la tecnologia di contraffazione profonda è un crimine e spera che i dipartimenti competenti conducano un’indagine approfondita per sradicare completamente questo fenomeno. criminalità tecnologica digitale.

il governo sudcoreano prevede inoltre di inasprire le sanzioni per i crimini legati ai deepfake. kim sang-hoon, presidente del comitato politico del partito del potere nazionale al potere in corea del sud, ha affermato che il partito del potere nazionale e il governo sudcoreano intendono far avanzare la legislazione per aumentare la pena massima per crimini come la diffusione di video falsi da cinque a sette anni. anni.

tuttavia li juanzhi nutre ancora dubbi sull'impegno del governo sudcoreano ed è preoccupato se le azioni verranno attuate.

questo dubbio non è infondato. durante la campagna presidenziale del 2022, yin xiyue ha sempre negato l’esistenza di una discriminazione di genere strutturale in corea del sud, ha incolpato il femminismo per il basso tasso di natalità e ha affermato che le false denunce di violenza sessuale saranno punite più severamente. dopo l’ascesa al potere di yoon seok-yue, il governo sudcoreano ha anche spinto a rimuovere la parola “uguaglianza di genere” dai libri di testo scolastici e ha cancellato i finanziamenti per programmi volti a combattere la discriminazione di genere quotidiana.

"è da molto tempo che non vedo il governo introdurre politiche per risolvere la discriminazione di genere. al contrario, stanno minando i progressi compiuti nell'uguaglianza di genere". li juanzhi ha affermato che il tasso di natalità della corea del sud è sceso a uno dei livelli più bassi se la “misoginia” non verrà affrontata seriamente, “i crimini sessuali continueranno ad aumentare. se i crimini sessuali non saranno puniti severamente, i criminali utilizzeranno le nuove tecnologie per commettere crimini più complessi in futuro, e la società coreana non sarà pronta”. a quel tempo."

slote ha affermato che per affrontare in modo fondamentale il reato di falsificazione profonda, il collegamento di tutti i collegamenti potrebbe essere indispensabile. il governo deve dare priorità agli sforzi di risposta, stabilire standard punitivi chiari, stabilire casi di riferimento e, se necessario, istituire un team dedicato per affrontare i crimini deepfake. anche le scuole e i luoghi di lavoro devono educare alla pornografia online non consensuale. i fornitori di servizi internet sono tenuti a monitorare le proprie piattaforme per prevenire la diffusione di qualsiasi pornografia deepfake e avvisare gli utenti che una volta diffusa la pornografia deepfake attraverso le loro piattaforme di servizio, verranno rimosse in modo permanente.

il 7 settembre, li juanzhi ha detto a un giornalista del beijing news che la sua petizione al congresso aveva ricevuto il consenso delle 50.000 persone richieste e che i dipartimenti competenti del governo sudcoreano erano obbligati a rispondere alla petizione.

la palla è stata calciata dalla parte del governo sudcoreano: "non vedo l'ora che arrivino le loro prossime azioni", ha detto li juanzhi.

il giornalista di beijing news luan ruoxi

il redattore hu jie e il correttore di bozze zhang yanjun