notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

lee yeonjee, de 39 anos, é o fundador e ceo de uma organização de bem-estar público na coreia do sul. ela está lutando contra o “crime deepfake” que está se espalhando por todo o país.

alguns analistas apontaram que o "crime profundamente falso" de sintetizar rostos de mulheres em vídeos indecentes e divulgá-los amplamente fez com que as mulheres coreanas "caíssem em pânico". incidentes semelhantes farão com que as mulheres percam a sensação de segurança na vida cotidiana.

em maio deste ano, um graduado da universidade nacional de seul foi suspeito de usar tecnologia deepfake para mudar rostos e sintetizar fotos e vídeos pornográficos. ele estabeleceu cerca de 200 salas de bate-papo online na mídia social "telegram" e participou da produção e divulgação de cerca de. 1.700 fotos e vídeos ilegais.

três meses depois, outro crime profundamente falso ocorreu na universidade inha, na coreia do sul. mais de 1.200 participantes sintetizaram imagens pornográficas deepfake no telegram e usaram o conteúdo para chantagear e humilhar mulheres. no final de agosto, a mídia sul-coreana informou que um grande número de grupos de bate-papo relacionados a escolas em todo o país apareceram no telegram. os usuários enviaram fotos de mulheres que conheciam e outros usuários converteriam essas fotos em conteúdo pornográfico deepfake. "sala da vergonha" para uma vítima específica.

a investigação preliminar mostra que 80% das vítimas são mulheres e as atividades criminosas se espalharam entre menores, como estudantes do ensino fundamental e médio, estudantes universitários, professores e enfermeiras.

essa notícia teve um grande impacto em li juanzhi. ela viu alguém postando na plataforma de mídia social x para investigar a “sala da vergonha” e procurando alguém para ajudar a expor a situação interna. li juanzhi fingiu ser um usuário do sexo masculino, entrou furtivamente e coletou informações. ela descobriu que a disseminação de pornografia deepfake ilegal era generalizada mesmo em salas gratuitas.

li juanzhi coletou os vídeos e capturas de tela para seus colegas que trabalharam juntos e os entregou aos investigadores. de forma um tanto reconfortante, li juanzhi ouviu que os materiais que submeteram ajudaram a identificar as pessoas envolvidas em alguns casos.

o conteúdo da “sala da humilhação” deixou li juanzhi muito desconfortável, e ela ficou tão doente que não conseguiu dormir a certa altura, mas continuou a agir. por um lado, existem petições online apelando a padrões disciplinares mais rigorosos; por outro, há protestos nas ruas; “o governo deve assumir uma posição firme para combater o crime e implementar leis punitivas de ‘tolerância zero’.”

protestos online e offline

às 19h do dia 6 de setembro, a noite caiu em seul e choveu levemente li juanzhi chegou perto de bosingak em jongno-gu no horário combinado. depois de um tempo, o protesto começou oficialmente. representantes do grupo e indivíduos assumiram a liderança para ler suas respectivas declarações. depois, um grupo de quinhentas a seiscentas pessoas saiu às ruas segurando slogans brancos sobre fundo preto.

entre os que participaram no protesto naquela noite estavam professores atuais, organizações de educação sexual, grupos de mulheres e estudantes escolares. eles gritaram: “vamos viver uma vida sem medo e ansiedade”, “regular plataformas que promovam deepfakes de crimes sexuais”, “nós”. derrubará deepfakes misóginos” e outros slogans.

o protesto durou cerca de duas horas. li juanzhi disse que ela e seus companheiros também planejam realizar um segundo protesto na estação de metrô hyehwa em 21 de setembro. vários lugares começaram a contatá-los para alugar ônibus, que transportarão manifestantes de todo o país para seul.

os protestos de rua offline ecoaram as vozes das mulheres coreanas online nas redes sociais. desde que as notícias sobre crimes sexuais falsos profundos atraíram a atenção do público na coreia do sul, muitas mulheres coreanas têm se manifestado ativamente nas redes sociais devido a preocupações de que o incidente seja levemente exposto, usando "crimes sexuais digitais escolares" para "divulgar sexo falso profundo". infratores" hashtags como "protect women" promoveram notícias de "crimes sexuais falsos e profundos" para ganhar a atenção global, e muitas mulheres coreanas enviaram mensagens de ajuda através da internet chinesa.

"até agora, esta campanha de 'protesto de hashtag' obteve bons resultados. em 1º de setembro, as tags incluindo 'criminosos sexuais falsos públicos' explodiram na plataforma de mídia social x, com um total de 60. com mais de 10.000 postagens, ocupa o segundo lugar em tendências globais em tempo real e também ocupa os dois primeiros lugares nas tendências coreanas em tempo real", disse li juanzhi.

além da ligação online e offline para ganhar impulso, li juanzhi também começou a investigar e estudar o projeto de lei de punição envolvendo crimes de falsificação profunda. entre elas, as palavras “para fins de divulgação” chamaram especialmente a sua atenção. um artigo de análise acredita que uma das razões pelas quais é difícil punir esses criminosos deepfake é que é difícil provar que eles têm a intenção de se espalhar.

uma reminiscência do incidente anterior da “sala n” na coreia do sul, com exceção de alguns criminosos importantes, a maioria das pessoas não foi punida. li juanzhi percebeu que foram as lacunas no sistema legal existente que tornaram possíveis crimes de deepfakes em grande escala.

durante a infiltração de li juanzhi na chamada "sala da humilhação", ela descobriu que, embora cada sala do grupo fosse um pouco diferente, os participantes geralmente precisavam fornecer 10 fotos de uma mulher para entrar no grupo ou compor uma foto, que era considerada falsa. novos alvos de vítimas fornecidos. algumas salas de grupo serão sintetizadas uma vez gratuitamente e, em seguida, os participantes deverão fornecer “senhas” ou convidar novos homens para a sala para continuar usando o serviço. também há avisos afixados em salas de grupo como “obrigatório 300 fotos de professoras” e “desconto para estudantes do ensino médio”.

as “salas da vergonha” também buscam formas de identificar o gênero de seus participantes. algumas salas de grupo exigirão que as pessoas que desejam ingressar no grupo depositem 1 won coreano em uma determinada conta bancária e usem o nome do depósito da conta bancária para confirmar se o novo membro é do sexo masculino.

alguns participantes serão cobrados para sintetizar imagens ou vídeos deepfake, outros lucrarão com a venda de conteúdo deepfake e o próprio telegram gerará receita publicitária em salas com mais usuários. “eles partilham os lucros tal como as organizações criminosas.” li juanzhi disse que são organizações com fins lucrativos e que não existe o conceito de “público passivo”.

a partir disso, ela teve a ideia de peticionar ao congresso. li juanzhi exigiu que todos os participantes destas salas de grupo fossem considerados membros de organizações criminosas e fossem punidos. como a lei sul-coreana só permite investigações secretas em casos que envolvem crianças e adolescentes, ela também espera que o sistema de petições possa ser melhorado para permitir investigações secretas sobre crimes sexuais envolvendo adultos.

“falsificação profunda e fácil” alimentada por inteligência artificial

no centro do escândalo dos deepfakes está o aplicativo de mensagens telegram.

é um aplicativo de mensagens criptografadas onde os usuários geralmente são anônimos, as salas podem ser configuradas para o modo “privado” e o conteúdo é excluído rapidamente sem deixar rastros. o design original do “telegram” era proteger a privacidade da fala dos usuários, mas acabou se tornando um local importante para atividades criminosas desenfreadas.

a tecnologia usada para criar conteúdo deepfake também não é difícil de encontrar. siwei lyu, professor do departamento de ciência da computação e engenharia da universidade estadual de nova york em buffalo, explicou ao repórter do beijing news que a própria palavra "deepfake" é uma mistura de aprendizagem profunda e mídia falsa, referindo-se a multimídia. texto, incluindo texto, áudio, imagens e vídeos, criado usando modelos generativos de inteligência artificial que dependem de modelos de redes neurais profundas. os sistemas generativos de ia podem ser treinados em grandes quantidades de dados não rotulados, e esses modelos são poderosos o suficiente para gerar conteúdo atraente. portanto, o limite técnico é bastante reduzido.

“com a tecnologia de inteligência artificial, materiais audiovisuais deepfake podem ser produzidos de forma fácil, rápida e barata, o que poderia ter sido usado em aspectos mais benéficos, como cinema, indústria de varejo, etc.” o professor bart van der sloot disse que, infelizmente, a aplicação mais comum da tecnologia deepfake é a pornografia, “especialmente quando meninas se tornam vítimas, o que pode ter consequências desastrosas”.

um relatório de 2019 que investigou o uso de deepfakes descobriu que 96% dos deepfakes online estavam relacionados à pornografia, e esse número ainda está aumentando.

do ponto de vista atual, existem muitos obstáculos ao combate à falsificação profunda. slote descobriu que quando conteúdo pornográfico deepfake é gerado, a vítima muitas vezes não sabe disso, e o conteúdo só é descoberto e atuado pelo mundo exterior depois que o conteúdo é disseminado pela internet. com tanta pornografia deepfake online, é difícil para as autoridades policiais avaliarem se o conteúdo foi consentido pela pessoa envolvida, se foi uma pessoa real ou uma pessoa gerada por ia. mesmo que o autor do crime seja encontrado, a vítima identificada e o material removido, nessa altura o dano muitas vezes já está feito e já é tarde demais.

li juanzhi acredita que o rastreamento pós-evento é apenas "consertar as coisas" e que a supervisão no nível da plataforma deve ser fortalecida desde a fonte "se os criminosos se esconderem em uma plataforma anônima, então esta plataforma se tornará um foco de crime".

no que diz respeito a medidas específicas, lu siwei acredita que, no curto prazo, uma série de políticas e regulamentos devem ser introduzidos para proibir ou restringir conteúdos falsos profundos destinados a ter efeitos nocivos. a solução a longo prazo reside na própria tecnologia, que requer um maior desenvolvimento de tecnologias para detectar, remover ou rastrear automaticamente deepfakes.

depois que crimes de falsificação desencadearam discussões na sociedade sul-coreana, em 2 de setembro, horário local, woo jong-soo, diretor da sede de investigação nacional da agência nacional de polícia coreana, declarou em uma coletiva de imprensa regular que a polícia começou a investigar as redes sociais em suspeita de "ajudar crimes de falsificação profunda" a plataforma "telegram" conduz uma investigação pré-caso. o próprio telegram se comprometeu a combater agressivamente o conteúdo prejudicial em sua plataforma.

a misoginia não resolvida

além do incidente, o mundo exterior começou a perguntar por que a coreia do sul se tornou a área mais atingida pela falsificação profunda.

um relatório global de deepfakes divulgado em 2023 pela "security hero", uma startup americana com foco na proteção contra roubo de identidade, mostra que a coreia do sul é o principal alvo de conteúdo pornográfico deepfake, e cantoras e atrizes coreanas respondem pelos personagens em tais obras deepfake53. %.

os crimes de deepfakes na coreia do sul também são cada vez mais desenfreados, com 156 casos em 2021, 160 casos em 2022 e 180 casos no ano passado. de janeiro a julho deste ano, ocorreram 297 casos de crimes sexuais envolvendo falsificação profunda.

os observadores acreditam que o escândalo aparentemente repentino do deepfake pode estar escondido abaixo da superfície, refletindo questões de sexismo de longa data.

entre os países da ocde, as mulheres sul-coreanas têm o nível de educação mais elevado, mas a taxa de participação na força de trabalho mais baixa. a disparidade salarial entre homens e mulheres na coreia do sul ocupa o primeiro lugar entre os 35 membros da ocde, com uma disparidade de 31,2%.

por motivos como “apenas por diversão” e “usar fotos de conhecidos para ser mais realista”, os deepfakes se tornaram tão difundidos quanto os jogos de entretenimento. alguns analistas dizem que, quer se trate de crimes sexuais falsos ou de mulheres coreanas filmadas secretamente por pequenas câmeras escondidas em banheiros ou vestiários, essas são as mais recentes formas de "misoginia" que surgiram com o desenvolvimento da tecnologia.

isto também coincide com a observação de li juanzhi.

o seu foco inicial nas questões das mulheres não foi o crime dos deepfakes, mas o tema da igualdade de género no domínio da condução.

li juanzhi descobriu que as mulheres coreanas muitas vezes enfrentam discriminação quando aprendem a dirigir. por exemplo, quando as mulheres pretendem obter uma carta de condução de categoria 1 (nota: uma carta de condução avançada que pode conduzir um carro grande), são persuadidas a mudar para uma carta de condução de categoria 2. mesmo que consigam obter uma carta de condução, não é fácil para as mulheres obter informações sobre como lidar com acidentes de trânsito, seguros de automóveis, reparações de automóveis, etc. as motoristas muitas vezes têm medo de dirigir devido à falta de informação, e as mulheres com poucas habilidades de direção também são chamadas com desdém de "sra. gold".

com a ajuda do ministério da igualdade de gênero e assuntos da família da coreia do sul, em 2020, li juanzhi criou um projeto de direção feminina chamado "unniecar", que oferece palestras e livros e tem como objetivo ajudar mulheres que são novas na direção sem "pregação masculina". obtenha informações seguras e precisas. nos últimos anos, o foco de li juanzhi nas questões sociais das mulheres também tem se expandido, enfatizando a proteção dos direitos das mulheres.

li juanzhi acredita que isso vai desde a discriminação até crimes falsos profundos. a “misoginia” que existe na sociedade coreana não foi efetivamente resolvida. não só isso, a “misoginia” também tem sido explorada pela política, alimentando ainda mais o ressentimento entre os grupos masculinos e tornando-se uma forma de os políticos solicitarem votos. alienar as mulheres, ao invés de estabelecer uma relação igualitária e natural entre os sexos, é o ambiente que permitiu a ocorrência de ‘room n’ e deepfakes.”

depois que o escândalo dos deepfakes foi exposto, 84 organizações coreanas de direitos das mulheres assinaram uma declaração, apontando que a discriminação é o cerne da questão “a causa raiz deste fenômeno é a discriminação estrutural de gênero, e a solução é alcançar a igualdade de gênero”.

diante de intermináveis ​​​​casos e apelos de grupos sociais, o presidente sul-coreano yoon seok-yue respondeu dizendo que confiar no anonimato para usar maliciosamente tecnologia de falsificação profunda é um crime e espera que os departamentos relevantes conduzam uma investigação completa para erradicar completamente esta crime de tecnologia digital.

o governo sul-coreano também tem planos para reforçar as penas para crimes de deepfakes. kim sang-hoon, presidente do comitê político do partido do poder nacional, no poder na coreia do sul, disse que o partido do poder nacional e o governo sul-coreano planejam avançar na legislação para aumentar a pena máxima para crimes como a divulgação de vídeos falsos de cinco para sete anos. anos.

no entanto, li juanzhi ainda tem dúvidas sobre o compromisso do governo sul-coreano e está preocupado se as ações serão implementadas.

esta dúvida não é infundada. durante a campanha presidencial de 2022, yin xiyue sempre negou a existência de discriminação estrutural de género na coreia do sul, culpou o feminismo pela baixa taxa de natalidade e afirmou que falsas denúncias de agressão sexual serão punidas mais severamente. depois que yoon seok-yue chegou ao poder, o governo sul-coreano também pressionou para remover a palavra “igualdade de gênero” dos livros escolares e cancelou o financiamento de programas para combater a discriminação diária de gênero.

"há muito tempo que não vejo o governo introduzir políticas para resolver a discriminação de género. pelo contrário, estão a minar o progresso alcançado na igualdade de género. li juanzhi disse que a taxa de natalidade da coreia do sul caiu para um dos níveis mais baixos." no mundo. se a "misoginia" não for abordada seriamente, "os crimes sexuais continuarão a aumentar. se os crimes sexuais não forem punidos severamente, os criminosos usarão novas tecnologias para cometer crimes mais complexos no futuro, e a sociedade coreana não estará preparada naquela hora."

slote disse que para lidar fundamentalmente com o crime de falsificação profunda, a ligação de todos os vínculos pode ser indispensável. o governo precisa priorizar os esforços de resposta, ter padrões claros de punição, definir casos de referência e, se necessário, estabelecer uma equipe dedicada para lidar com crimes de deepfakes. as escolas e os locais de trabalho também precisam de educar sobre a pornografia online não consensual. os provedores de serviços de internet são obrigados a monitorar suas plataformas para evitar a propagação de qualquer pornografia deepfake e alertar os usuários de que, uma vez que a pornografia deepfake seja espalhada por meio de suas plataformas de serviço, elas serão removidas permanentemente.

em 7 de setembro, li juanzhi disse a um repórter do beijing news que a sua petição ao congresso tinha recebido o consentimento das 50.000 pessoas necessárias e que os departamentos relevantes do governo sul-coreano foram obrigados a responder à petição.

a bola foi chutada para o lado do governo sul-coreano "estou ansioso pelas próximas ações", disse li juanzhi.

repórter do beijing news, luan ruoxi

editor hu jie e revisor zhang yanjun