cinco grandes caos de fotos geradas por ia ②｜negócios em “fotos pornográficas”: mudança de rosto e remoção, proibições repetidas, mas difíceis de impedir
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
nesta era em que a ia está em toda parte e as barreiras à entrada são quase ilimitadas, se você ainda não tentou usar a ia para gerar imagens ou vídeos (doravante denominados coletivamente como imagens geradas por ia), então, na verdade, não está “na moda” o suficiente.
tal como outras novas tecnologias, a tecnologia de imagem de ia tem sido cheia de controvérsia desde o seu nascimento, com flores e espinhos a acompanhando ao longo do caminho. os apoiantes vêem-na como uma revolução tecnológica disruptiva, enquanto os oponentes a veem como um flagelo. especialmente nos últimos dois anos, surgiram grandes modelos de dados de ia representados por chatgpt e sora. a geração de imagens de ia tornou-se uma tendência popular e é procurada por cada vez mais internautas. embora traga grande comodidade, surpresa e conforto às pessoas, também inevitavelmente expõe muitos problemas negativos, como ser absurdo, irritante e até ilegal.
a ia é inocente, a chave está em como usá-la. somente aderindo aos princípios da ética e do estado de direito a tecnologia poderá beneficiar melhor a humanidade. hoje, upstream news lança uma reportagem especial sobre "cinco caos na geração de imagens de ia", com foco nos diversos caos expostos no campo da geração de imagens de ia nos últimos anos, rastreando a fonte, analisando a causa e efeito e explorando soluções, em a fim de contribuir para o desenvolvimento saudável da indústria de ia.
em fevereiro de 2024, o sr. shang (pseudônimo), que mora no distrito de yubei, chongqing, recebeu repentinamente uma mensagem de texto contendo uma foto nua em preto e branco. na foto, o sr. shang está segurando uma jovem nos braços, deitada na cama de um hotel, com o pós-escrito "tenho todos os seus dados de imagem, entre em contato comigo rapidamente" e forneceu um número de telefone. como ele geralmente se mantém limpo e está familiarizado com o bom senso, como fraude na internet e mudança de rosto por ia, o sr. shang sabia que estava sendo fraudado por criminosos que usavam ia para gerar fotos, mas também o ignorou. experiência e compartilhou com seu grupo de amigos do wechat, recebeu muitas zombarias bem-humoradas. a esse respeito, shang disse a um repórter da upstream news (e-mail de reportagem: [email protected]): “eu sei que a imagem foi sintetizada pela ia, usando o rosto da minha carteira de identidade para criar um corpo nu. estou curioso, onde esses golpistas encontraram minha foto de identificação e número de celular?” uma investigação realizada por um repórter de notícias descobriu que, de acordo com relatos de vários meios de comunicação e da polícia, fraudes semelhantes de troca de rostos de ia ocorreram nos últimos anos, e muitas pessoas acreditaram que eram verdadeiras, resultando em fraudes em grandes quantidades de ativos e até mesmo separando suas famílias. muitos criminosos que produziram e divulgaram fotos e vídeos e cometeram fraudes também foram severamente punidos pela lei.
vítimas: algumas foram fraudadas em dinheiro e algumas tiveram seus rostos mudados.
embora o sr. shang, de chongqing, tenha recebido mensagens de texto de chantagem de criminosos, ele teve sorte de escapar. em contraste, o sr. wang, de weihai, província de shandong, também encontrou o mesmo golpe. ele foi solicitado a pagar 680.000 yuans e acabou sendo forçado a transferir 200.000 yuans.
o conteúdo da mensagem de texto que o sr. wang recebeu era quase exatamente o mesmo do sr. shang. sem pensar muito, ele discou o número da mensagem de texto. a outra parte declarou com precisão seu nome e local de trabalho e disse ao sr. wang que poderia comprar os vídeos transferindo 680.000 yuans. se não pagasse, os vídeos seriam tornados públicos. sob a ameaça da outra parte, o sr. wang acreditou. posteriormente, o sr. wang levantou fundos de várias partes e transferiu 200.000 yuans. no entanto, esses 200.000 yuans não podem satisfazer o apetite da outra parte. mais tarde, a polícia contatou o sr. wang.
após observação cuidadosa, a polícia que investiga o caso descobriu que, embora o rosto na foto da mensagem de texto fosse semelhante ao do sr. wang, o formato do rosto e do corpo eram completamente diferentes dos dele. posteriormente, a polícia realizou rapidamente operações emergenciais de suspensão de pagamentos nas duas contas bancárias transferidas pelo sr. após pesquisa e análise da conta de cobrança, a polícia bloqueou as informações de identidade dos suspeitos de crimes zheng e zhong. em janeiro deste ano, a polícia de weihai prendeu dois suspeitos e os levou à justiça.
shang e wang encontraram fraude em mensagens de texto e seus avatares foram transformados em fotos de nus pela ia.
segundo a polícia de weihai, neste caso, o suspeito primeiro coletou vídeos, fotos e informações relacionadas da vítima através da internet e outros canais. em seguida, use a tecnologia de mudança de rosto de ia para ps para sintetizar os chamados "vídeos indecentes" ou "fotos de nudez" e, em seguida, envie-os com precisão para os objetos selecionados por meio de sms, e-mail e outros canais e deixe informações de contato. denunciar, divulgar e informar as suas famílias e outros meios para ameaçar os alvos seleccionados e exigir que as vítimas transfiram dinheiro para as contas bancárias designadas. a polícia lembrou que se você se deparar com tal situação, deve prestar atenção à retenção de provas e chamar a polícia a tempo.
em comparação com os homens, mulheres jovens e bonitas, especialmente celebridades femininas conhecidas da internet, são mais propensas a serem afetadas pela mudança de rosto da ia e pela "remoção de roupas com um clique" da ia. fotos e vídeos são até transformados em conteúdo pago para venda. em julho do ano passado, uma blogueira de celebridades da internet com mais de 4 milhões de fãs descobriu que muitos fãs deixaram mensagens dizendo que tinham visto seus “vídeos pornográficos”. “não pensei muito sobre isso na época. inocentes se auto-examinarão e os rumores acabarão por passar "só quando um dia uma amiga encaminhou um vídeo pornográfico em que a heroína se parecia com ela é que ela percebeu que havia sido maliciosamente "mudada de rosto" e que ela havia mudado. foi transformado em um vídeo pornográfico.
de acordo com relatos da mídia da época, na lista de preços do vendedor, centenas de celebridades da internet foram divididas de acordo com o nível de fãs, variando de menos de 500.000 fãs a mais de 10 milhões de fãs, e os vídeos pornôs de troca de rosto correspondentes foram vendidos de 30 yuans a 50 yuans não varia. além disso, há muitas estrelas femininas na mesa. um vendedor disse possuir mais de 80 celebridades e mais de 15.000 fotos. se você comprar todos, o preço será de apenas 60 yuans e 23 vídeos serão dados de presente. o vendedor também disse que se você comprar uma foto de troca de rosto de uma única celebridade, será cobrado de acordo com a quantidade. você pode comprar 300 fotos por 5 yuans.
além disso, muitas fotos de mulheres comuns em cenas cotidianas, como escolas, shoppings, escritórios, metrôs, etc. também se tornaram alvos de roubo de rosto pela ia. elas tiveram seus rostos mudados ou suas roupas tiradas pela ia. milhares ou até dezenas de milhares de imagens relacionadas de visualizações.
a foto de uma jovem em guangzhou foi “despida” com um clique enquanto andava de metrô.
produtor: forjou quase 7.000 fotos de nus, ao preço de 1,5 yuan cada
como produtores de conteúdo pornográfico e obsceno, muitos autores escondidos online foram severamente punidos pela lei.
em julho deste ano, a cctv news relatou um caso ilegal em que quase 7.000 imagens pornográficas foram falsificadas usando tecnologia de ia. o suspeito do crime, bai moumou, mora em pequim e era originalmente técnico de uma empresa de internet. ele usou a tecnologia de ia de "remoção de roupas com um clique" para falsificar quase 7.000 fotos obscenas e as vendeu ao preço de 1,5 yuan cada. as fotos envolvem um grande número de mulheres, incluindo estudantes, professoras e colegas. o órgão procurador acredita que o réu bai moumou produziu e vendeu materiais obscenos com o objetivo de obter lucros. as circunstâncias eram graves e o seu comportamento violou as disposições pertinentes do direito penal da república popular da china. o crime de produção e venda de materiais obscenos com fins lucrativos.
um homem em pequim produziu cerca de 7.000 imagens obscenas e as vendeu por 1,5 yuan cada.
em abril do ano passado, de acordo com a procuradoria popular municipal de hangzhou, yu, um homem nascido na década de 1980 na província de anhui, foi processado por suspeita de fabricar e distribuir materiais obscenos com fins lucrativos. yu se interessou por essa tecnologia já em 2020, quando a "mudança de face da ia" começou a surgir, e ele também dominou essa tecnologia por meio do auto-estudo. mais tarde, yu registrou uma conta em uma plataforma social estrangeira e criou um grupo. se outros quiserem ingressar no “grupo interno”, terão que pagar uma “taxa de adesão” que varia de 198 yuans a 498 yuans. pode ver muitas pessoas usando ia vídeos pornográficos produzidos com tecnologia de troca de rosto também podem ser "personalizados pessoalmente" usando diferentes imagens de celebridades femininas de acordo com as necessidades dos clientes. em apenas alguns meses, yu ganhou dezenas de milhares de yuans.
no grupo público estabelecido por yu, os órgãos de segurança pública examinaram mais de 1.200 vídeos pornográficos e mais de 1.600 fotos. após a identificação, todos os itens acima eram materiais pornográficos. em novembro do ano passado, o tribunal popular do distrito de xiaoshan, na cidade de hangzhou, considerou o réu yu culpado de produzir e distribuir materiais obscenos com fins lucrativos. ele foi condenado a sete anos e três meses de prisão e multado em 60.000 yuans.
mulheres jovens e bonitas tendem a se tornar vítimas da mudança de rosto da ia, e algumas empresas até oferecem “serviços personalizados”.
pesquisa: software é difícil de comprar, tieba foi bloqueado
de acordo com relatos anteriores da mídia, em 2023, software relacionado com a função "remoção de roupas com um clique" estará disponível em muitas plataformas. muitos internautas também compram e trocam suas experiências on-line sobre softwares e produtos relacionados.
por exemplo, um determinado produto está claramente marcado: “este software pode realizar a função de converter pessoas reais em desenhos animados, trocar cabeças e trocar de roupas”. este software é vendido por apenas 16,66 yuans, com vendas mensais atingindo mais de 200 pedidos. alguém perguntou na área de comentários da loja: “você realmente consegue tirar a roupa?” muitas pessoas responderam: “sim”.
naquela época, havia mais de 9.000 postagens relacionadas à mudança de rosto de ia na barra de postagem chamada "deepfake", que continha um grande número de informações de vendas sobre vídeos de mudança de rosto de celebridades. um usuário chamado "synthetic alliance" vende abertamente vídeos pornográficos de troca de rosto no grupo, com mais de 150 vídeos na lista, dizendo "o preço é de apenas 58 yuans".
um repórter upstream pesquisou a barra de postagem deepfake e descobriu que ela havia sido bloqueada. o repórter pesquisou as palavras-chave “mudança de rosto de ia” e “remoção de roupas com um clique” em várias plataformas de comércio eletrônico, mas nenhuma delas foi exibida. em algumas lojas, existem muitos produtos de software com funções como “apagamento inteligente” e “expansão inteligente de imagem”, mas os lojistas responderam que não possuem a função de “remoção de roupas com um clique”. no entanto, o repórter notou que um vendedor em zhejiang vendeu um software chamado “artefato para troca de roupas” por 18,80 yuans, alegando que “ele pode ser facilmente manuseado, seja trocando de roupa ou repintando”.
o repórter entrou em contato com o vendedor por mensagem privada. em relação à pergunta "posso tirar a roupa?", o vendedor ficou muito cauteloso: "não fale tão abertamente, estamos monitorando!" aí ele disse vagamente: "você pode ir até y (roupas)!" depois que o repórter pagou conforme necessário, o comerciante emitiu aqui está um endereço de download do disco de rede e um tutorial de uso.
o repórter seguiu as instruções do comerciante e descobriu que o app pode realmente realizar a função de “remoção de roupas com um clique”.
em uma determinada plataforma de comércio de segunda mão, ainda existem comerciantes que vendem secretamente software com a função de “remoção de roupas com um clique”.
declaração do advogado: se as circunstâncias forem particularmente graves, a pena máxima é prisão perpétua
o repórter descobriu que em alguns fóruns ainda há internautas procurando secretamente por software gratuito de "remoção de roupas com um clique". então, os comerciantes que publicam ou vendem software relacionado são suspeitos de infringir a lei ou mesmo de cometer um crime? se os internautas usam software para gerar e publicar fotos e vídeos relevantes, será uma violação da lei se eles forem usados apenas para salvá-los para “diversão”? que tipo de punição você enfrentará se compartilhar isso?
fu jian, um conhecido advogado de defesa criminal e diretor do escritório de advocacia henan zejin, disse aos repórteres que atividades como tirar fotos e vídeos e vender software de "remoção de roupas com um clique" envolvem violação da privacidade pessoal e direitos de retrato, são suspeitas de sendo ilegal ou mesmo criminoso, e pode enfrentar penalidades criminais. em primeiro lugar, os comerciantes que vendem software relacionado são suspeitos de produzir, vender e disseminar materiais obscenos. de acordo com as disposições da lei penal, aqueles que produzem, copiam, publicam, vendem ou divulgam materiais obscenos com a finalidade de obter lucros. será condenado a pena de prisão não superior a três anos, detenção ou vigilância criminal, e também será multado se as circunstâncias forem graves, será condenado a pena de prisão não inferior a três anos e não superior; superior a dez anos, e também será multado; se as circunstâncias forem particularmente graves, será condenado a pena de prisão não inferior a dez anos ou prisão perpétua, e também será multado ou os seus bens serão confiscados.
em segundo lugar, o direito ao retrato de uma pessoa singular é protegido por lei. sem o consentimento da pessoa singular, o retrato de outra pessoa não pode ser utilizado diretamente. se os internautas usarem software para gerar fotos e vídeos relevantes e salvá-los para "diversão", eles também serão suspeitos de infringir os direitos de retrato de outras pessoas. se for compartilhado em grupos wechat ou plataformas sociais após a produção, é suspeito de infringir os direitos de retrato e de reputação de outras pessoas, e você precisa arcar com certa responsabilidade civil. seu comportamento é suspeito de violar a “lei de punições à gestão de segurança pública” e, em casos graves, ele pode ser suspeito de espalhar materiais obscenos. dependendo da gravidade das circunstâncias, você poderá enfrentar penalidades como prisão por prazo determinado, detenção criminal e multas.
em resposta a fenômenos como a mudança de rosto e a remoção de roupas da ia, li liang, professor da faculdade de direito da universidade minzu da china, disse que antes de tudo, é necessário dividir claramente os sujeitos infratores de aplicações ilegais de inteligência artificial ; em segundo lugar, deve ser construído um mecanismo de partilha de responsabilidades (consequências) para aplicações ilegais de inteligência artificial; em terceiro lugar, a legislação científica deve ser implementada com base na consideração abrangente dos princípios jurídicos e dos interesses sociais, estabelecer e melhorar o sistema jurídico relacionado com a inteligência artificial; aplicações, promover a investigação tecnológica e o desenvolvimento científico e reforçar os mecanismos de supervisão e regulação.
o repórter de notícias upstream jin xin sintetizou parcialmente informações do cctv news, cctv, beijing news, people's daily, etc.
