fortalecer a proteção da informação para evitar o risco de crimes deepfakes
2024-09-16
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
recentemente, surgiram notícias na coreia do sul de que “aproximadamente 220.000 perpetradores usaram tecnologia de falsificação profunda para mudar seus rostos e criar conteúdo obsceno sobre mulheres não especificadas e espalhá-lo amplamente. falsificação.
à medida que a pesquisa e o desenvolvimento da inteligência artificial (ia) continuam a se aprofundar, a tecnologia deepfaking tornou-se cada vez mais madura. sua alta fidelidade, inclusão técnica, baixo custo, relevância pessoal e outras características trouxeram enorme valor de uso, da ia "digital from". com a substituição de imagens de filmes e televisão por refilmagens, as perspectivas de aplicação da tecnologia deep fake em alguns setores estão se tornando cada vez mais difundidas.
no entanto, como uma “faca de dois gumes” afiada, embora usufruamos dos dividendos da tecnologia deepfake, não podemos ignorar os seus enormes riscos potenciais que podem tornar os criminosos mais eficientes, mais dissimulados e mais prejudiciais para a sociedade. a nível individual, a tecnologia deepfake pode permitir que a vítima roube a sua imagem com fins lucrativos sem o seu consentimento, o que constitui uma violação dos direitos de retrato pessoal. além do mais, a tecnologia deepfake também pode ser usada por fraudadores para se disfarçarem. por exemplo, no início deste ano, o pessoal financeiro de uma empresa de hong kong foi fraudado em 200 milhões de dólares de hong kong por gestores falsos. para celebridades e figuras políticas, a tecnologia profundamente falsa pode causar danos sociais e destrutivos ainda maiores. a atriz americana taylor swift já foi photoshopada em fotos indecentes e amplamente divulgadas nas plataformas sociais. isso não só causou sérios danos à sua imagem pessoal e comercial, mas também perturbou a ordem social e a ordem pública. além disso, a tecnologia deepfake também pode ser utilizada para falsificar provas, afetando a credibilidade de provas como fotos e vídeos, interferindo assim no julgamento dos juízes e obstruindo a justiça.
para evitar os riscos da tecnologia deepfake, a primeira prioridade é reforçar a proteção das informações biométricas pessoais. do ponto de vista da governança de dados, o processo de produção de deepfake é dividido principalmente em três links: obtenção de dados (principalmente dados de informações biométricas) - processamento de dados - saída de dados (produção de conteúdo falso). o abuso da tecnologia deepfake consiste essencialmente na obtenção de informações biométricas de terceiros sem autorização ou consentimento e, em seguida, na utilização dessas informações para falsificação de identidade. portanto, para melhorar o mecanismo de proteção das informações biométricas pessoais, devemos controlar rigorosamente a entrada e saída de informações profundamente falsas, de modo a alcançar a governança da fonte e o controle do ponto final.
primeiro, é necessário fortalecer o mecanismo de “permissão de conhecimento” na coleta de informações biométricas. como as informações biométricas pessoais possuem características de “singularidade” e “imutabilidade”, uma vez vazadas e abusadas, causarão grandes danos ao titular da informação e terão um impacto duradouro. ser aplicado. de acordo com a "lei de proteção de informações pessoais da república popular da china" e as disposições legais relevantes, a notificação é isenta apenas em circunstâncias específicas com base nas necessidades de segurança nacional e de segurança pública, investigação criminal e procedimentos judiciais, etc. exceto pelas circunstâncias acima, qualquer sujeito deve implementar estritamente o mecanismo de “permissão de conhecimento” ao coletar e usar informações biométricas pessoais. nenhuma coleta é permitida sem consentimento explícito. por outro lado, é necessário deixar claro que as informações que um indivíduo divulga online não significam que ele ou ela consente no reprocessamento de informações biométricas pessoais. actualmente, existem muitos cenários de aplicação comercial para falsificações profundas. é necessário dissipar o mal-entendido sobre o "acesso gratuito à informação online" por parte dos operadores e cumprir as suas obrigações de notificação. além disso, os utilizadores da informação devem garantir a eficácia da notificação. deve incluir informações específicas como objeto de uso, finalidade da coleta, comportamento de processamento e fluxo de informações, e também deve adotar métodos de notificação suficientemente destacados, como pop-ups com prazos obrigatórios, etc.
em segundo lugar, melhorar o mecanismo de supervisão e rastreabilidade da plataforma. as plataformas devem concentrar-se em áreas onde as falsificações profundas são fortemente utilizadas, como a criação secundária de imagens da vida real, e reforçar a supervisão e a rastreabilidade através de uma combinação de revisão técnica e revisão manual, como a revisão rigorosa se as obras de segunda geração têm autorização registros dos assuntos de informação utilizados, etc. se for descoberto que certificados de autorização não autorizados ou falsificados são usados como informações sobre terceiros, a plataforma deve proibir a divulgação e tomar medidas restritivas correspondentes, como o banimento de contas.
terceiro, estabelecer um mecanismo mais sério de responsabilização e punição através de legislação específica. no que diz respeito à falsificação de informações de identidade, a legislação penal do meu país estipula atualmente os crimes de fraude e falsificação de identidade. os elementos do primeiro crime incluem fingir que o alvo é um funcionário de uma agência estatal e fraudar a propriedade, a honra, o tratamento, os sentimentos, etc.; o crime de violação de informações pessoais de cidadãos não inclui o “uso ilegal de informações biométricas”. isto significa que, ao abrigo da lei actual, é difícil combater eficazmente o caos, como os porta-vozes profundamente falsos, do ponto de vista da punição criminal, baseando-se apenas nos crimes de fraude e falsificação de identidade. portanto, será necessário acrescentar novos crimes no futuro para regular especificamente o comportamento de roubo de identidade de terceiros. nesta área, o projeto de lei dos eua estipula que “a transferência, utilização ou apropriação indevida de dados de identificação de outras pessoas será tratada como roubo de identidade”, o que pode fornecer uma certa referência para o nosso país. a lei penal do meu país também pode adicionar o crime de "roubo de identidade" no futuro, qualquer pessoa que use informações biométricas de outras pessoas sem o consentimento do titular da informação, e as circunstâncias sejam graves (como a taxa de cliques ou o número de encaminhamentos alcançados). 500 vezes), será tratado como crime de roubo de identidade. se também estiver envolvido em outros crimes (como fraude), será tratado como crime.
a lâmina afiada deve ser embainhada e a fera deve ser enjaulada. a tecnologia deep fake tem boas perspectivas de aplicação, mas o estabelecimento de um sistema completo de aplicação, supervisão e punição é o pré-requisito para que ela se torne realmente uma ferramenta útil para a humanidade. a este respeito, todas as partes relevantes devem colocar o sistema em primeiro lugar, demarcar os seus limites com um sistema jurídico sólido, restringir a sua aplicação com supervisão eficiente, orientar o seu desenvolvimento com valores e ética corretos, atingir o objetivo de a tecnologia servir as pessoas e garantir que a falsificação profunda é uma tecnologia que está no caminho certo para beneficiar a humanidade. (os autores são investigadores do centro provincial de investigação sobre desenvolvimento digital e governação de zhejiang e procuradores da procuradoria popular do condado de pingyang, província de zhejiang)
