notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Novo Relatório de Sabedoria

Editor: Tao Zi Qiao Yang

[Introdução à Nova Sabedoria]Os agentes de IA estão espalhados por toda a rede. Como evitar ser enganado no futuro? Como proteger a privacidade? OpenAI, Microsoft, MIT e outras 25 instituições propuseram em conjunto um “certificado de personalidade” que pode provar que você é uma pessoa real sem divulgar qualquer informação pessoal.

Na última metade do mês, toda a Internet foi enganada por um "denunciante de IA" da OpenAI.

Todos devem estar familiarizados com o relato @iruletheworldmo do “Irmão Morango”, e de vez em quando encontrarão suas postagens explosivas.

Até esta quarta-feira, ninguém havia esperado pelo grande modelo GPT-4o que ele previu. Em vez disso, o fundador da startup de IA MultiOn revelou sua identidade——.

"Strawberry Brother" é um agente de IA.

Por um tempo, muitas plataformas na Internet iniciaram proibições de republicações relacionadas ao “Irmão Morango”.

No subreddit r/singularity do Reddit, ele foi fixado no topo e todos os membros estão proibidos de mencionar conteúdo relacionado.

Algumas pessoas até “bloquearam” @iruletheworldmo diretamente.

Jimmy Apples, o verdadeiro denunciante da OpenAI, também acreditava que o que o agente de IA disse era verdade.

Posteriormente, o agente de IA também lançou uma enquete online sobre se passei no teste de Turing Inesperadamente, mais da metade das pessoas deram uma resposta positiva.

E isso é apenas uma IA.

Xiao Zha disse uma vez: “No futuro, todos terão um assistente de IA e em breve haverá bilhões de agentes de IA navegando na Internet em nosso nome”.

Se isso acontecer um dia no futuro, como as pessoas saberão rapidamente se uma conta de mídia social é um bot? Como posso provar minha identidade como “pessoa real” sem enviar nenhuma informação pessoal?

Estudiosos de 25 instituições, incluindo OpenAI, Microsoft, MIT e UCB, propuseram conjuntamente uma tecnologia de verificação - "Personhodd Credentials (PHC)".

A PHC pode proteger a privacidade do usuário ao mesmo tempo em que prova na Internet que “você é você” e que é um ser humano real, e não uma IA.

Endereço do artigo: https://arxiv.org/pdf/2408.07892

O cientista-chefe e chefe de gabinete da Microsoft disse: “Estabelecer a identidade humana online e, ao mesmo tempo, manter a privacidade é um dos desafios definidores da era da IA”.

Outro disse que o estudo foi oportuno e instigante.

Por que você diz isso?

Os dados de 3 bilhões de pessoas vazaram e não há solução para a proteção da privacidade?

Além do caso do “Strawberry Brother” no início, os dados de quase 3 bilhões de pessoas vazaram recentemente, varrendo todos os Estados Unidos, e pode ser considerado um dos maiores incidentes de dados da história.

Isso inclui informações pessoais detalhadas dos residentes, como nome, e-mail, endereço, número de telefone, número de seguro social e endereço de e-mail.

O que é ainda mais assustador é que os dados de endereço podem ser rastreados há 30 anos, e até mesmo as informações de parentes que morreram há mais de 20 anos podem ser desenterradas.

Portanto, o anonimato sempre foi uma medida que muitas pessoas preocupadas com a privacidade tomam para se protegerem.

Mas às vezes, para algumas verificações importantes, você precisa fornecer suas informações pessoais.

Actualmente, estão a surgir IA cada vez mais poderosas, e os métodos utilizados pelos criminosos para fraudar e espalhar informações falsas são mais subtis e podem facilmente expandir-se para uma escala maior de disseminação.

Além disso, o limiar e o custo da IA ​​foram reduzidos, facilitando a sua obtenção.

À medida que imagens/vídeos/vozes gerados por IA se tornam cada vez mais realistas, por exemplo, em um aplicativo de namoro, como você pode ter certeza de que a outra pessoa é uma pessoa real?

As soluções actualmente existentes, como os códigos de verificação, são claramente insuficientes;

Isto também significa que o método tradicional de verificação homem-máquina está falhando.

Afinal, com o avanço da IA ​​em áreas como o reconhecimento de imagens, este método está se tornando cada vez menos confiável.

Agora, é extremamente necessário encontrar um equilíbrio que possa prevenir eficazmente o engano da IA, sem sacrificar excessivamente a privacidade do utilizador e a inclusão da Internet.

Este é também o efeito que os investigadores da OpenAI, Microsoft e outras instituições esperam ver em aplicações práticas através da investigação.

Prove que você é um humano, não uma IA

Como disse o pesquisador Steven Adler, a ferramenta de proteção de privacidade “Credencial de Personalidade” (PHC) pode provar que você é uma pessoa, mas não revelará “quem você é”.

Especificamente, as “credenciais de personalidade” são apoiadas por dois elementos que a IA não pode forjar:

“Autenticação no mundo real” e “tecnologia de criptografia segura”.

Em outras palavras, por melhor que a IA se torne, ela não poderá escapar desses dois pontos.

Resumindo, o PHC é um certificado digital que permite aos utilizadores provar aos serviços online que são uma pessoa real e não uma IA, sem ter de divulgar qualquer informação pessoal.

Este tipo de certificado pode ser emitido por uma organização confiável, como o governo.

E segundo a definição do autor, a APS pode ser um sistema local ou global e não é necessariamente baseada em tecnologia biométrica.

Agentes de IA inundam toda a rede, a estratégia mais recente para prevenir fraudes

Os dois coautores do artigo, Nouran Soliman e Tobin South, são dois estudantes de pós-graduação do MIT. Eles recentemente apresentaram brevemente a tecnologia em uma entrevista ao MIT News, discutindo sua necessidade, riscos e como usá-la de forma segura e. maneira justa.

A necessidade do “certificado de personalidade”

Embora quando se trata de IA, muitas discussões públicas se concentrem em chatbots como o ChatGPT, as capacidades da inteligência artificial obviamente vão além disso.

O envolvimento da IA ​​na Internet apresenta duas características: indistinguibilidade e escalabilidade, o que promove o crescimento contínuo do engano impulsionado pela IA.

A IA pode criar contas em redes sociais, publicar conteúdos falsos, fingir ser humanos ou amplificar massivamente determinados conteúdos através de algoritmos, ou mesmo realizar ataques em grande escala, o que liberta muitos riscos.

Isto mudará a nossa experiência de navegação nas redes sociais e será cada vez mais difícil distinguir a IA complexa dos humanos, semelhante ao problema dos “duplos digitais” sem consentimento.

As "credenciais de personalidade" fornecem uma solução potencial, como para filtrar conteúdo on-line e determinar o nível de confiança no recebimento de informações.

O que é um certificado de personalidade? Como garantir a segurança?

Como mencionado anteriormente, um “certificado pessoal” pode provar que você é humano sem revelar qualquer informação sobre sua identidade.

O autor disse que não importa quão avançada seja a IA, ela não pode fazer duas coisas que os humanos podem fazer - obter documentos off-line do mundo real e forjar ou quebrar sistemas avançados de criptografia.

Portanto, as “credenciais de personalidade” combinam estas duas ideias – segurança através da criptografia e o facto de os humanos ainda terem algumas capacidades que a IA não possui, para realmente provar que são humanos.

Para obter um “certificado de personalidade”, os usuários precisam ter vínculo com o governo, como identificação fiscal ou carteira de motorista, e deve haver participação offline.

Através da tecnologia de privacidade, os utilizadores podem provar este facto sem partilhar qualquer informação sensível sobre a sua identidade.

A implementação de “credenciais de personalidade” será relativamente fácil e depende de tecnologias de infraestrutura e segurança que existem há décadas, como o uso de identificadores como contas de e-mail para fazer login em serviços online. Os CSP podem complementar estes métodos existentes.

No entanto, a utilização de “certificados de personalidade” pelos utilizadores deve ser opcional e não obrigatória, e os prestadores de serviços podem permitir que as pessoas escolham se pretendem utilizá-los.

Ser opcional significa que ainda não podemos permitir que os usuários interajam on-line apenas com pessoas reais e verificadas, excluindo completamente a participação da IA ​​na Internet.

Mas em cenários como compras online ou negociações de transações, se você quiser garantir que a outra parte é uma entidade humana, os “certificados de personalidade” podem ser úteis.

Quais são os riscos? Como esses riscos podem ser reduzidos?

Um dos riscos vem da forma como é implementado. Se uma determinada entidade for a única emissora de um «certificado de personalidade», ou se o sistema for concebido de tal forma que todo o poder seja atribuído a uma entidade, isto pode levantar preocupações sobre uma concentração excessiva de poder.

Se você estiver em um ambiente sociopolítico difícil ou perigoso, ser obrigado a ir a um local off-line para obter um certificado de caráter pode ser assustador e desencorajar as pessoas de compartilhar informações on-line.

Uma solução possível é configurar vários emissores de “certificados de personalidade”.

O nosso documento procura encorajar governos, decisores políticos, líderes e investigadores a investirem mais recursos em diferentes direções de implementação e a explorarem os impactos mais amplos que esta tecnologia pode ter nas comunidades, garantindo que as políticas e regras corretas sejam implementadas.

A IA está a desenvolver-se muito rapidamente, muito mais rapidamente do que os governos conseguem adaptar-se. Portanto, os governos e as grandes empresas devem começar a pensar agora na adaptação dos sistemas digitais para que estejam prontos para provar que um utilizador é humano, protegendo ao mesmo tempo a privacidade e a segurança, para que possamos preparar-nos para um futuro com IA mais avançada.

Introdução técnica

Como é implementada a tecnologia de “certificado de personalidade”? Este artigo de 63 páginas nos dá uma resposta muito detalhada.

Endereço do artigo: https://arxiv.org/pdf/2408.07892

Primeiro, as “credenciais de personalidade” são armazenadas digitalmente no dispositivo do titular. Para garantir credibilidade e privacidade, o sistema de CSP necessita de cumprir dois pré-requisitos:

- Cada pessoa só pode possuir um “certificado de personalidade” e precisa ser verificado novamente regularmente para evitar que seja roubado.

- Os utilizadores titulares de PHC interagem anonimamente com os prestadores de serviços. Mesmo que os editores e prestadores de serviços da PHC conspirem, não podem rastrear as atividades digitais dos utilizadores, muito menos ligar as atividades dos utilizadores em várias plataformas.

O processo de cadastro e utilização do sistema PHC é apresentado na Figura 3:

Mediante solicitação, o usuário só precisa fornecer ao emissor as informações mínimas necessárias. O emitente é responsável por verificar se o utilizador é humano e se não se registou previamente num PHC. Além disso, o emissor tem o direito de retirar ou restabelecer o PHC.

Quando os usuários usam serviços digitais de terceiros, eles podem fornecer PHC e passar pela “prova de conhecimento zero” para concluir a verificação de identidade.

Além da APS, o prestador de serviço não pode obter outras informações adicionais. Cada atestado está limitado a uma aplicação específica, pelo que diferentes plataformas não podem ser vinculadas ao mesmo utilizador através do PHC.

O artigo propõe que a concepção de múltiplos emissores para o sistema PHC é um plano de implementação ideal. Os utilizadores podem escolher entre vários emitentes para se registarem no PHC, mas cada emitente só pode obter um certificado, o que reduz a fraude em grande escala e ao mesmo tempo garante a privacidade do utilizador.

Este sistema PHC tem três vantagens esperadas:

- Reduzir a influência de usuários "fantoches" e obter informações e participação reais em larga escala de humanos reais na Internet

- Mitigação de ataques de bots

- Deixe o assistente de IA realmente se tornar um representante de usuários confiáveis, em vez de ser manipulado por usuários mal-intencionados

Ao mesmo tempo, para que os CPS sejam implementados na vida real de forma justa e segura, devem ser enfrentados os seguintes quatro desafios:

• acesso justo

A verificação frequente da APS pode causar atrito e frustração durante o uso, afetando usuários não familiarizados com a tecnologia, principalmente os idosos. É também necessário garantir que os utilizadores sem CSP ainda possam utilizar os serviços digitais.

• expressão livre

Os utilizadores podem preocupar-se com o facto de os CSP associarem as suas atividades digitais às suas identidades reais offline, reduzindo a sua vontade de expressar as suas verdadeiras opiniões online.

• verificação de energia

Um desafio significativo que o ecossistema dos CPS enfrenta é a concentração de poder em algumas instituições, especialmente em emissores de CPS e grandes prestadores de serviços, cujas decisões relativas à utilização dos CPS terão um impacto significativo.

• Robustez contra ataques e erros

Como qualquer sistema digital, os sistemas PHC são vulneráveis ​​a ataques e exploração de múltiplas partes, tais como emissores de certificados, prestadores de serviços e utilizadores mal-intencionados. Considere usar as melhores práticas anteriores em segurança cibernética, como prevenção de DoS e bloqueio de acesso de invasores a registros confidenciais.

Ao final do artigo, o autor propõe os próximos passos que devem ser dados.

Primeiro, adapte-se ao sistema de rede digital existente e prepare-se para o impacto da inteligência artificial.

Mais especificamente, precisamos de repensar a forma como a IA mudará a Internet e as comunicações.

Em segundo lugar, dar prioridade aos “certificados de personalidade” como solução urgente.

A última imagem resume todos os pontos-chave deste artigo.

Vale ressaltar que, para evitar que as plataformas da Internet coletem informações excessivamente com base no "sistema de nomes reais", o Ministério da Segurança Pública e a Administração do Ciberespaço da China lançaram recentemente o "Cartão de Identificação Online".

Tudo o que você precisa é de um celular com função NFC, e após realizar o reconhecimento do cartão de identificação e reconhecimento facial e correlacionar o número do celular, você pode obter um “cartão de identificação online” virtual.

O "número de rede" acima consiste em letras e números, não contém informações de identidade em texto não criptografado e pode ser usado diretamente para autenticação de nome real no Taobao, WeChat e outros aplicativos, sem a necessidade de inserir informações como nome, número de identificação , etc.

Em termos de proteção da privacidade pessoal, qual você acha que é a melhor solução?

Referências:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html