nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Nouveau rapport de sagesse

Editeur : Tao Zi Qiao Yang

[Introduction à la nouvelle sagesse]Les agents IA sont répartis sur l’ensemble du réseau. Comment éviter d’être trompé à l’avenir ? Comment protéger la vie privée ? OpenAI, Microsoft, le MIT et 25 autres institutions ont proposé conjointement un « certificat de personnalité » qui peut prouver que vous êtes une personne réelle sans divulguer aucune information personnelle.

Au cours des quinze derniers mois, Internet tout entier a été trompé par un « lanceur d’alerte IA » d’OpenAI.

Tout le monde doit connaître le compte @iruletheworldmo de « Brother Strawberry », et ils tomberont de temps en temps sur ses posts explosifs.

Jusqu'à ce mercredi, personne n'avait attendu le grand modèle GPT-4o qu'il prédisait. Au lieu de cela, le fondateur de la start-up d'IA MultiOn a révélé son identité——

"Strawberry Brother" est un agent IA.

Pendant un certain temps, de nombreuses plateformes sur Internet ont lancé des interdictions sur les republications liées à « Brother Strawberry ».

Dans le subreddit r/singularity de Reddit, il a été épinglé en haut et il est interdit à tous les membres de mentionner du contenu associé.

Certaines personnes ont même "bloqué" directement @iruletheworldmo.

Jimmy Apples, le véritable lanceur d'alerte d'OpenAI, croyait également que ce que disait l'agent d'IA était vrai.

Par la suite, l'agent d'IA a également lancé un sondage en ligne pour savoir si j'avais réussi le test de Turing. De manière inattendue, plus de la moitié des personnes ont donné une réponse positive.

Et ce n'est qu'une IA.

Xiao Zha a dit un jour : « Dans le futur, tout le monde aura un assistant IA, et bientôt des milliards d'agents IA surferont sur Internet en notre nom. »

Si cela se produit un jour dans le futur, comment les gens pourront-ils savoir en un coup d’œil si un compte de réseau social est un robot ? Comment puis-je prouver mon identité en tant que « personne réelle » sans soumettre d'informations personnelles ?

Des chercheurs de 25 institutions, dont OpenAI, Microsoft, MIT et UCB, ont proposé conjointement une technologie de vérification : « Personhodd Credentials (PHC) ».

PHC peut protéger la vie privée des utilisateurs tout en prouvant sur Internet que « vous êtes vous » et que vous êtes un véritable être humain plutôt qu'une IA.

Adresse papier : https://arxiv.org/pdf/2408.07892

Le scientifique en chef et chef de cabinet de Microsoft a déclaré : « Établir l'identité humaine en ligne tout en préservant la confidentialité est l'un des défis déterminants de l'ère de l'IA. »

Un autre a déclaré que l’étude était opportune et suscitait la réflexion.

Pourquoi tu dis ça ?

Les données de 3 milliards de personnes ont été divulguées, et il n'y a pas de solution pour la protection de la vie privée ?

En plus du cas de « Strawberry Brother » au début, les données de près de 3 milliards de personnes ont récemment été divulguées, balayant l'ensemble des États-Unis, et cela peut être qualifié de l'un des plus grands incidents de données de l'histoire.

Cela inclut des informations personnelles détaillées sur les résidents, telles que le nom, l'adresse e-mail, l'adresse, le numéro de téléphone, le numéro de sécurité sociale et l'adresse e-mail.

Ce qui est encore plus terrifiant, c'est que les données d'adresse peuvent remonter à 30 ans, et même les informations sur des proches décédés depuis plus de 20 ans peuvent être déterrées.

Par conséquent, l’anonymat a toujours été une mesure que de nombreuses personnes soucieuses de leur vie privée prennent pour se protéger.

Mais parfois, pour certaines vérifications importantes, vous devez transmettre vos informations personnelles.

À l’heure actuelle, une IA de plus en plus puissante fait son apparition, et les méthodes utilisées par les criminels pour frauder et diffuser de fausses informations sont plus subtiles et peuvent facilement s’étendre à une plus grande échelle de diffusion.

De plus, le seuil et le coût de l’IA ont été réduits, ce qui facilite son obtention.

Alors que les images/vidéos/voix générées par l’IA deviennent de plus en plus réalistes, par exemple sur une application de rencontres, comment pouvez-vous être sûr que l’autre personne est une vraie personne ?

Les solutions actuellement existantes, telles que les codes de vérification, sont clairement insuffisantes ;

Cela signifie également que la méthode traditionnelle de vérification homme-machine échoue.

Après tout, avec les progrès de l’IA dans des domaines tels que la reconnaissance d’images, cette méthode devient de moins en moins fiable.

Il est désormais extrêmement nécessaire de trouver un équilibre permettant d’empêcher efficacement la tromperie de l’IA sans sacrifier excessivement la vie privée des utilisateurs et l’inclusivité d’Internet.

C’est également l’effet que les chercheurs d’OpenAI, de Microsoft et d’autres institutions espèrent voir dans des applications pratiques grâce à la recherche.

Prouvez que vous êtes un humain, pas une IA

Comme l'a dit le chercheur Steven Adler, l'outil de protection de la vie privée « Personality Credential » (PHC) peut prouver que vous êtes une personne, mais il ne révélera pas « qui vous êtes ».

Plus précisément, les « identifiants de personnalité » s'appuient sur deux éléments que l'IA ne peut pas falsifier :

« Authentification dans le monde réel » et « technologie de cryptage sécurisée ».

En d’autres termes, quelle que soit la qualité de l’IA, elle ne peut échapper à ces deux points.

En bref, PHC est un certificat numérique qui permet aux utilisateurs de prouver aux services en ligne qu'ils sont une personne réelle et non une IA, sans avoir à divulguer aucune information personnelle.

Ce type de certificat peut être délivré par une organisation de confiance, telle que le gouvernement.

Et selon la définition de l'auteur, les SSP peuvent être un système local ou mondial et ne sont pas nécessairement basés sur la technologie biométrique.

Les agents IA inondent tout le réseau, la dernière stratégie pour prévenir la fraude

Les deux co-auteurs de l'article, Nouran Soliman et Tobin South, sont deux étudiants diplômés du MIT. Ils ont récemment brièvement présenté la technologie dans une interview avec MIT News, discutant de sa nécessité, de ses risques et de la manière de l'utiliser de manière sûre et sécurisée. manière équitable. Appliquer les soins de santé primaires.

La nécessité d’un « certificat de personnalité »

Même si en matière d’IA, de nombreux débats publics se concentrent sur les chatbots comme ChatGPT, les capacités de l’intelligence artificielle vont évidemment au-delà de cela.

L’engagement de l’IA sur Internet présente deux caractéristiques : l’indiscernabilité et l’évolutivité, ce qui favorise la croissance continue de la tromperie basée sur l’IA.

L’IA peut créer des comptes sur les réseaux sociaux, publier de faux contenus, se faire passer pour des humains, ou encore amplifier massivement certains contenus grâce à des algorithmes, voire mener des attaques à grande échelle, ce qui libère de nombreux risques.

Cela changera notre expérience de navigation sur les réseaux sociaux et il deviendra de plus en plus difficile de distinguer l’IA complexe des humains, un peu comme le problème des « doubles numériques » sans consentement.

Les « identifiants de personnalité » offrent une solution potentielle, par exemple pour filtrer le contenu en ligne et déterminer le niveau de confiance dans la réception d'informations.

Qu'est-ce qu'un certificat de personnalité ? Comment assurer la sécurité ?

Comme mentionné précédemment, un « certificat de personne » peut prouver que vous êtes humain sans révéler aucune information sur votre identité.

L'auteur a déclaré que, quelle que soit l'avancée de l'IA, elle ne peut pas faire deux choses que les humains peuvent faire : obtenir des documents hors ligne du monde réel et falsifier ou déchiffrer des systèmes de cryptage avancés.

Ainsi, les « identifiants de personnalité » combinent ces deux idées : la sécurité grâce à la cryptographie et le fait que les humains ont encore certaines capacités que l'IA n'a pas, pour vraiment prouver que vous êtes humain.

Pour obtenir un « certificat de personnalité », les utilisateurs doivent avoir une relation avec le gouvernement, comme un numéro d'identification fiscale ou un permis de conduire, et il doit y avoir une participation hors ligne.

Grâce à la technologie de confidentialité, les utilisateurs peuvent prouver ce fait sans partager d’informations sensibles sur leur identité.

La mise en œuvre des « identifiants de personnalité » sera relativement simple. Elle s'appuie sur des technologies d'infrastructure et de sécurité qui existent depuis des décennies, comme l'utilisation d'identifiants tels que des comptes de messagerie pour se connecter aux services en ligne. Les SSP peuvent compléter ces méthodes existantes.

Toutefois, l'utilisation de « certificats de personnalité » par les utilisateurs devrait être facultative plutôt qu'obligatoire, et les fournisseurs de services peuvent laisser les gens choisir de les utiliser ou non.

Être facultatif signifie que nous ne sommes pas encore en mesure de permettre aux utilisateurs d’interagir uniquement avec des humains réels et vérifiés en ligne, excluant complètement la participation de l’IA sur Internet.

Mais dans des scénarios tels que les achats en ligne ou la négociation de transactions, si vous voulez vous assurer que l'autre partie est une entité humaine, les « certificats de personnalité » peuvent s'avérer utiles.

Quels sont les risques ? Comment réduire ces risques ?

L’un des risques vient de la manière dont il est mis en œuvre. Si une entité particulière est la seule à délivrer un "certificat de personnalité", ou si le système est conçu de telle manière que tous les pouvoirs sont confiés à une seule entité, cela peut susciter des inquiétudes quant à une trop grande concentration du pouvoir.

Si vous évoluez dans un environnement sociopolitique difficile ou dangereux, devoir vous rendre hors ligne pour obtenir un certificat de moralité peut être effrayant et décourager les gens de partager des informations en ligne.

Une solution possible consiste à créer plusieurs émetteurs de « certificats de personnalité ».

Notre document vise à encourager les gouvernements, les décideurs politiques, les dirigeants et les chercheurs à investir davantage de ressources dans différentes directions de mise en œuvre et à explorer les impacts plus larges que cette technologie peut avoir sur les communautés, en garantissant que les politiques et règles appropriées sont mises en place.

L’IA se développe très rapidement, bien plus vite que les gouvernements ne peuvent s’adapter. Par conséquent, les gouvernements et les grandes entreprises devraient commencer dès maintenant à réfléchir à l’adaptation des systèmes numériques afin qu’ils soient prêts à prouver qu’un utilisateur est humain tout en protégeant la confidentialité et la sécurité, afin que nous puissions préparer un avenir avec une IA plus avancée.

Présentation technique

Comment est mise en œuvre la technologie du « certificat de personnalité » ? Ce document de 63 pages nous apporte une réponse très détaillée.

Adresse papier : https://arxiv.org/pdf/2408.07892

Premièrement, les « identifiants de personnalité » sont stockés numériquement sur l’appareil du titulaire. Afin de garantir la crédibilité et la confidentialité, le système de soins de santé primaires doit répondre à deux conditions préalables :

- Chaque personne ne peut détenir qu'un seul « certificat de personnalité » et doit être revérifié régulièrement pour éviter qu'il ne soit volé.

- Les utilisateurs titulaires de PHC interagissent de manière anonyme avec les prestataires de services. Même si les éditeurs de PHC et les prestataires de services s’entendent, ils ne peuvent pas suivre les activités numériques des utilisateurs, et encore moins relier les activités des utilisateurs sur différentes plateformes.

Le processus d'enregistrement et d'utilisation du système PHC est illustré à la figure 3 :

Sur demande, l'utilisateur doit uniquement fournir à l'émetteur le minimum d'informations nécessaires. L'émetteur est responsable de vérifier que l'utilisateur est humain et qu'il ne s'est pas préalablement inscrit auprès d'un PHC. En outre, l'émetteur a le droit de retirer ou de rétablir le PHC.

Lorsque les utilisateurs utilisent des services numériques tiers, ils peuvent fournir des soins de santé primaires et passer par une « preuve de connaissance nulle » pour compléter la vérification d'identité.

En plus du PHC, le prestataire ne peut pas obtenir d’autres informations complémentaires. Chaque attestation est limitée à une application spécifique, donc différentes plateformes ne peuvent pas être liées au même utilisateur via PHC.

Le document propose que la conception de plusieurs émetteurs pour le système PHC constitue un plan de mise en œuvre idéal. Les utilisateurs peuvent choisir parmi plusieurs émetteurs pour s'inscrire au PHC, mais chaque émetteur ne peut obtenir qu'un seul certificat, ce qui réduit la fraude à grande échelle tout en garantissant la confidentialité des utilisateurs.

Ce système PHC présente trois avantages attendus :

- Réduire l'influence des utilisateurs « fantoches » et obtenir une contribution et une participation réelles à grande échelle de vrais humains sur Internet

- Atténuer les attaques de robots

- Laissez l'assistant IA devenir véritablement un représentant des utilisateurs dignes de confiance au lieu d'être manipulé par des utilisateurs malveillants

Dans le même temps, pour que les soins de santé primaires soient mis en œuvre dans la vie réelle de manière équitable et sûre, les quatre défis suivants doivent être relevés :

• accès équitable

Une vérification fréquente des PHC peut provoquer des frictions et de la frustration lors de l'utilisation, affectant les utilisateurs peu familiers avec la technologie, en particulier les personnes âgées. Il est également nécessaire de garantir que les utilisateurs sans SSP puissent toujours utiliser les services numériques.

• expression libre

Les utilisateurs peuvent s’inquiéter du fait que PHC relie leurs activités numériques à leur véritable identité hors ligne, réduisant ainsi leur volonté d’exprimer leurs véritables opinions en ligne.

• contrôle de puissance

Un défi important auquel est confronté l’écosystème des SSP est la concentration du pouvoir entre quelques institutions, en particulier les émetteurs de SSP et les grands prestataires de services, dont les décisions concernant l’utilisation des SSP auront un impact significatif.

• Robustesse contre les attaques et les erreurs

Comme tout système numérique, les systèmes PHC sont vulnérables aux attaques et à l’exploitation de plusieurs parties, telles que les émetteurs de certificats, les fournisseurs de services et les utilisateurs malveillants. Envisagez d'utiliser les bonnes pratiques précédentes en matière de cybersécurité, telles que la prévention des DoS et l'empêchement des attaquants d'accéder aux enregistrements sensibles.

À la fin de l'article, l'auteur propose les prochaines étapes à suivre.

Tout d’abord, adaptez-vous au système de réseau numérique existant et préparez-vous à l’impact de l’intelligence artificielle.

Plus précisément, nous devons repenser la manière dont l’IA va changer Internet et les communications.

Deuxièmement, donner la priorité aux « certificats de personnalité » comme solution urgente.

La dernière image résume tous les points clés de cet article.

Il convient de mentionner qu'afin d'empêcher les plateformes Internet de collecter excessivement des informations sur la base du « système de nom réel », le ministère de la Sécurité publique et l'administration du cyberespace de Chine ont récemment lancé la « carte d'identité en ligne ».

Tout ce dont vous avez besoin est un téléphone mobile doté de la fonction NFC, et après avoir effectué la reconnaissance de la carte d'identité et la reconnaissance faciale et corrélé le numéro de téléphone mobile, vous pouvez obtenir une « carte d'identité en ligne » virtuelle.

Le « numéro de réseau » ci-dessus se compose de lettres et de chiffres, ne contient pas d'informations d'identité en texte clair et peut être directement utilisé pour l'authentification par nom réel sur Taobao, WeChat et d'autres applications, sans qu'il soit nécessaire de saisir des informations telles que le nom, le numéro d'identification. , etc.

En termes de protection de la vie privée, quelle est selon vous la meilleure solution ?

Références :

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html