noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Nuevo informe de sabiduría

Editor: Tao Zi Qiao Yang

[Introducción a la Nueva Sabiduría]Los agentes de IA están repartidos por toda la red. ¿Cómo evitar ser engañados en el futuro? ¿Cómo proteger la privacidad? OpenAI, Microsoft, MIT y otras 25 instituciones han propuesto conjuntamente un "certificado de personalidad" que puede demostrar que usted es una persona real sin revelar ninguna información personal.

En el último medio mes, todo Internet ha sido engañado por un "denunciante de IA" de OpenAI.

Todos deben estar familiarizados con la cuenta @iruletheworldmo de "Brother Strawberry", y de vez en cuando se encontrarán con sus publicaciones explosivas.

Hasta este miércoles, nadie había esperado el gran modelo GPT-4o que predijo. En cambio, el fundador de la startup de IA MultiOn reveló su identidad.

"Strawberry Brother" es un agente de IA.

Durante un tiempo, muchas plataformas en Internet prohibieron las publicaciones relacionadas con "Brother Strawberry".

En el subreddit r/singularity de Reddit, se ha fijado en la parte superior y todos los miembros tienen prohibido mencionar contenido relacionado.

Algunas personas incluso "bloquearon" a @iruletheworldmo directamente.

El verdadero denunciante de OpenAI, Jimmy Apples, alguna vez creyó que lo que decía el agente de IA era cierto.

Posteriormente, el agente de IA también lanzó una encuesta en línea sobre si pasé la prueba de Turing. Inesperadamente, más de la mitad de las personas dieron una respuesta positiva.

Y esto es sólo una IA.

Xiao Zha dijo una vez: "En el futuro, todos tendrán un asistente de IA y pronto habrá miles de millones de agentes de IA navegando por Internet en nuestro nombre".

Si esto sucede algún día en el futuro, ¿cómo sabrá la gente si una cuenta de red social es un bot de un vistazo? ¿Cómo puedo demostrar mi identidad como "persona real" sin enviar ninguna información personal?

Académicos de 25 instituciones, incluidas OpenAI, Microsoft, MIT y UCB, propusieron conjuntamente una tecnología de verificación: "Personhodd Credentials (PHC)".

La APS puede proteger la privacidad del usuario y al mismo tiempo demostrar en Internet que "usted es usted" y que es un ser humano real y no una IA.

Dirección del artículo: https://arxiv.org/pdf/2408.07892

El jefe científico y jefe de personal de Microsoft dijo: "Establecer la identidad humana en línea manteniendo la privacidad es uno de los desafíos definitorios de la era de la IA".

Otro dijo que el estudio fue oportuno y estimulante.

¿Por qué dices eso?

¿Se filtraron los datos de 3 mil millones de personas y no hay solución para la protección de la privacidad?

Además del caso de "Strawberry Brother" al principio, recientemente se han filtrado datos de casi 3 mil millones de personas, arrasando todo Estados Unidos, y puede considerarse uno de los incidentes de datos más grandes de la historia.

Esto incluye información personal detallada de los residentes, como nombre, correo electrónico, dirección, número de teléfono, número de seguro social y dirección de correo electrónico.

Lo que es aún más aterrador es que los datos de la dirección se pueden rastrear hace 30 años, e incluso se puede desenterrar la información de familiares que han muerto hace más de 20 años.

Por lo tanto, el anonimato siempre ha sido una medida que muchas personas preocupadas por la privacidad toman para protegerse.

Pero a veces, para algunas verificaciones importantes, debes entregar tu información personal.

En la actualidad, están surgiendo IA cada vez más poderosas, y los métodos utilizados por los delincuentes para defraudar y difundir información falsa son más sutiles y pueden expandirse fácilmente a una escala de difusión mayor.

Además, se han reducido el umbral y el coste de la IA, lo que facilita su obtención.

A medida que las imágenes, vídeos y voces generados por IA se vuelven cada vez más realistas, por ejemplo, en una aplicación de citas, ¿cómo se puede estar seguro de que la otra persona es una persona real?

Las soluciones existentes actualmente, como los códigos de verificación, son claramente insuficientes;

Esto también significa que el método tradicional de verificación hombre-máquina está fallando.

Después de todo, con el avance de la IA en áreas como el reconocimiento de imágenes, este método se está volviendo cada vez menos confiable.

Ahora, es extremadamente necesario encontrar un equilibrio que pueda prevenir eficazmente el engaño de la IA sin sacrificar excesivamente la privacidad del usuario y la inclusión de Internet.

Este es también el efecto que los investigadores de OpenAI, Microsoft y otras instituciones esperan ver en aplicaciones prácticas a través de la investigación.

Demuestra que eres un humano, no una IA

Como dijo el investigador Steven Adler, la herramienta de protección de la privacidad "Personality Credential" (PHC) puede demostrar que usted es una persona, pero no revelará "quién es usted".

Específicamente, las “credenciales de personalidad” están respaldadas por dos elementos que la IA no puede falsificar:

"Autenticación del mundo real" y "tecnología de cifrado seguro".

En otras palabras, no importa qué tan buena sea la IA, no puede escapar de estos dos puntos.

En resumen, PHC es un certificado digital que permite a los usuarios demostrar ante los servicios en línea que son una persona real y no una IA, sin tener que revelar ninguna información personal.

Este tipo de certificado puede ser emitido por una organización confiable, como el gobierno.

Y según la definición del autor, la APS puede ser un sistema local o global y no necesariamente se basa en tecnología biométrica.

Agentes de IA inundan toda la red, la última estrategia para prevenir el fraude

Los dos coautores del artículo, Nouran Soliman y Tobin South, son dos estudiantes de posgrado del MIT. Recientemente presentaron brevemente la tecnología en una entrevista con MIT News, discutiendo su necesidad, sus riesgos y cómo utilizarla de forma segura y segura. Aplicar la APS de manera justa.

La necesidad de un "certificado de personalidad"

Aunque cuando se trata de IA, muchas discusiones públicas se centran en chatbots como ChatGPT, las capacidades de la inteligencia artificial obviamente van más allá de eso.

La participación de la IA en Internet presenta dos características: indistinguibilidad y escalabilidad, lo que promueve el crecimiento continuo del engaño impulsado por la IA.

La IA puede crear cuentas en redes sociales, publicar contenido falso, hacerse pasar por humanos o amplificar masivamente ciertos contenidos a través de algoritmos, o incluso realizar ataques a gran escala, lo que genera muchos riesgos.

Esto cambiará nuestra experiencia al navegar por las redes sociales y será cada vez más difícil distinguir la IA compleja de los humanos, similar al problema de los "dobles digitales" sin consentimiento.

Las "credenciales de personalidad" proporcionan una solución potencial, por ejemplo para filtrar contenido en línea y determinar el nivel de confianza al recibir información.

¿Qué es un certificado de personalidad? ¿Cómo garantizar la seguridad?

Como se mencionó anteriormente, un "certificado de persona" puede demostrar que usted es un ser humano sin revelar ninguna información sobre su identidad.

El autor dijo que no importa cuán avanzada sea la IA, no puede hacer dos cosas que los humanos pueden hacer: obtener documentos del mundo real fuera de línea y falsificar o descifrar sistemas de cifrado avanzados.

Entonces, las "credenciales de personalidad" combinan estas dos ideas: seguridad a través de la criptografía y el hecho de que los humanos todavía tienen algunas habilidades que la IA no tiene, para demostrar realmente que eres humano.

Para obtener un "certificado de personalidad", los usuarios deben tener una relación con el gobierno, como una identificación fiscal o una licencia de conducir, y debe haber participación fuera de línea.

A través de la tecnología de privacidad, los usuarios pueden probar este hecho sin compartir ninguna información confidencial sobre su identidad.

La implementación de "credenciales de personalidad" será relativamente fácil. Se basa en infraestructura y tecnologías de seguridad que han existido durante décadas, como el uso de identificadores como cuentas de correo electrónico para iniciar sesión en servicios en línea. La APS puede complementar estos métodos existentes.

Sin embargo, el uso de "certificados de personalidad" por parte de los usuarios debería ser opcional y no obligatorio, y los proveedores de servicios pueden permitir que las personas elijan si los utilizan.

Ser opcional significa que todavía no podemos permitir que los usuarios interactúen en línea solo con humanos reales y verificados, excluyendo por completo la participación de la IA en Internet.

Pero en escenarios como compras en línea o negociación de transacciones, si desea asegurarse de que la otra parte sea una entidad humana, los "certificados de personalidad" pueden resultar útiles.

¿Cuáles son los riesgos? ¿Cómo se pueden reducir estos riesgos?

Uno de los riesgos proviene de cómo se implementa. Si una entidad en particular es la única que emite un "certificado de personalidad", o si el sistema está diseñado de tal manera que todo el poder se otorga a una sola entidad, esto puede generar preocupaciones sobre una excesiva concentración de poder.

Si se encuentra en un entorno sociopolítico difícil o peligroso, tener que ir a un lugar fuera de línea para obtener un certificado de carácter puede resultar aterrador y disuadir a las personas de compartir información en línea.

Una posible solución es configurar varios emisores de "certificados de personalidad".

Nuestro documento busca alentar a los gobiernos, formuladores de políticas, líderes e investigadores a invertir más recursos en diferentes direcciones de implementación y explorar los impactos más amplios que esta tecnología puede tener en las comunidades, asegurando que se implementen las políticas y reglas correctas.

La IA se está desarrollando muy rápidamente, mucho más rápido de lo que los gobiernos pueden adaptarse. Por lo tanto, los gobiernos y las grandes empresas deberían empezar a pensar ahora en adaptar los sistemas digitales para que estén preparados para demostrar que un usuario es humano y al mismo tiempo proteger la privacidad y la seguridad, de modo que podamos prepararnos para un futuro con una IA más avanzada.

Introducción técnica

¿Cómo se implementa la tecnología del "certificado de personalidad"? Este artículo de 63 páginas nos da una respuesta muy detallada.

Dirección del artículo: https://arxiv.org/pdf/2408.07892

En primer lugar, las “credenciales de personalidad” se almacenan digitalmente en el dispositivo del titular. Para garantizar la credibilidad y la privacidad, el sistema de atención primaria de salud debe cumplir dos requisitos previos:

- Cada persona sólo puede tener un "certificado de personalidad" y debe volver a verificarse periódicamente para evitar que lo roben.

- Los usuarios titulares de PHC interactúan de forma anónima con los proveedores de servicios. Incluso si los editores y proveedores de servicios de APS se confabulan, no pueden rastrear las actividades digitales de los usuarios, y mucho menos conectar sus actividades en varias plataformas.

El proceso de registro y uso del sistema PHC se muestra en la Figura 3:

Previa solicitud, el usuario sólo deberá proporcionar al emisor la información mínima necesaria. El emisor es responsable de verificar que el usuario sea humano y que no se haya registrado previamente en una APS. Además, el emisor tiene derecho a retirar o restablecer el PHC.

Cuando los usuarios utilizan servicios digitales de terceros, pueden proporcionar APS y pasar por una "prueba de conocimiento cero" para completar la verificación de identidad.

Además de la APS, el proveedor de servicios no puede obtener otra información adicional. Cada certificación se limita a una aplicación específica, por lo que no se pueden vincular diferentes plataformas al mismo usuario a través de PHC.

El documento propone que diseñar múltiples emisores para el sistema de APS es un plan de implementación ideal. Los usuarios pueden elegir entre varios emisores para registrarse en PHC, pero cada emisor solo puede obtener un certificado, lo que reduce el fraude a gran escala y al mismo tiempo garantiza la privacidad del usuario.

Este sistema de APS tiene tres ventajas esperadas:

- Reducir la influencia de los usuarios "títeres" y lograr aportes y participación reales a gran escala de humanos reales en Internet.

- Mitigar los ataques de bots

- Permita que el asistente de IA se convierta verdaderamente en un representante de usuarios confiables en lugar de ser manipulado por usuarios malintencionados.

Al mismo tiempo, para que la APS se implemente en la vida real de manera justa y segura, se deben enfrentar los siguientes cuatro desafíos:

• acceso justo

La verificación frecuente de la APS puede causar fricción y frustración durante el uso, lo que afecta a los usuarios que no están familiarizados con la tecnología, especialmente a los ancianos. También es necesario garantizar que los usuarios sin APS puedan seguir utilizando los servicios digitales.

• libre expresión

Los usuarios pueden preocuparse de que la APS vincule sus actividades digitales con sus identidades reales fuera de línea, reduciendo su disposición a expresar sus verdaderas opiniones en línea.

• control de potencia

Un desafío importante que enfrenta el ecosistema de la APS es la concentración de poder en unas pocas instituciones, especialmente los emisores de APS y los grandes proveedores de servicios, cuyas decisiones sobre el uso de la APS tendrán un impacto significativo.

• Robustez frente a ataques y errores

Como cualquier sistema digital, los sistemas de APS son vulnerables a ataques y explotación por parte de múltiples partes, como emisores de certificados, proveedores de servicios y usuarios malintencionados. Considere utilizar las mejores prácticas anteriores en ciberseguridad, como la defensa DoS y el bloqueo de atacantes para que no accedan a registros confidenciales.

Al final del artículo, el autor propone los próximos pasos a seguir.

Primero, adaptarse al sistema de red digital existente y prepararse para el impacto de la inteligencia artificial.

Más específicamente, debemos repensar cómo la IA cambiará Internet y las comunicaciones.

En segundo lugar, dar prioridad a los “certificados de personalidad” como solución urgente.

La última imagen resume todos los puntos clave de este artículo.

Vale la pena mencionar que para evitar que las plataformas de Internet recopilen excesivamente información basándose en el "sistema de nombre real", el Ministerio de Seguridad Pública y la Administración del Ciberespacio de China lanzaron recientemente la "Tarjeta de identificación en línea".

Todo lo que necesita es un teléfono móvil con función NFC, y después de realizar el reconocimiento de tarjetas de identificación y reconocimiento facial y correlacionar el número de teléfono móvil, puede obtener una "tarjeta de identificación en línea" virtual.

El "número de red" anterior consta de letras y números, no contiene información de identidad en texto claro y puede usarse directamente para la autenticación de nombre real en Taobao, WeChat y otras aplicaciones, sin la necesidad de ingresar información como nombre o número de identificación. , etc.

En términos de protección de la privacidad personal, ¿cuál cree que es una mejor solución?

Referencias:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html