notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Nuovo rapporto sulla saggezza

Editore: Tao Zi Qiao Yang

[Introduzione alla Nuova Saggezza]Gli agenti IA sono sparsi in tutta la rete. Come evitare di essere ingannati in futuro? Come proteggere la privacy? OpenAI, Microsoft, MIT e altre 25 istituzioni hanno proposto congiuntamente un "certificato di personalità" che può dimostrare che sei una persona reale senza rivelare alcuna informazione personale.

Nell'ultima metà del mese, l'intera Internet è stata ingannata da un "informatore dell'intelligenza artificiale" di OpenAI.

Tutti devono avere familiarità con l'account @iruletheworldmo di "Brother Strawberry" e di tanto in tanto si imbatteranno nei suoi post esplosivi.

Fino a mercoledì nessuno aveva aspettato il modello di grandi dimensioni GPT-4o da lui previsto. Invece, il fondatore della start-up AI MultiOn ha rivelato la sua identità——.

"Strawberry Brother" è un agente AI.

Per un certo periodo, molte piattaforme su Internet hanno iniziato a vietare i repost relativi a "Brother Strawberry".

Nel subreddit r/singularity di Reddit, è stato fissato in alto e a tutti i membri è vietato menzionare contenuti correlati.

Alcune persone hanno addirittura "bloccato" direttamente @iruletheworldmo.

Il vero informatore di OpenAI, Jimmy Apples, una volta credeva che ciò che aveva detto l'agente AI fosse vero.

Successivamente l’agente AI ha lanciato anche un sondaggio online per verificare se avevo superato il test di Turing. Inaspettatamente, più della metà delle persone ha dato una risposta positiva.

E questa è solo un'intelligenza artificiale.

Xiao Zha una volta disse: "In futuro, tutti avranno un assistente AI e presto ci saranno miliardi di agenti AI che navigheranno in Internet per nostro conto".

Se un giorno ciò accadesse, come faranno le persone a capire a colpo d’occhio se un account di social media è un bot? Come posso dimostrare la mia identità di "persona reale" senza fornire alcuna informazione personale?

Studiosi di 25 istituzioni tra cui OpenAI, Microsoft, MIT e UCB hanno proposto congiuntamente una tecnologia di verifica: "Personhodd Credentials (PHC)".

PHC può proteggere la privacy degli utenti dimostrando su Internet che "tu sei tu" e che sei un vero essere umano piuttosto che un'intelligenza artificiale.

Indirizzo del documento: https://arxiv.org/pdf/2408.07892

Il capo scienziato e capo dello staff di Microsoft ha dichiarato: "Stabilire l'identità umana online mantenendo la privacy è una delle sfide determinanti dell'era dell'intelligenza artificiale".

Un altro ha affermato che lo studio è stato tempestivo e stimolante.

Perchè dici questo?

Sono trapelati i dati di 3 miliardi di persone e non esiste una soluzione per la tutela della privacy?

Oltre al caso di "Strawberry Brother" all'inizio, recentemente sono trapelati i dati di quasi 3 miliardi di persone, diffondendosi in tutti gli Stati Uniti, e può essere definito uno dei più grandi incidenti di dati della storia.

Ciò include informazioni personali dettagliate dei residenti, come nome, e-mail, indirizzo, numero di telefono, numero di previdenza sociale e indirizzo e-mail.

Ciò che è ancora più terrificante è che i dati degli indirizzi possono essere fatti risalire a 30 anni fa e possono essere recuperati anche i dati di parenti morti da più di 20 anni.

Pertanto, l’anonimato è sempre stata una misura che molte persone attente alla privacy adottano per proteggersi.

Ma a volte, per alcune verifiche importanti, devi fornire i tuoi dati personali.

Al momento stanno emergendo IA sempre più potenti e i metodi utilizzati dai criminali per frodare e diffondere informazioni false sono più subdoli e possono facilmente espandersi su una scala di diffusione più ampia.

Inoltre, la soglia e il costo dell’IA sono stati ridotti, rendendone più semplice l’ottenimento.

Man mano che le immagini, i video e le voci generati dall'intelligenza artificiale diventano sempre più realistici, ad esempio in un'app di appuntamenti, come puoi essere sicuro che l'altra persona sia una persona reale?

Le soluzioni attualmente esistenti, come i codici di verifica, sono chiaramente insufficienti;

Ciò significa anche che il tradizionale metodo di verifica uomo-macchina sta fallendo.

Dopotutto, con il progresso dell’intelligenza artificiale in settori come il riconoscimento delle immagini, questo metodo sta diventando sempre più inaffidabile.

Ora è estremamente necessario trovare un equilibrio che possa prevenire efficacemente gli inganni dell’intelligenza artificiale senza sacrificare eccessivamente la privacy degli utenti e l’inclusività di Internet.

Questo è anche l’effetto che i ricercatori di OpenAI, Microsoft e altre istituzioni sperano di vedere in applicazioni pratiche attraverso la ricerca.

Dimostra che sei un essere umano, non un'intelligenza artificiale

Come ha affermato il ricercatore Steven Adler, lo strumento di protezione della privacy "Personality Credential" (PHC) può dimostrare che sei una persona, ma non rivelerà "chi sei".

Nello specifico, le “credenziali della personalità” sono supportate da due elementi che l’intelligenza artificiale non può falsificare:

"Autenticazione nel mondo reale" e "tecnologia di crittografia sicura".

In altre parole, non importa quanto diventi brava l’IA, non può sfuggire a questi due punti.

In breve, PHC è un certificato digitale che consente agli utenti di dimostrare ai servizi online di essere una persona reale e non un'intelligenza artificiale, senza dover divulgare alcuna informazione personale.

Questo tipo di certificato può essere rilasciato da un'organizzazione fidata, come il governo.

E secondo la definizione dell'autore, l'assistenza sanitaria primaria può essere un sistema locale o globale e non è necessariamente basato sulla tecnologia biometrica.

Gli agenti IA inondano l'intera rete, l'ultima strategia per prevenire le frodi

I due coautori dell'articolo, Nouran Soliman e Tobin South, sono due studenti laureati del MIT. Hanno recentemente introdotto brevemente la tecnologia in un'intervista con MIT News, discutendone la necessità, i rischi e come utilizzarla in modo sicuro e. modo equo.

La necessità del “certificato della personalità”

Anche se quando si parla di intelligenza artificiale molte discussioni pubbliche si concentrano su chatbot come ChatGPT, le capacità dell’intelligenza artificiale ovviamente vanno oltre.

Il coinvolgimento dell’intelligenza artificiale su Internet presenta due caratteristiche: indistinguibilità e scalabilità, che promuovono la continua crescita dell’inganno guidato dall’intelligenza artificiale.

L’intelligenza artificiale può creare account sui social network, pubblicare contenuti falsi, fingere di essere umani o amplificare massicciamente determinati contenuti attraverso algoritmi o persino condurre attacchi su larga scala, il che comporta molti rischi.

Ciò cambierà la nostra esperienza di navigazione sui social media e diventerà sempre più difficile distinguere l’intelligenza artificiale complessa dagli esseri umani, in modo simile al problema dei “doppi digitali” senza consenso.

Le "credenziali della personalità" forniscono una potenziale soluzione, ad esempio per filtrare i contenuti online e determinare il livello di fiducia nella ricezione delle informazioni.

Cos'è un certificato di personalità? Come garantire la sicurezza?

Come accennato in precedenza, un "certificato personale" può dimostrare che sei umano senza rivelare alcuna informazione sulla tua identità.

L’autore ha affermato che non importa quanto sia avanzata l’intelligenza artificiale, non può fare due cose che gli esseri umani possono fare: ottenere documenti offline e reali e creare o violare sistemi di crittografia avanzati.

Quindi le "credenziali della personalità" combinano queste due idee: la sicurezza attraverso la crittografia e il fatto che gli esseri umani hanno ancora alcune abilità che l'intelligenza artificiale non ha, per dimostrare davvero che sei umano.

Per ottenere un "certificato della personalità", gli utenti devono avere una relazione con il governo, come un codice fiscale o una patente di guida, e deve esserci una partecipazione offline.

Attraverso la tecnologia della privacy, gli utenti possono dimostrare questo fatto senza condividere informazioni sensibili sulla propria identità.

L’implementazione delle “credenziali personali” sarà relativamente semplice e si baserà su infrastrutture e tecnologie di sicurezza che esistono da decenni, come l’utilizzo di identificatori come gli account di posta elettronica per accedere ai servizi online. L'assistenza sanitaria primaria può integrare questi metodi esistenti.

Tuttavia, l'uso dei "certificati di personalità" da parte degli utenti dovrebbe essere facoltativo anziché obbligatorio, e i fornitori di servizi possono lasciare che le persone scelgano se utilizzarli.

Essere facoltativi significa che non siamo ancora in grado di consentire agli utenti di interagire solo con esseri umani reali e verificati online, escludendo completamente la partecipazione dell’intelligenza artificiale su Internet.

Ma in scenari come lo shopping online o la negoziazione di transazioni, se si vuole garantire che l'altra parte sia un'entità umana, i "certificati di personalità" possono tornare utili.

Quali sono i rischi? Come si possono ridurre questi rischi?

Uno dei rischi deriva dal modo in cui viene implementato. Se una particolare entità è l'unica emittente di un "certificato di personalità", o se il sistema è progettato in modo tale che tutto il potere sia conferito a un'unica entità, ciò potrebbe sollevare preoccupazioni riguardo a un'eccessiva concentrazione di potere.

Se ti trovi in ​​un ambiente sociopolitico difficile o pericoloso, doverti recare in un luogo offline per ottenere un certificato di carattere può essere spaventoso e scoraggiare le persone dal condividere informazioni online.

Una possibile soluzione è quella di istituire più emittenti di "certificati di personalità".

Il nostro documento cerca di incoraggiare governi, politici, leader e ricercatori a investire più risorse in diverse direzioni di implementazione ed esplorare gli impatti più ampi che questa tecnologia può avere sulle comunità, garantendo che vengano messe in atto le giuste politiche e regole.

L’intelligenza artificiale si sta sviluppando molto velocemente, molto più velocemente di quanto i governi possano adattarsi. Pertanto, i governi e le grandi aziende dovrebbero iniziare a pensare ora ad adattare i sistemi digitali in modo che siano pronti a dimostrare che un utente è umano proteggendo al contempo la privacy e la sicurezza, in modo da potersi preparare per un futuro con un’intelligenza artificiale più avanzata.

Introduzione tecnica

Come viene implementata la tecnologia del "certificato di personalità"? Questo documento di 63 pagine ci fornisce una risposta molto dettagliata.

Indirizzo del documento: https://arxiv.org/pdf/2408.07892

In primo luogo, le “credenziali della personalità” vengono archiviate digitalmente sul dispositivo del titolare. Per garantire credibilità e privacy, il sistema PHC deve soddisfare due prerequisiti:

- Ogni persona può essere titolare di un solo "certificato di personalità" e deve essere nuovamente verificato regolarmente per evitare che venga rubato.

- Gli utenti in possesso di PHC interagiscono in modo anonimo con i fornitori di servizi. Anche se gli editori e i fornitori di servizi colludono, non possono tracciare le attività digitali degli utenti, e tanto meno collegare le attività degli utenti su varie piattaforme.

Il processo di registrazione e utilizzo del sistema PHC è mostrato nella Figura 3:

Su richiesta, l'utente deve fornire all'emittente solo le informazioni minime necessarie. L'emittente è responsabile della verifica dello stato umano e della determinazione che l'utente non abbia precedentemente registrato un PHC qui. Inoltre, l'emittente ha il diritto di ritirare o ripristinare la PHC.

Quando gli utenti utilizzano servizi digitali di terze parti, possono fornire PHC e passare attraverso la "prova a conoscenza zero" per completare la verifica dell'identità.

Oltre alla PHC, il fornitore del servizio non può ottenere altre informazioni aggiuntive. Ogni attestazione è limitata a un'applicazione specifica, quindi piattaforme diverse non possono essere collegate allo stesso utente tramite PHC.

Il documento propone che la progettazione di più emittenti per il sistema PHC sia un piano di implementazione ideale. Gli utenti possono scegliere tra più emittenti per registrarsi per PHC, ma ciascun emittente può ottenere un solo certificato, il che riduce le frodi su larga scala garantendo al contempo la privacy dell'utente.

Questo sistema PHC presenta tre vantaggi attesi:

- Ridurre l'influenza degli utenti "burattino" e ottenere un input reale e la partecipazione su larga scala di esseri umani reali su Internet

- Mitigare gli attacchi dei bot

- Lascia che l'assistente AI diventi veramente un rappresentante di utenti affidabili invece di essere manipolato da utenti malintenzionati

Allo stesso tempo, affinché l’assistenza sanitaria primaria possa essere implementata nella vita reale in modo equo e sicuro, è necessario affrontare le seguenti quattro sfide:

• accesso equo

La verifica frequente del PHC può causare attriti e frustrazione durante l'uso, colpendo gli utenti che non hanno familiarità con la tecnologia, in particolare gli anziani. È inoltre necessario garantire che gli utenti senza assistenza sanitaria primaria possano comunque utilizzare i servizi digitali.

• libera espressione

Gli utenti potrebbero temere che la PHC colleghi le loro attività digitali alle loro identità reali offline, riducendo la loro volontà di esprimere le loro vere opinioni online.

• controllo della potenza

Una sfida significativa che l’ecosistema dell’assistenza sanitaria sanitaria deve affrontare è la concentrazione del potere in poche istituzioni, in particolare emittenti e grandi fornitori di servizi, le cui decisioni relative all’utilizzo dell’assistenza sanitaria sanitaria avranno un impatto significativo.

• Robustezza contro attacchi ed errori

Come ogni sistema digitale, i sistemi PHC sono vulnerabili agli attacchi e allo sfruttamento da parte di più parti, come emittenti di certificati, fornitori di servizi e utenti malintenzionati. Prendi in considerazione l'utilizzo delle migliori pratiche precedenti in materia di sicurezza informatica, come la difesa DoS e il blocco dell'accesso ai record sensibili da parte degli aggressori.

Alla fine dell’articolo, l’autore propone i prossimi passi da compiere.

Innanzitutto, adattarsi al sistema di rete digitale esistente e prepararsi all’impatto dell’intelligenza artificiale.

Più specificamente, dobbiamo ripensare al modo in cui l’intelligenza artificiale cambierà Internet e le comunicazioni.

In secondo luogo, dare priorità ai “certificati di personalità” come soluzione urgente.

L’ultima immagine riassume tutti i punti chiave di questo articolo.

Vale la pena ricordare che, per evitare che le piattaforme Internet raccolgano eccessivamente informazioni sulla base del "sistema dei nomi reali", il Ministero della Pubblica Sicurezza e l'Amministrazione del Cyberspazio cinese hanno recentemente lanciato la "Carta d'identità online".

Tutto ciò di cui hai bisogno è un telefono cellulare con funzione NFC e, dopo aver eseguito il riconoscimento della carta d'identità, il riconoscimento del volto e la correlazione del numero di cellulare, puoi ottenere una "carta d'identità online" virtuale.

Il "numero di rete" di cui sopra è composto da lettere e numeri, non contiene informazioni sull'identità in testo chiaro e può essere utilizzato direttamente per l'autenticazione del nome reale su Taobao, WeChat e altre app, senza la necessità di inserire informazioni come nome, numero ID , ecc.

In termini di protezione della privacy personale, quale pensi sia la soluzione migliore?

Riferimenti:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html