uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Uusi viisausraportti

Toimittaja: Tao Zi Qiao Yang

[Johdatus uuteen viisauteen]Tekoälyagentit ovat levinneet koko verkostoon. Kuinka estää pettäminen tulevaisuudessa? Kuinka suojata yksityisyyttä? OpenAI, Microsoft, MIT ja 25 muuta instituutiota ovat yhdessä ehdottaneet "henkilöllisyystodistusta", joka voi todistaa, että olet todellinen henkilö paljastamatta mitään henkilökohtaisia ​​tietoja.

Viimeisen puolen kuukauden aikana OpenAI:n "AI whistleblower" on huijannut koko Internetiä.

Kaikkien täytyy tuntea "Brother Strawberryn" @iruletheworldmo-tili, ja he törmäävät hänen räjähtäviin viesteihinsä silloin tällöin.

Tähän keskiviikkoon asti kukaan ei ollut odottanut hänen ennustamaansa suurta GPT-4o-mallia Sen sijaan AI-start-up-yrityksen MultiOn perustaja paljasti henkilöllisyytensä...

"Strawberry Brother" on tekoälyagentti.

Jonkin aikaa monet alustat kaikkialla Internetissä käynnistivät "Brother Strawberry" -aiheisiin liittyvien julkaisujen kieltoja.

Reddit subreddit r/singularity -kohdassa se on kiinnitetty yläosaan, ja kaikkia jäseniä on kielletty mainitsemasta aiheeseen liittyvää sisältöä.

Jotkut ihmiset jopa "estivät" @iruletheworldmo suoraan.

Jimmy Apples, todellinen OpenAI:n ilmiantaja, uskoi myös tekoälyagentin sanoman olevan totta.

Myöhemmin tekoälyagentti käynnisti myös online-kyselyn siitä, läpäisinkö Turingin testin Yllättäen yli puolet ihmisistä antoi myönteisen vastauksen.

Ja tämä on vain tekoäly.

Xiao Zha sanoi kerran: "Tulevaisuudessa jokaisella on tekoälyassistentti, ja pian miljardit tekoälyagentit surffailevat Internetissä puolestamme."

Jos näin tapahtuu jonakin päivänä tulevaisuudessa, miten ihmiset kertovat yhdellä silmäyksellä, onko sosiaalisen median tili robotti? Kuinka voin todistaa henkilöllisyyteni "todellisena henkilönä" lähettämättä henkilötietoja?

Tutkijat 25 laitoksesta, mukaan lukien OpenAI, Microsoft, MIT ja UCB, ehdottivat yhdessä varmennustekniikkaa - "Personhodd Credentials (PHC)".

PHC voi suojata käyttäjien yksityisyyttä ja samalla todistaa Internetissä, että "olet sinä" ja että olet todellinen ihminen kuin tekoäly.

Paperiosoite: https://arxiv.org/pdf/2408.07892

Microsoftin päätutkija ja henkilöstöpäällikkö sanoi: "Ihmisen identiteetin määrittäminen verkossa säilyttäen samalla yksityisyyden on yksi tekoälyn aikakauden määrittelevistä haasteista."

Toinen sanoi, että tutkimus oli ajankohtainen ja ajatuksia herättävä.

Miksi sanot niin?

Kolmen miljardin ihmisen tiedot vuotivat, eikä yksityisyyden suojaamiseen ole ratkaisua?

Alkuperäisen "Strawberry Brotherin" tapauksen lisäksi viime aikoina on vuotanut lähes 3 miljardin ihmisen dataa, joka on pyyhkäissyt koko Yhdysvaltoja, ja sitä voidaan kutsua yhdeksi historian suurimmista datatapauksista.

Tämä sisältää asukkaiden yksityiskohtaiset henkilötiedot, kuten nimi, sähköpostiosoite, osoite, puhelinnumero, sosiaaliturvatunnus ja sähköpostiosoite.

Vielä pelottavampaa on, että osoitetiedot voidaan jäljittää 30 vuoden päähän ja jopa yli 20 vuotta kuolleiden omaisten tiedot voidaan kaivaa esiin.

Siksi anonyymiys on aina ollut toimenpide, jonka monet yksityisyydensuojatietoiset ihmiset käyttävät suojellakseen itseään.

Joskus sinun on kuitenkin luovutettava henkilötietosi joidenkin tärkeiden tarkistusten yhteydessä.

Tällä hetkellä syntyy yhä tehokkaampia tekoälyä, ja rikollisten käyttämät menetelmät huijatakseen ja levittääkseen vääriä tietoja ovat hienovaraisempia ja leviävät helposti laajemmalle leviämisasteelle.

Lisäksi tekoälyn kynnystä ja kustannuksia on alennettu, mikä helpottaa sen hankkimista.

Kun tekoälyn luomat kuvat/videot/äänet muuttuvat yhä realistisemmiksi esimerkiksi treffisovelluksessa, kuinka voit olla varma, että toinen henkilö on todellinen henkilö?

Nykyiset ratkaisut, kuten varmennuskoodit, ovat selvästi riittämättömiä.

Tämä tarkoittaa myös sitä, että perinteinen ihmisen ja koneen tunnistusmenetelmä epäonnistuu.

Loppujen lopuksi tekoälyn kehittyessä kuvantunnistuksen kaltaisilla aloilla tästä menetelmästä on tulossa yhä epäluotettavampi.

Nyt on äärimmäisen välttämätöntä löytää tasapaino, jolla voidaan tehokkaasti estää tekoälypetoksia uhraamatta liiallisesti käyttäjien yksityisyyttä ja Internetin inklusiivisuutta.

Tämä on myös se vaikutus, jonka OpenAI:n, Microsoftin ja muiden instituutioiden tutkijat toivovat näkevänsä tutkimuksen avulla käytännön sovelluksissa.

Todista, että olet ihminen, et tekoäly

Kuten tutkija Steven Adler sanoi, yksityisyyden suojatyökalu "Personality Credential" (PHC) voi todistaa, että olet henkilö, mutta se ei paljasta "kuka olet".

Erityisesti "persoonallisuusvaltuuksia" tukee kaksi elementtiä, joita tekoäly ei voi väärentää:

"Reaalimaailman todennus" ja "turvallinen salaustekniikka".

Toisin sanoen, riippumatta siitä, kuinka hyvä tekoäly tulee, se ei voi välttää näitä kahta pistettä.

Lyhyesti sanottuna PHC on digitaalinen sertifikaatti, jonka avulla käyttäjät voivat todistaa verkkopalveluille olevansa todellinen henkilö eivätkä tekoäly ilman, että heidän tarvitsee paljastaa mitään henkilökohtaisia ​​tietoja.

Tällaisen todistuksen voi myöntää luotettava organisaatio, kuten hallitus.

Ja kirjoittajan määritelmän mukaan PHC voi olla paikallinen tai globaali järjestelmä, eikä se välttämättä perustu biometriseen teknologiaan.

Tekoälyagentit tulvivat koko verkkoa, uusin strategia petosten estämiseksi

Paperin kaksi kirjoittajaa, Nouran Soliman ja Tobin South, ovat kaksi MIT:n jatko-opiskelijaa. He esittelivät äskettäin lyhyesti teknologiaa MIT News -lehden haastattelussa ja keskustelivat sen välttämättömyydestä, riskeistä ja siitä, miten sitä käytetään turvallisessa ja turvallisessa paikassa. Käytä PHC:tä.

"Persoonallisuustodistuksen" välttämättömyys

Vaikka mitä tulee tekoälyyn, monet julkiset keskustelut keskittyvät chatboteihin, kuten ChatGPT, mutta tekoälyn ominaisuudet ylittävät selvästi sen.

Tekoälyllä Internetissä on kaksi ominaisuutta: erottamattomuus ja skaalautuvuus, mikä edistää tekoälyyn perustuvan petoksen jatkuvaa kasvua.

Tekoäly voi luoda tilejä sosiaalisiin verkostoihin, lähettää väärää sisältöä, teeskennellä olevansa ihmisiä tai massiivisesti vahvistaa tiettyä sisältöä algoritmien avulla tai jopa suorittaa laajamittaisia ​​hyökkäyksiä, mikä vapauttaa paljon riskejä.

Tämä muuttaa kokemuksemme sosiaalisen median selaamisesta, ja monimutkaisen tekoälyn erottaminen ihmisistä tulee yhä vaikeammaksi, kuten "digitaalisen kaksoiskappaleen" ongelma ilman suostumusta.

"Persoonallisuustiedot" tarjoavat potentiaalisen ratkaisun, kuten verkkosisällön suodattamiseen ja tiedon vastaanottamisen luottamustason määrittämiseen.

Mikä on persoonallisuustodistus? Kuinka turvata?

Kuten aiemmin mainittiin, "henkilötodistus" voi todistaa, että olet ihminen paljastamatta henkilöllisyyttäsi koskevia tietoja.

Kirjoittaja sanoi, että riippumatta siitä, kuinka edistynyt tekoäly on, se ei voi tehdä kahta asiaa, mitä ihmiset voivat tehdä - saada offline-tilassa reaalimaailman asiakirjoja ja väärentää tai murtaa kehittyneitä salausjärjestelmiä.

Joten "persoonallisuustiedot" yhdistävät nämä kaksi ideaa - turvallisuus salauksen avulla ja se tosiasia, että ihmisillä on edelleen joitain kykyjä, joita tekoälyllä ei ole, todistaakseen todella, että olet ihminen.

"Persoonallisuustodistuksen" saamiseksi käyttäjillä on oltava suhde viranomaisiin, kuten verotunnus tai ajokortti, ja osallistuminen on oltava offline-tilassa.

Tietosuojateknologian avulla käyttäjät voivat todistaa tämän tosiasian jakamatta arkaluonteisia tietoja henkilöllisyydestään.

"Persoonallisuustunnusten" käyttöönotto on suhteellisen helppoa. Se perustuu vuosikymmeniä olemassa olleeseen infrastruktuuriin ja tietoturvateknologioihin, kuten tunnisteiden, kuten sähköpostitilien, käyttöön verkkopalveluihin kirjautumiseen. PHC voi täydentää näitä olemassa olevia menetelmiä.

Käyttäjien "henkilöllisyystodistusten" käytön tulisi kuitenkin olla vapaaehtoista eikä pakollista, ja palveluntarjoajat voivat antaa ihmisten valita, käyttävätkö he sitä.

Valinnainen tarkoittaa, että emme voi vielä sallia käyttäjien olla vuorovaikutuksessa vain oikeiden, varmennettujen ihmisten kanssa verkossa. Tekoälyn osallistuminen Internetiin suljetaan kokonaan pois.

Mutta sellaisissa skenaarioissa, kuten verkkokaupoissa tai transaktioneuvotteluissa, jos haluat varmistaa, että toinen osapuoli on ihminen, "henkilöllisyystodistukset" voivat olla hyödyllisiä.

Mitkä ovat riskit? Miten näitä riskejä voidaan vähentää?

Yksi riskeistä johtuu siitä, miten se toteutetaan. Jos jokin tietty taho on ainoa "henkilöllisyystodistuksen" myöntäjä tai jos järjestelmä on suunniteltu siten, että kaikki valta on annettu yhdelle taholle, tämä voi herättää huolta vallan liiallisesta keskittymisestä.

Jos olet vaikeassa tai vaarallisessa sosiopoliittisessa ympäristössä, velvollisuus mennä offline-paikkaan hankkimaan hahmosertifikaatti voi olla pelottavaa ja estää ihmisiä jakamasta tietoja verkossa.

Yksi mahdollinen ratkaisu on perustaa useita "henkilöllisyystodistusten" myöntäjiä.

Paperimme pyrkii rohkaisemaan hallituksia, päättäjiä, johtajia ja tutkijoita investoimaan enemmän resursseja eri toteutussuuntiin ja tutkimaan laajempia vaikutuksia, joita tällä teknologialla voi olla yhteisöihin, varmistaen, että oikeat politiikat ja säännöt otetaan käyttöön.

Tekoäly kehittyy erittäin nopeasti, paljon nopeammin kuin hallitukset pystyvät sopeutumaan. Siksi hallitusten ja suurten yritysten pitäisi nyt alkaa miettiä digitaalisten järjestelmien mukauttamista, jotta ne ovat valmiita todistamaan, että käyttäjä on ihminen samalla kun suojellaan yksityisyyttä ja turvallisuutta, jotta voimme valmistautua tulevaisuuteen edistyneemmällä tekoälyllä.

Tekninen esittely

Miten "persoonallisuustodistuksen" tekniikka on toteutettu? Tämä 63-sivuinen paperi antaa meille erittäin yksityiskohtaisen vastauksen.

Paperiosoite: https://arxiv.org/pdf/2408.07892

Ensinnäkin "persoonallisuustiedot" tallennetaan digitaalisesti haltijan laitteeseen. Uskottavuuden ja yksityisyyden takaamiseksi PHC-järjestelmän on täytettävä kaksi edellytystä:

- Jokaisella henkilöllä voi olla vain yksi "persoonallisuustodistus", ja se on tarkistettava säännöllisesti, jotta sitä ei varastettaisi.

- PHC-käyttäjät ovat vuorovaikutuksessa anonyymisti palveluntarjoajien kanssa. Vaikka PHC-julkaisijat ja palveluntarjoajat tekevät yhteistyötä, he eivät voi seurata käyttäjien digitaalista toimintaa, puhumattakaan käyttäjien toiminnan yhdistämisestä eri alustoilla.

PHC-järjestelmän rekisteröinti- ja käyttöprosessi on esitetty kuvassa 3:

Käyttäjän tarvitsee pyynnöstä antaa liikkeeseenlaskijalle vain vähimmäistiedot. Myöntäjä vastaa siitä, että käyttäjä on ihminen ja ettei käyttäjä ole aiemmin rekisteröitynyt PHC:hen. Lisäksi liikkeeseenlaskijalla on oikeus peruuttaa tai palauttaa PHC.

Kun käyttäjät käyttävät kolmannen osapuolen digitaalisia palveluita, he voivat tarjota PHC:n ja käydä läpi "nollatodistuksen" suorittaakseen henkilöllisyyden vahvistuksen.

PHC:n lisäksi palveluntarjoaja ei voi saada muita lisätietoja. Jokainen todistus on rajoitettu tiettyyn sovellukseen, joten eri alustoja ei voida yhdistää samaan käyttäjään PHC:n kautta.

Artikkelissa ehdotetaan, että useiden liikkeeseenlaskijoiden suunnittelu PHC-järjestelmää varten on ihanteellinen toteutussuunnitelma. Käyttäjät voivat valita useista myöntäjistä rekisteröityäkseen PHC:hen, mutta kukin myöntäjä voi hankkia vain yhden varmenteen, mikä vähentää suuria petoksia ja varmistaa samalla käyttäjien yksityisyyden.

Tällä PHC-järjestelmällä on kolme odotettua etua:

- Vähentää "nukke"-käyttäjien vaikutusta ja saavuttaa laajamittainen todellinen panos ja todellisten ihmisten osallistuminen Internetiin

- Bottihyökkäysten lieventäminen

- Anna tekoälyavustajan todella tulla luotettavien käyttäjien edustajaksi sen sijaan, että pahantahtoiset käyttäjät manipuloisivat sitä

Samaan aikaan, jotta PHC voidaan toteuttaa tosielämässä reilusti ja turvallisesti, on kohdattava seuraavat neljä haastetta:

• oikeudenmukainen pääsy

Toistuva PHC-tarkistus voi aiheuttaa kitkaa ja turhautumista käytön aikana, mikä vaikuttaa käyttäjiin, jotka eivät tunne tekniikkaa, erityisesti vanhuksille. On myös varmistettava, että käyttäjät, joilla ei ole PHC:tä, voivat edelleen käyttää digitaalisia palveluita.

• vapaa ilmaisu

Käyttäjät voivat olla huolissaan siitä, että PHC yhdistää digitaalisen toimintansa heidän todelliseen identiteettiinsä offline-tilassa, mikä vähentää heidän halukkuuttaan ilmaista todellisia mielipiteitään verkossa.

• tehon tarkistus

Merkittävä PHC-ekosysteemin haaste on vallan keskittyminen muutamiin instituutioihin, erityisesti PHC-myöntäjiin ja suuriin palveluntarjoajiin, joiden PHC-käyttöä koskevilla päätöksillä on merkittävä vaikutus.

• Kestävyys hyökkäyksiä ja virheitä vastaan

Kuten mikä tahansa digitaalinen järjestelmä, PHC-järjestelmät ovat alttiina useiden osapuolten, kuten varmenteen myöntäjien, palveluntarjoajien ja haitallisten käyttäjien hyökkäyksille ja hyväksikäytölle. Harkitse aikaisempien parhaiden käytäntöjen käyttöä kyberturvallisuuden alalla, kuten DoS-estoa ja hyökkääjien pääsyn estämistä arkaluonteisiin tietueisiin.

Kirjan lopussa kirjoittaja ehdottaa seuraavia vaiheita, jotka tulisi ottaa.

Ensinnäkin sopeudu olemassa olevaan digitaaliseen verkkojärjestelmään ja valmistaudu tekoälyn vaikutuksiin.

Tarkemmin sanottuna meidän on mietittävä uudelleen, kuinka tekoäly muuttaa Internetiä ja viestintää.

Toiseksi, anna kiireellisenä ratkaisuna etusijalle "henkilöllisyystodistukset".

Viimeinen kuva tiivistää kaikki tämän artikkelin keskeiset kohdat.

On syytä mainita, että estääkseen Internet-alustoja keräämästä liikaa tietoa "oikean nimijärjestelmän" perusteella, Kiinan yleisen turvallisuuden ministeriö ja kyberavaruushallinto julkaisivat äskettäin "online ID-kortin".

Tarvitset vain NFC-toiminnolla varustetun matkapuhelimen ja henkilökortin ja kasvojentunnistuksen suorittamisen ja matkapuhelinnumeron korreloinnin jälkeen saat virtuaalisen "online ID-kortin".

Yllä oleva "verkkonumero" koostuu kirjaimista ja numeroista, ei sisällä selkeitä tekstitunnistetietoja, ja sitä voidaan käyttää suoraan oikean nimen todentamiseen Taobaossa, WeChatissa ja muissa sovelluksissa ilman tarvetta syöttää tietoja, kuten nimi, tunnusnumero. jne.

Mikä on mielestäsi parempi ratkaisu henkilökohtaisen yksityisyyden suojaamisen kannalta?

Viitteet:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html