kuinka pitkälle tekoälyn käyttäminen tekoälyä vastaan ja kasvojen vaihtaminen väärentämisen torjumiseksi ovat edenneet hyökkäävässä ja puolustavassa välityksessä?
2024-09-14
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
se mitä näet, ei välttämättä ole totta! "muotokuvakuvasta" tai "hahmovideosta" voi tulla uusi keino ja uusi työkalu rikollisille tehdä rikoksia. kansallisen kyberturvallisuusjulkistusviikon aikana vuonna 2024 henkilökohtaisten yksityisyyden loukkausten aihe, kuten tekoälyn ja äänen vaihtaminen, on jälleen noussut kaikkien huomion kohteeksi. itse asiassa tästä aiheesta keskusteltiin kiivaasti myös bund-konferenssissa, joka pidettiin viikkoa ennen cyber security week -viikkoa.
huangpu-joen bund-konferenssista lingding jangtse -joella järjestettävään kansalliseen kyberturvallisuusviikkoon, ihmiset esittävät edelleen kysymyksiä siitä, kuinka tekoäly voi tehdä hyvää järjestetään kahdessa joenvarsikaupungissa shanghaissa ja guangzhoussa.
miten tekoälyn kasvoja muuttava teknologia vaikuttaa digitaalisen identiteettimme turvallisuuteen? mitkä tehokkaat tekoälytyökalut voivat havaita ja estää deepfake-riskit tarkasti? kuinka tasapainotamme oikeudellisesta ja eettisestä näkökulmasta kasvoja muuttavan tekoälyteknologian innovatiivisen soveltamisen ja sen mahdollisten riskien välillä? näillä kysymyksillä nandu-toimittajat etsivät vastauksia näihin ehdotuksiin simuloiduista hyökkäys- ja puolustushaasteista todellisiin sovellusskenaarioihin, korkeakoulusta teollisuuteen.
pois testikentältä: ryhmä nuoria aloitti tekoälyn hyökkäys- ja puolustusviestin
ai face-changing on syväväärennöstekniikka, joka käyttää tietokoneita kasvojen kuvien peukalointiin syvän oppimisalgoritmien tuella. tekoälyn kasvojenmuutosteknologian jatkuva iterointi parantaa viihteen, verkkokaupan ja muiden teollisuudenalojen tuotantoa. tehokkuuden ohella se tuo myös loputtomia riskejä. syyskuun alussa etelä-koreassa nousi esiin uusi "room n" -tapaus, joka perustui "syvän väärentämisen" teknologiaan.
samaan aikaan shanghain bundissa deepfake offensive and defense challenge koskien tekoälyn kasvojen vaihtamista kokosi ryhmän nuoria "tekäälyn vastustajia". bund-konferenssin aikana yksi osallistuvista tiimeistä tähän tekoälyn innovaatiokilpailuun, global deepfake attack and defense challenge (jäljempänä "deepfake attack and defense competition") - visionrush, institute of automation, kiinan tiedeakatemia, avoimen lähdekoodin osallistuva tekoälymalli vastauksena korealaisten naisten tarpeisiin. myöhemmin myös muut osallistuvat tiimit " ottivat haltuunsa" ja aloittivat deepfake defenders "code relay" -toiminnan. teams mukaan lukien kiinan tiedeakatemia, macaon yliopisto ja kiinan ocean university ilmoittivat avoimen lähdekoodin kilpailumalleista toivoen, että tämä onnistuisi. alentaa teknistä kynnystä, vahvistaa teknistä vaihtoa ja estää deepfake-teknologian väärinkäyttöä.
bund conference ai innovation competition·global deepfake attack and defense challengen aikana osallistuvat tiimit käynnistivät deepfake defenders "code relay" -toiminnan.
on syytä mainita, että jtgroup, hongkongin ja macaon tutkijoista koostuva yhteinen joukkue, suoriutui hyvin kilpailussa ja voitti mestaruuden deepfake offensive- ja defensive picture track -radassa. wu haiwei, hongkongin kaupungin yliopiston tutkijatohtori, otti nuoremmat opiskelijansa macaon yliopiston smart cityn esineiden internetin osavaltion päälaboratoriosta osallistumaan kuvankäsittelyyn. chen yiming, macaon yliopiston smart cityn esineiden internetin osavaltion laboratorion tutkija, on tämän mestaruustiimin kapteeni puhuessaan avoimesta lähdekoodista, hän sanoi hymyillen nandu-toimittajan haastattelussa: "meidän tutkimus tehdään "jättiläisten" harteilla. nämä "jättiläiset" ovat erittäin halukkaita lahjoittamaan omaa ohjelmakoodiaan ja toivomme myös osallistuvamme tällaisiin kilpailuihin käyttääksemme teknologiaa joihinkin hyviin asioihin, joita yleisö tarvitsee.
jtgroup-tiimi saavutti 97,038 %:n tunnistusprosentin usean tyypin ja usean skenaarion syväväärennöksistä. tiimin edustaja chen xiangyu sanoi haastattelussa nandun toimittajan kanssa: "tämä hyökkäävä ja puolustava peli on lähellä todellisen maailman datan mittakaavaa. opimme paljon uutta teknologiaa deepfaken luomisesta ja tunnistamisesta lyhyessä ajassa. , ja kiinnitimme huomiota myös oikea-aikaisiin säätöihin algoritmimallin yksityiskohdat voivat olla yksi syy, miksi voimme voittaa mestaruuden.
nandulainen toimittaja sai tietää järjestäjältä, että deepfake attack and defense competition -kilpailua johtivat ant digital zoloz ja dimensity labs kilpailukysymysten tekijöinä. se on yksi arvovaltaisimmista kilpailuista cv:n (tietokonenäkö) alalla. tapahtumatietojoukko koostuu julkisista tiedoista ja väärennetyistä tiedoista, joista väärennetty kuvadata kattaa yli 50 sukupolvimenetelmää todellisissa kohtauksissa ja väärennetty ääni ja video sisältää yli 100 yhdistelmähyökkäysmenetelmää järjestelytoimikunnan avaama yli miljoona.
"tämä kilpailu tarjoaa teknisille tutkijoille mahdollisuuden harjoitella erittäin simuloidussa todellisessa teollisuusympäristössä, mikä auttaa integroimaan teollisuutta, korkeakouluja ja tutkimusta sekä kasvattamaan vastuullisia käytännön kykyjä zhou tianille, frontier artificial intelligence centerin apulaisjohtajalle." singaporen tiede-, teknologia- ja tutkimusvirasto ja kilpailun toinen järjestäjä eri teoriat. osallistuvien tiimien tavoitteena on myös päästä ulos testikentältä ja soveltaa kehitettyjä teknologisia saavutuksia käytännön skenaarioihin. wu haiwei jtgroup-tiimistä kertoi nandu-toimittajille: "tekoälyavusteisia tunnistusalgoritmeja on sovellettu taobaon, tmallin jne. pätevyysarviointivaiheissa estämään rikollisia väärentämästä toimilupia ja henkilöllisyyden vahvistusmateriaaleja hakeakseen myymälän avaamista puhtaasti manuaalisella tarkastelulla voidaan vähentää myymälän avaamisen kustannuksia. tämä lisää tehokkuutta jatkossa laboratoriomme tutkimustuloksia odotetaan käytettävän myös yritys- ja hallituspuolen skenaarioissa. kansalliset petostentorjuntaohjelmat ja muut ohjelmat, jotka edistävät deepfake-petostentorjuntaa ja -tekniikkaa lopullisesti.
standardit ja sovellukset: rakenna yhdessä suojaverkko tekoälyn kasvojen muuttumisen riskeiltä
taistelu deepfakea vastaan on tietysti paljon enemmän kuin kilpailua. teollisuus on vastannut yksi toisensa jälkeen standardeista sovelluksiin rakentaakseen yhdessä suojaverkon tekoälyn kasvojen muuttumisen riskejä vastaan.
nandu-toimittajat kokivat ant group tianji -laboratorion vuorovaikutteisen deepfake-tunnistuslaitteiston bund conference technology exhibition -näyttelyssä.
shanghaissa bund conference technology exhibition -näyttelyssä ant group tianji laboratory esitteli interaktiivisia laitteita deepfake-tunnistukseen. nandu reporterin kokemuksen mukaan deepfake loi reaaliaikaisen valokuvan ottamisen jälkeen useita erilaisia "nandu reporter" -kuvia (kuten yllä on esitetty), ja sitten ant group tianji laboratoryn tunnistusrokkari tarkasti jokaisen kuvan yksitellen arvioi ja tunnisti tarkasti, että vain viimeinen oli todellinen muotokuva nandun toimittajasta, ja loput olivat syvien väärennösten luomia.
samaan aikaan konferenssissa julkaistiin virallisesti standardi "technical specifications for financial applications of fake digital face detection". standardi määrittelee toiminnalliset vaatimukset, tekniset vaatimukset, suorituskykyvaatimukset jne. talousalan väärien digitaalisten kasvojentunnistuspalveluille ja ehdottaa vastaavia testaus- ja arviointimenetelmiä. ymmärretään, että tämä on ensimmäinen "ai kasvoja muuttavan" tunnistusstandardi talousskenaarioihin kiinassa. liu yong, zhongguancun fintech industry development alliancen pääsihteeri ja zhongguancun internet finance research instituten puheenjohtaja, sanoi puheessaan: "tämän standardin julkaisu tarjoaa perustan väärien digitaalisten kasvojen turvallisuuden havaitsemiseen ja arvioimiseen rahoitusskenaarioissa. , ja myös täyttää tämän aukon kentällä.
nanshassa, guangzhoussa, vuoden 2024 national cyber security publicity weekin "henkilökohtaisten tietojen suojauksen alafoorumissa", southern news media group, teollisuus- ja tietotekniikkaministeriön viides elektroniikkainstituutti, kansallisen viraston guangdongin haara. internet emergency center, pengcheng laboratory, guangdong telecom, guangdong mobile, 15 yritystä ja laitosta, mukaan lukien tencent, huawei, ping an group, china guangfa bank, oppo, byd, sangfor, shenzhen saixi ja jingyuan security, ilmoittivat virallisesti käynnistävänsä "guangdong network data security and personal information protection association" ja julkaisivat yhdessä "promote network data security and personal information protection" -aloitteen. on selvää, että tekoälyn kasvojen muuttumisen riski on myös yksi järjestön huolenaiheista.
china mobilen ai:n kasvoja muuttava ja reaaliaikainen interaktiivinen väärennösalue. (lähde: national cyber security awareness week 2024)
tämän vuoden cyber security expo -tapahtumassa kyberturvallisuusviikon aikana suuret tietoturvayritykset esittelivät myös uusia turvallisuusalan tuotteita ja teknologioita. china mobilen syvän synteettisen kasvoja muuttavan reaaliaikaisen väärentämisen vuorovaikutteisessa vyöhykkeessä nandu-toimittajat kokivat tekoälyä muuttavan simulaatiojärjestelmän. kokemuksen aikana deepfaken luoma video voidaan tunnistaa tarkasti väärennökseksi. ja koko prosessi kestää vain noin 5 sekuntia. wang xiaoqing, china mobilen tietoturva- ja hallintaoperaatiokeskuksen apulaisjohtaja, sanoi, että järjestelmä voi torjua erilaisia skenaarioita, kuten tekoälyn kasvojen muuttumista, tekoälyn onomatopoeiaa ja asiakirjojen väärentämistä. he ovat julkaisseet pilottisovelluksen oikeiden nimien internet-käyttöliiketoiminnassa. väärentämisen estokykynsä perusteella se voi havaita tekoälykasvot todellisen nimen varmistusprosessissa ja ehkäistä ennakoivasti riskejä, kuten "ai-kasvojen vaihtaminen". online-korttien avaaminen ja vaihtaminen, ja väärennösten tarkkuus on yli 90 %.
todellakin, kuinka antaa tavallisten ihmisten nauttia deepfaken väärentämisen estoteknologian tuomasta suojasta, on tärkeä ehdotus nykyisessä teknologiatutkimuksessa ja -kehityksessä. zhou wenbo, kiinan tiede- ja teknologiayliopiston kyberavaruusturvallisuuden koulun professori, korosti tätä nandu-toimittajan älykkään kognitiivisen turvalaboratorion kanssa tiede- ja teknologiayliopiston kyberavaruusturvallisuuden laboratoriossa kiina on ottanut uuden askeleen. juuri syyskuun alussa laboratorion yhteistyössä honorin kanssa kehittämää, laitepuolen tekoälyn kasvojen vaihtamiseen perustuvaa petostentorjuntateknologiaa on sovellettu honor-matkapuhelimiin. kun käyttäjä napsauttaa aloitustunnistuksen, tekniikka havaitsee videossa olevat kasvot ja antaa mahdollisuuden vaihtaa tekoälyä kasvojen vaihto havaittu). on selvää, että kiinan tiede- ja teknologiayliopiston kyberavaruusturvallisuuden koulun älykäs kognitiivinen turvallisuuslaboratorio loi avoimen lähdekoodin deepfacelab-nimisen työkalun (työkalu videon kasvojen vaihtamiseen syväoppimisen avulla) jo vuonna 2019 vuonna 2020 joukkue osallistui facebookin, mit:n jne. järjestämään maailman suurimpaan "deep fake detection challengeen (dfdc)" ja voitti toiseksi.
mitä ongelmia on vielä ratkaistava käytettäessä tekoälyä tekoälyn voittamiseksi?
hyökkäävistä ja puolustavista peleistä teollisuuden sovelluksiin, tekoälyn käytön tehokkuus ja käytännöllisyys "epäpuheiden poistamiseen ja tosiasioiden säilyttämiseen" on itsestään selvää. mutta mitä ei voida jättää huomiotta, on se, että riski kasvaa edelleen eksponentiaalisesti, global deepfake offensive and defense challengen ehdottaja ja ant zolozin tekninen johtaja sanoi nandu-toimittajille, että aigc:n luomien väärennösten määrä. hyökkäysten määrä on tänä vuonna lisääntynyt noin 10 kertaa viime vuoteen verrattuna. samanlaisia tilanteita ei esiinny vain kiinassa, vaan myös etelä-koreassa, filippiineillä, indonesiassa ja muissa maissa.
huolimatta monien havaitsemistekniikoiden syntymisestä emme näytä pystyvän täysin välttämään deepfaken tuomia riskejä. miksi tämä tilanne tapahtuu? zhou wenbai kertoi nandun toimittajille, että teknologian prosessi teoreettisesta tutkimuksesta käytännön käyttöön ei ole prosessi, joka on tehokas välittömästi. se kohtaa erilaisia haasteita ennen kuin se otetaan käyttöön. "itse asiassa mielestäni tärkeintä on olla puhumatta siitä, kuinka täydellistä tekniikan pitäisi olla. koska jos todella haluat ratkaista ongelman, vain 5 %:n tarvitsee luottaa teknologiaan ja loput 95 % lakien, määräysten ja täytäntöönpanostandardien parantaminen." hän huomautti, että yleisön on erittäin tärkeää osallistua tieteen popularisointiin, kuten median ja sisällön levitysalustoihin, ja myös yleisön tietoisuutta turvatoimista.
kiinan kyberavaruusturvallisuusyhdistyksen tekoälyn turvallisuusjohtamiskomitean jäsen zhang bo ehdotti myös median haastattelussa, että "ai-kasvojen muutokseen liittyy yleensä transaktiopetosskenaarioita, kuten videopuheluita toisen osapuolen videon kasvojen ääriviivat ja valaistus. voit tarvittaessa pyytää toista henkilöä nostamaan päätään ja kääntämään päätään tarkemmin onko videossa epätavallisia yksityiskohtia sen varmistamiseksi, että video on aito."
mitä muita ohjeita deepfake-tunnistuksen tarkkuuden parantamiseksi on teknisestä näkökulmasta katsottuna? zhang bo uskoo, että henkilöllisyyden todennus ja digitaalinen vesileima voidaan yhdistää väärentämisen vaikeuttamiseksi. zhou wenbai kertoi nandun toimittajille, että sitä voidaan tarkastella kahdesta näkökulmasta. yksi on tarjota enemmän erilaisia korkealaatuisia deepfake-tietoja tunnistusmalliin. aivan kuten ihmiset oppivat tietoa, niin myös syväoppimismallit mitä enemmän olet nähnyt ja mitä enemmän tietoa olet oppinut, sitä vahvemmat ovat mahdolliset tunnistuskykysi. "toinen on, että voimme yrittää tehdä jonkin verran aktiivista suojausta tiedon julkaisupuolella. esimerkiksi ennen kuin tietomme julkaistaan sosiaalisessa alustassa, alusta tulee merkitä vankilla jäljitettävillä tunnistetiedoilla (kuten vesileima) joissakin kohdissa. tämä tunnistetieto voidaan liittää media-aineistojen levittämiseen, ja tunnistavien tietojen eheyden, semantiikan ja muun sisällön perusteella määritetään, onko nykyinen materiaali vaurioitunut tai väärennetty", zhou wenbo sanoi. on syytä mainita, että monilla videoalustoilla, kuten douyinilla, on nyt tunnisteet videoille, joiden epäillään olevan tekoälyn luomia.
zhang bo ehdotti myös, että johdon näkökulmasta on tarpeen nopeuttaa asiaa koskevien lakien, asetusten ja sääntelytoimenpiteiden laatimista ja täytäntöönpanoa tekoälysovellusten käyttömenetelmien ja sovellusskenaarioiden standardoimiseksi. zhou wenbon näkemyksen mukaan standardien julkaisemista, kuten "technical specifications for financial applications of fake digital face detection", voidaan käyttää oppaana yritysten ja instituutioiden tarjoamien palvelujen ja teknologian soveltamisen standardoinnissa, ja se olisi toteutettava. ottaa käyttöön teknologiaansa tiettyjen normien ja standardien mukaisesti estääkseen teknologian käytön aikana uhkaavat yksityisyyteen, tietoturvaan ja muihin seikkoihin kohdistuvia uhkia, jotka vahingoittavat käyttäjien oikeuksia ja etuja sekä loukkaavat jopa kansallisia etuja.
mukana olevien alojen lahjakkuuksien kasvattamisen näkökulmasta kohtaamme myös mahdollisuuksia ja haasteita. wang yaonan, kiinan tekniikan akatemian akateemikko ja kiinan kuva- ja grafiikkayhdistyksen puheenjohtaja, huomautti, että viime vuosina on ollut monia tapauksia, joissa tätä tekniikkaa on käytetty haitallisesti tekoälyn kasvoja muuttaviin petoksiin ulkomailla, mikä on johtanut taloudelliset ja omaisuusvahingot, mainevauriot ja muut vaaratilanteet teknisten haasteiden vuoksi on kiireellistä kehittää tekoälykykyjä, joilla on käytännön kykyjä. ant digitalin teknologiajohtaja wang wei ehdotti ratkaisua toivoen "edistää innovaatiota kilpailun kautta", parantaa kilpailijoiden kykyä käyttää teknologiaa todellisten ongelmien ratkaisemiseen käytännön sovelluksissa maanläheisten kilpailukysymysten avulla ja kehittää monitieteisiä kykyjä. kokoamalla maailmanlaajuisia tekoälyteknologian eliittejä, kommunikoi ja paranna maailmanlaajuista vastakkainasettelua todellisissa taisteluharjoituksissa.
haastatellut ja kirjoittanut: nandu-toimittaja xiong runmiao
