uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Kiinteä tarkennus (dingjiaoone) alkuperäinen

Kirjailija |. Wang Lu

Toimittaja |. Wei Jia

Näkeminen on uskomista, tekoälyn kasvojen vaihtaminen on pettänyt monia ihmisiä.

Kaksi päivää sitten Hubein poliisi paljasti tapauksen, jossa tekoälyn kasvoja muuttavaa tekniikkaa käytettiin sosiaalisten tilien lukituksen avaamiseen ja niiden jälleenmyyntiin voiton saamiseksi. Rikolliset käyttävät tekoälyn vaihtamista auttaakseen ihmisiä avaamaan alustan jäädyttämät treffitilit. He veloittavat 15–30 yuania jokaisesta lukitsemattomasta tilistä. Joukko vapautti yhteensä 2 107 tiliä ja teki 400 000 yuania.

Tiedot osoittavat, että tekoälyyn perustuva syvä väärennöspetos lisääntyy 3 000 % vuonna 2023. Deep fake, joka tunnetaan myös nimellä deepfake, on oppimisen ja väärennyksen yhdistelmä. Se viittaa pääasiassa tekoälyn syväoppimisteknologian käyttöön henkilön kuvan syntetisoimiseen video tai jopa ääni, yleisin on AI-kasvojen vaihtaminen. Teollisuus- ja tietotekniikkaministeriö ilmoitti äskettäin käynnistävänsä tekoälyä muuttavan petosriskin muistutustoiminnon.

Toisaalta tekoälyn kasvoja muuttavia petoksia esiintyy usein, ja toisaalta tekoälyn kasvoja muuttava tekniikka toistuu edelleen.

Tekoälypiiri on viime aikoina ollut täynnä tekoälyn kasvoja muuttavaa projektia - Deep-Live-Cam. Käyttäjien tarvitsee vain ladata valokuva muuttaakseen kasvonsa reaaliajassa kenelle tahansa he haluavat olla, kuten Zuckerbergille tai Dong Yuhuille.

Tämä projekti on ilmainen ja avoin kaikille käyttäjille, julkaistu GitHubissa (koodin isännöintialusta) ja tukee henkilökohtaisen tietokoneen asennusta. Projektin kehittäjä on julkistanut asennustavan, ja tavalliset ihmiset ilman teknistä kokemusta voivat oppia ja asentaa sen samanaikaisesti.

Yksinkertaisen ja kätevän toiminnan ja kasvojen vaihtamisen suuren realistisuuden ansiosta Deep-Live-Cam sijoittui GitHubin kuumalistalla ensimmäiseksi keräten yli 1 600 tähteä 24 tunnissa (tähdet edustavat projektin tykkäyksiä ja seuraavia indikaattoreita, muutama tuhat tähteä on melko hyvä) taso). Monet nettiläiset muuttivat kasvonsa Muskiksi ja kokivat tunteen olevansa globaali miljardööri.

Mutta vaikka kaikki valittavat tekoälyn kasvoja muuttavan teknologian läpimurtoa, he ovat myös huolissaan siitä, että "petokset ovat tulleet helpommaksi". Pitäisikö meidän boikotoida tekoälyn kasvojen muutosta?

Tekoäly muuttaa kasvoja, joita tavalliset ihmiset voivat käyttää,

Hinta on niinkin alhainen kuin tusina yuania

Tällä hetkellä kotona ja ulkomailla on monia tekoälyn muuttamiseen tarkoitettuja työkaluja. Pääsyy siihen, miksi Deep-Live-Camista keskustellaan kiihkeästi, on se,Käyttäjien tarvitsee vain ladata kuva, mutta korvaava vaikutus on erittäin realistinen, ja se tukee myös reaaliaikaista kasvojen vaihtoa.

Itse asiassa "reaaliaikaisen kasvojen vaihto" -toiminnon tekninen kynnys ei ole korkea.

Xiao Zihao, Ruilai Intelligencen perustaja ja algoritmitutkija, sanoi, että on olemassa kaksi tapaa saavuttaa reaaliaikaisen videon kasvoja muuttava vaikutus: toinen on toistaa valmiiksi tehty kasvoja muuttava video ja toinen on käyttää reaaliaikainen kasvoja muuttava video. Deep-Live-Cam kuuluu jälkimmäiseen.

Tyypistä riippumatta tekoälyä vaihtavien videoiden on otettava huomioon edellisen ja seuraavan ruudun jatkuvuus, ja jatkuviin kasvovideoihin perustuvassa käsittelyssä voidaan tehdä pieniä muutoksia edellisen ruudun monien tunnistusresurssien perusteella jatkuva kehyspohjainen video / Live kasvojen vaihtaminen on tehokkaampaa kuin kasvojen vaihtaminen yksittäisissä kehyksissä", sanoi tekoälyteknologiaa harjoittava tutkija.

Taustalla oleva teknologia, johon tekoälyn kasvojen vaihtaminen luottaa, on Deepfake, jonka mukaan Deep-Live-Cam käyttää myös tätä tekniikkaa, joten kustannukset eivät ole kovin korkeat perustuen pelkästään synteesin tuottamiseen tarvittaviin materiaaleihin ja laskentatehoon.

Xiao Zihao sanoi, että jos muita laitteiston hankintakustannuksia ei oteta huomioon, useimpien tekoälykasvojen vaihtokustannukset ovat vain noin tusina yuania kerrallaan, pääasiassa valokuvat ja laskentateho mukaan lukien, ja Deep-Live-Cam voi olla vielä alhaisempi. Verrattuna muihin tekoälytyökaluihin, Deep-Live-Cam käyttää vähemmän valokuvia. Työkalu tukee myös tavallisia tietokoneita, ja valokuvien kustannukset ja laskentateho ovat alhaisemmat.

Sitä vastoin Deep-Live-CamKasvojen muuttamisen tukeminen vain yhdellä kuvalla järkytti harjoittajia vielä enemmän.Koska aiemmat tekoälyä muuttavat tuotteet vaativat käyttäjiltä vähintään tusinaa kuvaa eri kuvakulmista.

Valokuvan vaikeuden vähentäminen antaa käyttäjille mahdollisuuden pitää hauskaa. Tekoälyn seuraaja Xiao C sanoi, että hän ei ole koskaan aiemmin ollut tekemisissä minkään AI-kasvot muuttavan työkalun kanssa ei myöskään ole kovin vaikea löytää kasvoja vaihtavia materiaaleja.

Hän muutti kasvonsa julkkiksiksi, kuten Guo Degang, Wu Jing, Lei Jiayin jne., ja käytti heistä vain yhtä kuvaa. Hän sanoi, että niin kauan kuin annat kuvan etukasvoista, esteettömästä otsasta, luonnollisesta valosta, lähellä omaa ihonväriäsi ja henkilökuvassa näkyvät mittasuhteet, yksi kuva onnistuu ja kasvojen korvaustehoste on hyvin luonnollista.

Useampi kuin yksi harjoittaja uskoo, että joissakin elokuva- ja televisiodraamoissa käytetyllä tekoälyn kasvojenmuutostekniikalla ei ole vain korkea kynnys ja korkeat kustannukset, vaan myös kasvoja muuttava vaikutus ei ole riittävän luonnollinen, ja muodonmuutoksia ja vääristymiä esiintyy usein kuvauksen aikana. puheprosessi. "Onko tämä tekoälyn kasvojenmuutostyökalujen suurin ongelma?Deep-Live-Cam voi tukea kuvan vaikutusta suoran lähetyksen aikana. Kasvojen reunoissa ei ole näkyviä jälkiä, eikä ihon väri eroa paljon alkuperäisestä hahmosta AI-kasvot muuttavat työkalut.", Xiao Zihao analysoi, että sen kehittäjien olisi pitänyt saavuttaa läpimurto kuvan renderöintimallissa, jota aiemmilla tekoälytyökaluilla ei ollut.

Deep-Live-Camissa on kuitenkin edelleen joitain virheitä, kuten kasvojen vaihtamisen tukeminen, mutta ei äänen vaihtamista. Xiao Zihao sanoi kuitenkin, että tämän saavuttaminen ei ole vaikeaa, vain yhdistä reaaliaikaiseen äänenvaihtotyökaluun, ja kuka tahansa, jolla on vähän ohjelmointiperustaa, voi suorittaa sen.

AI muuttaa kasvoja,

Petokset ja loukkaukset, joita ei voida välttää

Deep-Live-Camin kaltaiset työkalut ovat alentaneet käyttäjien kynnystä, mutta kaikki ovat myös alkaneet pelätä, että rikolliset voivat käyttää vain kuvaa kasvojen vaihtamiseen ja huijaamiseen Tavallisten ihmisten riski kasvaa dramaattisesti.

Ruilai Smart Data huomautti, että kotimaisten tekoälypetosten määrä kasvoi 0,2 miljoonasta vuonna 2020 16,7 miljoonaan vuonna 2023, ja vuotuinen kasvuvauhti oli jopa 1928,8%. Tekoälypetosten määrä ylitti 185 miljoonaa vuoden 2024 ensimmäisellä puoliskolla. Qi'anxinin julkaisema "2024 Artificial Intelligence Security Report" osoittaa, että tekoälyyn perustuva syvä väärennöspetos lisääntyi 3 000 % vuonna 2023.

Tekoälyn äänen vaihtaminen, tekoälyn vaihtaminen ja tekoälyn luominen ovat kolme yleisesti käytettyä tekoälyn petosmenetelmää. Niiden joukossa tekoälyn luomalla sisällöllä on rajallinen kuvalaatu ja ilmeisiä puutteita -muuttaminen ovat rikollisten yleisimmin käyttämiä keinoja. Useimmat ihmiset uskovat, että "näkeminen on uskomista", mikä tekee tekoälyn kasvojen muuttamisesta petollisempaa kuin äänen vaihtamisesta.

Tekoälyn kasvojenmuutos ei ole vain pettänyt vanhuksia, vaan myös monet teknologia-alalla työskentelevät nuoret ovat menettäneet miljoonia yhdessä yössä.

Julkisten tiedotusvälineiden mukaan teknologiayrityksen toimitusjohtaja sai viime vuonna ystävältään siirtopyynnön, ja häneltä huijattiin alle 10 minuutissa 4,3 miljoonaa yuania. Siellä oli myös Hongkongin monikansallisen yrityksen työntekijä, joka huijattiin rikollisten suunnittelemaan videoneuvotteluun ylimmän johdon kanssa ja siirsi 200 miljoonaa Hongkongin dollaria toisen osapuolen tilille.

Harjoittajat ovat yksimielisiä siitä, että tekoälyn kasvojen muuttaminen on saavuttanut pisteen, jossa "se voidaan sekoittaa todelliseen asiaan".

Petostentorjuntatiimin johtaja Li Xu sanoi, että hänen kiinnostuksensa tekoälyteknologiaa kohtaan johtuu useista petostapauksista. Hän sanoi, että tekoälyn kasvoja muuttavia petostapauksia on esiintynyt usein viimeisen kahden vuoden aikana, ja markkinoilla on noin kolme erittäin kypsää tekoälyn kasvoja muuttavaa petosmenetelmää.

Ensimmäinen on käyttää tekoälyä kasvojen vaihtamiseen ja väärennettyjä pornografisia videoita uhrin kiristämiseksi.

Esimerkiksi rikollisjoukot keräävät kuvia ja videotietoja uhreista eri kanavista, kuten Internetistä, ja suorittavat sitten synteesiprosesseja, kuten vaatteiden poistoa yhdellä napsautuksella ja tekoälyn kasvojen vaihtamista, ja lähettävät uhreille väärennettyjä sopimattomia videoita tai alastonkuvia. kiristystä varten.

Toinen tyyppi on käyttää tekoälyä vaihtamaan kasvoja ja teeskennellä olevansa tuttava tehdäkseen petoksia.

Esimerkiksi petosjengit käyttävät joitain markkinoilla olevia kasvoja muuttavia työkaluja esiintyäkseen uhrin sukulaisina, ystävinä, työtovereina, johtajina jne., keksivät ensin hätäsyyn ja hyödyntävät huijatun kohteen kiireellisyyttä petoksen tekemiseen. On helppo pettää vartiosi ja siirtää rahaa.

Nyt käyttämällä Deep-Live-Camia sinun tarvitsee vain kerätä yksi tai kaksi valokuvaa uhrista luodaksesi syvän väärennetyn videon. Li Xu katsoo, että tekoälyn kasvoja muuttavan petoksen laajuus on tavallisten ihmisten tietoisuuden ulkopuolella. on myös suoraan muuttanut Televiestintäpetosten käsikirjoitusta on vaikea suojautua ja se pahenee.

Kolmanneksi tekoälyn kasvojen vaihtamista käytetään julkkiksena teeskentelemään suoria lähetyksiä ja huijaamaan käyttäjiä tekemään tilauksia.

Esimerkiksi ankkuri käyttää "AI face change" -toimintoa julkkiskasvojen "vaihtamiseen" suoralähetyshuoneessa, mikä lisää suoraa videoliikennettä ja auttaa suoraa lähetystä myymään tavaroita.

Lisäksi loukkausongelmat, kuten pitkien ja lyhyiden videoiden luominen julkkiksista/tavallisista ihmisistä tekoälyn kasvojen vaihtamisen avulla ja hymiöiden tekeminen ilman muiden lupaa, ovat myös hyvin yleisiä.

Tekoälyn kasvoja muuttavia petoksia esiintyy usein ja eri menetelmin, mikä liittyy läheisesti tämän tekniikan kypsyyteen ja laajuuteen.

Hanhao Technologyn toimitusjohtaja Wu Jieqian kertoi "Dingjianille","Tällä hetkellä tekoälyvideon luominen, digitaalinen ihminen ja tekoälykasvoja muuttavat teknologiat ovat kaikki kypsiä, ja tekoälyn kasvojen vaihtaminen on aikaisin kehittynyt ala."

Deepfake-teknologian ilmaantuminen vuonna 2014 merkitsi tekoälyn kasvojen muuttamisen syntyä, mutta se on levinnyt pienessä mittakaavassa vasta vuonna 2017, jolloin jotkut käyttäjät käyttivät tekniikkaa väärien pornografisten kuvien julkaisemiseen. Samaan aikaan tämä tekniikka on ollut kiistanalainen, koska se tuo mukanaan paljon väärennettyä sisältöä.

Useampi kuin yksi harjoittaja sanoi, että vaikka julkiset keskustelut tekoälyn kasvojen muuttamisesta ovat viime vuosina keskittyneet enimmäkseen elokuvien ja TV-draamojen tallentamiseen, tekoälyn kasvojen vaihtaminen ei ole heikon valvonnan vuoksi koskaan loppunut. Lisäksi tekoälyn kasvoja muuttava teknologia on toistunut, ja tällä hetkellä on monia tulijoita, joidenkin tähän liiketoimintaan osallistuvien suurten valmistajien lisäksi monet kotimaiset digitaaliset ihmiset ja tekoälyn tuottamat video-startupit ovat kehittäneet tekoälyn kasvoja muuttavaa liiketoimintaa. tekniikka on suhteellisen suosittu. Tällaisia ​​työkaluja on yhä enemmän.

Tekniikka on kypsää ja suosittua, ja myös valvonta on vaikeaa. Tämän seurauksena tekoälyä muuttavaa tekniikkaa on käytetty väärin vuosien mittaan.

Kuinka tunnistaa yhä realistisempi tekoälyn kasvojen vaihto?

Tekoälyn kasvojen vaihtaminen on viimeisen kahden vuoden aikana johtanut moniin laittomiin ja rikollisiin tekoihin. Hallitsemattomuus saa jotkut ihmiset tuntemaan, että tekoälyn kasvoja muuttavaa teknologiaa pitäisi boikotoida.

Kuitenkin monet ammatinharjoittajat uskovat, että teknologia itsessään on neutraali, ja sen hyvä tai huono vaikutus riippuu pääasiassa käyttäjästä. Tekoälyn kasvoja muuttavan teknologian syntymistä ja iteraatiota ei pidä pysäyttää.

Jesse Wu sanoi, että tällä hetkellä ei ole olemassa kaikille sopivaa lähestymistapaa kasvoja muuttavaan tekoälyteknologiaan kotimaassa ja ulkomailla, ja kyse on enemmän lainsäädännön hallinnasta.

Esimerkiksi Yhdysvallat on ottanut käyttöön erityislainsäädäntöä syvää väärentämistä koskevalla rikosoikeudellisiin järjestelmiinsä. Kiina on myös selventänyt tämän tekniikan eritelmiä "Internet-tietopalveluiden syvällistä synteesiä koskevissa määräyksissä".

Monet ammatinharjoittajat uskovat, että tekoälyn ja muiden hallintamenetelmien luoma sisältö on erittäin tärkeää merkitä sekä opettaa yleisölle menetelmiä tekoälypetosten estämiseksi.

Esimerkiksi jotkut teknikot ehdottivat kerran, että videopuhelun aikana toista osapuolta voidaan pyytää asettamaan sormensa kasvoille ja tarkkailemaan huolellisesti, ovatko kasvot epämuodostuneet, tai pyytää toista osapuolta avaamaan suunsa nähdäkseen, ovatko hampaat ja kieli ovat selkeitä ja täydellisiä, jotta voidaan määrittää, onko kuva todellinen henkilö vai tekoäly.

Tämä menetelmä oli suhteellisen tehokas viime vuonna, mutta tänä vuonna se on epäonnistunut tekoälyn kasvoja muuttavan tekniikan päivityksen myötä.

Xiao Zihao sanoi, että nykyinen AI kasvoja muuttava tekniikka voi saavuttaaKasvot ja liikkeet eivät vääristy, kun esteitä ilmaantuu, ja kuvanlaatu on erittäin selkeä.Li Xu löysi myösÄskettäiset tekoälyn kasvojen vaihtamispetokset ovat käyttäneet erittäin vahvoja teknisiä keinoja, ja niitä on lähes mahdotonta tunnistaa pelkästään liikkeiden perusteella.

Tekoälyn kasvoja muuttavan teknologian nopean kehityksen vuoksi Li Xu uskoo, että valppauden lisääminen on tällä hetkellä suhteellisen tehokas menetelmä. Esimerkiksi kun saat videopuhelun tutulta lainataksesi rahaa, voit kysyä toiselta osapuolelta yksityisiä kysymyksiä, jotka vain toinen osapuoli tietää, ja pyytää vahvistusta muilta ympärilläsi olevilta ihmisiltä.

Jotkut harjoittajat katsovat, että tekoälyn käyttäminen tekoälyn tunnistamiseen voi olla hyvä tapa.

Tarkista esimerkiksi ensin, onko kuvassa elementtejä, jotka ovat selvästi vastoin tervettä järkeä, keskittyen siihen, onko kasvojen reunoissa puutteita, ja käytä sitten joitain tekoälytyökaluja. Xiao Zihao uskoo, että tekoälyn avulla voidaan tunnistaa suurin osa huijauksista. Tällä hetkellä monet yritykset ja ministeriöt ovat pyytäneet heitä tekemään yhteistyötä tekoälyn muuttuvien puolustusjärjestelmien kanssa.

Mutta tämä liike on aiheuttanut myös kiistaa kotimaassa ja ulkomailla.

Ensinnäkin tällä menetelmällä on tietty käyttökynnys, ja käyttäjien on ladattava asiaankuuluvat sovellukset matkapuhelimiinsa/tietokoneisiinsa. Toiseksi, pohjimmiltaan tämäntyyppisissä puolustustyökaluissa on tietty viive, jotka vastaavat pääasiassa nykyisiin tekoälyn kasvoja muuttaviin työkaluihin. Tekoälyn kasvoja muuttava tekniikka ja synteesimenetelmät kuitenkin muuttuvat koko ajan.

Monet ihmiset panevat toivonsa asiaan liittyvien lakien ja määräysten parantamiseen, kuten rangaistuksen lisäämiseen laittomista toiminnoista, kuten tekoälyn kasvoja muuttavasta petoksesta, tekoälyä muuttavien pornografisten videoiden myymisestä ja tavaroita myyvistä julkkiksista.

Viime vuonna Hangzhoun Xiaoshanin piirin kansantuomioistuin antoi päätöksen tekoälyn kasvojen vaihtamisesta siveellisten videoiden tuottamiseen. Vastaaja tarjosi tekoälyn kasvoja muuttavia räätälöityjä palveluja, tuotti suuren määrän säädyttömiä videoita tekoälyn vaihtamisen kautta. Hän käytti myös tekoälyä vaihtavia menetelmiä houkutellakseen katsojia maksamaan, tapaukseen liittyvä kokonaissumma oli yli 60 000 yuania, ja hänet tuomittiin lopulta seitsemäksi vuodeksi ja kolmeksi kuukaudeksi vankeuteen ja 60 000 yuania.

Haluaisin kuitenkin muistuttaa tästä kaikkiaKaikki tekoälyn kasvojen muuttaminen ei loukkaa muotokuvan oikeuksia.

Tämän vuoden kesäkuussa Pekingin Internet-tuomioistuin julisti kaksi tekoälyä muuttavaa rikkomustapausta. Kaksi kiinalaistyylistä lyhyttä videomallia havaitsi, että heidän videonsa esiintyivät kasvoja muuttavassa APP:ssa sosiaalisilla alustoilla, joten he haastoivat APP:n takana olevan teknologiayrityksen. Oikeus katsoi, että se oli loukannut hänen oikeuttaan muotokuvaan ja henkilökohtaisia ​​oikeuksiaan.

Oikeuden päätös oli, että vastaaja oli käyttänyt videota, jossa kantaja esiintyi, mutta koska kantajan kasvot kyseisessä videossa oli korvattu, se ei loukannut kantajan muotokuvaa koskevia oikeuksia, joten se totesi vain, että tämä liike oli kantajan henkilötietooikeuksien loukkaaminen.

Tällä hetkellä tekoälyn kasvojenmuutosteknologiaa päivitetään edelleen, eikä sitä ole vielä kielletty.

"Dingjiao" haki äskettäin suoraan hakusanalla "AI face-changing" sähköisen kaupankäynnin alustalla, mutta ei löytänyt mitään tietoa, niin kauan kuin avainsanoja on hieman muutettu, niihin liittyviä kasvojenmuutostyökaluja löytyy edelleen myynnissä polku on salaperäisempi , siirtyy käytetylle verkkosivustolle tapahtumia varten. Aikana, jolloin tekniikka ja petos kehittyvät jatkuvasti, jokainen voi olla valppaampi estääkseen tekoälyn kasvojen muutoksesta aiheutuvia vahinkoja.

* Artikkelin otsikkokuva ja oheiset kuvat ovat Pexelsiltä.