uutiset

"Jonkin aikaa sitten joku lähetti yksityisviestin, että hän näki kuvani, ja kysyi, voisinko vastata puhelimeen yksityisesti. Etsin tarkkaan ja huomasin, että niin sanotun valokuvan oli syntetisoinut tämän kokemisen jälkeen, bloggaaja Xiao K:llä (salanimi) on edelleen pitkiä pelkoja.

Tekoälyteknologia on viime vuosina tullut vähitellen yhä useamman ihmisen elämään, mutta jotkut vinoideat ihmiset ovat nähneet myös liiketoimintamahdollisuuksia. Beijing News Shell Finance -toimittajan tekemässä tutkimuksessa havaittiin, että tällä hetkellä on monia "AI riisuutuvia" valokuvaryhmiä, jotka myyvät Internet-julkkiksia ja näyttelijöitä musta-harmaalla tuotealustalla. Mustan ja harmaan alan toimijoiden mukaan 5 yuania voi "poistaa vaatteita" ja 20 yuania "videokasvojen vaihtamiseen". Tässä toimialaketjussa on myös ammatinharjoittajia, jotka houkuttelevat liikennettä huomiota herättävien valokuvien avulla ja tekevät sitten voittoa "jäsenryhmäpalveluilla". Lisäksi Bilibilin ja Xiaohongshun kaltaisilla alustoilla on videontekijöitä, jotka herättävät huomiota nimillä, kuten "AI Undressing Tutorial".

Tältä osin Zhao Hu, Beijing Zhongwen -lakitoimiston kumppani, sanoi, että tekoälyn riisuutumisesta tai tekoälyn kasvojen vaihtamisesta kertovien kuvien myyminen rikkoisi yleisen turvallisuuden hallinnon rangaistuslain säännöksiä, ja tekijät saavat hallinnolliset rangaistukset, pidätys tai sakot. ja voidaan myös saattaa rikosoikeudelliseen vastuuseen. Mikäli kuvia ei myydä, vaan vain levitetään, jos olosuhteet ovat vakavia, kyseessä on silti säädytön materiaalin levittäminen rikokseksi ja sitä tutkitaan vastaavan rikosoikeudellisen vastuun varalta lain mukaisesti. Opetustekniikan epäillään auttavan rikollisia. Lisäksi tekijöiden suorittamiin tekoälyvaatteiden poistoon ja tekoälyn vaihtamiseen liittyy myös kansalaisten henkilötietojen loukkaamista.

"Tekoälyn käyttämisessä syväväärennökseen ja perinteiseen tekniseen väärennökseen ei ole olennaista eroa, mutta tehokkuus on paljon suurempi kuin perinteisillä väärentämismenetelmillä ja tekninen kynnys on paljon matalampi, joten sen saavuttaminen on tavallisten ihmisten helppoa, ja "toimii" ' syvän väärennösten tulviminen Internetissä entisestään." Qi'anxin Groupin teollisuusturvallisuustutkimuskeskuksen johtaja Pei Zhiyong kertoi Beijing News Shell Finance -toimittajalle, että valokuvien ja videoiden väärentämisenestotekniikkaa tulisi aktiivisesti tutkia ja edistää.

Monen alustan Internet-julkkikset kohtaavat "riisumisen" houkutellakseen liikennettä: 5 yuania mukautettuja valokuvia

Yksinkertaisen tutkimuksen jälkeen Pikku K löysi vihdoin valokuviensa vuodon lähteen: joku käytti hänen "AI-riisuutumiskuviaan houkutellakseen liikennettä ulkomaisille sosiaalisille alustoille ja pornografisille verkkosivustoille sekä myydäkseen tekoälyn kuvankäsittelypalveluita.

Pikku K:n kokemus ei ole ainutlaatuinen. Jo viime vuoden maaliskuussa Xiaohongshu-bloggaajan metrossa ottama valokuva tekoäly "riisui" ja levisi WeChat-ryhmässä. Tämän bloggaajan kommenttiosiossa monet naiset valittivat samankaltaisista kokemuksista, myötätuntoivat toisiaan kohtaan eivätkä kyenneet peittämään tunteitaan.

Shell Finance -toimittajat etsivät johtolankoja ja löysivät myyjän, joka harjoitti "AI-strippausta". Toinen osapuoli sanoi, että jos annat minkä tahansa kuvan, voit tarjota "vaatteiden poisto" -palvelun vielä 5 juanilla. Jos kuva ei saa aikaan vaikutusta, ota meihin yhteyttä valokuvan vaihtamiseksi. Lisäksi voit myös vastaanottaa "videota, joka muuttaa kasvoja" 20 yuanilla.

Myyjä sanoi: "Viime aikoina on tullut liian paljon 'riisuutumistilauksia', enkä edes vaivaudu tekemään kasvojen vaihtoa."

Kuvakaappaus Beijing News Shell Finance -toimittajan ja "AI stripping" -myyjän välisestä keskusteluhistoriasta.

Tekoälyn riisumisen teknologian väärinkäyttö pornografiassa voidaan jäljittää ulkomailla vuonna 2020 julkaistuun ohjelmistoon. Kehittäjä poisti sen nopeasti hyllyiltä kiistan vuoksi. Tästä huolimatta jotkut rikolliset käyttävät tätä tekniikkaa edelleen rahan ansaitsemiseen.

Tämän vuoden kesäkuussa Pekingin poliisi tutki tapausta, jossa eräässä Internet-yrityksessä työskennellyt teknikko väitti, että "tietokoneäly voi riisua vaatteita edulliseen hintaan" ja "lähelläsi olevat ihmiset, Internet-julkkikset ja julkkikset voivat käyttää sitä ", ja ansaitsi ylimääräistä rahaa tekemällä niin. Jokainen valokuva Valokuvat ovat vain 1,50 dollaria. Hän myi aiheeseen liittyviä kuvia Internetin kautta 351 ihmiselle, yhteensä lähes 7 000 kuvaa. Lopulta Pekingin Haidianin piirin syyttäjä nosti hänet syytteeseen siveetöntä materiaalin levittämisestä voiton tavoittelemiseksi.

Shell Financen toimittajan tekemässä tutkimuksessa havaittiin, että "AI riisuminen" on nyt muodostanut alan ketjun, joka sisältää syvän tekoälyn väärennettyjen kuvien myynnin, tavallisten valokuvien maksettujen tekoälyn "P-kuvien" sekä riisumisen "tekniikoiden" opettamisen. .

Lisäksi mustat ja harmaat tuotteet ovat jo kohdistuneet tunnettuihin hahmoihin, kuten naispuolisiin Internet-julkkiksiin ja naisjulkkiksiin, ja "AI strippauksesta" on tullut liikenteen salasana.

Shell Financen toimittajat havaitsivat, että tässä ryhmässä on lähes 15 000 jäsentä "Internet Celebrity XX's Clothes Removal Exchange Group" -nimisellä tuotealustalla.

Shell Finance -toimittajat huomasivat, että tämä ryhmä suoritti aluksi vain "AI stripping" -kuvia joissakin Internetin julkkisten kaunottareista ja laajeni myöhemmin vähitellen viihde- ja urheilupiireihin. Tämän tyyppisen "viestintäryhmän" voittoa tavoitteleva menetelmä on myös suhteellisen yksinkertainen.

Bilibilillä ja Xiaohongshulla on edelleen "AI-riisuutumisohjeita" Lakimies: Teknologian opettaminen voi olla apurikos

Toimittaja havaitsi, että tekoälyn luovan malliteknologian kypsymisen jälkeen verkkomiehet "kehittelivät" vastaavan "yhden napsautuksen riisuutumisominaisuuden" tunnetusta ulkomaisesta avoimen lähdekoodin tekoälyä tuottavasta mallista, ja se tuli vähitellen laajalle levinneeksi. Vaikka sääntelysääntöjen parantuessa eri maissa, suuri malli on uudistanut ohjeita, kuten "riisuminen". Shell Financen toimittajat hakivat kuitenkin Bilibiliä ja Xiaohongshua ja havaitsivat, että siellä on edelleen joitain "AI-riisumisen opetusvideoita".

Toimittaja haki tuloksia videosivustolta käyttämällä aiheeseen liittyviä avainsanoja, kuten "AI riisuminen".

Tässä suhteessa monet kotimaiset Internet-julkkikset ovat melko avuttomia. Viime vuoden toukokuussa suosittu naisbloggaaja, jolla on yli 500 000 seuraajaa, teki valituksen: "Monet ihmiset ovat kokeneet, että kuvia varastetaan ja laitetaan ulkoisiin verkkoihin houkutellakseen liikennettä ja "myydäkseen videoita" sekä laittavan valokuvia ja muita pornografisia kuvia. Tarkkaan silmällä olevat ihmiset voivat kertoa, että nämä matalan tason huhut ovat vääriä, en yleensä kiinnitä niihin huomiota. että minun piti kumota huhut."

Zhao Hu kertoi Shell Financen toimittajille, että tekoälyn riisumisen tai kasvojen vaihtamisen kuvien myyminen rikkoo yleisen turvallisuuden hallinnon rangaistuslain säännöksiä "Räätälöimällä" tekoälyn riisuutumiskuvia maksua vastaan. Jos kuvia ei myydä, vaan niitä vain levitetään, jos olosuhteet ovat vakavia, kyseessä on silti säädytön materiaalin levittäminen. Teknologian opettaminen voi olla rikoksen avunanto tai yllyttäminen.

"Tekoälyn riisuutumiskuvien "räätälöimiseksi" veloittaminen voi olla rikos tuottamaan, kopioimaan, julkaisemaan, myymään ja levittämään siveetöntä materiaalia voiton saamiseksi, Zhao Hu sanoi, että tekoälyn käyttäytyminen vaatteiden riisumisessa ja tekoälyn kasvojen vaihtamisessa sisältää myös rikkomuksia." kansalaisten henkilötietoja. Kun nämä tiedot ovat vuotaneet tai niitä käytetään väärin, ne muodostavat vakavan uhan henkilökohtaiselle yksityisyydelle ja turvallisuudelle.

"On oltava selvää, että tekoälytyökalujen käyttäminen väärentämiseen on paljon tehokkaampaa kuin perinteiset väärennysmenetelmät, mutta tekninen kynnys on paljon matalampi. Kuten sanonta kuuluu, jos aloittaa huhun, menetät jalkasi, jos kiistät sen." Pei Zhiyong kertoi Shell Finance Reportersille, että tällä hetkellä tekoälyvideot ja -kuvat voidaan tunnistaa ammattimaisilla teknisillä keinoilla tai asiantuntija-arvioinnilla, mutta kustannukset ovat myös erittäin korkeat. ”Tekoälyn aitous on väistämätöntä. luotuja tai syntetisoituja videoita ei voida todentaa."

Hänen mielestään vaikka on epärealistista estää ihmisiä käyttämästä tekoälyä väärennettyjen videoiden tai kuvien luomiseen, se ei tarkoita, etteikö väärennetyille videoille tai kuville olisi mitään tehtävissä. ”Maassa on erittäin kypsät verkkopornografisten videoiden ja kuvien hallintamenetelmät, vaikka kuvan aitoutta ei pystytäkään tunnistamaan, sillä voidaan estää pornografisen sisällön leviäminen alustan puolelta, paikantaa pornografisen leviämisen lähde. sisältöä ja toteuttaa tehoiskuja."

Pei Zhiyong sanoi, että Internet-alustat eivät voi harjoittaa liikennettä yksipuolisesti, vaan niiden tulisi osallistua aktiivisesti verkon hallintaan vastaavien lakien mukaisesti ja tehokkaasti rajoittaa olennaisen tiedon levittämistä vähentää suuren yleisön harhaanjohtamisen riskiä.

Pei Zhiyong uskoo, että valokuvien ja videoiden väärentämisen estotekniikkaa tulisi aktiivisesti tutkia ja mainostaa. ”Jos esimerkiksi valokuvan ottamiseen käytetään tiettyä matkapuhelinta tietyllä merkillä, mallilla ja sarjanumerolla, kuvatiedostossa on. tekstijono, joka on näkymätön paljaalla silmällä, mutta jonka kone voi tunnistaa. Varmistusjärjestelmä voi tunnistaa, että se ei ole alkuperäinen kuva. Tämä menetelmä ei ole uusi tekniikka, mutta vaatii kehittynyttä kryptografiateknologiaa.

Sun Yue, Beijing Core Shield Times Technology Co., Ltd.:n perustaja ja teknologiajohtaja, sanoi haastattelussa Shell Financen toimittajalle, että syväväärennöstekniikka on rehottava ja biometriset ominaisuudet, kuten äänet ja kasvot, ovat menettäneet alkuperäisen korkean luottamuksensa. todennusattribuutit. Jos halutaan estää sen aiheuttamia haittoja tekniikan avulla, on suositeltavaa, että suuret järjestelmäalustat vahvistavat sovellusjärjestelmien identiteetin todentamista. Tarvitaan vahvoja todennustoimenpiteitä identiteetin väärentämisen riskin torjumiseksi, mikä voidaan saavuttaa monitekijäisen identiteetin avulla autentikointi, terminaalin riskitietoisuus, big data -analyysi jne. Tuoteteknologia yhdistettynä käyttäjien käyttäytymisen mallintamiseen, tietograafin kausaalien päättelyyn ja muihin keinoihin voi tehokkaasti vastustaa syvän väärennösten aiheuttamia identiteettiriskejä.

"Tekoälyn terveen kehityksen vuoksi, jotta voidaan käsitellä syvän väärennösteknologian tuomia riskejä, valtion ja alan sääntelyvirastojen tulisi aktiivisesti parantaa asiaankuuluvia lakeja ja määräyksiä Toiseksi lisätä tutkimusta ja kehitystä syvän väärennösten havaitseminen, digitaalinen vesileima ja muut teknologiat. Lisäksi asiaankuuluvien osastojen ja tiedotusvälineiden tulisi lisätä petostentorjuntaa, parantaa ihmisten tietoisuutta turvallisuudesta ja työskennellä yhdessä ihmisten henkilökohtaisen ja omaisuuden turvallisuuden suojelemiseksi. ", Sun Yue kertoi Shell Finance -toimittajille.

Toimittajan yhteyssähköposti: [email protected]

Beijing News Shell Finance -toimittaja Luo Yidan toimittaja Wang Jinyu oikoluku Yang Li