viisi suurta kaaosta tekoälyn luomissa kuvissa ②｜business "pornografisissa kuvissa": kasvojen vaihtaminen ja riisuminen, toistuvat kiellot, mutta vaikea pysäyttää
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
tänä aikakautena, jolloin tekoäly on kaikkialla ja markkinoille pääsyn esteet ovat lähes rajattomat, jos et ole yrittänyt käyttää tekoälyä kuvien tai videoiden luomiseen (jäljempänä yhteisesti tekoälyn tuottamat kuvat), se ei todellakaan ole tarpeeksi "trendikäs".
kuten muutkin uudet tekniikat, tekoälykuvaustekniikka on ollut täynnä kiistoja syntymästään lähtien, ja kukkia ja piikkejä on seurannut matkan varrella. kannattajat pitävät sitä häiritsevänä teknologisena vallankumouksena, kun taas vastustajat pitävät sitä vitsauksena. erityisesti viimeisen kahden vuoden aikana chatgpt:n ja soran edustamat suuret tekoälytietomallit ovat nousseet suosituksi trendiksi, ja yhä useammat netilaiset haluavat sitä. vaikka se tuo ihmisille suurta mukavuutta, yllätystä ja mukavuutta, se paljastaa myös väistämättä monia negatiivisia ongelmia, kuten absurdin, ärsyttävän ja jopa laittoman.
ai on syytön, avain piilee sen käytössä. teknologia voi hyödyttää ihmiskuntaa paremmin vain noudattamalla etiikkaa ja oikeusvaltion periaatteita. upstream news julkaisee tänään erikoisraportin "five chaos in ai image generating", joka keskittyy erilaisiin kaaokseen, joka on paljastunut tekoälykuvan tuottamisessa viime vuosina, lähteen jäljittämiseen, syyn ja seurauksen analysointiin sekä ratkaisujen etsimiseen. edistääkseen tekoälyteollisuuden tervettä kehitystä.
helmikuussa 2024 shang (salanimi), joka asuu yubein alueella chongqingissa, sai yhtäkkiä tekstiviestin, joka sisälsi mustavalkoisen alastonkuvan. kuvassa herra shang pitelee nuorta naista sylissään, makaamassa hotellin sängyllä ja jonka jälkikirjoitus "minulla on kaikki kuvatietosi, ota minuun yhteyttä nopeasti" ja puhelinnumero. koska hän yleensä pitää itsensä puhtaana ja tuntee terveen järjen, kuten internet-petokset ja tekoälyn kasvojen muuttaminen, shang tiesi, että rikolliset huijasivat häntä käyttämällä tekoälyä valokuvien luomiseen, mutta hän kertoi myös vaimolleen kokemus ja jakoi sen wechat-ystäväryhmänsä kanssa, sai paljon hyväntahtoista pilkkaa. tässä suhteessa herra shang kertoi upstream newsin toimittajalle (raporttisähköpostiosoite: [email protected]): "tiedän, että kuvan syntetisoi tekoäly käyttämällä henkilökorttini kasvoja alaston ruumiin luomiseen. mutta minä olen utelias, mistä nämä huijarit löysivät henkilöllisyyskuvani ja matkapuhelinnumeroni?" erään uutistoimittajan tekemässä tutkimuksessa havaittiin, että useiden tiedotusvälineiden ja poliisien raporttien mukaan samankaltaisia tekoälyn kasvojen vaihtohuijauksia on tapahtunut viime vuosina, ja monet ihmiset uskoivat niiden olevan totta, minkä seurauksena heiltä on huijattu valtavia määriä omaisuutta ja jopa perheensä hajottamista. myös monet rikolliset, jotka tuottivat ja levittelivät kuvia ja videoita sekä syyllistyivät petokseen, saivat ankaran rangaistuksen lain mukaan.
uhrit: joiltakin huijattiin rahaa, ja joidenkin kasvot muuttuivat.
vaikka herra shang chongqingista sai kiristystekstiviestejä rikollisilta, hän oli onnekas pakenemaan. sitä vastoin herra wang weihaista, shandongin maakunnasta, kohtasi myös saman huijauksen. häneltä pyydettiin 680 000 yuania ja hänet pakotettiin lopulta siirtämään 200 000 yuania.
wangin saaman tekstiviestin sisältö oli lähes täsmälleen sama kuin herra shangin, hän valitsi tekstiviestissä olevan numeron. toinen osapuoli ilmoitti tarkasti nimensä ja työpaikkansa ja kertoi wangille, että hän voisi ostaa videot siirtämällä 680 000 yuania, jos hän ei maksa, videot julkistetaan. toisen osapuolen uhkauksena herra wang uskoi sen. myöhemmin herra wang keräsi varoja useilta osapuolilta ja siirsi 200 000 yuania. tämä 200 000 yuania ei kuitenkaan voi tyydyttää toisen osapuolen ruokahalua ollenkaan. myöhemmin poliisi otti yhteyttä wangiin.
huolellisen tarkkailun jälkeen tapausta tutkinut poliisi havaitsi, että vaikka tekstiviestin valokuvassa näkyvät kasvot olivat samankaltaisia kuin wang, kasvojen muoto ja vartalon muoto olivat täysin erilaisia kuin hänen. myöhemmin poliisi suoritti nopeasti hätämaksun pysäytystoimenpiteet wangin siirtämille kahdelle pankkitilille. keräystilin tutkimuksen ja analysoinnin jälkeen poliisi lukitsi rikoksesta epäiltyjen zhengin ja zhongin henkilöllisyystiedot. tämän vuoden tammikuussa weihain poliisi pidätti kaksi epäiltyä ja saattoi heidät oikeuden eteen.
shang ja wang kohtasivat tekstiviestipetoksia, ja tekoäly teki heidän avataristaan alastonkuvia.
weihain poliisin mukaan tässä tapauksessa epäilty keräsi ensin videoita, valokuvia ja niihin liittyviä tietoja uhrista internetin ja muiden kanavien kautta. käytä sitten tekoälyä muuttavaa tekniikkaa ps:ään syntetisoidaksesi niin sanottuja "syvymättömiä videoita" tai "alastomia kuvia" ja lähettää ne sitten tarkasti valittuihin objekteihin tekstiviestien, sähköpostin ja muiden kanavien kautta ja jättää lopuksi yhteystiedot ilmoittaa, levittää ja tiedottaa perheilleen ja muilla keinoilla uhatakseen valittuja kohteita ja vaatia uhreja siirtämään rahaa nimetyille pankkitileille. poliisi muistutti, että jos kohtaat tällaisen tilanteen, sinun tulee kiinnittää huomiota todisteiden säilyttämiseen ja soittaa poliisi ajoissa.
miehiin verrattuna nuoret ja kauniit naiset, erityisesti tunnetut naispuoliset internet-julkkikset, kärsivät todennäköisemmin tekoälyn kasvojen vaihtamisesta ja tekoälyn "yhden klikkauksen vaatteiden poistosta" kuvista ja videoista tehdään jopa maksullista sisältöä. viime vuoden heinäkuussa naispuolinen julkkisbloggaaja, jolla on yli 4 miljoonaa fania, huomasi, että monet fanit jättivät viestejä, joissa he kertoivat nähneensä hänen "pornografisia videoita". "en ajatellut sitä silloin viaton tutkii itseään ja huhut menevät lopulta ohi: "vasta eräänä päivänä ystäväni välitti pornografisen videon, jossa sankaritar näytti häneltä, että hän tajusi, että hänet oli "muutettu ilkeästi" ja että hän oli. tehty pornografiseksi videoksi.
tuolloisten tiedotusvälineiden mukaan myyjän hinnastossa sadat internet-julkkikset jaettiin fanien tason mukaan alle 500 000 fanista yli 10 miljoonaan faniin, ja vastaavat kasvojenvaihtopornovideot myytiin. 30 yuania 50 yuania ei vaihtele. lisäksi taulukossa on monia naistähtiä. yksi myyjä kertoi omistavansa yli 80 julkkista ja yli 15 000 kuvaa. jos ostat ne kaikki, hinta on vain 60 yuania ja 23 videota annetaan lahjaksi. myyjä sanoi myös, että jos ostat kasvot vaihtavan kuvan yhdestä julkkiksesta, sinulta veloitetaan määrän mukaan. voit ostaa 300 valokuvaa 5 yuanilla.
lisäksi monet valokuvat tavallisista naisista päivittäisissä kohtauksissa, kuten kouluissa, ostoskeskuksissa, toimistoissa, metroissa jne., ovat myös tulleet tekoälyn kasvojen varastamiseen tuhansia tai jopa kymmeniä tuhansia aiheeseen liittyviä kuvia.
kuva nuoresta naisesta guangzhoussa "riisuttiin" yhdellä napsautuksella ajettaessa metroa.
tuottaja: taottu lähes 7 000 alastonkuvaa, joiden hinta on 1,5 juania
pornografisen ja säädyttömän sisällön tuottajina monet verkossa piilotetut kirjoittajat ovat saaneet ankaran lain rangaistuksen.
tämän vuoden heinäkuussa cctv news raportoi laittomasta tapauksesta, jossa lähes 7 000 pornografista kuvaa väärennettiin tekoälytekniikalla. rikoksista epäilty bai moumou asuu pekingissä ja oli alunperin erään internet-yrityksen teknikko. hän käytti tekoälyn "yhden klikkauksen vaatteiden poisto" -tekniikkaa väärentääkseen lähes 7 000 säädytöntä kuvaa ja myi ne 1,5 yuanin hintaan. kuvissa on mukana suuri joukko naisia, mukaan lukien opiskelijoita, opettajia ja työtovereita. syyttäjä uskoo, että syytetty bai moumou tuotti ja myi siveetöntä materiaalia voittoa tavoittelemaan. olosuhteet olivat vakavat ja hänen käytöksensä rikkoi kiinan kansantasavallan rikoslain määräyksiä rikos tuottamalla ja myymällä säädytöntä materiaalia voiton saamiseksi.
pekingissä oleva mies tuotti lähes 7 000 säädytöntä kuvaa ja myi ne 1,5 yuania kappaleelta.
viime vuoden huhtikuussa hangzhou municipal's procuratorate'in mukaan yu, 1980-luvulla syntynyt mies anhuin maakunnasta, nostettiin syytteeseen epäiltynä säädyllisten materiaalien valmistamisesta ja levittämisestä voiton tavoittelemiseksi. yu kiinnostui tästä tekniikasta jo vuonna 2020, kun "ai face-changing" alkoi juuri ilmestyä, ja hän myös hallitsi tämän tekniikan itseopiskelun kautta. myöhemmin yu rekisteröi tilin ulkomaiselle sosiaaliselle alustalle ja loi ryhmän näkee paljon ihmisiä käyttämässä tekoälyä. pornografisia videoita, jotka on tuotettu kasvojenvaihtotekniikalla, voidaan myös "räätälöidä" käyttämällä erilaisia kuvia naisjulkkiksista asiakkaiden tarpeiden mukaan. vain muutamassa kuukaudessa yu ansaitsi kymmeniä tuhansia juaneja.
yun perustamassa julkisessa ryhmässä yleisen turvallisuuden elimet tutkivat yli 1 200 pornografista videota ja yli 1 600 kuvaa. viime vuoden marraskuussa hangzhoun kaupungin xiaoshanin alueen kansantuomioistuin totesi vastaajan yun syylliseksi siveetöntä materiaalin tuottamiseen ja levittämiseen voiton tavoittelemiseksi. hänet tuomittiin seitsemäksi vuodeksi ja kolmeksi kuukaudeksi vankeuteen ja 60 000 yuania.
nuoret ja kauniit naiset ovat alttiita tekoälyn kasvojenmuutoksen uhreiksi, ja jotkut yritykset tarjoavat jopa "räätälöityjä palveluja".
kysely: ohjelmistoa on vaikea ostaa, tieba on estetty
aiempien tiedotusvälineiden mukaan vuonna 2023 siihen liittyviä ohjelmistoja, joissa on "yhden klikkauksen vaatteiden poisto" -toiminto, on saatavilla monille alustoille. monet verkkokäyttäjät myös ostavat ja vaihtavat kokemuksiaan liittyvistä ohjelmistoista ja tuotteista verkossa.
esimerkiksi tietyssä tuotteessa on selkeä merkintä: "tämä ohjelmisto voi toteuttaa toiminnon muuttaa oikeita ihmisiä sarjakuviksi, vaihtaa päätä ja vaihtaa vaatteita." tämä ohjelmisto myy vain 16,66 yuania, ja kuukausittainen myynti on yli 200 tilausta. joku kysyi myymälän kommenttialueella: "voitko todella riisua vaatteesi." monet ihmiset vastasivat "kyllä".
tuolloin "deepfake"-nimisessä viestipalkissa oli yli 9 000 tekoälyn kasvojen vaihtamiseen liittyvää viestiä, joka sisälsi suuren määrän myyntitietoa julkkisten kasvoja muuttavista videoista. käyttäjä nimeltä "synthetic alliance" myy avoimesti kasvoja vaihtavia pornografisia videoita ryhmässä, jossa on yli 150 videota, sanoen "hinta on vain 58 yuania".
eräs uutistoimittaja tutki syvää fake-postipalkkia ja huomasi, että viestipalkki oli estetty. toimittaja haki avainsanoja "ai kasvojen vaihtaminen" ja "vaatteiden poisto yhdellä napsautuksella" useilla verkkokaupan alustoilla, mutta yhtäkään niistä ei näkynyt. joissakin myymälöissä on monia ohjelmistotuotteita, joissa on toimintoja, kuten "älykäs poistaminen" ja "älykäs kuvanlaajennus", mutta myymälöiden omistajat vastasivat, että heillä ei ole "vaatteiden poisto yhdellä napsautuksella" -toimintoa. toimittaja kuitenkin huomasi, että myyjä zhejiangissa myi ohjelmiston nimeltä "clothing changing artifact" 18,80 yuanilla väittäen, että "se voidaan helposti käsitellä, olipa kyseessä vaatteiden vaihto tai uudelleenmaalaus."
toimittaja otti myyjään yhteyttä yksityisviestillä. "voinko riisua vaatteeni?", myyjä oli hyvin varovainen: "älä sano sitä niin suoraan, me valvomme sitä." sitten hän sanoi epämääräisesti: "voit mennä y:lle (vaatteet). kun toimittaja on maksanut vaaditulla tavalla, kauppias antoi tässä on verkkolevyn latausosoite ja käyttöopas.
toimittaja seurasi kauppiaan ohjeita ja havaitsi, että app voi todellakin toteuttaa "vaatteiden poistamisen yhdellä napsautuksella".
tietyllä käytettyjen tavaroiden kauppapaikalla on edelleen kauppiaita, jotka myyvät salaa ohjelmistoja, joissa on "vaatteiden poisto yhdellä napsautuksella".
asianajajan lausunto: jos olosuhteet ovat erityisen vakavat, enimmäisrangaistus on elinkautinen vankeus
toimittaja havaitsi, että joillakin foorumeilla nettiväkejä etsii edelleen salaa ilmaisia "vaatteiden poisto-ohjelmistoja yhdellä napsautuksella". epäilläänkö siis kauppiaita, jotka julkaisevat tai myyvät niihin liittyviä ohjelmistoja, lain rikkomisesta tai jopa rikoksesta? jos verkkokäyttäjät käyttävät ohjelmistoja asiaankuuluvien valokuvien ja videoiden luomiseen ja julkaisemiseen, onko se lain vastaista, jos niitä käytetään vain tallentamaan ne "nautintoa" varten? millaisen rangaistuksen saat, jos jaat sen?
fu jian, tunnettu rikosoikeudellinen puolustuslakimies ja henan zejin -lakitoimiston johtaja, kertoi toimittajille, että toimintojen, kuten kuvien ja videoiden tekemisen ja "vaatteiden poistoohjelmiston yhdellä napsautuksella" myymisen, epäillään loukkaavaa yksityisyyttä ja muotokuvaoikeuksia. ovat laittomia tai jopa rikollisia, ja niistä voidaan saada rikosoikeudellisia seuraamuksia. ensinnäkin niihin liittyviä ohjelmistoja myyviä kauppiaita epäillään rikoslain säännösten mukaan säädyttömän materiaalin tuottamisesta, myymisestä ja levittämisestä voiton saamiseksi. tuomitaan määräaikaiseen vankeuteen enintään kolmeksi vuodeksi, rikosoikeudellinen säilöön tai valvontaan, ja myös sakkoon, jos olosuhteet ovat vakavat, hänet on tuomittava määräaikaiseen vankeuteen vähintään kolmeksi vuodeksi ja enintään kolmeksi vuodeksi yli 10 vuotta ja myös sakkoja, jos olosuhteet ovat erityisen vakavat, hänet on tuomittava määräaikaiseen vankeuteen vähintään kymmeneksi vuodeksi tai elinkautiseen vankeuteen sekä sakkoon tai hänen omaisuutensa takavarikoitavaksi.
toiseksi luonnollisen henkilön muotokuvaa ei voida käyttää suoraan ilman luonnollisen henkilön suostumusta. jos verkkokäyttäjät käyttävät ohjelmistoja asiaankuuluvien valokuvien ja videoiden luomiseen ja tallentamiseen "nautintoja varten", heidän epäillään loukkaavan myös muiden muotokuvaoikeuksia. jos se jaetaan wechat-ryhmissä tai sosiaalisilla alustoilla tuotannon jälkeen, sen epäillään loukkaavan muiden ihmisten muotokuva- ja maineoikeuksia, ja sinun on kannettava tietty siviilioikeudellinen vastuu. hänen käyttäytymistään epäillään "yleisen turvallisuuden hallinnan rangaistuslain" rikkomisesta, ja vakavissa tapauksissa häntä voidaan epäillä säädyttömän materiaalin levittämisestä. olosuhteiden vakavuudesta riippuen saatat saada rangaistuksia, kuten määräaikaisen vankeusrangaistuksen, rikosoikeudellisen vankeusrangaistuksen ja sakot.
kiinan minzu-yliopiston oikeustieteellisen tiedekunnan professori li liang sanoi vastauksena ilmiöihin, kuten tekoälyn vaihtamiseen ja vaatteiden poistoon, että ensinnäkin on välttämätöntä jakaa selkeästi tekoälyn laittomien sovellusten loukkaavat kohteet. toiseksi on luotava mekanismi tekoälyn laittomien sovellusten vastuun (seuraamusten) jakamiseksi. kolmanneksi tieteellistä lainsäädäntöä tulisi toteuttaa oikeusperiaatteiden ja yhteiskunnallisten etujen kattavan huomioimisen perusteella, tekoälyyn liittyvän oikeusjärjestelmän luominen ja parantaminen; sovelluksia, edistää teknologista tutkimusta ja tieteellistä kehitystä sekä vahvistaa valvonta- ja sääntelymekanismeja.
ylävirran uutistoimittaja jin xin syntetisoi osittain tietoja cctv newsista, cctv:stä, beijing newsista, people's dailysta jne.
