kommentoi nyt｜lisää erottuvia logoja estääksesi tekoälyn luoman sisällön sekoittamisen todelliseen asiaan.
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
kuinka monet valtavat kuvat, tekstit ja videot, joita näemme verkossa päivittäin, ovat tekoälyn luomia ja syntetisoimia? kuinka erottaa ai-artikkelit, tekoälykuvat ja tekoälyvideot tarkasti?
kiinan kyberavaruushallinto julkaisi 14. syyskuuta "measures for labeling of synthetic content generation by artificial intelligence (draft for comments)" -ehdotuksen tarkoituksena on määrätä, että palveluntarjoajien tuottamat synteesipalvelut sisältävät tekstiä, ääni, kuvat ja videot, virtuaaliset kohtaukset jne., kun palveluntarjoajat tarjoavat menetelmiä synteettisen sisällön lataamiseen, kopioimiseen ja vientiin, niiden tulee varmistaa, että tiedostot sisältävät selkeät merkit, jotka täyttävät vaatimukset. vaatimukset.
tämä säännös on hyvin realistinen ja tarpeellinen. viime vuosina tekoälyn syväsynteesitekniikkaa on käytetty laajasti monilla aloilla kuvan, tekstin ja videon luomisesta online-kysymyksiin ja vastauksiin, ja erilaisia sovelluksia syntyy loputtomasti. ei ole epäilystäkään siitä, että tekoälytyökalut voivat tehostaa sisällöntuotantoamme ja tiedon levittämistä, ja kun tekoälyn oppimiskyky vahvistuu ja vahvistuu, sen sisällön "tuotanto"-ominaisuudet ylittävät jopa ihmiset tulevaisuudessa.
mutta toisaalta syvän synteettisen sisällön vaikutus on realistisempi ja tuotanto tehokkaampaa, mikä tekee myös synteettisestä sisällöstä vaikeaa erottaa toisistaan todellista ja väärennettyä. kun totuuden ja väärän erottaminen on vaikeaa eikä näkeminen ole enää uskomista, tekoälyteknologia on kuin kaksiteräinen miekka, joka tuo yhteiskuntaan myös ongelmia, kuten tiedon vääristymiä ja kognitiivista hämmennystä.
marraskuussa 2022 kiinan kyberavaruushallinto julkaisi "internet-tietopalveluiden syvän synteesin hallintaa koskevat määräykset", jotka määrittelevät tarkoituksen, merkinnät, käyttöalueen ja rangaistukset syvälle syntetisoidun sisällön väärinkäytöstä. tämä "kommenttiluonnos" selventää edelleen, että olipa kyseessä tekstiä, ääntä, kuvia tai videoita, "näkyviä muistutuskylttejä on lisättävä sopiviin paikkoihin". tämä on selkeä vaatimus palveluntarjoajille: niin kauan kuin se on luotu tekoälytyökalulla, olipa kyseessä artikkeli tai kuva, näkyvä tunniste on lisättävä.
tämä on itse asiassa muistutus yleisölle siitä, että verkkotietoa on sekalaista kun näet "sisäpiirin" artikkeleita, "kuumia" kuvia tai "järkyttäviä" videoita, sinun on ensin kiinnitettävä huomiota siihen, ovatko ne tekoälyn luomia ja pitäisikö ne hyväksyä. kuinka tunnistaa ne?
on syytä huomata, että kun teknologia muuttuu vähitellen "siviiliksi", rikolliset voivat helposti käyttää tekoälyä levittääkseen huhuja ja tuottaakseen valeuutisia. jotkin tiedotusvälineet perustivat vähän aikaa sitten mcn-organisaation, joka voi käyttää tekoälyä tuottamaan 4 000–7 000 huhuartikkelia joka päivä tekoälytekniikan siunauksen ansiosta nämä artikkelit näyttävät erittäin "todellisilta ja järkeviltä" yleisölle, joka ei tunne internet-tekniikkaa. tällaista tietoa "kuvina ja totuuksina" nähtyään on helppo uskoa sen olevan totta.
mediatutkimuksen mukaan kotimaista tekoälyä käytettäessä tekoälyartikkelin hinta on vain 0,00138 yuania, ja yhdellä sentillä voidaan tuottaa 7 artikkelia. rikolliset voivat helposti hyödyntää tällaisia "pääomaa ja valtavia voittoja" vääriä kuvia ja videoita, kuten "metrohyökkäys", "räjähdys xi'anissa", "räjähdys yksityisessä talossa wuxissa, chongqingissa" jne.. oli huono sosiaalinen vaikutus. totuus tämän takana on huhut tekoälyn massatuotannosta.
tekoälyn kirjaaminen synteettisen sisällön tuottamiseksi ei ole teknisesti vaikea toteuttaa. jotkut asiantuntijat ehdottavat, että alusta voidaan liittää täysin tekoälyn sisällöntuotantoalustan suureen mallijärjestelmään, suorittaa reaaliaikaisen datan tunnistamisen ja vertailun ja liittää sitten irrotettavan digitaalisen vesileiman tai tekstikuvaukset, kuten "tämä kuva/ video on syntetisoitu tekoälyllä".
tässä "kommenttiluonnoksessa" korostetaan, että "mikään organisaatio tai henkilö ei saa haitallisesti poistaa, peukaloida, väärentää tai kätkeä näissä toimenpiteissä määriteltyjä synteettisiä sisältötunnisteita. tämä muistuttaa tekoälypalveluntarjoajia ja -alustoja siitä, että ne eivät saa käyttää tekoälyä." työkaluja "liikenteen osuuden" aikaansaamiseksi omaksumme tyynnyttävän asenteen sulkemalla silmät ja sulkemalla toisen silmän. selkeä kyberavaruus ei saa sallia tekoälyn sisällön hämmennystä ja hämärtää todellisuuden rajoja, jos jokin tieto tunnistetaan huhuiksi, alustan tulee merkitä ja puhdistaa se välittömästi.
tekoälyn kyky tuottaa ja syntetisoida ylittää perinteisen kognition, ja se saa meidät myös ymmärtämään: monet verkkoartikkelit näyttävät erittäin "tieteellisiltä" ja monet verkkovideot näyttävät erityisen "oikeilta", mutta ne eivät välttämättä ole luotettavia, joten älä älä kiirehdi uskomaan sitä. voit yhtä hyvin etsiä sitä ensin. onko sisällön näkyvässä paikassa merkki "tämä kuva/video on syntetisoinut tekoälyn"?
li qinyu, the paperin pääkommentaattori
(tämä artikkeli on the paperista. jos haluat lisätietoja, lataa "the paper" -sovellus)
