uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Lähde: Rule of Law Daily

Toimittaja Zhang Shoukun

"Siellä on kuvia ja totuus, ja kaikki on asiantuntijoiden varmentamaa."

Äskettäin Tianjinin kansalainen Li Meng (salanimi) riideli kiivaasti äitinsä kanssa "populaaritieteellisestä artikkelista": hänen äitinsä uskoi vakaasti, että artikkeli sisälsi videoita, kuvia ja erilaisten niin kutsuttujen lääkäreiden ja lääketieteellisten ryhmien tekemiä tutkimusjohtopäätöksiä. Se voi olla väärennös, Li Meng tunnisti artikkelin huolellisesti ja havaitsi, että artikkeli oli tekoälyn luoma, ja alusta myös kumosi huhun, joten sen on oltava väärennös.

Tämän artikkelin sisältö liittyy kissoihin - siellä oli tyttö, joka leikki kissan kanssa ja sai myöhemmin "taudin"-nimisen sairauden. Juuri tämän artikkelin vuoksi Li Mengin äiti vastusti tiukasti hänen kasvattamistaan ​​kissan kanssa, koska hän pelkäsi kärsivänsä myös "taudeista". Li Meng ei voinut nauraa tai itkeä tälle: "Toivon todella, että äitini voi käyttää Internetiä vähemmän."

Li Mengin äiti ei ole ainoa, jota tekoälyhuhut ovat pettäneet. Viime aikoina yleisen turvallisuuden virastot ovat monissa paikoissa julkaisseet tapauksia, jotka liittyvät tekoälytyökalujen käyttöön huhujen levittämiseen. Esimerkiksi virasto, joka julkaisi vääriä uutisia "Xi'anin räjähdyksestä", voi tuottaa 4 000 - 7 000 väärää uutista. päivässä huipussaan, päivittäiset tulot 1 Yli 10 000 yuania, ja yrityksen varsinaisella valvojalla Wang Moumoulla on 5 tällaista laitosta, joilla on 842 toimintatiliä.

"Rule of Law Daily" -lehden toimittajien haastattelemat asiantuntijat huomauttivat, että kätevät tekoälytyökalut ovat vähentäneet merkittävästi huhujen valmistuskustannuksia ja lisänneet huhujen suuruusluokkaa ja leviämistä. Tekoälyn huhujen levittämiseen on ominaista matala kynnys, erätuotanto ja tunnistamisvaikeudet. Valvontaa on vahvistettava ja sen takana oleva intressiketju katkaistava.

Tekoälyn käyttäminen väärien uutisten tekemiseen

Levittyi nopeasti ja monet ihmiset joutuivat harhaan

Shanghain poliisi julkaisi 20. kesäkuuta ilmoituksen, että kaksi tuotemerkkimarkkinoijaa tekivät vääriä tietoja, kuten "Pukoi joku Zhongshan Parkin metroasemalla" saadakseen suosiota Poliisi on pidättänyt asianomaisen henkilöstön. Raportissa yksi yksityiskohta herätti huomion: väärentäjä käytti tekoälyohjelmistoa videotekniikan tuottamiseen ja teki vääriä tietoja, kuten vääriä videoita metrohyökkäyksistä.

Toimittaja sai selville, että viime vuosina tekoälyn käyttöä huhujen levittämiseen on esiintynyt usein ja se leviää hyvin nopeasti. Jotkut huhut ovat aiheuttaneet huomattavaa sosiaalista paniikkia ja haittaa.

Viime vuonna Shanghaissa kadonneen tytön tapauksessa jengi kehitti ilkeästi huhuja, kuten "tytön isä on hänen isäpuolensa" ja "tyttö vietiin Wenzhouhun" "clickbait"- ja "shock group" -tavalla. Joukko käytti tekoälytyökaluja ja muita työkaluja luodakseen huhusisältöä 114 tilin matriisin kautta, ja he julkaisivat 268 artikkelia kuudessa päivässä, ja monet artikkelit saivat yli miljoona klikkausta.

Yleisen turvallisuuden ministeriön kyberturvallisuusvirasto ilmoitti äskettäin tapauksesta. Joulukuusta 2023 lähtien Internetissä on levinnyt usein tietoa "kuumaa vettä purskaavasta maasta Huyin alueella Xi'anin kaupungissa" ja huhuja, kuten "kuumaa vettä purskahti maasta maanjäristyksen vuoksi". "ja "maanalaisten lämpöputkien rikkoutumisen vuoksi". Tutkimuksen jälkeen asiaankuuluvat huhut syntyivät tekoälyn käsikirjoituksen puhdistamisen avulla.

Äskettäin "Jinanissa syttyi tulipalo korkeassa asuinrakennuksessa, ja monet ihmiset hyppäsivät pakoon" ja "aamuharjoittelumies löysi elävän ihmisen haudasta lähellä Heroes Mountainia Jinanissa"... Nämä törkeät "blockbusterit" uutiset" levisivät laajasti Internetissä ja herättivät paljon huomiota. Jinanin kaupungin puoluekomitean kyberavaruushallinto kiisti välittömästi huhut Jinan Internetin yhteisen huhujen kumoamisalustan kautta, mutta monet ihmiset olivat edelleen hämmentyneitä "kuvien ja totuuden" esiintymisestä.

Tsinghuan yliopiston journalismin ja viestinnän koulun New Media Research Centerin tämän vuoden huhtikuussa julkaisema tutkimusraportti osoitti, että kahden viime vuoden tekoälyhuhujen joukossa talous- ja yrityshuhut olivat suurimmat, 43,71 % viime vuosi, talous- ja yrityshuhut Tekoälyhuhujen kasvuvauhti on peräti 99,91 %, ja tekoälyhuhut kärsivät eniten toimialoista, kuten catering-nouto- ja pikatoimitukset.

Joten kuinka helppoa on käyttää tekoälyä valeuutisten luomiseen?

Toimittaja testasi useita suosittuja markkinoilla olevia tekoälyohjelmistoja ja havaitsi, että niin kauan kuin avainsanat on annettu, "uutisraportti" voidaan luoda välittömästi muutamassa sekunnissa, mukaan lukien tapahtuman yksityiskohdat, kommentit ja näkemykset, seuraa -up-toiminnot jne. Lisää aika ja paikka, kuvat ja taustamusiikki, niin aidolta ja väärennökseltä näyttävä uutisraportti valmistuu.

Toimittaja havaitsi, että monet tekoälyn tuottamat huhut sekoittuivat sisältöön, kuten "raporttien mukaan", "asianomaiset osastot tekevät perusteellisia tutkimuksia onnettomuuden syystä ja ryhtyvät toimenpiteisiin hätäkorjausten suorittamiseksi" ja "muistuttavat yleistä yleisöä kiinnittää huomiota turvallisuuteen jokapäiväisessä elämässä." Ihmisillä on usein vaikeuksia erottaa aitous sen jälkeen, kun ne on julkaistu verkossa.

Tekoälyuutisten, populaaritieteellisten artikkeleiden, kuvien, jälkiäänitysvideoiden ja kasvojen vaihdon jäljitelmien lisäksi nämä kaikki voidaan luoda tekoälyn avulla Manuaalisen hienosäädön ja todellisen sisällön sisällyttämisen jälkeen niitä on vaikea erottaa.

Kiinan Renminin yliopiston Journalismin ja sosiaalisen kehityksen keskuksen tutkija Zeng Chi sanoi, että "generatiivisen tekoälyn" yhdistävä luonne liittyy vahvasti huhuihin. Molemmat "luovat asioita tyhjästä" - luovat näyttävää tietoa todellista ja järkevää. Tekoäly on tehnyt huhujen levittämisestä yksinkertaisempaa ja "tieteellisempää". Tekoäly tiivistää kuvioita ja yhdistää juonen kuumiin tapahtumiin ja voi nopeasti luoda huhuja, jotka vastaavat ihmisten "odotuksia" ja leviävät nopeammin.

"Verkkoalustat voivat käyttää tekoälyteknologiaa käänteiseen havaitsemiseen kuvien ja videoiden yhdistämiseen, mutta sisältöä on vaikea sensuroida. Tällä hetkellä ihmisillä ei ole kykyä täysin siepata huhuja, puhumattakaan siitä, että on paljon vahvistamattomia tai tarkistamatonta ja epäselvää tietoa", Zeng Chi sanoi.

Väärentäminen liikenteen lisäämiseksi

Epäillään useista rikoksista

Joidenkin tekoälyohjelmistojen "huhujen levittämisen tehokkuus" on hämmästyttävä. On esimerkiksi väärennettyjä ohjelmistoja, jotka voivat tuottaa 190 000 artikkelia päivässä.

Ohjelmiston takavarikoineen Xi'anin poliisin mukaan he poimivat ohjelmiston tallentamia artikkeleita 7 päivän ajan ja havaitsivat, että niiden kokonaismäärä ylitti miljoonan, kattaen ajankohtaisia ​​uutisia, sosiaalisia kuumia aiheita, sosiaalista elämää ja muita näkökohtia. Tilin käyttäjät julkaisevat nämä "uutiset" asianmukaisille alustoille organisoidusti ja käyttävät sitten alustan liikennepalkkiojärjestelmää voittojen ansaitsemiseen. Tällä hetkellä alusta on estänyt tapaukseen liittyvät tilit, ja myös asiaankuuluvat ohjelmistot ja palvelimet on suljettu. Poliisi tutkii edelleen tapausta.

Monien tekoälyn huhujen levittämistapausten takana huhujen levittäjien motiivit ovat pääasiassa ohjata liikennettä ja tehdä voittoa.

"Käytä tekoälyä suosittujen tekstien massatuotantoon, niin sinusta tulee yhtäkkiä rikas." "Anna tekoäly auttaa minua kirjoittamaan mainosartikkeleita, niin voin tehdä 3 artikkelia minuutissa." Yksittäinen numero voi tuottaa helposti 500+ päivässä usean tilin toimintoa, aloittelijat pääsevät helposti alkuun”... Toimittajan haulla todettiin, että samankaltaisia ​​"rikastua" artikkeleita kiertää monilla sosiaalisilla alustoilla, ja monet bloggaajat ponnistelevat. ne kommenttialueella.

Tämän vuoden helmikuussa Shanghain julkisen turvallisuuden virasto havaitsi, että lyhyt video taiteilijasta, joka oli "onninen ja kuoli pahoillaan" ilmestyi sähköisen kaupankäynnin alustalle, joka keräsi suuren määrän tykkäyksiä ja uudelleenpostauksia.

Tutkinnan jälkeen videon sisältö todettiin väärennetyksi. Kun videon julkaisija saapui tapaukseen, hän myönsi, että hän piti paikallisten erikoisuuksien verkkokauppaa sähköisen kaupankäynnin alustalla. Huonon myynnin vuoksi hän loi silmiinpistäviä valeuutisia houkutellakseen liikennettä verkkokauppatililleen. Hän ei osaa muokata videoita, joten hän käyttää tekoälytekniikkaa tekstin ja videoiden luomiseen.

Zhang Qiang, Beijing Yinghe -lakitoimiston kumppani, kertoi toimittajille, että tekoälyn käyttäminen verkkohuhujen tekemiseen, erityisesti väärien vaarojen, epidemioiden, katastrofien ja poliisitietojen sepittämiseen ja tarkoitukselliseen levittämiseen, voidaan epäillä rikoksesta väärien tietojen väärentämisestä ja levittämisestä. rikoslain nojalla. Jos se vaikuttaa henkilön tai yrityksen maineeseen, sitä voidaan epäillä rikollisesta kunnianloukkauksesta ja liiketoiminnan uskottavuuden ja maineen vahingoittamisesta. Jos se vaikuttaa arvopaperi- ja futuurikaupankäyntiin ja häiritsee kaupankäyntimarkkinoita, sitä voidaan epäillä rikoslain nojalla väärien arvopaperi- ja futuurikaupankäyntiä koskevien tietojen väärentämisestä ja levittämisestä.

Jatka huhujen kumoamismekanismin parantamista

Merkitse selkeästi synteettinen sisältö

Tekoälypetosten ja kaaoksen hallitsemiseksi ja verkkoekosysteemin hallinnon syventämiseksi asiaankuuluvat osastot ja alustat ovat ottaneet käyttöön useita käytäntöjä ja toimenpiteitä viime vuosina.

Kiinan kyberavaruushallinto ja muut julkaisivat jo vuonna 2022 "Internet-tietopalveluiden syvän synteesin hallintaa koskevat säännöt", joiden mukaan mikään organisaatio tai henkilö ei saa käyttää syväsynteesipalveluita tietojen tuottamiseen, kopioimiseen, julkaisemiseen tai levittämiseen. Lakien ja hallinnollisten määräysten kieltämät syväsynteesipalvelut harjoittavat lailla ja hallinnollisilla määräyksillä kiellettyjä toimia, kuten kansallisen turvallisuuden ja etujen vaarantamista, maan imagoa, yhteiskunnan ja yleistä etua loukkaamista, taloudellista ja sosiaalista järjestystä, laillisten oikeuksien loukkaamista. ja muiden etuja jne. Syvän synteesipalvelun tarjoajat ja käyttäjät eivät saa käyttää syväsynteesipalveluita väärien uutisten tuottamiseen, kopioimiseen, julkaisemiseen tai levittämiseen.

Tämän vuoden huhtikuussa Kyberavaruusasioiden keskustoimikunnan sihteeristö julkaisi tiedonannon "itsemedian rajoittamattoman runsaan liikenteen puhdistamisen ja korjaamisen" erityistoimenpiteen toteuttamisesta, jossa edellytetään tietolähteiden merkintöjen ja näyttämisen vahvistamista. . Jos tietoa tuotetaan tekoälyn kaltaisilla teknologioilla, se on merkittävä selvästi tekniikan tuottamaksi. Kaikki sisältö, joka sisältää fiktiota, päätelmiä jne., on merkittävä selvästi fiktioksi.

Jos sisältöä epäillään käyttävän tekoälytekniikkaa, jotkin alustat julkaisevat alle muistutuksen, jonka mukaan "sisällön epäillään olevan tekoälyn tuottamaa, ole hyvä ja seulo huolellisesti", ja lisää selvästi fiktiotunnisteen sisältöön, joka sisältää fiktiota, päätelmiä jne. ., ja ryhtyä "toimiin" laittomien tilien suhteen ja muita toimenpiteitä. Jotkut suuret mallinkehittäjät ilmoittivat myös, että he merkitsevät vesileimalla suurten mallien kautta tuotettuun sisältöön tausta-asetusten avulla ilmoittaakseen käyttäjille.

Zhang Qiangin mukaan ihmisillä ei vieläkään ole tarpeeksi ymmärrystä generatiivisesta tekoälystä ja heillä ei ole kokemusta sen käsittelemisestä. Tässä tapauksessa on erittäin tärkeää muistuttaa ihmisiä median kautta kiinnittämään huomiota tekoälytietojen seulomiseen. Samaan aikaan on tarpeen lisätä reagointiponnisteluja lainvalvontaviranomaisten tasolla ja nopeasti tutkia ja korjata käyttäytymistä, kuten huhuja ja tekoälyn kautta tapahtuvia petoksia.

Kiinan viestintäyliopiston kulttuuriteollisuuden johtamiskoulun lakiosaston johtaja Zheng Ning uskoo, että olemassa olevaa huhujen kumoamismekanismia pitäisi parantaa entisestään, kun tieto tunnistetaan huhuksi, se tulisi merkitä välittömästi työnnetään uudelleen käyttäjille, jotka ovat selailleet huhua. Vinkkejä estämään tämän huhun leviäminen ja aiheuttamasta suurempaa haittaa.

On syytä huomata, että joillakin ihmisillä ei välttämättä ole subjektiivista tietoisuutta huhujen levittämisestä, vaan he vain julkaisevat tekoälyn syntetisoimaa sisältöä Internetissä. Tämän seurauksena sitä julkaistaan ​​suuria määriä ja monet ihmiset uskovat sen aiheuttaen vahinkoa.

Tältä osin Zeng uskoo, että yksinkertaisin tapa estää se on muotoilla määräyksiä asianomaisten osastojen tai alustojen kautta, ja kaikki tekoälyn syntetisoitu sisältö on merkittävä "tämä kuva/video on tekoälyn syntetisoitu".