uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Tekoälyn luomasta väärennetystä muskista on tullut suurin online-valehtelija.

Alkuperäinen linkki: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

Lähde: NetEase Technology (ID: tech_163)

Alkuperäinen nimi: Tekoälyn luomasta Fake Muskista on tullut suurin online-valehtelija

Yhdysvaltain tiedotusvälineiden mukaan 15. elokuuta tekoälyn deepfake-tekniikkaa (Deepfake) on käytetty laajasti verkkopetoksissa viime vuosina, erityisesti väärennettyjen Elon Musk -videoiden avulla. Videot johdattivat sijoittajia harhaan simuloimalla Muskin ääntä ja liikkeitä. Tällaiset syväfake-videot ovat halpoja ja leviävät nopeasti, minkä ansiosta huijarit voivat helposti laajentaa vilpillisen toimintansa laajuutta, minkä seurauksena monet uhrit menettävät valtavia rahasummia väärien sijoitusmahdollisuuksien vuoksi. Kun syväväärennösten riskit tulevat yhä ilmeisemmiksi, niistä mahdollisesti aiheutuvien petostappioiden odotetaan nousevan miljardeihin dollareihin vuosittain.

Tässä on käännöksen koko teksti:

Steve Beauchamp, 82-vuotias eläkeläinen, halusi lisätä tuloja perheelleen, ja hän asetti toivonsa Elon Muskiin. Viime vuoden lopulla Beacham törmäsi videoon, jossa Musk näytti suosittelevan aggressiivista investointisuunnitelmaa, joka lupasi nopeita voittoja. Tämän innoittamana Beacham otti nopeasti yhteyttä videon takana olevaan yritykseen ja avasi sijoitustilin 248 dollarilla. Kuitenkin seuraavien viikkojen aikana hän lisäsi asteittain sijoituksiaan ja nosti lopulta yli 690 000 dollaria eläketililtään.

Mutta pian sen jälkeen rahat katosivat ja joutuivat ryhmän käsiin, jotka käyttivät tekoälyä uudentyyppiseen digitaaliseen huijaukseen. Huijarit muuttivat taitavasti todellisen Muskin haastattelun korvaamalla hänen äänensä tekoälyteknologialla ja hienosäätämällä suun muotoa vastaamaan uutta käsikirjoitusta, jonka he kirjoittivat digitaaliselle ihmiselle. Keskiverto katsojalle tämä toimenpide on lähes huomaamaton.

Beacham muisteli videota ja sanoi liikuttuneena: "Hänellä on selkeä kuva videossa ja hänet voidaan tunnistaa Muskiksi yhdellä silmäyksellä. En voi olla nyt varma siitä, saiko hänet sanomaan tekoäly. vain "Mitä videoon tulee, jos joku pyytäisi minua tunnistamaan hänet joukosta, voisin ehdottomasti osoittaa hänet."

01

Muskista tulee usein syväfakesien vierailija

Viime kuukausina Internet on tulvinut tuhansilla tällaisilla tekoälyllä toimivilla videoilla, jotka tunnetaan nimellä "deepfake", joissa Muskin väärennettyä kuvaa on käytetty mahdollisten sijoittajien harhaanjohtamiseen. Deloitte arvioi, että tämän tyyppiset tekoälyllä toimivat syväväärennökset voivat aiheuttaa miljardeja dollareita petostappioita vuosittain.

Nämä videot ovat erittäin halpoja tuottaa, ne voidaan valmistaa muutamassa minuutissa, ja niitä mainostetaan sosiaalisessa mediassa, mukaan lukien maksettu mainonta Facebookissa, mikä laajentaa huomattavasti niiden ulottuvuutta. Deepfake-videoita tarkkailevan ja havaitsevan Sensity-yhtiön perustajajäsen ja uhkatiedon johtaja Francesco Cavalli varoitti: "Tämä saattaa olla kaikkien aikojen suurin syväfake-huijaus."

Videot ovat usein todentuntuisia, ja niissä on tarkasti vangittu Muskin tunnusomaiset, katkerat intonaatiot ja eteläafrikkalainen aksentti. Huijarit aloittavat yleensä todellisesta videosta, kuten Wall Street Journalin haastattelusta, ja toimittajan ääni säilyy valevideossa, mikä lisää videon aitoutta.

Kehittyneen huulten synkronointiteknologian avulla huijarit säätelivät Muskin suun liikkeitä vastaamaan täydellisesti vääriä linjojaan. He lisäsivät myös tekoälyääniä käyttämällä äänen kloonaustyökaluja, jotka voivat kopioida minkä tahansa äänen näyteleikeestä. Lopullinen mainos voi sisältää myös väärennettyä grafiikkaa, joka jäljittelee uutisorganisaation tyyliä, mikä voi olla varsin vakuuttavaa tavalliselle Internetin käyttäjälle.

Sensityn analyysin mukaan Musk on yleisin puhuja näissä videoissa. Hän esiintyi lähes neljänneksessä syväfake-huijauksista lähes 2 000 analysoidusta näytteestä, etenkin viime vuoden lopusta lähtien. Kryptovaluutta-aiheisten videoiden joukossa tämä osuus on jopa lähes 90%. Deepfake-mainoksissa käytetään usein myös kuuluisia sijoittajia, kuten Warren Buffettia, ja liike-elämän suurmiehiä, kuten Amazonin perustaja Jeff Bezos.

Vaikka on vaikea laskea tarkasti, kuinka monta syväväärennöstä kiertää verkossa, Facebookin mainoskirjastosta tehty haku yleisen huijauksiin liittyvän kielen löytämiseksi paljasti satoja tuhansia mainoksia, joista monet sisälsivät deepfake-videoita. Vaikka Facebook on poistanut suuren osan sen käytäntöjä rikkovasta sisällöstä ja kieltänyt kyseiset tilit, muita videoita säilyy verkossa, ja lisää ilmestyy näennäisesti joka päivä.

YouTube on myös täynnä väärennettyä sisältöä, usein "live"-merkinnällä. Itse asiassa nämä ovat valmiiksi tallennettuja deepfake-videoita. Hae hakusanoja, kuten "Elon Bitcoin Conference" YouTubessa, ja voit nähdä kymmeniä videoita, jotka on naamioitu suoriksi lähetyksiksi. Videon syvä fake Musk kauptelee kryptovaluuttahuijauksia, mikä on erittäin harhaanjohtavaa.

Yhdysvaltain entisen presidentin Donald J. Trumpin puhuttua Bitcoin-konferenssissa, YouTubeen ilmestyi nopeasti kymmeniä "Live" -videoita, jotka esittivät valmiiksi tallennetun syvän väärennöksen Muskista ja väittivät tuplaavansa hänen tililleen lähetetyn kryptovaluutan. Videot keräsivät kuitenkin valtavasti katsojia, joista osa saavutti satoja tuhansia katselukertoja. Mutta YouTube sanoi, että huijarit saattavat käyttää verkkopeikkoja kasvattaakseen katselukertojen määrää keinotekoisesti.

Voittoa tavoittelemattoman kuluttajansuojajärjestön Better Business Bureaun raportin mukaan Texasin asukas menetti 36 000 dollaria helmikuussa 2023 nähtyään huijausviestin, joka väitti olevansa Musk niin kutsutun "live"-videon kautta YouTubessa. "Siirroin Bitcoinia, mutta en saanut mitään", asukas sanoi.

02

FB ja YouTube kärsivät eniten

YouTube sanoi lausunnossaan, että pelkästään tämän vuoden tammi-maaliskuussa alusta poisti yli 15,7 miljoonaa kanavaa ja yli 8,2 miljoonaa videota pääasiassa roskapostin vastaisen politiikan rikkomisen vuoksi.

Valheellisen mainonnan yleistymisen vuoksi australialainen miljardööri Andrew Forrest on nostanut siviilioikeuteen Facebook-emoyhtiötä Meta vastaan, syyttäen sitä mainonnan laiminlyönnistä väittäen, että nämä mainosyritykset ovat johtaneet viattomia käyttäjiä tekemään vääriä sijoituksia. On kerrottu, että Forrestin omia videoita käytettiin myös syvällisten väärennettyjen mainosten luomiseen.

Meta vastasi sanomalla, että se koulutti automatisoituja tunnistusjärjestelmiä tunnistamaan vilpillisen toiminnan alustalla, mutta myönsi, että kyseessä oli monimutkainen kissa ja hiiri -peli, koska hyvin rahoitetut petosjoukot muuttavat jatkuvasti taktiikkaansa välttääkseen havaitsemisen. YouTube toisti petosten ja videoiden peukaloinnin estävän käytäntönsä ja vaati tämän vuoden maaliskuussa kaikkia sisällöntuottajia ilmoittamaan selkeästi, kun he käyttävät tekoälyä realistisen sisällön luomiseen.

Internet on täynnä raportteja huijauksista, joissa monet ihmiset ovat menettäneet säästönsä. Hongkongin arvopaperi- ja futuurikomissio antoi toukokuussa varoituksen Muskiin liittyvistä vilpillisistä toimista. Aiemmin tänä vuonna myös Federal Trade Commission ja FBI varoittivat amerikkalaisia ​​tekoälyyn perustuvan kyberrikollisuuden ja syvähuijausten lisääntymisestä.

"Rikolliset käyttävät tekoälyä tehovahvistimena tehdäkseen kyberhyökkäyksistä ja muusta rikollisesta toiminnasta tehokkaampia ja vaikeammin havaittavissa", FBI painotti sähköpostilla lähetetyssä lausunnossa.

Digitaaliset huijaukset ovat kasvaneet rinnakkain Internetin kasvun kanssa. Mutta uusi Deep Fake -aalto, jota luonnehtii Musk, syntyi, kun edistyneet tekoälytyökalut tulivat yleisön saataville viime vuonna. Työkalujen avulla tavalliset ihmiset voivat kloonata julkkisten ääniä tai manipuloida tarkasti videoita, mikä herättää pornoteollisuuden ja meemien tekijöiden huomion huijarit ja yhä useammat petosjoukot.

"Asiat ovat muuttumassa nyt, koska järjestäytyneet rikollisryhmät ovat havainneet, että he voivat ansaita rahaa tällä tavalla", sanoi kyberturvallisuustutkimuslaboratorion CTM Insights perustaja Lou Steinberg. Hän ennustaa, että tulemme näkemään yhä enemmän tällaisia ​​väärennösyrityksiä ainoana tarkoituksena on huijata rahaa. "

Vaikka tekoälyn luomat videot eivät ole täydellisiä, esimerkiksi Muskin ääni saattaa kuulostaa joissain videoissa robotilta, eikä hänen suun muotonsa aina vastaa linjoja. Asiantuntijat kuitenkin varoittavat, että videot ovat tarpeeksi vakuuttavia joillekin huijauskohteille ja että tekniikka paranee ajan myötä.

Sensity's Cavallin mukaan videoiden luominen maksoi hyvin vähän, noin 10 dollaria, ja useimmat huijarit kokosivat väärennetyt videot alle 10 minuutissa käyttämällä erilaisia ​​ilmaisia ​​tai halpoja työkaluja. Ne sijaitsevat pääasiassa Intiassa, Venäjällä ja Itä-Euroopassa.

"Se toimii", Cavalli sanoi. "Tämän seurauksena he jatkavat tämän toiminnan laajentamista, ylittävät rajoja, kääntävät useille kielille ja jatkavat huijauksen levittämistä useammille kohteille."

03

Vanhemmat ihmiset tekevät täydellisiä kohteita

Tämän tyyppinen huijaus käyttää usein korkean tuoton tekoälyn sijoitusohjelmistoa varjolla houkutellakseen uhrit aluksi investoimaan pieniä summia – kuten 250 dollaria. Myöhemmin investointien lisäarvovaikutusta liioittelemalla houkutellaan vähitellen lisäämään investointien määrää.

Myös Teslan yhtiökokouksesta tehty video väärennettiin, jossa Musk selitti tekoälyllä toimivaa automatisoitua kaupankäyntituotetta, joka väitti pystyvänsä tuplaamaan sijoitustuotot joka päivä.

Kryptovaluuttayhteisöä tutkivat asiantuntijat huomauttavat, että Muskilla on ainutlaatuinen joukko maailmanlaajuisia faneja, jotka ovat enimmäkseen konservatiiveja, vakiintuneen aseman vastustajia ja kryptovaluuttojen harrastajia, jotka etsivät usein ei-perinteisiä tapoja rikastaa, mikä tekee heistä ihanteellisen kohteen huijauksille. .

"On varmasti joukko ihmisiä, jotka uskovat, että vaurauden salaisuus piilotetaan", sanoi kryptovaluuttayhteisöä tutkiva tutkija Molly White. Hän huomautti, että jotkut ihmiset aina haaveilevat rikkauden salaisuuden hallitsemisesta ja ajattelevat, että kun he löytävät sen, he rikastuvat yhdessä yössä.

Huijarit kohdistuvat erityisesti vanhempiin internetin käyttäjiin, jotka tuntevat kryptovaluutoista, tekoälystä tai Muskista, mutta eivät tunne turvallisia sijoitusmenetelmiä.

"Ikääntyneet ihmiset ovat aina olleet huijareiden kohde, jopa ennen sosiaalisen median nousua", sanoi Finn Brunton, Kalifornian yliopiston kryptomarkkinoiden asiantuntija.

Beacham oli leski, joka työskenteli myyntiedustajana yrityksessä Ontariossa, Kanadassa, kunnes jäi eläkkeelle 75-vuotiaana. Pian liittyessään Facebookiin vuonna 2023 hän kohtasi mainoshuijauksen. Vaikka hän muisti nähneensä Muskin CNN:n suorassa lähetyksessä, CNN:n tiedottaja sanoi, että Muskia ei ollut haastateltu asemalla vuosiin.

Joulukuussa Beacham siirsi 27 216 dollaria Magna-FX-nimiselle yritykselle, mikä sai hänet uskomaan sijoitustensa arvon nousevan hänen ja yrityksen välisen sähköpostivaihdon mukaan. Tänä aikana myyntiedustaja käytti jopa ohjelmistoa Beachamin tietokoneen etähallintaan ja varojen siirtämiseen ilman lupaa.

Kun Beacham yritti nostaa varojaan, hänelle kerrottiin, että hänen olisi maksettava 3 500 dollarin hallinnointipalkkio ja vielä 3 500 dollaria palkkioita. Hän maksoi rahat, mutta myöhemmin hänelle kerrottiin, että hänen oli maksettava 20 000 dollaria vapauttaakseen noin 200 000 dollaria varoista. Vaikka hän oli käyttänyt eläkesäästönsä loppuun, käyttänyt maksimissaan luottokorttinsa, hyödyntänyt luottorajaansa ja lainannut rahaa sisareltaan sijoittaakseen ja maksaakseen kuluja, huijarit pyysivät häntä maksamaan enemmän. Tähän mennessä Beacham oli tajunnut ongelman vakavuuden ja ottanut yhteyttä poliisiin.

Suurin osa Magna-FX:n jäljestä on kadonnut verkosta, mukaan lukien yhtiön verkkosivut, puhelinnumerot ja sähköpostiosoitteet, joita käyttivät agentit, joiden kanssa Beacham oli kommunikoinut. Samanniminen yritys ja samankaltaiset palvelut eivät vastanneet kommenttipyyntöön.

"Tässä vaiheessa olen valmis hyväksymään kaiken kritiikin ja pilkan rangaistuksena herkkäuskoisuudestani", Beacham sanoi Better Business Bureaulle antamassaan raportissa.

Hän kertoi luottavansa pienempään eläketiliin ja eläkkeeseen, jota hän ei ollut paljastanut huijareille saadakseen toimeentulon, ja että hän oli suunnitellut käyttävänsä säästöjä matkustaakseen ympäri maailmaa. Beacham on ilmoittanut rikoksesta paikalliselle poliisille, mutta tapaus etenee hitaasti.

"Minun tapaukseni laitettiin jonoon, koska petostapauksia oli niin paljon", hän sanoi. "Minulla ei ollut suuria toiveita."

*Otsikkokuvan lähde: Visual China

Geek kysyi

sosiaalisen median alusta

Syvän väärennetyn sisällön lisääntyessä

Mitkä ovat vastuut?

Cai Chongxin: Hyvän johtajan on oltava itsetietoisin henkilö.

Tykkää ja seuraaGeek Park -videotili，