uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Älykkäät asiat (julkinen tili:zhidxcom）
kootavanilja
muokataYunpeng

Kuvittele, kun huippuyrittäjä tarjoaa sinulle oliivinoksan ja kertoo sinulle ”henkilökohtaisesti”, että on olemassa riskitön tapa rikastua nopeasti.Voit ansaita miljoona dollaria vain täyttämällä lomakkeen, mitä aiot tehdä?

Jos tämä henkilö on Musk ja BBC tukee häntä, kerro tämä on "Yleisölle tuntematon teknologinen vallankumous"Villasta kangasta?

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲AI Musk deepfake -video

Valppaammat ihmiset voivat heti haistaa tietoliikennepetosten hajun, mutta ihmisten, jotka eivät usein ole alttiina Internetiin, ei ole helppoa tunnistaa tällaisia ​​väärennettyjä videoita.

New York Timesin 16. elokuuta julkaiseman raportin mukaan viime vuoden lopussa 82-vuotias eläkeläinen Beauchamp näki Muskin edistävän radikaalia sijoitusmahdollisuutta ja lupaavan riskitöntä ja nopeaa tuottoa. Hän otti yhteyttä yritykseen videolla ja käytti eläkesäästönsä useisiin liiketoimiin seuraavien viikkojen aikana,Kumulatiivinen "investointi" ylittää 690 000 US$。

Seuraavaksi voit kuvitella, että eläke katosi yrityksen mukana.

Nimen kanssaDeepfakeTekoälyteknologiasta on tulossa yhä kypsempää, ja samankaltaisia ​​videoita tulvii Internetiä. Tunnetun konsulttiyrityksen Deloitten arvioiden mukaan deepfake-videoitaVuosittain petosten tappiot ovat kymmeniä miljardeja dollareita。

Deepfake-videoita tarkkaileva organisaatio Sensity suoritti äskettäin kyselyn ja analysoiYli 2000 kappalettaDeepfake-videot, löydettyMyskion tullut yleisin "tiedottaja" tämäntyyppisissä videoissa. Viime vuoden lopusta lähtienMusk esiintyy lähes 1/4:ssä syvähuijausvideoista, joiden joukossa hänen esiintymisprosenttinsa kryptovaluuttaa koskevissa videoissa on peräti90%。

Muita yleisiä väärennöskohteita ovat kuuluisat sijoittajatBuffett, Amazonin perustajaBezosOdota.

1. Kymmeniä miljardeja dollareita huijataan joka vuosi, ja Muskin esiintymisprosentti on1/4

Näiden videoiden luomiseksi huijarit löytävät ensin todellisia haastatteluvideoita Muskista ja muista. Esimerkiksi avausvideon kohtaus tuli alun perin Muskin Wall Street Journalille antamasta haastattelusta, jossa aiheena oli keinoälyn ja muiden teknologioiden käyttäminen tehokkaan yrityksen johtamiseen.

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲Alkuperäinen Muskin haastatteluvideo

Huijarit käyttävät hyväkseenHuulten synkronointitekniikka (huulten synkronointi), säädä hahmon suun muotoa ja käytä sittenÄänen kloonaustyökaluLisää tekoälyllä kopioitu ääni.

▲ Huulten synkronointi (Lähde: "New York Times")

Lopuksi, joissakin videoissa on myös väärennettyjä kuvakkeita, jotka jäljittelevät ammattimaisia ​​uutisorganisaatioita, kuten BBC:tä, mikä saattaa olla vakuuttavampi tavallisille Internetin käyttäjille.

▲Uutislogo (Lähde: "New York Times")

On vaikea arvioida tarkasti, kuinka monta tällaista syväväärennösvideota kiertää verkossa. Näille huijauksille yhteisen mainoskopion etsiminen Facebookin mainoskirjastosta tuottaa satoja tuhansia mainoksia, joista monet ovat deepfake-videoita.

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲AI Bezosin syväfake-video

YouTube on myös täynnä tämän tyyppisiä videoita. Jos teet haun "Elon Bitcoin Conference" YouTubessa, saat kymmeniä videoita, jotka on merkitty livenä, mutta itse asiassa nämä ovat valmiiksi tallennettuja deepfake-videoita.

▲ YouTube Deepfake -video (Lähde: YouTube)

Näiden "suoralähetysten" katsojamäärä voi vaihdella ajoittainsatoja tuhansia, mutta YouTuben vahvistuksen mukaan huijarit voivat käyttää "vesiarmeijoita" lisätäkseen ihmisten määrää ja kasvattaakseen tätä määrää keinotekoisesti.

Tunnettu konsulttiorganisaatio Deloitte julkaisi tämän vuoden toukokuussa generatiivisen tekoälyn aiheuttaman syvän väärennyspetosten lisääntyneen riskin raportin, jossa mainittiin syvät väärennöstapaukset finanssiteknologia-alalla vuonna 2023.kasvoi 700 %ja ennustaa, että tekoäly lisää petosten määrää Yhdysvalloissa vuoteen 2027 mennessä40 miljardiin dollariin vuoden 2023 12,3 miljardista dollarista，Yhdistelmävuosikasvu on 32 %。

▲ Ennuste generatiivisen tekoälyn aiheuttamien petostappioiden kasvusta (Lähde: Deloitte)

Deepfake-videoiden määrä ja vaikutus kasvavat. Deepfake-videoita tarkkailevan organisaation Sensityn tekemän tutkimuksen mukaan yli 2 000 syväfake-videotaMuskista on tullut yleisin "tiedottaja", ilmestyy sisäänLähes 1/4 syvähuijausvideoistaHeistä hänen esiintymisprosenttinsa kryptovaluuttaan kohdistetuissa videoissa on peräti90%。

Sensityn perustaja Francesco Cavalli uskoo,Tämä voi olla kaikkien aikojen suurin deepfake-huijaus。

2. Hinta ei ylitä10Yhdysvaltain dollareita, väärennä paljon videoita muutamassa minuutissa

Itse asiassa tämäntyyppisten videoiden tuotantokustannukset eivät ole korkeat;Maksaa vain alle 10 dollaria, voitmuutaman minuutin sisälläVäärennettyjä videoita tuotettiin suuri määrä.

Nämä tekoälyn luomat videot eivät ole täydellisiä. Musk kuulostaa joissain videoissa robotilta, eivätkä hänen suunliikkeensä ole aina johdonmukaisia. Mutta nämä videot ovat voineet pettää monia ihmisiä, ja tekniikka kehittyy jatkuvasti.

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲AI Musk deepfake -video

Sensity-tutkimus osoittaa, että tämäntyyppiset huijarit tulevat pääasiassa Aasiasta ja Itä-Euroopan maista. He käyttävät ilmaisia ​​ja halpoja työkaluja videoiden kääntämiseen useille kielille ja jatkavat huijauksen levittämistä laajemmalle.

Yksi yleisistä rutiineista onMainosta väärennettyjä tekoälyohjelmistoja. Huijarit rohkaisevat kohderyhmiä luovuttamaan ensin pienen rahasumman – yleensä noin 250 dollaria – antamalla "tiedotusmiehiä" väittämään, että ohjelmisto voi tuottaa hämmästyttäviä tuottoa sijoitukselle, ja sitten houkutella heidät hitaasti sisään väittämällä, että alkusijoituksen arvo kasvaa. Investoi enemmän.

Esimerkiksi seuraavassa videossa Teslan yhtiökokouksesta Musk "esitteli" tekoälyllä toimivaa automaattista kaupankäyntituotetta.Tietyn sijoituksen voi tuplata joka päivä, "Vain 4 500 Rin sijoituksella voit ansaita vakaan 8 000 rupiaa päivässä." (Huomaa: Rand on Etelä-Afrikan valuuttayksikkö)

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲AI Musk deepfake -video

Nämä AI-huijarit yleensä kohdistuvatVanhemmat Internetin käyttäjät, he saattavat tuntea aiheita, kuten kryptovaluutta ja tekoäly, sekä ihmiset, kuten Musk ja Buffett, mutta he eivät tunne turvallisia sijoitusmenetelmiä.

"Vanhukset ovat erittäin varakas ja herkkäuskoinen ryhmä", sanoi Finn Brunton, Kalifornian yliopiston teknologiatutkimuksen professori ja kryptovaluuttamarkkinoiden asiantuntija. "Vaikka ilman sosiaalisen median alustoja, vanhukset ovat aina olleet kohteena huijauksista."

Syy siihen, miksi Musk on kohdistettu, johtuu siitä, että Muskilla on ainutlaatuinen globaali "faniryhmä". Kryptovaluuttayhteisöä tutkivat asiantuntijat sanovat, että nämä ihmiset koostuvat usein konservatiivisista, vakiinnuttamista vastustavista ja kryptoharrastajista, joita houkuttelevat usein uudet tavat ansaita rahaa – mikä tekee heistä täydellisiä kohteita huijauksille.

Kryptovaluuttayhteisön tutkija Molly White sanoi, että tämä ryhmä ihmisiä uskoi aina, että vaurauden salaisuus oli piilotettu heiltä, ​​ja kun he "löydivät" salaisuuden, he ajattelivat, että se oli kaikki mitä he tarvitsivat.

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲AI Musk deepfake -video

Alussa mainittu eläkeläinen Beauchamp oli kanadalaisen yrityksen myyntiedustaja ennen 75-vuotiaana. Hän aloitti Facebookin käytön viime vuonna ja näki mainoksen, jossa Musk haastateltiin CNN:ssä.

Vaikka hän väitti nähneensä videon myös CNN:n virkailijalta, CNN:n tiedottajan mukaan,He eivät ole haastatelleet Muskia vuosiin。

Beauchampin ja videolla mainitun yrityksen välisen sähköpostinvaihdon mukaan hän lähetti viime vuoden joulukuussa 27 216 dollaria Magna-FX-nimiselle yritykselle.

Magna-FX sai vaikutelman, että hänen sijoitusten arvo nousi, ja jopa myyntiedustaja saattoi käyttää ohjelmistoa Beauchampin tietokoneen etäohjaukseen ja teeskennellä siirtävänsä varoja investointeihin.

Arvostettujen varojen nostamiseksi Beauchampia käskettiin maksamaan 3 500 dollarin hallinnointipalkkio ja 3 500 dollarin palkkio. Kun hän oli siirtänyt rahat, hänelle kerrottiin, että hänen oli maksettava vielä 20 000 dollaria nostaakseen siitä noin 200 000 dollaria. Hän maksoi rahat uudelleen.

Lopulta Beauchamp tyhjensi eläkesäästönsä, maksoi luottokorttinsa, maksoi luottorajansa ja lainasi rahaa siskoltaan sijoittaakseen ja maksaakseen kuluja. Mutta huijarit vaativat häntä maksamaan enemmän. Beauchamp otti sitten yhteyttä poliisiin.

Valitettavasti tässä asiassa ei ole edistytty.

3. Alustan valvonnassa on haasteita. Videoiden poistaminen hoitaa oireita, mutta ei perimmäistä syytä.

Valheellisen mainonnan yleisyys on myös erottamaton alustavalvonnan laiminlyönnistä.

Jotkut ihmiset, joiden videot oli väärennetty, ryhtyivät oikeustoimiin. Australialainen miljardööri Andrew Forrest on nostanut siviilioikeuteen Facebookin emoyhtiötä Meta vastaan ​​syyttämällä sitä laiminlyönnistä mainosliiketoiminnassaan. Hänen deepfake-videoitaan käytettiin Facebook-mainoksissa, joiden hän uskoi houkuttelevan "viattomia käyttäjiä tekemään huonoja sijoituksia".

Meta vastasi, että yritys kouluttaa automatisoituja tunnistusjärjestelmiä havaitsemaan petoksia alustallaan, mutta kutsui sitä myös "kissa ja hiiri" -peliksi, jossa huijarit muuttavat jatkuvasti taktiikkaansa välttääkseen havaitsemisen.

YouTube on myös ryhtynyt toimenpiteisiin syväfake-videoiden käsittelemiseksi. Tämän vuoden maaliskuussa YouTube päivitti käytäntöjään vaatimalla sisällöntuottajia paljastamaan, käyttävätkö he tekoälyä luomuksissaan, ja kieltääkseen petokset ja videoiden muuttamisen.

YouTube mainitsi lausunnossaan, että yhtiö poisti tämän vuoden tammi-maaliskuussa yli 15,7 miljoonaa kanavaa ja yli 8,2 miljoonaa videota, jotka rikkoivat sisältökäytäntöjä. Pelkästään videon poistaminen on kuitenkin indikaattori, mutta se ei paranna perimmäistä syytä. Alustan on tutkittava uudelleen tarkistusjärjestelmä ja ratkaistava ongelma.

Johtopäätös: Deepfake-videot saastuttavat Internetiä

Digitaalisten petosten historia on yhtä vanha kuin Internet. Tekoälytekniikan kypsyessä ja tekoälytyökalujen käyttökustannusten pienentyessä kuitenkin myös tämän tekniikan käytön aika- ja rahakustannukset petosten tekemiseen ovat vähentyneet merkittävästi. Uusi syväfake-videoaalto, jossa esiintyy Muskin kaltaisia ​​julkkiksia, saastuttaa Internetiä.

Teknologian jatkuvan kehityksen myötä syväväärennösteknologiaa voi olla vaikeampi erottaa, mikä asettaa uusia vaatimuksia alustoille, sääntelyvirastoille ja laeille.

lähde:New York Times