notizia

Con lo sviluppo e l’iterazione dell’intelligenza artificiale (AI), l’intelligenza artificiale generativa sta rimodellando la vita quotidiana a una velocità senza precedenti, ma le nuove truffe e le nuove routine che ne derivano stanno anche rinfrescando la comprensione delle persone sulla prevenzione dei rischi. Dietro a ciò non c’è solo la sicurezza della proprietà dei consumatori, ma anche rischi per la sicurezza personale e pericoli nascosti.

Di recente, i media stranieri hanno denunciato una nuova frode digitale. I truffatori utilizzano complessi strumenti di intelligenza artificiale per creare video di celebrità come il CEO di Tesla Musk, e utilizzano queste "celebrità dell'intelligenza artificiale" per condurre vari prodotti falsi o "investimenti" e promesse di rendimenti elevati investimento.

In un caso tipico, una cosiddetta società di cambio approvata da "AI Musk" ha facilmente defraudato un pensionato di 82 anni di oltre 690.000 dollari (circa 4,95 milioni di yuan) dei suoi risparmi di una vita.

In questo tipo di truffa, i truffatori di solito trovano prima un vero video di Musk intervistato, quindi utilizzano strumenti di intelligenza artificiale per sostituire la sua voce e utilizzano la tecnologia di sincronizzazione labiale per modificare la forma della bocca di Musk per rendere il video più autentico. Per la gente comune, questo tipo di video falso può essere molto difficile da distinguere.

Oltre a Musk, anche "Stock God" Buffett e il fondatore di Amazon Jeff Bezos sono celebrità che appaiono spesso in questi video di truffe.

"AI Musk" è dilagante. Ci vogliono solo pochi minuti per generarlo, ma qualcuno è stato derubato di quasi 5 milioni di yuan.

Negli ultimi mesi, migliaia di video basati sull’intelligenza artificiale, noti come “deepfakes”, hanno inondato Internet.Secondo le stime di Deloitte, si prevede che i video e gli annunci pubblicitari “deepfake” basati sull’intelligenza artificiale causeranno perdite per frodi per miliardi di dollari ogni anno.

Tuttavia,La creazione di questi video costa pochi dollari e può essere realizzata in pochi minuti.Tali video sono ampiamente promossi sui social media, anche attraverso la pubblicità a pagamento su Facebook, grazie al loro status di celebrità, che ne aumenta la portata.

I truffatori inizieranno con un vero video, come quello qui sotto tratto da un'intervista con Musk del Wall Street Journal, in cui l'interrogante è Thorold Barker, un redattore del giornale la cui voce appare anche nel videoclip.

Fonte immagine: "Wall Street Journal"

Nel video "deepfake", i movimenti della bocca di Musk sono stati modificati utilizzando la tecnologia di sincronizzazione labiale, che regola il modo in cui una persona parla. I truffatori aggiungono anche voci AI utilizzando strumenti di clonazione vocale, che possono copiare qualsiasi suono desiderino da un campione. Pertanto, il video risultante potrebbe essere abbastanza convincente per l'utente medio di Internet.

Alcune persone sono state ingannate da questo.Il pensionato 82enne Steve Beauchamp è un caso tipico. Secondo i resoconti dei media stranieri, alla fine dello scorso anno, Beauchamp, 82 anni, pensionato, aveva guardato un video pubblicitario. Nel video, Musk sostiene un'opportunità di investimento aggressiva che promette rendimenti rapidi e la forma della sua bocca e la sua voce sono strettamente abbinate.Incorpora anche l’iconico accento sudafricano di Musk.Sembra estremamente reale. Così Beauchamp ha contattato la società di cambio dietro l'annuncio chiamata Magna-FX e ha aperto un conto per $ 248. Dopo una serie di operazioni durate diverse settimane, Beauchamp ha esaurito il suo conto pensionistico e ha finito per investire più di $ 690.000, che sono stati tutti spazzati via.

Secondo un altroUn uomo del Texas ha dichiarato di aver perso 3,6 dollari in denaro dopo aver visto Musk parlare in un cosiddetto video "live" di YouTube nel febbraio 2023, secondo un rapporto del gruppo no-profit di difesa dei consumatori Better Business Bureau. Migliaia di dollari in Bitcoin. Ha detto: "Ho inviato i Bitcoin e non ho mai ricevuto nulla".

Sensity, una società responsabile del monitoraggio e del rilevamento dei "deepfake", ha analizzato più di 2.000 video deepfake e ha scoperto che finora,Musk è l'"immagine AI" più comune in questo tipo di video. Nello specifico, dalla fine dello scorso anno, "AI Musk" è apparso in quasi 1/4 delle truffe "deep fake". Nei video "deep fake" legati alle criptovalute, la sua frequenza di apparizione arriva addirittura al 90%.

A questo proposito, gli esperti che studiano la comunità delle criptovalute hanno affermato che Musk ha una base di fan unica in tutto il mondo, tra cui conservatori, fazioni anti-establishment e appassionati di criptovalute. Tali gruppi sono spesso attratti da modi alternativi per fare soldi.Ciò li rende anche un bersaglio perfetto per i truffatori digitali. Inoltre, in questo gruppo, gli utenti Internet più anziani hanno spesso maggiori probabilità di diventare bersagli di truffatori. Questo gruppo ha molta familiarità con la criptovaluta, l'intelligenza artificiale e Musk, ma spesso non è abbastanza vigile.

Oltre a Musk, anche "Stock God" Buffett e il fondatore di Amazon Jeff Bezos sono celebrità che appaiono spesso in questi video di truffe.

La tecnologia dell’intelligenza artificiale è diventata uno strumento di frode e Facebook e Youtube sono le aree più colpite

I resoconti dei media stranieri hanno affermato che al momento è difficile quantificare quanti video "deep fake" circolano online, ma la ricerca di parole chiave comuni per queste truffe nella libreria di annunci di Facebook può rivelare centinaia di migliaia di annunci, tra cui molti contengono "deepfake" video.

Sebbene Facebook abbia rimosso molti video che violano le sue politiche e sospeso alcuni account, altri video circolano ancora online e sembra che ogni giorno ne vengano visualizzati altri. Non solo Facebook, ma anche YouTube è pieno di questi video falsi, spesso utilizzando il tag "live". Ma in realtà questi video sono video "deepfake" preregistrati.

YouTube ha dichiarato in un comunicato che solo nel primo trimestre di quest'anno,Sono stati cancellati più di 15,7 milioni di canali e più di 8,2 milioni di video.La maggior parte di questi contenuti sono stati rimossi per aver violato la politica anti-spam.

La prevalenza di tali annunci "deep fake" ha anche portato il miliardario australiano Andrew Forrest a intentare una causa civile, accusando Meta, società madre di Facebook, di negligenza nella gestione della sua attività pubblicitaria. Crede che l'attività pubblicitaria di Facebook induca "utenti innocenti a fare investimenti sbagliati". Meta ha affermato che sta addestrando sistemi di rilevamento automatico per individuare le frodi sulla sua piattaforma, ma ha anche affermato che i truffatori ben finanziati continueranno a modificare le loro strategie per eludere il rilevamento.YouTube ha affermato che le sue politiche vietano frodi e video manipolati e, a marzo di quest'anno, ha richiesto ai creatori di rivelare quando utilizzano l'intelligenza artificiale per creare contenuti autentici.

In effetti, la frode digitale non è una novità, ma dall’introduzione dell’open source degli strumenti di intelligenza artificiale lo scorso anno, è esplosa una nuova ondata di video “deep fake”.

All'inizio di quest'anno,Anche la Federal Trade Commission (FTC) e l’FBI degli Stati Uniti hanno avvertito che la criminalità informatica e le frodi profonde guidate dall’intelligenza artificiale sono in aumento."I criminali utilizzano l'intelligenza artificiale per rendere gli attacchi informatici e altre attività criminali più efficaci e più difficili da individuare", ha affermato l'FBI.

I video "deep fake" non sono perfetti e anche in alcuni video la forma della bocca di "AI Musk" non corrisponde, ma alcuni esperti affermano che per i gruppi target di alcuni truffatori i video prodotti sembrano abbastanza convincenti e migliorando continuamente.

Inoltre, alcune truffe spesso promuovono falsi software di intelligenza artificiale, sostenendo che possono generare significativi ritorni sugli investimenti. I truffatori lo utilizzano per indurre il pubblico target a investire inizialmente una piccola somma di denaro (circa $ 250). Il truffatore continua quindi a sostenere che l’investimento aumenterà di valore e le persone vengono spesso lentamente indotte a investire più denaro.

Truffato con i risparmi di una vitaIl Il Beauchamp"A questo punto, sono disposto ad accettare tutte le critiche e le prese in giro come punizione per la mia creduloneria", ha detto in un rapporto al Better Business Bureau.

Ha detto che per sbarcare il lunario faceva affidamento su un conto pensionistico e una pensione più piccoli che non aveva rivelato ai truffatori e che aveva pianificato di utilizzare i risparmi per viaggiare in tutto il mondo.Il Il BeauchampÈ stata presentata una segnalazione alla polizia locale, ma il caso procede a rilento. "Il mio caso è stato messo in coda a causa di tutti i casi di frode", ha detto "non avevo grandi speranze".

notizie economiche quotidiane