notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Il falso Musk generato dall'intelligenza artificiale è diventato il più grande bugiardo online.

Link originale: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

Fonte: NetEase Technology (ID: tech_163)

Titolo originale: Fake Musk generato dall'intelligenza artificiale è diventato il più grande bugiardo online

Secondo quanto riportato dai media statunitensi, negli ultimi anni la tecnologia deepfake dell'intelligenza artificiale (Deepfake) è stata ampiamente utilizzata nelle frodi online, in particolare nell'uso di video falsi di Elon Musk per commettere frodi. I video hanno ingannato gli investitori simulando la voce e i movimenti di Musk. Tali video deepfake sono economici e si diffondono rapidamente, consentendo ai truffatori di espandere facilmente la portata delle loro attività fraudolente, con il risultato che molte vittime perdono ingenti somme di denaro a causa di false opportunità di investimento. Man mano che i rischi dei deepfake diventano sempre più evidenti, si prevede che le perdite derivanti dalle frodi che potrebbero derivarne raggiungeranno miliardi di dollari ogni anno.

Quello che segue è il testo completo della traduzione:

Steve Beauchamp, un pensionato di 82 anni, voleva aggiungere un po' di reddito alla sua famiglia e riponeva le sue speranze in Elon Musk. Alla fine dell’anno scorso, Beacham si è imbattuto in un video in cui Musk sembrava raccomandare un piano di investimenti aggressivo che prometteva profitti rapidi. Ispirato da ciò, Beacham ha contattato rapidamente la società dietro il video e ha aperto un conto di investimento per $ 248. Tuttavia, nelle settimane successive, aumentò gradualmente i suoi investimenti, fino a prelevare più di 690.000 dollari dal suo conto pensionistico.

Ma subito dopo il denaro è scomparso, cadendo nelle mani di un gruppo di truffatori che sfruttano l’intelligenza artificiale per perpetrare un nuovo tipo di truffa digitale. I truffatori hanno abilmente alterato una vera intervista con Musk, utilizzando la tecnologia dell’intelligenza artificiale per sostituire la sua voce e perfezionare la forma della sua bocca per adattarla alla nuova sceneggiatura che hanno scritto per l’umano digitale. Per lo spettatore medio questa operazione è quasi impercettibile.

Beacham ha ricordato il video e ha detto con emozione: "Ha un'immagine distinta nel video e può essere riconosciuto come Musk a colpo d'occhio. Per quanto riguarda se sia stata l'intelligenza artificiale a fargli dire quelle parole, non ne sono sicuro ora. Ma semplicemente "Per quanto riguarda il video, se qualcuno mi chiedesse di identificarlo in mezzo alla folla, potrei sicuramente indicarlo."

01

Musk diventa un assiduo frequentatore dei deepfake

Negli ultimi mesi, Internet è stato inondato da migliaia di video basati sull’intelligenza artificiale, noti come “deepfakes”, in cui un’immagine falsa di Musk viene utilizzata per fuorviare i potenziali investitori. Deloitte stima che questi tipi di deepfake basati sull’intelligenza artificiale potrebbero portare ogni anno a miliardi di dollari in perdite per frode.

Questi video sono estremamente economici da produrre, possono essere completati in pochi minuti e vengono promossi attraverso i social media, inclusa la pubblicità a pagamento su Facebook, ampliando notevolmente la loro portata. Francesco Cavalli, cofondatore e direttore dell'intelligence sulle minacce presso Sensity, una società che monitora e rileva video deepfake, ha avvertito: "Questa potrebbe essere la più grande truffa deepfake mai vista".

I video sono spesso realistici e catturano accuratamente le intonazioni discontinue tipiche di Musk e l'accento sudafricano. I truffatori di solito iniziano con un video reale, come un'intervista al Wall Street Journal, e la voce del giornalista viene conservata nel video falso, il che aumenta l'autenticità del video.

Utilizzando la tecnologia avanzata di sincronizzazione labiale, i truffatori hanno regolato i movimenti della bocca di Musk per adattarli perfettamente alle loro battute false. Hanno anche aggiunto suoni AI utilizzando strumenti di clonazione del suono, che possono copiare qualsiasi suono da una clip campione. L'annuncio finale può includere anche grafica falsa, che imita lo stile di una testata giornalistica, il che può risultare abbastanza convincente per l'utente medio di Internet.

Secondo l'analisi di Sensity, Musk è l'oratore più comune in questi video. È apparso in quasi un quarto delle truffe deepfake su quasi 2.000 campioni analizzati, soprattutto dalla fine dello scorso anno. Tra i video a tema criptovaluta questa percentuale raggiunge addirittura quasi il 90%. Le pubblicità deepfake utilizzano spesso anche investitori famosi come Warren Buffett e magnati del business come il fondatore di Amazon Jeff Bezos.

Sebbene sia difficile contare con precisione quanti deepfake circolano online, una ricerca nella libreria di annunci di Facebook per il linguaggio comune correlato alle truffe ha rivelato centinaia di migliaia di annunci, molti dei quali includevano video deepfake. Mentre Facebook ha rimosso gran parte dei contenuti che violavano le sue policy e ha bannato gli account coinvolti, altri video rimangono sulla rete, e sembra che ogni giorno ne vengano visualizzati altri.

YouTube è anche pieno di contenuti falsi, spesso etichettati come "live". In realtà, si tratta di video deepfake preregistrati. Cerca parole chiave come "Elon Bitcoin conference" su YouTube e puoi vedere dozzine di video camuffati da trasmissioni in diretta. Il finto Musk nel video sta spacciando truffe di criptovaluta, il che è altamente fuorviante.

Dopo che l'ex presidente degli Stati Uniti Donald J. Trump ha parlato a una conferenza Bitcoin, decine di video etichettati "Live" sono apparsi rapidamente su YouTube, mostrando un video deepfake preregistrato di Musk, che affermava di raddoppiare qualsiasi criptovaluta inviata al suo account. Tuttavia, i video hanno attirato un vasto pubblico, alcuni dei quali hanno raggiunto centinaia di migliaia di visualizzazioni. Ma YouTube ha affermato che i truffatori potrebbero utilizzare troll online per gonfiare artificialmente il numero di visualizzazioni.

Secondo un rapporto del Better Business Bureau, un gruppo no-profit di difesa dei consumatori, un residente del Texas ha perso $ 36.000 nel febbraio 2023 dopo aver visto un messaggio truffa che fingeva di essere Musk attraverso un cosiddetto video "live" su YouTube di Bitcoin. "Ho trasferito Bitcoin ma non ho ricevuto nulla", ha detto il residente.

02

FB e YouTube sono i più colpiti

YouTube ha dichiarato in un comunicato che solo tra gennaio e marzo di quest'anno, la piattaforma ha rimosso più di 15,7 milioni di canali e più di 8,2 milioni di video, principalmente per aver violato la sua politica anti-spam.

Alla luce della proliferazione della pubblicità ingannevole, il miliardario australiano Andrew Forrest ha intentato una causa civile contro Meta, la società madre di Facebook, accusandola di negligenza nella sua attività pubblicitaria, sostenendo che queste attività pubblicitarie hanno indotto in errore utenti innocenti a fare investimenti sbagliati. È stato riferito che i video di Forrest sono stati utilizzati anche per creare pubblicità profondamente false.

Meta ha risposto dicendo che stava addestrando sistemi di rilevamento automatizzati per identificare attività fraudolente sulla piattaforma, ma ha ammesso che si trattava di un complesso gioco del gatto e del topo poiché le bande di truffatori ben finanziate cambiano costantemente le loro tattiche per eludere il rilevamento. YouTube ha ribadito la sua politica contro le frodi e la manomissione dei video e, a marzo di quest'anno, ha richiesto a tutti i creatori di fornire informazioni chiare quando utilizzano l'intelligenza artificiale per creare contenuti realistici.

Internet è pieno di segnalazioni di truffe in cui molte persone hanno perso i risparmi di una vita. La Securities and Futures Commission di Hong Kong ha emesso un avvertimento a maggio sulle attività fraudolente che coinvolgono Musk. All’inizio di quest’anno, anche la Federal Trade Commission e l’FBI hanno messo in guardia gli americani sull’aumento della criminalità informatica guidata dall’intelligenza artificiale e delle truffe deepfake.

"I criminali utilizzano l'intelligenza artificiale come amplificatore di potenza per rendere gli attacchi informatici e altre attività criminali più efficaci e difficili da individuare", ha sottolineato l'FBI in una dichiarazione inviata via email.

Le truffe digitali sono cresciute di pari passo con la crescita di Internet. Ma una nuova ondata di deepfake caratterizzata da Musk è emersa quando sofisticati strumenti di intelligenza artificiale sono diventati disponibili al pubblico lo scorso anno. Gli strumenti consentono alle persone comuni di clonare le voci di celebrità o manipolare con precisione i video, attirando l'attenzione dell'industria del porno e dei creatori di meme truffatori e sempre più bande di truffatori.

"Le cose stanno cambiando ora perché i gruppi criminali organizzati hanno scoperto che possono fare soldi in questo modo", ha detto Lou Steinberg, fondatore del laboratorio di ricerca sulla sicurezza informatica CTM Insights unico scopo di frodare denaro. "

Sebbene i video generati dall'intelligenza artificiale non siano perfetti, ad esempio, la voce di Musk potrebbe sembrare robotica in alcuni video e la forma della sua bocca non sempre corrisponde alle linee. Ma gli esperti avvertono che i video sono abbastanza convincenti da poter essere presi di mira da alcuni truffatori e che la tecnologia sta migliorando nel tempo.

Secondo Cavalli di Sensity, creare video costa pochissimo, circa 10 dollari, e la maggior parte dei truffatori mette insieme i video falsi in meno di 10 minuti utilizzando una serie di strumenti gratuiti o economici. Si trovano principalmente in India, Russia ed Europa orientale.

"Funziona", ha detto Cavalli. "Di conseguenza, continueranno ad espandere questa attività, oltrepassare i confini, tradurre in più lingue e continuare a diffondere la truffa a più obiettivi."

03

Le persone anziane sono bersagli perfetti

Questo tipo di truffa utilizza spesso software di investimento di intelligenza artificiale ad alto rendimento come pretesto per indurre inizialmente le vittime a investire piccole somme di denaro, ad esempio $ 250. Successivamente, esagerando l’effetto di valore aggiunto degli investimenti, sono gradualmente indotti ad aumentare l’importo degli investimenti.

È stato falsificato anche un video dell'assemblea degli azionisti di Tesla, in cui Musk spiegava un prodotto di trading automatizzato alimentato dall'intelligenza artificiale, sostenendo di essere in grado di raddoppiare i rendimenti degli investimenti ogni giorno.

Gli esperti che studiano la comunità delle criptovalute sottolineano che Musk ha un gruppo unico di fan globali che sono per lo più conservatori, figure anti-establishment e appassionati di criptovalute che spesso cercano modi non tradizionali per creare ricchezza, il che li rende un bersaglio ideale per le truffe. .

"C'è sicuramente un gruppo di persone che crede che il segreto della ricchezza sia nascosto", ha detto Molly White, una ricercatrice che studia la comunità delle criptovalute. Ha sottolineato che alcune persone fantasticano sempre di padroneggiare il segreto della ricchezza, pensando che una volta trovato, diventeranno ricchi da un giorno all’altro.

I truffatori prendono di mira soprattutto gli utenti Internet più anziani che, pur essendo informati sulle criptovalute, sull’intelligenza artificiale o su Musk, non hanno familiarità con i metodi di investimento sicuri.

"Gli anziani sono sempre stati un bersaglio per i truffatori, anche prima dell'avvento dei social media", ha affermato Finn Brunton, professore di ricerca di scienza e tecnologia presso l'Università della California, Davis Esperti nel mercato delle criptovalute.

Beacham era un vedovo che lavorava come rappresentante di vendita per un'azienda in Ontario, Canada, fino al suo pensionamento all'età di 75 anni. Poco dopo essersi iscritto a Facebook nel 2023, si è imbattuto in una truffa pubblicitaria. Sebbene ricordasse di aver visto Musk nella trasmissione in diretta della CNN, un portavoce della CNN ha detto che Musk non veniva intervistato sulla stazione da anni.

A dicembre, Beacham ha trasferito 27.216 dollari a una società chiamata Magna-FX, cosa che lo ha portato a credere che il valore dei suoi investimenti stesse aumentando, secondo gli scambi di e-mail tra lui e la società. Durante questo periodo, un agente di vendita ha addirittura utilizzato un software per controllare a distanza il computer di Beacham e trasferire fondi senza autorizzazione.

Quando Beacham ha provato a ritirare i suoi fondi, gli è stato detto che avrebbe dovuto pagare una commissione di gestione di 3.500 dollari e altri 3.500 dollari in commissioni. Ha pagato i soldi, ma in seguito gli è stato detto che avrebbe dovuto pagare $ 20.000 per liberare circa $ 200.000 dei fondi. Anche se aveva esaurito i suoi risparmi per la pensione, esaurito le sue carte di credito, sfruttato la sua linea di credito e preso in prestito denaro da sua sorella per investire e pagare le spese, i truffatori gli hanno chiesto di pagare di più. A questo punto Beacham si era reso conto della gravità del problema e aveva contattato la polizia.

La maggior parte delle tracce di Magna-FX sono scomparse dal web, compreso il sito web dell'azienda, i numeri di telefono e gli indirizzi e-mail utilizzati dagli agenti con cui Beacham aveva comunicato. Una società con nome e servizi simili non ha risposto a una richiesta di commento.

"A questo punto, sono disposto ad accettare tutte le critiche e le prese in giro come punizione per la mia creduloneria", ha detto Beacham in un rapporto al Better Business Bureau.

Ha detto che per sbarcare il lunario faceva affidamento su un conto pensionistico e una pensione più piccoli che non aveva rivelato ai truffatori e che aveva pianificato di utilizzare i risparmi per viaggiare in tutto il mondo. Beacham ha denunciato il delitto alla polizia locale, ma il caso procede lentamente.

"Il mio caso è stato messo in coda perché c'erano così tanti casi di frode", ha detto "non avevo grandi speranze".

*Fonte dell'immagine dell'intestazione: Visual China

chiese il geek

piattaforma di social media

Di fronte alla proliferazione di contenuti profondamente falsi,

Quali sono le responsabilità?

Cai Chongxin: Un buon leader deve essere la persona più consapevole di sé.

Metti mi piace e seguiAccount video Geek Park，