notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Cose intelligenti (account pubblico:zhidxcom）
compilarevaniglia
modificareYunpeng

Immagina solo quando un grande imprenditore ti offre un ramoscello d'ulivo e ti dice “personalmente” che esiste un modo senza rischi per arricchirsi rapidamente.Basta compilare un modulo e puoi guadagnare $ 1 milione,cosa farai?

Se questa persona è Musk e la BBC lo sostiene, vi dico che è "Una rivoluzione tecnologica sconosciuta al grande pubblico"Panno di lana?

//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4

▲Video deepfake di AI Musk

Le persone più vigili possono immediatamente sentire l'odore delle frodi nelle telecomunicazioni, ma per le persone che non sono esposte spesso a Internet non è facile identificare questi video falsi.

Secondo il rapporto del New York Times del 16 agosto, alla fine dello scorso anno, Beauchamp, un pensionato di 82 anni, vide Musk promuovere un’opportunità di investimento radicale e promettere rendimenti rapidi e senza rischi. Ha contattato l'azienda nel video e nelle settimane successive ha speso i suoi risparmi pensionistici in una serie di transazioni,L’“investimento” cumulativo supera i 690.000 dollari USA。

La prossima cosa che puoi immaginare è che la pensione sia scomparsa insieme all'azienda.

Con il nomeDeepfakeLa tecnologia dell’intelligenza artificiale sta diventando sempre più matura e video simili stanno inondando Internet. Secondo le stime di Deloitte, nota società di consulenza, video deepfakeDecine di miliardi di dollari in perdite per frode ogni anno。

Sensity, un'organizzazione che monitora i video deepfake, ha recentemente condotto un sondaggio e analizzatoPiù di 2000 paragrafiVideo deepfake, scopertiMuschioè diventato il "portavoce" più comune in questo tipo di video. Dalla fine dello scorso anno,Musk appare in quasi 1/4 dei video di truffe deepfake, tra cui il suo tasso di apparizione nei video mirati alla criptovaluta è alto quanto90%。

Altri obiettivi comuni della contraffazione includono investitori famosiBuffett, fondatore di AmazonBezosAspettare.

1. Decine di miliardi di dollari vengono truffati ogni anno, e il tasso di comparsa di Musk lo è1/4

Per creare questi video, i truffatori troveranno prima i video delle interviste reali di Musk e altri. Ad esempio, la scena nel video di apertura proveniva originariamente da un'intervista rilasciata da Musk al Wall Street Journal, in cui l'argomento era come utilizzare l'intelligenza artificiale e altre tecnologie per ottenere una gestione efficiente dell'azienda.

//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4

▲Video originale dell'intervista a Musk

I truffatori ne trarranno vantaggioTecnologia di sincronizzazione labiale (sincronizzazione labiale), regola la forma della bocca del personaggio, quindi usaStrumento di clonazione vocaleAggiungi una voce copiata dall'IA.

▲Sincronizzazione labiale (Fonte: "New York Times")

Infine, alcuni video aggiungono anche icone false che imitano testate giornalistiche professionali come la BBC, il che potrebbe risultare più convincente per i comuni utenti di Internet.

▲Logo delle notizie (Fonte: "New York Times")

È difficile quantificare esattamente quanti video deepfake di questo tipo circolano online. La ricerca di testi promozionali comuni per queste truffe nella libreria di annunci di Facebook mostrerà centinaia di migliaia di annunci, molti dei quali sono video deepfake.

//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4

▲Video deepfake di AI Bezos

Anche YouTube è pieno di questo tipo di video. Se cerchi "Elon Bitcoin conference" su YouTube, otterrai dozzine di video etichettati in diretta, ma in realtà si tratta di video deepfake preregistrati.

▲Video deepfake di YouTube (Fonte: YouTube)

Il numero di spettatori di queste "trasmissioni in diretta" può variare di volta in voltacentinaia di migliaia, ma secondo la conferma di YouTube, i truffatori possono utilizzare gli "eserciti dell'acqua" per aumentare il numero di persone e gonfiarlo artificialmente.

Nel maggio di quest'anno, Deloitte, una nota organizzazione di consulenza, ha pubblicato un rapporto sull'aumento del rischio di frodi di falsificazione profonda causate dall'intelligenza artificiale generativa, in cui si menzionava che nel 2023 si verificheranno incidenti di falsificazione profonda nel campo della tecnologia finanziaria.aumentato del 700%, e prevede che l’intelligenza artificiale determinerà perdite dovute a frodi negli Stati Uniti entro il 2027a 40 miliardi di dollari da 12,3 miliardi di dollari nel 2023，Il tasso di crescita annuo composto è del 32%。

▲Previsione di crescita delle perdite dovute a frodi causate dall'intelligenza artificiale generativa (Fonte: Deloitte)

I video deepfake stanno crescendo in numero e impatto. Secondo un sondaggio di Sensity, un'organizzazione che monitora i video deepfake, tra oltre 2.000 video deepfake,Musk è diventato il "portavoce" più comune, appare inQuasi 1/4 dei video di truffe deepfakeTra questi, il suo tasso di apparizione nei video mirati alla criptovaluta è alto quanto90%。

Francesco Cavalli, co-fondatore di Sensity, crede,Questa potrebbe essere la più grande truffa deepfake di sempre。

2. Il costo non supera10Dollari americani, falsifica un sacco di video in pochi minuti

Infatti il ​​costo per produrre questo tipo di video non è elevato;Costa solo meno di $ 10, puoientro pochi minutiÈ stato prodotto un gran numero di video falsi.

Questi video generati dall'intelligenza artificiale non sono perfetti. Il muschio sembra robotico in alcuni video e i movimenti della sua bocca non sono sempre coerenti. Ma questi video sono riusciti a ingannare parecchie persone e la tecnologia continua a migliorare.

//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4

▲Video deepfake di AI Musk

Dall'indagine di Sensity emerge che questo tipo di truffatori provengono principalmente dall'Asia e dai paesi dell'Europa dell'Est. Utilizzano strumenti gratuiti ed economici per tradurre video in più lingue e continuano a diffondere la truffa ad un raggio più ampio.

Una delle routine comuni èPromuovere software di intelligenza artificiale falsi. I truffatori incoraggiano gli obiettivi a consegnare prima una piccola somma di denaro - di solito circa $ 250 - facendo in modo che i "portavoce" affermino che il software può generare sorprendenti ritorni sull'investimento, per poi attirarli lentamente sostenendo che il valore dell'investimento iniziale sta aumentando Investi di più.

Ad esempio, nel seguente video dell’assemblea degli azionisti di Tesla, Musk ha “dimostrato” un prodotto di trading automatizzato alimentato dall’intelligenza artificiale.Può raddoppiare un investimento specifico ogni giorno, "Con solo un investimento di R4.500, puoi guadagnare un profitto stabile di R8.000 al giorno." (Nota: il Rand è l'unità monetaria del Sud Africa)

//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4

▲Video deepfake di AI Musk

Questi truffatori IA di solito prendono di miraUtenti Internet più anziani, potrebbero avere familiarità con argomenti come criptovaluta e intelligenza artificiale, così come persone come Musk e Buffett, ma non hanno familiarità con metodi di investimento sicuri.

"Gli anziani sono un gruppo molto ricco e ingenuo", ha affermato Finn Brunton, professore di studi tecnologici all'Università della California, Davis ed esperto del mercato delle criptovalute. "Anche senza piattaforme di social media, gli anziani sono sempre stati il ​​bersaglio di truffe”.

Il motivo per cui Musk viene preso di mira è perché Musk ha un gruppo di "fan" globale unico. Gli esperti che studiano la comunità delle criptovalute affermano che queste persone sono spesso costituite da conservatori, anti-establishment e appassionati di criptovalute, spesso attratti da nuovi modi per fare soldi, il che li rende bersagli perfetti per le truffe.

Molly White, ricercatrice della comunità di criptovalute, ha affermato che questo gruppo di persone ha sempre creduto che il segreto della ricchezza fosse loro nascosto e, una volta "scoperto" il segreto, hanno pensato che fosse tutto ciò di cui avevano bisogno.

//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4

▲Video deepfake di AI Musk

Beauchamp, il pensionato citato all'inizio, prima dei 75 anni era rappresentante di vendita di un'azienda canadese. Ha iniziato a utilizzare Facebook l'anno scorso e ha visto un annuncio di Musk mentre veniva intervistato sulla CNN.

Anche se ha insistito di aver visto il video anche sulla CNN, secondo un portavoce della CNN,Musk non viene intervistato da loro da anni。

Secondo gli scambi di e-mail tra il signor Beauchamp e la società menzionata nel video, nel dicembre dello scorso anno ha inviato 27.216 dollari alla società chiamata Magna-FX.

Magna-FX ha fatto sembrare che i suoi investimenti stessero aumentando di valore, consentendo persino a un agente di vendita di utilizzare un software per controllare a distanza il computer di Beauchamp e fingere di trasferire fondi per gli investimenti.

Per ritirare i fondi apprezzati, a Beauchamp è stato detto di pagare una commissione di gestione di 3.500 dollari e una commissione di 3.500 dollari. Dopo aver trasferito il denaro, gli è stato detto che avrebbe dovuto pagare altri $ 20.000 per prelevarne circa $ 200.000. Ha pagato di nuovo i soldi.

Alla fine, Beauchamp ha esaurito i suoi risparmi per la pensione, ha esaurito le sue carte di credito, ha esaurito la sua linea di credito e ha preso in prestito denaro da sua sorella per investire e pagare le spese. Ma i truffatori continuavano a chiedergli di pagare di più. Beauchamp ha quindi contattato la polizia.

Purtroppo in questo caso non è stato fatto alcun progresso.

3. La supervisione della piattaforma deve affrontare delle sfide. L’eliminazione dei video tratta i sintomi ma non la causa principale.

La prevalenza della pubblicità ingannevole è anche inseparabile dalla negligenza del controllo della piattaforma.

Alcune persone i cui video erano falsificati hanno intrapreso azioni legali. Il miliardario australiano Andrew Forrest ha intentato una causa civile contro la società madre di Facebook, Meta, accusandola di negligenza nelle sue operazioni commerciali pubblicitarie. I suoi video deepfake sono stati utilizzati negli annunci di Facebook, che secondo lui avrebbero indotto "utenti innocenti a fare investimenti sbagliati".

Meta ha risposto che la società sta addestrando sistemi di rilevamento automatizzati per individuare le frodi sulla sua piattaforma, ma lo ha anche definito un gioco del "gatto e topo", con i truffatori che cambiano costantemente le loro tattiche per eludere il rilevamento.

Anche YouTube sta adottando alcune misure per gestire i video deepfake. Nel marzo di quest'anno, YouTube ha aggiornato le sue politiche per richiedere ai creatori di rivelare se utilizzano l'intelligenza artificiale nelle loro creazioni e per vietare frodi e manomissioni dei video.

YouTube ha affermato in un comunicato che tra gennaio e marzo di quest'anno la società ha rimosso più di 15,7 milioni di canali e più di 8,2 milioni di video che violavano le norme sui contenuti. Tuttavia, la semplice eliminazione del video è pur sempre un indicatore, ma non risolve la causa principale. La piattaforma deve riesaminare il proprio sistema di revisione e risolvere il problema dalla radice.

Conclusione: i video deepfake inquinano Internet

La storia delle frodi digitali è antica quanto Internet. Tuttavia, man mano che la tecnologia dell’intelligenza artificiale diventa più matura e il costo dell’utilizzo degli strumenti di intelligenza artificiale diventa sempre più basso, anche i costi in termini di tempo e denaro legati all’utilizzo di questa tecnologia per commettere frodi sono stati significativamente ridotti. Una nuova ondata di video deepfake con celebrità come Musk sta inquinando Internet.

Con il continuo sviluppo della tecnologia, la tecnologia deep fake potrebbe diventare più difficile da distinguere, il che imporrà nuovi requisiti a piattaforme, agenzie di regolamentazione e leggi.

fonte:Il New York Times