notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Messa a fuoco fissa (dingjiaoone) originale

Autore |.Wang Lu

Editore |. Wei Jia

Vedere per credere, il cambiamento del volto dell'intelligenza artificiale ha ingannato molte persone.

Due giorni fa, la polizia dell'Hubei ha scoperto un caso di utilizzo della tecnologia AI che cambia volto per sbloccare account social e rivenderli a scopo di lucro. I criminali usano l'intelligenza artificiale per aiutare le persone a sbloccare gli account di appuntamenti che sono stati congelati dalla piattaforma. Fanno pagare da 15 yuan a 30 yuan per ogni account sbloccato. La banda ha sbloccato 2.107 conti in totale e ha realizzato un profitto di 400.000 yuan.

I dati mostrano che le frodi legate alla falsificazione profonda basate sull'intelligenza artificiale aumenteranno del 3.000% nel 2023. Il deep fake, noto anche come deepfake, è una combinazione di apprendimento e falso. Si riferisce principalmente all'uso della tecnologia di deep learning dell'intelligenza artificiale per sintetizzare l'immagine di una persona o video o anche audio, il più comune è il cambio del volto dell'intelligenza artificiale. Il Ministero dell'Industria e dell'Information Technology ha recentemente dichiarato che lancerà una funzione di promemoria del rischio di frode che cambierà il volto dell'intelligenza artificiale.

Da un lato, i casi di frode che cambiano il volto dell’IA si verificano frequentemente e, dall’altro, la tecnologia che cambia il volto dell’IA continua a ripetersi.

Il circolo dell'intelligenza artificiale è stato recentemente in fermento con un progetto che cambia volto all'intelligenza artificiale: Deep-Live-Cam. Gli utenti devono solo caricare una foto per cambiare il loro volto in tempo reale con chiunque vogliano essere, come Zuckerberg o Dong Yuhui.

Questo progetto è gratuito e aperto a tutti gli utenti, pubblicato su GitHub (piattaforma di hosting di codice) e supporta l'installazione su personal computer. Lo sviluppatore del progetto ha annunciato il metodo di installazione e le persone comuni senza esperienza tecnica possono apprenderlo e installarlo allo stesso tempo.

Grazie al suo funzionamento semplice e conveniente e all'alto grado di realismo nel cambiare volto, Deep-Live-Cam si è classificata al primo posto nella hot list di GitHub, raccogliendo oltre 1.600 stelle in 24 ore (le stelle rappresentano i Mi piace del progetto e gli indicatori successivi, alcune migliaia di stelle è abbastanza buono) livello). Molti netizen hanno cambiato il loro volto in Musk e hanno provato la sensazione di essere un miliardario globale.

Ma mentre tutti si lamentano della svolta tecnologica dell’intelligenza artificiale, sono anche preoccupati che “le frodi siano diventate più facili”. Dovremmo boicottare il cambiamento del volto dell’IA?

L'intelligenza artificiale che cambia volto può essere utilizzata dalla gente comune,

Il costo è di appena una dozzina di yuan

Al momento, ci sono molti strumenti di intelligenza artificiale per cambiare volto in patria e all'estero. Il motivo principale per cui Deep-Live-Cam è molto discusso è che,Gli utenti devono solo caricare un'immagine, ma l'effetto di sostituzione è molto realistico e supporta anche la sostituzione del volto in tempo reale.

In effetti, la soglia tecnica per la funzione di “cambio volto in tempo reale” non è elevata.

Xiao Zihao, co-fondatore di Ruilai Intelligence e scienziato dell'algoritmo, ha affermato che ci sono due modi per ottenere l'effetto di cambio volto video in tempo reale: uno è riprodurre un video preimpostato di cambio volto e l'altro è accedere il video in tempo reale che cambia volto. Deep-Live-Cam appartiene a quest'ultimo.

Indipendentemente dal tipo, i video che cambiano volto tramite intelligenza artificiale devono tenere conto della continuità dei fotogrammi precedenti e successivi e l'elaborazione basata su video continui dei volti può apportare piccole modifiche in base a molte risorse di rilevamento del fotogramma precedente Il video continuo basato su fotogrammi/il cambio di volto dal vivo è più efficiente del cambio di volto nei singoli fotogrammi", ha affermato un ricercatore impegnato nella tecnologia AI.

La tecnologia di base su cui si basa il cambiamento del volto dell'intelligenza artificiale è Deepfake. I professionisti ipotizzano che anche Deep-Live-Cam utilizzi questa tecnologia, quindi il costo non sarà molto elevato basandosi esclusivamente sui materiali e sulla potenza di calcolo necessari per produrre la sintesi.

Xiao Zihao ha detto che se non si prendono in considerazione gli altri costi di acquisto dell'hardware, il costo della maggior parte delle sostituzioni del volto con l'intelligenza artificiale è solo di una dozzina di yuan alla volta, comprese principalmente foto e potenza di calcolo, e la Deep-Live-Cam potrebbe essere ancora inferiore. Rispetto ad altri strumenti di cambio volto basati sull'intelligenza artificiale, Deep-Live-Cam utilizza meno foto. Lo strumento supporta anche i normali computer e il costo delle foto e della potenza di calcolo è inferiore.

Al contrario, Deep-Live-CamSupportare il cambiamento del volto con una sola immagine ha scioccato ancora di più i praticanti.Perché i precedenti prodotti basati sull’intelligenza artificiale richiedevano agli utenti di fornire almeno una dozzina di foto da diverse angolazioni.

La riduzione della difficoltà delle foto consente agli utenti di divertirsi. Il seguace dell'intelligenza artificiale Xiao C ha affermato di non essere mai entrato in contatto con nessuno strumento di modifica del volto dell'intelligenza artificiale prima. Ritiene che la soglia operativa di Deep-Live-Cam non sia elevata e possa essere completata seguendo le istruzioni dell'editore inoltre non è molto difficile trovare materiali che cambiano faccia.

Ha cambiato il suo volto in celebrità come Guo Degang, Wu Jing, Lei Jiayin, ecc., e ha utilizzato solo un'immagine di ciascuno di loro. Ha detto che finché fornisci una foto del viso anteriore, fronte libera, luce naturale, vicino al colore della tua pelle e le proporzioni mostrate nella foto identificativa, una foto avrà successo e l'effetto di sostituzione del viso sarà molto naturale.

Più di un professionista ritiene che la tecnologia di cambio volto dell'intelligenza artificiale utilizzata in alcuni film e serie televisive non solo abbia una soglia elevata e un costo elevato, ma anche l'effetto di cambio volto non sia abbastanza naturale e spesso si verificano deformazioni e distorsioni durante il processo. processo di conversazione. “È questo il problema più grande con gli strumenti di cambio volto dell’intelligenza artificiale?Deep-Live-Cam può supportare l'effetto di un'immagine durante la trasmissione dal vivo. Non ci sono tracce evidenti di mappatura sui bordi del viso e il colore della pelle non è molto diverso dal personaggio originale. La fedeltà è superiore a molti Strumenti di intelligenza artificiale per cambiare volto.," Xiao Zihao ha analizzato che i suoi sviluppatori avrebbero dovuto raggiungere un passo avanti nel modello di rendering delle immagini che i precedenti strumenti di cambio volto basati sull'intelligenza artificiale non avevano.

Tuttavia, ci sono ancora alcuni bug in Deep-Live-Cam, come il supporto del cambio del volto ma non del cambio della voce. Tuttavia, Xiao Zihao ha detto che non è difficile raggiungere questo obiettivo, basta connettersi allo strumento di cambio vocale in tempo reale e chiunque abbia un po' di basi di programmazione può completarlo.

L'intelligenza artificiale cambia volto,

Frode e violazione che non possono essere evitate

Strumenti come Deep-Live-Cam hanno abbassato la soglia per gli utenti, ma tutti hanno anche iniziato a temere che i criminali possano utilizzare solo un'immagine per cambiare volto e frodare. Per la gente comune, il rischio aumenterà notevolmente.

Ruilai Smart Data ha sottolineato che l’importo coinvolto nei casi nazionali di frode IA è aumentato da 0,2 milioni nel 2020 a 16,7 milioni nel 2023, con un tasso di crescita annuo composto fino al 1928,8%. Nella prima metà del 2024, i casi di frode IA hanno superato i 185 milioni. Il "2024 Artificial Intelligence Security Report" pubblicato da Qi'anxin mostra che le frodi di falsificazione profonda basate sull'intelligenza artificiale sono aumentate del 3.000% nel 2023.

Il cambio di voce dell'IA, il cambio di volto dell'IA e la generazione di intelligenza artificiale sono tre metodi comunemente utilizzati per le frodi tramite intelligenza artificiale. Tra questi, il contenuto generato dall'intelligenza artificiale ha tempi di consegna limitati e evidenti difetti nella qualità delle immagini e nei personaggi. Pertanto, il cambio di voce dell'intelligenza artificiale e il volto dell'intelligenza artificiale -cambiare sono i metodi più comunemente utilizzati dai criminali. La maggior parte delle persone crede che "vedere per credere", il che rende il cambio di volto dell'IA più ingannevole del cambio di voce dell'IA.

Il cambiamento del volto dell’IA non solo ha ingannato gli anziani, ma anche molti giovani che lavorano nel campo della tecnologia hanno perso milioni da un giorno all’altro.

Secondo quanto riportato dai media pubblici, l'anno scorso l'amministratore delegato di un'azienda tecnologica ha ricevuto una richiesta di trasferimento da un amico ed è stato derubato di 4,3 milioni di yuan in meno di 10 minuti. Il truffatore ha utilizzato principalmente la tecnologia AI che cambia volto. C'era anche un dipendente di una multinazionale di Hong Kong che è stato ingannato durante una videoconferenza con dirigenti senior organizzata da criminali e ha trasferito 200 milioni di dollari di Hong Kong sul conto della controparte.

È opinione diffusa tra i professionisti che il cambiamento del volto dell'IA abbia raggiunto il punto in cui "può essere confuso con la realtà".

Li Xu, capo del team antifrode, ha affermato che il suo interesse per la tecnologia di cambio volto dell'intelligenza artificiale deriva da vari casi di frode. Ha affermato che negli ultimi due anni si sono verificati frequentemente casi di frode che cambia volto nell'intelligenza artificiale e che esistono circa tre metodi di frode che cambiano faccia nell'intelligenza artificiale molto maturi sul mercato.

Il primo è usare l’intelligenza artificiale per cambiare volto e falsificare video pornografici per ricattare la vittima.

Ad esempio, le bande criminali raccoglieranno immagini e informazioni video delle vittime da vari canali come Internet, quindi eseguiranno processi di sintesi come la rimozione dei vestiti con un clic e il cambio del volto tramite intelligenza artificiale, e invieranno alle vittime video indecenti contraffatti o foto di nudo. per estorsione.

Il secondo tipo consiste nell'utilizzare l'intelligenza artificiale per cambiare volto e fingere di essere un conoscente per commettere frodi.

Ad esempio, le bande di truffatori utilizzeranno alcuni strumenti di cambio volto presenti sul mercato per fingere di essere parenti, amici, colleghi, leader, ecc. della vittima, inventando prima un motivo di emergenza e approfittando dell'urgenza del bersaglio ingannato di commettere una frode. È facile abbassare la guardia e trasferire denaro.

Ora, utilizzando Deep-Live-Cam, è sufficiente raccogliere una o due foto della vittima per creare un video profondamente falso. Li Xu ritiene che la portata della frode che cambia il volto dell'intelligenza artificiale vada oltre la consapevolezza della maggior parte delle persone comuni, e questo è vero ha anche cambiato direttamente il quadro normativo contro cui è difficile difendersi e sta peggiorando.

In terzo luogo, il cambio di volto tramite intelligenza artificiale viene utilizzato per fingere di essere una celebrità per effettuare trasmissioni in diretta e ingannare gli utenti inducendoli a effettuare ordini.

Ad esempio, il conduttore utilizza il "cambio volto AI" per "cambiare" il volto di una celebrità nella sala di trasmissione dal vivo, aumentando così il traffico video in diretta e aiutando la trasmissione in diretta a vendere merci.

Inoltre, sono molto comuni anche problemi di violazione come la creazione di video lunghi e brevi di celebrità/persone comuni attraverso il cambio di volto dell'intelligenza artificiale e la creazione di emoticon senza il permesso di altri.

I casi di frode che cambiano il volto dell’IA si verificano frequentemente e con vari metodi, il che è strettamente correlato alla maturità e all’ampiezza di questa tecnologia.

Il CEO di Hanhao Technology, Wu Jieqian, ha detto a "Dingjian","Al momento, la generazione di video tramite intelligenza artificiale, le tecnologie digitali umane e di cambio del volto dell'intelligenza artificiale sono tutte mature e il cambio del volto tramite intelligenza artificiale è il primo campo sviluppato."

L'emergere della tecnologia Deepfake nel 2014 ha segnato la nascita del cambio di volto tramite intelligenza artificiale, ma si è diffuso su piccola scala. È stato solo nel 2017, quando alcuni utenti hanno utilizzato la tecnologia per pubblicare false immagini pornografiche, che è arrivato il cambio di volto tramite intelligenza artificiale. alla vista del pubblico. Ma allo stesso tempo, questa tecnologia è stata controversa a causa della grande quantità di contenuti falsi che porta.

Più di un professionista ha affermato che negli ultimi anni, sebbene le discussioni pubbliche sul cambio volto dell’IA si siano concentrate principalmente sul salvataggio di film e serie televisive, a causa della scarsa supervisione, l’uso del cambio volto dell’IA per frode non si è mai fermato. Inoltre, la tecnologia dell’intelligenza artificiale che cambia volto è in fase di iterazione e attualmente ci sono molti partecipanti, oltre ad alcuni importanti produttori coinvolti in questo business, molte persone digitali nazionali e startup di video generati dall’intelligenza artificiale hanno sviluppato attività di trasformazione dell’intelligenza artificiale. la tecnologia è relativamente popolare. Esistono sempre più strumenti simili.

La tecnologia è matura e popolare e anche la supervisione è difficile. Di conseguenza, nel corso degli anni si è abusato della tecnologia dell’intelligenza artificiale che cambia volto.

Come identificare uno scambio di volti AI sempre più realistico?

Negli ultimi due anni, il cambiamento del volto dell’IA ha portato a molti atti illegali e criminali. L’incontrollabilità fa sì che alcune persone pensino che la tecnologia del cambiamento del volto dell’IA dovrebbe essere boicottata.

Tuttavia, molti professionisti ritengono che la tecnologia stessa sia neutrale e che il suo impatto positivo o negativo dipenda principalmente dall’utente. L’emergere e l’iterazione della tecnologia dell’intelligenza artificiale che cambia volto non dovrebbe essere fermata.

Jesse Wu ha affermato che al momento non esiste un approccio unico per tutti alla tecnologia che cambia il volto dell’intelligenza artificiale in patria e all’estero, e che si tratta più di una questione di gestione legislativa.

Ad esempio, gli Stati Uniti hanno introdotto una legislazione speciale sulla falsificazione profonda, l’Unione Europea ha incorporato la falsificazione profonda nei quadri giuridici e nei regolamenti esistenti come il Regolamento generale sulla protezione dei dati e anche paesi come Germania, Singapore e Regno Unito hanno incorporato reati legati alla falsificazione profonda nei loro sistemi di diritto penale. La Cina ha inoltre chiarito le specifiche di questa tecnologia nel "Regolamento sulla sintesi approfondita dei servizi di informazione su Internet".

Molti professionisti ritengono che sia assolutamente necessario etichettare i contenuti creati dall’intelligenza artificiale e altri metodi di gestione, nonché insegnare al pubblico alcuni metodi per prevenire le frodi legate all’intelligenza artificiale.

Ad esempio, alcuni tecnici una volta hanno proposto che durante una videochiamata si possa chiedere all'interlocutore di mettere le dita sul viso e osservare attentamente se il viso è deformato, oppure chiedere all'interlocutore di aprire la bocca per vedere se i denti e le la lingua è chiara e completa, in modo da determinare se l'immagine è una persona reale o una sintesi AI.

Questo metodo è stato relativamente efficace l’anno scorso, ma quest’anno, con l’aggiornamento della tecnologia AI che cambia volto, ha fallito.

Xiao Zihao ha affermato che l'attuale tecnologia di cambio volto dell'intelligenza artificiale può essere raggiuntaI volti e i movimenti non si deformano quando compaiono ostacoli e la qualità dell'immagine è molto nitida.Li Xu scoprì anche,Casi recenti di frodi che hanno cambiato il volto dell’IA hanno utilizzato mezzi tecnici molto potenti e sono quasi impossibili da identificare semplicemente attraverso i movimenti.

In considerazione del rapido sviluppo della tecnologia AI che cambia volto, Li Xu ritiene che aumentare la vigilanza sia attualmente un metodo relativamente efficace. Ad esempio, quando ricevi una videochiamata da un conoscente per chiedere in prestito denaro, puoi porre all'altra parte alcune domande private che solo l'altra parte conosce e chiedere a più persone intorno a te di verificare.

Alcuni professionisti ritengono che l’utilizzo dell’intelligenza artificiale per identificare l’intelligenza artificiale possa essere un buon modo.

Ad esempio, controlla prima se nella foto ci sono elementi che palesemente vanno contro il buon senso, concentrandoti se ci sono difetti sui bordi del viso, e poi usa alcuni strumenti di intelligenza artificiale. Xiao Zihao ritiene che l'utilizzo dell'intelligenza artificiale per rilevare l'intelligenza artificiale possa identificare la stragrande maggioranza delle truffe. Attualmente, molte aziende e dipartimenti governativi si sono rivolti a loro per collaborare con sistemi di difesa in grado di cambiare il volto dell'intelligenza artificiale.

Ma questa mossa ha causato anche qualche controversia in patria e all’estero.

Innanzitutto questo metodo ha una certa soglia di utilizzo e gli utenti devono scaricare le applicazioni pertinenti sui propri telefoni cellulari/computer. In secondo luogo, in sostanza, c'è un certo ritardo in questo tipo di strumenti di difesa, che rispondono principalmente agli attuali strumenti di cambiamento del volto dell'intelligenza artificiale. Tuttavia, la tecnologia e i metodi di sintesi dell'intelligenza artificiale cambiano continuamente.

Molte persone ripongono le loro speranze nel miglioramento delle leggi e dei regolamenti pertinenti, come l’aumento della punizione per attività illegali come le frodi che cambiano il volto dell’intelligenza artificiale, la vendita di video pornografici che cambiano il volto dell’intelligenza artificiale e la vendita di beni di celebrità che cambiano il volto dell’intelligenza artificiale.

L'anno scorso, il tribunale popolare del distretto di Xiaoshan, Hangzhou, si è pronunciata su un caso di utilizzo del cambio di volto tramite intelligenza artificiale per produrre video osceni. L'imputato ha fornito servizi personalizzati di cambio di volto tramite intelligenza artificiale, ha prodotto un gran numero di video osceni attraverso il cambio di volto tramite intelligenza artificiale ha utilizzato anche metodi di cambio volto basati sull'intelligenza artificiale per attirare gli spettatori a pagare, l'importo totale coinvolto nel caso era di oltre 60.000 yuan e alla fine è stato condannato a sette anni e tre mesi di prigione e a una multa di 60.000 yuan.

Vorrei però ricordarlo a tuttiNon tutti i cambiamenti di volto dell’intelligenza artificiale violeranno i diritti sui ritratti.

Nel giugno di quest'anno, la Corte Internet di Pechino ha pronunciato due casi di violazione dell'intelligenza artificiale. Due modelli di brevi video in stile cinese hanno scoperto che i loro video apparivano in un'APP che cambiava volto su piattaforme social, quindi hanno citato in giudizio la società tecnologica dietro l'APP. La corte ha ritenuto che ciò avesse leso il suo diritto al ritratto e i suoi diritti personali.

La sentenza della corte è stata che l'imputato aveva utilizzato un video in cui appariva il querelante, ma poiché il volto del querelante nel video in questione era stato sostituito, ciò non violava i diritti di ritratto del querelante. Pertanto, ha ritenuto solo che questa mossa costituisse un violazione dei diritti di informazione personale del ricorrente.

In questo momento, la tecnologia di cambio volto basata sull'intelligenza artificiale è ancora in fase di aggiornamento e non è stata ancora vietata. Gli strumenti di cambio volto basati sull'intelligenza artificiale circolano ancora in gran numero sul mercato.

"Dingjiao" ha recentemente cercato direttamente "cambiamento del volto dell'intelligenza artificiale" su una piattaforma di e-commerce e non è riuscito a trovare alcuna informazione. Tuttavia, finché le parole chiave vengono leggermente modificate, è ancora possibile trovare strumenti correlati per il cambio del volto in vendita il percorso è più segreto, passerà a un sito Web di seconda mano per le transazioni. In un’epoca in cui la tecnologia e l’inganno sono in costante miglioramento, ciò che tutti possono fare è essere più vigili per evitare di essere danneggiati dal cambiamento del volto dell’intelligenza artificiale.

*L'immagine del titolo e le immagini di accompagnamento nell'articolo provengono da Pexels.