cinque grandi caos di foto generate dall'intelligenza artificiale ②｜business nelle “foto pornografiche”: cambio di volto e spogliarsi, divieti ripetuti ma difficili da fermare
2024-09-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
in quest’era in cui l’intelligenza artificiale è ovunque e le barriere all’ingresso sono quasi illimitate, se non hai provato a utilizzare l’intelligenza artificiale per generare immagini o video (di seguito collettivamente denominati immagini generate dall’intelligenza artificiale), allora non è abbastanza “trendy”.
come altre nuove tecnologie, la tecnologia di imaging basata sull’intelligenza artificiale è stata piena di controversie sin dalla sua nascita, con fiori e spine che l’hanno accompagnata lungo il percorso. i sostenitori la vedono come una rivoluzione tecnologica dirompente, mentre gli oppositori la vedono come una piaga. soprattutto negli ultimi due anni sono emersi grandi modelli di dati ai rappresentati da chatgpt e sora. la generazione di immagini ai è diventata una tendenza popolare ed è ricercata da sempre più netizen. sebbene apporti grande comodità, sorpresa e conforto alle persone, espone inevitabilmente anche molti problemi negativi come l'essere assurdo, fastidioso e persino illegale.
l’intelligenza artificiale è innocente, la chiave sta nel come usarla. solo aderendo ai principi fondamentali dell’etica e dello stato di diritto la tecnologia potrà apportare maggiori benefici all’umanità. oggi, upstream news lancia un rapporto speciale su "cinque caos nella generazione di immagini ai", concentrandosi sui vari caos esposti nel campo della generazione di immagini ai negli ultimi anni, rintracciandone la fonte, analizzando causa ed effetto ed esplorando soluzioni, in per contribuire al sano sviluppo del settore dell’intelligenza artificiale.
nel febbraio 2024, il signor shang (pseudonimo), che vive nel distretto di yubei, chongqing, ha improvvisamente ricevuto un messaggio di testo contenente una foto di nudo in bianco e nero. nella foto, il signor shang tiene in braccio una giovane donna, sdraiata su un letto in un albergo, con il poscritto "ho tutti i dati della tua immagine, per favore contattami subito" e fornito un numero di telefono. poiché di solito si mantiene pulito e ha familiarità con il buon senso come le frodi su internet e il cambio di volto dell'intelligenza artificiale, il signor shang sapeva di essere stato defraudato dai criminali che utilizzavano l'intelligenza artificiale per generare foto, ma lo ha ignorato. ne ha parlato anche a sua moglie esperienza e l'ha condivisa con il suo gruppo di amici wechat, ha ricevuto molte bonariamente ridicole. a questo proposito, il signor shang ha detto a un giornalista di upstream news (e-mail di segnalazione: [email protected]): “so che l'immagine è stata sintetizzata dall'intelligenza artificiale, utilizzando il volto sulla mia carta d'identità per creare un corpo nudo sono curioso, dove hanno trovato questi truffatori la mia foto d'identità e il mio numero di cellulare?" un'indagine condotta da un giornalista upstream ha rilevato che, secondo i resoconti di diversi media e polizia, negli ultimi anni si sono verificate truffe simili basate sullo scambio di volti tramite intelligenza artificiale e molte persone credevano che fossero vere, con il risultato di essere defraudate di enormi quantità di beni e addirittura dividendo le loro famiglie. anche molti criminali che hanno prodotto e diffuso immagini e video e hanno commesso frodi sono stati severamente puniti dalla legge.
vittime: alcuni sono stati derubati di denaro e ad altri è stata cambiata la faccia.
sebbene il signor shang di chongqing abbia ricevuto messaggi di testo di ricatto da parte di criminali, è stato fortunato a scappare. al contrario, anche il signor wang di weihai, provincia di shandong si è imbattuto nella stessa truffa. gli sono stati chiesti 680.000 yuan e alla fine è stato costretto a trasferire 200.000 yuan.
il contenuto del messaggio di testo ricevuto dal signor wang era quasi identico a quello del signor shang. senza pensarci troppo, ha composto il numero nel messaggio di testo. l'altra parte ha dichiarato accuratamente il suo nome e il suo posto di lavoro, e ha detto al signor wang che avrebbe potuto acquistare i video trasferendo 680.000 yuan, se non avesse pagato, i video sarebbero stati resi pubblici. sotto la minaccia dell'altra parte, il signor wang ci ha creduto. successivamente, il signor wang ha raccolto fondi da più parti e ha trasferito 200.000 yuan. tuttavia, questi 200.000 yuan non possono soddisfare affatto l'appetito della controparte. più tardi, la polizia ha contattato il signor wang.
dopo un'attenta osservazione, la polizia che indagava sul caso ha scoperto che sebbene il volto nella foto nel messaggio di testo fosse simile a quello del signor wang, la forma del viso e del corpo erano completamente diversi dai suoi. successivamente, la polizia ha effettuato rapidamente operazioni di blocco dei pagamenti di emergenza sui due conti bancari trasferiti dal signor wang. dopo la ricerca e l'analisi del resoconto della riscossione, la polizia ha bloccato le informazioni sull'identità dei sospettati criminali zheng e zhong. nel gennaio di quest'anno, la polizia di weihai ha arrestato due sospetti e li ha consegnati alla giustizia.
il signor shang e il signor wang hanno riscontrato frodi via sms e i loro avatar sono stati trasformati in foto di nudo dall'intelligenza artificiale.
secondo la polizia di weihai, in questo caso il sospettato ha prima raccolto video, foto e informazioni correlate della vittima attraverso internet e altri canali. quindi utilizza la tecnologia ai di cambio volto su ps per sintetizzare i cosiddetti "video indecenti" o "foto di nudo", quindi inviarli con precisione agli oggetti selezionati tramite sms, e-mail e altri canali e lasciare infine le informazioni di contatto che desiderano denunciare, diffondere e informare le loro famiglie e altri mezzi per minacciare gli obiettivi selezionati e richiedere alle vittime di trasferire denaro sui conti bancari designati. la polizia ha ricordato che se ti trovi in una situazione del genere, devi prestare attenzione a conservare le prove e chiamare la polizia in tempo.
rispetto agli uomini, le donne giovani e belle, in particolare le celebrità femminili più famose di internet, hanno maggiori probabilità di essere colpite dal cambio di volto dell'ia e dalla "rimozione dei vestiti con un clic" foto e video vengono persino trasformati in contenuti a pagamento in vendita. nel luglio dello scorso anno, una blogger femminile di celebrità su internet con più di 4 milioni di fan ha scoperto che molti fan lasciavano messaggi dicendo di aver visto i suoi "video pornografici". innocente si autoesaminerà e le voci alla fine passeranno. "solo un giorno un'amica ha inoltrato un video pornografico in cui l'eroina le somigliava che si è resa conto di essere stata maliziosamente "cambiata faccia" e di averlo fatto. stato trasformato in un video pornografico.
secondo i resoconti dei media dell'epoca, nel listino prezzi del venditore, centinaia di celebrità di internet erano divise in base al livello di fan, che andava da meno di 500.000 fan a più di 10 milioni di fan, e venivano venduti i corrispondenti video porno con scambio di volti. per 30 yuan a 50 yuan non varia. inoltre, ci sono molte star femminili nella tabella. un venditore ha affermato di possedere più di 80 celebrità e più di 15.000 immagini. se li compri tutti, il prezzo è di soli 60 yuan e verranno regalati 23 video. il venditore ha anche detto che se acquisti una foto con scambio di volti di una singola celebrità, ti verrà addebitato un importo in base alla quantità. puoi acquistare 300 foto per 5 yuan.
inoltre, anche molte foto di donne comuni in scene quotidiane come scuole, centri commerciali, uffici, metropolitane, ecc. sono diventate l'obiettivo del furto di volti da parte dell'intelligenza artificiale migliaia o addirittura decine di migliaia di immagini correlate.
la foto di una giovane donna di guangzhou è stata “spogliata” con un clic mentre era in metropolitana.
produttore: ha falsificato quasi 7.000 foto di nudo, al prezzo di 1,5 yuan ciascuna
in quanto produttori di contenuti pornografici e osceni, molti autori nascosti online sono stati severamente puniti dalla legge.
nel luglio di quest’anno, cctv news ha segnalato un caso illegale in cui quasi 7.000 immagini pornografiche sono state falsificate utilizzando la tecnologia ai. il sospettato criminale bai moumou vive a pechino e originariamente era un tecnico di una società internet. ha utilizzato la tecnologia ai di "rimozione degli indumenti con un clic" per creare un deepfake di quasi 7.000 immagini oscene e le ha vendute al prezzo di 1,5 yuan ciascuna. le immagini coinvolgono un gran numero di donne, tra cui studentesse, insegnanti e colleghe. l'organo della procura ritiene che l'imputato bai moumou abbia prodotto e venduto materiale osceno allo scopo di trarre profitto. le circostanze erano gravi e il suo comportamento ha violato le pertinenti disposizioni della legge penale della repubblica popolare cinese il reato di produzione e vendita di materiale osceno a scopo di lucro.
un uomo di pechino ha prodotto quasi 7.000 immagini oscene e le ha vendute per 1,5 yuan ciascuna.
nell'aprile dello scorso anno, secondo la procura popolare municipale di hangzhou, yu, un uomo nato negli anni '80 dalla provincia di anhui, è stato perseguito con l'accusa di produzione e distribuzione di materiale osceno a scopo di lucro. yu si è interessato a questa tecnologia già nel 2020, quando il "cambiamento del volto dell'intelligenza artificiale" ha appena iniziato ad emergere, e ha imparato questa tecnologia anche attraverso lo studio autonomo. successivamente, yu ha registrato un account su una piattaforma sociale straniera e ha creato un gruppo. se altri vogliono unirsi al "gruppo interno", devono pagare una "quota di adesione" che va da 198 yuan a 498 yuan puoi vedere molte persone che utilizzano l'intelligenza artificiale i video pornografici prodotti utilizzando la tecnologia di scambio di volti possono anche essere "personalizzati" utilizzando diverse immagini di celebrità femminili in base alle esigenze dei clienti. in pochi mesi yu ha guadagnato decine di migliaia di yuan.
nel gruppo pubblico istituito da yu, gli organi di pubblica sicurezza hanno esaminato più di 1.200 video pornografici e più di 1.600 immagini. dopo l'identificazione, quanto sopra era tutto materiale pornografico. nel novembre dello scorso anno, il tribunale popolare del distretto di xiaoshan della città di hangzhou ha ritenuto l'imputato yu colpevole di aver prodotto e distribuito materiale osceno a scopo di lucro. è stato condannato a sette anni e tre mesi di prigione e ad una multa di 60.000 yuan.
le donne giovani e belle tendono a diventare vittime del cambiamento del volto dell'intelligenza artificiale e alcune aziende offrono persino "servizi personalizzati".
sondaggio: il software è difficile da acquistare, tieba è stato bloccato
secondo precedenti resoconti dei media, nel 2023 su molte piattaforme saranno disponibili software correlati con la funzione "rimozione dei vestiti con un clic". molti utenti della rete acquistano e scambiano online la propria esperienza su software e prodotti correlati.
ad esempio, su un determinato prodotto è chiaramente indicato: "questo software può realizzare la funzione di convertire persone reali in cartoni animati, cambiare testa e cambiare vestiti". questo software viene venduto a soli 16,66 yuan, con vendite mensili che raggiungono più di 200 ordini. qualcuno ha chiesto nell'area commenti del negozio: "puoi davvero toglierti i vestiti?" molte persone hanno risposto: "sì".
a quel tempo, c'erano più di 9.000 post relativi al cambio di volto dell'ia nella barra dei post chiamata "deepfake", che conteneva un gran numero di informazioni di vendita sui video di cambio di volto di celebrità. un utente chiamato "synthetic alliance" vende apertamente video pornografici con scambio di volti nel gruppo, con più di 150 video nell'elenco, dicendo che "il prezzo è di soli 58 yuan".
un giornalista upstream ha cercato nella barra dei post deepfake e ha scoperto che la barra dei post era stata bloccata. il giornalista ha cercato le parole chiave "cambiamento del volto con l'intelligenza artificiale" e "rimozione dei vestiti con un clic" su più piattaforme di e-commerce, ma nessuna di esse è stata visualizzata. in alcuni negozi ci sono molti prodotti software con funzioni come "cancellazione intelligente" ed "espansione intelligente dell'immagine", ma i proprietari del negozio hanno risposto che non hanno la funzione di "rimozione dei vestiti con un clic". tuttavia, il giornalista ha notato che un venditore nello zhejiang ha venduto un software chiamato "clothing changing artifact" per 18,80 yuan, sostenendo che "può essere facilmente gestito sia cambiando vestiti che ridipingendo".
il giornalista ha contattato il venditore tramite messaggio privato. per quanto riguarda la domanda "posso togliermi i vestiti?", il venditore è stato molto diffidente: "non dirlo così apertamente, lo stiamo monitorando, poi ha detto vagamente: "puoi andare da y (vestiti)!" dopo che il giornalista ha pagato come richiesto, il commerciante ha rilasciato ecco un indirizzo per scaricare il disco di rete e un tutorial sull'utilizzo.
il giornalista ha seguito le istruzioni del commerciante e ha scoperto che l'app può effettivamente realizzare la funzione di "rimozione dei vestiti con un clic".
su una determinata piattaforma di commercio di seconda mano ci sono ancora commercianti che vendono segretamente software con la funzione "rimozione dei vestiti con un clic".
dichiarazione dell'avvocato: se le circostanze sono particolarmente gravi, la pena massima è l'ergastolo
il giornalista ha scoperto che su alcuni forum ci sono ancora utenti della rete che cercano segretamente software gratuiti per "rimuovere i vestiti con un clic". quindi, i commercianti che pubblicano o vendono software correlato sono sospettati di aver infranto la legge o addirittura di aver commesso un crimine? se gli utenti della rete utilizzano software per generare e pubblicare foto e video rilevanti, è una violazione della legge se vengono utilizzati solo per salvarli per “divertimento”? che tipo di punizione affronterai se lo condividi?
fu jian, noto avvocato penalista e direttore dello studio legale henan zejin, ha detto ai giornalisti che attività come la realizzazione di foto e video e la vendita di software per la "rimozione di indumenti con un clic" implicano una violazione della privacy personale e dei diritti di ritratto, sono sospettate di essere illegali o addirittura criminali e potrebbero essere soggetti a sanzioni penali. innanzitutto, i commercianti che vendono software correlati sono sospettati di produrre, vendere e diffondere materiale osceno. secondo le disposizioni della legge penale, coloro che producono, copiano, pubblicano, vendono o diffondono materiale osceno a scopo di lucro. è condannato alla reclusione a tempo determinato non superiore a tre anni, alla detenzione penale o alla sorveglianza, e anche alla multa, se le circostanze sono gravi, è condannato alla reclusione a tempo determinato non inferiore a tre anni e non superiore; dieci anni, e anche con la multa; se le circostanze sono particolarmente gravi, è condannato alla reclusione a tempo determinato non inferiore a dieci anni o all'ergastolo, nonché alla multa o alla confisca dei suoi beni.
in secondo luogo, il diritto al ritratto di una persona fisica è protetto dalla legge. senza il consenso della persona fisica, il ritratto di un'altra persona non può essere utilizzato direttamente. se gli utenti della rete utilizzano software per generare foto e video rilevanti e salvarli per "divertimento", sono anche sospettati di violare i diritti di ritratto di altre persone. se viene condiviso su gruppi wechat o piattaforme social dopo la produzione, si sospetta che violi i diritti di immagine e i diritti di reputazione di altre persone e dovrai assumerti una certa responsabilità civile. il suo comportamento è sospettato di violazione della "legge punitiva sulla gestione della sicurezza pubblica" e, in casi gravi, potrebbe essere sospettato di diffondere materiale osceno. a seconda della gravità delle circostanze, potresti dover affrontare sanzioni come la reclusione a tempo determinato, la detenzione penale e multe.
in risposta a fenomeni come il cambio di volto dell'ia e la rimozione dei vestiti, li liang, professore alla facoltà di giurisprudenza dell'università minzu della cina, ha affermato che prima di tutto è necessario dividere chiaramente i soggetti che violano le applicazioni illegali dell'intelligenza artificiale in secondo luogo, deve essere costruito un meccanismo per la condivisione della responsabilità (conseguenze) per le applicazioni illegali dell’intelligenza artificiale. in terzo luogo, la legislazione scientifica dovrebbe essere basata su una considerazione globale dei principi giuridici e degli interessi sociali, stabilire e migliorare il sistema legale relativo all’intelligenza artificiale; applicazioni, promuovere la ricerca tecnologica e lo sviluppo scientifico e rafforzare i meccanismi di supervisione e regolamentazione.
il giornalista upstream jin xin ha parzialmente sintetizzato le informazioni da cctv news, cctv, beijing news, people's daily, ecc.
