notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Mingmin Kresi dal Tempio di Aofei
  Qubit |. Account pubblico QbitAI

Sotto lo specchio cibernetico, tutte le bellezze dell'intelligenza artificiale si sono trasformate in fantasmi.

Vieni a vedere i suoi denti。

Quando la saturazione dell'immagine è completamente aumentata, i denti del ritratto AI diventeranno molto strani e i confini saranno sfocati.

Il colore dell'immagine complessiva è normale, ma la parte del microfono è ancora più strana.

contrastoFoto di persone reali, dovrebbe essere così.

I denti sono chiari e le macchie di colore nella foto sono uniformi.

Questo strumento è aperto e tutti possono provarlo con le foto.

Un determinato fotogramma nel video generato dall'intelligenza artificiale non può sfuggire a questo metodo.

Anche le foto dei denti mancanti possono rivelare problemi.

Ma a proposito, questo strumentodi Claudio. Usa l'intelligenza artificiale per crackarla, un meraviglioso circuito chiuso.

È un dato di fatto, i ritratti dell'intelligenza artificiale sono stati recentemente troppo realistici e hanno causato molte discussioni. Ad esempio, in una serie di popolari "video di relatori TED", nessuno di loro è in realtà persone reali.

Non solo è difficile distinguere i volti, ma anche la scrittura, il precedente difetto dell’intelligenza artificiale, ora può essere completamente falsa.

Ancora più importante, il costo per generare tali ritratti AI non è elevato. Può essere fatto per soli 5 minuti e 1,5 dollari americani (circa 10 yuan) ogni 20 secondi.

Ora gli utenti della rete non sono riusciti a stare fermi e hanno iniziato uno dopo l’altro i concorsi anti-contraffazione dell’IA.

Quasi 5.000 persone sono venute per discutere quale di queste due immagini sia la persona reale.

Le ragioni addotte erano diverse. Alcune persone trovano il testo e i dettagli del motivo molto astratti, mentre altri pensano che gli occhi dei personaggi siano vuoti...

Le regole in base alle quali l'intelligenza artificiale più avanzata genera ritratti vengono gradualmente individuate.

È difficile dirlo senza guardare i dettagli

In sintesi, regolare la saturazione potrebbe essere il modo più rapido per identificarlo.

I ritratti di gruppo AI vengono esposti in modo più approfondito in questo modo.

C'è un problema però. Questo metodo potrebbe non funzionare se l'immagine viene compressa utilizzando l'algoritmo JPEG.

Ad esempio, assicurati che la foto sia reale.

Tuttavia, a causa della compressione dell'immagine e dei problemi di illuminazione, anche i denti del personaggio sono un po' sfocati.

Pertanto, gli utenti della rete hanno elencato anche altri modi per capire se un ritratto è sintetizzato dall’intelligenza artificiale.

Il primo metodo, in poche parole, è fare affidamento sulla conoscenza e sul giudizio umani.

Poiché il modo in cui l’intelligenza artificiale apprende le immagini non è coerente con quello umano, è inevitabile che non riesca a cogliere il 100% delle informazioni visive dal punto di vista umano.

Il risultato è che le immagini generate dall’intelligenza artificiale spesso contengonoNon coerente con il mondo realeCiò fornisce un punto di partenza per l'identificazione dell'immagine.

Usa l'immagine all'inizio come esempio.

Nel complesso, la pelle del personaggio è troppo liscia e non si vedono pori. Questa caratteristica troppo perfetta in realtà aggiunge un senso di irrealtà.

Naturalmente, questa "sensazione irrealistica" non è del tutto equivalente a "falsa". Dopotutto, nelle immagini che sono state trattate mediante microdermoabrasione non si vedono i pori.

Ma questo non è l’unico fattore di giudizio. Potrebbe non esserci una sola deviazione dal buon senso lasciata dall’intelligenza artificiale nel quadro.

In effetti, se osservi i seguenti dettagli di questa immagine, puoi vedere una caratteristica relativamente ovvia:Il particolare metodo di connessione del gancio sopra la targhetta。

Ci sono anche microfoni che mostrano difetti in modalità ad alta saturazione e gli indizi possono essere visti direttamente ad occhio nudo dopo l'amplificazione.

Ciò che è ancora più sottile è che ci sono diversi peli alla fine dei capelli che si trovano in posizioni molto irragionevoli, ma una tale caratteristica richiederebbe probabilmente una vista a livello di Leeuwenhoek per vedere.

Tuttavia, con l'avanzamento della tecnologia di generazione, le caratteristiche che possono essere trovate diventano sempre più nascoste, il che è una tendenza inevitabile.

Un altro modo è guardare il testo. Sebbene l'intelligenza artificiale stia gradualmente superando il problema dei "caratteri fantasma" nella rappresentazione dei caratteri, ci sono ancora alcune difficoltà nel rappresentare correttamente il testo con il significato reale corretto.

Ad esempio, alcuni netizen hanno scoperto che sul badge indossato dalla persona nella foto, le due lettere nell'ultima riga sotto il logo di Google sono "CA", che significa California, e la lunga stringa davanti dovrebbe essere il nome della città.

Ma in realtà non esiste città in California con un nome così lungo.

Oltre ai dettagli degli oggetti stessi, per determinare l'autenticità possono essere utilizzate anche informazioni come luci e ombre.

Questa immagine è estratta da un video e nel video è presente un fotogramma in cui si trova.

Sul lato destro del microfono c'è un'ombra molto strana. Quest'ombra corrisponde a una delle mani del personaggio. Ovviamente qui l'elaborazione dell'intelligenza artificiale è carente.

Quando si tratta di video, a causa della coerenza dei contenuti prima e dopo, è più probabile che l’intelligenza artificiale riveli difetti rispetto alle immagini statiche.

Ci sono anche alcune funzionalità che non sono "errori di buon senso", ma riflettono anche alcune preferenze dell'intelligenza artificiale durante la generazione di immagini.

Ad esempio, queste quattro immagini rappresentano tutte "persone comuni" sintetizzate dall'intelligenza artificiale. Hai trovato qualcosa in comune?

Alcuni utenti della rete hanno affermato che nessuna delle persone in queste quattro immagini ha un volto sorridente, il che sembra riflettere alcune caratteristiche delle immagini generate dall'intelligenza artificiale.

Questo è vero per queste immagini, ma è difficile formare un sistema per questo tipo di giudizio. Dopotutto, diversi strumenti di disegno AI hanno caratteristiche diverse.

In breve, per far fronte al graduale progresso dell'intelligenza artificiale, da un lato possiamo aumentare l'intensità di "Leewenhoek" e dall'altro possiamo anche introdurre tecniche di elaborazione delle immagini come l'aumento della saturazione.

Ma se tali “cambiamenti quantitativi” si accumulano sempre di più, diventerà sempre più difficile giudicare a occhio nudo e un giorno la saturazione dell’immagine potrebbe essere interrotta dall’intelligenza artificiale.

Pertanto, le persone stanno anche cambiando il loro modo di pensare e di pensare al metodo "modello per modello", utilizzando immagini generate dall'intelligenza artificiale per addestrare modelli di rilevamento e analizzare più caratteristiche dalle immagini.

Ad esempio, le immagini generate dall'intelligenza artificiale hanno molte caratteristiche nello spettro, nella distribuzione del rumore, ecc. Queste caratteristiche non possono essere catturate ad occhio nudo, ma l'intelligenza artificiale può vederle chiaramente.

Naturalmente, ciò non esclude la possibilità che il metodo di rilevamento resti indietro e non riesca a tenere il passo con i cambiamenti del modello, o che gli sviluppatori di modelli si specializzino addirittura nello sviluppo antagonista.

Ad esempio, nell’immagine discussa sopra, uno strumento di rilevamento dell’intelligenza artificiale ha solo il 2% di probabilità che sia sintetizzato dall’intelligenza artificiale.

Tuttavia, il processo di gioco tra la frode dell’IA e il rilevamento dell’IA è esso stesso un “gioco del gatto e del topo”.

Pertanto, oltre al rilevamento, gli sviluppatori di modelli potrebbero anche dover assumersi alcune responsabilità, come l’aggiunta di filigrane invisibili alle immagini generate dall’intelligenza artificiale in modo che le frodi legate all’intelligenza artificiale non abbiano nessun posto dove nascondersi.

L'intelligenza artificiale è un piede più alta

Vale la pena ricordare che molti dei ritratti AI che hanno causato il panico, come menzionato sopra, sono diventati popolari di recenteFlussoGenerare/partecipare alla produzione.

Tutti hanno persino iniziato a presumere che gli effetti troppo belli per essere distinti siano prodotti da Flux.

È stato creato dal team originale di Stable Diffusion e ha suscitato scalpore su Internet solo 10 giorni dopo la sua uscita.

Queste bellissime foto di falsi discorsi TED sono tutte realizzate da lui.

Altri hanno utilizzato Flux e Gen-3 insieme per creare bellissime pubblicità di prodotti per la cura della pelle.

E vari effetti di sintesi da più angolazioni.

Risolve molto bene problemi come i pittori AI e il testo generato dall'IA nelle immagini.

Ciò porta direttamente al fatto che gli esseri umani non possono più guardare direttamente le mani e le parole per distinguere i disegni dell’intelligenza artificiale, ma possono solo indovinare sulla base di indizi.

Flux avrebbe dovuto rafforzare la formazione su mano, testo e altri indicatori.

Ciò significa anche che se l’attuale intelligenza artificiale continua a lavorare duro sull’apprendimento dei dettagli delle texture, dei colori, ecc., quando uscirà il modello di disegno AI di prossima generazione, i metodi di riconoscimento umano potrebbero diventare nuovamente inefficaci…

Inoltre, Flux è open source e può essere eseguito su laptop. Molte persone sono ora a Forget Midjourney.

Ci sono voluti 2 anni per passare da Diffusione Stabile a Flusso.

Ci è voluto 1 anno per passare da "Will Smith che mangia noodles" a "altoparlante Tedx".

Non so davvero quali trucchi dovranno escogitare gli esseri umani in futuro per distinguere la generazione dell’IA...

Link di riferimento:
[1]https://x.com/ChuckBaggett/status/1822686462044754160
[2]https://www.reddit.com/r/artificial/comments/1epjlbl/average_looking_people/
[3]https://www.reddit.com/r/ChatGPT/comments/1epeshq/these_are_all_ai/
[4]https://x.com/levelsio/status/1822751995012268062