commenta ora ｜ aggiungi loghi distintivi per evitare che i contenuti generati dall'intelligenza artificiale vengano confusi con quelli reali.
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
quante delle enormi immagini, testi e video che vediamo online ogni giorno sono generati e sintetizzati dall'intelligenza artificiale? come distinguere con precisione articoli ai, immagini ai e video ai?
il 14 settembre, la cyberspace administration of china ha pubblicato le "misure per l'etichettatura dei contenuti sintetici generati dall'intelligenza artificiale (bozza per i commenti)". la "bozza per i commenti" intende stabilire che i servizi di sintesi generati forniti dai fornitori di servizi includano testo, audio, immagini e video, scene virtuali, ecc., istruzioni e segnali ben visibili dovrebbero essere aggiunti in posizioni appropriate; quando i fornitori di servizi forniscono metodi per scaricare, copiare ed esportare contenuti sintetici, dovrebbero garantire che i file contengano segni espliciti di tale indicazione soddisfare i requisiti.
questa disposizione è molto realistica e necessaria. negli ultimi anni, la tecnologia di sintesi profonda dell’intelligenza artificiale è stata ampiamente utilizzata in molti campi, dalla generazione di immagini, testo e video alle domande e risposte online, e varie applicazioni stanno emergendo all’infinito. non c’è dubbio che gli strumenti di intelligenza artificiale possono rendere più efficiente la produzione di contenuti e la diffusione della conoscenza e, man mano che la capacità di apprendimento dell’intelligenza artificiale diventa sempre più forte, le sue capacità di “produzione” di contenuti supereranno persino quelle umane in futuro.
ma d'altra parte, l'effetto del contenuto sintetico profondo è più realistico e la produzione è più efficiente, il che rende anche il contenuto sintetico "difficile distinguere il vero dal falso". quando è difficile distinguere tra vero e falso e vedere non è più credere, la tecnologia dell’intelligenza artificiale è come un’arma a doppio taglio, che porterà alla società anche problemi come la distorsione delle informazioni e la confusione cognitiva.
nel novembre 2022, la cyberspace administration of china ha emanato il "regolamento sulla gestione della sintesi profonda dei servizi di informazione internet", che stabilisce lo scopo, l'etichettatura, l'ambito di utilizzo e le sanzioni per l'abuso di contenuti profondamente sintetizzati. questa "bozza per i commenti" chiarisce ulteriormente che, sia che si tratti di testo, audio, immagini o video, "devono essere aggiunti segnali di promemoria ben visibili nei punti appropriati". si tratta di un requisito chiaro per i fornitori di servizi: purché sia generato da uno strumento di intelligenza artificiale, che si tratti di un articolo o di un'immagine, è necessario aggiungere un'identificazione ben visibile.
questo in realtà serve a ricordare al pubblico che le informazioni online sono contrastanti quando vedi articoli “interni”, immagini “calde” o video “scioccanti”, devi prima prestare attenzione se sono stati generati dall’intelligenza artificiale e se devono essere accettati. come identificarli?
vale la pena notare che man mano che la tecnologia diventa gradualmente “civile”, i criminali possono facilmente utilizzare l’intelligenza artificiale per diffondere voci e produrre notizie false. non molto tempo fa, alcuni media hanno lanciato un'organizzazione mcn in grado di utilizzare l'intelligenza artificiale per generare 4.000-7.000 articoli di voci al giorno. grazie alla benedizione della tecnologia ai, questi articoli sembrano molto "reali e ragionevoli" al pubblico che non ha familiarità con la tecnologia internet quando vedi questo tipo di informazioni con “immagini e verità”, è facile credere che siano vere.
secondo un sondaggio sui media, utilizzando un'intelligenza artificiale domestica, il costo di un articolo ai è di soli 0,00138 yuan e 7 articoli possono essere generati per 1 centesimo. tali "nessun capitale e enormi profitti" possono essere facilmente sfruttati dai criminali. si sono verificate immagini e video falsi come "attacco alla metropolitana", "esplosione a xi'an", "esplosione in una casa privata a wuxi, chongqing", ecc. un cattivo impatto sociale. la verità dietro questo sono le voci sulla produzione di massa dell’intelligenza artificiale.
la registrazione dell’intelligenza artificiale per generare contenuti sintetici non è tecnicamente difficile da implementare. alcuni esperti suggeriscono che la piattaforma possa essere completamente connessa al grande sistema modello della piattaforma di generazione di contenuti ai, eseguire il riconoscimento e il confronto dei dati in tempo reale, quindi allegare una filigrana digitale inamovibile o una descrizione testuale come "questa immagine/video è sintetizzato dall'intelligenza artificiale".
questa "bozza di commenti" sottolinea che "nessuna organizzazione o individuo dovrà eliminare, manomettere, falsificare o nascondere intenzionalmente gli identificatori sintetici dei contenuti generati stabiliti in queste misure". questo per ricordare ai fornitori di servizi e alle piattaforme di intelligenza artificiale che non devono utilizzare l'intelligenza artificiale strumenti a causa di per realizzare il "dividendo del traffico", adottiamo un atteggiamento di pacificazione chiudendo un occhio e chiudendo un occhio. un cyberspazio chiaro non deve consentire che i contenuti dell’intelligenza artificiale siano confusi e confondano i confini della realtà; se qualche informazione viene identificata come voce, la piattaforma dovrebbe immediatamente etichettarla e ripulirla.
la capacità dell'intelligenza artificiale di generare e sintetizzare supera la cognizione tradizionale e ci fa anche capire che molti articoli online sembrano molto "scientifici" e molti video online sembrano particolarmente "reali", ma potrebbero non essere necessariamente affidabili, quindi non non ho fretta di crederci. potresti anche cercarlo prima. c'è un cartello "questa immagine/video è sintetizzato dall'intelligenza artificiale" in una posizione di rilievo nel contenuto?
li qinyu, commentatore capo di the paper
(questo articolo è tratto da the paper. per informazioni più originali, scarica l'app “the paper”)
