comente agora｜adicione logotipos distintos para evitar que o conteúdo gerado por ia seja confundido com o conteúdo real.
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
quantas das enormes imagens, textos e vídeos que vemos online todos os dias são gerados e sintetizados pela inteligência artificial? como distinguir com precisão artigos de ia, imagens de ia e vídeos de ia?
em 14 de setembro, a administração do ciberespaço da china divulgou as "medidas para rotulagem de conteúdo sintético gerado por inteligência artificial (rascunho para comentários)". o "rascunho para comentários" pretende estipular que os serviços de síntese gerados fornecidos pelos provedores de serviços incluam texto, áudio, imagens e vídeos, cenas virtuais, etc., sinais de aviso visíveis devem ser adicionados em locais apropriados, quando os provedores de serviços fornecem métodos para baixar, copiar e exportar conteúdo sintético, eles devem garantir que os arquivos contenham sinais explícitos que atendam; os requisitos.
esta disposição é muito realista e necessária. nos últimos anos, a tecnologia de síntese profunda de inteligência artificial tem sido amplamente utilizada em muitos campos, desde a geração de imagens, textos e vídeos até perguntas e respostas on-line, e várias aplicações estão surgindo indefinidamente. não há dúvida de que as ferramentas de ia podem tornar a nossa produção de conteúdos e disseminação de conhecimento mais eficiente e, à medida que a capacidade de aprendizagem da ia se torna cada vez mais forte, as suas capacidades de “produção” de conteúdos ultrapassarão mesmo os humanos no futuro.
mas, por outro lado, o efeito do conteúdo sintético profundo é mais realista e a produção é mais eficiente, o que também torna o conteúdo sintético difícil de distinguir entre real e falso. quando é difícil distinguir entre o verdadeiro e o falso, e ver não é mais acreditar, a tecnologia de inteligência artificial é como uma faca de dois gumes, que também trará problemas como distorção de informação e confusão cognitiva para a sociedade.
em novembro de 2022, a administração do ciberespaço da china emitiu o "regulamento sobre a gestão da síntese profunda dos serviços de informação da internet", que estipula a finalidade, rotulagem, âmbito de utilização e sanções para o abuso de conteúdo profundamente sintetizado. este "rascunho para comentários" esclarece ainda que, seja texto, áudio, imagens ou vídeos, "sinais de lembrete visíveis devem ser adicionados em locais apropriados". este é um requisito claro para os prestadores de serviços: desde que seja gerado por uma ferramenta de ia, seja um artigo ou uma imagem, é necessário adicionar uma identificação proeminente.
na verdade, isso é um lembrete ao público de que as informações on-line são misturadas. quando você vê artigos "internos", fotos "quentes" ou vídeos "chocantes", primeiro você deve prestar atenção se eles são gerados por ia e se devem ser aceitos. . como identificá-los?
é importante notar que à medida que a tecnologia se torna gradualmente “civil”, os criminosos podem facilmente usar a ia para espalhar rumores e produzir notícias falsas. não muito tempo atrás, alguns meios de comunicação lançaram uma organização mcn que pode usar ia para gerar de 4.000 a 7.000 artigos de boatos todos os dias. graças à bênção da tecnologia de ia, esses artigos parecem muito “reais e razoáveis” para o público que não está familiarizado com a tecnologia da internet. depois de ver esse tipo de informação com “imagens e verdade”, é fácil acreditar que seja verdade.
de acordo com uma pesquisa da mídia, usando ia doméstica, o custo de um artigo de ia é de apenas 0,00138 yuans e 7 artigos podem ser gerados por 1 centavo. tais "sem capital e enormes lucros" podem ser facilmente explorados por criminosos. fotos e vídeos falsos como "ataque no metrô", "explosão em xi'an", "explosão em uma casa particular em wuxi, chongqing", etc. teve um impacto social ruim. a verdade por trás disso são os rumores de produção em massa de ia.
registrar inteligência artificial para gerar conteúdo sintético não é tecnicamente difícil de implementar. alguns especialistas sugerem que a plataforma pode ser totalmente conectada ao grande sistema de modelo da plataforma de geração de conteúdo de ia, realizar identificação e comparação de dados em tempo real e, em seguida, anexar uma marca d'água digital irremovível ou descrições de texto como "esta imagem/ o vídeo é sintetizado pela ia".
este "rascunho para comentários" enfatiza que "nenhuma organização ou indivíduo deverá excluir, adulterar, forjar ou ocultar maliciosamente os identificadores de conteúdo sintético gerado estipulados nestas medidas". ferramentas para para gerar o "dividendo de tráfego", adotamos uma atitude de apaziguamento de fechar os olhos e fechar um olho. um ciberespaço claro não deve permitir que o conteúdo da ia seja confundido e confunda os limites da realidade; se alguma informação for identificada como boato, a plataforma deve imediatamente rotulá-la e limpá-la;
a capacidade da inteligência artificial de gerar e sintetizar excede a cognição tradicional e também nos faz perceber: muitos artigos online parecem muito "científicos" e muitos vídeos online parecem particularmente "reais", mas podem não ser necessariamente confiáveis, então não ' não tenha pressa em acreditar. você também pode procurar primeiro. existe uma placa "esta imagem/vídeo é sintetizada por ia" em uma posição de destaque do conteúdo?
li qinyu, comentarista-chefe do the paper
(este artigo é do the paper. para mais informações originais, baixe o app “the paper”)
