A armadilha por trás da IA: as imagens podem não ser necessariamente verdadeiras, tenha cuidado com o “novo disfarce” dos rumores
2024-08-26
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Nos últimos anos, a tecnologia de IA desenvolveu-se rapidamente e tornou-se um ponto importante no campo global da ciência e tecnologia. A IA evoluiu de uma mera investigação académica para uma força importante que muda o estilo de vida humano. No entanto, algumas pessoas com segundas intenções transformam isso em uma ferramenta para espalhar boatos e ganhar dinheiro.
caso real
Em agosto de 2024, uma notícia chocante se espalhou rapidamente pela Internet. "O condado de Songxi, em Nanping, foi atingido por fortes ventos, resultando na morte de uma pessoa na rua Zaoling." A notícia foi ilustrada com fotos e texto, e ainda contou com videoclipes realistas, que imediatamente chamaram a atenção e encaminhamento de um grande número de internautas. No entanto, após verificação pelo órgão de segurança pública, descobriu-se que se tratava, na verdade, de um boato online fabricado com IA.
Após investigação, descobriu-se que o boato foi gerado pelo editor Zhou por meio de software de IA para ganhar atenção e tráfego. Depois de reunir fotos e videoclipes, Zhou criou informações falsas com "imagens", "texto" e "sons" e as publicou na plataforma da Internet, causando impacto social negativo.
Os órgãos de segurança pública impuseram sanções administrativas a Zhou de acordo com a lei.
Estudo de caso
Os espalhadores de boatos aproveitam o baixo custo, a alta eficiência e a operação simples da IA. Ao fornecer palavras-chave, o software de IA rastreará automaticamente informações relevantes na Internet, usando notícias quentes e áudio e vídeo online aleatórios como materiais para produção em massa. Rumores na Internet Publique-os nas principais plataformas online para atrair a atenção ou monetizar o tráfego. A propagação e o impacto dos rumores aumentam exponencialmente.
Quando os rumores são disfarçados de IA, eles não só podem gerar texto automaticamente, mas também podem gerar imagens, áudio e vídeo próximos da realidade, dando vida a cenas inexistentes e fazendo personagens fictícios parecerem realmente existir. Isto subverte completamente o nosso entendimento convencional de que “se existe uma imagem, existe a verdade”, tornando-nos difícil distinguir a verdade dos próprios rumores na Internet.
Os rumores sobre IA tornaram-se um novo tópico na Internet que precisa ser abordado com urgência. Então, na vida cotidiana, como podemos manter os olhos abertos, identificar e resistir aos rumores sobre IA?
Alerta de Internet
01
A curiosidade deve ser moderada: Ao se deparar com informações novas e exageradas, não se apresse em descobrir a verdade primeiro. A IA seleciona e agarra os tópicos aos quais todos prestam atenção para criar rumores online e espalhá-los aproveitando a curiosidade dos internautas. .
02
Não confie em informações de fontes desconhecidas: Lembre-se de não acreditar cegamente e espalhar informações não verificadas. Ao ver informações suspeitas nas redes sociais ou na Internet, você pode verificá-las primeiro ou aguardar a divulgação de notícias oficiais antes de tomar uma decisão.
03
Preste sempre atenção aos canais autorizados: Esteja atento às fontes de informação ao navegar na informação online, subscreva contas dos meios de comunicação oficiais e departamentos governamentais e tente escolher meios de comunicação ou instituições autorizadas e confiáveis como fontes de informação.
04
A análise lógica é indispensável: preste atenção à lógica da informação da rede. Se você encontrar lacunas ou contradições lógicas óbvias em uma informação, é provável que ela tenha sido adulterada ou fabricada.
Material|Polícia da Internet de Fujian
Fonte: Gabinete de Segurança Cibernética do Ministério da Segurança Pública
