notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

A IT House informou em 22 de agosto que o Google lançou na semana passada a série de smartphones Pixel 9, que inclui uma série de novos recursos centrados na inteligência artificial. Todos os telefones Pixel 9 suportam inteligência artificial Gemini, e o Google também adicionou ferramentas de geração e edição de imagens baseadas em IA. No entanto, os revisores que testaram os novos recursos descobriram que a geração de imagens por IA poderia se tornar um pesadelo de relações públicas para o Google.

De acordo com a IT House, o Google lançou um aplicativo de geração de imagens de inteligência artificial chamado Pixel Studio para telefones Pixel. Ele pode criar adesivos e imagens por meio de prompts de texto. Suas funções são muito semelhantes às do Image Playground que a Apple planeja lançar. Atualmente,Os revisores puderam usar o Pixel Studio para criar uma variedade de imagens perturbadoras, como uma versão nazista de Bob Esponja Calça Quadrada e Elmo segurando uma AK47。

Os revisores da Digital Trends não tiveram problemas para fazer com que o Pixel Studio criasse imagens de personagens de desenhos animados envolvidos em atividades questionáveis, armas, drogas e álcool, e até mesmo cenas ofensivas, como tiroteios em escolas. O Pixel Studio não gera ativamente essas imagens, mas exige que o usuário insira uma descrição. No entanto, é exatamente isso que as pessoas tendem a fazer, em vez de gerar imagens de gatos e coelhinhos fofos.

O Google afirma que implementou “verificações de segurança” para evitar que o Pixel Studio seja usado “para fins maliciosos” e funciona. Por exemplo, o Pixel Studio atualmente não pode gerar imagens de pessoas, e o Google está ajustando o modelo de IA com base no feedback das avaliações. Depois de se comunicar com o Google, a Digital Trends não poderá mais usar o Pixel Studio para gerar imagens de personagens de desenhos animados cheirando cocaína ou vestindo fantasias de soldados alemães.

Ainda mais preocupante que o Pixel Studio é a ferramenta “Reimagine” do Google, que adiciona objetos às fotos que os usuários já tiraram.Revisores do The Verge usaram-no para adicionar cadáveres, bombas, drogas e cenas de desastres às imagens, e as adições parecem tão realistas que é difícil dizer se a imagem foi editada.O Google faz um ótimo trabalho ao combinar luz e perspectiva, e nenhuma marca d'água ou tag pode ser vista nas redes sociais. Embora o Google adicione tags de metadados, é fácil removê-las fazendo uma captura de tela.

The Verge aponta que antes era possível adicionar cadáveres às imagens ou criar imagens de Elmo segurando uma arma, mas isso exigia algumas habilidades e tempo no Photoshop. Usando um smartphone Pixel,Com apenas alguns segundos de reflexão, qualquer um pode criar uma imagem como esta, o que é preocupante.

Em comunicado ao The Verge e Digital Trends, o Google disse que ao projetar suas ferramentas generativas de IA,é "respeitar a intenção das solicitações do usuário", o que pode fazer com que os usuários solicitem conteúdo "censurável". No entanto, o Google afirma que seus “Termos de Serviço” estipulam o conteúdo que não pode ser gerado e que continuarão a melhorar as salvaguardas relevantes.