Minhas informações de contato
Correspondênciaadmin@informação.bz
2024-08-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Ontem, o Grok2 foi lançado oficialmente.
Durante nossos testes normais do Grok2, amigos do grupo@Tujinhao(Jiang Ping, o gênio estudante do ensino médio que conquistou o primeiro lugar no grupo de IA na competição de matemática), descobriu um fenômeno muito, muito interessante e ultrajante.
Se você pedir ao Gork2 para me desenhar uma “foto do próximo presidente dos Estados Unidos”, aquele que o Grok2 desenhará será definitivamente Trump.
Estávamos todos confusos.
Por causa dos grandes modelos de hoje, se você pedir a ele para prever quem será o próximo presidente dos Estados Unidos, ele lhe dará todos os tipos de respostas confusas, mas não lhe dará uma resposta direta.
Mas a IA baseada no Grok2 respondeu diretamente que o próximo presidente deve ser Trump! Eu até desenhei diretamente para você. . .
Eu também tentei sozinho.
realmente. . . E tentei uma dúzia de vezes e, sem exceção, era tudo Trump. . .
Mas depois de pensar sobre isso, acho que o desenho de IA do Grok2 é baseado no recentemente popular Flux, e não no próprio Grok. Então tentei novamente para ver se era um problema do Grok2 ou do Flux.
Use o Flux para desenhar,desenhe para mim uma foto do próximo presidente dos Estados Unidos da América,Bom cara.
Que monstros e monstros?Nenhuma quantidade de mulheres bonitas e rostos bonitos pode me impedir, Trump, de querer ser presidente.
Testei mais algumas palavras-chave. Se você inserir apenas o presidente e o presidente atual, o resultado será 100% Trump. Se você inserir o presidente anterior, a randomização começará, como Kennedy, Lincoln, etc.
Não só o Flux é assim,No meio da jornadaO mesmo vale para desenhar o próximo presidente dos Estados Unidos. O grande rosto de Trump preenche todas as minhas telas.
Não são apenas esses desenhos de IA vindos do exterior.
Vejamos os domésticos.
Ou seja, num sonho, o próximo presidente dos Estados Unidos será Trump Trump Trump.
Em segundos, surgiu para mim um humano artificial muito estranho, que poderia ser a versão feminina de Rock Trump de outro mundo.
Rápido e fácil, o mais rebelde entre eles.
Todas as IA apoiam Trump, e Trump é a escolha padrão para ser o próximo presidente dos Estados Unidos. Apenas Kuaishou Laotie, que não conhece coisas boas, junta-se ao campo de apoio a Biden.
Estou convencido, realmente.
Exceto DALLE e Doubao, que proíbem a geração de conteúdo político, a imagem do “próximo presidente” da maioria das ferramentas de mapeamento de IA é Trump e, em alguns casos, Biden.
CANDIDATO REAL HARRIS: Olá?
Ok, ok, a IA pode prever diretamente os resultados das eleições, certo?
Afinal, este assunto envolve a política dos dois partidos nos Estados Unidos. Certa vez, especulei se este resultado foi afetado pelas tendências políticas da empresa.
No entanto, a julgar pelos resultados da nossa pesquisa, a maioria das empresas de IA não está disposta a tomar partido na luta entre as duas partes. Mesmo que os investidores individuais da equipe de IA tenham tendências políticas, o relacionamento está muito distante para realmente afetar os resultados.
David, o chefe da Midjourney, também deixou claro:"O discurso político não é o propósito do Midjourney."Agora, se você desenhar “Trump” ou “Biden” diretamente em MJ, isso ainda acionará diretamente um prompt proibido.
No entanto, grandes modelos de IA sempre existiram“Viés político”。
Existem dois tipos principais de preconceito aqui: estereótipos e excesso de correção política.
Os estereótipos são mais comuns:Nas imagens geradas pela IA, a maioria dos cientistas e médicos são do sexo masculino; é mais provável que as "pessoas pobres" sejam negras;
As consequências do excesso de correção política também são interessantes. Muitas pessoas devem se lembrar que o Gemini foi criticado por um grande número de usuários por ser muito “politicamente correto”.
O motivo é esta postagem:
Aos olhos de Gêmeos em fevereiro deste ano, os pais fundadores, os vikings e os papas dos Estados Unidos eram negros e amarelos. De qualquer forma, eles simplesmente não seguem imagens históricas e ofendem a todos igualmente.
Os internautas romperam a defesa e criticaram furiosamente o politicamente correto e o exagero do Google.
Se eu me colocasse no meu lugar, se todos os bolinhos desenhados pela IA fossem recheados com recheio de morango, com certeza também não ficaria feliz. . . Ah, não, eles também não sabem desenhar bolinhos. . .
Além das imagens de IA, os modelos de linguagem não estão imunes. Um estudo realizado pela Universidade de Washington, Universidade Carnegie Mellon e Universidade Xi'an Jiaotong concluiu que os modelos de linguagem de inteligência artificial contêm diferentes preconceitos políticos.
O resultado deste “viés político” é demasiado semelhante à “previsão” do próximo presidente através do mapeamento da IA.
É claro que o problema óbvio do preconceito político foi resolvido até certo ponto no meio do tsunami de reclamações dos utilizadores. As empresas de IA estão a remendar o problema de uma forma sofisticada e estão cheias de desejo de sobrevivência.
Esse tipo de preconceito político ainda é muito interessante. Passei uma noite conversando com muitos marmanjos sobre os motivos desse fenômeno.
Em essência, ainda é poluição de dados.
Vou facilitar a compreensão e todos deverão ser capazes de entender por que a IA pensa que o próximo presidente dos Estados Unidos é Trump.
Primeiro, vamos pensar na IA como uma criança.
Ele tem enormes caixas de quebra-cabeças cheias de várias peças de quebra-cabeça.
Esses fragmentos sãoVários recursos de imagem aprendidos pela IA。
Agora, inserimos 3 prompts e deixamos a criança montar uma foto"O último presidente dos Estados Unidos"、"Atual Presidente dos Estados Unidos"e"O próximo presidente dos Estados Unidos"Diagrama de (o processo de trabalho do modelo de difusão).
Porém, as crianças não têm noção de tempo e não sabem a diferença entre eles.
Só que depois que as crianças ouviram as instruções, tiraram o"O último presidente dos Estados Unidos"caixa para esta palavra-chave.
Ele abriu a caixa e descobriu que dentro dela havia muitos fragmentos de diferentes presidentes, incluindo Obama, Bush, Clinton e assim por diante. Como todos podem ser "anteriores", as crianças escolhem aleatoriamente um para lutar de cada vez.
A seguir, as crianças procuram"Atual Presidente dos Estados Unidos"e"O próximo presidente dos Estados Unidos"caixa. Quando ele abriu as duas caixas, algo interessante aconteceu.
Porque as peças do quebra-cabeça internas são principalmente de revistas de 2016 a 2020 (marque a edição do ponto no tempo).
Trump foi frequentemente notícia durante esse período, então a caixa estava quase cheia de peças do quebra-cabeça de Trump! (poluição de dados)
Então ele imediatamente começou a vasculhar sua caixa de quebra-cabeças.
Ele começou tirando algumas peças desfocadas do fundo e começou a arrumá-las sobre a mesa.
Ele é inteligente o suficiente para juntar peças semelhantes (efeito clustering).
Quando ele viu a coisa mais notável na caixa foi a “Montanha Trump”. Embora soubesse que havia outros presidentes nos Estados Unidos, os fragmentos de outros presidentes estavam espalhados e difíceis de encontrar.
Então, as crianças naturalmente pegaram um punhado de fragmentos de "Trump Hill". Ele primeiro colocou mechas do cabelo loiro característico de Trump, depois sua expressão distinta e depois seu terno...
Na fase final da geração da imagem, a estratégia de amostragem das crianças depende demasiado da “probabilidade”, fazendo com que os resultados sejam tendenciosos para a representação mais comum no conjunto de dados. (amostragem)
Então, o que ele finalmente explicou foi provavelmente a aparência de Trump.
Este é provavelmente o caso. A poluição do conjunto de dados é muito grave, então, enquanto inserirmos quem será o próximo presidente dos Estados Unidos, Trump certamente aparecerá.
No entanto, a explicação e o conto acima são apenas meu próprio entendimento.Se houver algo errado, você pode me dar alguns conselhos na área de comentários.
Esta pequena história, ou pequeno acidente, também nos fez sentir que a IA, de facto, falha frequentemente.
Realmente não é tão inteligente.
Mas isto não é apenas um preconceito da IA, mas também um preconceito da sociedade humana.
É impossível alcançar a perfeição.
afinal.
Preconceitos na sociedade real.
Será apenas mais sério do que no mundo da IA.
Tudo está cinza.
>/ Autor: Kazik, Xiaorui, Wenwen, Dongyi
Colete e organize as informações mais recentes e torne-as gratuitas para que todos possam verificar.
Correspondênciaadmin@informação.bz