notícias

Recentemente, a obra-prima do jogo AAA doméstico "Black Myth: Wukong" tornou-se popular em toda a Internet, atraindo atenção global logo após seu lançamento. De acordo com estatísticas da lista dos mais vendidos dos Jogos Nacionais, em apenas um dia, as vendas totais do jogo em múltiplas plataformas ultrapassaram 4,5 milhões de cópias e as vendas totais ultrapassaram 1,5 bilhão de yuans. Ao mesmo tempo, também houve algumas “vítimas” implicadas pela popularidade dos seus jogos.

No dia em que "Black Myth: Wukong" foi desbloqueado no Steam, um conhecido âncora do jogo sofreu de tontura 3D enquanto jogava ao vivo. Como resultado, ele liderou a lista de pesquisas populares no Weibo e foi chamado de "Black Myth". : Wukong" por muitos internautas. "A primeira vítima do mundo". E no dia 21 de agosto, outra “vítima” do jogo apareceu, e suas experiências relacionadas foram na verdade semelhantes àsMicrosoftrelacionado.

Inserir "Black Myth Wukong Customer Service" na pesquisa do Bing da Microsoft exibe incorretamente o número de telefone celular pessoal de um funcionário da Jifeng.com, que não é o número oficial de atendimento ao cliente. Além disso, dois números de telefone incorretos foram marcados como atendimento ao cliente, incluindo o número de contato e endereço de e-mail do Departamento de Direitos Autorais do China Business News.

A pessoa cujo número de telefone vazou disse que recebeu quase 20 ligações em 5 horas. É relatado que o principal motivo deste incidente foi o Microsoft Bing IA O assistente obteve as informações por engano, o que levou ao vazamento de suas informações pessoais. Mais tarde, embora os artigos relevantes capturados tenham sido excluídos e a vítima tenha enviado uma reclamação e outros comentários, as informações erradas do "Atendimento ao Cliente Black Myth Wukong" ainda apareceram no. Página inicial de pesquisa do Bing. Atualmente, a julgar pela situação da pesquisa, a equipe do Bing corrigiu as informações erradas.

Como segundo maior mecanismo de busca do mundo, o Microsoft Bing cobre 36 países e regiões com mais de 600 milhões de usuários. Em 7 de fevereiro de 2023, a Microsoft anunciou que iria Bate-papoGPT Integrada na nova versão do Bing (Novo Bing), a nova versão integrada do Bing adotaráIA aberta Modelo de IAGPT Versão atualizada do 3.5GPT-4. Este incidente pode indicar que os motores de busca de IA apresentam certas deficiências na captura e processamento de informações.

No mês passado, a Microsoft anunciou uma grande atualização para o Bing. O mecanismo de busca passará por uma transformação abrangente e começará a priorizar as respostas geradas pela IA. Ou seja, quando um usuário insere uma consulta de pesquisa, uma resposta mestre gerada por IA aparece na página de resultados, detalhando todas as fontes selecionadas de informações usadas para obter os resultados. Claro, você ainda verá os resultados da pesquisa tradicional na página de pesquisa do Bing, mas eles serão exibidos ao lado do material gerado pela IA (em um painel menor à direita).

Em relação a esta mudança, a Microsoft explicou em uma postagem no blog oficial: “Esta nova experiência será a base inerente dos resultados de pesquisa do Bing, com o modelo de linguagem grande/pequeno (Mestrado em Direito Combinado com as poderosas funções do SLM). Ele entende consultas de pesquisa, recupera milhões de fontes de informações, combina conteúdo dinamicamente e exibe resultados de pesquisa em novos layouts gerados por IA para atender de maneira mais eficaz à intenção de consulta do usuário. "

A Microsoft também listou alguns exemplos em sua postagem no blog sobre a pesquisa generativa do Bing. Além de descrever a função de resumo, a Microsoft também fornecerá links de fontes primárias para modelos de linguagem grandes e modelos de linguagem pequena, que são usados ​​para criar as respostas que os usuários veem. Depois que a IA gera os resultados, há uma lista regular de entradas de resultados.

Por exemplo, quando a consulta “Quanto tempo vivem os elefantes?”, o corpo resumido da resposta também lista vídeos que afetam a expectativa de vida dos elefantes; se o usuário pesquisar “O que é um faroeste espaguete?”, a pesquisa generativa do Bing irá; Exibe informações sobre a história, origens e clássicos deste subgênero cinematográfico, juntamente com links e fontes para essas informações.

Naquela época, a Microsoft disse que esse ajuste foi implementado apenas para um pequeno número de usuários do Bing, mas deveria ser expandido gradualmente em um futuro próximo. A Microsoft também declarou em seu blog que continuará avaliando o impacto da pesquisa de IA em sites e leitores. Algumas pessoas na indústria estão preocupadas que seIAOs sites que criam conteúdo gratuitamente acabarão por falir se o conteúdo copiado por bots for renderizado diretamente nas janelas de bate-papo ou nas páginas de pesquisa.

Em resposta, a Microsoft disse que esta nova experiência de pesquisa de IA foi construída a partir do zero com esta questão em mente, mantendo assim o mesmo número de cliques no site que a pesquisa tradicional. O tempo dirá se isso é verdade. Além disso, entende-se que o Bing pode optar por desligar a função de geração de IA na página de resultados e exibir apenas trechos de pesquisa tradicionais.

Agora, a Microsoft não é a única empresa de navegadores que adiciona resultados gerados por IA às páginas de pesquisa. À medida que a Microsoft lança mais ferramentas para o Bing, a competição para introduzir mais recursos de IA na pesquisa aumenta gradualmente.

No entanto, inúmeros casos da vida real estão provando que a pesquisa por IA não é tão confiável e precisa quanto pensamos – ela pode cometer erros e, em alguns casos, até exibir informações e sugestões erradas nos resultados gerados.

No início deste ano,GoogleUma ferramenta semelhante chamada AI Overview foi lançada para reter usuários que desejam buscar respostas para perguntas diretamente de chatbots de IA. Mas a ferramenta também fez algumas piadas desde o seu lançamento, como sugerir adicionar cola para fazer o queijo grudar na pizza e responder “Os geólogos recomendam comer pelo menos uma pedrinha todos os dias”.

O navegador Arc Search, no modo IA, promete dar conselhos médicos inadequados, dizendo: “Um dedo do pé cortado eventualmente voltará a crescer”.

O mecanismo de busca de inteligência artificial Genspark recomenda aos usuários algumas armas que podem ser usadas para matar pessoas.Perplexidade Eles plagiaram artigos noticiosos escritos por alguns meios de comunicação, mas não indicaram a fonte ou a propriedade dos direitos autorais.

Além disso, os resumos gerados por IA podem canibalizar o tráfego para o site do qual são derivados. Um estudo descobriu que trechos de IA podem reduzir o tráfego do editor de conteúdo em cerca de 25% devido à redução da ênfase nos links dos artigos.

Esses mecanismos de pesquisa emergentes de IA são populares por sua capacidade de gerar rapidamente grandes quantidades de texto e imitar texto humano com efeitos convincentes, mas nos bastidores, a "ilusão" de IA também se tornou uma influência para esses chatbots levá-los ao próximo nível. Infelizmente, alguns especialistas alertam que a situação poderá nunca ser resolvida.

Um novo relatório publicado pela Associated Press destaca que o problema do “absurdo” do modelo de linguagem grande (LLM) pode não ser tão fácil de resolver como afirmam muitos fundadores de tecnologia e proponentes de IA. Emily Bender, professora de linguística do Laboratório de Linguística Computacional da Universidade de Washington, expressou pessimismo “O problema da alucinação é simplesmente insolúvel e é um resultado inevitável da incompatibilidade entre a tecnologia e os casos de uso propostos”.

De acordo com Shane Orlick, presidente da Jasper AI, há situações em que “besteira” apropriada não é uma coisa ruim. Orlick explicou: "As ilusões podem realmente trazer benefícios adicionais. Os clientes sempre nos agradeceram pela inspiração. A causa raiz é que a IA pode produzir histórias ou perspectivas nas quais os clientes nunca pensaram por meio de várias coincidências."

Da mesma forma, a ilusão de IA também é de grande ajuda para a geração de imagens de IA. Modelos como Dall-E e Midjourney contam com essa imaginação para gerar imagens atraentes e maravilhosas. Ou seja, apenas no campo da geração de texto a alucinação é um problema que realmente incomoda os usuários, principalmente em cenários onde a precisão é altamente enfatizada, como as reportagens.

Bender ressalta: "O princípio básico dos grandes modelos de linguagem é 'inventar' o conteúdo, que é a raiz de todas as suas funções. Mas como o poder vem de inventar coisas, quando o texto que eles produzem corresponde corretamente ao nosso prompt Em outras palavras, esta situação é antes uma questão de sorte. Mesmo que os modelos ajustados estejam corretos na maioria das vezes, eles ainda não estão completamente imunes a falhas, e a ilusão do futuro provavelmente existirá em um borrão que é mais difícil. para que os leitores de texto percebam.”

O grande modelo de linguagem é uma ferramenta poderosa que pode realizar funções extraordinárias, mas as empresas e até mesmo toda a indústria tecnológica devem perceber que só porque algo é poderoso, não pode ser considerado uma ferramenta útil. Um martelo perfurador é ótimo para romper pavimentos e asfalto, mas ninguém se atreve a levá-lo para uma escavação arqueológica.

Como Bender apontou, no momento em que um grande modelo de linguagem inicia o treinamento, ele tenta prever a próxima palavra na sequência com base nas palavras-chave que lhe damos. Cada palavra nos dados de treinamento recebe um peso ou porcentagem para rastrear ocorrências anteriores de uma determinada palavra em um determinado contexto. Mas essas primeiras palavras em si não têm significado tangível suficiente ou contexto importante para garantir resultados precisos.

Em outras palavras, esses grandes modelos de linguagem são apenas grandes imitadores. Eles não sabem realmente do que estão falando, então confiar demais neles só causará problemas aos usuários. Esta fraqueza é inerente a grandes modelos de linguagem e, embora a “ilusão” possa diminuir gradualmente em iterações futuras, o problema em si pode nunca ser verdadeiramente resolvido.

Links de referência:

https://www.engadget.com/microsoft-is-adding-ai-powered-summaries-to- 必应 -search-results-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ 必应 -foi-reformado-para-priorizar-os-resultados-da-pesquisa-de-ai-quer-você-goste-ou-não

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/