noticias

Recientemente, la obra maestra del juego AAA nacional "Black Myth: Wukong" se ha vuelto popular en Internet y atrajo la atención mundial poco después de su lanzamiento. Según las estadísticas de la lista de los más vendidos de los Juegos Nacionales, en solo un día, las ventas totales del juego en múltiples plataformas superaron los 4,5 millones de copias y las ventas totales superaron los 1,5 mil millones de yuanes. Al mismo tiempo, también ha habido algunas "víctimas" implicadas por la popularidad de sus juegos.

El día que se desbloqueó "Black Myth: Wukong" en Steam, un conocido presentador del juego sufrió mareos 3D mientras jugaba en vivo. Como resultado, encabezó la lista de búsquedas más populares en Weibo y en broma lo llamaron "Black Myth". : Wukong" por muchos internautas. "La primera víctima del mundo". Y el 21 de agosto, apareció otra "víctima" del juego, y sus experiencias relacionadas fueron en realidad similares amicrosoftrelacionado.

Al ingresar "Servicio al cliente de Black Myth Wukong" en la búsqueda de Bing de Microsoft, se muestra incorrectamente el número de teléfono móvil personal de un empleado de Jifeng.com, que no es el número oficial de servicio al cliente. Además, se marcaron dos números de teléfono incorrectos como servicio al cliente, incluido el número de contacto y la dirección de correo electrónico del Departamento de derechos de autor de China Business News.

La persona cuyo número de teléfono se filtró dijo que recibió casi 20 llamadas en 5 horas. Se informa que el motivo principal de este incidente fue Microsoft Bing. AI El asistente capturó información por error, lo que provocó la filtración de su información personal. Posteriormente, aunque los artículos capturados relevantes se eliminaron y la víctima presentó una queja y otros comentarios, la información incorrecta del "Servicio al cliente de Black Myth Wukong" todavía aparecía en Bing. buscar página de inicio. Actualmente, a juzgar por la situación de la búsqueda, el equipo de Bing ha corregido la información errónea.

Como el segundo motor de búsqueda más grande del mundo, Microsoft Bing cubre 36 países y regiones con más de 600 millones de usuarios. El 7 de febrero de 2023, Microsoft anunció que ChatGPT Integrado en la nueva versión de Bing (New Bing), la nueva versión integrada de Bing adoptaráIA abierta modelo de IAGPT Versión mejorada de 3.5GPT-4. Este incidente puede indicar que los motores de búsqueda de IA tienen ciertas deficiencias en la captura y procesamiento de información.

El mes pasado, Microsoft anunció una importante actualización de Bing. El motor de búsqueda sufrirá una transformación integral y comenzará a priorizar las respuestas generadas por la IA. Es decir, cuando un usuario ingresa una consulta de búsqueda, aparece una respuesta maestra generada por IA en la página de resultados, que detalla todas las fuentes de información seleccionadas utilizadas para obtener los resultados. Por supuesto, seguirá viendo los resultados de búsqueda tradicionales en la página de búsqueda de Bing, pero se mostrarán junto al material generado por IA (en un panel más pequeño a la derecha).

Respecto a este cambio, Microsoft explicó en una publicación de blog oficial: "Esta nueva experiencia será la base inherente de los resultados de búsqueda de Bing, con el modelo de lenguaje grande/pequeño (Máster en Derecho Combinado con las potentes funciones de SLM). Entiende consultas de búsqueda, recupera millones de fuentes de información, relaciona contenido dinámicamente y muestra resultados de búsqueda en nuevos diseños generados por IA para satisfacer de manera más efectiva la intención de consulta del usuario. "

Microsoft también enumeró algunos ejemplos en su publicación de blog sobre la búsqueda generativa de Bing. Además de describir la función de resumen, Microsoft también proporcionará enlaces de fuentes primarias para modelos de lenguaje grandes y modelos de lenguaje pequeños, que se utilizan para crear las respuestas que ven los usuarios. Después de que la IA genera los resultados, hay una lista periódica de entradas de resultados.

Por ejemplo, cuando la consulta "¿Cuánto tiempo viven los elefantes?", el cuerpo del resumen de la respuesta también enumera videos que afectan la vida útil de los elefantes, si el usuario busca "¿Qué es un spaghetti western?", la búsqueda generativa de Bing; Muestra información sobre la historia, los orígenes y los clásicos de este subgénero cinematográfico, junto con enlaces y fuentes a esta información.

En ese momento, Microsoft dijo que este ajuste sólo se implementó para un pequeño número de usuarios de Bing, pero que debería ampliarse gradualmente en un futuro próximo. Microsoft también declaró en su blog que continuarán evaluando el impacto de la búsqueda con IA en los sitios web y los lectores. A algunas personas en la industria les preocupa que siAILos sitios web que crean contenido de forma gratuita eventualmente cerrarán si el contenido extraído por robots se presenta directamente en ventanas de chat o páginas de búsqueda.

En respuesta, Microsoft dijo que esta nueva experiencia de búsqueda de IA se creó desde cero teniendo en cuenta este problema, manteniendo así la misma cantidad de clics en el sitio web que la búsqueda tradicional. El tiempo dirá si esto es cierto. Además, se entiende que Bing puede optar por desactivar la función de generación de IA en la página de resultados y solo mostrar fragmentos de búsqueda tradicionales.

Ahora, Microsoft no es la única empresa de navegadores que agrega resultados generados por IA a las páginas de búsqueda. A medida que Microsoft lanza más herramientas para Bing, la competencia para introducir más funciones de inteligencia artificial en la búsqueda aumenta gradualmente.

Sin embargo, innumerables casos de la vida real están demostrando que la búsqueda por IA no es tan confiable y precisa como pensamos: puede cometer errores y, en algunos casos, incluso muestra información y sugerencias incorrectas en los resultados generados.

A principios de este año,GoogleSe lanzó una herramienta similar llamada AI Overview para retener a los usuarios que desean buscar respuestas a preguntas directamente desde los chatbots de AI. Pero la herramienta también ha hecho algunas bromas desde su lanzamiento, como sugerir agregar pegamento para hacer que el queso se adhiera a la pizza y responder: "Los geólogos recomiendan comer al menos una piedra pequeña todos los días".

El navegador Arc Search, en modo IA, promete dar consejos médicos inapropiados y dice: "Un dedo amputado eventualmente volverá a crecer".

El motor de búsqueda de inteligencia artificial Genspark recomienda a los usuarios algunas armas que pueden usarse para matar personas.Perplejidad Plagiaron artículos periodísticos escritos por algunos medios, pero no indicaron la fuente ni la propiedad de los derechos de autor.

Además, los resúmenes generados por IA pueden canibalizar el tráfico al sitio web del que se derivan. Un estudio encontró que los extractos de IA pueden reducir el tráfico de los editores de contenido en aproximadamente un 25% debido a la falta de énfasis en los enlaces de los artículos.

Estos motores de búsqueda de IA emergentes son populares por su capacidad para generar rápidamente grandes cantidades de texto e imitar texto humano con efectos convincentes, pero detrás de escena, la "ilusión" de la IA también se ha convertido en una influencia para que estos chatbots lo lleven al siguiente nivel de resistencia clave. Lamentablemente, algunos expertos advierten que es posible que la situación nunca se resuelva.

Un nuevo informe publicado por Associated Press destaca que el problema de las "tonterías" del modelo de lenguaje grande (LLM) puede no ser tan fácil de resolver como afirman muchos fundadores de tecnología y defensores de la IA. Emily Bender, profesora de lingüística en el Laboratorio de Lingüística Computacional de la Universidad de Washington, se mostró pesimista: "El problema de las alucinaciones es simplemente irresoluble y es un resultado inevitable de la falta de coincidencia entre la tecnología y los casos de uso propuestos".

Según Shane Orlick, presidente de Jasper AI, hay situaciones en las que las "tonterías" apropiadas no son algo malo. Orlick explicó: "Las ilusiones en realidad pueden traer beneficios adicionales. Los clientes siempre nos han agradecido por la inspiración. La causa fundamental es que la IA puede generar historias o perspectivas en las que los clientes nunca habían pensado por diversas coincidencias".

De manera similar, la ilusión de IA también es de gran ayuda para la generación de imágenes de IA. Modelos como Dall-E y Midjourney dependen de esta imaginación para generar imágenes maravillosas y llamativas. En otras palabras, sólo en el campo de la generación de texto, las alucinaciones son un problema que realmente molesta a los usuarios, especialmente en escenarios donde se enfatiza mucho la precisión, como en los informes de noticias.

Bender señala: "El principio básico de los grandes modelos de lenguaje es 'inventar' contenido, que es la raíz de todas sus funciones. Pero debido a que el poder proviene de inventar cosas, cuando el texto que generan coincide correctamente con nuestra indicación En otras palabras, esta situación es más bien una cuestión de suerte. Incluso si los modelos ajustados son correctos la mayor parte del tiempo, todavía no son completamente inmunes a los fallos, y es probable que la ilusión del futuro exista en una imagen borrosa que es más difícil. para que los lectores de texto lo noten”.

El modelo de lenguaje grande es una herramienta poderosa que puede lograr funciones extraordinarias, pero las empresas e incluso toda la industria tecnológica deben darse cuenta de que sólo porque algo sea poderoso no puede considerarse una herramienta útil. Un taladro percutor es fantástico para romper pavimento y asfalto, pero nadie se atreve a llevarlo a una excavación arqueológica.

Como señaló Bender, en el momento en que un modelo de lenguaje grande comienza a entrenarse, intenta predecir la siguiente palabra en la secuencia en función de las palabras clave que le damos. A cada palabra de los datos de entrenamiento se le asigna un peso o porcentaje para realizar un seguimiento de las apariciones anteriores de una palabra determinada en un contexto determinado. Pero estas primeras palabras en sí mismas no tienen suficiente significado tangible o contexto importante para garantizar un resultado preciso.

En otras palabras, estos grandes modelos de lenguaje son simplemente grandes imitadores. En realidad, no saben de qué están hablando, por lo que confiar demasiado en ellos sólo traerá problemas a los usuarios. Esta debilidad es inherente a los grandes modelos de lenguaje y, si bien la "ilusión" puede disminuir gradualmente en futuras iteraciones, es posible que el problema en sí nunca se solucione realmente.

Enlaces de referencia:

https://www.engadget.com/microsoft-está-agregando-resúmenes-con-función-de-inteligencia-inteligente-a-los-resultados-de-búsqueda-de-必应-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ La inteligencia artificial se ha renovado para priorizar los resultados de búsqueda de inteligencia artificial, ya sea que le guste o no

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/