nouvelles

Récemment, le chef-d'œuvre du jeu AAA national « Black Myth : Wukong » est devenu populaire partout sur Internet, attirant l'attention mondiale peu après son lancement. Selon les statistiques de la liste des best-sellers des Jeux nationaux, en une seule journée, les ventes totales du jeu sur plusieurs plateformes ont dépassé 4,5 millions d'exemplaires et les ventes totales ont dépassé 1,5 milliard de yuans. Dans le même temps, il y a aussi eu quelques « victimes » impliquées par la popularité de ses jeux.

Le jour où "Black Myth: Wukong" a été débloqué sur Steam, un présentateur de jeu bien connu a souffert de vertiges 3D alors qu'il jouait au jeu en direct. En conséquence, il était en tête de la liste des recherches les plus recherchées sur Weibo et a été appelé en plaisantant "Black Myth". : Wukong" par de nombreux internautes. "La première victime du monde". Et le 21 août, une autre « victime » du jeu est apparue, et ses expériences liées étaient en fait similaires à celles deMicrosoften rapport.

La saisie de « Service client Black Myth Wukong » dans la recherche Bing de Microsoft affiche de manière incorrecte le numéro de téléphone portable personnel d'un employé de Jifeng.com, qui n'est pas le numéro officiel du service client. De plus, deux numéros de téléphone incorrects ont été marqués comme service client, notamment le numéro de contact et l'adresse e-mail du département des droits d'auteur de China Business News.

La personne dont le numéro de téléphone a été divulgué a déclaré avoir reçu près de 20 appels en 5 heures. Il est rapporté que la principale raison de cet incident était Microsoft Bing IA L'assistant a récupéré les informations par erreur, ce qui a entraîné la fuite de ses informations personnelles. Plus tard, bien que les articles saisis concernés aient été supprimés et que la victime ait déposé une plainte et d'autres commentaires, les informations erronées du « Service client Black Myth Wukong » sont toujours apparues sur le site. Page d'accueil de recherche Bing. Actuellement, à en juger par la situation de recherche, l'équipe Bing a corrigé les informations erronées.

En tant que deuxième moteur de recherche au monde, Microsoft Bing couvre 36 pays et régions avec plus de 600 millions d'utilisateurs. Le 7 février 2023, Microsoft a annoncé qu'il ChatGPT Intégrée à la nouvelle version de Bing (New Bing), la nouvelle version intégrée de Bing adopteraOpenAI Modèle d'IAGPT Version améliorée de 3.5GPT-4. Cet incident peut indiquer que les moteurs de recherche IA présentent certaines lacunes dans la capture et le traitement des informations.

Le mois dernier, Microsoft a annoncé une mise à jour majeure de Bing. Le moteur de recherche subira une transformation complète et commencera à donner la priorité aux réponses générées par l'IA. Autrement dit, lorsqu'un utilisateur saisit une requête de recherche, une réponse principale générée par l'IA apparaît sur la page de résultats, détaillant toutes les sources d'informations sélectionnées utilisées pour obtenir les résultats. Bien sûr, vous verrez toujours les résultats de recherche traditionnels sur la page de recherche Bing, mais ils seront affichés à côté du matériel généré par l'IA (dans un volet plus petit à droite).

Concernant ce changement, Microsoft a expliqué dans un article de blog officiel : « Cette nouvelle expérience sera la base inhérente des résultats de recherche Bing, avec le modèle de langage grand/petit (Maîtrise en droit (LL.M.) Combiné avec les puissantes fonctions de SLM). Il comprend les requêtes de recherche, récupère des millions de sources d'informations, fait correspondre dynamiquement le contenu et affiche les résultats de recherche dans de nouvelles mises en page générées par l'IA pour répondre plus efficacement aux intentions de requête des utilisateurs. "

Microsoft a également répertorié quelques exemples dans son article de blog sur la recherche générative de Bing. En plus de décrire la fonction de résumé, Microsoft fournira également des liens vers des sources principales pour les grands modèles de langage et les petits modèles de langage, qui sont utilisés pour créer les réponses que les utilisateurs voient. Une fois que l'IA a généré les résultats, il existe une liste régulière d'entrées de résultats.

Par exemple, lorsque la requête « Combien de temps vivent les éléphants ? », le corps récapitulatif de la réponse répertorie également les vidéos qui affectent la durée de vie des éléphants ; si l'utilisateur recherche « Qu'est-ce qu'un western spaghetti ? », la recherche générative de Bing le fera ; Affiche des informations sur l'histoire, les origines et les classiques de ce sous-genre cinématographique, ainsi que des liens et des sources vers ces informations.

À l'époque, Microsoft avait déclaré que cet ajustement n'était déployé que pour un petit nombre d'utilisateurs de Bing, mais qu'il devrait être progressivement étendu dans un avenir proche. Microsoft a également déclaré dans son article de blog qu'il continuerait à évaluer l'impact de la recherche IA sur les sites Web et les lecteurs. Certaines personnes dans l'industrie s'inquiètent du fait que siIALes sites Web qui créent du contenu gratuitement finiront par cesser leurs activités si le contenu récupéré par les robots est affiché directement dans les fenêtres de discussion ou les pages de recherche.

En réponse, Microsoft a déclaré que cette nouvelle expérience de recherche IA avait été conçue dès le départ en gardant ce problème à l'esprit, conservant ainsi le même nombre de clics sur le site Web que la recherche traditionnelle. Le temps nous dira si cela est vrai. De plus, il est entendu que Bing peut choisir de désactiver la fonction de génération d'IA dans la page de résultats et d'afficher uniquement les extraits de recherche traditionnels.

Désormais, Microsoft n'est pas la seule société de navigateurs à ajouter des résultats générés par l'IA aux pages de recherche. À mesure que Microsoft lance davantage d’outils pour Bing, la concurrence pour introduire davantage de fonctionnalités d’IA dans la recherche s’intensifie progressivement.

Cependant, d'innombrables cas réels prouvent que la recherche par l'IA n'est pas aussi fiable et précise qu'on le pense : elle peut commettre des erreurs et, dans certains cas, même afficher des informations et des suggestions erronées dans les résultats générés.

Plus tôt cette année,GoogleUn outil similaire appelé AI Overview a été lancé pour fidéliser les utilisateurs qui souhaitent rechercher des réponses aux questions directement auprès des chatbots IA. Mais l'outil a également fait quelques blagues depuis son lancement, comme suggérer d'ajouter de la colle pour que le fromage colle à la pizza et répondre "Les géologues recommandent de manger au moins une petite pierre chaque jour".

Le navigateur Arc Search, en mode IA, s'engage à donner des conseils médicaux inappropriés, en disant : « Un orteil coupé finira par repousser ».

Le moteur de recherche d'intelligence artificielle Genspark recommande aux utilisateurs certaines armes pouvant être utilisées pour tuer des personnes.Perplexité Ils ont plagié des articles de presse rédigés par certains médias, mais n'ont pas indiqué la source ni la propriété des droits d'auteur.

De plus, les résumés générés par l’IA peuvent cannibaliser le trafic vers le site Web dont ils proviennent. Une étude a révélé que les extraits d’IA peuvent réduire le trafic des éditeurs de contenu d’environ 25 % en raison de la moindre importance accordée aux liens vers les articles.

Ces moteurs de recherche d'IA émergents sont populaires pour leur capacité à générer rapidement de grandes quantités de texte et à imiter le texte humain avec des effets convaincants, mais dans les coulisses, « l'illusion » de l'IA est également devenue une influence sur ces chatbots pour l'amener au prochain niveau de résistance clé. Malheureusement, certains experts préviennent que la situation pourrait ne jamais être résolue.

Un nouveau rapport publié par Associated Press souligne que le problème du « non-sens » des grands modèles de langage (LLM) n'est peut-être pas aussi facile à résoudre que le prétendent de nombreux fondateurs de technologies et partisans de l'IA. Emily Bender, professeur de linguistique au Laboratoire de linguistique computationnelle de l'Université de Washington, a exprimé son pessimisme : "Le problème des hallucinations est tout simplement insoluble et est le résultat inévitable de l'inadéquation entre la technologie et les cas d'utilisation proposés."

Selon Shane Orlick, président de Jasper AI, il existe des situations où des « conneries » appropriées ne sont pas une mauvaise chose. Orlick a expliqué : « Les illusions peuvent en fait apporter des avantages supplémentaires. Les clients nous ont toujours remerciés pour leur inspiration. La cause profonde est que l'IA peut produire des histoires ou des perspectives auxquelles les clients n'ont jamais pensé par diverses coïncidences. »

De même, l’illusion de l’IA est également d’une grande aide pour la génération d’images IA. Des modèles tels que Dall-E et Midjourney s’appuient sur cette imagination pour générer des images accrocheuses et merveilleuses. En d’autres termes, uniquement dans le domaine de la génération de texte, l’hallucination est un problème qui dérange vraiment les utilisateurs, en particulier dans les scénarios où l’exactitude est fortement soulignée, comme dans les reportages d’actualité.

Bender souligne : « Le principe de base des grands modèles de langage est de « créer » du contenu, qui est la racine de toutes leurs fonctions. Mais comme le pouvoir vient de la création de choses, lorsque le texte qu'ils génèrent correspond correctement à notre invite En d'autres termes, cette situation est plutôt une question de hasard. Même si les modèles affinés sont corrects la plupart du temps, ils ne sont toujours pas complètement à l'abri des problèmes, et l'illusion du futur existera probablement dans un flou plus difficile. pour que les lecteurs de texte le remarquent.

Le grand modèle de langage est un outil puissant qui peut réaliser des fonctions extraordinaires, mais les entreprises et même l’ensemble du secteur technologique doivent comprendre que ce n’est pas parce qu’un outil est puissant qu’il peut être considéré comme un outil utile. Un marteau perforateur est idéal pour percer le trottoir et l'asphalte, mais personne n'ose l'apporter lors d'une fouille archéologique.

Comme Bender l'a souligné, dès qu'un grand modèle de langage commence à s'entraîner, il essaie de prédire le mot suivant dans la séquence en fonction des mots indicateurs que nous lui donnons. Chaque mot des données d'entraînement reçoit un poids ou un pourcentage pour suivre les occurrences précédentes d'un mot donné dans un contexte donné. Mais ces premiers mots eux-mêmes n’ont pas suffisamment de signification tangible ni de contexte important pour garantir un résultat précis.

En d’autres termes, ces grands modèles de langage ne sont que de grands imitateurs. Ils ne savent pas vraiment de quoi ils parlent, donc trop leur faire confiance ne fera que causer des ennuis aux utilisateurs. Cette faiblesse est inhérente aux grands modèles de langage, et même si « l'illusion » peut progressivement diminuer dans les itérations futures, le problème lui-même pourrait ne jamais être véritablement résolu.

Liens de référence :

https://www.engadget.com/microsoft-ajoute-des-résumés-alimentés-par-l-intelligence-intellectuelle-aux-résultats-de-recherche-de-publicités-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ 必应 -a-été-remanié-pour-prioriser-les-résultats-de-recherche-d'IA-que-vous-l'aimiez-ou-non

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/