новости

В последнее время шедевр отечественной ААА-игры «Black Myth: Wukong» стал популярен во всем Интернете, привлекая внимание мировой общественности вскоре после своего запуска. Согласно статистике из списка бестселлеров Национальных игр, всего за один день общий объем продаж игры на нескольких платформах превысил 4,5 миллиона копий, а общий объем продаж превысил 1,5 миллиарда юаней. В то же время были и «жертвы», замешанные в популярности ее игр.

В день, когда «Black Myth: Wukong» была разблокирована в Steam, известный ведущий игры страдал от 3D-головокружения во время игры вживую. В результате игра возглавила список популярных запросов на Weibo и была в шутку названа «Black Myth». : Wukong» многими пользователями сети. «Первая жертва в мире». А 21 августа появился еще один «жертва» игры, и его переживания были на самом деле похожи наМайкрософтсвязанный.

При вводе «Служба поддержки клиентов Black Myth Wukong» в поиске Microsoft Bing неправильно отображается личный номер мобильного телефона сотрудника Jifeng.com, который не является официальным номером службы поддержки клиентов. Кроме того, в качестве службы поддержки клиентов были отмечены два неправильных номера телефонов, включая контактный номер и адрес электронной почты отдела авторских прав China Business News.

Человек, номер телефона которого попал в сеть, рассказал, что за 5 часов ему поступило почти 20 звонков. Сообщается, что основной причиной инцидента стал Microsoft Bing. ИИ Помощник по ошибке получил информацию, что привело к утечке его личной информации. Позже, хотя соответствующие захваченные статьи были удалены, а жертва подала жалобу и другие отзывы, неверная информация «Черный миф службы поддержки клиентов Wukong» все еще появлялась на сайте. Домашняя страница поиска Bing. В настоящее время, судя по ситуации с поиском, команда Bing исправила ошибочную информацию.

Microsoft Bing, вторая по величине поисковая система в мире, охватывает 36 стран и регионов с более чем 600 миллионами пользователей. 7 февраля 2023 года Microsoft объявила, что будет ЧатGPT Интегрированная в новую версию Bing (New Bing), новая интегрированная версия Bing приметOpenAI Модель искусственного интеллектаГПТ Обновленная версия 3.5.ГПТ-4. Этот инцидент может указывать на то, что поисковые системы ИИ имеют определенные недостатки в сборе и обработке информации.

В прошлом месяце Microsoft объявила о крупном обновлении Bing. Поисковая система претерпит комплексную трансформацию и начнет отдавать приоритет ответам, генерируемым ИИ. То есть, когда пользователь вводит поисковый запрос, на странице результатов появляется основной ответ, сгенерированный ИИ, с подробным описанием всех выбранных источников информации, используемых для получения результатов. Конечно, вы по-прежнему увидите традиционные результаты поиска на странице поиска Bing, но они будут отображаться рядом с материалом, созданным искусственным интеллектом (на меньшей панели справа).

Что касается этого изменения, Microsoft объяснила в официальном сообщении в блоге: «Этот новый опыт станет неотъемлемой основой результатов поиска Bing с большой/малой языковой моделью (Магистр права В сочетании с мощными функциями SLM). Он понимает поисковые запросы, извлекает миллионы источников информации, динамически сопоставляет контент и отображает результаты поиска в новых макетах, созданных искусственным интеллектом, для более эффективного удовлетворения запросов пользователей. "

Microsoft также привела в своем блоге несколько примеров генеративного поиска Bing. Помимо описания функции сводки, Microsoft также предоставит ссылки на первоисточники для больших языковых моделей и малых языковых моделей, которые используются для создания ответов, которые видят пользователи. После того, как ИИ сгенерирует результаты, появляется регулярный список записей результатов.

Например, при запросе «Как долго живут слоны?» в сводной части ответа также перечислены видео, влияющие на продолжительность жизни слонов; если пользователь ищет «Что такое спагетти-вестерн?», генеративный поиск Bing выполнит поиск; Отображает информацию об истории, происхождении и классике этого поджанра фильмов, а также ссылки и источники этой информации.

Тогда в Microsoft заявили, что эта корректировка была распространена лишь на небольшое количество пользователей Bing, но в ближайшем будущем ее следует постепенно расширять. Microsoft также заявила в своем блоге, что продолжит оценивать влияние поиска с помощью ИИ на веб-сайты и читателей. Некоторые люди в отрасли обеспокоены тем, что еслиИИВеб-сайты, которые создают контент бесплатно, в конечном итоге обанкротятся, если контент, очищенный ботами, будет отображаться непосредственно в окнах чата или на страницах поиска.

В ответ Microsoft заявила, что этот новый поиск с использованием искусственного интеллекта был создан с нуля с учетом этой проблемы, что позволяет поддерживать такое же количество кликов на веб-сайте, что и традиционный поиск. Время покажет, правда ли это. Кроме того, предполагается, что Bing может отключить функцию генерации искусственного интеллекта на странице результатов и отображать только традиционные фрагменты поиска.

Теперь Microsoft — не единственная компания-браузер, добавляющая результаты, сгенерированные искусственным интеллектом, на страницы поиска. По мере того, как Microsoft запускает больше инструментов для Bing, конкуренция за внедрение дополнительных функций искусственного интеллекта в поиск постепенно обостряется.

Однако бесчисленные реальные случаи доказывают, что поиск с помощью ИИ не так надежен и точен, как мы думаем: он может допускать ошибки, а в некоторых случаях даже отображать неверную информацию и предложения в сгенерированных результатах.

Ранее в этом годуGoogleПохожий инструмент под названием «Обзор AI» был запущен для удержания пользователей, которые хотят искать ответы на вопросы непосредственно у чат-ботов с искусственным интеллектом. Но с момента своего запуска этот инструмент также отпустил несколько шуток, например, предложил добавить клей, чтобы сыр прилип к пицце, и ответил: «Геологи рекомендуют съедать хотя бы один маленький камень каждый день».

Браузер Arc Search в режиме искусственного интеллекта клянется давать неуместные медицинские советы, говоря: «Отрезанный палец на ноге со временем вырастет снова».

Поисковая система искусственного интеллекта Genspark рекомендует пользователям некоторые виды оружия, которые могут быть использованы для убийства людей.Недоумение Они заимствовали новостные статьи, написанные некоторыми СМИ, но не указали источник и право собственности.

Кроме того, сводки, созданные с помощью ИИ, могут поглощать трафик на веб-сайт, с которого они получены. Одно исследование показало, что выдержки из ИИ могут снизить трафик издателей контента примерно на 25% из-за уменьшения внимания к ссылкам на статьи.

Эти новые поисковые системы с искусственным интеллектом популярны благодаря своей способности быстро генерировать большие объемы текста и имитировать человеческий текст с убедительными эффектами, но за кулисами «иллюзия» искусственного интеллекта также стала влиять на этих чат-ботов, чтобы вывести их на рынок. следующий уровень ключевого сопротивления. К сожалению, некоторые эксперты предупреждают, что ситуация может никогда не разрешиться.

В новом отчете, опубликованном Associated Press, подчеркивается, что проблему «бессмыслицы» модели большого языка (LLM), возможно, не так легко решить, как утверждают многие основатели технологий и сторонники ИИ. Эмили Бендер, профессор лингвистики Лаборатории компьютерной лингвистики Вашингтонского университета, выразила пессимизм: «Проблема галлюцинаций просто неразрешима и является неизбежным результатом несоответствия технологии предлагаемым вариантам использования».

По словам Шейна Орлика, президента Jasper AI, бывают ситуации, когда уместная «ерунда» не так уж и плоха. Орлик объяснил: «Иллюзии на самом деле могут принести дополнительную выгоду. Клиенты всегда благодарили нас за вдохновение. Основная причина в том, что ИИ может выдавать истории или перспективы, о которых клиенты никогда не думали, по разным совпадениям».

Точно так же иллюзия ИИ также очень помогает в создании изображений ИИ. Такие модели, как Dall-E и Midjourney, полагаются на это воображение для создания привлекательных и замечательных изображений. Другими словами, только в области генерации текста галлюцинации являются проблемой, которая действительно беспокоит пользователей, особенно в сценариях, где точность имеет большое значение, например, в новостных репортажах.

Бендер отмечает: «Основной принцип больших языковых моделей состоит в том, чтобы «составлять» контент, который является корнем всех их функций. Словом, эта ситуация Скорее всего, это вопрос случая. Даже если точно настроенные модели большую часть времени верны, они все равно не полностью застрахованы от сбоев, и иллюзия будущего, скорее всего, будет существовать в размытом виде, что сложнее. чтобы читатели текста заметили».

Большая языковая модель — это мощный инструмент, который может выполнять выдающиеся функции, но компании и даже вся технологическая индустрия должны понимать, что если что-то является мощным, оно не может считаться полезным инструментом. Перфоратор отлично справляется с пробиванием тротуаров и асфальта, но взять его с собой на археологические раскопки никто не осмеливается.

Как отметил Бендер, в тот момент, когда большая языковая модель впервые начинает обучение, она пытается предсказать следующее слово в последовательности на основе ключевых слов, которые мы ей даем. Каждому слову в обучающих данных присваивается вес или процент для отслеживания предыдущих вхождений данного слова в заданном контексте. Но сами по себе эти первые слова не имеют достаточного осязаемого значения или важного контекста, чтобы гарантировать точный результат.

Другими словами, эти большие языковые модели — просто отличные имитаторы. Они на самом деле не знают, о чем говорят, поэтому слишком сильное доверие к ним приведет только к неприятностям. Эта слабость присуща большим языковым моделям, и хотя «иллюзия» может постепенно уменьшаться в будущих итерациях, сама проблема никогда не может быть решена по-настоящему.

Справочные ссылки:

https://www.engadget.com/microsoft-is-adding-ai-powered-summaries-to- 必应-search-results-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ Был-модернизирован-для-приоритизации-результатов-поиска-с-помощью-ИИ-независимо-от-того,-нравится-вам-это-или-нет

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/