новости

Текст | Ван Чжиюань

Недавно друг дал мне отзыв:КимиРеклама действительно жестокая.

Вы можете увидеть это при прослушивании NetEase Music или просмотре билибили. Говорят, что продукт предназначен для обычных пользователей. В этом нет никаких сомнений. Однако прошла только половина августа, и некоторые действия Кими заставляют людей чувствовать себя немного по-другому.

Какая разница?

С одной стороны, 2 августа материнская компания Кимитемная сторона луны(Moonshot AI) объявила об официальном выпуске API корпоративного уровня Кими. Эта модель корпоративного уровня обеспечивает более надежную защиту данных и более высокую скорость обработки, чем версия для обычного пользователя, и может помочь предприятиям справляться со сложными задачами и большими объемами данных.

Сразу после этого они объявили, что снизят стоимость технологии контекстного кэширования Cache открытой платформы Kimi с первоначальных 10 юаней за 1 млн токенов до 5 юаней за минуту. Я узнал, что это снижение цен находится в публичной бета-версии на открытой платформе с 1 июля.

Прочитав это, вам может быть интересно, что же такое Cache?

Проще говоря, его функция состоит в том, чтобы заранее хранить текст или данные, которые можно будет использовать повторно и часто запрашивать, тем самым повышая эффективность рассуждений модели без увеличения затрат.

Поэтому эти действия заставляют меня задуматься, нашел ли ИИ эффективный путь в сфере B2B? После раунда исследований я думаю: да.

01

Давайте сначала поговорим об отраслевом консенсусе:Применение ИИ, несомненно, является ключом к успеху модели.

В этом году на Всемирной конференции по искусственному интеллекту генеральный директор Baidu Робин Ли поделился некоторыми своими взглядами на применение больших моделей. Он сказал: «Хотя разработка C-стороны важна, в сценариях приложений B-стороны большие модели могут достичь лучших результатов».

Он считает, что в эпоху искусственного интеллекта более ценными будут приложения, которые могут глубоко повлиять на отрасли и значительно повысить эффективность. Он предвидит, что в сферах здравоохранения, финансов, образования, производства, транспорта и сельского хозяйства будут разрабатываться приложения. в зависимости от их соответствующих характеристик и ресурсов данных. В будущем число индивидуальных интеллектуальных агентов достигнет миллионов, образуя огромную экосистему.

В этом году Baidu выиграла 17 проектов в различных областях, таких как здравоохранение, финансы, энергетика, защита окружающей среды и транспорт, охватывающих крупные государственные предприятия и ведущие компании отрасли, причем суммы также были весьма значительными.

Очевидно, Робин Ли считает, что приложения ИИ необходимо быстро внедрять на интеллектуальных агентах.

Не будем говорить, попадет ли это в специфику интеллектуального органа. Там столько тендерной документации, которую придется сдавать одну за другой. Если за полтора года что-то не будет готово, заказчик точно не захочет.

Посмотрим, что об этом думает Ян Жилин, основатель Moonshot AI.

В июне во время разговора между основателем Geek Park Чжан Пэном и Ян Чжилином Ян упомянул, что они не исключили полностью сторону B, а в основном сосредоточились на стороне C. Его продукт Кими достиг максимального трафика и использования в области искусственного интеллекта.

Несмотря на это, у пользователей часто возникают проблемы из-за недостаточной вычислительной мощности в часы пик. Чтобы справиться с этой ситуацией, они приняли ряд мер по снижению эксплуатационных расходов и повышению эффективности.

Одним из них является оптимизация производительности вывода модели с помощью технологии кэширования. Эта технология позволяет Кими быстрее реагировать при обработке сложных запросов и снижает необходимость повторных вычислений.

Это улучшение не только повышает скорость ответа и эффективность обработки системы, но также обеспечивает согласованность и точность диалога или генерации текста, что окажется очень важным в будущем, когда возникнет возможность ведения бизнеса на стороне B; большое количество централизованной обработки запросов данных. Особенно важно.

Поэтому Ян Жилин считает, что если вы хотите перейти на сторону B, вы должны сначала решить проблему вычислительной мощности, а обеспечение стабильности вычислительной мощности является основой.

С другой стороны, я думаю, что заниматься бизнесом C-end не так уж и привлекательно. В основном реклама используется для получения конверсий. В долгосрочной перспективе это не так уж и привлекательно.

От многих практиков рекламы я узнал, что начиная с первой половины 2024 года стоимость конверсии на душу населения будет продолжать расти. Стоимость конверсии каждого пользователя ПК Кими в основном достигнет 40 юаней на человека. Я не проверял эти данные официально.

Однако, если посмотреть на общую тенденцию, растущая стоимость конкуренции на рынке ИИ в сценариях C-end, несомненно, подтолкнет многие компании, занимающиеся ИИ, к переоценке своих рыночных стратегий.

Таким образом, хотя рынок C-стороны имеет большой потенциал, сценарии применения B-стороны являются ключевыми областями для достижения глубокого воздействия и эффективных результатов больших моделей. В конце концов, мы можем добиться реального снижения затрат и повышения эффективности для предприятий. способствовать прогрессу отрасли и даже всей отрасли.

02

Поскольку консенсус правильный. Итак, как агенты, или ИИ, или большие (маленькие) модели могут эффективно выйти в сферу B2B?Первый способ — находиться выше стороны B.

Что это значит?

Так называемая восходящая сторона B является источником цепочки поставок. Например: Предположим, есть фармацевтическая компания, у которой есть потребности и сценарии применения ИИ, но ей сложно пробиться в крупную модельную компанию. Что мне делать?

В это время вы обнаруживаете, что фармацевтическая компания использует какое-то программное обеспечение SaaS. Крупная модель ИИ может рассмотреть возможность сотрудничества с поставщиком программного обеспечения таким образом, ИИ может быть добавлен к существующим программным продуктам, а фармацевтическая компания может это сделать. использовать программное обеспечение. В то же время плавно перейти к использованию ИИ.

Это образ мышления многих представителей традиционного бизнеса.

Фактически, программное обеспечение B2B имеет несколько форм развертывания. Во-первых, локализованное развертывание, при котором программное обеспечение устанавливается на собственный сервер или устройство клиента, что дает клиенту контроль над данными и безопасностью.

Этот метод требует регулярных обновлений, что хлопотно и дорого в обслуживании. Например, в прошлом крупные производители, такие как Mercedes-Benz и BMW, использовали традиционные CRM-системы для локального развертывания для управления агентами.

Однако локализованное развертывание сталкивается со многими проблемами при реализации интеграции ИИ, особенно предварительно обученных моделей. После установки такие модели могут отвечать на запросы клиентов, даже если они не подключены к Интернету.

Хотя многие компании ToB заинтересованы в попытке, сложность реальных операций очень высока. Например, фармацевтические группы или больницы имеют огромные потребности в управлении данными. Как только программное обеспечение необходимо будет обновить для интеграции новых функций искусственного интеллекта, весь процесс станет чрезвычайно сложным.

Кроме того, руководителям проектов приходится объяснять своему начальству, почему им нужно тратить много денег на внедрение функций ИИ.

например:

Потратьте 20 миллионов на постройку модели. Звучит здорово, у нас есть возможности ИИ, но реальная ситуация может заставить людей думать, что это всего лишь система вопросов и ответов, основанная на знаниях ИИ. Глядя на это с этой точки зрения, всегда кажется, что это невыгодная сделка.

Другой момент: даже если компания представит модель, что, если сотрудники больше не смогут ее использовать? Тогда не будут ли эти деньги потрачены зря?Никакие расчеты для этого не подходят. Конечно, у некоторых компаний даже нет базы знаний, и нет необходимости внедрять возможности ИИ.

Модель SaaS, как еще одна форма, позволяет пользователям оплачивать сборы посредством подписок, таких как инструменты совместной работы, такие как Feishu. В рамках этой модели SaaS-компании могут напрямую интегрировать функции искусственного интеллекта и даже иметь возможность обходить небольшие модельные компании и приобретать услуги напрямую у крупных модельных компаний для трансформации процессов.

Среди всех этих форм модель SaaS является самой простой для интеграции функций искусственного интеллекта, поскольку поставщики услуг могут единообразно обновлять и поддерживать функции искусственного интеллекта на внутренней стороне, а клиентам не нужно беспокоиться о технических деталях.

Таким образом, если смотреть сверху вниз, компании, предоставляющие решения искусственного интеллекта, могут получить некоторые заказы, но процесс действительного успеха клиентов может быть довольно трудным, а усилия и выгоды часто не пропорциональны.

03

Итак, есть ли новое решение? иметь. Давайте посмотрим на это снизу вверх.

Нам необходимо установить новое понимание:

Использование ИИ в компании фактически привело к прорыву. В основном он помогает нам повысить эффективность работы. ИИ обычно используется для улучшения существующих рабочих процессов, а не для их полного перезапуска.

Что такое чистый старт?

То есть полностью перепроектировать процесс чего-либо с нуля, не опираясь на какие-либо существующие структуры и планы в контексте рабочего процесса или управления проектами, это означает отказ от старых методов и систем и принятие совершенно новых методов решения проблемы или выполнения. задача.

Например, компания изначально использовала очень традиционную систему управления взаимоотношениями с клиентами (CRM). Шло время и бизнес рос, и эта система больше не могла удовлетворять потребности компании.

Компания решила не модифицировать и не модернизировать старую систему, а разработать новую CRM-систему с нуля. Эта новая система будет использовать новейший стек технологий, функции проектирования, которые больше соответствуют современным бизнес-процессам, и сможет лучше интегрировать новейшие технологии. Инструменты анализа данных.

Это пример «чистого старта». Но знаете что?ИИ подрывает процесс реинжиниринга процессов. Большую часть времени ИИ решает задачи, с которыми люди уже знакомы, и нет необходимости изобретать велосипед.

Что это значит?

Когда компания начинает использовать модели ИИ, эти модели должны быть тесно интегрированы с собственным рабочим процессом компании. Например, некоторые компании хотят использовать некоторые передовые крупные модели в сфере медицины или образования, но этот процесс может столкнуться со многими трудностями.

Поскольку бизнес и процессы каждой компании уникальны, а данные, необходимые для ИИ, также уникальны, общая большая модель может оказаться непригодной. Часто бывает трудно по-настоящему применить эти широкие концепции в компании.

что делать?В это время было бы проще иметь маленькую модель и помощника.

Например:

Бухгалтеры малых и средних предприятий обычно используют такое программное обеспечение, как Kingdee, UFIDA и Chanjet. В этом программном обеспечении уже хранится много данных; операторы просто хотят использовать возможности ИИ, чтобы быстро найти фрагмент данных или сделать вывод без необходимости внесения серьезных изменений в исходное программное обеспечение.

Поэтому хороший способ применить ИИ к бизнес-сценариям (ToB) — разбить сложные бизнес-процессы на множество небольших задач или конкретных небольших сценариев, а затем использовать ИИ для улучшения каждого небольшого сценария.

Мы также видим, что такие компании, как MicrosoftOpenAIИнвесторы, а также компания Salesforce, лидер CRM-индустрии, не использовали ИИ для разработки новых продуктов.

Хотя они продолжают маркировать продукты новыми функциями, на самом деле они используют большие модели для поддержки и улучшения существующих бизнес-процессов или функций продукта.

Другими словами, они превращают небольшую модель в помощника или усовершенствование, которое может лучше интегрироваться в существующие системы и оптимизировать их, а не полностью их заменять.

Это немного похоже на плагины, которые недавно выпустили многие компании, занимающиеся искусственным интеллектом, для ПК. Вам просто нужно осторожно провести мышью или нажать горячую клавишу, и искусственный интеллект появится, чтобы помочь. Их основная функция — помогать нам принимать более правильные решения.

04

Если вы в это не верите, вы также можете подумать об этом: для чего компаниям ToB действительно нужен ИИ?

Согласно исследованию Чжиюаня, они в основном используют данные для принятия решений в операционной деятельности, управлении, принятии решений и маркетинге.Итак, как же компаниям, занимающимся искусственным интеллектом, они могут быть одновременно практичными и экономически эффективными? Ключевым моментом является достижение быстрого тиражирования и охвата нескольких сценариев при очень низких затратах.

Как скопировать?

Один из способов — инкапсулировать ИИ в интеллектуального агента, который может обращаться к локальным данным.Вот почему Kimi Chat снизит затраты на кэширование кэша, поскольку сохранение часто используемого локального текста может помочь повысить точность работы помощника.

Но здесь возникает вопрос, как сделать его точным, универсальным и в то же время недорогим?

В этом отношении мы можем определить «высокую точность» следующим образом:Пока бизнес можно использовать и точность достаточно высока, даже если ошибка возникает время от времени, пользователи могут ее идентифицировать и объяснить, почему это происходит.

«Низкая стоимость» означает, что первоначальная стоимость проекта должна быть низкой, его можно развернуть на одной машине и он должен быть простым в использовании и обслуживании.В настоящее время стоимость оборудования многих крупных моделей очень высока. Если компания не уверена, сколько денег она может заработать, она определенно не захочет вкладывать слишком много.

Преимущество больших моделей в том, что они решают проблему универсальности ранних алгоритмов ИИ.

Теоретически одна модель может обрабатывать все сценарии; на практике нам необходимо ее настроить. Поэтому мы определяем «высокую универсальность» как возможность внедрения инструментов и автоматизации, позволяющих тиражировать их в больших масштабах и внедрять с низкими затратами.

Большая модель масштабом 100 миллионов достигла точности более 95%. Затем мы вывели из этой большой модели маленькую модель и инкапсулировали ее в ассистент, решив таким образом проблему использования входа.

Представьте себе, что у крупной модельной компании есть сверхмощное решение для большой модели, которое действует как родительская модель, поддерживая широкие потребности всего предприятия.

Эта большая модель особенно эффективна и может выполнять сложный анализ данных и давать очень точную информацию. Он особенно подходит для компаний B-стороны, которым требуются большие объемы вычислительных ресурсов и крупномасштабная обработка данных. Но на самом деле не всем компаниям Б-сайда нужна такая огромная система.

Для большего числа малых и средних предприятий будет достаточно более мелкой и более целенаправленной модели. Мы можем думать об этом как о «подмодели» более крупной модели.

Эти небольшие модели наследуют основные возможности более крупных моделей, но оптимизированы и настроены так, чтобы лучше соответствовать конкретным потребностям бизнеса и небольшим операционным средам.

Маленькие модели не требуют такой большой вычислительной мощности, как большие модели, но фокусируются на конкретных задачах и могут быть скорректированы в соответствии с различными потребностями, например, для создания отчетов интеллектуального анализа или выполнения интеллектуального анализа.

Это позволяет малому бизнесу с ограниченными ресурсами использовать ИИ для повышения эффективности работы и качества принятия решений.

Таким образом, маленькая модель похожа на суть, извлеченную из большой модели. Для нее нужны только базовые возможности базы знаний. Главное — превратить ее в маленького помощника и встроить в инструмент для использования.

Никогда не думайте, что это означает, что ваша логика верна. После исследования Чжиюаня продукты ИИ уже внедрены на предприятиях B-стороны, поэтому для TOB сценариями применения ИИ являются агенты и плагины;

Это также имеет то преимущество, что его легко доставить без необходимости вкладывать дорогостоящие затраты.

Подвести итог

TOB AI не идет по старому пути.

Если небольшие модели являются ключевым моментом TOB, то превращение их в интеллектуальных агентов и помощников является ключевым звеном, соединяющим последнюю милю TOB.В конце концов, подход «снизу вверх» ориентирован на людей и задачи, а не на программное обеспечение.