новости

Некоторые наблюдения о крупных корпоративных приложениях

2024-08-20

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Статья | Малый – большой предпринимательский партнер

Начиная с января этого года, мы каждый месяц проводим в Шанхае салон по приему заявок на крупные модели. Здесь я хотел бы поделиться некоторыми своими наблюдениями:

Что касается событий за последний год:

Познание выровнено, все цветет, ожидается небольшая прибыль, и мы с нетерпением ждем хита.

В начале года в некоторых выступлениях на встрече также говорилось о том, что «наша компания имеет 5-летний опыт работы в области искусственного интеллекта» и тому подобное, намеренно или непреднамеренно смешивая LLM с предыдущим AI. Теперь каждый может очень откровенно рассказать, в каких сценах используется предыдущая технология искусственного интеллекта и какие модели используются. Также они четко объяснят, какие из них основаны на модели, а какие сцены прошли тонкую настройку или вторичное обучение. Это хорошее явление, которое позволяет каждому войти в те области, которые следует обсуждать более непосредственно.

В то же время мы также наблюдаем все больше и больше сценариев, в которых действительно используется LLM, включая сочетание генерации контента и конкретных рабочих сценариев, новых продуктов RPA, использующих технологию LLM, в области собеседований с кадрами, отбора и профессионального обучения. . Действительно осуществились.

По проектам, которые уже реализованы, некоторая Сторона А располагает относительно количественными данными для оценки результатов LLM, а некоторая Сторона Б начала говорить, что подписала контракт или получила оплату за проект. Большинство проектов, реализуемых Стороной Б, по-видимому, составляют порядка сотен тысяч, а иногда встречаются проекты стоимостью менее нескольких миллионов. Доходы от этого направления еще не стали основной поддержкой доходов компании.

Кто-то спрашивал в начале года, и этот вопрос задается до сих пор, то есть какой популярный софт есть у Big Model 2B. Кажется, пока нет? Может, ненадолго? Какие были самые большие успехи в программном обеспечении 2B за последние годы? Автоматизация офиса? Финансовая ERP? CRM? Летающие книги DingTalk? Давайте и дальше будем с нетерпением ждать

О форме продукта:

Интерфейс чата, традиционный интерфейс, традиционный + чат = второй пилот, что еще?

В отношении программного обеспечения 2B для больших моделей у всех разные ожидания, некоторые пессимистичны, а большинство кажутся чрезмерно оптимистичными. Давайте конкретизируем эти ожидания и спросим, ​​как все на предприятии будут относиться к этому новому программному обеспечению для крупных моделей.

Большая модель впервые попала в поле зрения людей, представив собой интерфейс чата. Gpt3.0 уже продемонстрировал возможности, очень похожие на сегодняшние, но поскольку здесь нет чата, только API, он не привлек внимание большего количества людей и не разорвал круг. Хотя интерфейс чата и поиска выглядят одинаково, воспользовавшись ими, вы почувствуете, что они существенно отличаются. У нас есть основания полагать, что новое поколение инфраструктуры корпоративной информационной системы, которая использует чат в качестве интерфейса и доступна каждому на предприятии, станет популярным на всех предприятиях, так же как офисное программное обеспечение, электронная почта и корпоративные WeChat/DingTalk/Feishu. . Colingo.ai, созданный малыми и крупными партнерами-предпринимателями, фокусируется на этом рынке.

В традиционном корпоративном программном обеспечении некоторые серверные части используют различные алгоритмы искусственного интеллекта, заменяя некоторые из них большими моделями для лучшего решения проблем или используя большие модели для обработки вещей, которые раньше невозможно было обработать с помощью алгоритмов. Это происходит незаметно, но Восприимчивость конечных пользователей относительно слаба. Таких сценариев будет все больше и больше, но создавать хитовые программы, возможно, будет непросто.

Copilot сочетает в себе интерфейс чата и традиционное программное обеспечение с графическим интерфейсом. Будучи одним из первых близких партнеров OpenAI, она запустила Copilot для офиса, позволяющий пользователям лучше использовать традиционное программное обеспечение через интерфейс чата. Похоже, что это также будет одной из основных форм интерфейса в течение некоторого времени?

Есть ли новые формы интерфейса? Как цифровые работники сотрудничают с другими работниками? В этой области еще есть много места для дискуссий.

Что касается технического маршрута поставщиков программных услуг 2B:

  • Тройка лидеров: аранжировка, тряпка, агент
  • Следующие три пути: вычислительные мощности, инфраструктура, обучение и тонкая настройка

Знать слишком много – это бремя. Это явление действительно существует в эпоху больших моделей, не говоря уже о «мышлении больших моделей», которое, возможно, нелегко определить, но его все же можно увидеть в процессе применения больших моделей. модели от различных поставщиков программных услуг.

Разница между тремя верхними путями и тремя нижними путями заключается не только в небольшом количестве графических процессоров, но и в талантах, рабочих процессах, циклах поставки, скорости итераций и общих совокупных затратах разного порядка.

Первая реакция технических отделов многих компаний — сначала обучить модель, купить карты и набрать людей. Тогда он может застрять в трясине. Если его вернуть генеральному директору, это станет большой моделью. Это очень тяжелая вещь и требует больших вложений. Внутри компании нет никакого прогресса, а снаружи нам приходится постоянно сталкиваться с клиентами, которые спрашивают, что вы можете сделать для нас с большими моделями, поэтому мы находимся перед дилеммой.

Верхний третий путь может решить большинство проблем, связанных с приложениями больших моделей. Когда компании-разработчики приложений переходят на нижний третий путь, им следует, по крайней мере, завершить верхний третий путь и подтвердить, что нижний третий путь действительно может значительно улучшить эффект, прежде чем входить.

Слово «обучение» недопустимо при разработке приложений для больших моделей. Возможно, это излишний метод, но на данном этапе для большинства компаний, занимающихся разработкой приложений, выбор трех верхних путей может оказаться самым быстрым способом достижения результатов.

Есть два конкретных вопроса, которые я обсуждал со многими компаниями и которыми хотел бы поделиться с вами:

Что касается выбора клиентов, с которых следует начать работу с приложениями для крупных моделей:

«Продвинутые предприятия используют Feishu», нам нужно найти те стороны, которые уже имеют «большое модельное мышление». Нам, как поставщику услуг, трудно промывать мозги партиям, которые рады каждому улучшению результатов. нет. Прежде чем мы начнем, нас ждет 10 000 вопросов. Давайте избегать таких пользователей.

Какую модель выбрать:

Начните с лучшей модели, которую вы можете использовать. Если вы не можете этого сделать, значит, это поколение моделей недостаточно хорошее, поэтому просто подождите.

Как только это будет сделано, используйте наиболее реалистичную модель для ее настройки и сообщите Стороне А, в какой степени она скорректирована. Если это приемлемо, продолжайте. Если это неприемлемо, просто подождите.

Не учитывайте стоимость модели. Сегодняшняя цена совершенно несопоставима с ценой шесть месяцев назад, а возможности через шесть месяцев точно будут лучше, чем сегодня. Чтобы создавать приложения для крупномасштабных моделей, вы должны иметь базовое убеждение в «Законе Мура о больших моделях». Вместо того, чтобы зацикливаться на оптимизации текущей модели, лучше воспользоваться временем и стать вашим другом.

Подводя итог суждению о возможностях:

На рынке 2B-приложений больших моделей есть новые сценарии, новые формы, новые компании и старые сценарии, новые решения, а также новые и старые ПК.

Нет сомнений в том, что это возможность для новых предприятий, но форма продукта еще далека от зрелости. iPhone вышел в середине 2007 года. Какие мобильные приложения конца 2008 года вы помните? До большой модели конца 2022 года осталось всего полтора года. Конечно, компания должна оставаться в живых, но она не может ставить перед собой цель остаться в живых. Есть еще много возможностей, которые необходимо изучить либо вам, либо другим.

Возможности также принадлежат нынешним поставщикам программных услуг в различных отраслях. Услуги 2B должны в конечном итоге решать проблемы пользователей, и вы лучше всех знаете потребности пользователей. В области приложений конкуренция в эпоху больших моделей значительно ослабила технические барьеры. Способность превращать потребности пользователей в проблемы, подходящие для обработки больших моделей, стала наиболее важным конкурентным моментом, и это, несомненно, является сильной стороной отраслевого программного обеспечения. .

Перетасовка обязательно произойдет, независимо от того, как долго вы работаете в отрасли. Независимо от того, являетесь ли вы первым или последним в отрасли, вы можете вылететь из этого соревнования, оставив несколько позиций для вновь появившихся на рынке крупных отечественных компаний. Остальные также будут перераспределены в ходе этой технологической революции.

Решающая битва состоится этой осенью, этого года.

Первый повторный заказ произойдет этой осенью. У большинства компаний нет выделенных бюджетов на крупные модели в 2023 году, а отдельные закупки отвлекают бюджеты других ИТ-проектов. В 2024 году некоторые бюджеты POC будут связаны с большими моделями, а большая часть ИТ-бюджета в 2025 году должна быть связана с большими моделями. Сможете ли вы реализовать свое решение и видение своего предприятия, партия А этой осенью определит, сколько проектов вы сможете получить в 2025 году и вашу позицию в первой рейтинговой битве.