소식

대규모 모델 엔터프라이즈 애플리케이션에 대한 몇 가지 관찰

2024-08-20

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

기사 | Small은 큰 기업가적 파트너입니다.

올해 1월부터 우리는 매달 상하이에서 대규모 모델 신청 랜딩 살롱을 개최했습니다. 여기에서 제가 관찰한 내용 중 일부를 공유하고 싶습니다.

지난 1년간의 발전과 관련하여:

인지가 정렬되고, 모든 것이 꽃피우고, 소소한 이익이 예상되며, 히트를 기대해 본다.

연초에는 회의에서 일부 연설에서 "우리 회사는 5년의 인공 지능 경험이 있다"는 등의 말을 하며 의도적으로 또는 의도하지 않게 LLM을 이전 AI와 혼합했습니다. 이제 어떤 장면이 이전 AI 기술을 사용하고 있는지, 어떤 모델이 사용되는지 누구나 솔직하게 알 수 있으며, 어떤 장면이 모델을 기반으로 하는지, 어떤 장면이 미세 조정이나 2차 훈련을 거쳤는지 명확하게 설명됩니다. 이는 좋은 현상이며 모든 사람이 더 직접적으로 논의해야 하는 영역에 들어갈 수 있게 해줍니다.

동시에 우리는 콘텐츠 생성과 특정 작업 시나리오의 조합, LLM 기술을 사용하는 새로운 RPA 제품, 인사 인터뷰, 심사 및 직업 교육 분야에서 LLM이 실제로 사용되는 시나리오를 점점 더 많이 보았습니다. .정말 결실을 맺었습니다.

이미 시행된 프로젝트에 대해 일부 A는 LLM의 성과를 평가할 수 있는 상대적으로 정량적인 데이터를 갖고 있고, 일부 B는 계약을 체결했거나 프로젝트 대금을 받았다고 말하기 시작했습니다. B측이 수행하는 프로젝트의 대부분은 수십만 개에 달하는 것으로 보이며 때로는 수백만 달러에 달하는 프로젝트도 있지만 아직 회사 수입의 주요 지원이 되지는 않습니다.

연초에 누군가가 물었고 지금도 이 질문이 계속 나오고 있는데, 즉 빅모델 2B에는 어떤 인기 소프트웨어가 아직 없는 것 같다. 아마 오랫동안은 아니겠지? 지난 몇 년 동안 2B 소프트웨어에서 가장 큰 히트를 쳤던 것은 무엇입니까? 사무 자동화? 금융ERP? CRM? 딩톡 페이슈? 앞으로도 계속 기대해보자

제품 형태 정보:

채팅 인터페이스, 기존 인터페이스, 기존 + 채팅 = Copilot, 또 뭐죠?

대형 모델 2B 소프트웨어에 대해서는 모든 사람이 서로 다른 기대를 갖고 있으며 일부는 비관적이며 대부분은 지나치게 낙관적인 것 같습니다. 이러한 기대를 구체화하고 기업 내 모든 사람이 이 새로운 대형 모델 엔터프라이즈 소프트웨어에 대해 어떻게 느낄지 물어보겠습니다.

대형 모델이 사람들의 눈에 처음으로 들어온 것은 채팅 인터페이스였습니다. Gpt3.0은 이미 오늘날과 매우 유사한 기능을 시연했지만 채팅은 없고 API만 있기 때문에 더 많은 사람들의 관심을 끌지 못했고 순환을 깨지도 못했습니다. 채팅 인터페이스와 검색은 비슷해 보이지만 일단 사용해 보면 본질적인 차이점을 느낄 수 있습니다. 우리는 채팅을 인터페이스로 사용하고 기업의 모든 사람이 사용할 수 있는 차세대 기업 정보 시스템 인프라가 사무용 소프트웨어, 이메일 및 기업용 WeChat/DingTalk/Feishu와 마찬가지로 모든 기업에서 대중화될 것이라고 믿을 만한 이유가 있습니다. . Small이 큰 기업 파트너로 인큐베이팅한 Colingo.ai는 이 시장에 중점을 두고 있습니다.

기존 엔터프라이즈 소프트웨어 중 일부 백엔드는 다양한 AI 알고리즘을 사용했으며, 문제를 더 잘 해결하기 위해 일부를 대형 모델로 대체하거나, 이전에는 알고리즘으로 처리할 수 없었던 작업을 대형 모델을 사용하여 처리해 왔습니다. 최종 사용자의 인지도는 상대적으로 약합니다. 이러한 시나리오는 점점 더 많아지겠지만 히트 소프트웨어를 제작하는 것은 쉽지 않을 수 있습니다.

Copilot은 채팅 인터페이스와 기존 GUI 소프트웨어의 조합입니다. OpenAI의 초기 긴밀한 파트너로서 Office용 Copilot을 출시하여 사용자가 채팅 인터페이스를 통해 기존 소프트웨어를 더 잘 사용할 수 있도록 했습니다. 이것도 한동안 주요 인터페이스 형태 중 하나가 될 것 같습니다.

새로운 인터페이스 형태가 있나요? 디지털 작업자는 다른 작업자와 어떻게 협업하나요? 이 분야에는 아직 논의할 여지가 많습니다.

2B 소프트웨어 서비스 제공업체의 기술 경로와 관련하여:

  • 상위 3개: 편곡, 걸레, 에이전트
  • 다음 세 가지 경로: 컴퓨팅 성능, 인프라, 교육 및 미세 조정

너무 많이 아는 것은 부담이다. 대형 모델 시대에도 이런 현상은 존재한다. 정의하기 쉽지 않은 '빅 모델 사고'는 말할 것도 없고, 다양한 소프트웨어를 통해 대형 모델을 적용하는 과정에서 볼 수 있다. 서비스 제공자.

상위 3개 도로와 하위 3개 도로의 차이는 GPU 몇 개뿐 아니라 인재, 작업 프로세스, 전달 주기, 반복 속도 및 관련된 전반적인 종합 비용도 같은 규모가 아닙니다.

많은 회사의 기술 부서의 첫 번째 반응은 모델을 먼저 훈련시키고, 카드를 구입하고, 인력을 모집하는 것입니다. 그러면 수렁에 빠질 수도 있습니다. CEO에게 피드백하면 대형 모델이 될 것입니다. 이것은 매우 무겁고 많은 투자가 필요합니다. 회사 내부적으로는 진전이 없고, 외부적으로는 대형 모델을 가지고 무엇을 해 줄 수 있는지 끊임없이 묻는 고객들을 만나야 하기에 딜레마에 빠졌습니다.

상위 3번째 경로는 대형 모델 적용과 관련된 대부분의 문제를 해결할 수 있습니다. 응용 회사가 하위 3번째 경로에 진입할 때 최소한 상위 3번째 경로를 완료하고 진입하기 전에 하위 3번째 경로가 실제로 효과를 크게 향상시킬 수 있는지 확인해야 합니다.

대형 모델 애플리케이션 개발에서는 '훈련'이라는 단어가 허용되지 않습니다. 이는 과도한 방법일 수 있지만 현 단계에서는 대부분의 애플리케이션 개발 회사에서 상위 3개 경로를 목표로 삼는 것이 결과를 얻는 가장 빠른 방법일 수 있습니다.

제가 많은 회사들과 논의했고 여러분과 공유하고 싶은 두 가지 구체적인 질문이 있습니다.

대규모 모델 애플리케이션을 시작할 고객 선택과 관련하여:

"선진 기업은 Feishu를 사용합니다", 우리는 이미 "큰 모델 사고"를 갖고 있는 당사자를 찾아야 합니다. 서비스 제공자로서 우리는 결과의 각 개선에 만족하는 당사자를 찾아야 합니다. 아니오 시작하기 전에 우리 앞에 10,000개의 질문이 있습니다. 그런 사용자를 피합시다.

선택할 모델:

사용할 수 있는 최고의 모델부터 시작하십시오. 그렇게 할 수 없다면 현 세대의 모델로는 충분하지 않으므로 기다리십시오.

작업이 완료되면 가장 현실적인 모델을 사용하여 조정하고, 조정된 정도에 따라 차이를 알리십시오. 허용 ​​가능하다면 계속 진행하세요.

모델의 가격을 생각하지 마세요. 지금의 가격은 6개월 전과 전혀 비교할 수 없으며, 6개월 후의 성능은 확실히 지금보다 좋아질 것입니다. 대규모 모델을 적용하려면 '무어의 대형 모델 법칙'에 대한 기본 신념이 있어야 합니다. 현재 모델을 최적화하는 데 집착하기보다는 시간을 포용하고 친구가 되는 것이 좋습니다.

기회 판단을 요약하면 다음과 같습니다.

대형 모델 2B 애플리케이션 시장에는 새로운 시나리오, 새로운 형태, 새로운 회사, 오래된 시나리오, 새로운 솔루션, 새로운 및 오래된 PK가 있습니다.

새로운 기업에게는 기회라는 점에는 의심의 여지가 없지만 제품 형태는 아직 성숙되지 않았습니다. iPhone은 2007년 중반에 출시되었습니다. 2008년 말에 기억나는 모바일 애플리케이션은 무엇입니까? 2022년 말 대형 모델 출시가 1년 반밖에 남지 않았다. 물론 기업은 살아남아야 하지만, 살아남는 것을 목표로 할 수는 없습니다. 본인이든 다른 사람이든 아직 탐색해야 할 기회가 많이 있습니다.

기회는 다양한 업계의 현재 소프트웨어 서비스 제공업체에도 속합니다. 2B 서비스는 궁극적으로 사용자 문제를 해결해야 하며 사용자 요구 사항을 가장 잘 알고 있습니다. 응용 분야에서는 대형 모델 시대의 경쟁으로 인해 기술 장벽이 크게 약화되었습니다. 사용자의 요구를 대형 모델에 적합한 문제로 변환하는 능력이 가장 중요한 경쟁력이 되었으며 이는 의심할 여지 없이 업계 소프트웨어 서비스의 강점입니다. .

업계에 얼마나 오래 있었는지에 관계없이 셔플링은 일어날 수밖에 없습니다. 업계 최초이든 꼴찌이든 관계없이 귀하는 이번 경쟁에서 탈락할 수 있으며, 새로 진입한 대형 모델 네이티브 기업의 일부 자리는 이 기술 혁명에서 재정렬될 것입니다.

결전은 올 가을, 올해다.

첫 번째 재주문은 올 가을에 이루어질 예정입니다. 대부분의 기업은 2023년 대형 모델 전용 예산이 없고, 개별 구매로 인해 다른 IT 프로젝트에 예산이 유용했습니다. 2024년에는 대형 모델과 관련된 POC 예산이 일부 있고, 2025년에는 IT 예산의 상당 부분이 대형 모델과 관련되어 있을 것입니다. 올 가을 기업 A당의 솔루션과 비전을 만들 수 있을지가 2025년에 얼마나 많은 프로젝트를 얻을 수 있는지, 그리고 1위 경쟁에서 당신의 위치가 결정될 것이다.