notícias

Algumas observações sobre aplicativos empresariais de grande porte

2024-08-20

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Artigo | Small é um grande parceiro empreendedor

A partir de janeiro deste ano, realizamos todos os meses um salão de desembarque de aplicações de grandes modelos em Xangai. Gostaria de compartilhar algumas de minhas observações aqui:

Em relação à evolução do ano passado:

A cognição está alinhada, tudo está florescendo, espera-se um pequeno lucro e esperamos um sucesso.

No início do ano, alguns discursos na reunião também falariam sobre “nossa empresa tem 5 anos de experiência em inteligência artificial” e afins, misturando LLM com IA anterior intencionalmente ou não. Agora, todos podem dizer com muita franqueza quais cenas estão usando tecnologia de IA anterior e quais modelos estão sendo usados. Eles também explicarão claramente quais são baseadas no modelo e quais cenas passaram por ajuste fino ou treinamento secundário. Este é um fenômeno bom e permite que todos entrem nas áreas que deveriam ser discutidas de forma mais direta.

Ao mesmo tempo, também temos visto cada vez mais cenários onde o LLM é realmente utilizado, incluindo a combinação de geração de conteúdo e cenários de trabalho específicos, novos produtos RPA que utilizam tecnologia LLM, nas áreas de entrevistas de recursos humanos, triagem e treinamento profissional . Realmente se concretizou.

Para projectos que já foram implementados, alguma Parte A possui dados relativamente quantitativos para avaliar o resultado do LLM, e alguma Parte B começou a dizer que assinou um contrato ou recebeu pagamento do projecto. A maioria dos projetos empreendidos pelo Partido B parecem ser da ordem de centenas de milhares e, ocasionalmente, há projetos na casa dos milhões. As receitas desta direção ainda não se tornaram o principal suporte para as receitas da empresa.

Alguém estava perguntando no início do ano, e essa pergunta ainda está sendo feita agora, ou seja, qual software popular o Big Model 2B parece que ainda não existe? Talvez não por muito tempo? Quais foram os maiores sucessos do software 2B ao longo dos anos? Automação de escritório? ERP financeiro? CRM? DingTalk Feishu? Continuemos ansiosos por

Sobre o formulário do produto:

Interface de chat, interface tradicional, tradicional + chat = Copiloto, o que mais?

Para software 2B de modelo grande, todos têm expectativas diferentes, alguns são pessimistas e a maioria parece excessivamente otimista. Vamos concretizar essa expectativa e perguntar como todos na empresa se sentirão em relação a esse novo software empresarial de modelo grande.

O grande modelo entrou pela primeira vez no campo de visão das pessoas, que era a interface do chat. O Gpt3.0 já demonstrou capacidades muito semelhantes às de hoje, mas por não haver chat, apenas API, não atraiu mais a atenção das pessoas, nem quebrou o círculo. Embora a interface do chat e da pesquisa pareçam semelhantes, depois de usá-los, você sentirá que são essencialmente diferentes. Temos motivos para acreditar que a nova geração de infraestrutura de sistema de informação empresarial, que usa chat como interface e está disponível para todos na empresa, se tornará popular em todas as empresas, assim como software de escritório, e-mail e WeChat/DingTalk/Feishu empresarial. . A colingo.ai, incubada pelo pequeno e grande parceiro empreendedor, tem como foco esse mercado.

Software corporativo tradicional, alguns back-ends usaram vários algoritmos de IA, substituindo alguns deles por modelos grandes para resolver melhor os problemas ou usando modelos grandes para processar coisas que não podiam ser processadas com algoritmos antes. a percetibilidade dos utilizadores finais é relativamente fraca. Haverá cada vez mais cenários assim, mas pode não ser fácil produzir software de sucesso.

A combinação de interface de chat e software GUI tradicional é o Copilot. Como parceiro próximo da OpenAI, lançou o Copilot para escritório, permitindo aos usuários utilizar melhor o software tradicional por meio da interface de chat. Parece que esta também será uma das principais formas de interface por algum tempo?

Existem novos formulários de interface? Como os trabalhadores digitais colaboram com outros trabalhadores? Ainda há muito espaço para discussão nesta área.

Em relação ao percurso técnico dos prestadores de serviços de software 2B:

  • Três principais: arranjo, trapo, agente
  • Os próximos três caminhos: poder computacional, infraestrutura, treinamento e ajuste fino

Saber demais é um fardo. Esse fenômeno existe na era dos grandes modelos, sem falar na questão do “pensamento de grandes modelos”, que pode não ser fácil de definir, mas ainda pode ser visto no processo de aplicação de grandes modelos. modelos por vários provedores de serviços de software.

A diferença entre os três caminhos superiores e os três caminhos inferiores não é apenas algumas GPUs, mas também os talentos, processos de trabalho, ciclos de entrega, velocidades de iteração e custos gerais abrangentes envolvidos não são da mesma ordem de magnitude.

A primeira reação dos departamentos técnicos de muitas empresas é treinar primeiro o modelo, comprar cartões e recrutar pessoas. Então pode ficar preso no atoleiro. Se for repassado ao CEO, se tornará um grande modelo. Isso é uma coisa muito pesada e requer muito investimento. Não há progresso dentro da empresa, e externamente temos que enfrentar clientes constantemente perguntando o que você pode fazer por nós com modelos grandes, por isso estamos num dilema.

O terceiro caminho superior pode resolver a maioria dos problemas que envolvem aplicativos de grandes modelos. Quando as empresas de aplicativos entram no terceiro caminho inferior, elas devem pelo menos concluir o terceiro caminho superior e confirmar se o terceiro caminho inferior pode realmente melhorar significativamente o efeito antes de entrar.

A palavra "treinamento" não é permitida no desenvolvimento de aplicativos de grandes modelos. Pode ser um método exagerado, mas neste estágio, para a maioria das empresas de desenvolvimento de aplicativos, direcionar os três caminhos superiores pode ser o caminho mais rápido para obter resultados.

Há duas questões específicas que discuti com muitas empresas e gostaria de compartilhar com vocês:

Em relação à escolha de quais clientes começarão com aplicações de modelos grandes:

“Empresas avançadas usam Feishu”, precisamos encontrar aquelas partes que já têm “pensamento de grande modelo”. Como prestadores de serviços, é difícil fazer lavagem cerebral nas partes. é não Antes de começarmos, temos 10.000 perguntas pela frente. Vamos evitar esses usuários.

Em qual modelo escolher:

Comece com o melhor modelo que você pode usar. Se não conseguir, então esta geração de modelos não é boa o suficiente, então espere.

Uma vez feito isso, use o modelo mais realista para ajustá-lo e diga à Parte A a diferença em que medida ela está ajustada. Se for aceitável, vá em frente.

Não considere o custo do modelo. O preço de hoje é completamente incomparável com o de seis meses atrás, e as capacidades daqui a seis meses serão definitivamente melhores do que as de hoje. Para fazer aplicações de modelos em grande escala, você deve ter uma crença básica na "Lei dos Grandes Modelos de Moore". Em vez de ficar obcecado em otimizar o modelo atual, é melhor aproveitar o tempo e ser seu amigo.

Para resumir o julgamento de oportunidades:

No mercado de aplicações 2B de grande modelo, existem novos cenários, novas formas, novas empresas e cenários antigos, novas soluções e PKs novos e antigos.

Não há dúvida de que é uma oportunidade para novos empreendimentos, mas a forma do produto está longe de estar madura. O iPhone foi lançado em meados de 2007. De quais aplicativos móveis você se lembra no final de 2008? O modelo grande no final de 2022 estará a apenas um ano e meio de distância. É claro que uma empresa deve permanecer viva, mas não pode ter como objetivo permanecer viva. Ainda há muitas oportunidades que precisam ser exploradas, seja por você ou por outros.

As oportunidades também pertencem aos atuais provedores de serviços de software em vários setores. Os serviços 2B devem, em última análise, resolver os problemas do usuário e você conhece melhor as necessidades do usuário. No campo de aplicações, a concorrência na era dos grandes modelos enfraqueceu enormemente as barreiras técnicas. A capacidade de transformar as necessidades do usuário em problemas adequados para o processamento de grandes modelos tornou-se o ponto competitivo mais importante, e este é, sem dúvida, o serviço de software da indústria Os pontos fortes da empresa. .

O embaralhamento certamente acontecerá, não importa há quanto tempo você está no setor. Seja você o primeiro ou o último no setor, você pode ser eliminado nesta competição, deixando algumas posições para empresas nativas de grande porte recém-ingressadas. O restante também será reordenado nesta revolução tecnológica.

A batalha decisiva será neste outono, neste ano.

A primeira reordenação ocorrerá neste outono. A maioria das empresas não tem orçamentos dedicados para grandes modelos em 2023 e as aquisições individuais desviam os orçamentos de outros projetos de TI. Haverá alguns orçamentos POC relacionados com grandes modelos em 2024, e grande parte do orçamento de TI em 2025 deverá estar relacionado com grandes modelos. Se você conseguirá tornar sua solução e a visão de sua empresa a Parte A neste outono determinará quantos projetos você poderá obter em 2025 e sua posição na primeira batalha do ranking.