notícias

Texto | Wang Zhiyuan

Recentemente, um amigo me deu um feedback:KimiA publicidade é realmente feroz.

Você pode ver isso ao ouvir NetEase Music ou navegar no bilibili. Diz-se que o produto é para usuários comuns. No entanto, ainda estamos na metade de agosto e algumas das ações de Kimi fazem as pessoas se sentirem um pouco diferentes.

Qual é a diferença?

Por um lado, em 2 de agosto, a controladora de Kimilado escuro da lua(Moonshot AI) anunciou o lançamento oficial da API de nível empresarial de Kimi. Este modelo de nível empresarial oferece proteção de segurança de dados mais forte e velocidade de processamento mais rápida do que a versão de usuário comum e pode ajudar as empresas a lidar com tarefas complexas e grandes quantidades de dados.

Imediatamente depois, eles anunciaram que reduziriam o custo da tecnologia de cache de contexto da plataforma aberta Kimi dos 10 yuans originais por 1 milhão de tokens para 5 yuans por minuto. Fiquei sabendo que essa redução de preço está em beta público na plataforma aberta desde 1º de julho.

Depois de ler isso, você pode ficar curioso, o que exatamente é Cache?

Simplificando, sua função é armazenar antecipadamente texto ou dados que podem ser usados ​​repetidamente e consultados com frequência, melhorando assim a eficiência do raciocínio do modelo sem aumentar custos.

Portanto, essas ações me fazem pensar: a IA encontrou um caminho eficaz no campo B2B? Depois de uma rodada de pesquisas, penso: sim.

01

Vamos falar primeiro sobre um consenso da indústria:A aplicação de IA é sem dúvida a chave para o sucesso do modelo.

Este ano, na Conferência Mundial de Inteligência Artificial, o CEO do Baidu, Robin Li, discutiu alguns de seus pontos de vista sobre a aplicação de grandes modelos. Ele disse: Embora o desenvolvimento do lado C seja importante, os cenários de aplicação do lado B são onde modelos grandes podem obter melhores resultados.

Ele acredita que na era da IA, os aplicativos que podem afetar profundamente as indústrias e melhorar significativamente a eficiência são mais valiosos. Ele prevê que os aplicativos serão desenvolvidos com base nas áreas de assistência médica, finanças, educação, manufatura, transporte e agricultura. em suas respectivas características e recursos de dados, os agentes inteligentes customizados alcançarão milhões no futuro, formando um enorme ecossistema.

Este ano, o Baidu ganhou 17 projetos em diversas áreas, como assistência médica, finanças, energia, proteção ambiental e transporte, abrangendo grandes empresas estatais e empresas líderes do setor, e os montantes também foram muito consideráveis.

Obviamente, Robin Li acredita que as aplicações de IA devem ser implementadas rapidamente em agentes inteligentes.

Não vamos dizer se vai cair nas especificidades do órgão inteligente. São tantos documentos de licitação que precisam ser entregues um por um. Se algo não for concluído em um ano e meio, o cliente definitivamente não estará disposto.

Vamos ver o que Yang Zhilin, o fundador da Moonshot AI, pensa sobre isso.

Em junho, durante uma conversa entre o fundador do Geek Park, Zhang Peng, e Yang Zhilin, Yang mencionou que eles não excluíram completamente o lado B, mas focaram principalmente no lado C. Seu produto Kimi alcançou o máximo de tráfego e uso no campo de IA.

Apesar disso, os usuários muitas vezes enfrentam problemas devido à capacidade computacional insuficiente durante os horários de pico. Para fazer face a esta situação, tomaram diversas medidas para reduzir custos operacionais e aumentar a eficiência.

Uma delas é otimizar o desempenho de inferência do modelo por meio da tecnologia de cache. Essa tecnologia permite que o Kimi responda mais rapidamente ao processar solicitações complexas e reduz a necessidade de cálculos repetidos.

Esta melhoria não só melhora a velocidade de resposta e a eficiência de processamento do sistema, mas também garante a coerência e a precisão do diálogo ou da geração de texto, o que parecerá ser um problema no futuro quando confrontado com a possibilidade de fazer negócios no lado B; um grande número de processamento centralizado de solicitações de dados Especialmente importante.

Portanto, Yang Zhilin acredita que se você quiser passar para o lado B, primeiro deve resolver o problema do poder computacional, e garantir a estabilidade do poder computacional é a base.

Por outro lado, acho que fazer negócios C-end não é tão atraente. Usa principalmente publicidade para obter conversões. No longo prazo, não é tão atraente.

Aprendi com muitos profissionais de publicidade que, a partir do primeiro semestre de 2024, o custo de conversão per capita continuará a aumentar. O custo de conversão de cada usuário do Kimi PC atingirá basicamente 40 yuans/pessoa.

No entanto, olhando para a tendência geral, o custo crescente da concorrência no mercado de IA em cenários C-end irá, sem dúvida, levar muitas empresas de IA a reavaliar as suas estratégias de mercado.

Portanto, embora o mercado do lado C tenha um grande potencial, os cenários de aplicação do lado B são as áreas-chave para alcançar o impacto profundo e os resultados eficientes dos grandes modelos. Afinal, somente alcançando a redução real de custos e a melhoria da eficiência para as empresas poderemos. promover o progresso da indústria e até mesmo de toda a indústria.

02

Já que o consenso está correto. Então, como os agentes, ou IA, ou modelos grandes (pequenos) podem efetivamente entrar no campo B2B?A primeira maneira é estar a montante do lado B.

O que isso significa?

O chamado upstream do lado B é a fonte da cadeia de abastecimento. Por exemplo: Suponha que haja uma empresa farmacêutica que tenha necessidades e cenários de aplicação para o uso de IA, mas seja difícil entrar em uma grande empresa modelo.

Neste momento, você descobre que a empresa farmacêutica está usando algum tipo de software SaaS. A grande empresa do modelo de IA pode considerar cooperar com o fornecedor de software desta forma, a IA pode ser adicionada aos produtos de software existentes e a empresa farmacêutica pode; use o software. Ao mesmo tempo, faça uma transição suave para o uso de IA.

Esta é a maneira de pensar de muitos empresários tradicionais do lado B.

Na verdade, o software B2B possui vários formulários de implantação. Primeiro, a implantação localizada, onde o software é instalado no próprio servidor ou dispositivo do cliente, dando ao cliente controle sobre os dados e a segurança.

Este método requer atualizações regulares, cuja manutenção é problemática e cara. Por exemplo, no passado, grandes fabricantes como a Mercedes-Benz e a BMW utilizavam sistemas tradicionais de CRM para implementação local, a fim de gerir agentes.

No entanto, a implantação localizada enfrenta muitos desafios ao implementar a integração de IA, especialmente modelos pré-treinados, uma vez instalados, eles podem responder às consultas dos clientes mesmo quando não estão conectados à Internet;

Embora muitas empresas ToB estejam interessadas em tentar, a complexidade das operações reais é muito elevada. Por exemplo, grupos farmacêuticos ou hospitais têm enormes necessidades de gestão de dados. Uma vez que o software precisa de ser atualizado para integrar novas funções de IA, todo o processo será extremamente complicado.

Além disso, os líderes de projeto têm que explicar aos seus chefes por que precisam gastar muito dinheiro para introduzir funções de IA.

por exemplo:

Gaste 20 milhões para construir um modelo. Parece ótimo, temos recursos de IA, mas a situação real pode fazer as pessoas pensarem que este é apenas um sistema de perguntas e respostas sobre conhecimento de IA. Olhando dessa forma, sempre parece que não é um bom negócio.

Outro ponto é: mesmo que uma empresa introduza um modelo, e se os funcionários não puderem mais utilizá-lo? Então esse dinheiro não seria desperdiçado?Nenhum cálculo é apropriado para isso. É claro que algumas empresas nem sequer têm uma base de conhecimento e não há necessidade de introduzir capacidades de IA.

O modelo SaaS, como outra forma, permite que os usuários paguem taxas por meio de assinaturas, como ferramentas de colaboração como o Feishu. Sob este modelo, as empresas SaaS podem integrar diretamente funções de IA e até mesmo ter a capacidade de contornar pequenas empresas modelo e adquirir serviços diretamente de grandes empresas modelo para transformar processos.

Entre todas essas formas, o modelo SaaS é o mais fácil de integrar funções de IA, porque os provedores de serviços podem atualizar e manter funções de IA uniformemente no back-end e os clientes não precisam se preocupar com detalhes técnicos.

Portanto, de uma perspectiva de cima para baixo, as empresas que fornecem soluções de IA podem ganhar alguns pedidos, mas o processo de tornar os clientes verdadeiramente bem-sucedidos pode ser bastante difícil, e os esforços e ganhos muitas vezes não são proporcionais.

03

Então, existe uma nova solução? ter. Vamos olhar de baixo para cima.

Precisamos estabelecer um novo entendimento:

O uso da IA ​​na empresa realmente encontrou um avanço. Ela nos ajuda principalmente a melhorar a eficiência de fazer as coisas. A IA geralmente é usada para melhorar os processos de trabalho existentes, em vez de reiniciá-los completamente.

O que é um começo limpo?

Ou seja, redesenhar completamente o processo de algo do zero, sem depender de quaisquer estruturas e planos existentes no contexto de fluxo de trabalho ou gestão de projetos, isso significa abandonar métodos e sistemas antigos e adotar métodos completamente novos para resolver o problema ou executar. uma tarefa.

Por exemplo, uma empresa originalmente usava um sistema muito tradicional de gerenciamento de relacionamento com o cliente (CRM). Com o passar do tempo e o crescimento do negócio, esse sistema não conseguia mais atender às necessidades da empresa.

A empresa decidiu não modificar ou atualizar o sistema antigo, mas desenvolver um novo sistema de CRM a partir do zero. Este novo sistema utilizará a pilha de tecnologia mais recente, funções de design mais alinhadas com os processos de negócios modernos e poderá integrar melhor os mais recentes. Ferramentas de análise de dados.

Este é um exemplo de “começo limpo”. Mas, quer saber?A IA subverte o processo de reengenharia de processos. Na maioria das vezes, a IA lida com tarefas com as quais os humanos já estão familiarizados e não há necessidade de reinventar a roda.

O que isso significa?

Quando uma empresa começa a usar modelos de IA, esses modelos devem estar intimamente integrados ao fluxo de trabalho da própria empresa. Por exemplo, algumas empresas desejam usar alguns modelos avançados de grande porte nas áreas médica ou educacional, mas esse processo pode encontrar muitas dificuldades.

Como os negócios e os processos de cada empresa são únicos e os dados exigidos pela IA também são únicos, um modelo geral amplo pode não ser adequado. Muitas vezes é difícil aplicar verdadeiramente esses conceitos amplos em uma empresa.

o que fazer?Nesse momento seria mais fácil ter um modelo e assistente pequeno.

Por exemplo:

Contadores de pequenas e médias empresas costumam usar softwares como Kingdee, UFIDA e Chanjet. Já existem muitos dados armazenados nestes softwares para os operadores, eles só querem usar o poder da IA ​​para encontrar rapidamente um dado ou tirar uma conclusão, sem ter que fazer grandes alterações no software original.

Portanto, uma boa maneira de aplicar IA a cenários empresariais (ToB) é dividir processos de negócios complexos em muitas tarefas pequenas, ou pequenos cenários específicos, e então usar IA para ajudar a melhorar cada pequeno cenário.

Vemos também que empresas como a MicrosoftIA abertaOs investidores, assim como a Salesforce, líder na indústria de CRM, não usaram IA para desenvolver novos produtos.

Embora continuem a rotular produtos com novos recursos, na verdade, eles usam modelos grandes para auxiliar e aprimorar processos de negócios ou funções de produtos existentes.

Em outras palavras, eles refinam um pequeno modelo em um assistente, ou um aprimoramento, que pode integrar-se melhor e otimizar os sistemas existentes, em vez de substituí-los completamente.

Isso é um pouco parecido com os plug-ins que muitas empresas de IA criaram recentemente no lado do PC. Você só precisa deslizar o mouse suavemente ou pressionar uma tecla de atalho e a IA aparecerá para ajudar. Sua principal função é nos ajudar a tomar melhores decisões.

04

Se você não acredita, também pode pensar sobre isso: o que as empresas ToB realmente precisam que a IA faça?

De acordo com a pesquisa de Zhiyuan, eles usam dados principalmente para ajudar na tomada de decisões em operações, gestão, tomada de decisões e marketing.Então, para as empresas de IA, como podem ser práticas e rentáveis? A chave é conseguir uma replicação rápida e cobrir vários cenários a um custo muito baixo.

Como copiar?

Uma maneira é encapsular a IA em um agente inteligente que possa chamar dados locais.É por isso que o Kimi Chat reduzirá o custo de armazenamento em cache, porque salvar o texto local usado com frequência pode ajudar a melhorar a precisão do assistente.

Mas há uma questão aqui: como torná-lo preciso, versátil e de baixo custo ao mesmo tempo?

A este respeito, podemos definir “alta precisão” assim:Contanto que o negócio seja utilizável e a precisão seja alta o suficiente, mesmo que ocorra um erro ocasionalmente, os usuários podem identificá-lo e explicar por que isso acontece.

“Baixo custo” significa que o custo inicial do projeto deve ser baixo, pode ser implantado em uma única máquina e deve ser simples de usar e manter.Hoje em dia, o custo de hardware de muitos modelos grandes é muito alto. Se a empresa não tiver certeza de quanto dinheiro pode ganhar, definitivamente não estará disposta a investir muito.

A vantagem dos modelos grandes é que eles resolvem o problema de versatilidade dos primeiros algoritmos de IA.

Em teoria, um modelo pode lidar com todos os cenários; na prática, temos que ajustá-lo. Portanto, definimos “alta versatilidade” como ser capaz de implementar ferramentas e automação, para que possa ser replicado em larga escala e implementado com baixo custo.

Um modelo grande com escala de 100 milhões atingiu uma precisão de mais de 95%. Então, derivamos um modelo pequeno desse modelo grande e o encapsulamos em um assistente, resolvendo assim o problema de utilização da entrada.

Imagine que uma grande empresa modelo tenha uma solução de grande modelo superpoderosa que atue como um modelo pai, dando suporte às amplas necessidades de toda a empresa.

Este grande modelo é particularmente poderoso e pode lidar com análises de dados complexas e fornecer insights muito precisos. É particularmente adequado para empresas do lado B que necessitam de grandes quantidades de recursos computacionais e processamento de dados em grande escala. Mas, na verdade, nem todas as empresas do lado B precisam de um sistema tão grande.

Para mais pequenas e médias empresas, um modelo menor e mais focado será suficiente. Podemos pensar nisso como um “submodelo” de um modelo maior.

Esses modelos pequenos herdam os recursos principais dos modelos maiores, mas são otimizados e ajustados para que se adaptem melhor às necessidades específicas dos negócios e aos ambientes operacionais de pequena escala.

Modelos pequenos não precisam de tanto poder computacional quanto modelos grandes, mas focam em tarefas específicas e podem ser ajustados de acordo com diferentes necessidades, como gerar relatórios de análise inteligentes ou realizar análises inteligentes.

Isto permite que pequenas empresas com recursos limitados utilizem IA para melhorar a eficiência do trabalho e a qualidade da tomada de decisões.

Portanto, o modelo pequeno é como a essência extraída do modelo grande. Ele só precisa de recursos básicos de base de conhecimento. A chave é transformá-lo em um pequeno assistente e incorporá-lo na ferramenta para uso.

Nunca pense que isso significa que sua lógica está correta. Após a pesquisa de Zhiyuan, os produtos de IA já foram implementados em empresas do lado B, portanto, para TOB, os cenários de aplicação de IA são agentes e plug-ins;

Isto também tem a vantagem de ser fácil de entregar sem ter que investir custos elevados.

Resumir

TOB AI não segue o caminho antigo.

Se os pequenos modelos são o ponto-chave do TOB, então transformá-los em agentes e assistentes inteligentes é o elo fundamental para conectar a última milha do TOB.Afinal, bottom-up é centrado nas pessoas e nas tarefas, e não no software.