noticias

Texto | Wang Zhiyuan

Recientemente, un amigo me dio su opinión:KimiLa publicidad es realmente feroz.

Puedes verlo cuando escuchas NetEase Music o navegas por bilibili. Se dice que el producto es para usuarios comunes. No hay duda de esto. Sin embargo, solo estamos a mediados de agosto y algunas de las acciones de Kimi hacen que la gente se sienta un poco diferente.

¿Cuál es la diferencia?

Por un lado, el 2 de agosto, la empresa matriz de Kimilado oscuro de la luna(Moonshot AI) anunció el lanzamiento oficial de la API de nivel empresarial de Kimi. Este modelo de nivel empresarial proporciona una protección de seguridad de datos más sólida y una velocidad de procesamiento más rápida que la versión de usuario normal, y puede ayudar a las empresas a manejar tareas complejas y grandes cantidades de datos.

Inmediatamente después, anunciaron que reducirían el costo de la tecnología de caché de contexto de la plataforma abierta Kimi de los 10 yuanes originales por 1 millón de tokens a 5 yuanes por minuto. Me enteré de que esta reducción de precio ha estado en versión beta pública en la plataforma abierta desde el 1 de julio.

Después de leer esto, es posible que sientas curiosidad: ¿qué es exactamente el caché?

En pocas palabras, su función es almacenar texto o datos por adelantado que pueden usarse repetidamente y consultarse con frecuencia, mejorando así la eficiencia del razonamiento del modelo sin aumentar los costos.

Por tanto, estas acciones me hacen preguntarme: ¿la IA ha encontrado un camino eficaz en el ámbito B2B? Después de una ronda de investigación, pienso: sí.

01

Hablemos primero de un consenso de la industria:La aplicación de la IA es sin duda la clave del éxito del modelo.

Este año, en la Conferencia Mundial sobre Inteligencia Artificial, el director ejecutivo de Baidu, Robin Li, expuso algunas de sus opiniones sobre la aplicación de grandes modelos. Dijo: Aunque el desarrollo del lado C es importante, los modelos grandes pueden lograr mejores resultados en los escenarios de aplicación del lado B.

Él cree que en la era de la IA, las aplicaciones que pueden afectar profundamente a las industrias y mejorar significativamente la eficiencia son más valiosas. Prevé que en los campos de la atención médica, las finanzas, la educación, la manufactura, el transporte y la agricultura, se desarrollarán aplicaciones basadas. En función de sus respectivas características y recursos de datos, los agentes inteligentes personalizados llegarán a millones en el futuro, formando un enorme ecosistema.

Este año, Baidu ganó 17 proyectos en diversos campos como atención médica, finanzas, energía, protección ambiental y transporte, que abarcan grandes empresas estatales y empresas líderes de la industria, y las cantidades también fueron muy considerables.

Obviamente, Robin Li cree que las aplicaciones de IA deben implementarse rápidamente en agentes inteligentes.

No digamos si entrará en las especificaciones del cuerpo inteligente. Hay tantos documentos de licitación que deben entregarse uno por uno. Si algo no se completa en un año y medio, el cliente definitivamente no estará dispuesto.

Veamos qué piensa al respecto Yang Zhilin, el fundador de Moonshot AI.

En junio, durante una conversación entre el fundador de Geek Park, Zhang Peng, y Yang Zhilin, Yang mencionó que no excluyeron por completo la cara B, sino que se centraron principalmente en la cara C. Su producto Kimi ha alcanzado el máximo tráfico y uso en el campo de la IA.

A pesar de esto, los usuarios suelen experimentar problemas debido a una potencia informática insuficiente durante las horas pico. Para hacer frente a esta situación, han tomado varias medidas para reducir los costos operativos y aumentar la eficiencia.

Uno de ellos es optimizar el rendimiento de inferencia del modelo mediante tecnología de almacenamiento en caché. Esta tecnología permite a Kimi responder más rápido al procesar solicitudes complejas y reduce la necesidad de cálculos repetidos.

Esta mejora no sólo mejora la velocidad de respuesta y la eficiencia de procesamiento del sistema, sino que también garantiza la coherencia y precisión del diálogo o la generación de texto, lo que parecerá un problema en el futuro ante la posibilidad de hacer negocios del lado B; Una gran cantidad de procesamiento centralizado de solicitudes de datos es especialmente importante.

Por lo tanto, Yang Zhilin cree que si desea pasar al lado B, primero debe resolver el problema de la potencia informática, y garantizar la estabilidad de la potencia informática es la base.

Por otro lado, creo que hacer negocios C-end no es tan atractivo. Utiliza principalmente publicidad para obtener conversiones. A la larga, no es tan llamativo.

Muchos profesionales de la publicidad me dijeron que a partir de la primera mitad de 2024, el costo de conversión per cápita seguirá aumentando. El costo de conversión de cada usuario de Kimi PC alcanzará básicamente los 40 yuanes por persona.

Sin embargo, si observamos la tendencia general, el costo creciente de la competencia en el mercado de la IA en escenarios del extremo C sin duda empujará a muchas empresas de IA a reevaluar sus estrategias de mercado.

Por lo tanto, aunque el mercado del lado C tiene un gran potencial, los escenarios de aplicación del lado B son las áreas clave para lograr el impacto profundo y los resultados eficientes de los modelos grandes. Después de todo, solo podemos lograr una reducción real de costos y una mejora de la eficiencia para las empresas. promover el progreso de la industria e incluso de toda la industria.

02

Dado que el consenso es correcto. Entonces, ¿cómo pueden los agentes, la IA o los modelos grandes (pequeños) ingresar efectivamente al campo B2B?La primera forma es estar aguas arriba del lado B.

¿Qué significa?

El llamado lado B upstream es el origen de la cadena de suministro. Por ejemplo: supongamos que hay una empresa farmacéutica que tiene necesidades y escenarios de aplicación para el uso de IA, pero es difícil entrar en una gran empresa modelo. ¿Qué debo hacer?

En este momento, descubre que la empresa farmacéutica está utilizando algún tipo de software SaaS. La gran empresa modelo de IA puede considerar cooperar con el proveedor de software de esta manera, y la empresa farmacéutica puede agregar IA a los productos de software existentes. utilice el software al mismo tiempo, realice una transición sin problemas al uso de IA.

Esta es la forma de pensar de muchos empresarios tradicionales del lado B.

De hecho, el software B2B tiene múltiples formas de implementación. En primer lugar, la implementación localizada, donde el software se instala en el propio servidor o dispositivo del cliente, dándole al cliente control sobre los datos y la seguridad.

Este método requiere actualizaciones periódicas, lo cual es problemático y costoso de mantener. Por ejemplo, en el pasado, los grandes fabricantes como Mercedes-Benz y BMW utilizaban sistemas CRM tradicionales para la implementación local con el fin de gestionar los agentes.

Sin embargo, la implementación localizada enfrenta muchos desafíos al implementar la integración de IA, especialmente los modelos previamente entrenados, una vez instalados, pueden responder a las consultas de los clientes incluso cuando no están conectados a Internet;

Aunque muchas empresas ToB están interesadas en intentarlo, la complejidad de las operaciones reales es muy alta. Por ejemplo, los grupos farmacéuticos u hospitales tienen enormes necesidades de gestión de datos. Una vez que sea necesario actualizar el software para integrar nuevas funciones de IA, todo el proceso será extremadamente complicado.

Además, los líderes de proyectos deben explicar a sus jefes por qué necesitan gastar mucho dinero para introducir funciones de IA.

Por ejemplo:

Gasta 20 millones para construir un modelo. Suena genial, tenemos capacidades de IA, pero la situación real puede hacer que la gente piense que esto es solo un sistema de preguntas y respuestas sobre conocimientos de IA. Mirándolo de esta manera, siempre parece que no es un buen negocio.

Otro punto es que, incluso si una empresa introduce un modelo, ¿qué pasa si los empleados ya no pueden utilizarlo? Entonces, ¿no se desperdiciaría este dinero?Ningún cálculo es apropiado para esto. Por supuesto, algunas empresas ni siquiera tienen una base de conocimientos y no es necesario introducir capacidades de IA.

El modelo SaaS, como otra forma, permite a los usuarios pagar tarifas mediante suscripciones, como herramientas de colaboración como Feishu. Según este modelo, las empresas SaaS pueden integrar directamente funciones de IA e incluso tener la capacidad de evitar las pequeñas empresas modelo y comprar servicios directamente de las grandes empresas modelo para transformar los procesos.

Entre todas estas formas, el modelo SaaS es el más fácil de integrar funciones de IA, porque los proveedores de servicios pueden actualizar y mantener las funciones de IA de manera uniforme en el back-end y los clientes no necesitan preocuparse por los detalles técnicos.

Por lo tanto, desde una perspectiva de arriba hacia abajo, las empresas que ofrecen soluciones de IA pueden obtener algunos pedidos, pero el proceso de lograr que los clientes realmente tengan éxito puede ser bastante difícil, y los esfuerzos y las ganancias a menudo no son proporcionales.

03

Entonces, ¿existe una nueva solución? tener. Veámoslo desde abajo hacia arriba.

Necesitamos establecer un nuevo entendimiento:

De hecho, el uso de la IA en la empresa ha supuesto un gran avance. Nos ayuda principalmente a mejorar la eficiencia de hacer las cosas. La IA se utiliza generalmente para mejorar los procesos de trabajo existentes en lugar de reiniciarlos por completo.

¿Qué es un comienzo limpio?

Es decir, rediseñar completamente el proceso de algo desde cero, sin depender de estructuras y planes existentes; en el contexto del flujo de trabajo o la gestión de proyectos, esto significa abandonar métodos y sistemas antiguos y adoptar métodos completamente nuevos para resolver el problema o realizarlo. una tarea.

Por ejemplo, una empresa utilizó originalmente un sistema de gestión de relaciones con el cliente (CRM) muy tradicional. A medida que pasó el tiempo y el negocio creció, este sistema ya no pudo satisfacer las necesidades de la empresa.

La empresa decidió no modificar ni actualizar el sistema anterior, sino desarrollar un nuevo sistema CRM desde cero. Este nuevo sistema utilizará la última tecnología, diseñará funciones que estén más en línea con los procesos comerciales modernos y pueda integrar mejor lo último. Herramientas de análisis de datos.

Este es un ejemplo de un "comienzo limpio". Pero, ¿sabes qué?La IA subvierte el proceso de reingeniería de procesos. La mayoría de las veces, la IA maneja tareas con las que los humanos ya están familiarizados y no hay necesidad de reinventar la rueda.

¿Qué significa?

Cuando una empresa comienza a utilizar modelos de IA, estos modelos deben integrarse estrechamente con el flujo de trabajo propio de la empresa. Por ejemplo, algunas empresas quieren utilizar algunos modelos grandes avanzados en los campos médico o educativo, pero este proceso puede encontrar muchas dificultades.

Debido a que el negocio y los procesos de cada empresa son únicos, y los datos requeridos por la IA también son únicos, un modelo general grande puede no ser adecuado. A menudo es difícil aplicar verdaderamente estos conceptos amplios en una empresa.

¿Qué hacer?En este momento, sería más fácil tener un modelo pequeño y un asistente.

Por ejemplo:

Los contables de las pequeñas y medianas empresas suelen utilizar software como Kingdee, UFIDA y Chanjet. Ya hay muchos datos almacenados en este software; para los operadores, solo quieren usar el poder de la IA para encontrar rápidamente un dato o sacar una conclusión, sin tener que realizar cambios importantes en el software original.

Por lo tanto, una buena manera de aplicar la IA a escenarios empresariales (ToB) es dividir los procesos comerciales complejos en muchas tareas pequeñas o escenas pequeñas específicas y luego usar la IA para ayudar a mejorar cada escena pequeña.

También vemos que empresas como MicrosoftIA abiertaLos inversores, así como Salesforce, líder en la industria CRM, no han utilizado la IA para desarrollar nuevos productos.

Aunque continúan etiquetando productos con nuevas características, de hecho, utilizan modelos grandes para ayudar y mejorar los procesos comerciales o funciones de productos existentes.

En otras palabras, refinan un modelo pequeño para convertirlo en un asistente, o una mejora, que puede integrarse mejor y optimizar los sistemas existentes en lugar de reemplazarlos por completo.

Esto es un poco como los complementos que muchas empresas de inteligencia artificial han creado recientemente en el lado de las PC. Solo necesita deslizar el mouse suavemente o presionar una tecla de acceso directo y la IA aparecerá para ayudarlo. Su función principal es ayudarnos a tomar mejores decisiones.

04

Si no lo cree, también puede pensar en ello: ¿qué necesitan realmente las empresas de ToB que haga la IA?

Según la investigación de Zhiyuan, utilizan principalmente datos para ayudar a tomar decisiones en operaciones, gestión, toma de decisiones y marketing.Entonces, para las empresas de IA, ¿cómo pueden ser prácticas y rentables? La clave es lograr una replicación rápida y cubrir múltiples escenarios a un costo muy bajo.

¿Cómo copiar?

Una forma es encapsular la IA en un agente inteligente que pueda solicitar datos locales.Es por eso que Kimi Chat reducirá el costo del almacenamiento en caché, porque guardar el texto local de uso frecuente puede ayudar a mejorar la precisión del asistente.

Pero aquí surge la pregunta: ¿cómo lograr que sea preciso, versátil y de bajo costo al mismo tiempo?

En este sentido, podemos definir "alta precisión" así:Siempre que la empresa sea utilizable y la precisión sea lo suficientemente alta, incluso si ocurre un error ocasionalmente, los usuarios pueden identificarlo y explicar por qué sucede.

"Bajo costo" significa que el costo inicial del proyecto debe ser bajo, puede implementarse en una sola máquina y debe ser fácil de usar y mantener.Hoy en día, el costo del hardware de muchos modelos grandes es muy alto. Si la empresa no está segura de cuánto dinero puede ganar, definitivamente no estará dispuesta a invertir demasiado.

La ventaja de los modelos grandes es que resuelven el problema de versatilidad de los primeros algoritmos de IA.

En teoría, un modelo puede manejar todos los escenarios; en la práctica, tenemos que ajustarlo. Por lo tanto, definimos "alta versatilidad" como la capacidad de implementar herramientas y automatización, de modo que puedan replicarse a gran escala e implementarse a bajo costo.

Un modelo grande con una escala de 100 millones logró una precisión de más del 95%. Luego, derivamos un modelo pequeño de este modelo grande y lo encapsulamos en un asistente, resolviendo así el problema de usar la entrada.

Imagine que una gran empresa modelo tiene una solución de gran modelo súper poderosa que actúa como un modelo principal y satisface las amplias necesidades de toda la empresa.

Este gran modelo es particularmente poderoso y puede manejar análisis de datos complejos y brindar información muy precisa. Es particularmente adecuado para empresas del lado B que requieren grandes cantidades de recursos informáticos y procesamiento de datos a gran escala. Pero, de hecho, no todas las empresas del lado B necesitan un sistema tan grande.

Para más pequeñas y medianas empresas, será suficiente un modelo más pequeño y más centrado. Podemos considerarlo como un "submodelo" de un modelo más amplio.

Estos modelos pequeños heredan capacidades centrales de los modelos más grandes, pero están optimizados y ajustados para que se ajusten mejor a las necesidades empresariales específicas y a los entornos operativos de pequeña escala.

Los modelos pequeños no necesitan tanta potencia informática como los modelos grandes, pero se centran en tareas específicas y pueden ajustarse según diferentes necesidades, como generar informes de análisis inteligentes o realizar análisis inteligentes.

Esto permite a las pequeñas empresas con recursos limitados utilizar la IA para mejorar la eficiencia del trabajo y la calidad de la toma de decisiones.

Por lo tanto, el modelo pequeño es como la esencia extraída del modelo grande. Solo necesita capacidades básicas de base de conocimientos. La clave es convertirlo en un pequeño asistente e integrarlo en la herramienta para su uso.

Nunca pienses que esto significa que tu lógica es correcta. Después de la investigación de Zhiyuan, los productos de IA ya se han implementado en empresas del lado B, por lo tanto, para TOB, los escenarios de aplicación de IA son agentes y complementos;

Esto también tiene la ventaja de ser fácil de entregar sin tener que invertir costes elevados.

Resumir

TOB AI no sigue el viejo camino.

Si los modelos pequeños son el punto clave de TOB, entonces convertirlos en agentes y asistentes inteligentes es el vínculo clave para conectar la última milla de TOB.Después de todo, el enfoque ascendente se centra en las personas y las tareas, no en el software.