noticias

editor | xie li long

la guerra de precios de los modelos grandes en el mercado chino dura ya casi medio año. esta ronda de guerra de precios ha alcanzado beneficios brutos negativos y no muestra signos de detenerse por el momento. los principales proveedores de nube todavía están planeando una nueva ronda de recortes de precios. esta ronda de recortes de precios se implementará a finales de septiembre de este año.

en mayo de este año, los proveedores chinos de nube comenzaron una guerra de precios por la potencia informática de inferencia de modelos grandes. los servicios en la nube de bytedance, volcano engine, alibaba cloud, baidu smart cloud y tencent cloud, han reducido sucesivamente el precio de la potencia informática de inferencia de modelos grandes en más del 90%.

para utilizar un modelo grande, debe ingresar el lenguaje de solicitud y obtener el resultado del contenido mediante el razonamiento. este proceso llamará a una api (interfaz de programación de aplicaciones, como un interruptor de agua y electricidad) y pagará de acuerdo con la cantidad de tokens consumidos (token es una unidad de texto de un modelo grande, un token puede ser una palabra, puntuación, número, símbolo, etcétera). es como pagar una tarifa por el uso del agua y la electricidad.

después de la reducción de precios, el consumo de potencia informática de inferencia está aumentando rápidamente. en agosto de este año, la conferencia telefónica sobre ganancias del segundo trimestre de baidu reveló que el promedio de llamadas api diarias de baidu wenxin big model en mayo fue de 200 millones, que aumentó a 600 millones en agosto. el consumo promedio diario de tokens en mayo fue de 250 mil millones, y en agosto ha crecido a 1 billón. bytedance anunció en agosto de este año que, en julio, el uso promedio diario de tokens del modelo bytedance doubao superó los 500 mil millones. en comparación con mayo, el uso promedio diario de tokens por empresa aumentó 22 veces.

los precios de los tokens cayeron más del 90%. esto reducirá los ingresos por inferencias de los proveedores de nube en el corto plazo. sin embargo, los proveedores de la nube esperan utilizar este método para reducir el umbral de prueba y error para los clientes empresariales, lo que resultará en un consumo de energía informática exponencial más de 10 veces y, en última instancia, lograr un crecimiento de los ingresos a largo plazo.

la guerra de precios por la potencia de cálculo de inferencia en el mercado nacional de modelos grandes ha durado medio año. actualmente, hay tres hechos básicos:

en primer lugar, la inferida guerra de precios de la potencia informática ya ha alcanzado beneficios brutos negativos. recientemente, los jefes de muchos proveedores de nube, incluidos alibaba cloud y baidu smart cloud, nos revelaron que antes de mayo de este año, el margen de beneficio bruto de la potencia informática de inferencia de modelos nacionales a gran escala era superior al 60%, que era básicamente lo mismo que el de sus pares internacionales. después de que los principales fabricantes redujeran los precios sucesivamente en mayo de este año, el margen de beneficio bruto de la potencia informática de inferencia cayó a cifras negativas.

en segundo lugar, en comparación con los modelos de openai con las mismas especificaciones, el precio de los modelos nacionales es generalmente sólo del 20% al 50%. el margen de beneficio bruto de los grandes modelos nacionales es mucho menor que el de openai. un informe de investigación de futuresearch, una organización internacional de investigación de mercado, indicó en agosto de este año que el margen de beneficio bruto del modelo insignia de la serie gpt-4 de openai es de aproximadamente el 75%, y el margen de beneficio bruto del modelo principal de la serie gpt-4o es de aproximadamente 55%. el margen de beneficio bruto integral de openai es al menos superior al 40%.

hay que librar una guerra de precios

verificamos los precios de inferencia de modelos grandes anunciados por alibaba cloud, volcano engine, baidu smart cloud, tencent cloud y el sitio web oficial de openai. en comparación con los modelos de openai con la misma especificación, el precio de los modelos nacionales es generalmente sólo del 20% al 50%.

tomemos como ejemplos tongyi qianwen-max de alibaba, ernie-4.0-8k de baidu y hunyuan-pro de tencent. los precios de salida de los tres modelos por millón de tokens son 120 yuanes, 120 yuanes y 100 yuanes respectivamente. el precio de salida de su modelo insignia openai de referencia, gpt-4-turbo, es de 210 yuanes por millón de tokens (el precio que figura en el sitio web oficial de openai es de 30 dólares estadounidenses, que se ha convertido en función del dólar estadounidense y el tipo de cambio 1 del rmb: 7). el precio de estos tres grandes modelos nacionales es sólo alrededor del 50% del del gpt-4-turbo.

tomemos como ejemplos qwen-long de alibaba, ernie-speed-pro-128k de baidu y hunyuan-embedding de tencent. los precios de salida de los tres modelos por millón de tokens son 2 yuanes, 0,8 yuanes y 5 yuanes respectivamente. el precio de salida del modelo económico openai gpt-4o-mini millones de tokens de openai es de 4,2 yuanes (el precio que figura en el sitio web oficial de openai es de 0,6 dólares estadounidenses, que se ha convertido según el tipo de cambio de dólares estadounidenses y rmb 1:7 ). los modelos básicos de alibaba y baidu cuestan sólo el 48% y el 19% del precio del modelo básico de openai.

la guerra de precios de los modelos grandes ha alcanzado márgenes brutos negativos, pero esto no ha impedido que varios proveedores de nube sigan recortando precios.

la noticia que hemos recibido es que los principales proveedores de nube, como alibaba cloud, todavía están planeando una nueva ronda de recortes de precios. esta ronda de recortes de precios se implementará a finales de septiembre de este año. los modelos emblemáticos de alto rendimiento son el foco de esta ronda de recortes de precios.

el principal responsable del negocio de modelos grandes de los proveedores de nube mencionados anteriormente cree que actualmente hay poco espacio para reducciones de precios para modelos baratos de tamaño pequeño, y la última ronda de reducciones de precios ha caído al "resultado psicológico". de clientes corporativos. el siguiente paso en el que debemos centrarnos es si cada modelo insignia seguirá reduciendo los precios. el modelo insignia también se subdividirá en versiones rentables que pueden resolver la mayoría de los problemas, así como versiones de alta calidad y precio elevado que resuelven problemas extremadamente difíciles.

la potencia de cálculo de la inferencia de modelos grandes ha alcanzado un beneficio bruto negativo, entonces, ¿por qué seguir reduciendo los precios?

los grandes fabricantes de la nube analizan la tendencia del mercado a largo plazo: la estructura de potencia informática de la computación en la nube está experimentando cambios drásticos. aprovechar más potencia de cálculo de inferencias es apoderarse de más mercados incrementales. la organización internacional de investigación de mercado idc predice que la potencia informática general de china tendrá una tasa de crecimiento anual compuesta del 16,6% entre 2022 y 2027, y la potencia informática inteligente tendrá una tasa de crecimiento anual compuesta del 33,9%. de 2022 a 2027, dentro de la potencia informática inteligente, la proporción de potencia informática de inferencia aumentará al 72,6% y la proporción de potencia informática de entrenamiento caerá al 27,4%.

los proveedores de nube están dispuestos a renunciar a ingresos a corto plazo por el crecimiento esperado a largo plazo. a corto plazo, la potencia informática de inferencia no genera muchos ingresos. un técnico de un proveedor chino de nube explicó que el modelo llamando a los ingresos de cada empresa no excederá los mil millones de yuanes en 2024, lo que es limitado en un mercado con decenas de miles de millones de ingresos por año. los proveedores de nube están dispuestos a aceptar pérdidas de ingresos a corto plazo y pérdidas comerciales en los próximos uno o dos años. todo el mundo apuesta a que el número de llamadas de modelos grandes aumentará exponencialmente al menos 10 veces en los próximos uno o dos años. en última instancia, el crecimiento de los ingresos a largo plazo puede compensar las pérdidas de ingresos a corto plazo.

explicó además que en este proceso, el costo de la potencia informática se diluirá gradualmente a medida que crezca la demanda de los clientes. la gran empresa modelo todavía tiene la oportunidad de lograr beneficios positivos en el futuro. incluso si la apuesta no se cumple, un grupo de fabricantes de modelos morirá en la guerra de precios y los fabricantes supervivientes recogerán los pedazos.

los diferentes proveedores de nube también tienen diferentes consideraciones competitivas cuando se enfrentan a guerras de precios: volcano engine, alibaba cloud y baidu smart cloud están participando en una guerra de precios que debe librarse.

actualmente, volcano engine no se encuentra entre los cinco primeros en el mercado de la nube pública de china, pero sus ingresos crecerán más del 150% en 2023. los modelos grandes son una oportunidad importante para ponerse al día en el mercado de la nube. tan dai, presidente de volcano engine, nos mencionó en mayo de este año que en marzo de este año descubrió en silicon valley que el emprendimiento de aplicaciones de ia en los estados unidos mostró la tendencia de la etapa inicial de internet móvil de china de 2012 a 2014. "un pequeño equipo de inicio de aplicaciones de ia logró rápidamente ingresos y financiación. el mercado chino puede mostrar esta tendencia en el futuro. pero la premisa es que se debe reducir el precio de la inferencia y el umbral de prueba y error".

alibaba cloud ocupa el primer lugar en el mercado de la nube pública de china. ante los recortes de precios por parte de los competidores, alibaba cloud debe hacer un seguimiento. liu weiguang, gerente general de la división de nube pública de alibaba cloud, nos analizó en junio de este año que alibaba cloud ha pasado por múltiples rondas de deducciones y cálculos internos y encontró dos contradicciones:

baidu intelligent cloud considera la ia como su estrategia central. un director técnico de modelos grandes de baidu nos dijo sin rodeos en julio de este año que los modelos grandes son una batalla que hay que ganar y que la guerra de precios debe librarse a toda costa. esta estrategia ha logrado resultados reales. la tasa de crecimiento de los ingresos de baidu smart cloud en el segundo trimestre de 2024 se recuperó al 14%, el punto más alto de los últimos dos años. la gerencia de baidu reveló en la convocatoria de ganancias del segundo trimestre de 2024 que la proporción de ingresos del modelo grande de baidu intelligent cloud aumentó del 4,8% en el cuarto trimestre de 2023 al 9% en el segundo trimestre de 2024.

la otra cara de la moneda de las guerras de precios de inferencia de modelos grandes y los márgenes brutos negativos es que el precio bajo no es el factor principal para que los clientes empresariales utilicen modelos grandes.

el principal responsable del negocio de grandes modelos de los proveedores de nube antes mencionados cree que los proveedores de nube no pueden confiar en la quema de dinero y pérdidas a largo plazo para promover la implementación de la industria de grandes modelos. un modelo de bajo rendimiento y bajo precio tiene poco sentido. las capacidades insuficientes de los modelos son una razón importante para las guerras de precios negativas sobre las ganancias brutas. como los precios de las llamadas de modelos nacionales han caído significativamente, el precio ya no es el factor más importante para los clientes corporativos. las capacidades y efectos del modelo son lo que más preocupa a los clientes corporativos.

un director de ti de una compañía de seguros estuvo de acuerdo. dijo sin rodeos que la proporción actual de los gastos en ti en la industria financiera y de seguros en los ingresos de las empresas es de alrededor del 3% al 5%. excluyendo el 80% de los gastos en ti en hardware, solo el 20% de los gastos en ti se utilizan en realidad para la transformación digital. cuando se utiliza una nueva tecnología como modelos grandes, se debe calcular la relación entrada-salida. además de los costos explícitos del modelo, también se deben considerar los costos implícitos: los modelos grandes deben ser compatibles con los sistemas de ti existentes, se requiere gobernanza de datos para preparar datos comerciales para modelos grandes y se debe contratar un grupo de gerentes de producto que entiendan la ia. lo que más le preocupa son las capacidades del modelo y los efectos prácticos.

el centro de investigación de modelos fundamentales (crfm) de la universidad de stanford realiza clasificaciones globales de pruebas de modelos grandes a largo plazo. la clasificación de pruebas de comprensión de lenguajes multitarea (mmlu) a gran escala al 17 de septiembre muestra que los diez principales fabricantes de modelos incluyen la serie claude 3.5 de la startup de ia anthropic (con inversión de amazon), la serie llama3.1 de meta y openai (serie gpt-4 propiedad de microsoft investment) y serie gemini 1.5 propiedad de google. actualmente, entre los grandes modelos chinos, sólo el tongyi qianwen 2 instruct (72b), propiedad de alibaba, se encuentra entre los diez primeros.

el personal técnico de modelos grandes de muchos proveedores de nube chinos expresó la misma opinión a caijing: en el mercado de modelos grandes, la estrategia de bajo rendimiento y bajo precio es insostenible. la situación ideal es establecer un circuito cerrado empresarial sano y duradero, basado en un alto rendimiento y precios razonables.

un punto de referencia más valioso es openai. en septiembre de este año, openai tiene mil millones de usuarios activos mensuales y 11 millones de usuarios pagos (incluidos 10 millones de suscriptores individuales pagos y 1 millón de suscriptores empresariales). en mayo de este año, la dirección de openai anunció los ingresos anualizados de la empresa (los ingresos anualizados son los ingresos del mes actual × 12. las empresas de software basadas en suscripciones reciben renovaciones de las suscripciones de los usuarios cada mes y tienen expectativas de ingresos estables, por lo que a menudo utilizan el calibre de ingresos anualizados). 3,4 mil millones de dólares estadounidenses (convertidos según el tipo de cambio del dólar estadounidense y el rmb de 1:7, aproximadamente 24,1 mil millones de yuanes).

el último informe de investigación de futuresearch, una organización internacional de investigación de mercado, calcula la estructura de ingresos de la empresa basándose en los ingresos anualizados y la estructura de usuarios pagos anunciados por openai: 10 millones de suscriptores individuales generaron 1.900 millones de dólares en ingresos, lo que representa 1 millón; los suscriptores empresariales generaron 710 millones de dólares en ingresos, lo que representa el 21%; las llamadas api generaron 510 millones de dólares en ingresos, lo que representa el 15%.

incluso después de múltiples rondas de recortes de precios, openai aún puede mantener un margen de beneficio bruto relativamente saludable. en abril de este año, el precio de salida del modelo insignia gpt-4-turbo de openai se redujo en un 67%. en agosto de este año, el precio de producción del modelo principal de openai, gpt-4o, se redujo en un 30%. un informe de investigación publicado por futuresearch en agosto de este año indicó que el margen de beneficio bruto del modelo insignia de la serie gpt-4 de openai es de aproximadamente el 75%, y el margen de beneficio bruto del modelo principal de la serie gpt-4o es de aproximadamente el 55%. el margen de beneficio bruto integral de openai es de al menos el 40%.

openai tiene un entorno de crecimiento único. no solo tiene suficiente suministro de potencia informática, sino que también tiene una enorme cantidad de usuarios de to c (para clientes consumidores) y también se encuentra en el mercado de software to b (para clientes empresariales) más grande del mundo.

la experiencia exitosa de openai en los últimos dos años es que depende de una gran potencia informática para realizar "fuerza bruta para crear milagros". las empresas chinas carecen de las condiciones de potencia informática y del entorno financiero como openai. la potencia informática es una deficiencia clave de los fabricantes de modelos chinos.

un técnico de modelos de un proveedor de nube chino explicó que durante el último año, los proveedores de nube chinos han pagado más de 1,5 veces el costo de compra de los chips de inteligencia artificial de nvidia, lo que ha mantenido alto el costo de la potencia informática del modelo. esto afectará el límite superior de rendimiento de los modelos grandes y también obstaculizará la implementación industrial de modelos grandes. según un distribuidor de servidores, los servidores de ocho tarjetas equipados con chips de ia de la serie nvidia h100/h800 en el mercado chino en 2023 superaron una vez los 3 millones de yuanes por unidad, lo que es más de 1,5 veces el precio oficial de nvidia.

¿cómo pueden las empresas chinas encontrar un camino de desarrollo que les convenga cuando los recursos informáticos son limitados y los costos informáticos elevados? esto requiere una cuidadosa planificación y adaptación.

en los últimos dos años, el desarrollo de modelos grandes ha seguido la ley de escala (la ley propuesta por openai en 2020, traducida literalmente como "ley de escala"): el rendimiento del modelo está relacionado principalmente con la cantidad de cálculo, la cantidad de parámetros del modelo y la cantidad de datos de entrenamiento.

la persona principal a cargo del gran modelo de negocio de los proveedores de nube mencionados anteriormente mencionó que el principio básico es mejorar la calidad y cantidad de los datos bajo las limitaciones de la ley de escala y reducir adecuadamente los parámetros del modelo moe (mezcla de expertos). la estrategia de diseño también se puede utilizar para mezclar varios modelos (un modelo profesional para un mejor rendimiento). la arquitectura mejora el rendimiento del modelo y reduce los costos de inferencia. cuando se trata de implementar estrategias comerciales específicas, existen dos opciones.

la guerra de precios con un beneficio bruto negativo está acelerando la eliminación del mercado de modelos grandes. muchos expertos de la industria expresaron la misma opinión a caijing. esta ronda de eliminación durará uno o dos años y solo de 3 a 5 empresas de modelos básicos podrán seguir sobreviviendo.

an xiaopeng, miembro ejecutivo del comité de informatización de china de 100 y director del centro de investigación de tecnología inteligente de alibaba cloud, dijo a caijing en julio de este año que los modelos grandes requieren una inversión continua, la capacidad de tener 10.000 o incluso 100.000 tarjetas y retornos comerciales. muchas empresas no tienen esas capacidades. en el futuro, sólo habrá tres o cinco fabricantes de modelos básicos en el mercado chino.

el desarrollo de modelos grandes requiere la compra de chips y servidores, y el arrendamiento de terrenos para construir centros de datos. esta inversión puede llegar incluso a decenas de miles de millones de yuanes al año. estos costos se reflejarán en los gastos de capital de las empresas de tecnología. la convocatoria de resultados del cuarto trimestre del año fiscal 2024 de microsoft reveló que casi la totalidad de los 19.000 millones de dólares en gastos de capital de ese mes se gastaron en potencia informática. el año pasado (del tercer trimestre de 2023 al segundo trimestre de 2024), los gastos de capital de alibaba, tencent y baidu alcanzaron 23,2 mil millones de yuanes, 23,1 mil millones de yuanes y 11,3 mil millones de yuanes respectivamente, un aumento del 77,1%. 154,1% y 46,9% respectivamente. es el resultado de la inversión en potencia informática.

además de las decenas de miles de millones de yuanes en inversión continua en potencia informática, el gran negocio de inferencia de modelos también requiere subsidios de mil millones de yuanes por año. un ejecutivo de un proveedor chino de nube analizó que el margen de beneficio bruto negativo para llamadas de modelos grandes significa que cuantas más llamadas se realicen en el corto plazo, mayores serán las pérdidas. según el consumo actual de potencia informática de inferencia, varios proveedores líderes de nube que participan en la guerra de precios subsidiarán el consumo de potencia informática de inferencia de modelos grandes en más de mil millones de yuanes en 2024.

alibaba cloud, volcano engine, baidu smart cloud y tencent cloud pueden confiar en el gran modelo del grupo para luchar en la guerra de precios, pero es difícil para las grandes empresas emergentes persistir. los planificadores estratégicos de ia de las principales empresas de tecnología de china antes mencionados creen que alibaba cloud y volcano engine tienen la sangre más fuerte en esta ronda de guerras de precios. alibaba puede ganar dinero con la nube y volcano engine tiene el negocio publicitario de bytedance como transfusión de sangre. en una guerra de precios, baidu no es tan bueno como alibaba y bytedance. sin embargo, el modelo grande wenxin de baidu tiene una tecnología sólida y tendrá un grupo de clientes dispuestos a pagar por la tecnología. esto ayudará a baidu a sobrevivir a la guerra de precios.

las grandes empresas emergentes deben depender de los grandes fabricantes y de la financiación para sobrevivir en el corto plazo. un técnico de una gran empresa de nueva creación de modelos le dijo a caijing en septiembre de este año que zhipu ai, baichuan intelligence, dark side of the moon, zero one thing y minimax, los "cinco pequeños tigres" de los grandes modelos nacionales, están invertidos. por alibaba. uno de los métodos de inversión es que el monto de la inversión se paga en forma de potencia informática y la empresa invertida utiliza la potencia informática de alibaba cloud. que los "cinco pequeños tigres" puedan seguir sobreviviendo depende en cierta medida de si ali seguirá invirtiendo.

el personal técnico de los principales proveedores de nube mencionados anteriormente y el personal técnico de las empresas emergentes de modelos grandes mencionadas anteriormente también creen que las empresas emergentes de modelos grandes en el mercado chino enfrentarán pruebas en los próximos dos años. para abrirse paso en el mercado de modelos básicos. puede haber tres salidas en el futuro: para convertirse en una empresa de desarrollo de modelos de proyectos gubernamentales y empresariales, debe recurrir al modelo de industria vertical de to b o al mercado de aplicaciones de to. do. de hecho, la diferenciación del mercado ya ha comenzado. zhipu ai está ganando una gran cantidad de licitaciones para proyectos gubernamentales y empresariales, mientras que dark side of the moon solo se centra en el mercado to c.