noticias

Conversación con Huoshan Tandai: Hoy en día, la industria cobra en base a tokens, pero este modelo no será el único en el futuro.

2024-08-06

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Texto|Anita Tang

Editor|Su Jianxun

Fuente de portada | Proporcionada por la empresa

La emergencia es un fenómeno clave en la ola de IA generativa: cuando la escala del modelo se expande hasta un punto crítico, la IA mostrará una sabiduría humana y podrá comprender, aprender e incluso crear. La "emergencia" también ocurre en el mundo real: la civilización basada en el silicio está a punto de estallar. Los empresarios y creadores en el campo de la IA están utilizando su sabiduría y su cerebro para iluminar el largo viaje hacia la realización de la AGI. En la transición entre la productividad antigua y la nueva, "Smart Emergence" lanza una nueva columna "Emergencia de 36 personas". Registraremos el nuevo pensamiento en esta etapa a través de conversaciones con figuras clave de la industria.

El motor Volcano en 2024 ha cambiado desde su perfil bajo anterior y ahora está apareciendo en el mercado de modelos grandes a un ritmo rápido.

No hace mucho, en mayo, Huoshan acaba de celebrar una llamativa conferencia de prensa en la que bajó el precio del modelo al "precio mínimo" de una sola vez. El precio del modelo principal de Doubao, Doubao Pro-32k, se ha reducido a 0,0008 yuanes/mil tokens, una disminución promedio de la industria del 99,3% interanual. Durante un tiempo, toda la industria estuvo alborotada y los fabricantes hicieron lo mismo.

Pero dos meses después, Volcano Engine, que había "cambiado la situación" en materia de precios, ya no estaba dispuesta a hablar más sobre precios. "Ahora, con mil millones de tokens que cuestan sólo 1.000 yuanes, no tiene mucho sentido bajar más el precio. Lo que importa es cuánto mejora la capacidad del modelo al mismo precio". dijo "Emergencia Inteligente".

Hasta cierto punto, la tormentosa "gran semana de promoción" de mayo: además de Huoshan, Alibaba, Tencent, iFlytek y otros fabricantes grandes y pequeños han anunciado recortes de precios para los modelos grandes, lo que es un símbolo de que el campo de los modelos grandes está entrando en una nueva fase. El consenso detrás de esto es que, aunque los modelos grandes ya deslumbran, el nuevo pastel de IA que aportan aún es demasiado pequeño: la potencia informática es demasiado cara y los usuarios no tienen ningún incentivo para innovar. Por lo tanto, los fabricantes también podrían compartir los beneficios.

El efecto también es inmediato. El uso promedio diario de tokens de Doubao Big Model ahora supera los 500 mil millones. Antes de la reducción de precios, esta cifra era de 120 mil millones.

En comparación con términos como guerra de precios e ingresos, Tan Dai está más preocupado por cuántos usuarios ha atraído y cuántas cosas han hecho con modelos grandes. "No nos fijamos demasiado en los ingresos a corto plazo, sino en cuántos clientes hemos establecido una cooperación más profunda y cuántos problemas les hemos ayudado a resolver. Los resultados seguirán naturalmente", afirmó.

La gente tiende a predecir el futuro siguiendo el camino del pasado. Se considera que los modelos grandes y la computación en la nube son negocios con modelos similares: una gran inversión técnica e investigación y desarrollo de ingeniería en la etapa inicial, pero el efecto Matthew es extremadamente alto en la etapa posterior. Pero la premisa es que la escala del negocio debe crecer a una escala muy grande antes de que realmente pueda lograr efectos de escala.

Los modelos grandes de este año se están desarrollando en este camino: los fabricantes están bajando los precios uno tras otro, haciendo que la potencia informática de los modelos grandes sea más inclusiva y convirtiéndose en una infraestructura como el agua, la electricidad y el carbón.

Tan Dai cree que en el futuro, la implementación de modelos grandes será más rápida que la computación en la nube. Productos como ChatGPT ya han hecho saber al mundo que la IA es el futuro, a diferencia de la computación en la nube, que ha pasado por un largo "sermón". Pero para que todos puedan innovar sin preocupaciones, la reducción de precios es sólo el primer paso.

La explosión de las aplicaciones de IA requiere una inversión continua para superar diversas dificultades técnicas en los modelos: ilusiones de control, textos largos, etc. "No creo que los desarrolladores estén ansiosos. Es demasiado pronto para hablar de Killer App ahora". Dijo que el gran modelo actual todavía se encuentra en la era del "Gran Hermano", "pasarán muchos años antes de que aparezca el iPhone".

En 2021, Huoshan ingresó oficialmente al mercado de la nube. Ahora solo ha estado lleno durante tres años y sigue siendo una nueva fuerza en el mercado de la computación en la nube. Por lo tanto, la IA no es sólo un billete a una nueva era para Volcano Engine, sino también una oportunidad para adelantar en las curvas; esta es también la razón por la que Volcano Engine invierte mucho en IA. En 2023, el 70% de las grandes empresas de modelos nacionales utilizarán los servicios de potencia informática de Volcano Engine y este año, MaaS (Model as a Service) será el próximo campo de batalla;

La siguiente es una transcripción de la conversación entre "Intelligence Emergence" y Tan Dai, compilada y editada:

Después de que el precio "giró la tortilla"

"Aparición de la inteligencia": Lo que más se ha discutido recientemente sobre Huoshan es que usted es el primero entre los principales fabricantes en lanzar una ola de recortes de precios. La gente dice que ha "cambiado la situación". ¿Cuál fue el pensamiento detrás de esto?

Tan Dai:Nuestra consideración principal es construir un ecosistema de aplicaciones.

"Aparición de la inteligencia": ¿Fue una decisión difícil para usted reducir el precio? ¿Cuánto tiempo llevas pensando en ello?

Tan Dai: Nada difícil. Después de que lo lanzamos oficialmente en agosto del año pasado, el costo debe haber sido particularmente alto. Hemos estado realizando optimización de ingeniería desde entonces y la hemos utilizado ampliamente internamente. Después de aproximadamente un año de optimización de ingeniería, comenzamos a considerar reducciones de precios.

"Aparición de la inteligencia":¿Por qué esta decisión no es difícil?

Tan Dai: Estamos pensando, ¿qué es lo más importante de este asunto? Es decir, queremos hacer próspero el ecosistema empresarial.

Hay varios umbrales detrás de esto. La primera es la capacidad del modelo. Ya se han fabricado pufs. En nuestra conferencia 515, todos vieron que cuando presentamos el modelo grande, no mencionamos nuestro propio conjunto de evaluación ni hablamos de los resultados de la evaluación.

Porque creo que puede ser utilizado por todos. En cuanto a la evaluación, hay muchas evaluaciones de terceros, incluidos Zhiyuan, OpenCompass, etc., y todas dicen que el puf es muy eficaz.

La segunda es que el costo es demasiado alto, por lo que primero debemos bajar el precio y convertirlo en un precio sostenible. Debido a que somos una empresa To B, si el precio no puede respaldar la ganancia bruta o la ganancia a largo plazo, será insostenible.

El tercero es la practicidad de la implementación, incluidos complementos, casos, etc., que requiere que se combinen muchas cosas. Reducimos costos mediante la optimización de la ingeniería. Esto es lo que tiene que hacer Huoshan, un proveedor de nube.

"Aparición de la inteligencia":¿Cómo logró el volcán reducir el precio a un precio tan bajo?

Tan Dai:Al optimizar continuamente la estructura de nuestro modelo y optimizar la ingeniería de inferencia, podemos reducir los costos y liberar este dividendo a la industria.

Como servicio, los modelos grandes deben ser de mayor escala y de menor costo. A gran escala, puede tener diferentes cargas y puede realizar una programación combinada y escalonada de picos. Lo mismo ocurre con la computación en la nube, lo que la hace más económica.

En segundo lugar, cuando la escala sea lo suficientemente grande, con un poco de optimización, los beneficios serán lo suficientemente grandes y solo entonces podrá haber suficiente presupuesto para construir un buen equipo técnico.

"Aparición de la inteligencia": Este es un proceso que se refuerza mutuamente. Primero, es más barato y la escala es mayor. Luego puedes optimizar y los beneficios serán mayores.

Tan Dai: Esto también se debe al aumento de llamadas a la aplicación Doubao. Todos pueden ver en los datos anteriores de terceros que los productos de inteligencia artificial y la aplicación Doubao ocuparon el primer lugar. Dentro de Douyin, se están utilizando ampliamente más de 50 escenarios y líneas de negocios, y también hay muchos clientes invitados del exterior, lo que ha respaldado la escala.

Después de que se anunció la reducción de precios el 15 de mayo, nuestra escala de llamadas aumentó más rápido y en ese momento vimos más puntos que podían optimizarse.

"Aparición de la inteligencia":Después de que se anunció oficialmente la reducción de precios, ¿cuál fue el efecto?

Tan Dai: En primer lugar, ya no todo el mundo tiene la carga de innovar en IA y la escala está creciendo rápidamente. Muchas nuevas empresas utilizan más de mil millones de tokens cada día. ¿Cuánto cuestan ahora mil millones de tokens? Sólo 1.000 yuanes. En comparación con el lanzamiento del modelo el 15 de mayo, el uso diario promedio de tokens por cliente ha aumentado entre 20 y 30 veces.

Y hay muchos escenarios de uso en los que no pensamos. Veamos el volumen de llamadas diarias original de Doubao, que era de más de 120 mil millones de tokens. Después de la reducción de precio, ahora ha superado los 500 mil millones de tokens.

En segundo lugar, cuando anunciamos la reducción de precio, algunas personas dijeron que el precio no era importante, pero poco a poco muchos fabricantes empezaron a hacer lo mismo.

"Aparición de la inteligencia": Su modelo principal Beanbao Pro 128k tiene un precio de 0,005 yuanes/mil tokens, que es un 95,8% más bajo que el precio de la industria, mientras que el modelo de 32k tiene un precio de 0,0008 yuanes/mil tokens, lo que supone una disminución del 99,3%. Se puede decir que este precio es un "precio mínimo". ¿Cómo se determinó?

Tan Dai: Primero fijamos el objetivo y necesitamos liberar los dividendos a un precio sostenible. No es una pérdida, pero no tengo que ganar demasiado. Inicialmente pensé que era una caída del 90% en comparación con el promedio de la industria, pero no esperaba que la comparación posterior mostrara una caída del 99%.

"Aparición de la inteligencia":¿Habrá margen para reducir los precios en el futuro?

Tan Dai: Desde esta perspectiva, el precio ya no es el cuello de botella. Después de caer a un nivel tan bajo, no importa cuánto caiga más, la ganancia para los usuarios será realmente pequeña. Lo que es más importante ahora es que al mismo precio, es más significativo mejorar las capacidades del modelo.

"Aparición de la inteligencia": ¿Se parece un poco a la ola anterior de innovación de IA en CV (reconocimiento visual)? Es importante aumentar la precisión del 70% al 90%, pero al final, pasar del 95% al ​​98% en realidad significa poco y los clientes pueden aceptarlo.

Tan Dai: Es posible que no pueda alcanzar el 98%. Pero deberíamos verlo al revés. Solía ​​ser un 5% de casos malos (el resultado no está en línea con las expectativas), pero ahora se ha convertido en un 2% y el efecto se ha duplicado.

"Aparición de la inteligencia": También hay muchos comentarios en la industria que dicen que ha comenzado una guerra de precios en China, lo que es perjudicial para la industria. Debido a que entrenar modelos grandes es costoso, nadie puede ganar dinero.

Tan Dai: No estoy de acuerdo con esta opinión. Desde una perspectiva industrial, esto ha permitido que la IA de China florezca, lo cual es algo bueno.

Lo mismo ocurre con la computación en la nube. La nube ha entrado antes en una guerra de precios, lo cual es bueno. La transformación digital de las empresas se ha vuelto más fácil y los costos se han reducido.

"Aparición de la inteligencia":En el pasado, en el contexto de Internet, la "guerra de precios" tenía una connotación demasiado despectiva.

Tan Dai: Creo que hay una diferencia. En el pasado, el modelo de negocio de To C Internet era diferente. La lana proviene del cerdo. Pero en la guerra de precios de To B, la propia empresa depende de esto para cobrar, y si continúa ofreciendo este precio, al final todos se beneficiarán.

"Aparición de la inteligencia": Definitivamente, esta es una buena noticia para los desarrolladores. Pero ¿qué pasa internamente? Algunos compañeros de ventas de Cloud Factory nos dijeron que no tienen motivación para vender IA porque la IA no se puede vender a un precio alto. ¿Cómo considerar este tema?

Tan Dai: Esta es una muy buena pregunta. Siento que no hay nada que perder para nosotros.

En primer lugar, Huoshan es una plataforma en la nube y los clientes no solo quieren un modelo grande, sino que en realidad quieren una solución integral, que incluya modelos grandes, nubes y productos de datos.

Los ingresos unitarios del modelo grande en sí han disminuido, pero al ayudar a los clientes a resolver más problemas a través del modelo grande, tendrá más oportunidades de hacer más negocios con ellos en el futuro. Si el modelo grande está listo, los clientes incluso nos dirán que no, que mi arquitectura de TI necesita ser reconstruida y luego lo haremos basándonos en los volcanes.

"Aparición de la inteligencia": ¿Cómo entender la reconstrucción de la arquitectura TI? ¿Dónde están presentes los espacios y oportunidades?

Tan Dai:En el pasado, muchas cosas relacionadas con los gastos de TI no se resolvían a través de la nube, sino mediante la superposición de funciones de software; todo se hacía con mano de obra y muchas cosas no se podían convertir en potencia informática.

Pero con el modelo grande, muchos escenarios, ya sea que usen Copilot o Autopilot, el modelo grande puede atender muchos escenarios de IA, y la capa inferior del modelo grande es la nube. Los mercados que antes eran inaccesibles para la nube ahora se han convertido en mercados a los que se puede acceder.

"Aparición de la inteligencia": ¿Hasta qué punto reconocen los clientes la IA ahora? Cuando apareció por primera vez la computación en la nube, muchos usuarios empresariales la equipararon con el concepto de "avanzado" y luego optaron por la digitalización. ¿Han logrado ahora los modelos grandes ese efecto?

Tan Dai:Las empresas no dicen que después de adoptar la IA, la IA eliminará inmediatamente todos los entornos de TI. Esto definitivamente no es posible, sino que primero identifican ciertos escenarios en los que se puede utilizar la IA para mejorar la eficiencia.

Por ejemplo, hemos visto que para algunos clientes, una vez que el modelo se llama en volumen, los servicios ascendentes y descendentes colapsan. Transformarán estas arquitecturas basadas en la nube nativa para soportar la carga.

"Aparición de la inteligencia":¿En qué medida estos casos se reflejarán en los ingresos?

Tan Dai: No todo es desde la perspectiva de los ingresos y no estamos demasiado centrados en el corto plazo en este momento. También analizamos con cuántos clientes hemos establecido una cooperación más profunda a través de este asunto y cuántos problemas les hemos ayudado a resolver. Al final, los resultados llegarán de forma natural.

"Aparición de la inteligencia":Si no te centras en los ingresos a corto plazo, ¿qué indicador valoras más ahora?

Tan Dai: La cantidad de tokens utilizados por las empresas, pero no creo que sea solo este modelo en el futuro. Una vez conocí a un amigo que solía escribir novelas, pero luego "abandonó la escritura y empezó a escribir poesía". Le pregunto, ¿por qué tomó esta decisión? Dijo que escribir poesía se paga por línea y escribir novelas se paga por palabra; el precio es diferente para las mismas 100 palabras.

El modelo de negocio del gran modelo definitivamente cambiará y el modelo económico final será un modelo más integral. Por ejemplo, si hay un Agente, le pagarás tanto como la cantidad de problemas que te ayude a resolver. Por las mismas 100 palabras, quién lo produzca será diferente. Este es un modelo de negocio más avanzado.

Las aplicaciones de IA no se han disparado, pero la esencia sigue siendo un problema de capacidades del modelo.

"Aparición de la inteligencia": A principios de este año, la industria está discutiendo un término muy antiguo: Killer App. Todo el mundo se pregunta por qué no ha aparecido todavía una aplicación excelente. Como importante proveedor de infraestructura, Huoshan, ¿qué opina del período actual de aplicación de la IA?

Tan Dai: Creo que ahora existe una aplicación excelente, y ChatGPT lo es. Independientemente de la cantidad de usuarios y los ingresos, es más rápido que todos los productos de Internet, TikTok y Douyin. Esto ya es una señal fuerte.

Ahora que hablamos de Killer App, creo que todavía veo este asunto desde la perspectiva de To C. Los modelos grandes definitivamente funcionarán muy rápido en escenarios del lado C, porque el área de prueba es muy amplia, como las aplicaciones de chat y compañía emocional, ahora todas funcionan muy rápido.

En segundo lugar, no tenemos que mirar simplemente a Killer App, porque existen muchos escenarios de productividad en el lado empresarial, como el servicio al cliente de IA. En estos escenarios, el concepto de Killer App no ​​se aplica y no lo discutimos con indicadores como DAU.

Los servicios empresariales no hablan de Killer App. ERP (software de sistema de gestión empresarial) es una aplicación asesina que toda empresa debe tener, pero nadie habla de este concepto.

"Aparición de la inteligencia": A nivel mundial, a excepción de ChatGPT, que ha alcanzado el nivel de Killer App, otros productos están muy por detrás. Por ejemplo, el compañerismo emocional y hacer amigos todavía se centran en un grupo relativamente pequeño de personas y el grado de homogeneidad sigue siendo alto.

Tan Dai: Creo que depende del tiempo. Por ejemplo, la aplicación Killer en la era de las PC era un motor de búsqueda, pero los motores de búsqueda aparecieron muy tarde, todos eran portales y sitios web de comercio electrónico. Pero después de que aparecieron más sitios web de este tipo, los motores de búsqueda volvieron a aparecer.

Incluso cuando la Internet móvil apenas estaba en ciernes, aplicaciones como Douyin y Meituan aparecieron varios años después.

"Aparición de la inteligencia": Provienes de una experiencia en computación en la nube. En comparación con la computación en la nube, ¿qué opina de esta ronda de popularización de la tecnología de inteligencia artificial? ¿Tomará el mismo camino que la popularidad de la computación en la nube?

Tan Dai: La computación en la nube es bastante complicada de entender incluso si eres un técnico, y no hace falta una sola persona para configurarla fácilmente. Trabajé en Alibaba de 2010 a 2011. En aquel momento, AWS era probablemente el único en el mundo que había descubierto qué era la nube, y Google tampoco.

Pero la IA es diferente. Como individuo, puedes experimentar fácilmente sus funciones y saber rápidamente si es buena o mala. Si quieres saber qué es la IA, simplemente toma un puf. Desde esta perspectiva, no es como la computación en la nube, que requiere una evangelización demasiado complicada.

"Aparición de la inteligencia":¿Afectará tal camino de popularización la lógica de toma de decisiones y compras de las empresas To B?

Tan Dai: Toda empresa tiene inercia y el negocio hacia B se volverá más lento. Pero al menos cuando comprendas si el producto es bueno o no, la experiencia del cliente cambiará.

Un gran cambio traído por la IA es que hace que el negocio To B sea visible y accesible, y el tiempo para POC (verificación de prototipo) será mucho más corto. En el pasado, la toma de decisiones y el uso estaban separados. Los tomadores de decisiones tomaban decisiones, pero los usuarios pensarían que esto era una mierda.

Pero la IA ha suavizado mucho estas brechas. En el pasado, los clientes tenían que ver presentaciones de PowerPoint, realizar giras y realizar entrevistas. Al final, quienes tomaban las decisiones solo podían ver la demostración y la experiencia no era tan completa. Ahora, cuando hablo con un cliente, el cliente nos contará sobre el puf que uso habitualmente. Si quiere ajustar algo en la demostración, puede cambiarlo en segundo plano y se ajustará inmediatamente. Incluso puede hacerlo usted mismo antes de las ventas y no es necesario volver antes de las ventas para que I+D realice cambios.

Por eso nuestros To C y To B son ambos de la misma marca, ambos pufs.

"Aparición de la inteligencia":En cuanto a los modelos grandes nacionales, ¿crees que ahora hay una gran diferencia?

Tan Dai:La diferencia de precio es enorme.

"Aparición de la inteligencia":¿No todos cayeron mucho?

Tan Dai: De hecho, los fabricantes nacionales no lo han seguido al pie de la letra. Nuestro modelo principal, que es el más potente, también se ha reducido a 0,0008 yuanes/mil tokens. Sin embargo, la mayoría de los fabricantes no reducen el modelo más potente, sino que reducen el segundo modelo más potente. a Los modelos pequeños son gratuitos. Si vas y ves cuánto cuestan los modelos principales de algunos fabricantes rivales, serán al menos decenas de veces diferentes del precio de los pufs.

Usar modelos de código abierto para medir costos también es más costoso que usar pufs. Si usa Llama de código abierto para hacerlo, debe realizar la optimización de ingeniería usted mismo y no hay ventaja de escala. Con el mismo efecto, realizar la optimización de ingeniería usted mismo es varias veces más costoso que usar la nube directamente.

"Aparición de la inteligencia":Además del precio, ¿cuáles son las otras diferencias?

Tan Dai: El modelo todavía está evolucionando rápidamente y todavía hay muchas capacidades que aún no se han desarrollado. Todavía habrá muchas diferencias en el futuro y mejorará cada vez más. Pero si miramos el mundo, puede que sólo haya tres o cuatro empresas a las que les vaya muy bien, al menos no tantas como las diez empresas de China.

"Aparición de la inteligencia":¿En qué industrias se concentran actualmente los clientes de Huoshan?

Tan Dai: Existe en miles de industrias. Los fabricantes de teléfonos móviles a los que les va relativamente bien incluyen a Samsung, Xiaomi, OPPO, vivo y Honor. También trabajamos mucho con los fabricantes de automóviles, y todos ellos son empresas muy grandes. También hay algunos casos en los bancos financieros.

Pero el ángulo de entrada será diferente. Por ejemplo, en teléfonos móviles y automóviles, lo que hacemos es un escenario de interacción persona-computadora relativamente completo. Pero muchas grandes empresas o bancos estatales pueden intentarlo primero desde un punto pequeño.

Entonces, la ventaja de utilizar IA es que puede comenzar poco a poco y no es necesario cortar el sistema central tan pronto como comienza.

"Aparición de la inteligencia": ¿Son muy diferentes los perfiles de clientes de cada plataforma de gran modelo? Muchas de las empresas que construyen modelos grandes son proveedores de nube, y los grupos de clientes de proveedores de nube también tendrán diferencias industriales.

Tan Dai: Hay una diferencia cuando la escala comercial del modelo grande es pequeña, pero no hay diferencia cuando la escala es grande. Es evidente que ahora hay más clientes pequeños y medianos, pero si nos fijamos en la distribución por sectores, puede que no haya necesariamente una diferencia especialmente grande.

"Aparición de la inteligencia":En el lado C y en el lado B, ¿de qué lado crees que subirá primero el modelo grande?

Tan Dai: Nuestro volumen actual es aproximadamente el mismo, pero el efecto Matthew en el lado C es muy fuerte. Quizás los pocos clientes principales hayan contribuido con una gran cantidad de DAU. Esta lógica se aplica al lado C, incluso cuando no es IA, pero el desarrollo del lado B es a muy largo plazo.

"Aparición de la inteligencia": Lo que los modelos grandes pueden hacer ahora es relativamente simple. Por ejemplo, todos sienten que la definición de Agente ni siquiera está alineada. ¿Por qué la ejecución de modelos grandes ahora sólo puede realizarse en escenarios tan simples?

Tan Dai:La capacidad del modelo no es lo suficientemente fuerte.

"Aparición de la inteligencia":¿Cuáles son los puntos clave para avanzar?

Tan Dai: Hay bastantes. La capacidad del modelo debe ser fuerte y la inteligencia debe ser fuerte. ¿No fue el examen de ingreso a la universidad hace algún tiempo? Doubao finalmente "aprobó" el curso de artes liberales, pero aún no ha sido admitido en la Universidad de Tsinghua y la Universidad de Pekín, y ni siquiera aprobó el curso de ciencias. Es obvio y su nivel no es suficiente. Pero no hay problema, tenemos suficiente confianza.

En segundo lugar, todavía quedan muchos problemas complejos que no se han resuelto, como la memoria a largo plazo. Esto definitivamente requiere cierta innovación en la estructura del modelo, y la multimodalidad debe ser mejor. También se deben controlar los costos. Después de agregar estas capacidades, no está bien aumentar demasiado los costos.

Creo que todavía es muy temprano para los modelos grandes. La revolución de las comunicaciones móviles lleva 30 o 40 años, a partir de los años 1970 y 1980, la historia del desarrollo de la IA es más larga que eso. Sólo hemos estado trabajando en ello durante dos años. Cuando todavía usábamos teléfonos móviles en los años 90, ¿podríamos pensar en el iPhone actual? Estos son cambios ocurridos en las últimas décadas.

"Aparición de la inteligencia":¿El volumen de negocio actual de Huoshan Model, ya sea el número de clientes o los ingresos, cumple con sus expectativas?

Tan Dai: Creo que está bien y cumple con las expectativas. Esperamos ver un ecosistema próspero y ahora, de hecho, hemos logrado los resultados que queríamos. Y no somos sólo nosotros los que estamos subiendo, vemos que nuestros amigos también están subiendo.

"Aparición de la inteligencia":¿Tiene una cantidad estimada en mente?

Tan Dai: Por ejemplo, hay un objetivo para la cantidad total de tokens, que es tanto total como por niveles. Por ejemplo, la cantidad de usuarios cuya cantidad de tokens excede un cierto nivel debe alcanzar un cierto nivel. Esperamos que los clientes formen una distribución en forma de huso o de embudo. Si la cantidad total de tokens es muy alta, pero sólo hay diez clientes con más de 100 millones de tokens, eso tampoco es saludable.

"Aparición de la inteligencia":¿Cómo se ve ahora?

Tan Dai:Todavía no tiene forma de pirámide invertida y la cintura del usuario puede ser un poco más gruesa.

"Aparición de la inteligencia": Obviamente, después de la reducción de precio de los modelos grandes, la IA se ha vuelto más inclusiva y puede hacer más cosas. ¿Cree que hoy en día existe una clara tendencia entre los primeros usuarios a convertirse en una “empresa unipersonal”?

Tan Dai: Hoy en día hay menos “empresas unipersonales” y más “empresas de diez personas”. En el extranjero veo que se pueden hacer muchas cosas con sólo dos o tres personas.

Solíamos bromear diciendo que para iniciar un negocio bastaba con un programador, pero ahora ya no lo necesitamos. Algunos usuarios que entrevistamos dijeron que como no tengo código, esta demostración no se puede usar para la verificación de prototipos (POC), pero ahora esto es un avance de 0 a 1. En el futuro, si el modelo grande es mejor, la IA podrá resolver todo de 0 a 100.

OpenAI originalmente tuvo una discusión sobre cuándo surgirá una empresa unicornio con una sola persona en la empresa (valorada en más de mil millones de dólares), y si tomará cinco años o más.

En este caso no deberíamos fijarnos únicamente en Killer App, porque muchas ideas de startups son para solucionar problemas muy verticales.

Es mentiroso predicar que “usar la IA ayudará a que tu negocio crezca”

"Aparición de la inteligencia":¿Se está centrando ahora más en el lado tecnológico o en el lado del cliente?

Tan Dai: casi. A corto plazo, ambas partes son inseparables. La IA no está tan madura como la computación en la nube. La mejora del modelo de IA, la mejora de los productos y la forma en que los clientes la utilizan requieren un proceso de retroalimentación. No se puede simplemente sentarse en la oficina y observar.

"Aparición de la inteligencia":¿En qué aspectos de las necesidades o dudas actuales de los clientes se centran más?

Tan Dai:Hay muchas formas inesperadas.

Por ejemplo, en el ámbito educativo, algunas personas solían pensar: "Puedo resolver el problema por ti". Pero ahora, en muchos escenarios, los clientes necesitan que usted desempeñe el papel de un maestro y me diga cómo hacer esto, en lugar de simplemente decirme cuál es la respuesta. Esto requiere más que solo capacidades de modelo.

"Aparición de la inteligencia":¿Crees que se trata de un problema a nivel de producto?

Tan Dai:Puedes pensar en ello como un problema de producto o de demanda, pero detrás también hay problemas técnicos.

"Aparición de la inteligencia": Del lado del cliente, ¿habrá ahora más escenarios "imprescindibles"? Por ejemplo, ahora las empresas piensan que la IA es algo prescindible o pueden considerar reducir costos y aumentar la eficiencia.

Tan Dai: Todo el mundo ya tiene consenso en que la IA es la próxima gran novedad, por lo que definitivamente no se la perderá. Ahora ya no necesitamos educar a las empresas sobre la necesidad de utilizar la IA, sino que es necesario discutir con ellas qué escenarios son adecuados para utilizarla. A veces la gente subestima las capacidades de la IA y otras las sobreestima.

"Aparición de la inteligencia":Por lo tanto, en comparación con la era anterior de la digitalización, la IA ha aportado una nueva actualización al concepto de digitalización.

Tan Dai: Tal vez. En el pasado, al hacer digitalización, un paso muy importante era convertir datos no estructurados en datos estructurados y hacer que las personas entendieran los datos estructurados. Ahora la IA le ha resuelto todo y se ha reducido el umbral de la digitalización.

"Aparición de la inteligencia": ¿Las empresas ven la IA y la digitalización desde la misma perspectiva? En el pasado, cuando las empresas se digitalizaron, el jefe consideró que podría mejorar un poco la eficiencia, pero muchos todavía lo consideraban un costo. Cuando las empresas preguntan si la digitalización va a crecer, su contribución es en realidad muy débil. ¿Puede la IA cambiar esta situación?

Tan Dai: Creo que es un proceso de toma de decisiones en diferentes dimensiones. La tecnología simplemente trata de mejorar el negocio. Por un lado, el jefe quiere ver mi modelo de negocio y, por otro, cómo mejorar la eficiencia de mi negocio a través de la digitalización.

Supongamos que un minorista me pregunta cómo lograr el crecimiento empresarial. Mi primer punto definitivamente no es decirle que quieres ingresar a la IA, definitivamente digo: inicia el comercio electrónico de Douyin. Entonces hablemos de dónde podemos ayudarle a mejorar la eficiencia a través de la IA. Si dices "puedes crecer con IA" desde el principio, creo que es mentiroso.

"Aparición de la inteligencia": Tengo un amigo al que le costaba vender nubes en Huoshan, pero se fue alrededor de 2022. Después de ver el modelo grande, consideró que esto brindaba al volcán una oportunidad particularmente buena. ¿Qué opinas?

Tan Dai: Lanzaremos la nube recién a finales de 2021. Por supuesto, será difícil hacerlo durante el primer año, que es el más difícil. Puede seguir con ella un año más. De hecho, nuestro crecimiento ha sido bastante rápido en los últimos años y somos los más rápidos de la industria.

Creo que los tiempos hacen héroes. Si no hay nuevos clientes ni nuevos escenarios para los clientes, incluso si hace lo mejor, ¿de qué sirve? La anterior era dorada de la computación en la nube se debió al auge de Internet móvil y a la madurez gradual de la digitalización en todos los ámbitos de la vida. Esta es la ley natural del desarrollo de la industria.

Pero la próxima era es la IA. Siento que cada diez años o más surgirá un nuevo punto y debemos aprovechar este nuevo punto para mantener nuestro liderazgo tecnológico.

"Aparición de la inteligencia":¿Crees que los desarrolladores con los que entras en contacto ahora están ansiosos?

Tan Dai: Personalmente creo que nadie está particularmente ansioso. ¿por qué? Verá, los modelos actuales son bastante buenos y los precios son muy bajos, así que pruebe más y no habrá nada de qué preocuparse. Puede ser que los inversores estén más ansiosos. (reír)

"Aparición de la inteligencia":Algunos desarrolladores están ansiosos porque, aunque los modelos son baratos ahora, eran bastante buenos al principio y aún podían ganar dinero, pero una vez que comiencen a expandir su escala e invertir en tráfico, el retorno de la inversión no será correcto y los usuarios reales retendrán. será raro.

Tan Dai: Creo que es un problema de tráfico, no un problema de inteligencia artificial. Si no usa IA, aún estará equivocado si usa otras cosas. Por ejemplo, las jugadas cortas son muy populares. Algunas jugadas cortas pueden generar dinero, mientras que otras no. Esto es normal.

"Aparición de la inteligencia":¿Cuál es el escenario de aplicación de IA más interesante que has visto recientemente?

Tan Dai: Hay bastantes, por ejemplo, algunos niños usan pufs para aprender inglés directamente. Otro cliente corporativo nuestro quería utilizar un modelo grande, por lo que organizó un hackathon de IA dentro de la empresa. Los empleados desarrollaron más de 100 productos en función de las necesidades comerciales que encontraban habitualmente, y tal vez dos o tres de ellos tuvieron éxito.

Actualmente colaboramos con algunos fabricantes de automóviles, que incluso invitan a sus usuarios a participar en todo el diseño. Cuando los usuarios participan en el diseño, es posible que comprendan mejor sus propios puntos débiles.

"Aparición de la inteligencia":Para las empresas a las que presta servicios, ¿cuánto ha cambiado ahora la proporción entre capacitación y potencia informática de inferencia?

Tan Dai: Todavía habrá más formación. Pero la inferencia ahora está aumentando muy rápidamente, decenas de veces más que el año pasado, mientras que la formación ha crecido menos del doble. Originalmente teníamos una predicción de que la inferencia superaría al entrenamiento para 2025, y parece ser así ahora.

"Aparición de la inteligencia":¿Cuándo crees que explotarán las aplicaciones de IA?

Tan Dai: En primer lugar, este año no es una gran explosión, pero definitivamente es una pequeña explosión. Pero creo que habrá una gran explosión el próximo año. Incluso desde una perspectiva global, definitivamente se encuentra en las primeras etapas de la aplicación de la IA. En el futuro, precios más asequibles garantizarán efectos de modelo ideales. Sólo cuando las aplicaciones de la IA florezcan y sigan produciéndose reacciones químicas, se podrá construir el ecosistema.

"Aparición de la inteligencia":Desde 2023 vienes insistiendo en que no fabricarás modelos básicos de gran tamaño. ¿Lo harás en el futuro?

Tan Dai: Nunca más. El gran modelo de Doubao está siendo desarrollado por un equipo dedicado de ByteDance. No es necesario que Huoshan cree el modelo por sí solo, siempre que la nube y MaaS estén bien hechos.

Las personas que hacen computación en la nube y las que hacen modelos grandes son definitivamente completamente diferentes. Los principales fabricantes del mundo hacen su trabajo por separado. El modelo de Amazon es Claude, y la nube está hecha por AWS, Google Cloud y Gemini no están hechos por el mismo grupo de personas.

En Huoshan nos centramos en hacer bien la nube, pero MaaS es una parte muy importante de la nube. Para que MaaS tenga éxito, nuestro servicio MaaS proporcionará el mejor modelo a nuestros clientes. Esto nunca ha cambiado.

Bienvenido al grupo

Bienvenido a comunicar