noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Según noticias del 9 de agosto, recientemente se celebró la Cumbre de Computación Abierta de China 2024 con el tema "Colaboración abierta: colaboración, sabiduría e innovación".Información sobre InspurservidorGerente General de Línea de ProductosZhao ShuaiCompartió las tendencias de desarrollo de modelos grandes yAIEl progreso de la apertura de la ecología del poder informático señala que toda la informática en el futuro seráAI. Después de la reunión, Zhao Shuai, Zhang Zheng, gerente senior de productos de la línea de productos AI&HPC de Inspur Information, y Luo Jian, gerente de planificación de productos de la línea de productos de servidores de Inspur Information, fueron entrevistados por los medios y tuvieron intercambios en profundidad sobre el tema de la apertura. informática que promueve el desarrollo innovador de la inteligencia artificial.

Zhao Shuai dijo:Hoy en día, 2/3 de los modelos son de código abierto y más del 80% de los proyectos de IA se desarrollan utilizando marcos de código abierto. El modelo de código abierto se ha descargado más de 300 millones de veces y ha generado más de 30.000 modelos nuevos. Se puede decir que el código abierto ha propiciado el desarrollo y la prosperidad de la IA.En base a esto, el diseño abierto de hardware también se ha convertido en la clave para promover el desarrollo ecológico de la potencia informática de la inteligencia artificial. Sólo así podremos llegar mejor a todos los clientes y a todos los sectores.

Zhao Shuai dio un ejemplo en el marco del ecosistema abierto, el diseño de OAM acelerado y estandarizado se abrió en 2019. Inspur Information demostró el primer UBB de la industria en la Cumbre OCP en 2019 y lanzó el diseño del sistema de referencia OAM MX1 en 2020. El servidor NF5498A5 basado en la especificación OAM v1.0 se lanzó en 2016, lo que promovió el desarrollo y la implementación de chips de IA de alta gama de varios fabricantes.Los estándares de diseño abierto de OAM han acelerado enormemente el proceso de adaptación y compatibilidad de los chips informáticos, ahorrando miles de millones de dólares en inversiones en recursos industriales, acelerando la implementación e iteración informática y respaldando la madurez de los grandes modelos de capa superior y las aplicaciones AIGC.

Específicamente, el entrenamiento eficiente de modelos grandes generalmente requiere el soporte de un sistema de servidor de IA compuesto por chips de IA con una alta potencia informática de más de 1000 calorías. El requisito previo para interconectar miles de chips y permitirles trabajar juntos de manera eficiente es resolver la conexión directa de alta velocidad de los chips internos de un solo servidor. El surgimiento de la especificación de aceleración abierta OAM ha resuelto los problemas de formas e interfaces inconsistentes de múltiples tarjetas aceleradoras de IA en un solo servidor, la baja eficiencia de la interconexión de alta velocidad y el largo ciclo de investigación y desarrollo, y ha recibido el apoyo y la participación de muchas empresas.

En este sentido, Zhang Zheng señaló que Inspur Information ha estado promoviendo continuamente la evolución de estándares y tecnologías en términos de especificaciones de aceleración abiertas, y ha estado trabajando silenciosamente en la comunidad abierta durante muchos años. Al principio, había pocos socios. Y este asunto no traerá ganancias a la empresa, pero descubriremos que sus beneficios para toda la cadena industrial son enormes. Ahora, básicamente los fabricantes de chips nacionales y extranjeros, todos los productos de más alta gama adoptan estándares abiertos.Nuestro resultado final es esencialmente hacer un buen trabajo en una industria. Sólo cuando la industria sea buena y saludable podremos obtener más de nuestro propio valor en la cadena industrial.

Según los informes, los fabricantes de sistemas representados por Inspur Information han desarrollado una serie de servidores de IA que cumplen con especificaciones de aceleración abiertas. Inspur Information ha definido el primer sistema de hardware de interconexión de 8 tarjetas de la industria que cumple con la especificación OAM. Este es un sustrato de interconexión que sigue la especificación de computación abierta. Por primera vez, ha alcanzado la tasa más alta de interconexión de chips bajo la especificación OAM. de 56 Gbps, que es mucho más alta que la velocidad de transmisión PCIe5 .0, y aún se están desarrollando especificaciones de aceleración abiertas con velocidades más altas. El servidor de IA de última generación NF5698G7 de Inspur Information basado en especificaciones OAM admite una variedad de chips de aceleración abiertos basados ​​en especificaciones OAM y construye un clúster refrigerado por líquido de kilocalorías para que los usuarios admitan el entrenamiento de modelos grandes de IA con más de 100 mil millones de parámetros.

En este punto, los puntos débiles de acelerar las especificaciones se han resuelto y han surgido nuevos desafíos.

Zhao Shuai dijo que toda la informática en el futuro será IA, pero con la diversificación de los paradigmas de aplicaciones, las CPU están mostrando direcciones de desarrollo diversificadas. Entonces, ¿cómo proporcionar mejores plataformas de potencia informática y mejorar la eficiencia de las CPU diversificadas?

La especificación Open Computing Module (OCM) recién lanzada proporciona la respuesta. OCM utiliza CPU y memoria como la unidad informática más pequeña y estandariza las interfaces de interconexión de alta y baja velocidad. Al igual que OAM construye una base de chips de aceleración unificada, OCM promoverá la unificación de las interfaces de las unidades informáticas de la CPU y la mejora del ecosistema.Este programa fue iniciado conjuntamente por el Instituto de Estándares Electrónicos de China, Intel, AMD, Inspur Information, Lenovo, Super Fusion, Baidu, Xiaohongshu, etc. Es la primera especificación de diseño de módulo informático de servidor nacional y tiene como objetivo establecer un sistema informático estandarizado basado en procesadores La unidad del módulo de potencia logra la compatibilidad de chips de procesador de diferentes arquitecturas al unificar la interconexión externa de alta velocidad, los protocolos de administración, las interfaces de fuente de alimentación, etc. de diferentes unidades de potencia informática del procesador, y construye una base de potencia informática unificada para la CPU. resuelva los desafíos ecológicos de la CPU y facilite a los clientes. Basándonos en diversos escenarios de aplicaciones, como inteligencia artificial, computación en la nube y big data, podemos combinar de manera flexible y rápida la plataforma de potencia informática más adecuada para promover el desarrollo rápido y de alta calidad de la industria de la potencia informática.

Luo Jian agregó que cuando Inspur Information estaba construyendo estándares industriales, no surgió de la nada, sino de una colisión con socios ascendentes y descendentes de la industria. Enfatizó,Los estándares industriales y la industrialización de productos avanzan simultáneamente. ¡Esto no significa que haya un solo estándar que no tenga valor para toda la industria! Sólo poniendo especificaciones en el mercado y aplicándolas por parte del cliente se puede generar valor real.(Dingxi)

Este artículo proviene de NetEase Technology Report. Para obtener más información y contenido detallado, síganos.