noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Crecy proviene del templo de Aofei.
  Qubits | Cuenta pública QbitAI

La inteligencia artificial es sin duda un tema importante en la actualidad, ya que promueve el desarrollo de la economía digital a través de diversos métodos, como modelos grandes, aplicaciones verticales y agentes inteligentes.

Sin embargo, la infraestructura que sirve a la IA——Potencia informática y datos., es un cuello de botella que limita el desarrollo de la inteligencia artificial y también se ha convertido en un tema de mayor debate.

¿Por qué sigue existiendo este cuello de botella? ¿Cómo romperlo?

Hemos visto algunas respuestas en lo que ha hecho Nortel Digital Intelligence, que se estableció hace un año:

Ha surgido en Beijing una "fábrica de IA" que reúne potencia informática nacional que está "disponible lista para usar".

La “fábrica de IA” se enfoca en la ansiedad por el poder computacional

Ya sea para un solo profesional o para toda la industria,Falta de potencia informática efectivaEste es un problema que debe resolverse urgentemente.

Desde el punto de vista de la demanda, el floreciente desarrollo de la IA generativa representada por grandes modelos, la feroz "Batalla de cientos de modelos" y la llegada de la era de la inferencia sin duda provocarán un enorme aumento en la demanda de potencia informática.

Un informe publicado conjuntamente por la Academia China de Ingeniería y más de una docena de instituciones en la subrevista Science Intelligent Computing señaló que la potencia informática necesaria para la inteligencia artificial se duplica cada 100 días. Según este cálculo, se espera que.aumentará más de 1 millón de veces en los próximos cinco años。

Además, en la era de la inteligencia artificial, la demanda de potencia informática ya no es solo el número de FLOPS, sino que la estructura de la demanda de potencia informática también ha experimentado grandes cambios.

En la era AIGC, la estructura de la potencia informática ha cambiado de CPU + acelerador a GPUComputación paralela a gran escala, la proporción de potencia informática inteligente está aumentando rápidamente。

Pero actualmente existe una brecha generacional entre los chips nacionales, especialmente los de alta gama, y ​​los productos avanzados de la industria en muchos aspectos, como el rendimiento informático, el consumo de energía y la velocidad de comunicación entre tarjetas.

Los factores ajenos al chip también están limitando el uso eficiente de la potencia informática, como capacidades insuficientes de transmisión de red entre nodos, ecología imperfecta del software de soporte, etc.

En esta realidad, la mayor parte de la potencia informática inteligente nacional no se puede utilizar de manera eficiente, lo que ha dado lugar a la segunda ansiedad de la industria sobre la potencia informática.

La razón fundamental de tal ansiedad es queLos usuarios no tienen una comprensión clara de las capacidades de los núcleos múltiples, especialmente la potencia informática doméstica., se puede resumir en varios aspectos:

• Los clústeres nacionales de múltiples núcleos a gran escala carecen de capacidades y no pueden soportar la adaptación y evaluación de la potencia informática a gran escala cerca de los entornos de producción. En otras palabras, las pruebas de un solo chip solo pueden proporcionar datos estimados sobre la interconexión entre tarjetas y nodos informáticos, pero no hay datos sobre la tasa de aceleración;
• La plataforma existente se basa principalmente en indicadores de evaluación exponencial y no se puede conectar con los escenarios comerciales de los usuarios. No abre completamente el vínculo de adaptación de los escenarios comerciales a los chips subyacentes. En otras palabras, los usuarios reales no pueden comprender ni juzgar si los clústeres de múltiples núcleos son. capaz de satisfacer las propias necesidades;
• Hay una falta de plataformas de servicios heterogéneos de múltiples núcleos en China, y también faltan intentos de realizar tareas de razonamiento y capacitación híbridas y heterogéneas de múltiples núcleos.

En general, el lado de la demanda no conoce los servicios que el proveedor puede brindar y el grado de soporte para su negocio real. El proveedor carece de una plataforma para demostrar sus capacidades y lo que puede hacer, y al mismo tiempo tiene una relación justa y justa. evaluación clara y estándar.

Para romper con esta percepción y resolver el enigma de la ansiedad por el poder informático, una empresa llamada"Chispa · Cálculo inteligente"Nace la marca AIDC.

"Una sola chispa puede iniciar un incendio en la pradera". La elección de un nombre como "Spark" se debe a que el proveedor de la solución espera que esta marca pueda iniciar un incendio en la pradera y lograr una replicación a nivel nacional.

La persona que propuso este plan fueInteligencia Digital Nortel——Una empresa de alta tecnología bajo el control electrónico de Beijing que se centra en la inteligencia artificial.

Nortel Digital Intelligence cree que,La potencia informática es una nueva forma de productividad en la era de la inteligencia artificial：

En la era agrícola, la tierra era potencia informática;
En la era de las máquinas, la electricidad y el vapor son potencia informática;
En la era de la inteligencia artificial, la potencia informática es la principal forma de productividad, al igual que el carbón, el agua y la electricidad.

Para convertir la potencia informática en un factor de productividad como la electricidad, ya no podemos centrarnos en el simple apilamiento de chips, servidores y gabinetes;Transformación de “almacén de potencia informática” a “fábrica de IA”, equipado con las correspondientes nuevas relaciones de producción de calidad.

Esta es también la nueva idea de Nortel Digital Intelligence al construir Spark Intelligent Computing.

Específicamente, Spark Intelligent Computing respalda la innovación y la aplicación de tecnología de inteligencia artificial al proporcionar potencia informática inclusiva, como agua, electricidad y carbón.

Por otro lado, con el concepto de "AIDC como servicio", proporciona servicios de soporte como modelos base, modelos industriales y cadenas de herramientas integrales, lo que permite a las empresas crear rápida y fácilmente las aplicaciones que desean o reconstruir los productos actuales. para lograr la Innovación en los métodos de producción.

En la actualidad, el primer proyecto de referencia de la marca "Xinghuo Intelligent Computing"——Centro de Computación de Economía Digital de BeijingLa construcción ya comenzó y se utilizará como modelo para implementarla en todo el país en el futuro.

Para ayudar mejor a la actualización de la potencia informática, Nortel Digital también tiene dos productos principales para abordar plenamente la ansiedad por la potencia informática en la industria:

• Plataforma informática heterogénea Advance·AIEn respuesta a la escasez actual de recursos informáticos de alta gama, configure una solución heterogénea de múltiples núcleos que satisfaga mejor las necesidades del mercado interno;
• Pagoda·Plataforma de adaptación de modelos grandes, adapte ampliamente el chip hacia abajo, de modo que el chip pueda desacoplarse y adaptarse ampliamente del modelo grande;

Los dos productos son "un cuerpo y dos lados", lo que resuelve la ansiedad por la potencia informática desde diferentes dimensiones.

La plataforma informática heterogénea Advance·AI, como plataforma de verificación iterativa de potencia informática nacional de pila completa, puede realizar una gestión y programación unificadas de múltiples potencias informáticas y, al mismo tiempo, es la primera en introducir la facturación basada en efectos. bajo demanda sin conocer los detalles subyacentes y realizar una migración fluida entre múltiples potencias informáticas.

Para permitir una mejor utilización de la potencia informática, Spark Intelligent Computing también ha logrado avances a través de las comunicaciones unificadas, la optimización de la compilación y otros avances tecnológicos en la plataforma informática heterogénea Forward AI.Mejore el rendimiento de los chips nacionales entre 2 y 3 veces y aumente el rendimiento entre 6 y 7 veces。

Al tiempo que proporciona a los usuarios soporte de potencia informática, la plataforma informática heterogénea Qianjin AI también creaNuevo modo de evaluación de "chip × modelo × escena", ayudar a romper la asimetría de información entre fabricantes y usuarios, y ayudar a los fabricantes de chips a romper la situación.Deje que los chips nacionales pasen de "disponibles" a "fáciles de usar"。

Esto significa que, al tiempo que proporciona a los usuarios soporte de potencia informática, también promoverá la mejora general de los chips nacionales y aportará más potencia informática de origen.

Pagoda·Large Model Adaptation System es el modelo de empoderamiento y el lado de la aplicación, admite la implementación y gestión de modelos, realiza una gestión operativa refinada de la potencia informática y admite aún más aplicaciones de inteligencia artificial.

Deje que circulen datos de alta calidad

Si las deficiencias de potencia informática son una "nube oscura" en el edificio de la IA, entonces las deficiencias de datos son otra bien merecida.

Dou Dejing, científico jefe de Nortel Digital y profesor distinguido de la Facultad de Ciencias y Tecnología de la Computación de la Universidad de Fudan, dijo en un discurso público:La escala y la calidad de los datos determinan el “límite superior” de la IA——Ya sea entrenamiento o inferencia, se requieren datos de alta calidad para respaldarlo.

Tomemos como ejemplo Llama 3.1, el último modelo grande de código abierto lanzado por Meta. Su modelo de tercera generación consume 15T de tokens de datos de entrenamiento en más de 16.000 GPU H100, lo que también supone 7 veces más que la segunda generación. Es el modelo de segunda generación que salta en rendimiento bajo la misma escala de parámetros.

En nuestro país, la situación actual del lado del suministro de datos también enfrenta la misma ansiedad que la potencia informática——La cantidad total es abundante, pero los datos de alta calidad están densamente poblados.。

Según estimaciones de IDC, el volumen de datos de China aumentará de 23,88 ZB a 76,6 ZB entre 2022 y 2027, ocupando el primer lugar en el mundo. Sin embargo, los conjuntos de datos de corpus de alta calidad disponibles todavía son relativamente escasos.

Con la condición de que la cantidad ya sea escasa, los datos de alto valor se enfrentan a"No se puede suministrar, no se puede distribuir y no se puede utilizar bien".Este dilema dificulta la aplicación de valor, lo que hace que los ya limitados recursos de datos sean aún más tensos.

Por otro lado, el grado de integración de los datos también es muy insuficiente. Una gran cantidad de datos se encuentran dispersos en el ámbito industrial o dentro de sistemas verticales.no estructurado, no se puede utilizar directamente para el entrenamiento de modelos grandes.

La razón subyacente detrás de esto esFalta de tecnología madura y mecanismos confiables para respaldar la seguridad de los datos.Las empresas con datos "no saben, no se atreven, no pueden y no quieren" dejar que los datos circulen libremente. Estos "cuatro no" status quo han creado aún más la escasez de conjuntos de datos actuales y han formado un ciclo sin fin.

Entonces la máxima prioridad esEstablecer un mecanismo de datos confiable y seguro。

Con este fin, Nortel Digital Intelligence ha lanzado otro producto importante:Red Lake · Espacio de datos confiables, permitiendo que los elementos de datos se recopilen por completo y que la escena esté completamente abierta.

Red Lake·Trusted Data Space es una solución de múltiples capas construida en torno a la "confiabilidad", con el objetivo de revitalizar los datos, proporcionar servicios de datos confiables de alta calidad y crear un entorno de datos de "intercambio seguro y circulación confiable".

Desde un punto de vista técnico, Red Lake Trusted Data Space está equipado con una zona de pruebas de datos confiable, que utiliza tecnologías como el "almacén de datos lógicos" para importar, modificar y eliminar datos, y utiliza computación de privacidad + tecnología blockchain para garantizar la seguridad de los datos y Transparencia, garantizar la trazabilidad y transparencia de los datos y lograr una "controlabilidad total de la cadena".

Este enfoque hace que los datos sean creíbles, controlables, disponibles, auditables y cifrados para protegerlos, creando así un entorno de uso e intercambio de datos donde se cumplen los acuerdos de circulación de datos y confianza mutua entre múltiples partes.

Con medidas de seguridad controlables durante todo el proceso, los propietarios de datos pueden atreverse a poner sus recursos de datos en circulación en el mercado y atraer a más propietarios de datos para que participen en el proceso.

Con la inversión inicial en datos, el ecosistema de suministro de datos también madurará, la forma de intercambio de datos será más completa y conveniente, y el flujo de datos de alta calidad inyectará más sangre fresca al desarrollo de la industria.

Al mismo tiempo, Nortel Digital también ha aportado datos de alta calidad a la industria.Se ha establecido una matriz de modelo vertical en las industrias médica, educativa, cultural y otras., lo que permite a las empresas de inteligencia artificial encontrar mejor escenarios de implementación.

Entonces, ¿quién es Nortel Digital Intelligence y cómo se le ocurrió una solución tan integral para los puntos débiles de la industria de la inteligencia artificial?

La "central eléctrica" ​​en la era de la inteligencia artificial, el "hombre perla" de la cadena industrial

Nortel Digital Intelligence es una empresa de alta tecnología del Beijing Electronic Control Group. Se centra en la inteligencia artificial y su posicionamiento es.Proveedor de servicios de IA de pila completa。

Antes del establecimiento de Nortel Digital Intelligence, GPT-3.5 coincidió con el lanzamiento de GPT-3.5. En ese momento, se lanzó por completo una nueva era de inteligencia artificial y la competencia de la IA se volvió cada vez más feroz. De acuerdo con el desarrollo de los tiempos y la demanda del mercado, nació Nortel Digital Intelligence.

Cuando se creó, el primer proyecto emprendido por Nortel Digital Intelligence fue el Beijing Digital Economy Computing Power Center, que se posicionó comoProporcionar potencia informática inteligente al público para lograr una potencia informática inclusiva。

En otras palabras, este centro de potencia informática es como una "planta de energía", que permite que potencias informáticas como el agua, la electricidad y el carbón potencien toda la industria de la IA, desde la base hasta la aplicación.

Jefe de Estrategia y Marketing, Nortel Digital IntelligenceYang ZhenIntroducción, esta es la diferencia entre Nortel Digital y Digital Technology La primera prioridad de Nortel Digital es apoyar a la industria de la inteligencia artificial para que las empresas de inteligencia artificial o los desarrolladores individuales puedan utilizar rápidamente la inteligencia artificial y disfrutar de la inteligencia artificial.

En toda la industria de la inteligencia artificial, Yang Zhen cree que Nortel Digital Intelligence desempeña un papel importante.Cadena industrial "hombre de cuentas"El papel de: si ya hay cuentas en esta cadena industrial, ensártalas; si no, hazlas;

Por ejemplo, la aceleración de los chips nacionales, el diseño de modelos verticales en los modelos industriales y el espacio de datos confiable mencionado anteriormente son "perlas" en esta cadena industrial.

Además de proporcionar productos de potencia informática, el Centro de Potencia Informática de Economía Digital de Beijing también ha diseñado especialmente un espacio de comunicación y exhibición para permitir que los profesionales de la IA en el mismo o en diferentes campos colisionen y se comuniquen, promoviendo una innovación más integral y profunda.

En el futuro, el espacio abierto de este centro informático también estará abierto al público como un "Parque Tecnológico de Computación", lo que permitirá que más personas comprendan el poder del cambio de producción en la era de la inteligencia artificial.

En resumen, Nortel Digital utilizará el centro de computación inteligente como soporte para conectar tecnologías, productos y servicios ascendentes y descendentes, como chips, servidores, modelos grandes, aplicaciones de inteligencia artificial e inversiones industriales para promover el crecimiento y la prosperidad de la industria de la inteligencia artificial. e impulsar la modernización de las industrias económicas regionales.

Hasta ahora, Nortel Digital Intelligence cuenta con más de mil socios ecológicos de la industria de la IA, que cubren áreas estelares como la investigación y el desarrollo de fármacos asistidos por IA, robots generales/inteligencia incorporada, conducción sin conductor y agentes de IA.