nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Selon les informations du 9 août, le sommet Open Computing China 2024, sur le thème « Collaboration ouverte : collaboration, sagesse et innovation », s'est tenu récemment.Inspirer des informationsserveurDirecteur Général Ligne de ProduitsZhao ShuaiPartagé les tendances de développement des grands modèles etIALes progrès de l’ouverture de l’écologie de la puissance de calcul montrent que toute informatique du futur seraIA. Après la réunion, Zhao Shuai, Zhang Zheng, chef de produit senior de la gamme de produits AI&HPC d'Inspur Information, et Luo Jian, responsable de la planification des produits de la gamme de produits serveur d'Inspur Information, ont été interviewés par les médias et ont eu des échanges approfondis sur le thème de l'ouverture. informatique favorisant le développement innovant de l’intelligence artificielle.

Zhao Shuai a dit :Aujourd’hui, 2/3 des modèles sont open source, et plus de 80 % des projets d’IA sont développés à l’aide de frameworks open source. Le modèle open source a été téléchargé plus de 300 millions de fois et a donné naissance à plus de 30 000 nouveaux modèles. On peut dire que l’open source a permis le développement et la prospérité de l’IA.Sur cette base, la conception ouverte du matériel est également devenue la clé pour promouvoir le développement écologique de la puissance de calcul de l'intelligence artificielle. Ce n’est qu’ainsi que nous pourrons mieux atteindre chaque client et atterrir dans chaque secteur.

Zhao Shuai a donné un exemple : dans le cadre de l'écosystème ouvert, la conception d'un OAM accéléré et standardisé a été ouverte en 2019. Inspur Information a présenté le premier UBB de l'industrie au sommet OCP en 2019 et a lancé la conception du système de référence OAM MX1 en 2020. Le serveur NF5498A5 basé sur la spécification OAM v1.0 a été publié en 2016, ce qui a favorisé le développement et le déploiement de puces IA haut de gamme de plusieurs fabricants.Les normes de conception ouvertes d'OAM ont considérablement accéléré le processus d'adaptation et de compatibilité des puces informatiques, économisant des milliards de dollars en investissements en ressources industrielles, accélérant le déploiement et l'itération informatique et soutenant la maturité des grands modèles de couche supérieure et des applications AIGC.

Plus précisément, une formation efficace de grands modèles nécessite généralement la prise en charge d'un système de serveur d'IA composé de puces d'IA dotées d'une puissance de calcul élevée de plus de 1 000 calories. La condition préalable pour interconnecter des milliers de puces et leur permettre de fonctionner ensemble efficacement est de résoudre la connexion directe à haut débit des puces internes d'un seul serveur. L'émergence de la spécification d'accélération ouverte OAM a résolu les problèmes de formes et d'interfaces incohérentes de plusieurs cartes accélératrices d'IA dans un seul serveur, de faible efficacité de l'interconnexion à haut débit et de long cycle de R&D, et a reçu le soutien et la participation de nombreuses entreprises.

À cet égard, Zhang Zheng a souligné qu'Inspur Information promeut continuellement l'évolution des normes et des technologies en termes de spécifications d'accélération ouverte et travaille en silence dans la communauté ouverte depuis de nombreuses années. Au début, il y avait peu de partenaires. et cela n'arrivera pas. Cela rapporte des bénéfices à l'entreprise, mais nous constaterons que ses avantages pour l'ensemble de la chaîne industrielle sont très énormes. Désormais, les fabricants de puces nationaux et étrangers, les produits les plus haut de gamme, adoptent tous des normes ouvertes, donc.Notre objectif est essentiellement de faire du bon travail dans une industrie. Ce n'est que lorsque l'industrie est bonne et saine que nous pouvons gagner davantage de valeur dans la chaîne industrielle.

Selon les rapports, les fabricants de systèmes représentés par Inspur Information ont développé un certain nombre de serveurs d'IA conformes aux spécifications d'accélération ouverte. Inspur Information a défini le premier système matériel d'interconnexion à 8 cartes du secteur conforme à la spécification OAM. Il s'agit d'un substrat d'interconnexion qui suit la spécification informatique ouverte. Pour la première fois, il a atteint le taux d'interconnexion de puces le plus élevé selon la spécification OAM. de 56 Gbit/s, ce qui est bien supérieur au taux de transmission PCIe5.0, et des spécifications d'accélération ouvertes avec des débits plus élevés sont encore en cours de développement. Le serveur IA de dernière génération d'Inspur Information, NF5698G7, basé sur les spécifications OAM, prend en charge une variété de puces d'accélération ouvertes basées sur les spécifications OAM et construit un cluster refroidi par liquide d'une kilocalorie permettant aux utilisateurs de prendre en charge la formation de grands modèles d'IA avec plus de 100 milliards de paramètres.

À ce stade, les problèmes liés à l’accélération des spécifications ont été résolus et de nouveaux défis sont apparus.

Zhao Shuai a déclaré que tout l'informatique à l'avenir sera l'IA, mais avec la diversification des paradigmes d'application, les processeurs montrent des directions de développement diversifiées. Alors, comment fournir de meilleures plates-formes de puissance de calcul et améliorer l'efficacité des processeurs diversifiés ?

La spécification Open Computing Module (OCM) qui vient d'être lancée fournit la réponse. OCM utilise le processeur et la mémoire comme plus petite unité de calcul et standardise les interfaces d'interconnexion à haute et basse vitesse. Tout comme OAM construit une base de puce d'accélération unifiée, l'OCM favorisera l'unification des interfaces des unités de calcul du processeur et l'amélioration de l'écosystème.Ce programme a été lancé conjointement par le China Electronics Standards Institute, Intel, AMD, Inspur Information, Lenovo, Super Fusion, Baidu, Xiaohongshu, etc. Il s'agit de la première spécification de conception de module informatique de serveur national et vise à établir un système informatique standardisé basé sur processeurs. L'unité de module d'alimentation réalise la compatibilité des puces de processeur de différentes architectures en unifiant l'interconnexion externe à grande vitesse, les protocoles de gestion, les interfaces d'alimentation, etc. de différentes unités de puissance de calcul de processeur, et construit une base de puissance de calcul unifiée pour le processeur. résoudre les défis écologiques du processeur et faciliter la tâche des clients. Selon des scénarios d'application diversifiés tels que l'intelligence artificielle, le cloud computing et le big data, nous pouvons adapter de manière flexible et rapide la plate-forme de puissance de calcul la plus appropriée pour promouvoir un développement rapide et de haute qualité de l'industrie de la puissance de calcul.

Luo Jian a ajouté que lorsqu'Inspur Information élaborait des normes industrielles, cela ne venait pas de nulle part, mais résultait d'une collision avec des partenaires en amont et en aval de l'industrie. Il a souligné,Les normes industrielles et l’industrialisation des produits progressent simultanément. Cela ne signifie pas qu’il n’existe qu’une seule norme sans valeur pour l’ensemble de l’industrie ! Ce n’est qu’en mettant les spécifications sur le marché et en les appliquant du côté du client qu’une réelle valeur peut être générée.(Dingxi)

Cet article provient de NetEase Technology Report. Pour plus d'informations et un contenu approfondi, suivez-nous.