nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Crécy vient du temple Aofei
  Qubits | Compte public QbitAI

L’intelligence artificielle est sans aucun doute un sujet important aujourd’hui, favorisant le développement de l’économie numérique à travers diverses méthodes telles que les grands modèles, les applications verticales et les agents intelligents.

Cependant, l'infrastructure qui sert l'IA...Puissance de calcul et données, constitue un goulot d'étranglement limitant le développement de l'intelligence artificielle et est également devenu un sujet de discussion plus approfondie.

Pourquoi ce goulot d’étranglement existe-t-il toujours ? Comment le casser ?

Nous avons vu quelques réponses dans ce qu'a fait Nortel Digital Intelligence, créé depuis un an -

Une « usine d'IA » qui rassemble une puissance de calcul nationale « disponible immédiatement » a fait surface à Pékin.

« AI Factory » cible l’anxiété liée à la puissance de calcul

Que ce soit pour un seul praticien ou pour l'ensemble de l'industrie,Manque de puissance de calcul efficaceC’est un problème qui doit être résolu de toute urgence.

Du côté de la demande, le développement fulgurant de l'IA générative représentée par les grands modèles, la féroce « bataille de centaines de modèles » et l'avènement de l'ère de l'inférence entraîneront sans aucun doute une énorme augmentation de la demande de puissance de calcul.

Un rapport publié conjointement par l'Académie chinoise d'ingénierie et plus d'une douzaine d'institutions dans la sous-revue scientifique Intelligent Computing a souligné que la puissance de calcul requise pour l'intelligence artificielle double tous les 100 jours. Sur la base de ce calcul, on s'attend à ce que.augmentera de plus d'un million de fois au cours des cinq prochaines années。

De plus, à l'ère de l'intelligence artificielle, la demande de puissance de calcul n'est plus seulement le nombre de FLOPS, mais la structure de la demande de puissance de calcul a également subi de grands changements.

À l'ère de l'AIGC, la structure de la puissance de calcul est passée de CPU + accélérateur à GPU.Calcul parallèle à grande échelle, la proportion de puissance de calcul intelligente augmente rapidement。

Mais actuellement, il existe un écart générationnel entre les puces nationales, en particulier les puces haut de gamme, et les produits avancés de l'industrie dans de nombreux aspects tels que les performances informatiques, la consommation d'énergie et la vitesse de communication entre les cartes.

Des facteurs autres que les puces limitent également l'utilisation efficace de la puissance de calcul, tels que des capacités de transmission réseau insuffisantes entre les nœuds, une écologie logicielle de support imparfaite, etc.

Dans cette réalité, la majeure partie de la puissance de calcul intelligente nationale ne peut pas être utilisée efficacement, ce qui a donné naissance à la deuxième inquiétude de l'industrie concernant la puissance de calcul.

La raison fondamentale d’une telle anxiété est queLes utilisateurs n'ont pas une compréhension claire des capacités du multicœur, en particulier de la puissance de calcul domestique., peut se résumer en plusieurs aspects :

• Les clusters multicœurs nationaux à grande échelle manquent de capacités et ne peuvent pas prendre en charge l'adaptation et l'évaluation de la puissance de calcul à grande échelle à proximité des environnements de production. En d’autres termes, les tests sur puce unique ne peuvent fournir que des données estimées sur l’interconnexion entre les cartes et les nœuds informatiques, mais il n’existe aucune donnée sur le taux d’accélération ;
• La plate-forme existante est principalement basée sur des indicateurs d'évaluation exponentielle et ne peut pas être connectée aux scénarios commerciaux des utilisateurs. Elle n'ouvre pas complètement le lien d'adaptation des scénarios commerciaux aux puces sous-jacentes. En d'autres termes, les utilisateurs réels ne peuvent pas comprendre et juger si les clusters multicœurs existent. capable de répondre à ses propres besoins;
• Il y a un manque de plates-formes de services hétérogènes multicœurs en Chine, et il y a également un manque de tentatives de formation et de tâches de raisonnement multicœurs hétérogènes et hybrides.

D'une manière générale, la demande ne connaît pas les services que le fournisseur peut fournir ni le degré de soutien à ses activités réelles. Le fournisseur ne dispose pas d'une plate-forme pour démontrer ses capacités et ce qu'il peut faire, et en même temps il ne dispose pas d'une plate-forme équitable et équitable. évaluation et norme claires.

Afin de briser cette perception et de résoudre l'énigme de l'anxiété liée à la puissance de calcul, une société nommée"Calcul Spark·Smart"La marque AIDC est née.

"Une seule étincelle peut déclencher un feu de prairie." Le choix d'un nom comme "Spark" est dû au fait que le fournisseur de solutions espère que cette marque pourra déclencher un feu de prairie et se reproduire à l'échelle nationale.

La personne qui a proposé ce plan étaitIntelligence numérique Nortel——Une entreprise de haute technologie sous Beijing Electronic Control qui se concentre sur l'intelligence artificielle.

Nortel Digital Intelligence estime que,La puissance de calcul est une nouvelle forme de productivité à l’ère de l’intelligence artificielle：

À l’ère agricole, la Terre était une puissance de calcul ;
À l’ère des machines, l’électricité et la vapeur sont de la puissance de calcul ;
À l’ère de l’intelligence artificielle, la puissance de calcul constitue la principale forme de productivité, au même titre que le charbon, l’eau et l’électricité.

Afin de transformer la puissance de calcul en facteur de productivité comme l’électricité, nous ne pouvons plus nous concentrer sur le simple empilage de puces, de serveurs et d’armoires ;Transformation d’un « entrepôt de puissance informatique » en « usine IA », équipé de nouvelles relations de production de qualité correspondantes.

C'est également la nouvelle idée de Nortel Digital Intelligence lors de la création de Spark Intelligent Computing.

Plus précisément, Spark Intelligent Computing soutient l'innovation et l'application de la technologie de l'intelligence artificielle en fournissant une puissance de calcul inclusive, comme l'eau, l'électricité et le charbon.

D'autre part, avec le concept « AIDC as a service », il fournit des services de support tels que des modèles de base, des modèles industriels et des chaînes d'outils à guichet unique, permettant aux entreprises de créer rapidement et facilement les applications qu'elles souhaitent ou de reconstruire les produits actuels. pour parvenir à l’innovation dans les méthodes de production.

À l'heure actuelle, le premier projet de référence de la marque « Xinghuo Intelligent Computing »——Centre informatique de l'économie numérique de PékinLa construction a commencé et servira de modèle à déployer à l’avenir dans tout le pays.

Afin de mieux aider à la mise à niveau de la puissance de calcul, Nortel Digital propose également deux produits principaux pour répondre pleinement à l'anxiété liée à la puissance de calcul dans l'industrie :

• Plateforme informatique hétérogène Advance·AI, en réponse à la pénurie actuelle de ressources informatiques haut de gamme, configurer une solution hétérogène multicœur qui répond au mieux aux besoins du marché intérieur ;
• Pagoda·Plateforme d'adaptation de grands modèles, adapter largement la puce vers le bas, de sorte que la puce puisse être largement découplée et adaptée du grand modèle ;

Les deux produits sont « un corps et deux côtés », résolvant l'anxiété liée à la puissance de calcul sous différentes dimensions.

La plate-forme informatique hétérogène Advance·AI, en tant que plate-forme de vérification itérative de la puissance de calcul nationale complète, peut réaliser une gestion et une planification unifiées de plusieurs puissances de calcul. En même temps, elle est la première à introduire une facturation basée sur les effets. à la demande sans connaître les détails sous-jacents et réalisez une migration fluide entre plusieurs puissances de calcul.

Afin de permettre une meilleure utilisation de la puissance de calcul, Spark Intelligent Computing a également réalisé des percées grâce aux communications unifiées, à l'optimisation de la compilation et à d'autres avancées technologiques possibles sur la plate-forme informatique hétérogène Forward AI.Améliorer les performances des puces nationales de 2 à 3 fois et augmenter le débit de 6 à 7 fois。

Tout en fournissant aux utilisateurs un support de puissance de calcul, la plate-forme informatique hétérogène Qianjin AI crée égalementNouveau mode d'évaluation de « puce × modèle × scène », contribuer à briser l'asymétrie de l'information entre les fabricants et les utilisateurs, et aider les fabricants de puces à briser la situation,Laissez les puces domestiques passer de « disponibles » à « faciles à utiliser »。

Cela signifie que tout en fournissant aux utilisateurs un support de puissance de calcul, cela favorisera également l'amélioration globale des puces nationales et apportera plus de puissance de calcul source.

Pagoda · Le système d'adaptation de grands modèles est le modèle d'autonomisation et le côté application, prend en charge le déploiement et la gestion de modèles, effectue une gestion opérationnelle raffinée de la puissance de calcul et prend en outre en charge les applications d'intelligence artificielle.

Faites circuler des données de qualité

Si les déficits de puissance de calcul ne sont qu’un « nuage noir » sur le bâtiment de l’IA, alors les déficits de données en sont un autre bien mérité.

Dou Dejing, scientifique en chef de Nortel Digital et professeur émérite de l'École d'informatique et de technologie de l'Université de Fudan, a déclaré dans un discours public :L’échelle et la qualité des données déterminent la « limite supérieure » de l’IA——Qu'il s'agisse de formation ou d'inférence, des données de haute qualité sont nécessaires pour le soutenir.

Prenons comme exemple Llama 3.1, le dernier grand modèle open source publié par Meta. Son modèle de troisième génération consomme 15 T de jetons de données d'entraînement sur plus de 16 000 GPU H100, soit 7 fois celui de la deuxième génération. c'est le modèle de deuxième génération en termes de performances sous la même échelle de paramètres.

Dans notre pays, la situation actuelle du côté de l'offre de données est également confrontée à la même anxiété que la puissance de calcul——Le montant total est abondant, mais les données de haute qualité sont densément peuplées.。

Selon les estimations d'IDC, le volume de données de la Chine passera de 23,88 ZB à 76,6 ZB entre 2022 et 2027, se classant au premier rang mondial. Cependant, les ensembles de données de corpus de haute qualité disponibles sont encore relativement rares.

Dans la mesure où la quantité est déjà rare, les données de grande valeur sont confrontées à« Il ne peut pas être fourni, il ne peut pas circuler et il ne peut pas être bien utilisé. »Ce dilemme rend difficile l’exercice de la valeur, rendant encore plus tendues les ressources de données déjà limitées.

D’un autre côté, le degré d’intégration des données est également très insuffisant. Une grande quantité de données est dispersée du côté industriel ou au sein de systèmes verticaux.non structuré, ne peut pas être directement utilisé pour la formation de grands modèles.

La raison sous-jacente derrière cela estManque de technologie mature et de mécanismes fiables pour prendre en charge la sécurité des données, Les entreprises disposant de données « ne savent pas, n'osent pas, ne peuvent pas et ne veulent pas » laisser les données circuler librement. Ces « quatre non » statu quo ont encore créé la pénurie des ensembles de données d'aujourd'hui et formé un cycle sans fin.

La priorité absolue est doncÉtablir un mécanisme de données fiable et sécurisé。

À cette fin, Nortel Digital Intelligence a lancé un autre produit important——Red Lake·Espace de données de confiance, permettant aux éléments de données d'être entièrement rassemblés et à la scène d'être complètement ouverte.

Red Lake·Trusted Data Space est une solution multicouche construite autour de la « fiabilité », visant à revitaliser les données, à fournir des services de données fiables de haute qualité et à créer un environnement de données de « partage sécurisé et de circulation fiable ».

D'un point de vue technique, Red Lake Trusted Data Space est équipé d'un bac à sable de données de confiance, qui utilise des technologies telles que « l'entrepôt de données logique » pour importer, modifier et supprimer des données, et utilise la technologie Privacy Computing + Blockchain pour assurer la sécurité des données et transparence.

Cette approche rend les données crédibles, contrôlables, disponibles, vérifiables et cryptées pour les protéger, créant ainsi un environnement de partage de données et d'applications où la confiance mutuelle multipartite et l'accord de circulation des données sont respectés.

Avec de telles mesures de sécurité contrôlables tout au long du processus, les propriétaires de données peuvent oser mettre leurs ressources de données en circulation sur le marché et attirer davantage de propriétaires de données à participer au processus.

Avec les premiers investissements dans les données, l'écosystème de fourniture de données mûrira également, la forme de partage de données deviendra plus complète et plus pratique, et les données fluides de haute qualité injecteront plus de sang frais dans le développement de l'industrie.

Dans le même temps, Nortel Digital lui-même a également apporté des données de haute qualité au secteur.Une matrice de modèles verticaux a été définie dans les secteurs médical, éducatif, culturel et autres., permettant aux entreprises d'intelligence artificielle de mieux trouver des scénarios de mise en œuvre.

Alors, qui est Nortel Digital Intelligence, et comment a-t-elle trouvé une solution aussi complète aux problèmes du secteur de l'intelligence artificielle ?

La « centrale électrique » à l’ère de l’intelligence artificielle, « l’homme perle » de la chaîne industrielle

Nortel Digital Intelligence est une entreprise de haute technologie appartenant au Beijing Electronic Control Group. Elle se concentre sur l'intelligence artificielle et son positionnement est le suivant.Fournisseur de services d’IA full stack。

Avant la création de Nortel Digital Intelligence, GPT-3.5 a coïncidé avec la sortie de GPT-3.5. À cette époque, une nouvelle ère de l'intelligence artificielle était pleinement lancée et la concurrence en matière d'IA devenait de plus en plus féroce. Conformément à l’évolution de l’époque et à la demande du marché, Nortel Digital Intelligence a vu le jour.

Lors de sa création, le premier projet entrepris par Nortel Digital Intelligence était le Beijing Digital Economy Computing Power Center, qui se positionnait commeFournir une puissance de calcul intelligente au public pour parvenir à une puissance de calcul inclusive。

En d’autres termes, ce centre de puissance de calcul est comme une « centrale électrique », permettant à la puissance de calcul comme l’eau, l’électricité et le charbon de renforcer l’ensemble de l’industrie de l’IA, de la base à l’application.

Responsable de la stratégie et du marketing, Nortel Digital IntelligenceYang ZhenIntroduction, c'est la différence entre Nortel Digital et Digital Technology. La première priorité de Nortel Digital est de soutenir le secteur de l'intelligence artificielle afin que les entreprises d'intelligence artificielle ou les développeurs individuels puissent rapidement utiliser l'intelligence artificielle et profiter de l'intelligence artificielle.

Dans l'ensemble du secteur de l'intelligence artificielle, Yang Zhen estime que Nortel Digital Intelligence joue un rôleChaîne industrielle "perle man"Le rôle de - s'il y a déjà des perles dans cette chaîne industrielle, enfilez-les, sinon, fabriquez-les.

Par exemple, l'accélération des puces nationales, la disposition des modèles verticaux dans les modèles industriels et l'espace de données de confiance mentionné ci-dessus sont tous des « perles » dans cette chaîne industrielle.

En plus de fournir des produits de puissance de calcul, le Centre de puissance informatique de l'économie numérique de Pékin a également spécialement conçu un espace de communication et d'affichage pour permettre aux praticiens de l'IA dans le même domaine ou dans des domaines différents d'entrer en collision et de communiquer, favorisant ainsi une innovation plus complète et plus profonde.

À l'avenir, l'espace ouvert de ce centre informatique sera également ouvert au public en tant que « parc technologique informatique », permettant à davantage de personnes de comprendre la puissance du changement de production à l'ère de l'intelligence artificielle.

En bref, Nortel Digital utilisera le centre informatique intelligent comme support pour connecter les technologies, produits et services en amont et en aval tels que les puces, les serveurs, les grands modèles, les applications d'IA et les investissements industriels afin de promouvoir la croissance et la prospérité du secteur de l'intelligence artificielle. et stimuler la modernisation des industries économiques régionales.

À ce jour, Nortel Digital Intelligence compte plus d'un millier de partenaires écologiques dans l'industrie de l'IA, couvrant des domaines phares tels que la recherche et le développement de médicaments assistés par l'IA, les robots généraux/l'intelligence embarquée, la conduite sans conducteur et les agents d'IA.