notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

De acordo com notícias de 9 de agosto, o 2024 Open Computing China Summit com o tema "Colaboração Aberta: Colaboração, Sabedoria e Inovação" foi realizado recentemente.Informações do InspurservidorGerente Geral de Linha de ProdutosZhao ShuaiCompartilhou as tendências de desenvolvimento de grandes modelos eIAO progresso da abertura da ecologia do poder computacional indica que toda a computação no futuro seráIA. Após a reunião, Zhao Shuai, Zhang Zheng, gerente sênior de produtos da linha de produtos AI e HPC da Inspur Information, e Luo Jian, gerente de planejamento de produtos da linha de produtos de servidores da Inspur Information, foram entrevistados pela mídia e tiveram discussões aprofundadas sobre o tema de abertura computação promovendo o desenvolvimento inovador da inteligência artificial.

Zhao Shuai disse:Hoje, 2/3 dos modelos são de código aberto e mais de 80% dos projetos de IA são desenvolvidos usando estruturas de código aberto. O modelo de código aberto foi baixado mais de 300 milhões de vezes e gerou mais de 30 mil novos modelos. Pode-se dizer que o código aberto trouxe o desenvolvimento e a prosperidade da IA.Com base nisso, o design aberto de hardware também se tornou a chave para promover o desenvolvimento ecológico do poder computacional da inteligência artificial. Só assim poderemos alcançar melhor todos os clientes e chegar a todos os setores.

Zhao Shuai deu um exemplo no ecossistema aberto, o projeto de OAM acelerado e padronizado foi inaugurado em 2019. A Inspur Information demonstrou o primeiro UBB do setor no OCP Summit em 2019 e lançou o projeto de sistema de referência OAM MX1 em 2020. Em 2021, o projeto. O servidor NF5498A5 baseado na especificação OAM v1.0 foi lançado em 2016, que promoveu o desenvolvimento e implantação de chips de IA de ponta de diversos fabricantes.Os padrões de design aberto da OAM aceleraram enormemente o processo de adaptação e compatibilidade de chips de computação, economizando bilhões de dólares em investimentos em recursos industriais, acelerando a implantação e iteração da computação e apoiando a maturidade de grandes modelos de camada superior e aplicações AIGC.

Especificamente, o treinamento eficiente de grandes modelos geralmente requer o suporte de um sistema de servidor de IA composto por chips de IA com alto poder computacional de mais de 1.000 calorias. O pré-requisito para interconectar milhares de chips e permitir que trabalhem juntos de forma eficiente é resolver a conexão direta de alta velocidade dos chips internos de um único servidor. O surgimento da especificação de aceleração aberta OAM resolveu os problemas de formas e interfaces inconsistentes de múltiplas placas aceleradoras de IA em um único servidor, baixa eficiência de interconexão de alta velocidade e longo ciclo de P&D, e recebeu apoio e participação de muitas empresas.

A este respeito, Zhang Zheng destacou que a Inspur Information tem promovido continuamente a evolução dos padrões e tecnologias em termos de especificações de aceleração aberta e tem trabalhado silenciosamente na comunidade aberta durante muitos anos. No início, havia poucos parceiros. e esse assunto não vai acontecer. Isso traz lucros para a empresa, mas descobriremos que seus benefícios para toda a cadeia da indústria são enormes. Agora, basicamente, os fabricantes de chips nacionais e estrangeiros, todos os produtos mais sofisticados adotam padrões abertos, então.Nosso resultado final é essencialmente fazer um bom trabalho em uma indústria. Somente quando a indústria for boa e saudável poderemos ganhar mais do nosso próprio valor na cadeia da indústria.

Segundo relatos, os fabricantes de sistemas representados pela Inspur Information desenvolveram uma série de servidores de IA que atendem às especificações de aceleração aberta. A Inspur Information definiu o primeiro sistema de hardware de interconexão de 8 placas do setor que está em conformidade com a especificação OAM. Este é um substrato de interconexão que segue a especificação de computação aberta. Pela primeira vez, atingiu a taxa mais alta de interconexão de chip sob a especificação OAM. de 56 Gbps, que é muito superior à taxa de transmissão PCIe5 .0, e especificações de aceleração abertas com taxas mais altas ainda estão em desenvolvimento. O servidor de IA de última geração NF5698G7 da Inspur Information baseado em especificações OAM suporta uma variedade de chips de aceleração abertos baseados em especificações OAM e constrói um cluster de quilocalorias refrigerado a líquido para que os usuários suportem o treinamento de grandes modelos de IA com mais de 100 bilhões de parâmetros.

Neste ponto, os problemas de aceleração das especificações foram resolvidos e novos desafios surgiram.

Zhao Shuai disse que toda a computação no futuro será IA, mas com a diversificação dos paradigmas de aplicação, as CPUs estão mostrando direções de desenvolvimento diversificadas. Então, como fornecer melhores plataformas de poder de computação e melhorar a eficiência para CPUs diversificadas?

A recém-lançada especificação Open Computing Module (OCM) fornece a resposta. OCM usa CPU e memória como a menor unidade de computação e padroniza interfaces de interconexão de alta e baixa velocidade. Assim como o OAM constrói uma base unificada de chips de aceleração, o OCM promoverá a unificação das interfaces das unidades de computação da CPU e a melhoria do ecossistema.Este programa foi iniciado conjuntamente pelo China Electronics Standards Institute, Intel, AMD, Inspur Information, Lenovo, Super Fusion, Baidu, Xiaohongshu, etc. É a primeira especificação de design de módulo de computação de servidor doméstico e visa estabelecer um sistema de computação padronizado baseado em processadores A unidade do módulo de potência realiza a compatibilidade de chips de processador de diferentes arquiteturas, unificando a interconexão externa de alta velocidade, protocolos de gerenciamento, interfaces de fonte de alimentação, etc. de diferentes unidades de potência de computação do processador e constrói uma base de potência de computação unificada para a CPU. resolver desafios ecológicos de CPU e facilitar os clientes Com base em diversos cenários de aplicação, como inteligência artificial, computação em nuvem e big data, podemos combinar de forma flexível e rápida a plataforma de poder de computação mais adequada para promover o desenvolvimento rápido e de alta qualidade da indústria de poder de computação.

Luo Jian acrescentou que quando a Inspur Information estava construindo padrões da indústria, ela não surgiu do nada, mas veio de uma colisão com parceiros upstream e downstream da indústria. Ele enfatizou,As normas industriais e a industrialização dos produtos avançam simultaneamente. Isso não significa que exista apenas uma norma. Apenas uma norma não tem valor para toda a indústria! Somente colocando especificações no mercado e aplicando-as do lado do cliente é que o valor real pode ser gerado.(Ding Xi)

Este artigo vem do NetEase Technology Report. Para obter mais informações e conteúdo aprofundado, siga-nos.