notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Crecy vem do Templo Aofei
  Qubits | Conta pública QbitAI

A inteligência artificial é sem dúvida um tema importante hoje, promovendo o desenvolvimento da economia digital através de vários métodos, como grandes modelos, aplicações verticais e agentes inteligentes.

No entanto, a infraestrutura que serve a IA——Poder de computação e dados, é um gargalo que limita o desenvolvimento da inteligência artificial e também se tornou um tema para futuras discussões.

Por que esse gargalo ainda existe? Como quebrar isso?

Vimos algumas respostas no que a Nortel Digital Intelligence, estabelecida há um ano, fez -

Uma “fábrica de IA” que reúne poder de computação nacional “disponível imediatamente” surgiu em Pequim.

“AI Factory” visa a ansiedade do poder da computação

Quer seja para um único profissional ou para toda a indústria,Falta de poder de computação eficazEste é um ponto problemático que precisa ser resolvido com urgência.

Do lado da procura, o crescente desenvolvimento da IA ​​generativa representada por grandes modelos, a feroz "Batalha de Centenas de Modelos" e a chegada da era da inferência irão, sem dúvida, provocar um enorme aumento na procura de poder computacional.

Um relatório publicado conjuntamente pela Academia Chinesa de Engenharia e mais de uma dúzia de instituições na subjornal Science Intelligent Computing apontou que o poder de computação necessário para a inteligência artificial dobra a cada 100 dias. Com base neste cálculo, espera-se que.aumentará mais de 1 milhão de vezes nos próximos cinco anos。

Além disso, na era da inteligência artificial, a procura de poder computacional já não é apenas o número de FLOPS, mas a estrutura da procura de poder computacional também sofreu grandes mudanças.

Na era AIGC, a estrutura do poder de computação mudou de CPU + acelerador para liderada por GPUComputação paralela em grande escala, a proporção de poder de computação inteligente está aumentando rapidamente。

Mas atualmente existe uma lacuna geracional entre os chips domésticos, especialmente os chips de última geração, e os produtos avançados da indústria em muitos aspectos, como desempenho computacional, consumo de energia e velocidade de comunicação entre placas.

Fatores não relacionados ao chip também estão limitando o uso eficiente do poder de computação, como capacidades insuficientes de transmissão de rede entre nós, ecologia de software de suporte imperfeita e assim por diante.

Nesta realidade, a maior parte do poder de computação inteligente nacional não pode ser utilizada de forma eficiente, o que deu origem à segunda ansiedade da indústria em relação ao poder de computação.

A razão fundamental para tal ansiedade é queOs usuários não têm uma compreensão clara das capacidades do multi-core, especialmente do poder da computação doméstica., pode ser resumido em vários aspectos:

• Os clusters multi-core domésticos em grande escala carecem de capacidades e não podem suportar adaptação e avaliação do poder de computação em grande escala perto dos ambientes de produção. Em outras palavras, o teste de chip único só pode fornecer dados estimados sobre a interconexão entre cartões e nós de computação, mas não há dados sobre a taxa de aceleração;
• A plataforma existente baseia-se principalmente em indicadores de avaliação exponenciais e não pode ser conectada aos cenários de negócios dos usuários. Ela não abre totalmente o link de adaptação dos cenários de negócios aos chips subjacentes. capaz de atender às próprias necessidades;
• Há uma falta de plataformas de serviços heterogêneos multi-core na China, e também faltam tentativas de treinamento híbrido e heterogêneo multi-core e tarefas de raciocínio.

De um modo geral, o lado da procura não conhece os serviços que o fornecedor pode fornecer e o grau de apoio ao seu negócio real. O fornecedor carece de uma plataforma para demonstrar as suas capacidades e o que pode fazer e, ao mesmo tempo, tem um ambiente justo e justo. avaliação e padrão claros.

Para quebrar essa percepção e resolver o quebra-cabeça da ansiedade do poder computacional, uma empresa chamada"Cálculo Spark·Smart"A marca AIDC surgiu.

"Uma única faísca pode iniciar um incêndio na pradaria." Escolher um nome como "Spark" é porque o fornecedor da solução espera que esta marca possa iniciar um incêndio na pradaria e alcançar a replicação em todo o país.

A pessoa que propôs este plano foiInteligência Digital Nortel——Uma empresa de alta tecnologia sob o Controle Eletrônico de Pequim que se concentra em inteligência artificial.

A Nortel Digital Intelligence acredita que,O poder da computação é uma nova forma de produtividade na era da inteligência artificial：

Na era agrícola, a Terra era um poder computacional;
Na era das máquinas, a eletricidade e a energia do vapor são poder de computação;
Na era da inteligência artificial, o poder da computação é a principal forma de produtividade, tal como o carvão, a água e a eletricidade.

Para transformar o poder computacional num fator de produtividade como a eletricidade, não podemos mais nos concentrar no simples empilhamento de chips, servidores e gabinetes;Transformação de “armazém de poder computacional” em “fábrica de IA”, equipado com novas relações de produção de qualidade correspondentes.

Essa também é a nova ideia da Nortel Digital Intelligence ao construir o Spark Intelligent Computing.

Especificamente, a Spark Intelligent Computing apoia a inovação e aplicação de tecnologia de inteligência artificial, fornecendo poder de computação inclusivo, como água, eletricidade e carvão.

Por outro lado, com o conceito de "AIDC como serviço", fornece serviços de suporte, como modelos básicos, modelos industriais e cadeias de ferramentas completas, permitindo que as empresas construam rápida e facilmente as aplicações que desejam ou reconstruam os produtos atuais. para alcançar a inovação nos métodos de produção.

Atualmente, o primeiro projeto de benchmark da marca "Xinghuo Intelligent Computing"——Centro de Computação da Economia Digital de PequimA construção já começou e será usada como modelo a ser implementado em todo o país no futuro.

Para melhor auxiliar na atualização do poder computacional, a Nortel Digital também possui dois produtos principais para atender totalmente à ansiedade do poder computacional na indústria:

• Plataforma de computação heterogênea Advance·AI, em resposta à atual escassez de recursos computacionais de ponta, configurar uma solução multi-core heterogênea que melhor atenda às necessidades do mercado nacional;
• Pagoda·Plataforma de adaptação de modelos grandes, adapte amplamente o chip para baixo, de modo que o chip possa ser amplamente desacoplado e adaptado do modelo grande;

Os dois produtos são “um corpo e dois lados”, resolvendo a ansiedade do poder de computação em diferentes dimensões.

A plataforma de computação heterogênea Advance·AI, como uma plataforma de verificação iterativa de poder de computação doméstica full-stack, pode realizar gerenciamento e agendamento unificados de vários poderes de computação. Ao mesmo tempo, é a primeira a introduzir o faturamento baseado em efeitos. sob demanda, sem conhecer os detalhes subjacentes, e realizar uma migração suave entre vários poderes de computação.

A fim de permitir uma melhor utilização do poder da computação, a Spark Intelligent Computing também fez avanços por meio de comunicações unificadas, otimização de compilação e outros avanços tecnológicos que a plataforma de computação heterogênea Forward AI pode.Melhore o desempenho dos chips domésticos em 2 a 3 vezes e aumente o rendimento em 6 a 7 vezes。

Ao mesmo tempo que fornece aos usuários suporte de poder de computação, a plataforma de computação heterogênea Qianjin AI também criaNovo modo de avaliação de “chip × modelo × cena”, ajudar a quebrar a assimetria de informações entre fabricantes e usuários e ajudar os fabricantes de chips a quebrar a situação,Deixe os chips domésticos passarem de "disponíveis" para "fáceis de usar"。

Isso significa que, ao mesmo tempo em que fornece suporte ao poder de computação dos usuários, também promoverá a melhoria geral dos chips domésticos e trará mais poder de computação de origem.

Pagoda·Large Model Adaptation System é o modelo de capacitação e o lado da aplicação, oferece suporte à implantação e gerenciamento de modelos, realiza gerenciamento operacional refinado do poder de computação e oferece suporte adicional a aplicativos de inteligência artificial.

Deixe circular dados de alta qualidade

Se as deficiências de poder computacional são uma “nuvem escura” na construção da IA, então as deficiências de dados são outra bem merecida.

Dou Dejing, cientista-chefe da Nortel Digital e ilustre professor da Escola de Ciência e Tecnologia da Computação da Universidade Fudan, disse em um discurso público:A escala e a qualidade dos dados determinam o “limite superior” da IA——Seja treinamento ou inferência, são necessários dados de alta qualidade para apoiá-lo.

Veja o Llama 3.1, o mais recente modelo de código aberto lançado pela Meta, como exemplo. Seu modelo de terceira geração consome 15T tokens de dados de treinamento em mais de 16.000 GPUs H100, o que é 7 vezes maior que a segunda geração. é o salto de desempenho de segunda geração na mesma escala de parâmetros.

Em nosso país, a situação atual do lado da oferta de dados também enfrenta a mesma ansiedade que o poder da computação——A quantidade total é abundante, mas os dados de alta qualidade estão densamente povoados.。

De acordo com as estimativas da IDC, o volume de dados da China aumentará de 23,88ZB para 76,6ZB de 2022 a 2027, ocupando o primeiro lugar no mundo. No entanto, os conjuntos de dados corpus de alta qualidade disponíveis ainda são relativamente escassos.

Sob a condição de que a quantidade já seja escassa, os dados de alto valor enfrentam“Não pode ser fornecido, não pode ser distribuído e não pode ser bem utilizado.”Este dilema torna difícil exercer valor, tornando os já limitados recursos de dados ainda mais tensos.

Por outro lado, o grau de integração dos dados também é gravemente insuficiente. Uma grande quantidade de dados está espalhada no lado industrial ou em sistemas verticais, enão estruturado, não pode ser usado diretamente para treinamento de modelos grandes.

A razão subjacente por trás disso éFalta de tecnologia madura e mecanismos confiáveis ​​para apoiar a segurança dos dados, As empresas com dados "não sabem, não ousam, não podem e não querem" permitir que os dados circulem livremente. Esse status quo dos "quatro não" criou ainda mais a escassez dos conjuntos de dados de hoje e formou um ciclo interminável.

Portanto, a principal prioridade éEstabeleça um mecanismo de dados confiável e seguro。

Para tanto, a Nortel Digital Intelligence lançou outro produto importante——Red Lake·Espaço de dados confiável, permitindo que os elementos de dados sejam totalmente reunidos e a cena totalmente aberta.

Red Lake·Trusted Data Space é uma solução multicamadas construída em torno da "confiabilidade", com o objetivo de revitalizar dados, fornecer serviços de dados confiáveis ​​de alta qualidade e criar um ambiente de dados de "compartilhamento seguro e circulação confiável".

Do ponto de vista técnico, o Red Lake Trusted Data Space está equipado com uma sandbox de dados confiável, que usa tecnologias como "armazenamento de dados lógicos" para importar, modificar e excluir dados, e usa computação de privacidade + tecnologia blockchain para garantir a segurança dos dados e Transparência, garantir rastreabilidade e transparência de dados e alcançar "controlabilidade total da cadeia".

Esta abordagem torna os dados credíveis, controláveis, disponíveis, auditáveis ​​e encriptados para os proteger, criando assim um ambiente de partilha de dados e de aplicações onde a confiança mútua multipartidária e o acordo de circulação de dados são cumpridos.

Com tais medidas de segurança controláveis ​​ao longo de todo o processo, os proprietários de dados podem ousar colocar os seus recursos de dados em circulação no mercado e atrair mais proprietários de dados para participarem no processo.

Com o investimento inicial em dados, o ecossistema de fornecimento de dados também amadurecerá, a forma de partilha de dados tornar-se-á mais completa e conveniente e o fluxo de dados de alta qualidade injectará mais sangue fresco no desenvolvimento da indústria.

Ao mesmo tempo, a própria Nortel Digital também trouxe dados de alta qualidade para a indústria.A matriz do modelo vertical foi estabelecida na medicina, educação, cultura e outras indústrias., permitindo que as empresas de inteligência artificial encontrem melhor os cenários de implementação.

Então, quem é a Nortel Digital Intelligence e como surgiu uma solução tão abrangente para os pontos problemáticos da indústria de inteligência artificial?

A “usina” na era da inteligência artificial, o “homem das contas” da cadeia industrial

A Nortel Digital Intelligence é uma empresa de alta tecnologia do Beijing Electronic Control Group. Ela se concentra em inteligência artificial e seu posicionamento é.Provedor de serviços de IA full stack。

Antes do estabelecimento da Nortel Digital Intelligence, o GPT-3.5 coincidiu com o lançamento do GPT-3.5. Naquela época, uma nova era de inteligência artificial foi totalmente lançada e a competição pela IA estava se tornando cada vez mais acirrada. Acompanhando a evolução dos tempos e a demanda do mercado, surgiu a Nortel Digital Intelligence.

Quando foi criada, o primeiro projeto realizado pela Nortel Digital Intelligence foi o Beijing Digital Economy Computing Power Center, que foi posicionado comoFornecer poder de computação inteligente ao público para alcançar poder de computação inclusivo。

Em outras palavras, este centro de poder computacional é como uma “usina de energia”, permitindo que o poder computacional, como água, eletricidade e carvão, capacite toda a indústria de IA, desde a base até a aplicação.

Chefe de Estratégia e Marketing, Nortel Digital IntelligenceYang ZhenIntrodução, esta é a diferença entre a Nortel Digital e a Tecnologia Digital. A primeira prioridade da Nortel Digital é apoiar a indústria de inteligência artificial para que empresas de inteligência artificial ou desenvolvedores individuais possam usar rapidamente a inteligência artificial e desfrutar da inteligência artificial.

Em toda a indústria de inteligência artificial, Yang Zhen acredita que a Nortel Digital Intelligence desempenha um papel importante.Cadeia industrial "homem de contas"O papel de - se já existem contas nesta cadeia industrial, amarre-as; se não, faça-as;

Por exemplo, a aceleração dos chips domésticos, o layout dos modelos verticais nos modelos industriais e o espaço de dados confiável mencionado acima são todos "pérolas" nesta cadeia industrial.

Além de fornecer produtos de poder de computação, o Centro de Poder de Computação da Economia Digital de Pequim também projetou especialmente um espaço de comunicação e exibição para permitir que profissionais de IA nos mesmos ou em campos diferentes colidissem e se comunicassem, promovendo uma inovação mais abrangente e profunda.

No futuro, o espaço aberto deste centro de computação também será aberto ao público como um “Parque Tecnológico de Computação”, permitindo que mais pessoas compreendam o poder da mudança produtiva na era da inteligência artificial.

Em suma, a Nortel Digital usará o centro de computação inteligente como suporte para conectar tecnologias, produtos e serviços upstream e downstream, como chips, servidores, grandes modelos, aplicações de IA e investimentos industriais para promover o crescimento e a prosperidade da indústria de inteligência artificial. e impulsionar a modernização das indústrias económicas regionais.

Até agora, a Nortel Digital Intelligence tem mais de mil parceiros ecológicos da indústria de IA, cobrindo caminhos importantes, como pesquisa e desenvolvimento de medicamentos assistidos por IA, robôs gerais/inteligência incorporada, direção sem motorista e agentes de IA.