notícias

o “cluster de 100.000 cartões” está chegando. os gigantes da tecnologia estão competindo pelo limite do poder de computação da ia.

2024-09-26

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

[anteriormente, o ceo da anthropic também afirmou que o custo atual do treinamento de modelos de ia é de us$ 1 bilhão e, nos próximos três anos, esse número pode subir para us$ 10 bilhões ou até us$ 100 bilhões. ]

o "cluster de 10.000 ka" é considerado pela indústria como o "ingresso" para esta rodada de competição de modelos em grande escala. agora, o "cluster de 100.000 ka" tornou-se um novo terreno elevado para os gigantes da tecnologia competirem.

"mais grupos de 100.000 cartões aparecerão em breve", disse shen dou, vice-presidente executivo do grupo baidu, na conferência baidu zhiyun em 25 de setembro.

ele mencionou que, no ano passado, a demanda dos clientes por treinamento de modelos aumentou e o tamanho do cluster necessário está ficando cada vez maior. ao mesmo tempo, as expectativas de todos quanto ao declínio contínuo dos custos de inferência de modelos também estão aumentando. estes apresentaram requisitos mais elevados para a estabilidade e eficácia do gerenciamento da gpu. no mesmo dia, o baidu atualizou sua plataforma de computação heterogênea de ia baige 4.0, que tem a capacidade de implantar e gerenciar clusters de 100.000 cartões.

na verdade, esta rodada de explosão de inteligência artificial generativa se deve em parte ao fato de que "grandes esforços podem produzir milagres. a indústria alcançou um salto no desempenho de grandes modelos ao aumentar continuamente a pilha de poder computacional". o cluster wanka é, portanto, considerado pela indústria como a “configuração padrão” para entrar no círculo central da ia. mas agora, mesmo wanka não consegue atender totalmente à demanda. não apenas o baidu, mas cada vez mais gigantes da indústria estão implantando clusters de 100.000 cartões para buscar maior eficiência computacional e desempenho de modelos grandes.

na recente conferência yunqi, o alibaba cloud demonstrou uma nova infraestrutura em torno da era da ia, na qual um único cluster de rede foi expandido para o nível de 100.000 cartões. ele está desenvolvendo tudo, desde chips, servidores, redes e armazenamento até resfriamento. fonte de alimentação e data centers. reconstruindo infraestrutura avançada de ia para o futuro.