2024-09-26
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
[ 此前Anthropic首席执行官也表示,当前AI模型训练成本是10亿美元,未来三年,这个数字可能会上升到100亿美元甚至1000亿美元。 ]
“万卡集群”被业界视作这一轮大模型竞赛的“入场券”,现在,“十万卡集群”成为科技巨头们竞逐的新高地。
“很快就会有更多的10万卡集群出现。”9月25日,百度集团执行副总裁沈抖在百度智云大会上这样说。
他提到,过去一年已经感受到客户的模型训练需求猛增,需要的集群规模越来越大,与此同时,大家对模型推理成本持续下降的预期也越来越高。这些都对GPU管理的稳定性和有效性提出了更高要求。当天,百度升级AI异构计算平台百舸4.0,具备了10万卡集群部署和管理能力。
事实上,这一轮生成式人工智能爆发的背后,一定程度上归功于“大力出奇迹”,业界通过不断增加算力堆叠,实现大模型性能的飞跃。万卡集群也因此被业界视作是进入AI核心圈的“标配”。但现在,即便是万卡也不能够完全满足需求。不仅百度,越来越多的行业巨头正在布局十万卡集群,以追求更高的计算效率和大模型性能。
不久前的云栖大会上,阿里云展示了围绕AI时代的新基建,其中单网络集群已拓展至十万卡级别,正在从芯片、服务器、网络、存储到散热、供电、数据中心等方方面面,重新打造面向未来的AI先进基础设施。