2024-10-02
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
financial associated press, 10월 2일(푸징 기자)대형 모델의 매개변수 규모가 지속적으로 증가하면서 ai 컴퓨팅 성능 인프라에 대한 수요가 높아지고 있습니다. 현재 ai 컴퓨팅 산업이 호황을 누리고 있으며 지능형 컴퓨팅 센터 구축이 가속화되고 있습니다. 최신 데이터에 따르면 올해 6월 현재 전국에서 사용되는 컴퓨팅 파워 센터 랙의 총 수는 표준 랙 830만개를 초과하고 컴퓨팅 파워 규모는 246eflops(fp32)이며 전년 대비 성장률은 스마트 컴퓨팅이 65%를 초과합니다.
현 단계에서 공급측 컴퓨팅 카드의 가격과 부족량은 얼마입니까? 공급측면과 수요측면이 일치하는가? 전국에 있는 수백 개의 지능형 컴퓨팅 센터가 모두 최대 용량으로 운영되고 있습니까? 지능형 컴퓨팅 센터 구축 비용은 언제 상환되나요? 인공지능 컴퓨팅 파워는 어떻게 고품질 개발을 이룰 수 있을까? financial associated press의 기자들은 5가지 핵심 이슈에 초점을 맞춰 많은 업계 인사들을 인터뷰했습니다.
financial associated press의 한 기자에 따르면 이전의 ai 컴퓨팅 파워 공급 부족은 완화되었지만 수요와 공급이 완전히 일치하지 않아 일부 지능형 컴퓨팅 센터의 활용률이 낮았습니다. 지자체와 기업이 지능형컴퓨팅센터를 마련한다는 계획은 공통적이지만 실제 활용 가능한 숫자는 예상보다 적을 수도 있다. 일부 실무자들은 일부 지능형 컴퓨팅 센터가 약 3~4년 안에 "비용을 회수"할 수 있을 것이라고 예측합니다. 동시에 컴퓨팅 성능의 고품질 개발도 업계에서 높이 평가됩니다.
계산된 카드 가격이 판매자의 비용선에 가깝습니다.
“컴퓨팅 파워의 공급 부족은 실제로 최근 몇 년간 상대적으로 흔한 현상입니다. 많은 사람들이 컴퓨팅 파워가 좋고 생태학적 적응성이 좋은 제품을 구입하려고 서두르고 있습니다. 물론 사용자의 관점에서는 지능형 컴퓨팅 파워가 더 나은 지원을 제공할 수 있기를 바랍니다. 컴퓨팅 서버 공급업체의 관점에서 inspur yunhai의 수석 과학자 zhang dong은 financial associated press 기자와의 인터뷰에서 이렇게 말했습니다.
zhang dong은 지능형 컴퓨팅의 공급 부족이 주기적이라고 기자들에게 말했습니다.
현재 공급측 상황은 어떤가요? shanghai liuchi technology group 회장이자 hengrun co., ltd.(603985.sh)의 자회사인 shanghai runliuchi technology co., ltd.의 총책임자인 zhang yazhou는 financial associated press의 기자들에게 다음과 같이 말했습니다. 작년과 달리 올해 시장의 컴퓨팅 파워는 부족했습니다. 글쎄요, 현재 다양한 컴퓨팅 카드의 가격은 판매자의 비용 수준에 가깝습니다. 이제 업계의 다양한 프로젝트에 많은 사람들이 참여하고 있습니다. 그리고 중개업자도 많아요. 컴퓨터나 장비를 만들던 사람들, ict 통신 업계 사람들이 모두 참여하지만 실제로는 제대로 된 일을 하는 사람이 많지 않아요.”
최근 일부 a주 국경 간 지능형 컴퓨팅 플레이어는 다음과 같은 압박감을 드러냈습니다. lotus holdings(600186.sh)의 자회사인 lotus purple star가 일부 컴퓨팅 파워 서비스 계약을 체결했습니다.실제 조달비용 회수가 예상보다 오래 걸리거나 회수가 불가능할 위험이 있을 수 있습니다., 올해 8월 현재 로터스 퍼플스타는 여전히 적자 상태에 있으며, 오야홀딩스(300949.sz)가 전액 출자한 자회사인 알트론엔진이 협상을 벌여 연중 수익을 낼 수 있을지 불투명하다. 공급업체인 runxin 공급망과 "계산 계산 계획"을 체결했습니다. "파워 서버 조달 계약에 대한 추가 계약"에 따라 nvidia gpu 칩이 내장된 원래 계획된 128대의 고성능 컴퓨팅 서버 수가 8대로 변경되었습니다.
zhang yazhou의 관찰에 따르면 올해 6월부터 8월까지 gpu 터미널 가격이 계속 하락했습니다. "작년 프로젝트는 올해 상반기에 모두 소화됐다. 올해 진행하는 프로젝트에는 크게 두 가지 상황이 있다. 첫째, 기업의 연구개발에는 컴퓨팅 파워가 꼭 필요한데, 이는 주로 인터넷 대기업에 집중돼 있다. 둘째. , 일부 지역에서는 보조금과 에너지 할당량을 받았으며 지능형 컴퓨팅 센터 건설 지원을 기다리고 있습니다.”
시장은 9월에만 '상품 휩쓸기' 물결을 목격한 것으로 알려졌다. '주로 비수기 및 국제 환경의 영향을 받지만 실제로 시장에는 현물 자원이 많지 않다'.
기자는 또 업계 관계자에게 "4090의 가격은 기존 13,000달러 이상에서 16,700달러로 인상됐다"고 전했다. 신화: 오공". 강력하다.
또한 zhang yazhou는 시장에 여전히 컴퓨팅 전원 공급 장치가 단편화되는 현상이 있다고 말했습니다. 일부 공급업체는 "서버가 5~10개만 있고, 대규모 공급업체는 서버가 64개 또는 100개 이상 있으며, 기본적으로 대용량 공급업체는 거의 없습니다. 그러한 공급업체는 실험실이나 학교로부터 일부 느슨한 주문을 받을 수도 있습니다.”
수요와 공급이 정확히 일치하지 않음
몇몇 실무자들은 financial associated press의 기자들에게 공급 부족이 완화되었다고 해서 지능형 컴퓨팅에 대한 수요가 예상보다 낮다는 의미는 아니라고 말했습니다. zhang yazhou는 지능형 컴퓨팅에 대한 수요가 증가하고 새로운 수요가 끊임없이 창출되고 있지만 현재 수요 측면은 더욱 합리적이 되었다고 말했습니다.
심천 인공 지능 산업 협회 회장 fan congming은 associated press 기자와의 인터뷰에서 다양한 수요 당사자의 현재 상황에 대해 이야기했습니다. 선도적인 기업과 과학 연구 대학은 충분한 컴퓨팅 성능 자원을 보유하고 있지만 대규모 규모의 산업 수직 모델은 현재 대량으로 개발되고 있으며 중소기업 및 소규모 기업에서는 컴퓨팅 성능이 부족합니다.
지능형 컴퓨팅 센터 건설이 본격화되고 관련 입찰 프로젝트가 매달 증가하고 있다는 점은 주목할 가치가 있습니다.
이전에 digital intelligence frontier가 보고한 불완전한 통계에 따르면 올해 첫 7개월 동안 건설의 모든 측면에 초점을 맞춘 최소 24개 프로젝트를 포함하여 지능형 컴퓨팅 센터 관련 프로젝트에 대한 입찰 발표가 140개 이상 발표되었습니다. 토목 인프라, it 인프라 등 낙찰 금액이 1억 위안을 초과했으며, 7월 국내에서 40개 이상의 관련 낙찰 프로젝트가 발표되었습니다.
중국정보통신기술원 클라우드 컴퓨팅 및 빅데이터 연구소 수석 엔지니어 guo liang은 방금 끝난 '2024년 중국 컴퓨팅 파워 컨퍼런스'에서 associated press of finance 기자와의 인터뷰에서 다음과 같이 말했습니다. "전국에 많은 지능형 컴퓨팅 센터가 건설되었습니다. 전체 통계에 따르면 200개 이상이어야 하지만 그 중 90%가 1000p 미만의 컴퓨팅 성능을 가지고 있습니다. 이는 이러한 컴퓨팅 성능 센터가 대규모 모델 훈련에 제한적으로 사용된다는 것을 의미합니다. , 향후 사용 효율성이 의심스럽습니다.”
"컴퓨팅 성능에 대한 수요는 엄청나지만 기존 유형은 사용자 요구를 충족할 수 없습니다. 적응성과 비용 효율성 측면에서 모두 고객 기대를 충족할 수 없습니다."라고 idc china의 분석가인 du yunlong은 financial의 기자에게 말했습니다. ap 통신.
zhang yazhou는 또한 현재 컴퓨팅 전원 공급 측면과 수요 측면이 완전히 일치하지 않는 상황이 있다고 생각합니다. “b측 수요자는 일반적으로 익숙한 장치를 찾으러 수십 명이 올 수 있습니다. 사실 프로젝트 측과만 접촉할 수 있다”며 “협력 관계가 양호하거나 종합적인 강점이 상대적으로 인정되는 경우에만 거래가 가능하며 반드시 최저가로 거래된다는 뜻은 아니다”라고 말했다.
유휴 컴퓨팅 성능은 일반적인가요?
associated press의 한 기자는 현 단계에서는 컴퓨팅 성능 장비가 최대 용량으로 작동하는지 여부가 시장의 관심의 초점이 되었다고 언급했습니다.
"이제 많은 컴퓨팅 파워가 흡수되었지만 실제로 업계에는 유휴 컴퓨팅 파워가 적습니다. 예를 들어 시장에 수천 개의 머신이 공급될 수 있지만 수백 개의 머신이 유휴 상태일 수 있습니다. "라고 zhang yazhou는 associated press 기자에게 말했습니다.
guo liang의 관찰에 따르면 유휴 컴퓨팅 성능은 일반적인 현상이 아닙니다. "우리 팀은 많은 성 및 도시에서 관련 작업을 지원합니다. 우리가 아는 한 가까운 미래에 닝샤 컴퓨팅 파워 센터의 활용률은 여전히 매우 높습니다. ."
“이제 내몽고, 티베트, 신장 지역에서는 저렴한 가격으로 시분할 임대를 위해 컴퓨팅 성능을 온라인으로 판매하는 것이 더 일반적이며, 이로 인해 광동 및 기타 지역에 구축된 지능형 컴퓨팅 센터의 활용률이 낮아질 것입니다."fan congming은 기자들에게 말했습니다.
guo liang은 닝샤 지능형 컴퓨팅 센터에 대해 현재 지역 전체 전기 가격에 보조금이 제공되지 않지만 여전히 장점이 있다고 분석했습니다. 지역 지능형 컴퓨팅 센터는 더 큰 컴퓨팅 성능을 갖추고 대규모 모델 교육에 더 유용합니다. "또한 지능형 컴퓨팅의 경우 네트워크 전송에 대한 성능 요구 사항이 그다지 강하지 않으며 데이터를 완전히 오프라인으로 처리할 수 있습니다. 이는 우리나라 중서부의 지능형 컴퓨팅 센터에 더 나은 적용 시나리오입니다."
"건설 초기 컴퓨팅 파워 소화 정도를 보면 선도 기업이 80%, 과학 연구 대학이 약 30~40%, 시장 지향적 건설을 위한 컴퓨팅 파워 소화 정도가 80%를 차지해야 한다" 절반 정도요." fan congming이 기자들에게 말했습니다.
fan congming의 관찰에 따르면 byte, tencent, huawei 및 baidu와 같은 선두 기업은 "대형 모델을 지속적으로 교육합니다. 데이터 양이 많을수록 컴퓨팅 성능에 대한 수요가 커지고 유휴 컴퓨팅 성능이 거의 없습니다." 과학 연구 대학의 컴퓨팅 능력은 "크고 덜 사용됨"으로 구축되었으며 상대적으로 더 많은 유휴 컴퓨팅 능력이 있으며 중소기업의 유휴 컴퓨팅 능력은 상대적으로 일반적입니다. 불분명한 위치, 원격 위치, 높은 가격으로 인해 초기 구축의 컴퓨팅 성능 소화가 충분하지 않습니다. "
du yunlong은 컴퓨팅 성능이 유휴 상태인지 여부는 주로 상위 계층 소프트웨어에 의한 컴퓨팅 성능 동원, 하드웨어 간 상호 연결 방법, 하드웨어 시설을 애플리케이션 시나리오에 맞게 조정 및 사용자 배포 비용 등 여러 측면에 달려 있다고 믿습니다.
9월 초, tencent cloud 부사장 sha kaibo는 financial associated 기자와의 인터뷰에서 지능형 컴퓨팅 센터에 하드웨어 리소스가 있음에도 불구하고 지원 소프트웨어 기능이 부족하고 실제 최종 고객이나 애플리케이션 시나리오가 부족한 현상에 대해서도 언급했습니다. 누르다.
zhang yazhou는 유휴 컴퓨팅 성능의 이유가 복잡하며 다양한 스마트 컴퓨팅 카드의 성능, 프로젝트 당사자의 운영 및 네트워크 제품의 기술 서비스 기능과 관련되어 있다고 말했습니다. 업계의 핵심 초점은 실제 존재 여부입니다. 응용 프로그램 측면의 제품.
지능형 컴퓨팅 센터를 구축하는 데 드는 비용을 상환하는 데 몇 년이 걸릴까요?
유휴 컴퓨팅 성능으로 인해 일부 지능형 컴퓨팅 센터에서 과도한 비용이 발생했으며 이는 업계의 일반적인 우려 사항 중 하나입니다.
이와 관련하여 fan congming은 지능형 컴퓨팅 센터의 공급 가격이 너무 비싸고 사용자가 감당할 수 없어 지능형 컴퓨팅 센터의 컴퓨팅 연속성이 부족하고 비용이 과도하게 발생한다고 생각합니다.
지능형 컴퓨팅 센터의 운영에 대해 guo liang은 '2024년 중국 컴퓨팅 파워 컨퍼런스'에서 financial associated press 기자들에게 "최근 다양한 행사에서 컴퓨팅 파워 스케줄링 플랫폼에 대한 정보를 자주 볼 수 있지만, 어떻게 될 것인가?"라고 말했습니다. 구축 후 효과는 무엇일까요? 플랫폼을 구축하기 위해 수천만 달러를 투자한 곳도 있지만 디자인 컨셉이나 기능적 특징 등의 문제로 인해 우리나라의 전반적인 운영이 제대로 활용되지 못한 것으로 알려져 있습니다. 특히 지능형 컴퓨팅 센터가 중요합니다.”
이어 그는 "스마트컴퓨팅을 위해서는 기업은 물론 정부 투자도 수익이 필요하다"며 "지금 업계는 영웅들끼리 갈등을 빚고 있는 상황이지만 통일된 역할은 없다. 물론 우리도 열심히 노력하고 있다"고 말했다. 컴퓨팅 파워 컨퍼런스에서 공개된 중국 컴퓨팅 서비스 플랫폼(허난)은 우리가 출시한 솔루션이다.”
스마트 컴퓨팅 센터가 비용과 성능의 균형을 맞추는 방법에 대해 fan congming은 associated press 기자에게 "컴퓨팅 전력 시장이 너무 빨리 변하고 전기 요금과 같은 기타 비용이 많이 들기 때문에 컴퓨팅 전력 투자에 대한 투자 회수 기간은 일반적으로 약 5년입니다. 가능하다면 운영도 추가해야 한다. 메이저 제조사에서 사용한다면 투자 회수 기간은 3~4년 정도가 될 것 같다”고 말했다.
du yunlong은 지능형 컴퓨팅 센터 운영자가 최종 사용자 사용 비용을 줄이고, 사용 습관을 기르고, 향후 가격 책정을 재개하기 위한 장기 계획을 수립하고 적용 사례를 육성하고 점차적으로 산업 범위를 확대해야 한다고 믿습니다.
'양'이 '질'로 바뀌는 이유는 무엇인가요?
객관적으로 볼 때 중국의 컴퓨팅 파워 발전은 아직 갈 길이 멀다.
2024년 중국 컴퓨팅 파워 컨퍼런스에서 발표한 '중국 컴퓨팅 파워 발전 보고서(2024)'에 따르면 지난해 말 기준 글로벌 지능형 컴퓨팅 시장은 전년 대비 130% 이상 성장한 반면, 중국은 지능형 컴퓨팅 시장은 전년 대비 60% 이상 성장했습니다.
associated press의 한 기자는 컴퓨팅 파워 건설의 붐 속에서 일부 실무자들이 위에서 언급한 컨퍼런스에서 많은 '냉담한 생각'을 공유하고 고품질 컴퓨팅 파워에 초점을 맞추었다는 사실을 발견했습니다.
인스퍼정보(000977.sz)와 정보통신기술아카데미가 발표한 업계 최초의 고품질 컴퓨팅 파워 평가 시스템 '인공지능 컴퓨팅 파워 고품질 개발 평가 시스템 보고서'에서는 고품질 컴퓨팅 파워는 다음을 기반으로 한다고 밝혔습니다. 최신 인공 지능 이론을 사용하고 고급 인공 지능 컴퓨팅 아키텍처, 알고리즘 및 데이터 깊이가 결합된 높은 수준의 컴퓨팅 기능을 사용합니다.
associated press의 한 기자는 inspur information에서 현재 컴퓨팅 파워 클러스터의 측정된 성능과 이론적 성능 간의 격차가 너무 크다는 사실을 알게 되었습니다. 일부 컴퓨팅 파워의 실제 성능은 이론 성능의 10% 미만입니다. 공개 데이터에 따르면 기존 모드에서 지능형 컴퓨팅 센터의 평균 gpu 활용률은 30% 미만입니다.
zhang dong은 컴퓨팅 파워에 대한 관심이 칩에만 집중될 수는 없다고 믿습니다. “많은 곳에서 컴퓨팅 파워를 구입하고, 칩 브랜드를 지정하고, 대규모 컴퓨팅 센터를 구축합니다. 사실, 칩 지표를 보는 것은 의미가 없습니다. 시스템 관점에서 애플리케이션 요구 사항을 충족하는 방법을 종합적으로 고려해야 합니다.”
guo liang은 또한 "현재 칩 수준에서는 선택의 여지가 많지 않습니다. 하지만 컴퓨팅과 네트워크의 통합이 핫스팟입니다. ai 서버를 현재 8개 카드에서 32개 또는 512개 카드로 확장하는 것이 목적입니다. 이는 클러스터 배포, 시작, 운영 및 유지 관리를 포함한 지능형 컴퓨팅 클러스터의 기능에 도움이 됩니다.”
associated press의 기자들은 여러 인터뷰를 통해 대규모 지능형 컴퓨팅의 구현이 결코 규모와 수량의 단순한 쌓기가 아니라는 점을 배웠습니다. 그 복잡성은 기하급수적으로 증가하며 이로 인해 기술적 강점, 자원 이점 및 산업 협력에 대한 요구가 높아집니다. 지능형 컴퓨팅 구축 운영자의 역량.
지능형 컴퓨팅 센터가 어떻게 '양'에서 '품질'로 전환될 수 있는지에 대해 guo liang은 "지능형 컴퓨팅 센터를 건설하려면 '적당한 발전'과 실제 지역 요구에 따른 전반적인 분석 및 예측이 필요합니다."라고 말했습니다.
