2024-09-14
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
9월 13일, 인텔리전트 사물(intelligent things)에 따르면, 거대 소프트웨어 오라클(오라클 클라우드 인프라스트럭처)의 수석 부사장 카란 바타(karan batta)는 엔비디아가 인공지능 데이터센터 칩 판매에 호황을 누리고 있지만 ai를 개발하는 일부 고객들이 smaller로 눈을 돌리고 있다고 밝혔다. 라이벌 amd.
oracle은 칩 시장에서 nvidia의 지배적인 위치를 인식하고 있지만 하드웨어 개발 비용을 통제하려면 경쟁을 추가해야 한다고 생각합니다.
nvidia 제품의 가격이 인상될 수 있으며, 이에 대해 많은 고객들이 우려하고 있습니다.
oracle 경영진은 amd 하드웨어가 회사가 nvidia 칩 공급 부족으로 인한 위기를 예방하는 데 효과적으로 도움이 될 수 있으며 이러한 부족은 작년 대부분 동안 존재했다고 말했습니다.
이외에도오라클 주식회사또한 microsoft와 같은 클라우드 서비스 제공업체도 ai 컴퓨팅 거대 기업에 대한 노출을 줄였습니다.엔비디아의존하려는 의도.
karan batta는 "우리는 칩 추론을 달성하는 것이 반드시 특정 공급업체에 묶여 있을 필요는 없다는 것을 발견했습니다."라고 말했습니다.nvidia가 서버 칩 시장을 장악하고 있기 때문에 하드웨어 비용을 줄이기 위한 경쟁이 필요합니다.
ai 애플리케이션을 독립적으로 개발하든, 소프트웨어 공급업체로부터 해당 애플리케이션을 구매하든,경쟁이 심화되면 기업은 ai 추론 비용을 통제할 수 있습니다.
2023년 amd의 최신 플래그십 서버 칩은 2022년 nvidia의 최신 플래그십 h100만큼 강력하지 않을 수 있지만 oracle과 microsoft의 경영진은 다음과 같이 믿습니다.그들은 경쟁을 촉진하기 위해 amd를 지원할 수밖에 없습니다.karan batta는 "amd는 이에 많은 노력을 기울이고 있으며 칩 성능을 향상시키는 데 큰 역할을 하고 있습니다."라고 덧붙였습니다.
카란 바타는 이렇게 생각합니다.oracle의 amd 하드웨어 사용은 향후 nvidia의 공급 부족 가능성을 방지하는 데에도 도움이 됩니다. 이러한 부족 현상은 지난해 대부분 동안 발생했습니다.
karan batta는 구체적인 세부 정보나 고객 이름을 공개하는 것을 거부했지만 그의 발언은 oracle이 microsoft와 같은 다른 클라우드 서비스 제공업체와 유사한 움직임으로 ai 컴퓨팅 거대 기업인 nvidia에 대한 의존도를 줄이기를 희망하고 있음을 나타냅니다.
또한 추론을 위한 nvidia 칩 임대 비용이 하락하고 있지만 차세대 주력 ai 칩이 이를 바꿀 수도 있습니다. 다른 nvidia 고객들도 비슷한 우려를 개인적으로 표명했습니다.그들은 amd나 다른 회사가 nvidia의 시장 점유율을 점유하지 않으면 nvidia 제품이 계속해서 비싸질 것이라고 걱정합니다.
지금까지는 실제로 이런 일이 발생하지 않았습니다.
amd는 6월 분기에 데이터 센터 매출이 전년 동기 대비 115% 증가한 28억 달러를 기록했으며, 엔비디아의 데이터 센터 매출은 7월 분기에 154% 증가한 263억 달러를 기록했다고 밝혔습니다.
▲nvidia와 amd 데이터센터 매출 비교 차트(출처: the information)
한편 oracle 및 기타 클라우드 제공업체는 openai 및 elon musk의 xai와 같은 고객에게 더 많은 nvidia 서버를 임대하면서 호황을 누리고 있습니다.
미국 서버 임대 시장에서 오라클은 아마존의 아마존 클라우드 서비스, 마이크로소프트 애저 클라우드 기술, 구글 클라우드에 이어 4위를 차지하고 있다.오라클은 이 사업에서 24억 달러의 수익을 창출했는데, 이는 전년 대비 45% 증가한 수치입니다.
오라클은 클라우드 컴퓨팅 분야에 상대적으로 늦게 진입했지만 작년에는 ai 스타트업들이 클라우드 서버를 확보하려는 붐이 일었던 시기와 일치했기 때문에 다소 운이 좋았습니다. 오라클은 openai gpt-4와 같은 대규모 언어 모델을 개발하지 않았기 때문에 ai 개발 고객에게 경쟁 위협이 되지 않아 시장에서 우위를 점하고 있습니다.
이제 오라클은 ai 모델 교육 시장에서 더 큰 점유율을 차지하려고 합니다.래리 엘리슨래리 엘리슨(larry ellison)은 월요일 오라클이 샌프란시스코와 같은 도시에 전력을 공급하기에 충분한 10억 와트 이상의 용량을 갖춘 데이터 센터를 설계하고 있다고 말했습니다.
karan batta는 데이터 센터의 세부 정보 공개나 운영 시기 발표를 거부했습니다. 확장을 지원하기 위해 오라클은 ai 칩 클러스터를 연결하는 기능을 향상시켜 단일 컴퓨터처럼 작동할 수 있도록 할 것이며 이는 새로운 대규모 언어 모델을 교육하는 데 이상적인 설정이라고 그는 말했습니다.
이러한 개선 사항에는 oracle이 발열 칩을 냉각하는 방법과 케이블이 서로 다른 건물의 칩을 연결하기 위한 터널을 구축하는 방법에 대한 변경이 포함되어 있어 모두 동일한 위치에 있을 필요가 없습니다.
그는 말했다,오라클은 칩 클러스터 크기를 64,000 gpu에서 128,000 이상으로 두 배 이상 늘릴 계획입니다.. 하지만 언제인지는 구체적으로 밝히지 않았다.
또한 karan batta는 스타트업이 핵심 모델을 개발하기 위해 다른 클라우드 서비스를 사용하더라도 oracle이 인공 지능 교육의 필요성으로부터 여전히 이점을 얻을 수 있다고 믿습니다.
예를 들어, 이러한 회사에는 개발자가 특정 작업에 맞게 모델을 최적화하는 미세 조정과 같은 다른 목적을 위한 하드웨어도 필요합니다.
karan batta는 일부 ai 회사가 이러한 작업 부하를 처리하기 위해 오래된 칩에 대한 액세스 권한을 구입하고 있다고 말했습니다.
정보인공지능 데이터센터 데이터베이스에 따르면,오라클은 내년에 텍사스 시설을 사용하기 위해 openai 및 microsoft와 계약을 체결했을 수도 있습니다.그러나 karan batta는 특정 회사에 대한 문제에 대해 언급을 거부했습니다.
최근의,오라클은 좌절을 겪고 있다머스크가 오라클로부터 gpu 클러스터를 임대하는 대신 미국 멤피스에 gpu 클러스터를 직접 구축하기로 결정했기 때문이다. 회사가 데이터센터를 빨리 구축할 수 없었기 때문이다.
karan batta는 xai가 oracle보다 빠르게 100,000개의 h100 칩으로 구성된 colossus 클러스터를 완료할 수 있는지 여부를 판단하기에는 너무 이르다고 생각합니다.
“비교할 기준이 없습니다. 우리가 xai보다 훨씬 빠른가요? 아니면 훨씬 느린가요? … 다른 클라우드 제공업체에 비해 ai 컴퓨팅 성능이 가장 빠른 것 같아요. . 하나."
출처 : 정보
