소식

울트라맨의 '코어 제작' 계획은 전 TPU팀의 중국 엔지니어들이 주도해 새로운 진전을 드러냈고 이르면 올해 공식 발표될 예정이다.

2024-07-21

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina


새로운 지혜 보고서

편집자: 양차오

[새로운 지혜 소개] 울트라맨은 지난해부터 전 세계를 날아다니며 투자하고 협력할 사람을 찾고 있으며, OpenAI 내에 '자체 개발 칩'을 구현하려는 계획을 적극적으로 추진하고 있습니다. 이제 Nvidia의 "디커플링" 아이디어가 마침내 실질적인 진전을 이루었습니다.

OpenAI가 오늘 GPT-4o mini를 출시했는데 새로운 트렌드가 있습니다!

지난달 초 SemiAnalytic이 이 소식을 전했습니다. 그는 Google의 TPU 팀에서 최고의 인재를 영입하고 Nvidia에 대한 의존도를 없애겠다고 다짐했습니다.

다만, 지금은 아닙니다. 예상 시행 시기는 2027년 말로 예정됐다.

오늘 The Information은 Ultraman도 동시에 Broadcom과 접촉했으며 자체 개발한 칩 개발에 협력할 계획이라고 추가로 밝혔습니다.


현재 공급업체인 Nvidia를 완전히 버리고 자체적으로 칩 개발을 시작하는 것은 실제로 위험한 움직임입니다.

업계에서 Nvidia의 현재 리더십 위치는 수년간의 기술 축적과 분리될 수 없습니다.

Meta, Microsoft, Google, Amazon 및 수많은 거대 기술 기업이 수년 동안 투자했지만 Nvidia에서 많은 시장 점유율을 빼앗지 못했습니다. Google이 개발한 TPU만이 이와 같은 수준의 성능을 달성할 수 있습니다.

현시점에서 우리가 "따라잡기" 위해 최고의 팀을 활용하더라도 제공된 칩이 실제로 Nvidia 제품을 대체할 수 있기까지는 최소한 몇 년이 걸릴 것입니다.

이러한 "분리" 시도가 Nvidia, 특히 Huang 자신에게 불쾌감을 줄까요? 아무도 확실히 말할 수 없습니다.


그러나 긍정적인 관점에서 보면 상황이 반대 방향으로 진행될 수도 있습니다. OpenAI는 대안이 있기 때문에 Nvidia와의 거래에서 더 많은 협상 칩을 보유하고 있으므로 더 저렴한 가격에 칩을 비축할 수 있습니다.

미래가 불확실하더라도 울트라맨은 항상 이런 '과격한' 연기 스타일을 갖고 있었기 때문에 우리가 이해하는 것은 어렵지 않습니다.

그는 오랫동안 OpenAI에는 현재보다 훨씬 더 많은 컴퓨팅 성능이 필요하다고 말해왔습니다.

예를 들어, 올해 2월에 게시된 이 트윗은 웨이퍼 생산 능력, 에너지, 데이터 센터 등을 포함하여 더 많은 AI 인프라와 보다 유연한 공급망 시스템을 구축하기를 희망한다는 취지의 내용이었습니다.


현재 OpenAI는 Microsoft를 통해 Nvidia 서버를 임대하고 있으며 연간 임대 비용은 약 25억 달러입니다.

또한 지난 3월 The Information의 보고서에 따르면 두 회사는 이미 최대 1,000억 달러에 달하는 야심찬 컴퓨팅 파워 계획을 수립하고 있습니다.

칩과 컴퓨팅 파워에 관한 울트라맨의 계획은 너무나 복잡하고 눈부시지만, 그것이 궁극적인 목표는 아닙니다.

그가 궁극적으로 달성하고 싶은 것은 OpenAI의 원대한 사명인 AGI, 심지어 ASI입니다.

이런 종류의 인공지능은 인간이 화성을 식민지화하거나 핵융합에너지를 개발하는 데 도움을 줄 수 있다. 지금 우리가 보는 '채팅 로봇' GPT와는 확실히 같은 수준은 아니다.

울트라맨은 칩을 위해 전 세계를 여행합니다.

OpenAI가 칩이 부족한 유일한 기술 거대 기업은 아니지만 육안으로 볼 수 있는 Ultraman의 긴박감은 확실히 최고 중 하나입니다.

TSMC의 한 고위 관리자에 따르면 알트만은 2023년부터 올해까지 계속해서 TSMC를 포함한 다양한 칩 거대 기업을 찾아 생산 능력 확대 가능성을 논의했습니다.

그러나 대부분의 경영진은 이 계획에 동의하지 않으며 단지 OpenAI의 생산량을 늘리기 위해 막대한 자본과 전문 인력을 투자하는 것을 꺼려합니다. 이것은 너무 위험합니다.

지난달 TSMC CEO인 CC 웨이는 새 공장의 전망에 대해 질문을 받았을 때 울트라맨의 계획은 "너무 급진적이어서 믿을 수 없다"고 말했습니다.

그러나 이것은 단지 공개적인 성명일 뿐이다. TSMC의 고위 관리자에 따르면, 회사 경영진은 Altman이나 OpenAI가 대량의 새로운 칩을 주문할 수 있다면 칩 생산을 확대하겠다고 개인적으로 약속했습니다.

이러한 배열은 비용을 감수하고 수십 개의 새로운 공장을 건설하는 대신 기존 공장을 사용할 수 있기 때문에 TSMC에 더 실현 가능합니다.

알트만은 공급업체로부터 더 많은 칩을 비축하는 것 외에도 새로운 데이터 센터 설립을 추진하고 있습니다.

업계 관계자에 따르면 알트만은 외부 투자자와 협력해 '처음부터 시작'하고 데이터센터 구축을 담당할 새 회사를 설립한 뒤 OpenAI가 이 회사에서 서버를 임대하도록 할 계획이다.

이 문제에 정통한 관계자에 따르면 알트만은 이 계획에 대해 미국 상무부에 승인을 구했으며 다른 나라(중동 등) 정부와 협력을 논의하고 있다고 전했다.

아랍에미리트를 포함한 여러 정부는 경제 발전을 촉진하고 기술 산업에서 국가의 입지를 강화하는 동시에 현지 데이터를 유출 및 외부 영향으로부터 보호하기 위해 AI 중심 데이터 센터를 개발하겠다고 선언했습니다.

Altman은 또한 사모펀드 및 기타 투자자로부터 자금 조달을 고려하고 있습니다.

예를 들어, 한때 곤경에 30억 달러를 투자했던 일본 기업 소프트뱅크(Softbank)와 알트만은 그들과 독립적인 '알트만 프로젝트'를 논의하기도 했습니다.

월스트리트저널(Wall Street Journal)은 몇 달 전 알트만이 관련 투자자들과 협상 중이며 그가 모금하고자 하는 총 자금 규모가 무려 7조 달러에 달한다고 보도했습니다!

이 수치는 일부 주요 경제국의 총 국가 부채를 초과하기도 했습니다.

증권산업금융시장협회에 따르면 지난해 미국 전체 기업의 채권 발행 규모는 1조4400억 달러에 이른다. 미국에서 가장 가치 있는 두 기업인 마이크로소프트와 애플의 시장 가치를 합친 금액은 약 6조 달러에 불과합니다.

Altman은 이 천문학적 수치의 구성에 대해 개인적으로 설명했습니다. 7조에는 수년 동안 부동산, 전기 및 칩 제조에 대한 이 프로젝트의 총 투자가 포함됩니다.


현재로서는 알트만이 투자 유치에 성공했는지, 회사 등록을 시작했는지 알 수 없습니다.

Altman 자신은 자신의 데이터 센터 및 칩 계획의 세부 사항에 대해 공개적으로 거의 이야기하지 않습니다. 그러나 그는 업계 임원들에게 올해 계획을 공개하겠다고 개인적으로 말했습니다.

관계자에 따르면 이 계획은 지난해 울트라맨에 많은 문제를 일으켰고, 지난해 말 '제거 폭풍'을 촉발한 요인 중 하나이기도 했다.

당시 그의 아이디어는 데이터센터 프로젝트가 OpenAI와 독립적으로 존재하도록 하는 것이었지만 이사회는 이로 인해 OpenAI에서 멀어질 것을 우려했습니다.

그러나 몇 차례의 "법정 싸움"을 거쳐 이 계획은 OpenAI 내에서 거의 저항을 받지 못했습니다.

Altman은 올해 초 동료들에게 OpenAI가 새 프로젝트에 참여할 것이라고 말했고 새 이사회는 이 제안을 고려하기 시작했습니다.


엔비디아에 도전하시겠습니까?

The Information에 따르면 Altman의 대화에 참여한 한 관계자는 OpenAI의 칩 팀은 Richard Ho가 이끌 것이며 칩을 공동 개발하기 위해 미국 회사를 선택할 가능성이 높으며 Broadcom이 가장 유력한 후보라고 말했습니다.

결국 Broadcom은 Google과 협력하여 TPU를 제조했으며 이미 OpenAI 칩 팀과 소통했습니다.

칩 팀장인 Richard Ho는 작년 11월에 막 OpenAI에 합류했습니다. 그는 Ultraman이 "핵심 구축" 계획을 위해 특별히 채용한 인재임에 틀림없습니다.


Richard Ho는 영국 맨체스터 대학교에서 마이크로 전자 공학 학사 학위를 취득한 후 스탠포드에서 컴퓨터 공학 박사 학위를 취득했습니다.

2014년부터 구글 하드웨어 및 반도체 팀에 수석 엔지니어로 합류해 TPU 프로젝트에 참여했으며, 2022년 사임할 때까지 점차 수석 엔지니어 및 수석 엔지니어링 디렉터로 승진했다.

이 문제에 정통한 사람들은 OpenAI 팀이 칩 설계를 시작한 것 같지 않으며 공식 생산은 적어도 2026년까지 기다려야 할 것이라고 말했습니다.

또한 R&D 팀은 성능 최적화를 위해 다양한 메모리 부품 공급업체와 가능한 칩 패키징 솔루션을 고려하고 있습니다.

예를 들어 GPU의 가장 중요한 구성 요소 중 하나인 HBM 칩은 칩의 컴퓨팅 성능에 직접적인 영향을 미칩니다.

HBM은 프로세서와 메모리 사이에 고속 연결을 제공하여 데이터 전송 및 처리 속도를 높여 AI 컴퓨팅을 가속화하는 역할을 담당합니다.

이런 종류의 메모리 칩은 GPU와 마찬가지로 인기 상품이며 항상 수요가 공급을 초과합니다.

이 문제에 정통한 소식통에 따르면 Altman은 올해 초 HBM의 최고 칩 제조업체인 삼성 및 SK 하이닉스와 칩 계획을 논의했다고 합니다.

업스트림 공급업체와 직접 협상하는 것은 NVIDIA의 케이크가 될 수 있습니다. NVIDIA가 이에 어떻게 반응할지 말하기는 어렵습니다.

하지만 사실은 OpenAI뿐만 아니라 Meta, Microsoft, Google, Amazon과 같은 기업들도 자체 AI 가속기 개발에 막대한 투자를 하고 있습니다.


이러한 AI 거대 기업은 Nvidia의 최대 고객이며 가장 강력한 경쟁자가 되고 있습니다.

참고자료:

https://www.theinformation.com/articles/openai-has-talked-to-broadcom-about-developing-new-ai-chip?rc=epv9gi

https://www.wsj.com/tech/ai/sam-altman-seeks-trillions-of-dollars-to-reshape-business-of-chips-and-ai-89ab3db0