소식

ai 칩은 ai 가속기 또는 컴퓨팅 카드라고도 합니다. 기술적 아키텍처에 따라 범용 그래픽 처리 장치(gpgpu), 중앙 처리 장치(cpu), 응용프로그램별 통합 칩(asic) 및 필드로 나눌 수 있습니다. - 프로그래밍 가능한 게이트 어레이(fpga). 인공지능 개발 과정에서 연구자들은 병렬 컴퓨팅이 효율적인 모델 훈련을 수행하고 대규모의 복잡한 데이터를 처리할 수 있다는 사실을 발견했습니다. gpgpu는 다른 칩보다 병렬 컴퓨팅 성능이 높고 컴퓨팅 집약적인 애플리케이션에 적합하므로 컴퓨팅 칩의 주류가 되었습니다.

기능 분류에 따르면 ai 칩은 훈련 카드와 추론 카드의 두 가지 유형으로 나눌 수 있습니다. 빅 카드라고도 하는 트레이닝 카드는 일반적으로 트레이닝 프로세스 중에 대량의 계산과 데이터 처리를 지원하기 위해 더 높은 컴퓨팅 성능과 메모리 대역폭을 가지고 있으며, 소형 카드라고도 불리는 추론 카드는 더 낮은 매개변수를 가지며 추론 요구 사항만 충족하면 됩니다. . 일반적으로 훈련 카드는 추론 카드로 사용할 수 있지만 추론 카드는 훈련 카드로 사용할 수 없습니다. 간단히 말하면, 대형 모델의 훈련에는 그래픽 카드 클러스터를 형성하기 위해 많은 수의 훈련 카드가 필요한 반면, 애플리케이션의 경우 계산을 위해 ai 모델을 실행하려면 추론 카드가 필요합니다.

이러한 인공 지능의 물결은 chatgpt에 의해 시작되었으며 대규모 언어 모델과 생성 ai 애플리케이션을 진입점으로 사용합니다. transformer는 2017년 google에서 출시된 이후 chatgpt와 같은 인기 있는 c-side 제품 외에도 자연어 처리, 컴퓨터 비전, 자율 주행 및 기타 분야에서 널리 사용되었습니다. google, meta, microsoft, bytedance, baidu 및 기타 국내외 기술 대기업과 스타트업을 포함하여 중국 및 외국 기술 기업은 관련 분야에 대한 투자를 계속 늘리고 있으며 모두 파이의 일부를 얻기를 희망합니다. 기술 기업은 인재와 기술, 자원 배치에도 지속적으로 투자하고 있습니다. bloomberg intelligence의 예측 데이터에 따르면 2032년까지 전체 정보 기술 하드웨어, 소프트웨어, 서비스, 광고, 게임 등 지출에서 생성 ai가 차지하는 비중은 현재 1% 미만 수준에서 12%로 확대될 수 있습니다.

2018년 openai는 1억 1,700만 개의 매개변수를 포함하는 1세대 생성적 사전 학습 언어 모델인 gpt-1을 출시했습니다. 2023년에 출시되는 gpt-4 매개변수의 수는 약 1조 8천억 개가 될 것입니다. 5년 동안 매개변수 수가 10,000배 이상 증가함에 따라 대형 모델의 컴퓨팅 성능 요구 사항이 기하급수적으로 증가했습니다. openai는 2012년 이후 글로벌 헤드 ai 모델 교육 컴퓨팅 전력 요구 사항이 3~4개월마다 두 배로 증가했다고 추정합니다. 특히 2023년 이후에는 ai 개발이 본격화되고 있어 국내외 제조사들이 제너레이티브 ai에 대한 투자를 늘리면서 '수백개 모델 전쟁'이 재개되면서도 장기적인 컴퓨팅 파워 수요 부족 현상이 나타나고 있다. .

국내 ai 칩은 주로 추론 측면에 집중돼 있다.엔비디아한편, ai 기술의 발전과 대중화로 인해 업계에서는 고성능, 저전력 ai 칩에 대한 수요가 늘어나고 있다. 그러나 2024년 글로벌 ai 칩 서밋에서 biren technology는 업계 최초로 독립적이고 독창적인 이기종 gpu 협업 교육 솔루션인 hgct를 발표할 계획을 세우고 있는 훈련용 칩 제조업체도 있습니다. , 동일한 대형 플랫폼에서 3개 이상의 이기종 gpu의 혼합 학습을 지원합니다. moore thread는 교육 및 테스트를 위한 mtt s4000 기반 wanka 지능형 클러스터 kuae(kuae)를 발표했습니다. huawei, cambrian, haiguang information과 같은 제조업체도 비슷한 움직임을 보였습니다.

ai 칩 사업을 시작하는 것은 매우 어렵습니다. 라이미연구소는 ai칩 사업을 시작하면서 가장 먼저 어려운 점은 칩 설계와 제조 문제를 해결하는 것이라고 본다. 해외 제한으로 인해 관련 디자인 도구가 통제되었습니다. 그러나 제조 문제는 보다 현실적인 문제입니다. nvidia의 최신 ai 칩은 4nm 공정을 사용합니다. 현재 tsmc만이 제조 능력을 갖고 있는 반면, 중국 본토의 칩 제조 능력은 약간 부족합니다.

두 번째는 시장 문제입니다. nvidia는 현재 가장 비용 효율적인 ai 칩 솔루션입니다. 국내 ai 회사는 주관적 또는 객관적인 이유로 국내 ai 칩을 구매하는 반면, 더 나은 제품을 사용하기를 희망합니다. (예를 들어 bytedance와 같은 제조업체는 수요에 따라 자체 ai 칩을 설계합니다.) 대형 모델은 ai 칩 개발을 가속화하는 한편, 칩 제조업체 간 격차를 더욱 확대하기도 한다. 국내 ai 칩 제조업체는 고객이 높은 프리미엄을 지불하기 전에 자사 제품이 고객의 요구를 충족할 수 있는 구체적인 요구 사항이 무엇인지 고려해야 합니다.

세 번째는 수익성이다. 잘 알려진 이유로 인해 ai 칩 연구 및 개발 주기는 길고 집약적이며 비용이 많이 들고 이러한 투자는 단기간에 수익을 창출하기 어려운 경우가 많습니다. 그러므로 조혈능력을 얻는 것이 매우 중요하다. 현재 1차 시장의 역동성 하에서 수혈을 벤처캐피탈 시장에만 의존할 가능성은 극히 낮습니다. ai 칩 기업의 긍정적인 현금 흐름도 시험해 볼 가치가 있습니다.

대형 모델 혁명이 전 세계를 휩쓸면서 컴퓨팅 성능에 대한 수요가 새로운 수준에 도달하면서 클라우드, 엣지 및 사이드 ai 칩의 반복과 진화가 가속화되고 있습니다. 폭발적인 데이터 증가, 기술의 물리적 한계에 접근하는 상황, 복잡하고 불안정한 국제 정세라는 세 가지 구름 속에서 많은 ai 칩 기업들은 압박 속에서도 절제되고 실용적인 방식으로 전진하며 시대가 가져온 기회를 적극적으로 준비하고 있습니다. 생성 ai의 물결에 의해.

elon musk가 말했듯이: 원자재만이 유일한 한계이며 제조의 모든 측면은 완전히 재창조될 수 있습니다. ai의 엄청난 잠재력은 확실히 수조 달러의 시장 규모를 창출할 것입니다. "고착"은 일시적일 뿐입니다. 첨단 프로세스와 자본 투자의 획기적인 발전으로 우리와 해외 ai 사이의 거리는 늘어나기보다는 줄어들고 있습니다. 국내 대체 여지가 엄청나고, 관련 기업들도 급속한 성장 기회를 맞이할 것이다.

엔드게임 사고에서는 승자를 확정해야 합니다. 미래 세계는 무한한 컴퓨팅 능력을 요구할 것이지만, 미국 시장의 경쟁 환경에 따르면 승자는 소수에 불과할 수 있습니다. ai 칩의 승자독식 특성상 국내 ai 칩 기업이 승리하려면 기술력과 채널 역량, 자금조달 능력이 있어야 한다고 본다. 이러한 기능은 스타트업에게 큰 과제를 안겨주지만 업계 장벽을 만들기도 합니다.