소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

8월 9일 뉴스에 따르면 최근 '오픈 협업: 협업, 지혜, 혁신'을 주제로 2024 오픈 컴퓨팅 중국 서밋이 열렸다.인스퍼 정보섬기는 사람제품 라인 총괄 관리자자오 슈아이대형 모델 개발 동향을 공유하고일체 포함컴퓨팅 파워 생태계 개방의 진전은 미래의 모든 컴퓨팅이일체 포함. 회의 후 Zhao Shuai, Inspur Information AI&HPC 제품 라인 수석 제품 관리자 Zhang Zheng, Inspur Information 서버 제품 라인 제품 기획 관리자 Luo Jian이 언론과 인터뷰를 갖고 공개 주제에 대해 심도 있는 교류를 가졌습니다. 인공지능의 혁신적인 발전을 촉진하는 컴퓨팅.

조슈아이가 말했다.현재 모델의 2/3는 오픈 소스이며, AI 프로젝트의 80% 이상이 오픈 소스 프레임워크를 사용하여 개발됩니다. 오픈 소스 모델은 3억 번 이상 다운로드되었으며 30,000개 이상의 새로운 모델이 탄생했습니다. 오픈소스가 AI의 발전과 번영을 가져왔다고 할 수 있다.이를 바탕으로 하드웨어의 개방형 설계도 인공지능 컴퓨팅 파워의 생태적 발전을 촉진하는 열쇠가 됐다. 이러한 방법으로만 우리는 모든 산업 분야의 모든 고객과 토지에 더 잘 접근할 수 있습니다.

Zhao Shuai는 개방형 생태계에서 가속화되고 표준화된 OAM 설계가 2019년에 공개되었습니다. Inspur Information은 2019년 OCP Summit에서 업계 최초의 UBB를 시연했으며 2020년에 OAM 참조 시스템 설계 MX1을 출시했습니다. OAM v1.0 사양을 기반으로 하는 서버 NF5498A5는 2016년에 출시되어 여러 제조업체의 고급 AI 칩 개발 및 배포를 촉진했습니다.OAM의 개방형 설계 표준은 컴퓨팅 칩의 적응 및 호환성 프로세스를 크게 가속화하여 수십억 달러의 산업 자원 투자를 절약하고 컴퓨팅 배포 및 반복 속도를 높이며 상위 계층 대형 모델 및 AIGC 애플리케이션의 성숙도를 지원했습니다.

구체적으로, 대형 모델의 효율적인 훈련을 위해서는 일반적으로 1,000칼로리 이상의 높은 컴퓨팅 성능을 갖춘 AI 칩으로 구성된 AI 서버 시스템의 지원이 필요합니다. 수천 개의 칩을 상호 연결하고 효율적으로 함께 작동할 수 있도록 하기 위한 전제 조건은 단일 서버 내부 칩의 고속 직접 연결을 해결하는 것입니다. 개방형 가속 사양 OAM의 출현은 단일 서버에서 여러 AI 가속기 카드의 일관성 없는 형태와 인터페이스, 고속 상호 연결의 낮은 효율성, 긴 R&D 주기 문제를 해결했으며 많은 기업의 지원과 참여를 얻었습니다.

이와 관련하여 Zhang Zheng은 Inspur Information이 개방형 가속 사양 측면에서 표준과 기술의 진화를 지속적으로 추진해 왔으며 수년 동안 개방형 커뮤니티에서 조용히 작업해 왔으며 처음에는 파트너가 거의 없었다고 지적했습니다. 이는 회사에 이익을 가져다 주지만 전체 산업 체인에 미치는 이익은 매우 크다는 것을 알게 될 것입니다. 이제 기본적으로 국내외 칩 제조업체는 모두 개방형 표준을 채택하므로우리의 결론은 본질적으로 업계에서 좋은 일을 하는 것입니다. 업계가 좋고 건강할 때만 우리는 업계 체인에서 더 많은 가치를 얻을 수 있습니다.

보고서에 따르면 Inspur Information이 대표하는 시스템 제조업체는 개방형 가속 사양을 준수하는 다수의 AI 서버를 개발했습니다. Inspur Information은 업계 최초로 OAM 사양을 준수하는 8카드 상호 연결 하드웨어 시스템을 정의했습니다. 이는 개방형 컴퓨팅 사양을 따르는 상호 연결 기판으로, 처음으로 OAM 사양에서 가장 높은 칩 상호 연결 속도에 도달했습니다. PCIe5보다 훨씬 높은 56Gbps의 전송 속도를 제공하며, 더 높은 속도의 개방형 가속 사양도 아직 개발 중입니다. OAM 사양을 기반으로 하는 Inspur Information의 최신 세대 AI 서버 NF5698G7은 OAM 사양을 기반으로 하는 다양한 개방형 가속 칩을 지원하고 사용자가 1,000억 개가 넘는 매개변수로 AI 대형 모델 교육을 지원할 수 있도록 킬로칼로리 수냉식 클러스터를 구축합니다.

이 시점에서 사양 가속화의 문제점이 해결되고 새로운 과제가 등장했습니다.

Zhao Shuai는 미래의 모든 컴퓨팅은 AI가 될 것이지만 애플리케이션 패러다임이 다양해지면서 CPU도 다양한 개발 방향을 보이고 있다고 말했습니다. 그렇다면 다양한 CPU에 대해 더 나은 컴퓨팅 성능 플랫폼을 제공하고 효율성을 향상시킬 수 있는 방법은 무엇일까요?

최근 출시된 OCM(Open Computing Module) 사양이 이에 대한 답을 제공합니다. OCM은 CPU와 메모리를 가장 작은 컴퓨팅 장치로 사용하고 고속 및 저속 상호 연결 인터페이스를 표준화합니다. OAM이 통합된 가속 칩 기반을 구축하는 것처럼 OCM은 CPU 컴퓨팅 장치 인터페이스의 통합과 생태계 개선을 촉진합니다.본 프로그램은 중국전자표준협회(China Electronics Standards Institute), Intel, AMD, Inspur Information, Lenovo, Super Fusion, Baidu, Xiaohongshu 등이 공동으로 추진한 것입니다. 국내 최초의 서버 컴퓨팅 모듈 설계 사양이며, 프로세서 전원 모듈 장치는 서로 다른 프로세서 컴퓨팅 전원 장치의 외부 고속 상호 연결, 관리 프로토콜, 전원 공급 장치 인터페이스 등을 통합하여 서로 다른 아키텍처의 프로세서 칩의 호환성을 실현하고 CPU에 대한 통합 컴퓨팅 성능 기반을 구축합니다. CPU 생태학적 문제를 해결하고 고객을 지원합니다. 인공 지능, 클라우드 컴퓨팅, 빅 데이터 등 다양한 응용 시나리오를 기반으로 가장 적합한 컴퓨팅 성능 플랫폼을 유연하고 신속하게 일치시켜 컴퓨팅 성능 산업의 고품질 및 신속한 발전을 촉진할 수 있습니다.

Luo Jian은 Inspur Information이 산업 표준을 구축할 때 허공에서 나온 것이 아니라 업계의 상류 및 하류 파트너와의 충돌에서 비롯되었다고 덧붙였습니다. 그는 강조했다.산업 표준과 제품 산업화가 동시에 진행되고 있다는 것은 하나의 표준만이 전체 산업에 가치가 없다는 것을 의미하지 않습니다. 사양을 시장에 출시하고 이를 고객 측에 적용해야만 진정한 가치가 창출될 수 있습니다.(딩시)

이 기사는 NetEase 기술 보고서에서 발췌한 것입니다. 자세한 내용과 심층적인 내용을 보려면 팔로우하세요.