2024-08-02
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
- 크레시는 아오페이 사원(Aofei Temple)에서 왔습니다.
Qubits 공개 계정 QbitAI
인공지능은 대형 모델, 수직적 애플리케이션, 지능형 에이전트 등 다양한 방법을 통해 디지털 경제 발전을 촉진하는 오늘날 의심할 여지 없이 중요한 주제입니다.
그러나 AI를 서비스하는 인프라는——컴퓨팅 성능 및 데이터, 는 인공지능의 발전을 제한하는 병목 현상으로 향후 논의의 주제가 되기도 했습니다.
이 병목 현상이 여전히 존재하는 이유는 무엇입니까? 그것을 깨는 방법?
우리는 설립된 지 1년이 된 Nortel Digital Intelligence가 해낸 일에서 몇 가지 답을 보았습니다.
'즉시 사용 가능한' 국내 컴퓨팅 성능을 모으는 'AI 공장'이 베이징에 모습을 드러냈습니다.
한 명의 실무자를 위한 것이든, 업계 전체를 위한 것이든,효과적인 컴퓨팅 성능 부족이는 시급히 해결해야 할 문제점입니다.
수요 측면에서는 대형 모델로 대표되는 제너레이티브 AI의 폭발적인 발전과 치열한 '수백 모델 전쟁', 그리고 추론 시대의 도래는 컴퓨팅 파워에 대한 수요를 크게 증가시킬 것이라는 점은 의심할 여지가 없습니다.
중국 공학원(China Academy of Engineering)과 12개 이상의 기관이 과학(Science) 하위 저널인 지능형 컴퓨팅(Intelligent Computing)에 공동으로 발표한 보고서에서는 인공 지능에 필요한 컴퓨팅 성능이 100일마다 두 배로 증가한다고 지적했습니다.향후 5년간 100만배 이상 증가할 것。
더욱이 인공지능 시대에는 컴퓨팅 파워에 대한 수요가 더 이상 단지 FLOPS 수에 그치는 것이 아니라 컴퓨팅 파워 수요의 구조도 큰 변화를 겪었다.
AIGC 시대에는 컴퓨팅 파워의 구조가 CPU+가속기에서 GPU 주도로 바뀌었다.대규모 병렬 컴퓨팅, 지능형 컴퓨팅 성능의 비율이 급격히 증가하고 있습니다.。
그러나 현재 국산 칩, 특히 고급 칩과 업계 첨단 제품 사이에는 컴퓨팅 성능, 전력 소모, 카드 간 통신 속도 등 여러 측면에서 세대 간 격차가 존재하고 있다.
노드 간 네트워크 전송 능력 부족, 소프트웨어 생태계 지원의 불완전성 등 비칩적 요소도 컴퓨팅 성능의 효율적인 사용을 제한하고 있습니다.
이러한 현실 하에서 국내 지능형 컴퓨팅 파워의 대부분을 효율적으로 활용하지 못하여 컴퓨팅 파워에 대한 업계의 2차 불안을 불러일으켰습니다.
그러한 불안의 근본적인 이유는사용자들은 멀티코어의 성능, 특히 국내 컴퓨팅 성능에 대해 명확한 이해를 갖고 있지 않습니다., 여러 측면으로 요약될 수 있습니다.
일반적으로 수요측에서는 공급자가 제공할 수 있는 서비스와 실제 비즈니스에 대한 지원 정도를 알지 못합니다. 명확한 평가와 기준.
이러한 인식을 깨고 컴퓨팅 파워 불안이라는 수수께끼를 풀기 위해"스파크·스마트계산"AIDC 브랜드가 탄생했습니다.
"단 하나의 불꽃이 초원의 불을 일으킬 수 있습니다." "스파크"와 같은 이름을 선택한 것은 솔루션 제공업체가 이 브랜드가 초원의 불을 일으키고 전국적인 복제를 달성할 수 있기를 희망하기 때문입니다.
이 계획을 제안한 사람은노텔 디지털 인텔리전스——인공 지능에 중점을 둔 베이징 전자 제어(Beijing Electronic Control) 산하의 첨단 기술 기업입니다.
Nortel Digital Intelligence는 다음과 같이 믿습니다.컴퓨팅 파워는 인공지능 시대 생산성의 새로운 형태：
농업 시대에는 지구가 컴퓨팅 파워였습니다.
기계 시대에는 전기와 증기력이 곧 컴퓨팅 파워입니다.
인공지능 시대에 컴퓨팅 파워는 석탄, 물, 전기와 마찬가지로 생산성의 주요 형태입니다.
컴퓨팅 파워를 전기와 같은 생산성 요소로 전환하기 위해 우리는 더 이상 칩, 서버, 캐비닛을 단순히 쌓는 데 집중할 수 없습니다.'컴퓨팅 파워 웨어하우스'에서 'AI 팩토리'로 변신, 상응하는 새로운 품질의 생산 관계를 갖추고 있습니다.
이는 Spark Intelligent Computing을 구축할 때 Nortel Digital Intelligence가 제시하는 새로운 아이디어이기도 합니다.
특히 Spark Intelligent Computing은 물, 전기, 석탄 등 포괄적인 컴퓨팅 성능을 제공하여 인공 지능 기술의 혁신과 적용을 지원합니다.
한편, "AIDC as a service"라는 개념으로 기본 모델, 산업 모델, 원스톱 도구 체인 등의 지원 서비스를 제공하여 기업이 원하는 애플리케이션을 빠르고 쉽게 구축하거나 현재 제품을 재구성할 수 있도록 합니다. 생산 방식의 혁신을 달성합니다.
현재 "Xinghuo 지능형 컴퓨팅" 브랜드의 첫 번째 벤치마크 프로젝트——베이징 디지털 경제 컴퓨팅 센터공사가 시작되었으며 향후 전국적으로 출시될 템플릿으로 사용될 예정입니다.
컴퓨팅 성능 업그레이드를 더 잘 지원하기 위해 Nortel Digital은 업계의 컴퓨팅 성능에 대한 우려를 완전히 해결하는 두 가지 핵심 제품도 보유하고 있습니다.
두 제품은 '일체와 양면'으로 서로 다른 차원에서 오는 컴퓨팅 파워 불안을 해결한다.
Advance·AI 이기종 컴퓨팅 플랫폼은 국내 풀스택 컴퓨팅 파워 반복 검증 플랫폼으로, 다중 컴퓨팅 파워의 통합 관리 및 스케줄링을 실현하는 동시에 효과 기반 과금을 최초로 도입할 수 있습니다. 기본 세부 사항을 알지 않고도 필요에 따라 여러 컴퓨팅 성능 간의 원활한 마이그레이션을 실현할 수 있습니다.
컴퓨팅 성능을 더 잘 활용하기 위해 Spark Intelligent Computing은 통합 커뮤니케이션, 컴파일 최적화 및 기타 기술 혁신을 통해 획기적인 AI 이기종 컴퓨팅 플랫폼을 만들 수 있습니다.국산 칩 성능 2~3배 향상, 처리량 6~7배 증가。
Qianjin AI 이기종 컴퓨팅 플랫폼은 사용자에게 컴퓨팅 성능 지원을 제공하는 동시에"칩 × 모델 × 장면"의 새로운 평가 모드, 제조업체와 사용자 간의 정보 비대칭을 깨고 칩 제조업체가 상황을 깨뜨릴 수 있도록 돕습니다.국산 칩을 '사용 가능'에서 '사용하기 쉬운'으로 바꾸세요。
이는 사용자에게 컴퓨팅 성능 지원을 제공하는 동시에 국내 칩의 전반적인 개선을 촉진하고 더 많은 소스 컴퓨팅 성능을 제공한다는 것을 의미합니다.
파고다·대형모델적응시스템은 권한 부여 모델 및 적용 측면이다., 모델 배포 및 관리를 지원하고 컴퓨팅 성능의 정교한 운영 관리를 수행하며 인공 지능 애플리케이션을 추가로 지원합니다.
컴퓨팅 성능 부족이 AI 구축의 하나의 "암흑"이라면, 데이터 부족은 또 다른 당연한 문제입니다.
Nortel Digital의 수석 과학자이자 Fudan University의 컴퓨터 과학 기술 대학의 석좌 교수인 Dou Dejing은 공개 연설에서 다음과 같이 말했습니다.데이터 규모와 품질이 AI의 '상한'을 결정합니다.——훈련이든 추론이든 이를 뒷받침하려면 고품질 데이터가 필요합니다.
Meta가 출시한 최신 오픈소스 대형 모델인 Llama 3.1을 예로 들면, 3세대 모델은 16,000개 이상의 H100 GPU에서 15T 토큰의 학습 데이터를 소비하는데, 이는 2세대 모델의 7배입니다. 동일한 매개변수 규모에서 성능이 향상되는 2세대 모델입니다.
우리나라의 현재 데이터 공급 측면의 상황도 컴퓨팅 파워와 마찬가지로 불안에 직면해 있다——총량은 풍부하지만 양질의 데이터가 촘촘하게 밀집되어 있다.。
IDC 추정에 따르면 중국의 데이터 양은 2022년부터 2027년까지 23.88ZB에서 76.6ZB로 증가해 세계 1위를 차지할 것으로 예상됩니다. 그러나 사용 가능한 고품질 코퍼스 데이터 세트는 여전히 상대적으로 부족합니다.
이미 수량이 부족한 상황에서 고부가가치 데이터는“공급할 수도 없고, 유통할 수도 없고, 잘 사용할 수도 없습니다.”이러한 딜레마는 가치 발휘를 어렵게 만들고, 이미 제한된 데이터 자원을 더욱 긴장하게 만듭니다.
반면에, 데이터 통합 정도도 심각하게 부족하며, 산업 측면이나 수직 시스템 내에 많은 양의 데이터가 분산되어 있습니다.구조화되지 않은, 대규모 모델 학습에는 직접 사용할 수 없습니다.
그 근본적인 이유는 다음과 같습니다.데이터 보안을 지원하는 성숙한 기술과 신뢰할 수 있는 메커니즘이 부족함, 데이터를 보유한 기업은 "모르거나, 감히 할 수 없거나, 할 수 없습니다" 데이터가 자유롭게 유통되도록 허용합니다. 이러한 "4대 금지" 현상은 오늘날의 데이터 세트의 부족을 더욱 심화시키고 끝없는 순환을 형성했습니다.
그래서 최우선순위는신뢰할 수 있고 안전한 데이터 메커니즘 구축。
이를 위해 Nortel Digital Intelligence는 또 다른 중요한 제품을 출시했습니다.레드레이크·신뢰할 수 있는 데이터 공간, 데이터 요소를 완전히 수집하고 장면을 완전히 열 수 있습니다.
Red Lake·Trusted Data Space는 데이터 활성화, 고품질의 신뢰할 수 있는 데이터 서비스 제공, '안전한 공유와 신뢰 순환'의 데이터 환경 조성을 목표로 '신뢰성'을 중심으로 구축된 다계층 솔루션입니다.
기술적인 관점에서 볼 때, Red Lake Trusted Data Space는 "논리적 데이터 웨어하우스"와 같은 기술을 사용하여 데이터를 가져오고 수정하고 삭제하는 신뢰할 수 있는 데이터 샌드박스를 갖추고 있으며 개인 정보 보호 컴퓨팅 + 블록체인 기술을 사용하여 데이터 보안과 보안을 보장합니다. 투명성을 보장하고 데이터 추적성과 투명성을 보장하며 "완전한 체인 제어성"을 달성합니다.
이 접근 방식은 데이터를 신뢰할 수 있고, 제어 가능하고, 사용 가능하고, 감사 가능하고, 암호화하여 보호함으로써 다자간의 상호 신뢰와 데이터 순환 계약이 이행되는 데이터 공유 및 애플리케이션 환경을 조성합니다.
전체 프로세스에 걸쳐 제어 가능한 보안 조치를 통해 데이터 소유자는 자신의 데이터 리소스를 시장 유통에 투입하고 더 많은 데이터 소유자가 프로세스에 참여하도록 유도할 수 있습니다.
초기 데이터 투자를 통해 데이터 공급 생태계도 성숙해지고, 데이터 공유 형태가 더욱 완전하고 편리해지며, 고품질 데이터의 흐름이 산업 발전에 더 많은 신선한 혈액을 불어넣을 것입니다.
동시에 Nortel Digital 자체도 업계에 고품질 데이터를 제공했습니다.수직 모델 매트릭스는 의료, 교육, 문화 및 기타 산업 분야에 배치되었습니다., 인공 지능 회사가 구현 시나리오를 더 잘 찾을 수 있도록 합니다.
그렇다면 Nortel Digital Intelligence는 누구이며, 인공 지능 산업의 문제점에 대한 포괄적인 솔루션을 어떻게 생각해 냈습니까?
Nortel Digital Intelligence는 베이징 전자 제어 그룹(Beijing Electronic Control Group) 산하의 첨단 기술 기업으로 인공 지능에 중점을 두고 있습니다.풀스택 AI 서비스 제공업체。
노텔 디지털 인텔리전스(Nortel Digital Intelligence) 설립 이전에는 GPT-3.5 출시와 동시에 인공지능(AI)의 새로운 시대가 본격적으로 열리며 AI 경쟁이 더욱 치열해졌다. 시대의 발전과 시장 수요에 맞춰 Nortel Digital Intelligence가 탄생했습니다.
설립 당시 Nortel Digital Intelligence가 수행한 첫 번째 프로젝트는 베이징 디지털 경제 컴퓨팅 파워 센터였습니다.포괄적인 컴퓨팅 파워를 달성하기 위해 대중에게 지능형 컴퓨팅 파워를 제공。
즉, 이 컴퓨팅 파워 센터는 "발전소"와 같으며, 물, 전기, 석탄과 같은 컴퓨팅 파워를 기반에서 애플리케이션까지 계층화하는 완전한 AI 산업에 힘을 실어줄 수 있습니다.
Nortel Digital Intelligence 전략 및 마케팅 책임자양 젠서론, 이것이 바로 노텔 디지털과 디지털 테크놀로지의 차이점이다. 노텔 디지털의 최우선 과제는 인공지능 기업이나 개인 개발자가 빠르게 인공지능을 활용하고 인공지능을 누릴 수 있도록 인공지능 산업을 지원하는 것이다.
전체 인공 지능 산업에서 Yang Zhen은 Nortel Digital Intelligence가산업체인 '비드맨'역할 - 이 산업 체인에 이미 구슬이 있으면 끈으로 묶어서 만드세요.
예를 들어, 국내 칩의 가속화, 산업 모델의 수직 모델 레이아웃, 위에서 언급한 신뢰할 수 있는 데이터 공간은 모두 이 산업 체인의 "진주"입니다.
베이징 디지털 경제 컴퓨팅 파워 센터는 컴퓨팅 파워 제품을 제공하는 것 외에도 동일하거나 다른 분야의 AI 실무자가 충돌하고 소통할 수 있도록 커뮤니케이션 및 디스플레이 공간을 특별히 설계하여 보다 포괄적이고 심층적인 혁신을 촉진합니다.
앞으로는 이 컴퓨팅 센터의 열린 공간도 '컴퓨팅 기술 파크'로 대중에게 공개되어 인공지능 시대 생산 변화의 힘을 더 많은 사람들이 이해할 수 있도록 할 예정이다.
즉, Nortel Digital은 지능형 컴퓨팅 센터를 칩, 서버, 대형 모델, AI 애플리케이션 및 산업 투자와 같은 업스트림 및 다운스트림 기술, 제품 및 서비스를 연결하는 지원으로 활용하여 인공 지능 산업의 성장과 번영을 촉진할 것입니다. 지역 경제 산업의 업그레이드를 촉진합니다.
현재까지 Nortel Digital Intelligence는 AI 보조 약물 연구 및 개발, 일반 로봇/실현 지능, 무인 운전 및 AI 에이전트와 같은 스타 트랙을 포괄하는 1000개 이상의 AI 산업 생태학적 파트너를 보유하고 있습니다.
