2024-09-02
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
이미지 출처: 비주얼 차이나
저자 | 안란
편집자丨ye jinyan
제작: shenwang·tencent news xiaoman studio
2024년 9월 2일, 인피니전스 ai는 시리즈 a 파이낸싱에서 약 5억 위안을 완료했다고 발표했습니다. 인피니전스 ai는 설립 후 불과 1년 4개월 만에 약 10억 위안의 파이낸싱을 완료했습니다.
wuwen core dome의 현재 자금 조달 라운드의 공동 투자자는 사회 보장 기금의 zhongguancun 독립 혁신 특별 기금, qiming venture partners 및 hongtai fund입니다. 다음 투자자에는 lenovo ventures, xiaomi, isoftstone 및 기타 전략적 투자자, cdb science가 포함됩니다. 기술, 상하이 인공 지능 산업 투자 기금, xuhuike 벤처 캐피탈 및 기타 국유 펀드뿐만 아니라 shunwei capital, dachen financial intelligence, detong capital, shangshi capital, senruo yukun, shenwan hongyuan 및 zhengjing capital과 같은 금융 기관도 포함됩니다.
이와 관련하여 wuwen xinqiong의 공동 창업자이자 ceo인 xia lixue는 "ai 2.0 물결이 가져온 새로운 '80/20 규칙'인 transformer 아키텍처는 새로운 기술 패러다임을 통합합니다. 핵심 기술 문제 중 일부를 해결해야 하며 수직적 시나리오의 80% 일반화를 지원하여 소프트웨어 및 하드웨어 공동 최적화 기술의 표준화 및 규모에 대한 드문 기회를 제공합니다. 중국의 컴퓨팅 파워 생태계는 공급과 공급 사이의 모순에 직면해 있습니다. 수요와 자원의 불균등한 분배로 인해 업스트림 및 다운스트림 협업이 촉진되었습니다. 다양한 이기종 컴퓨팅 성능의 효율적인 통합을 달성하는 것은 시대의 기회를 창출합니다.”
wuwen core dome의 창립 팀은 tsinghua university의 전자 공학과 출신입니다. 팀은 처음에 대형 모델의 실제 사용 가능한 컴퓨팅 성능이 칩의 이론적 컴퓨팅 성능에 달려 있을 뿐만 아니라 컴퓨팅을 증폭시킬 수도 있다고 판단했습니다. 최적화 계수를 통해 전력 활용 효율성을 높이고 클러스터 규모를 통해 전체 컴퓨팅 성능을 증폭시킵니다. 따라서 wuwen core qiong은 "칩 컴퓨팅 성능 × 최적화 계수(하드웨어 및 소프트웨어 협업) × 클러스터 크기(다중 이기종) = ai 모델 컴퓨팅 성능"이라는 공식을 제안했습니다.
이 공식에 따라 wuwen core qiong은 소프트웨어와 하드웨어의 공동 최적화 기술을 통해 대형 모델 작업에서 칩 컴퓨팅 성능의 활용도를 지속적으로 향상시키고, 클러스터 컴퓨팅 성능의 활용도를 향상시키며, 다중 이기종 컴퓨팅을 통해 클러스터 컴퓨팅 성능의 활용도를 확장할 것입니다. 전력 적응 기술. 업계 전반의 컴퓨팅 전원 공급 장치.
서로 다른 하드웨어 플랫폼은 서로 다른 소프트웨어 스택과 도구 체인에 적응해야 하며, 동시에 사용하기 어려운 이기종 칩 사이에는 오랫동안 '생태적 사일로' 현상이 있어 왔습니다.
소프트웨어와 하드웨어의 공동 최적화 측면에서 wuwen xinqiong은 자체 개발한 추론 가속 기술인 flashdecoding++를 통해 주류 및 이기종 하드웨어의 활용도를 크게 향상시켜 이전 sota를 능가했으며 amd, huawei ascend에서 여러 주류 오픈 소스 대형 모델을 완성했습니다. , biren, cambrian, suiyuan, haiguang, tianshu zhixin, muxi, moore thread, nvidia 등을 포함한 10가지 이상의 컴퓨팅 카드에 적용
소프트웨어 및 하드웨어 협업과 다양한 이기종 기술 측면에서 wuwen xinqiong은 다중 칩 컴퓨팅 성능 기반을 기반으로 infini-ai 이기종 클라우드 플랫폼을 만들었습니다. infini-ai 이기종 클라우드 플랫폼에는 원스톱 ai 플랫폼(aistudio)과 대형 모델 서비스 플랫폼(genstudio)도 포함됩니다.
그중 aistudio 원스톱 ai 플랫폼은 머신러닝 개발자에게 데이터 호스팅, 코드 개발, 모델 교육 및 모델 배포의 전체 라이프사이클을 포괄하는 비용 효율적인 개발 및 디버깅, 분산 교육 및 고성능 추론 도구를 제공합니다.
genstudio 대형 모델 서비스 플랫폼은 대형 모델 애플리케이션 개발자를 위해 고성능, 사용하기 쉽고 안전하고 안정적인 다중 시나리오 대형 모델 서비스를 제공합니다. 개발 비용 및 임계값.
wuwen core dome은 다중 이기종 컴퓨팅 성능을 활성화하고 소프트웨어와 하드웨어의 공동 최적화를 통해 대형 모델의 구현 비용을 "물, 전기 및 석탄"처럼 10,000배 절감하는 것을 목표로 한다고 공식적으로 밝혔습니다. 새로운 생산성에 도달하고 널리 혜택을 제공하며 agi의 포괄적인 프로세스를 가속화합니다.
