Новости

«Я надеюсь, что наши продукты следующего поколения смогутПо сравнению с нынешним NVIDIA B200Более продвинутые продукты…»

Это последняя «маленькая цель», которую недавно поделился с компанией Xinying Ян Гонгифань, основатель и генеральный директор Zhonghao Xinying, стартапа по производству обучающих чипов для искусственного интеллекта.Ян Гонъифань — старший ветеран исследований и разработок чипов. Он более десяти лет занимался исследованиями и разработками высокопроизводительных чипов в таких компаниях, как Oracle и Google, и участвовал в основной команде исследований и разработок чипов в качестве члена.Google ТПУ 2/3/4Компания по дизайну и исследованиям и разработкам вернулась в Китай в конце 2018 года, чтобы сформировать полную команду по проектированию микросхем и группу по проверке прототипов, а в 2020 году основала Zhonghao Xinying.

По его словам, в 2023 году Чжунхао СиньинДостижение положительной прибыли впервые, чистая прибыль, приходящаяся на материнскую компанию, достигла 81,33 миллиона юаней, а годовой доход достиг 485 миллионов юаней. На данный момент общая сумма накоплена.5раунды финансирования;ЧтоУчебный чип ТПУ «Снап» собственной разработки запущен в серийное производство, в котором вычислительная мощность модели обучения Snap достигает мощности NVIDIA A100.Почти в 1,5 раза .Zhonghao Xinying использует обучающий чип искусственного интеллекта «Snap» в качестве краеугольного камня и создает крупномасштабный кластер интеллектуальных вычислений искусственного интеллекта «Taize» с помощью возможностей высокоскоростного межчипового соединения, состоящих из 1024 чипов.Масштаб вычислительной мощности кластера Kilocard достигает 200PFLOPS.。

▲Обучающий чип Zhonghao Xinying AI «Snap»

В отличие от графических процессоров, которые в настоящее время доминируют на рынке чипов искусственного интеллекта, Ян Гонгифань выбрал архитектуру TPU, разработанную специально для глубокого обучения. По его мнению: «Архитектура TPU является естественно выгодной архитектурой для больших моделей искусственного интеллекта. тот же производственный процесс и тот же процесс позволят достичь производительности в 3–5 раз выше, чем у традиционной архитектуры графического процессора».

Ян Гун Ифань сказал, что Чжунхао Синьин в настоящее времяЕдинственный в стране, имеющийТПУКомплексное обучение и продвижение архитектурыИИКомпания по производству чипов . Он прогнозирует, что в ближайшие 5-10 летТПУи классТПУДоля рынка архитектуры достигнет80%,остальные10%-20%Это традицияГПУ。

Помимо продвижения исследований, разработок и внедрения чипов искусственного интеллекта, Чжунхао Синьин также самостоятельно разработал предварительно обученную большую модель, которая может обеспечить «жесткие» выходные возможности, которые в конечном итоге будут открыты для партнеров в сфере финансов, медицинского обслуживания и образования. и т. д. для реализации профессиональных больших моделей в вертикальных полях.

Чипы искусственного интеллекта — это известная гонка на длинные дистанции, приносящая прибыль. Как Чжунхао Синьин сможет добиться прибыльности за пять лет? Почему, будучи стартапом по производству чипов, он разрабатывает свои собственные крупные модели и строит собственный интеллектуальный вычислительный центр и как он планирует выделиться среди все более жесткой конкуренции отечественных чипов искусственного интеллекта? Недавно Ян Гунифань, основатель и генеральный директор Zhonghao Xinying, провел обстоятельную беседу с Xinying Xinying, поделившись всеми мыслями и вариантами выбора в предпринимательском процессе, а также анализом и суждениями о тенденциях развития технологий и внедрения бизнеса.

▲ Ян Гуньифань, основатель и генеральный директор Zhonghao Xinying

1. Более 10 лет опыта исследований и разработок чипов, активное участие в исследованиях и разработках Google TPU, вернулись в Китай, чтобы начать бизнес в 2018 году.

Более чем 10-летний опыт Ян Гугнифаня в области производства высококачественных микросхем заложил для него основу для поиска правильного предпринимательского направления.

Получив степень магистра компьютерных наук в Стэнфордском университете, Ян Гонъифань участвовал и руководил разработкой и производством 12 высокопроизводительных процессоров высшего уровня, включая SPARCT8/M8, в корпорации Oracle. Кроме того, он имеет опыт успешного ленточного копирования. выходит более десяти раз.

▲Соответствующие статьи, опубликованные Ян Гонгифанем во время его работы в Oracle (Источник: IEEE Xplore)

Присоединение к Google в 2017 году дало ему возможность вернуться в Китай, чтобы начать бизнес в будущем.

Находясь в Google, Ян Гонъифань участвовал в проектировании и исследованиях TPU 2/3/4 в качестве члена основной группы исследований и разработок чипов. Он упомянул, что именно предыдущие десять лет опыта позволили им проводить исследования, основанные на вычислениях. потребности приложений и вычислительных моделей. После лучшей оптимизации был успешно разработан TPU 2/3/4.

В июне 2017 года восемь соавторов из Google выпустили шедевр под названием «Внимание — это все, что вам нужно», который представляет собой революционную систему, обученную на ТПУ.Трансформатор Архитектура доведена до крайности, что положило начало популярности архитектуры Transformer в исследованиях больших моделей. В то же время Ян Гуньифань считает, что крупные модели постепенно оснащаются человеческим интеллектом, и ТПУ окажет большое влияние на промышленное развитие. Он твердо уверен, что крупные модели заменят людей и станут основой социальной производительности в 2025 и 2026 годах.

▲Архитектура Google TPU (Источник: YouTube)

Ян Гуньифань считает, что на этот раз трансформация вычислительной области с помощью больших моделей станет самым большим изменением в истории человечества. Поскольку все предыдущие вычисления выполнялись на одном чипе для выполнения одного или нескольких приложений, теперь впервые для выполнения одного приложения используются тысячи чипов, что создает огромные проблемы для реализации всей вычислительной архитектуры Behind. это возможность.

Он думает, что редко бывает такая большая задача, такое большое изменение и такой широкий спектр сценариев применения, поэтому он должен это сделать. Основываясь на этом понимании, он вернулся в Шэньчжэнь в конце 2018 года, сформировал команду для создания отечественного независимо управляемого обучающего чипа искусственного интеллекта ТПУ и официально основал компанию Zhonghao Xinying в 2020 году.

Это также положило начало его первым предпринимательским достижениям.2019В 2016 году мы увидели, что симулятор был завершен, запущен и работал хорошо, что доказало, что их конструкция чипа осуществима.

В первые дни открытия бизнеса идея Ян Гун Ифаня заключалась в том, чтобы сначала сформировать команду, которая могла бы производить продукцию. Поэтому первая группа прибыла в Шэньчжэнь, сформировала группу разработчиков чипов и группу проверки прототипов, а также завершила модульную разработку чипов. После этого Чжунхао Синьин обосновался в Ханчжоу в 2020 году. Благодаря продвижению продукции, финансированию и массовому производству чипов они создали полную команду по цепочке поставок и маркетинговую команду. В настоящее время размер команды достиг более 170 человек, из которых работают специалисты по исследованиям и разработкам. составляют 10% от общего числа. Коэффициент превышает 80%.

Но начальный этап открытия бизнеса не был гладким. В то время большинство отечественных игроков, инвестиционных институтов и клиентов не осознавали перспектив развития и применения крупных моделей в отрасли. Согласно воспоминаниям Ян Гуньифань, в первые дни своего создания у Чжунхао Синьин вообще не было дохода. в течение двух лет, и только в 2021 году его первая операция стала официально прибыльной в 2023 году. В 2023 году выручка компании достигнет 485 млн юаней, при этом чистая прибыль, приходящаяся на материнскую компанию, составит 81,33 млн юаней.

В настоящее время Zhonghao Xinying завершила 5 раундов финансирования, и раскрытая сумма финансирования включает в себя2022Год9завершено за несколько месяцевАРаунд финансирования составляет около 100 миллионов юаней, возглавляемый Saizhi Bole Investment при участии Hangzhou High-tech Investment и других;2023Завершено в течение нескольких лет подрядПре-БиPre-B+раунды финансирования стоимостью сотни миллионов и десятки миллионов юаней соответственно.

По мнению Ян Гуньифань, признание их инвесторами делится на несколько этапов: на раннем этапе они смотрят на команду, на среднесрочной перспективе они сосредотачиваются на том, соответствует ли их продукция рыночному спросу, а на более позднем этапе они сосредотачиваются. о том, обладают ли продукты основной конкурентоспособностью и новым направлением расширения отрасли. Независимо от того, с точки зрения компоновки продукта, выбора технического маршрута или целостности команды, Чжунхао Синьин не отставал на каждом этапе.В настоящее время Zhonghao Xinying превратилась в единственную компанию в стране, которая владеетТПУКомплексное обучение и продвижение архитектурыИИКомпания с технологией ядра чипа.

два,ТПУ естественно адаптирован к большим моделям,Производительность обучающего чипа AI в 1,5 раза выше, чем у A100.

“Пусть вычислительная мощность станет движущей силой человеческого развития”Бизнес-план Чжунхао Синьин развивается в соответствии с этим видением.

Ян Гуньифань объяснил, что первое, что нужно сделать для достижения этой цели, — это сначала создать чип, поскольку это самая низкая инфраструктура. После завершения базовой инфраструктуры чип можно встроить в полную цепочку поставок, чтобы гарантировать работоспособность инфраструктуры. Постоянное снабжение продукции.

С другой стороны, есть экологические партнеры, которые реализуют отраслевые модели на уровне алгоритмов. Роль Чжунхао Синьин в этом заключается в самоисследовании и предварительном обучении крупных моделей, а затем в открытии их для отраслевых партнеров, таких как финансы, образование и медицинское обслуживание.

В эпоху больших моделейТПУиТрансформаторАрхитектура естественно адаптируема.

По сравнению сПроцессорСкалярный расчетный блок в иГПУБлок векторных вычислений вТПУВычислительные задачи можно решать с использованием двумерных или даже многомерных вычислительных блоков.ТПУКонструкция упрощает реализацию кластеров на килограмм-карты, подключение1024Чип становится32×32Двумерная матрица позволяет каждому чипу достичь 100% симметрии с любым чипом во всей сети.

Добавил он,ТПУ Архитектура оптимизирована для решений глубокого обучения, а также может использоваться для крупномасштабных вычислений глубокого обучения, таких как Intelligent Computing Network и Wanka Internet.Ян Гун Ифань сказал, хотяТПУПроизводительность относительно низкая с точки зрения универсальности, но с точки зренияИИВ сценарии применения при том же производственном процессе и технологииТПУАрхитектурное исполнение традиционноеГПУиз3-5раз.

учредил5 В 2018 году Чжунхао Синьин в мгновение ока добился массового производства и индустриализации чипов.Это был его второй момент достижения, когда команда исследований и разработок не спала всю ночь.“загораться”, процесс завершения проверки продукта все еще свеж в его памяти.

По сравнению с NVIDIAА100, разработанный Чжунхао СиньинGPTPU ИИобучающий чип“момент”Производительность вычислений – это1.5раз расход энергии снижается при выполнении того же объема тренировочных задач.30%, стоимость единицы вычислительной мощности равна42%。

"Тайзе"ИИСервер оснащен8 Обучающий чип «Момент» может поддерживать обучение и вывод больших моделей с более чем 100 миллиардами параметров.Ян Гун Ифань сообщил, что среди продуктов, поставленных в течение текущего периода обучения, клиенты Чжунхао Синьин завершилиЛама 2Обучение и вывод других моделей в кластере Kcal.

“момент”С уникальным Гандамом1024Возможность высокоскоростного межкристального соединения для создания крупномасштабных интеллектуальных вычислительных кластеров.“Тайнори”, производительность системного кластера является традиционнойГПУДесятки разИИвычислительные требования.

Чжунхао Синьин может сделатьТПУ Еще одним ключевым моментом фишки является то, что Ян Гуньифань сказал, что они не используют эмпиризм при подборе инженеров.Он сказал, что, работая с опытными инженерами на ранних этапах процесса проектирования, они обнаружили, что эти инженеры неспособны понять процесс проектирования.ТПУИнновации в концепциях и дизайне, скорее всего, будут связаны с повторяющимся опытом и неспособны мыслить более непосредственно, чтобы быстро решать проблемы и оптимизировать производительность.

Столкнувшись с потребностью в большей вычислительной мощности в эпоху больших моделей, он добавил, что кластер Wanka должен быть доступен, иТПУЕстественное преимущество архитектуры в сетевых возможностях определяет, что она имеет больше преимуществ при построении кластеров Wanka и имеет лучшую относительную производительность.

3. На этапе предварительного обучения большой модели размер рынка архитектуры, подобной TPU, может достигать 80%.

В прошлом году Чжунхао Синьин также привлек лучших специалистов для формирования большой команды по моделированию алгоритмов.

Уникальная производительность архитектуры TPU может увеличить свободу программного обеспечения, используемого в корпоративных приложениях, и упростить параллельное проектирование, тем самым обеспечивая оптимизацию производительности и построение системы.

Чтобы найти решения, которые лучше отвечают потребностям предприятий, производители чипов могут обучать свои собственные модели, чтобы лучше понимать характеристики моделей и сценарии применения, а также повышать удовлетворенность клиентов и их лояльность к чипам. Современные продукты для больших моделей общего назначения, как правило, обладают сильными «гибкими» возможностями, такими как понимание текста, поиск информации в Интернете и многоэтапный диалог. Однако, когда вы сталкиваетесь со сценариями высокопрофессиональных промышленных приложений, часто бывает трудно понять бизнес-знания в разбивке. области логики и профессиональной терминологии; в то же время точность количественных расчетов общих больших моделей низкая, а существующие вычислительные возможности совершенно неспособны удовлетворить сценарии отраслевых приложений, требующих высокой числовой точности, таких как гражданская авиация и финансы.

Основываясь на этом, Чжунхао Синьин создает базовую большую модель с «жесткими» выходными возможностями и открывает исходный код базовой большой модели для финансовых, образовательных, медицинских и других отраслевых партнеров для сотрудничества, что позволяет отраслевым партнерам выполнять секонизацию модели на основе стек программного обеспечения и соответствующие данные. Обучение, аннотации данных и т. д. позволяют модели обладать резервами отраслевых знаний и постепенно реализовываться в разделенных сценариях для замены конкретных производственных сред.

С прошлого года изучают, как внедрить Демо. Увидев осуществимость, в этом году начали постепенно приступать к предварительному обучению отраслевых моделей.

Ян Гуньифань считает, что благодаря такому полному бизнес-плану и суждению о тенденциях отрасли в эпоху больших моделей в ближайшие 5-10 лет доля рынка ТПУ и ТПУ-подобных чипов в области вычислительного оборудования с искусственным интеллектом достигнет 80%, а остальные 20% — традиционные графические процессоры.

Он также разъяснил цели Чжунхао Синьин в области итерации и коммерциализации продукта. Ожидается, что продукты следующего поколения, разрабатываемые Zhonghao Xinying, будут соответствовать производительности NVIDIA B200. Что касается коммерциализации, компания надеется углубить сотрудничество с более широким кругом клиентов, таких как интеграторы, операторы и крупные интернет-производители.

Вывод: для рынка архитектуры ТПУ появилась возможность взорваться.

С момента своего основания в 2018 году компания Zhonghao Xinying была свидетелем разработки чипов искусственного интеллекта, начиная с ранних стадий развития рынка и заканчивая периодом возможностей, когда крупные модели вызвали рыночный спрос. Но, оглядываясь назад, можно сказать, что на заре развития рынка ИИ-чипов стартапу приходилось сталкиваться с различными проблемами, если он хотел постепенно занять долю рынка с архитектурой TPU.

В настоящее время большие модели привели к увеличению спроса на вычислительную мощность, чипы искусственного интеллекта вступили в новую эру, и появились преимущества архитектуры TPU, что также опередило ожидания Чжунхао Синьина в отношении возможности взрыва рынка. Ян Гуньифань сказал, что, по его мнению, сценарии применения ИИ будут намного превосходить любые предыдущие сценарии использования вычислений, а вычислительные ресурсы, необходимые для моделей ИИ, также превзойдут воображение вычислительных ресурсов в истории человечества. Это делает сценарии применения архитектуры TPU, В краткосрочной перспективе рыночный спрос будет быстро расти.

В будущем он надеется, что Чжунхао Синьин сможет стать лидером китайской индустрии чипов искусственного интеллекта, а у TPU больше шансов стать чем-то похожим на «x86» в этом направлении. Началась новая глава в истории китайских чипов искусственного интеллекта…