Новости

Окружение и подавление NVIDIA Deep Krypton |

2024-08-01

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Текст|Цю Сяофэнь

Интервью|Цю Сяофэнь и Ян Сяо

Редактор |Су Цзяньсюнь Ян Сюань

сопротивляться

Секретная группа WeChat распространяется устно среди людей из компаний, производящих чипы для искусственного интеллекта в Чжанцзяне, Шанхай. Название группы — «Группа по разогреву отечественных чипов». Здесь должны быть сотрудники отечественных компаний по производству чипов. даже конкуренты будут обмениваться информацией и обмениваться бизнес-ресурсами.

«Внутренняя группа чипов для тепла» определила зону перемирия, где коллеги могут временно перемириться и помогать друг другу просто потому, что у всех есть общий враг: NVIDIA.

Из-за существования Nvidia продажи отечественных производителей чипов испытали некоторое унижение.

Ли Мин (псевдоним) — продавец в отечественной компании по производству графических процессоров. Когда начался бум искусственного интеллекта, он уверенно пошел навстречу клиентам, но у него не было времени поздороваться. Клиент начал задавать вопросы:

«В чем разница между вашими устройствами по сравнению с чипом NVIDIA A100? У NVIDIA есть NVLink, а что у вас?» (Примечание автора: NVLink соединяет несколько чипов графического процессора, чтобы предотвратить перемещение данных графического процессора в процессор для вычислений и повышения эффективности вычислений)

Видя, что они не могут произвести впечатление на клиентов своими продуктами и технологиями, команда Ли Мина начала думать о том, как опираться на связи и найти «более влиятельных людей» для лоббирования, но клиенты все равно махали руками и говорили: «Мы все еще хотим использовать NVIDIA».

NVIDIA A100 с 54 миллиардами транзисторов, упакованных на площади 826 квадратных миллиметров, является ключом к открытию волшебного ящика больших моделей искусственного интеллекта.

Обучение больших моделей похоже на «очистку эликсиров» больших данных с целью выяснения закономерностей изменения данных;Использовать чипы NVIDIA для обучения больших моделей — это все равно, что просить сотни миллионов людей с IQ 200 выполнять математические действия, в то время как эффект от других чипов эквивалентен лишь тому, чтобы просить тысячи людей с IQ 100 выполнять вычисления.


Изображения NVIDIA A100 с официального сайта NVIDIA

Все ведущие технологические компании спешат купить Nvidia. Тот, у кого больше всего высокопроизводительных графических процессоров NVIDIA, получит возможность обучать более умные большие модели.

Публичная информация показывает, что OpenAI в настоящее время контролирует наибольшее количество высокопроизводительных графических процессоров NVIDIA в мире, не менее 50 000 штук, Google и Meta также являются владельцами кластеров Wanka (около 26 000, а в Китае редко есть Интернет); сеть с высокопроизводительными кластерами графических процессоров Nvidia Wanka. Самый большой из них — ByteDance (13 000).

NVIDIA монополизирует лучшие ресурсы в глобальной производственной цепочке: у нее самые богатые мощности по производству передовых чипов среди TSMC, у нее самая большая в мире группа пользователей-инженеров, и она контролирует вычислительную основу многих компаний, занимающихся искусственным интеллектом.

Абсолютная монополия часто порождает недовольство, гнев и бегство.

«Каждый, кто сегодня производит большие модели, серьезно теряет деньги! Только один зарабатывает деньги! NVIDIA», — сердито сказал инсайдер отрасли ——«Рабочая прибыль NVIDIA вызывает дискомфорт у всех клиентов и наносит ущерб индустрии искусственного интеллекта!».

Финансовый отчет показывает, что валовая прибыль Nvidia достигла 71%, среди которых популярные продукты серии A100 и H100 имеют валовую прибыль до 90%. Как производитель оборудования, Nvidia фактически имеет более высокую валовую прибыль, чем компании-разработчики программного обеспечения для Интернета.

Высокие цены и огромные прибыли заставили крупных клиентов Nvidia начать бегство. 30 июля Apple объявила, что ее модель искусственного интеллекта была обучена с помощью 8000 TPU Google, а контент NVIDIA — 0. Как только эта новость появилась, 31 июля цена акций NVIDIA упала более чем на 7%, что стало самым большим падением за последние годы. три месяца, и его рыночная стоимость испарилась на 193 миллиарда долларов.Я чуть не потерял Pinduoduo.


График падения цен на акции NVIDIA за последний год

Для всех отечественных компаний, производящих графические процессоры, желающих оторвать кусок плоти от Nvidia, 2022 год стал переломным. В США было вынесено несколько раундов запретов. Nvidia вынуждена зарабатывать на жизнь, продолжая выпускать кастрированные версии чипов. в Китае, но их снова быстро запрещают:

  • В сентябре 2022 года A100/H00 запретили экспортировать в Китай, а NVIDIA выпустила кастрированную версию A800/H800 в октябре 2023 года, A800/H800/L40/L40S/RTX4090 запретили экспортировать в Китай; Основатель NVIDIA Хуан Дженсюнь заявил, что будет продвигать кастрированные версии чипов L20 и H20 в Китай.

Однако кастрированная версия вызвала более резкое осуждение со стороны индустрии. Предстоящий H20 от Nvidia стоит вдвое дешевле H100 от Nvidia, но его производительность составляет лишь 1/3 от прежнего. Человек из индустрии искусственного интеллекта гневно осудил..." Разве это не просто воровство денег? Чистый налог на IQ! "

Когда клиенты Nvidia стали недовольны и рассержены, те отечественные производители чипов, которые хотели заменить Nvidia, «питались» этими эмоциями.

Раньше они могли лишь следовать за Nvidia и съесть немного пирога. По данным компании TechInsights, занимающейся анализом полупроводников, доля рынка Nvidia в поставках графических процессоров для центров обработки данных достигнет 98% в 2023 году.Всего лишь 2%.

Теперь, когда запрет вступил в силу, идеальная Nvidia на китайском рынке развалилась на части. Кто сможет заменить Nvidia? Отечественные производители чипов искусственного интеллекта видят надежду.

«В этом году 90% рынка NVIDIA в Китае было освобождено.Сможете ли вы его схватить или нет, зависит от ваших способностей.", - заявил основатель отечественной компании по производству графических процессоров.

36 В 2021 году компания Krypton однажды опубликовала статью «Глубокий Криптон | CATL: трещины в триллионной аккумуляторной империи». В индустрии аккумуляторов CATL не имеет себе равных и присматривается к конкурентам.

Сегодня Nvidia, которая является доминирующим игроком в области чипов искусственного интеллекта, также рассматривается многими конкурентами как заноза в теле. Однако разница между Nvidia и Nvidia заключается в том, что ее барьеры выше, а разрыв с противниками велик. еще шире.

Мы пытаемся найти «трещины в NVIDIA» через сопротивление противников NVIDIA. Если посмотреть на индустрию графических процессоров, то, хотя отечественные производители графических процессоров и чипов искусственного интеллекта слабы, они лучше понимают китайский рынок, а их методы игры более локализованы, и такие как; Intel, AMD и т. д. У признанных гигантов чипов больше боеприпасов, чтобы противостоять Nvidia в лоб.

В краткосрочной перспективе Nvidia не будет побеждена, но и не останется невредимой. Этой войне суждено стать кровопролитной.

Разразиться

Если вы хотите прорваться, вы должны найти слабости своего противника.Одна из слабостей Nvidia: высокомерие.

Индустрия микросхем — это, по сути, индустрия программного обеспечения To B. Клиентам нужны «сопровождающие» услуги от производителей микросхем, такие как отладка аппаратного обеспечения и обеспечение совместимости программного и аппаратного обеспечения. Только при наличии партнерских отношений клиенты могут быть привередливыми, а продукты на базе чипов будет нелегко заменить.

Однако многие отечественные эксперты по чипам рассказали 36Kr, что на китайском рынке, за исключением крупных покупателей с миллиардными масштабами, таких как BAT и Byte, большинству других компаний практически сложно получить инвестиции от Nvidia, даже если объем их транзакций достигает десятков миллионов. . Послепродажное обслуживание.

Другими словами, когда у китайских инженеров, использующих чипы NVIDIA, возникают сомнения, они могут полагаться только на свои силы и искать документы на официальном сайте NVIDIA или обращаться к сообществу, чтобы учиться самостоятельно.

При сотрудничестве с NVIDIA часто не удовлетворяются различные потребности китайских клиентов.Человек из индустрии чипов рассказал 36Kr, что Nvidia обычно продвигает в Китае самые дорогие комплексные решения. Когда клиенты делают индивидуальные запросы для конкретных сценариев, они обычно отклоняются. После покупки карты клиентам приходится «подумать». об этом сами или найдите мощную компанию по разработке алгоритмов, которая сделает это».

Такой подход Nvidia накопил множество жалоб от мелких и средних клиентов. «Nvidia, будучи сейчас крупным производителем, больше не уделяет столько внимания мелким клиентам, как это было раньше. У их продуктов нет конкурентов, и им не нужно усердно работать, чтобы угодить клиентам», — сказал человек, упомянутый выше.

Но в прошлом рост экосистемы NVIDIA фактически подтвердил важность услуг для индустрии микросхем: в 2006 году, когда экосистема CUDA только зарождалась, продукты NVIDIA были не так хороши, как сегодняшние отечественные чипы. Но команда NVIDIA сначала начала с научно-исследовательских групп университетов, а затем проникла в начинающие компании в каждом подсекторе для адаптации программного и аппаратного обеспечения, и только тогда она стала сегодня большой страной.


NVIDIA H100 Источник: официальный сайт NVIDIA.

Китайские производители чипов также осознали это и пытаются начать с обслуживания клиентов.

Некая отечественная компания по производству чипов искусственного интеллекта, пожелавшая остаться анонимной, с 2023 года пытается привлечь на передовую линию научно-исследовательского персонала для предоставления персональных услуг – не только для совместного обучения на месте, но и для предоставления клиентам специальная команда специалистов по исследованиям и разработкам после размещения заказа на продажу в небольшой группе. Цены за единицу продукции для клиентов варьируются от нескольких миллионов до сотен тысяч, и вы можете получить круглосуточную консультацию.

Простого предоставления локализованных и внимательных услуг далеко не достаточно. После ухода NVIDIA из Китая,Индустрия микросхем больше не является просто битвой между самими чиповыми продуктами. , но также проверяет их понимание временного окна. Китайские производители чипов набросились на них как стая волков, и начались энергичные торги.

Huawei наступает наиболее яростно. Ранее Huawei объединилась с iFlytek для выпуска устройства Spark All-in-One, которое было оснащено Ascend 910B.

Когда-то говорили, что этот чип «сопоставим с NVIDIA A100» с точки зрения возможностей одной карты. Что неизвестно, так это трудная сторона этого славного дела: 36 Криптон узнал, что Huawei не колеблясь оплатила трудозатраты, и задействовала сотни инженеров, чтобы помочь iFlytek скорректировать параметры.


Huawei и iFlytek выпускают моноблок Spark, источник: iFlytek

Хотя в отрасли это называется «сделано вручную», как только появился эталонный корпус, многие крупные модельные компании и интернет-компании протянули Huawei оливковую ветвь для тестирования.

Местная компания по продаже чипов была удивлена, обнаружив, что с июля прошлого года высшее руководство Huawei можно увидеть в любом проекте интеллектуального вычислительного центра, который был выставлен на публичный тендер: «Теперь Huawei может направлять сотни людей на проект. идти служить и даже терять деньги на некоторых ключевых проектах, чтобы получить доход от других проектов».

В вышеупомянутой неназванной компании по производству микросхем также работают 200 опытных продавцов — очень редкая ситуация в отечественной индустрии микросхем. Их команда продаж начинала с трех самых популярных областей реализации крупных моделей: финансов, права и промышленности, и появлялась почти на каждой выставке, связанной с вычислительной мощностью. «В индустрии чипов ресурсы стоят на первом месте. Если вы будете работать медленно, вы умрете. ." Потерянный".

Началась и скрытая ценовая война на отечественные чипы.

Человек из индустрии микросхем рассказал 36Kr, что их цель — выиграть больше заказов на эталонные интеллектуальные вычислительные центры независимо от цены за единицу. 36 Криптон заметил, что для снижения затрат некоторые отечественные компании без колебаний удаляют дорогую HBM (память с высокой пропускной способностью) из своих карт вывода и дажеОтправлено по цене на 50% ниже себестоимости.

«Несмотря ни на что, все еще надеются прорваться из разных точек входа и каждый отобрать у NVIDIA свой кусочек пирога, чтобы NVIDIA больше не была единственной».

Но реальность жестока. Когда дело доходит до продуктов, у отечественных чипов искусственного интеллекта неизбежно возникают различные проблемы.

Эксперт по микросхемам привел 36Kr пример: обработка одного и того же набора данных с использованием кластера NVIDIA A100 может занять всего десять дней, но использование некоторых отечественных чипов может занять несколько месяцев.Время накопления отечественного чипового оборудования слишком короткое, а отсутствие передовых процессов и аппаратных пробелов приводит к низкой эффективности.

Недостатки программного обеспечения также очевидны. Другой представитель отрасли провел тестирование и обнаружил, что при использовании отечественных чипов для запуска больших моделей, если вы хотите создавать на них больше интересных приложений, после замены базовой большой модели отечественные чипы склонны к сбоям «Во многих случаях мы используем. отечественные чипсы.» По сути, затыкаешь нос и пользуешься».

Теперь каждая рота действительно ясно увидела имеющуюся стратегию «окружения и подавления» и постепенно перешла на более реалистичные пути:

Хотя все еще есть несколько фракций, которые продолжают переходить в кластер Wanka, уделяя особое внимание сценариям обучения и жестко относясь к NVIDIA, представленной Moore Threads и Huawei, но большинство фракций предпочитают больше сосредоточиться на использовании больших моделей; небольшие модели в различных отраслях. Реализация различных отраслей начинается с рассуждения сценариев, не требующих высокого аппаратного и программного обеспечения, представленных Суйюань, Тяньшу Чжисинь и т. д.

(Примечание 36Kr. Большие модели имеют два звена: обучение и вывод: обучение — это процесс поиска закономерностей в миллиардах баз данных."делать"Большая модель находится в стадии разработки;"использовать"Процесс создания больших моделей менее сложен иСнижение требований к аппаратному и программному обеспечению, более тесная связь с промышленностью)


Moore Thread представила кластер Kua'e Wanka на конференции по искусственному интеллекту 2024 года. 36 криптонных выстрелов

«Сейчас мы не гонимся вслепую за Nvidia. Мы не можем позволить себе догнать ее и не смеем слепо производить чипы с чрезвычайно большой вычислительной мощностью», — прямо заявил представитель индустрии чипов.

Реальным соображением для отечественных производителей чипов является то, что NvidiaГлавный фокус не здесь, и отечественные производители избежали фронтальной войны Nvidia.

Раньше большинство компаний использовали игровые видеокарты NVIDIA потребительского уровня 4090 для расчета, исходя из соображений стоимости. У этих карт было много проблем: чрезмерное энергопотребление, недостаток памяти и возможность отключения. Представители Nvidia также не разрешают использовать эти видеокарты потребительского уровня для вывода больших моделей.

Отечественные производители чипов вошли в отставание от NVIDIA. Tianshu Zhixin и Suiyuan в этом году продвигают карты вывода, которые конкурируют с 4090, предлагая большой объем памяти, низкое энергопотребление и стабильное питание.

Отечественные производители микросхем также ясно дали понять о важности определения сегментов рынка. Например, в некоторых сценариях, чувствительных к энергопотреблению, мы концентрируемся на небольших чипах с низким энергопотреблением или можем погрузиться в нишевые сценарии, такие как оптимизация видео, для ведения небольшого, но красивого бизнеса;

Поле битвы гигантов напряженное.

Когда отечественные производители графических процессоров пишут в PPT «превзойти NVIDIA», это больше похоже на красивое видение. Эта группа компаний не была создана в течение длительного времени и догнала тенденцию внутреннего замещения, даже если она лишь немного превосходит. , это считается подвигом. Nvidia для них является одновременно конкурентом и эталоном.

Но когда дело касается Intel и AMD, которые по старшинству сопоставимы с Nvidia, атмосфера становится еще более напряженной.

Внутренне мы считаем Nvidia нашим смертельным врагом.— рассказал 36Кру разработчик линейки продуктов AMD серии MI.

На Тайбэйской компьютерной выставке (Computex 2024) в июне этого года основательница AMD Су Цзыфэн (она также является двоюродной сестрой основателя Nvidia Хуан Джен-Сюня) также впервые прояснила будущий ритм продуктов AMD в области графических процессоров итерации нового. каждый год продукты с графическими процессорами соответствуют ритму обновлений Nvidia.

Почти каждый раз, когда Nvidia выпускает графический процессор, AMD покупает его на рынке и немедленно разбирает, чтобы сравнить с продуктами, которые еще не были выпущены.

«Нужно сюда добавить какие-то фичи (показатели) и поднять параметры там». Они добиваются того, чтобы «железо не могло отставать от NVIDIA и параметры были немного лучше», — сказал 36 Krypton вышеупомянутый человек.


Су Цзифэн представил Instinct MI325X на выставке Taipei Computex в этом году

С 2023 года китайские партнеры по экосистеме AMD будут получать новые запросы на оптимизацию программного обеспечения от AMD почти каждые два дня. Чтобы продвигать свои графические процессоры, руководители AMD иногда требуют, чтобы более выгодный отдел процессоров подбирал графические процессоры для размещения заказов, рискуя, что процессоры могут не быть проданы.

Люди AMD каждый день жгут благовония и поклоняются Будде, надеясь, что мы сможем улучшить экологию.», руководитель экологической компании заявил, что, по его словам, в настоящее времяВ Китае уже есть более 10 поставщиков облачных услуг и клиентов To B., при адаптации и проверке эффектов, связанных с чипами AMD.

По сравнению с озабоченными отечественными производителями чипов преимущество иностранных гигантов чипов на аппаратном уровне заключается в том, что они обладают передовыми процессами и производственными мощностями HBM. Таким образом, между продуктами AMD и Intel нет большого разрыва по сравнению с продуктами Nvidia. в некоторой степени.

Официальные данные показывают, что в продукте AMD (MI300X, выпущенном в декабре 2023 года) ранее утверждалось, что вычислительная мощность в 1,2 раза выше, чем у Nvidia H100;

Продукт Intel (Gaudi 3, выпущенный в апреле 2024 года) также намного превосходит H100 по энергоэффективности и производительности вывода. Конечно, это также дешевле, цена графического процессора AMD составляет от 70 до 80% от стоимости эталонных продуктов Nvidia.

Но все производители, агрессивно настроенные по отношению к Nvidia, сталкиваются с общей проблемой:Каким бы сильным ни было наше железо, оно затмевается слабым программным обеспечением, как и недостатки ствола.

В эпоху, когда графические процессоры можно было использовать только для графических вычислений, программная платформа CUDA, запущенная NVIDIA, была эквивалентна предоставлению разработчикам набора программных интерфейсов, позволяющих им свободно писать вычислительные программы на графическом процессоре, используя язык программирования, который им наиболее знаком. с.

«Позвольте мне привести вам аналогию. Почему CUDA не может его превзойти? Это как если бы вы выучили язык и работали на этом языке столько лет. Если я попрошу вас сменить язык, вы почувствуете дискомфорт? Вы согласны?" Сотрудник компании по производству чипов привел пример за 36 крон.

CUDA — самый глубокий барьер для экосистемы программного обеспечения Nvidia.Даже Intel и AMD, которые являются крупными компаниями, не могут обогнать других за короткий период времени.

Бывший сотрудник команды Intel GPU рассказал 36Kr, что они задействовали более 3000 инженеров по всему миру и инвестировали три-четыре года, но улучшили точность только с 0% до 4% — они использовали чипы Intel для преобразования портрета и ждали Через долгое время информация потерялась до такой степени, что «это было уже не человеческое лицо».


Генеральный директор Intel Киссинджер выпускает серию чипов Gaudi

Заблуждение «курица и яйцо» появляется снова. Именно потому, что не так много людей используют графические процессоры AMD и Intel, и еще меньше людей используют соответствующие программные платформы (ROCm, oneAPI), поэтому кому-либо сложно полностью использовать свои истинные аппаратные возможности.

«У NVIDIA CUDA всегда было так много разработчиков, которые повторяли алгоритмы, помогая NVIDIA делать выводы и обучение очень эффективными. В результате NVIDIA всегда имела переговорную силу и всегда знала, что должен делать ее следующий чип, но это AMD. головная боль как для Intel, так и для Intel», — прямо заявил генеральный директор компании-экосистемы AMD.Программный инструмент AMD ROCm «точно похож на CUDA NVIDIA 20 лет назад».

Но для последующих клиентов именно здесь возникает риск.

Проверка большой модели по своей сути является экспериментом с неопределенностью. Если вы все же хотите запустить ее на непроверенном чипе, это равносильно совмещению двух неконтролируемых переменных — отказ от Nvidia означает необходимость заплатить огромную сумму затрат на миграцию. неопределенность.

Несмотря на это, окружение и подавление Nvidia по-прежнему остается битвой, которую предстоит вести AMD и Intel.

Глобальная архитектура чипов разделена на три части: архитектура X86 определяет рынок ПК, в ней доминируют Intel и AMD; на рынке мобильных устройств доминирует Arm, а на рынке искусственного интеллекта доминирует NVIDIA;

За почти полтора года, прошедшие с момента начала новой революции искусственного интеллекта, Nvidia однажды пересекла отметку рыночной стоимости в 3 триллиона долларов, что сейчас эквивалентно совокупной рыночной стоимости 7 процессоров Intel + AMD.

Спустя 20 лет «окружение и подавление» Nvidia чиповыми гигантами,Это была еще одна тревожная битва, и это была запоздалая контратака.

настоящая трещина

Когда отечественные производители чипов искусственного интеллекта образуют армию муравьев, AMD и Intel делают все возможное. Неужели Nvidia действительно потрясена, столкнувшись с такой осадой?

Трещины в империи NVIDIA тихо распространяются.

Сигналом того, что Nvidia должна проявлять бдительность, является то, что OpenAI, Google, Microsoft... эти крупные клиенты, которые подзарядили Nvidia из-за своей веры в ИИ, делают первый шаг к «анти-Nvidia».

Фишки собственной разработки — это шахматная игра, которую давно планируют различные компании. Бывший основной сотрудник команды Google в ТПУ рассказал 36Kr, что Google, которая использует 1/4 мировой вычислительной мощности,«Мы, возможно, не будем закупать внешние чипы до конца года».

В прошлом TPU, разработанный Google самостоятельно, больше основывался на соображениях стоимости. Например, компания беспокоилась, что Nvidia повысит цены по своему желанию или поставки не будут достаточно стабильными. Теперь стратегия Google по созданию ядер более радикальна.«Почти независимо от стоимости и стоимости».

OpenAI ведет бесчисленные приготовления. Они планируют собрать до 7 триллионов долларов США для создания новой империи чипов искусственного интеллекта.

Внутри страны 36Kr также узнал из многих источников——В настоящее время крупнейшие отечественные покупатели Nvidia, Alibaba, Byte и Baidu, по сути, тайно исследуют чипы для обучения крупных моделей.

Прогресс в разработке продукции зарубежных производителей облачных технологий, производителей крупных моделей и производителей звездных чипов, комплексный сбор и картирование информации за 36 крон.

Однако, в конце концов, чипы собственной разработки — это долгосрочное решение. Еще один краткосрочный план для этих крупных клиентов — попробовать продукты конкурентов Nvidia и снизить свою зависимость от Nvidia.

AMD — это план Б. Инсайдер AMD рассказал 36Kr:Продукты AMD на основе графических процессоров уже открыли крупные потребительские рынки в Европе, США, Южной Корее и других странах.Microsoft приобрела десятки тысяч продуктов AMD, а Tesla, Midjourney, Национальная лаборатория США и Korea Telecom также взяли на себя поставку продуктов партиями.

В Китай сотрудник AMD Ecosystem Чэнь Вэнь сообщил, что в 2023 году будут отгружены сотни карт-ускорителей AMD определенной модели. Хоть это и немного, «но этот продукт AMD почти никогда раньше не встречался в Китае».

Согласно предыдущим оптимистичным оценкам AMD, к концу 2024 года графические процессоры для центров обработки данных принесут компании AMD до 2 миллиардов долларов дохода.

Хотя муравьиная армия китайских производителей чипов пока не представляет существенной угрозы для Nvidia, ее искры постепенно набирают силу.

36Kr узнал, что сейчас продажи отечественных чипов для обучения и вывода подскочили на новый уровень - отрадным и позитивным сигналом является то, что интернет-компании и крупные модельные компании, которые признаны наиболее сложными для получения заказов в Китае, начали инвестировать в отечественные чипы Производитель открыл рот.

По данным 36Кр, в настоящее времяAscend Chip изо всех сил пыталась проникнуть в систему интернет-компаний, включая Baidu.

Кроме того, отечественные компании, занимающиеся искусственным интеллектом, такие как Zhipu AI, MiniMax и Step Star, обучают большие модели с триллионами параметров. Однако, когда высокопроизводительные чипы NVIDIA ограничены, крупные производители моделей обычно выбирают «смешанное обучение» (т. е. NVIDIA +). другие чипы), например,Кластер Zhipu AI резервирует почти половину чипов Shengteng.

Кроме того, с прошлого года чипы вывода Tianshu Zhixin и Suiyuan были отправлены в количестве десятков тысяч штук. Каналы доставки включают крупные отечественные интеллектуальные вычислительные центры. Первый из них вошел в цепочку поставок крупного производителя моделей Baichuan. Чип Куньлунь Здесь совокупные поставки чипов вывода последних двух поколений составляют 30 000–50 000 штук, причем поставки из Baidu и внешних каналов составляют половину каждого.

«Текущие цены и уровень поставок NVIDIA находятся на грани проверки того, сможет ли каждый это сделать и если да, то как»., - прямо сказал инсайдер отрасли.


Основатель NVIDIA Хуан Дженсюнь Picture Source Visual China

Если вы посмотрите дальше на ближайшие три-пять лет, постепенно появятся новые угрозы для Nvidia.

В отрасли также появились совершенно новые архитектуры чипов искусственного интеллекта, отличные от графических процессоров — например, компания по производству микросхем из Силиконовой долины Groq, которая ранее выпустила архитектуру LPU, утверждает, что запускает большие языковые модели «в десять раз быстрее», чем графические процессоры Nvidia;

Существует также чип Etched из Кремниевой долины, который выпустил крупную модель чипа ASIC, утверждая, что он «на порядок быстрее», чем графические процессоры Nvidia. Эти стартапы по производству чипов поддерживаются такими звездными инвестиционными группами, как OpenAI.

36Kr узнал, что в этом году в Китае появились новые стартапы по производству ИИ-чипов. Например, Шанхай недавно тайно поддержал двух новых компаний, производящих чипы искусственного интеллекта.

Ян Гонъифань, генеральный директор Zhonghao Xinying, отечественной компании по производству ТПУ, сказал, что общий коэффициент использования транзисторов графического процессора составляет всего 20%. На самом деле, недостатки очевидны, хотя новые архитектуры, такие как TPU и ASIC, не очень универсальны. , их транзисторы. Коэффициент использования может достигать 60–100%. «В ближайшие три-пять лет определенно появится большое количество чипов искусственного интеллекта за пределами архитектуры графического процессора в стране и за рубежом».

Достаточно немного, чтобы потрясти гиганта NVIDIA.

«Вы думаете, что у NVIDIA снаружи нет конкурентов? На самом деле это не так», — сказал 36Kr сотрудник NVIDIA. Как часто говорит Хуан Жэньсюнь: «У нас есть всего 30 дней до банкротства».

NVIDIA готовилась более десяти лет, а потом наткнулась на такую ​​гениальную компанию, как OpenAI, и они совместно катализировали чудо NVIDIA. В прошлом в полупроводниковой промышленности не было недостатка в историях об обгоне гигантов на поворотах.

Дым битвы за окружение и подавление Nvidia уже разгорелся.

конец

конец