«третий основной чип» дпу: ближайшие три года — период окна для коммерческого внедрения
2024-09-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
будучи третьим основным чипом в центрах обработки данных после cpu и gpu, dpu в последние годы продолжает набирать популярность.
dpu, то есть процессор данных, обладает мощными возможностями сетевой обработки, а также функциями безопасности, хранения и разгрузки сети, которые могут высвободить вычислительную мощность цп и выполнить задачи обработки данных, такие как обработка сетевых протоколов, шифрование и дешифрование данных. и сжатие данных, с которыми цп не справляется. он также управляет, расширяет и планирует различные ресурсы отдельно, то есть решает задачи, которые «цп не может выполнять хорошо, а графический процессор не может выполнять», чтобы добиться снижения затрат и эффективности центра обработки данных. улучшение.
в эпоху искусственного интеллекта объем данных, которые интеллектуальные вычислительные центры должны обрабатывать, резко возрос. dpu может высвободить эффективную вычислительную мощность интеллектуальных вычислительных центров и решить проблему снижения затрат и повышения эффективности инфраструктуры. постепенно увеличиваются.
три нас в одном: решение, более подходящее для эпохи интеллектуальных вычислений
«концепция dpu была раскручена nvidia четыре года назад. после приобретения израильской компании mellanox nvidia стала первым в отрасли поставщиком комплексных решений для центров обработки данных, включающих cpu, gpu и dpu. в эксклюзивном интервью china business news». основатель yuan лу шэн сказал, что xinqiyuan был одним из первых отечественных производителей, занимавшихся исследованиями и разработками dpu, начиная с 2018 года. в то время он также назывался smartnic.
«в прошлом традиционные сетевые карты выполняли функции сетевой передачи. позже появились интеллектуальные сетевые карты, которые четыре года назад постепенно превратились в dpu», — чжан юй, старший вице-президент zhongke yushu (beijing) technology co., ltd., которая специализируется на исследованиях, разработках и проектировании интеллектуальных вычислительных чипов, сообщили first finance.
в 2020 году стратегия продукта dpu, опубликованная nvidia, позиционировала его как «третий основной чип» в центре обработки данных после cpu и gpu, что с тех пор взорвало концепцию dpu.
сегодня dpu стал новым специализированным процессором в центрах обработки данных, специально разработанным для ускорения задач безопасности, сети и хранения данных в центре обработки данных, обеспечивая мощность для сценариев вычислений с интенсивным использованием данных с высокой пропускной способностью и малой задержкой. основная роль dpu заключается в том, чтобы взять на себя задачи сети, хранения, безопасности и управления, которые изначально выполнялись цп, тем самым высвобождая ресурсы цп и повышая безопасность данных и защиту конфиденциальности.
«решения nvidia для интеллектуальных вычислительных центров на самом деле интегрированы в три u. сервер nvidia dgx a100 три года назад и последующая серия dgx gh200 включают в себя cpu, gpu и dpu. конечно, в dpu есть и другие компоненты. есть интеллектуальная сеть карты, такие как rdma, которые на самом деле можно классифицировать как dpu. по сути, это одно и то же. таким образом, с этой точки зрения нынешний лидер отрасли или общепринятое направление — это добавление процессоров в интеллектуальные вычислительные центры «gpu плюс dpu». чжан юй сказал, что общие решения для центров обработки данных — это больше цп плюс хранилище плюс сеть. в некоторых облачных сценариях также требуется обработка данных по сети с малой задержкой и высокой пропускной способностью, а сценарии интеллектуальных вычислений требуют сети. требования к производительности обработки выше.
«если цп сравнивать с мозгом, используемым для общего контроля, то графический процессор больше похож на мышцу, используемую для обеспечения надежной и обильной параллельной вычислительной мощности, тогда как dpu больше похож на кровеносные сосуды и нервы, которые передают данные, которые графический процессор должен вычислить данные, которые передаются на сервер через dpu для завершения обмена управляющими инструкциями и преобразования протоколов», — сказал чжан юй.
«сотрудничество нескольких процессоров на самом деле представляет собой обновление общей вычислительной архитектуры. от архитектуры на базе цп общего назначения в прошлом до вычислительной архитектуры на основе ускорителей экономическая эффективность общего вычислительного решения повышается за счет сотрудничества цп, графического процессора, dpu, npu и т. д.» чжан юй сказал: «в настоящее время с точки зрения технологии dpu постепенно стал зрелым, и его границы также относительно зрелы, шифрование и дешифрование сетевой безопасности, нулевое доверие и сеть. разгрузка по сути стала функциями, которые dpu может стабильно выполнять».
снижение капитальных вложений и энергопотребления при определенных показателях затрат
в качестве механизма разгрузки цп основная роль dpu заключается в том, чтобы взять на себя функции уровня инфраструктуры, такие как виртуализация сети и объединение аппаратных ресурсов, и передать вычислительную мощность цп приложениям верхнего уровня. таким образом, он может эффективно. высвободите вычислительную мощность интеллектуального вычислительного центра и улучшите коэффициент энергоэффективности.
«ранее компания nvidia признала, что эффективность вычислительной мощности процессора генеративного ии-сервера предыдущего поколения составляла лишь 40% от проектной мощности. по нашим измерениям, она составляла лишь более 30%. это означает, что большая часть вычислительной мощности простаивает. причина в том, что в кластере требуется время для ожидания промежуточных переменных, сгенерированных в результате расчета, для завершения синхронизации данных. пропускная способность сетевого канала ограничивает верхний предел базы вычислительной мощности, и именно здесь находится реальное значение. дпу лжет. это снова выдвинуло дпу на передний план.
в эпоху искусственного интеллекта, когда объемы данных стремительно растут, dpu может не только помочь создать новую вычислительную базу с низкой задержкой, большой пропускной способностью и высокоскоростными путями передачи данных, но также может безопасно и эффективно планировать, управлять и соедините эти распределенные ресурсы цп и гп, тем самым высвободив эффективную вычислительную мощность интеллектуального вычислительного центра. таким образом, развертывание dpu может сократить единовременные капитальные затраты (капитальные затраты) центра обработки данных. данные cisco показывают, что с помощью технологии виртуализации предприятия могут сократить количество серверов до 40 %, одновременно улучшая использование ресурсов.
с другой стороны, dpu повышают энергоэффективность центров обработки данных за счет ускорения задач сети, безопасности и хранения данных с помощью специального оборудования.
лу шэн представил, что, взяв в качестве примера сценарий применения sd-wan компании china mobile в провинции чжэцзян, «интегрированное программное и аппаратное решение, созданное сетевой картой xinqiyuan dpu, реализует разгрузку служб сетевой безопасности. по сравнению с традиционным чисто программным sd - сетевое решение wan, эффективность одной машины увеличилась в 6-8 раз, а в целом проект также сэкономил 80% инвестиций в развертывание серверов и ежегодных затрат на программное обеспечение, что значительно снизило капитальные затраты, кроме того, из-за сокращения развертывания машин, мощности центра обработки данных; это снижает потребление энергии и, по оценкам, позволит сэкономить более 3 миллионов киловатт-часов электроэнергии в год, а также значительно снизит эксплуатационные расходы центра обработки данных».
что касается стоимости, china business news узнала, что затраты на исследования, разработки и производство dpu относительно высоки, особенно при использовании передовых процессов, поэтому цена выше. однако из-за внедрения решений dpu это может не только сократить их количество. серверного оборудования, но и обеспечить возможность последующих операций. потребление энергии экономится в процессе расчета, поэтому общая стоимость системы по-прежнему остается рентабельной, но ее также необходимо обсуждать с учетом конкретных сценариев и приложений.
следующие три года станут критическим периодом для коммерческого внедрения.
однако нынешний рост проникновения dpu по-прежнему сталкивается с сопротивлением.
соответствующий человек из china science and technology star, учреждения венчурного капитала, которое специализируется на ранних инвестициях в области аппаратных технологий, рассказал china business news, что dpu, как архитектура виртуализации для совместной работы программного и аппаратного обеспечения, должна быть эффективно связана с стек программного обеспечения виртуализации, работающий в цп. в то же время при проектировании оборудования dpu необходимо учитывать совместимость и интеграцию с существующими системами. во-вторых, архитектура и интерфейсы dpu еще не сформировали единый стандарт, и продукты отличаются от других; различных производителей, что создает проблемы для пользователей при использовании, обслуживании и обновлениях, кроме того, экосистема программного обеспечения еще не развита и ей не хватает полных инструментов разработки, драйверов и поддержки операционной системы, «но уже есть компании, которые это делают».
лу шэн сказал, что dpu требует специального и эффективного набора инструкций, что также является его основной конкурентоспособностью. оставшиеся две трети работы заключаются в построении экосистемы вокруг набора инструкций. экологическая конструкция является основным барьером индустрии dpu. зрелость экологического строительства определяет скорость коммерциализации продукции.
в целом, в индустрии dpu по-прежнему доминируют иностранные компании. три гиганта nvidia, broadcom и intel имеют относительно высокую долю. технологические компании, такие как amazon и microsoft, также следуют этому примеру. внутри страны крупные компании, такие как china mobile и alibaba, также разрабатывают специализированные dpu, а такие стартапы, как xinqiyuan, zhongke yushu, dayu zhixin и т. д., также достигли соответствующих результатов или прогресса.
«развитие технологии dpu внутри страны и за рубежом находится на одном и том же этапе, но накопление у иностранных компаний более глубокое. на мой взгляд, индустрия dpu фактически постепенно перешла к стадии зрелости и быстрого внедрения. зарубежные страны могут пойти раньше и быстрее. чем отечественные», — сказал чжан юй.
что касается коммерциализации dpu, в настоящее время только крупные отечественные производители облачных технологий, такие как huawei, alibaba и zte, а также несколько новых подразделений dpu, таких как xinqiyuan и zhongke yushu, достигли коммерческого использования. академия информационных и коммуникационных технологий прогнозирует, что уровень проникновения dpu в центрах обработки данных моей страны достигнет 12,7% в 2025 году.
чжан юй считает, что на текущем этапе dpu более важным является глубокая интеграция с облаком на уровне iaas, особенно то, как предоставить клиентам комплексные, удобные и прозрачные чисто программные решения iaas, чтобы они могли плавно перейти на пользователей dpu для поддержки этого высокоэффективного облачного решения.
«миграция этой области требует совместных усилий отрасли и будет длиться долгое время, даже через годы», — сказал чжан юй: «amazon cloud движется быстрее. у них есть сильные возможности в области исследований и разработок, и они завершили iaas на dpu. но для большинства отечественных предприятий темпы не будут слишком большими, и их можно будет использовать прозрачно с самых болевых точек, таких как удаление овс, модернизация сети и т. д.»
«коммерциализация dpu опирается не только на сферу iaas традиционных центров обработки данных, но также включает в себя сетевую безопасность, высокопроизводительное хранилище, кластерные коммуникации и многие другие отрасли и области». лу шэн сказал, что синьциюань активно участвует в «dpu». для безопасности» на протяжении многих лет. dpu применяется в таких продуктах, как межсетевые экраны и шлюзы безопасности. теперь он вошел в линейку продуктов сетевой безопасности sangfor и стал стандартной платой расширения, решая отраслевые проблемы, такие как нехватка процессоров intel. возможности обработки потока слона.
«судя по текущей тенденции развития отрасли, если развитие технологий оправдает ожидания, с 2025 по 2027 год произойдет взрыв». вышеупомянутый соответствующий человек из чжункэ чуансина сказал, что причина в том, что с развитием цифровой экономики искусственный интеллект. и индустрия облачных вычислений. с развитием рынок серверов начнет расти, особенно в сферах финансов, государственного управления и опытных пользователей, которым не только требуется большое количество dpu для обработки данных и повышения эффективности вычислений, но также требуются dpu. воспользоваться безопасностью.
«чипы dpu действительно используются в больших масштабах, и текущие темпы роста составляют 20–30% в год. однако отраслевая характеристика dpu заключается в том, что он должен поддерживать стабильность и стабильно работать на кластере. в течение нескольких месяцев, прежде чем расширять кластер». чжан юй сказал, и, что более важно, учитывая развитие отечественной информационной и инновационной индустрии, эти два или три года будут очень критическим периодом, и это критический период времени, который каждый производитель дпу должен это понимать.
«dpu еще не является стандартизированным продуктом. процесс коммерциализации и расширения объемов требует глубокой доработки с учетом рыночного спроса и различных сценариев применения. он требует сотрудничества производителей как вверх, так и вниз по технологической цепочке, начиная с небольших пилотных проектов в несколько сотен штук до крупномасштабного развертывания десятков тысяч штук «тысячи миль достигаются небольшими шагами». лу шэн сказал, что коммерциализация dpu требует совместных усилий всех отраслевых партнеров по укреплению взаимного экологического доверия и сотрудничества и продвижения. вместе продвигаемся по пути коммерциализации отечественных интегрированных cpu+gpu+dpu форм-фактора 3u.
(эта статья взята из china business news)
