Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Новости от 23 июля,Информация об ИнспурВыпущен «X400 Super AI» для генеративного искусственного интеллекта.Ethernet」выключатель, первое отечественное решение X400 Super AI Ethernet (X400 AI Fabric), которое поддерживает технологию платформы NVIDIA Spectrum-X и обеспечивает совместную работу сети терминалов на основе X400 и BlueField-3 SuperNIC, что значительно повышает производительность обучения графического процессора Wanka в 1,6 раза.

Сообщается, что по мере того, как конкуренция в эпоху больших моделей становится все более жесткой, итеративные возможности больших моделей стали основой рыночной конкурентоспособности. Однако, поскольку масштабы вычислительной мощности продолжают расти, производительность одного чипа больше не является решающим фактором, и эффективность системы искусственного интеллекта стала в центре внимания пользователей. В настоящее время в процессе обучения крупных пользователей моделей ИИ сетевое общение занимает до 20–40% времени обучения. Например, предыдущая статистика Meta показывает, что сетевое общение занимает в среднем 35% времени при обучении ИИ (самый высокий показатель — 57%), что эквивалентно 35% времени, потраченного на графический процессор, купленный за миллионы или миллиарды долларов. долларов бесплатно. Чтобы улучшить использование ресурсов графического процессора, необходимо срочно повысить эффективность сетевой связи. Однако проблема неравномерности HASH ECMP в традиционных сетях RoCE приводит к низкой общей загрузке канала. Хотя решения для выделенных сетей могут соответствовать требованиям к производительности, они не могут учитывать устоявшуюся экосистему Ethernet.

Недавно компания Inspur Information разработала систему X400 Super AI Ethernet, основанную на платформе Spectrum-X и использующую технологию совместной работы сети терминалов, чтобы открыть новый путь для построения сети обучения больших моделей искусственного интеллекта с учетом четырех аспектов производительности, масштабируемости, стабильности и производительности. удобство для пользователей. Оно решает проблемы, с которыми сталкиваются клиенты, и избавляет их от дилеммы: использовать Ethernet или выделенные сети. В то же время коммутатор Super AI Ethernet Switch X400 имеет открытую архитектуру и разработан в соответствии со спецификацией S3IP-UNP для достижения иерархического разделения программного и аппаратного обеспечения и ускорения инноваций в бизнесе клиентов за счет создания открытой сетевой экосистемы. В реальном тесте обучения модели GPT3 в вычислительном масштабе карт графического процессора 16K Super AI Ethernet достиг прорыва в производительности, превысив производительность традиционного RoCE в 1,6 раза.

Что касается производительности сети, решение X 400 Super AI Ethernet использует совместное планирование X400 плюс интеллектуальные сетевые карты. Благодаря таким технологиям, как адаптивная маршрутизация, сохранение порядка пакетов и программируемый CC, коммутаторы и сетевые карты могут более тесно взаимодействовать для обеспечения производительности. Решения AI обеспечивают нулевую потерю пакетов, неблокирующую полноканальную коммутационную сеть, производительность межмашинного соединения 400G, эффективную полосу пропускания увеличивают с традиционных 60% до 95%, а производительность увеличивается в 1,6 раза. традиционного RoCE.

С точки зрения гибкого расширения вычислительных ресурсов X400 Super AI Ethernet достиг чрезвычайно высоких показателей.портБлагодаря поддержке плотности и эластичной масштабируемости он обладает сверхвысокой производительностью и может соответствовать масштабу вычислительной мощности сотен тысяч карт в сети второго уровня с графическим процессором.серверЧисло может достигать 1024 единиц, поддерживает карты графического процессора 8K и может быть гибко расширено до трехуровневой сети в зависимости от масштаба вычислительной мощности. Масштаб серверов графического процессора может достигать 64 000 единиц, а максимальное количество поддерживаемых карт графического процессора может достигать. 512K, отвечающая потребностям групп различных размеров. В соответствии с требованиями сети гибкая и эластичная сеть стала мощным драйвером бизнес-инноваций.

С точки зрения операционной эффективности, решение Inspur X400 Super AI Ethernet сохраняет совместимость и экономичность решения Ethernet, обеспечивая гибкую эксплуатацию и обслуживание, а также сверхвысокую производительность, одновременно значительно снижая совокупную стоимость владения при построении сети и создавая автоматическое развертывание в один клик для клиентов. Модель позволяет реализовать адаптивную конфигурацию сети по характеристикам модели, сократить цикл развертывания с недель до дней и ускорить бизнес в режиме онлайн. В сочетании с полностью видимой интеллектуальной платформой эксплуатации и обслуживания потенциальные риски и неисправности могут быть интуитивно обнаружены для обеспечения непрерывности бизнеса. (Динси)