huawei выпускает новое хранилище ии, позволяющее обучать большие модели ии и делать выводы с помощью новой парадигмы длинной памяти
2024-09-21
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
20 сентября на саммите по хранению данных, проходившем в рамках конференции huawei connect 2024, д-р чжоу юэфэн, вице-президент huawei и президент линейки продуктов для хранения данных, представил новое хранилище искусственного интеллекта oceanstor a800, которое комплексно улучшает обучение больших моделей искусственного интеллекта. с новой парадигмой долгой памяти и способностей к рассуждению, помогая тысячам отраслей вступить в эпоху цифрового интеллекта.
чжоу юэфэн, вице-президент huawei и президент линейки продуктов для хранения данных, выступил с программной речью.
человеческая цивилизация прошла путь от древнего каменного века до сельскохозяйственной эпохи, индустриальной эпохи, а теперь и до эпохи цифрового интеллекта. данные стали ключевым производственным фактором для развития новых производительных сил. люди используют данные для достижения значительных успехов в основных областях ии, таких как большие модели ии, воплощенный интеллект и ии для науки.
эпоха цифрового интеллекта — это золотой век данных. хотя масштабы данных стремительно растут, а их ценность возрастает, она также сталкивается с такими проблемами, как недостаточная пропускная способность процессоров и хранилищ, низкая доступность вычислительных кластеров и расширение возможностей. время вывода, что выдвигает более высокие требования к хранению. эпоха цифрового интеллекта требует хранения данных для ии. хранение данных с максимальной производительностью, высокой масштабируемостью, устойчивостью данных, устойчивым развитием, новыми парадигмами данных и возможностями объединения данных — это единственный путь к эпохе цифрового интеллекта ии.
чтобы решить вышеуказанные проблемы, компания huawei выпустила новое хранилище искусственного интеллекта oceanstor a800, основанное на эффективных возможностях обучения больших моделей искусственного интеллекта, которое значительно расширило возможности рассуждения и добилось значительных успехов в производительности кластера и новых парадигмах данных, продвигая приложение. ии в тысячах отраслей. бизнес реализован.
1. один набор устройств хранения данных с искусственным интеллектом поддерживает обучение больших моделей на уровне 100 000 карт. построив техническую архитектуру с полным совместным использованием внешних сетевых карт и полным взаимодействием контроллеров и внутренних ssd-дисков, одно устройство хранения может поддерживать полное взаимодействие кластера на уровне 100 000 карт. комплект хранилища oceanstor a800 может реализовать статическое полное соединение с обучающим кластером, содержащим до 192 000 карт, что повышает производительность на 40 % и сокращает использование пространства на 80 %.
2. использование хранилища и вычислений повышает доступность кластеров ии на 30%. перебои в обучении ии происходят часто. по статистике, самое продолжительное время непрерывного обучения в учебном центре ии составляет всего 2,6 дня, из-за чего gpu/npu неоднократно сохраняют данные ckpt. china mobile использует ии-хранилище huawei oceanstor для обучения больших моделей, обеспечивая единый кластер хранилища емкостью 150 пб, пропускную способность 8 тб/с и возможности 230 миллионов операций ввода-вывода в секунду. доступность кластера увеличивается на 32%, обеспечивая надежную поддержку для последующего более масштабного обучения больших моделей. .
3. вычисления на основе хранилища и память с длинной памятью улучшают качество рассуждений и снижают системные затраты.
длинный контекст стал неизбежной тенденцией развития рассуждений на больших моделях. согласно закону масштабирования, обеспечение достаточно высокой вычислительной мощности и количества промежуточных токенов может значительно повысить точность рассуждений. благодаря профессиональному ии-хранилищу жетоны длинного контекста и массивные промежуточные рассуждения могут храниться в течение длительного времени, максимизируя возможности логического мышления и рассуждения больших моделей, особенно возможности медленного мышления.
oceanstor a800 — первое в отрасли устройство хранения данных, обеспечивающее большой объем памяти, инновационное применение многоуровневого механизма kv-кэша для сохранения и эффективного использования kv-кэша, что позволяет использовать большие возможности памяти для рассуждений больших моделей и сократить количество повторных вычислений на этапе предварительного заполнения. задержка вывода данных для клиента снижается на 78 %, а пропускная способность одной карты xpu увеличивается на 67 %, что значительно улучшает качество вывода и одновременно снижает затраты.
новое хранилище искусственного интеллекта в эпоху цифрового интеллекта приобретает ценность в таких отраслевых сценариях, как финансовый кредит, анализ инвестиционных исследований, медицинское здравоохранение, а также исследования и разработки лекарств. чжоу юэфэн сказал, что в золотой век данных компания huawei раскрыла передовые возможности хранения данных с помощью своего инновационного хранилища искусственного интеллекта и заложила основу для эры цифрового интеллекта.
