Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Креси происходит из храма Аофей.
  Кубиты | Публичный аккаунт QbitAI

Искусственный интеллект, несомненно, сегодня является важной темой, способствующей развитию цифровой экономики с помощью различных методов, таких как большие модели, вертикальные приложения и интеллектуальные агенты.

Однако инфраструктура, обслуживающая ИИ…Вычислительная мощность и данные, является узким местом, ограничивающим развитие искусственного интеллекта, а также стало темой для дальнейшего обсуждения.

Почему это узкое место все еще существует? Как его сломать?

Мы увидели некоторые ответы в том, что сделала компания Nortel Digital Intelligence, созданная всего один год:

В Пекине появилась «фабрика искусственного интеллекта», собирающая внутренние вычислительные мощности, «доступные «из коробки».

«Фабрика искусственного интеллекта» борется с беспокойством по поводу вычислительной мощности

Независимо от того, касается ли это отдельного специалиста или всей отрасли,Отсутствие эффективных вычислительных мощностейЭто болевая точка, которую необходимо срочно решить.

Со стороны спроса бурное развитие генеративного искусственного интеллекта, представленного большими моделями, ожесточенная «Битва сотен моделей» и наступление эпохи вывода, несомненно, приведут к огромному увеличению спроса на вычислительную мощность.

В отчете, совместно опубликованном Китайской инженерной академией и более чем дюжиной учреждений в научном поджурнале Intelligent Computing, отмечается, что вычислительная мощность, необходимая для искусственного интеллекта, удваивается каждые 100 дней. На основании этих расчетов ожидается, чтов ближайшие пять лет увеличится более чем в 1 миллион раз。

Более того, в эпоху искусственного интеллекта спрос на вычислительную мощность уже не ограничивается количеством FLOPS, структура спроса на вычислительную мощность также претерпела большие изменения.

В эпоху AIGC структура вычислительной мощности изменилась с ЦП+ускоритель на ГП.Крупномасштабные параллельные вычисления, доля интеллектуальных вычислительных мощностей быстро растет.。

Но в настоящее время существует разрыв поколений между отечественными чипами, особенно высококлассными, и передовыми продуктами отрасли во многих аспектах, таких как вычислительная производительность, энергопотребление и скорость связи между картами.

Факторы, не связанные с чипами, также ограничивают эффективное использование вычислительной мощности, например, недостаточные возможности сетевой передачи между узлами, несовершенная экология поддерживающего программного обеспечения и так далее.

В этой реальности большая часть отечественных интеллектуальных вычислительных мощностей не может использоваться эффективно, что породило второе беспокойство отрасли по поводу вычислительной мощности.

Основная причина такого беспокойства заключается в том, чтоУ пользователей нет четкого представления о возможностях многоядерных, особенно отечественных вычислительных мощностей.можно свести к нескольким аспектам:

• Отечественным крупномасштабным многоядерным кластерам не хватает возможностей, и они не могут поддерживать крупномасштабную адаптацию и оценку вычислительной мощности вблизи производственных сред. Другими словами, одночиповое тестирование может дать лишь приблизительные данные о взаимосвязи между картами и вычислительными узлами, но нет данных о коэффициенте ускорения;
• Существующая платформа в основном основана на показателях экспоненциальной оценки и не может быть связана с бизнес-сценариями пользователей. Она не полностью раскрывает связь адаптации от бизнес-сценариев к базовым чипам. Другими словами, реальные пользователи не могут понять и оценить, являются ли многоядерные кластеры. способен удовлетворить собственные потребности;
• В Китае не хватает многоядерных гетерогенных сервисных платформ, а также недостаточно попыток выполнения многоядерных гетерогенных, гибридных задач обучения и рассуждения.

Вообще говоря, сторона спроса не знает, какие услуги может предоставить поставщик, и степень поддержки его фактического бизнеса. У поставщика нет платформы для демонстрации своих возможностей и того, что он может сделать, и в то же время он имеет справедливую и справедливую цену. четкая оценка и стандарт.

Чтобы разрушить это представление и решить загадку беспокойства по поводу вычислительной мощности, компания под названием«Искра·Умный расчет»Появился бренд AIDC.

«Одна-единственная искра может вызвать пожар в прерии». Выбор такого названия, как «Искра», обусловлен тем, что поставщик решений надеется, что этот бренд сможет разжечь пожар в прерии и добиться повторения по всей стране.

Человек, предложивший этот план, былНортел Цифровой интеллект——Высокотехнологичное предприятие под управлением Beijing Electronic Control, специализирующееся на искусственном интеллекте.

Nortel Digital Intelligence считает, чтоВычислительная мощность — новая форма производительности в эпоху искусственного интеллекта：

В сельскохозяйственную эпоху земля была вычислительной силой;
В век машин электричество и мощность пара являются вычислительной мощностью;
В эпоху искусственного интеллекта вычислительная мощность является основной формой производительности, так же, как уголь, вода и электричество.

Чтобы превратить вычислительную мощность в фактор производительности, такой как электричество, мы больше не можем сосредотачиваться на простой установке чипов, серверов и шкафов;Преобразование из «склада вычислительной мощности» в «фабрику искусственного интеллекта», оснащенный соответствующими новыми качественными производственными отношениями.

Это также новая идея Nortel Digital Intelligence при построении Spark Intelligent Computing.

В частности, Spark Intelligent Computing поддерживает инновации и применение технологий искусственного интеллекта, предоставляя инклюзивные вычислительные мощности, такие как вода, электричество и уголь.

С другой стороны, концепция «AIDC как услуга» предоставляет вспомогательные услуги, такие как базовые модели, отраслевые модели и универсальные цепочки инструментов, что позволяет предприятиям быстро и легко создавать нужные им приложения или реконструировать существующие продукты. для достижения инноваций в методах производства.

В настоящее время первый эталонный проект бренда «Xinghuo Intelligent Computing» ——Пекинский вычислительный центр цифровой экономикиСтроительство уже началось и будет использоваться в качестве образца для распространения по всей стране в будущем.

Чтобы лучше помочь в обновлении вычислительной мощности, Nortel Digital также предлагает два основных продукта, которые полностью решают проблему вычислительной мощности в отрасли:

• Платформа гетерогенных вычислений Advance·AI, в ответ на текущую нехватку высокопроизводительных вычислительных ресурсов, настроить многоядерное гетерогенное решение, максимально отвечающее потребностям внутреннего рынка;
• Пагода · Платформа для адаптации большой моделишироко адаптировать чип вниз, чтобы его можно было широко отделить и адаптировать от большой модели;

Эти два продукта представляют собой «один корпус и две стороны», решая проблему вычислительной мощности в разных измерениях.

Гетерогенная вычислительная платформа Advance·AI, являющаяся полнофункциональной платформой для итеративной проверки вычислительной мощности в домашних условиях, может реализовать унифицированное управление и планирование нескольких вычислительных мощностей. В то же время она является первой, которая ввела выставление счетов на основе эффектов. Пользователи могут ее применять. по требованию, не зная основных деталей, и реализовать плавную миграцию между несколькими вычислительными мощностями.

Чтобы обеспечить более эффективное использование вычислительной мощности, компания Spark Intelligent Computing также добилась прорыва в области унифицированных коммуникаций, оптимизации компиляции и других технологических прорывов, которые может обеспечить гетерогенная вычислительная платформа Forward AI.Улучшить производительность отечественных чипов в 2-3 раза и увеличить пропускную способность в 6-7 раз.。

Предоставляя пользователям поддержку вычислительной мощности, гетерогенная вычислительная платформа Qianjin AI также создаетНовый режим оценки «чип × модель × сцена», помочь преодолеть информационную асимметрию между производителями и пользователями и помочь производителям чипов исправить ситуацию,Пусть отечественные чипы из «доступных» станут «простыми в использовании»。

Это означает, что, предоставляя пользователям поддержку вычислительной мощности, это также будет способствовать общему улучшению отечественных чипов и увеличению вычислительной мощности источника.

Система адаптации больших моделей Pagoda·Large — это модель расширения возможностей и прикладная сторона., поддерживает развертывание моделей и управление ими, выполняет усовершенствованное управление операциями вычислительной мощности, а также поддерживает приложения искусственного интеллекта.

Пусть высококачественные данные циркулируют

Если недостаток вычислительной мощности — это одно «темное облако» на здании ИИ, то недостаток данных — еще одно заслуженное явление.

Доу Дэцзин, главный научный сотрудник Nortel Digital и заслуженный профессор Школы компьютерных наук и технологий Фуданьского университета, заявил в публичном выступлении:Масштаб и качество данных определяют «верхний предел» ИИ—— Будь то обучение или вывод, для его поддержки необходимы высококачественные данные.

Возьмем, к примеру, Llama 3.1, последнюю большую модель с открытым исходным кодом, выпущенную Meta. Ее модель третьего поколения потребляет 15Т токенов обучающих данных на более чем 16 000 графических процессорах H100, что в 7 раз больше, чем у второго поколения. Это модель второго поколения, обеспечивающая скачок производительности при той же шкале параметров.

В нашей стране текущая ситуация со стороной предоставления данных также сталкивается с той же тревогой, что и с вычислительной мощностью——Общий объем данных велик, но высококачественные данные густо заполнены.。

По оценкам IDC, объем данных Китая увеличится с 23,88ZB до 76,6ZB с 2022 по 2027 год, заняв первое место в мире. Однако доступных наборов высококачественных корпусных данных по-прежнему относительно мало.

При условии, что количество уже ограничено, ценные данные сталкиваются с проблемой«Его нельзя доставлять, его нельзя распространять и его нельзя правильно использовать».Эта дилемма затрудняет реализацию ценности, делая и без того ограниченные ресурсы данных еще более напряженными.

С другой стороны, степень интеграции данных также серьезно недостаточна. Большой объем данных разбросан по производственным объектам или внутри вертикальных систем.не структурирован, не может быть напрямую использован для обучения больших моделей.

Основная причина этого заключается вОтсутствие зрелых технологий и надежных механизмов для поддержки безопасности данных.Предприятия, располагающие данными, «не знают, не смеют, не могут и не будут» позволять данным свободно распространяться. Статус-кво «четырех нет» еще больше привело к нехватке сегодняшних наборов данных и сформировало бесконечный цикл.

Поэтому главным приоритетом являетсяСоздать надежный и безопасный механизм передачи данных。

С этой целью Nortel Digital Intelligence выпустила еще один важный продукт —Красное озеро · Доверенное пространство данных, что позволяет полностью собрать элементы данных и сделать сцену полностью открытой.

Red Lake·Trusted Data Space — это многоуровневое решение, основанное на «надежности», целью которого является оживление данных, предоставление высококачественных надежных услуг передачи данных и создание среды данных «безопасного совместного использования и надежного обращения».

С технической точки зрения Red Lake Trusted Data Space оснащено доверенной «песочницей» данных, которая использует такие технологии, как «логическое хранилище данных» для импорта, изменения и удаления данных, а также использует технологию конфиденциальных вычислений + блокчейн для обеспечения безопасности данных и прозрачность утечек, обеспечение отслеживаемости и прозрачности данных, а также достижение «полной управляемости цепочки».

Такой подход делает данные достоверными, контролируемыми, доступными, проверяемыми и зашифрованными для их защиты, тем самым создавая среду совместного использования данных и приложений, в которой выполняются многосторонние соглашения о взаимном доверии и обмене данными.

Благодаря таким мерам безопасности, которые можно контролировать на протяжении всего процесса, владельцы данных могут осмелиться выпустить свои ресурсы данных в обращение на рынке и привлечь больше владельцев данных к участию в этом процессе.

Благодаря ранним инвестициям в данные экосистема предоставления данных также станет зрелой, форма обмена данными станет более полной и удобной, а поток высококачественных данных внесет больше свежей крови в развитие отрасли.

В то же время сама Nortel Digital также предоставила отрасли высококачественные данные.Матрица вертикальной модели заложена в медицине, образовании, культуре и других отраслях., что позволяет компаниям, занимающимся искусственным интеллектом, лучше находить сценарии реализации.

Итак, кто же такая Nortel Digital Intelligence и как ей удалось найти такое комплексное решение болевых точек индустрии искусственного интеллекта?

«Электростанция» в эпоху искусственного интеллекта, «человек-бусинка» производственной цепочки

Nortel Digital Intelligence — высокотехнологичное предприятие в составе Beijing Electronic Control Group. Оно специализируется на искусственном интеллекте и позиционирует себя следующим образом.Поставщик полнофункциональных услуг искусственного интеллекта。

До создания Nortel Digital Intelligence выпуск GPT-3.5 совпал с выпуском GPT-3.5. В то время началась новая эра искусственного интеллекта, и конкуренция в области ИИ становилась все более жесткой. В соответствии с развитием времени и потребностями рынка возникла компания Nortel Digital Intelligence.

Первым проектом Nortel Digital Intelligence на момент своего создания стал Пекинский центр вычислительной мощности цифровой экономики, который позиционировался какПредоставление интеллектуальной вычислительной мощности населению для достижения инклюзивной вычислительной мощности。

Другими словами, этот вычислительный центр подобен «электростанции», позволяющей использовать вычислительную мощность, такую ​​​​как вода, электричество и уголь, для расширения возможностей всей отрасли искусственного интеллекта от базы до приложения.

Руководитель отдела стратегии и маркетинга Nortel Digital IntelligenceЯн ЧжэньВведение. В этом разница между Nortel Digital и Digital Technology. Первым приоритетом Nortel Digital является поддержка индустрии искусственного интеллекта, чтобы компании, занимающиеся искусственным интеллектом, или отдельные разработчики могли быстро использовать искусственный интеллект и наслаждаться искусственным интеллектом.

Ян Чжэнь считает, что во всей индустрии искусственного интеллекта Nortel Digital Intelligence играет важную роль.Производственная сеть «Бисный человечек»Роль – если в этой отраслевой цепочке уже есть бусины, нанизать их, если нет – сделать;

Например, ускорение отечественных чипов, компоновка вертикальных моделей в отраслевых моделях и упомянутое выше доверенное пространство данных — все это «жемчужины» в этой отраслевой цепочке.

Помимо предоставления продуктов вычислительной мощности, Пекинский центр вычислительной мощности цифровой экономики также специально разработал пространство для общения и отображения, позволяющее специалистам по искусственному интеллекту в одной и той же или разных областях встречаться и общаться, способствуя более комплексным и глубоким инновациям.

В будущем открытое пространство этого вычислительного центра также будет открыто для публики как «Парк вычислительных технологий», что позволит большему количеству людей понять силу производственных изменений в эпоху искусственного интеллекта.

Короче говоря, Nortel Digital будет использовать интеллектуальный вычислительный центр в качестве поддержки для объединения вышестоящих и последующих технологий, продуктов и услуг, таких как чипы, серверы, большие модели, приложения искусственного интеллекта и промышленные инвестиции, чтобы способствовать росту и процветанию индустрии искусственного интеллекта. и стимулировать модернизацию региональных экономических отраслей.

На сегодняшний день Nortel Digital Intelligence имеет более тысячи экологических партнеров в отрасли искусственного интеллекта, занимающихся такими звездными направлениями, как исследования и разработки лекарств с помощью искусственного интеллекта, роботы общего назначения/воплощенный интеллект, беспилотное вождение и агенты искусственного интеллекта.