Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Цзинь Лэй родом из храма Аофэй.
Кубиты | Публичный аккаунт QbitAI

Для Интел"Свет", решая сложную проблему вычислительной мощности в эпоху больших моделей——

Запущен первый в отрасли полностью интегрированныйОКИ(Оптическое вычислительное соединение).

△Источник: Intel

Вы должны знать, что когда крупные модели ИИ следуют закону масштабирования, для достижения лучших результатов либо масштаб модели, либо масштаб данных развивается в сторону большей тенденции.

Это приведет к тому, что крупные модели ИИ будут предъявлять более высокие требования ко всем вычислениям и хранилищам, включая промежуточную связь ввода-вывода, на уровне вычислительной мощности.

Прорыв Intel на этот раз именноСвязь ввода/вывода：

В процессоре и графическом процессоре,Используйте оптический ввод-вывод вместо электрического ввода-вывода для передачи данных.

Какая польза?

В двух словах,Расстояние передачи данных намного больше，Количество большое，Потребление энергии низкое—— «Телосложение» больше подходит для крупных моделей ИИ.

△Источник: Intel

Так почему же Intel использует «свет»? Как это конкретно реализовано?

Используя «свет», он превратился из повозки в грузовик.

Традиционный метод электрического ввода-вывода (подключение медным проводом), безусловно, имеет свои преимущества, такие как поддержка высокой плотности полосы пропускания и низкого энергопотребления, но фатальной проблемой являетсяРасстояние передачи относительно небольшое (менее 1 метра).。

Если разместить его в стойке, проблем нет, но вычислительная мощность крупных моделей ИИ зачастую находится на уровне кластера серверов.

Он не только занимает большую площадь, но и охватывает N стоек. Длина кабелей должна составлять десятки, а то и сотни метров, а энергопотребление довольно велико, поэтому оно съедает всю мощность, подаваемую на стойки. что нет достаточной мощности для выполнения операций чтения и записи чипов памяти и вычислений.

кроме,Соотношение депозита к счетуС другой стороны, именно из-за «больших» характеристик больших моделей исходное соотношение однократного чтения и выполнения сотен вычислений теперь стало близким к 1:1.

△Источник: Intel

Это требует нового метода, который может увеличить вычислительную мощность и плотность хранения, одновременно снижая энергопотребление и уменьшая размер, тем самым увеличивая объем вычислений и хранения в ограниченном пространстве.

С помощью оптического ввода-вывода проблема решена:

Он может поддерживать 64 канала 32 Гбит/с в одном направлении по оптоволокну на расстояние до 100 метров.

Образная метафора, как и использованиеперевозка(ограниченная вместимость и расстояние) для использованиялегковые и грузовые автомобилидля доставки товаров (больших объемов и на дальние расстояния).

Мало того, даже если речь идет о выполнении некоторой работы по передаче данных с более высокой плотностью и большей гибкостью на относительно короткое расстояние, OCI можно сравнить смотоцикл, быстрее и гибче.

Стоит отметить, что этот метод OCI не является просто теоретическим.

По словам Intel, они воспользовались преимуществами проверенной технологии кремниевой фотоники для интеграции кремниевых фотонных интегральных схем (PIC), содержащих встроенные в кристалл лазеры, оптические усилители и электронные интегральные схемы.

Ранее компания продемонстрировала, что чипы OCI, оснащенные собственным процессором, также могут быть интегрированы с SOC (системой на кристалле), например, с процессорами, графическими процессорами и IPU следующего поколения.

Еще не закончив, Intel поставила более 8 миллионов кремниевых фотонных интегральных схем, из которых сейчас используется более 32 миллионов лазеров.

△Источник: Intel

Итак, следующий вопрос:

Как «усовершенствуется» OCI Intel?

Вице-президент Intel Research и директор Intel China ResearchСун ЦзицянВ процессе общения он провел углубленный анализ и интерпретацию данного вопроса.

△Сун Цзицян, вице-президент исследовательского института Intel и директор китайского исследовательского института Intel

Технология кремниевой фотоники сочетает в себе два наиболее важных изобретения 20-го века: кремниевые интегральные схемы и полупроводниковые лазеры.

Он поддерживает более высокую скорость передачи данных на большие расстояния, чем традиционная электроника, одновременно используя эффективность крупносерийного производства кремния Intel.

Технология интеграции кремниевой фотоники, выпущенная Intel на этот раз, чипы OCI достигли уровня оптоэлектронной совместной упаковки.

В этом оптоэлектронном совместном пакете кремниевая фотонная интегральная схема (PIC) и электронная интегральная схема (EIC) размещаются на подложке, образуя чип OCI, который служит интегрированным компонентом соединения.

Это означает, что xPU, включая ЦП, и будущие графические процессоры могут комплектоваться чипами OCI.

Ядро OCI преобразует все электрические сигналы ввода-вывода от ЦП центра обработки данных в свет и передает их друг другу между узлами или системами двух центров обработки данных по оптическим волокнам.

Текущая скорость двусторонней передачи данных достигает 4 Тбит/с. Протокол передачи верхнего уровня совместим с PCIe 5.0 и поддерживает 64 канала по 32 Гбит/с в одном направлении, что достаточно в современных центрах обработки данных:

Он использует 8 пар оптических волокон и потребляет всего 5 пикоджоулей (пДж) на бит, или 10-12 джоулей. Эти данные в три раза ниже энергопотребления сменных оптических приемопередатчиков (последнее составляет 15 пикоджоулей на бит). ).

△Источник: Intel

В оптическом канале передачи фактически имеется 8 различных диапазонов. Частотный интервал каждого диапазона составляет 200 ГГц, что занимает в общей сложности 1,6 ТГц спектра для передачи.

Свет варьируется от видимого света до невидимого света. Фактически, ширина его спектра очень широка. Начиная с ТГц, он близок к оптической связи.

Так в каких же областях частицы ядра OCI будут использоваться в будущем?

В связи с этим Сун Цзицян сказал:

Во-первых, вы можете использовать его для обеспечения связи, а также объединить его с вычислительными чипами, такими как ЦП и графический процессор. Вычисления и связь очень тесно связаны друг с другом.
Благодаря интеграции кремниевой фотоники и передовой технологии упаковки, передовая упаковка Intel также имеет множество различных технологий для достижения чипов ввода-вывода с более высокой плотностью, а затем объединения их с другими процессорами xPU для формирования множества различных типов на основе чипов в будущем. и микросхемы межсоединений будут иметь очень хорошие перспективы применения.

Судя по плану развития производительности чипа интерфейса ввода-вывода OCI, в настоящее время он может достичь технического решения со скоростью передачи 32 Тбит/с, в основном полагаясь на итеративное и постоянное улучшение трех показателей, а именно:

• В оптическом волокне имеется 8 стабильных полос.
• Скорость оптической передачи данных каждого диапазона составляет 32 Гбит/с.
• Может тянуть 8 пар оптических волокон одновременно, не влияя друг на друга.

Умноженная на эти три показателя, текущая скорость передачи данных составляет 2 Тбит/с в одном направлении и 4 Тбит/с в обоих направлениях. В будущем мы можем продолжать развиваться вверх и постепенно улучшать возможности полосы пропускания.

△Источник: Intel

Наконец, Сун Цзицян также объяснил дифференциацию Intel в технологии интеграции кремниевой фотоники:

Основная причина заключается в том, что мы создаем высокочастотные лазерные излучатели на пластине и интегрируем кремниевые оптические усилители. Это две относительно основные технологии, обе из которых производятся на уровне пластины.
Далее мы можем массово производить такие высокоинтегрированные лазеры, потому что преимущество этого встроенного в кристалл лазера состоит в том, что его можно передавать по обычным оптическим волокнам.
А по стабильности это почтиЧтобы произошла ошибка, требуется 10 миллиардов часов。

Что вы думаете о «легком» выборе Intel? Добро пожаловать, чтобы оставить сообщение в области комментариев для обсуждения.

Справочные ссылки:
[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfA
[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Shows-OCI-Optical-IO-Chiplet-Co-packaged-with-CPU-at/post/1582541
[3]https://www.youtube.com/watch?v=Fml3yuPR2AU