Новости

Официальное заявление Apple: модели, поддерживающие Apple Intelligence, обучаются на специальных чипах Google

2024-07-30

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Автор статьи: Ли Дань

Источник: Жесткий ИИ

Публичные документы показывают, что разработка Apple собственной системы искусственного интеллекта (ИИ) Apple Intelligence неотделима от поддержки специальных чипов Google.

В понедельник, 29 июля по восточному времени, официальный сайт Apple опубликовал технический документ с подробным описанием некоторых основных языковых моделей, разработанных для поддержки системы персонального интеллекта Apple Intelligence, включая примерно 3 миллиарда языковых моделей, используемых для эффективной работы на устройстве — параметрическую модель. клиентская «Базовая модель Apple» (AFM) и большая серверная языковая модель — серверная AFM, разработанная для облачной архитектуры искусственного интеллекта Apple «Private Cloud Compute».

В документе Apple представила, что AFM на стороне клиента и серверный AFM являются членами большого семейства генеративных моделей, разработанных Apple. Эти модели используются для поддержки пользователей и разработчиков. В документе Apple сообщила, что в модели обучения используется чип AI ASIC четвертого поколения TPUv4 и чип нового поколения TPUv5, разработанный Google. В статье говорится:

«Мы обучили сервер AFM с нуля на 8192 чипах TPUv4, используя длину последовательности 4096 и размер пакета 4096 последовательностей для проведения обучения 6,3 триллионов токенов».
«AFM на стороне терминала обучен на чипах 2048 TPUv5p».

В 47-страничном документе Apple не упомянула Google или Nvidia по имени, но заявила, что ее AFM и сервисы AFM обучены на «облачных кластерах TPU». Это означает, что Apple арендует серверы у поставщиков облачных услуг для выполнения вычислений.

Фактически, во время Всемирной конференции разработчиков (WWDC) в июне этого года СМИ обнаружили в деталях технических документов, выпущенных Apple, что Google стала еще одним победителем усилий Apple в области искусственного интеллекта. Инженеры Apple использовали разработанное компанией программное обеспечение и различное оборудование для создания базовой модели, включая тензорные процессоры (TPU), которые доступны только в Google Cloud. Однако Apple не раскрыла, насколько Apple полагается на чипы и программное обеспечение Google по сравнению с другими поставщиками оборудования для искусственного интеллекта, такими как Nvidia.

Таким образом, в комментарии в социальной сети X в понедельник указывалось, что в июне появились новости об использовании Apple чипов Google, и теперь у нас есть более подробная информация о стеке обучения.


В некоторых комментариях говорилось, что Apple не ненавидит Nvidia, но TPU быстрее. Также есть комментарии, что TPU быстрее, поэтому Apple имеет смысл его использовать. Конечно, он также может быть дешевле, чем чипы Nvidia.


В комментариях СМИ в понедельник говорилось, что TPU Google изначально создавался для внутренних рабочих нагрузок и теперь используется более широко. Решение Apple использовать чипы Google для обучения моделей предполагает, что некоторые технологические гиганты, возможно, искали и нашли альтернативы ИИ-чипам Nvidia, когда дело доходит до обучения ИИ.

The Wall Street Journal упомянула, что на прошлой неделе генеральный директор Meta Цукерберг и Alphabet, а также генеральный директор Google Пичаи намекнули в своих выступлениях, что их компании и другие технологические компании, возможно, слишком инвестировали в инфраструктуру искусственного интеллекта. Но все они признают, что бизнес-риски, если этого не сделать, слишком высоки.

Цукерберг сказал:

«Последствием отставания является то, что в ближайшие 10–15 лет вы окажетесь в невыгодном положении в наиболее важных технологиях».

Пичаи сказал:

Искусственный интеллект стоит дорого, но риск недостаточного инвестирования еще выше. Google, возможно, вложил слишком много средств в инфраструктуру искусственного интеллекта, в основном включая покупку графических процессоров Nvidia. Даже если бум искусственного интеллекта замедлится, покупаемые компаниями центры обработки данных и компьютерные чипы можно будет использовать для других целей. Для нас риск недостаточного инвестирования намного выше, чем риск чрезмерного инвестирования.