Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

· Время обработки в облаке увеличивается, затраты на передачу данных высоки, и существуют опасения по поводу безопасности данных. Старший вице-президент Intel Сачин Катти заявил, что искусственный интеллект проникает на периферию, и крупные модели могут постепенно перемещаться из облака на периферию.

Сачин Катти, старший вице-президент и генеральный менеджер подразделения Networking and Edge Group компании Intel.

«Мы ожидаем, что искусственный интеллект будет чаще развертываться и применяться на периферии для обработки локальных данных. Со временем модели искусственного интеллекта могут постепенно перемещаться из облака на периферию. 24 июля на конференции Intel Network & Edge 2024, Сачин. Катти, старший вице-президент и генеральный менеджер подразделения сетевых и периферийных технологий Intel, сказала, что нынешний искусственный интеллект в основном работает в облаке. Поскольку периферийные устройства генерируют большие объемы данных локально, стоимость передачи всех данных в облако довольно высока. Переход на периферийные вычисления является общей тенденцией.

Безопасность данных и работа в режиме реального времени продвигают искусственный интеллект от облака до периферии

Сачин Катти сказал, что люди переживают эпоху помощи ИИ, и ИИ помогает людям работать более эффективно. После эпохи помощи ИИ люди вступят в эпоху помощников ИИ: «Проезжая через ресторан быстрого питания, агенты ИИ смогут. предоставлять услуги заказа. Рабочие процессы предприятий также могут быть дополнены искусственным интеллектом. В отдаленном будущем мы можем обнаружить, что агенты могут взаимодействовать друг с другом, точно так же, как люди работают вместе, чтобы предоставлять решения на уровне отдела».

Сачин Катти сказал, что сегодняшний рост ИИ в основном сосредоточен в облаке, но общей тенденцией является переход к периферийным вычислениям: «Раньше ИИ, о котором мы говорили, в основном был основан на машинном зрении или технологии автоматизации на основе временных рядов. Но теперь периферийный ИИ постепенно перешел от машинного зрения на периферии к периферийным приложениям, таким как большие языковые модели и генеративный ИИ. Intel продолжит предоставлять соответствующие возможности для ускорения развертывания генеративного ИИ и больших языковых моделей на периферии».

Помимо требований к передаче периферийных данных, важными факторами при продвижении ИИ из облака на периферию являются безопасность данных и производительность в реальном времени. Го Вэй, вице-президент группы маркетинга Intel и генеральный менеджер подразделения сетевых и периферийных центров обработки данных Intel в Китае, сказал, что, с одной стороны, предприятия обеспокоены размещением данных в облаке, с другой стороны, периферийные вычисления помогают решить эту проблему; требования реального времени.

«По сути, более половины наших клиентов в этом году изучают решения по внедрению на основе больших периферийных моделей», — сказал Чэнь Вэй, вице-президент Intel и генеральный менеджер подразделения сетевых и периферийных технологий в Китае, сказал, что с точки зрения внедрения периферийных вычислений: Размер модели не «Чем больше, тем лучше», но он должен соответствовать реальным потребностям сценариев рыночных приложений. «При развертывании периферийных вычислений необходимо учитывать множество факторов, таких как задержка, доступность, настраиваемая оптимизация микроданных и информационная безопасность. , и т. д."

Edge настройка ограничена объемом данных

«Особенностью периферии является фрагментация». Чжан Юй, технический директор китайского подразделения Intel Network and Edge и старший главный инженер Intel по искусственному интеллекту, сказал, что разные пользователи предъявляют разные требования к вычислительной мощности и производительности. Распространенной проблемой при настройке периферии является ограничение объема данных. Объем данных, которые школа или фабрика действительно могут использовать для обучения, очень мал. Данные разных компаний и школ также различаются. Заводы по производству автозапчастей и обрабатывающие заводы сталкиваются с разными проблемами. Дефекты продукции невозможно обнаружить с помощью единой модели, и модель необходимо обучать с использованием данных, специфичных для компании.

В то же время Чжан Юй сказал: «Обучение требует маркировки, чтобы машина знала, на что вы обращаете внимание. Люди, которые фактически управляют функциональным оборудованием ИИ на заводе, часто являются работниками на производственной линии. Как можно у них есть энергия для маркировки во время производственного процесса?» ?» Следовательно, во время настройки края необходимо использовать методы автоматического аннотирования, чтобы завершить аннотацию, когда объем данных невелик. «На периферии конечные пользователи стремятся к бизнес-развертыванию, а не к техническим решениям. Требования пользователей к услугам — это удобство, простота развертывания и простота управления после развертывания. Это часто является болевой точкой для клиентов».

Го Вэй сказал, что недостаточно полагаться исключительно на модельное обучение для решения практических отраслевых задач, и потребность в улучшении способностей к рассуждению особенно очевидна в этом году. Реализация больших моделей неизбежно потребует сбалансированного распределения вычислительной мощности от конца к периферии, а затем в облако. «Если это просто стандартное применение вертикальных больших моделей, то большие модели будут в основном развернуты в облаке. Однако из-за необходимости внедрения в отрасли вычислительные мощности ИИ неизбежно будут перенесены в облако».

Сачин Катти сказал, что основными рабочими нагрузками на периферии являются логические выводы и непрерывное обучение. Иногда после развертывания на периферии обнаруживается, что эффект не так хорош, как ожидалось, или, поскольку он работает в течение определенного периода времени, исходную модель необходимо точно настроить.

Какая вычислительная мощность необходима на периферии? Сачин Катти заявил, что существует положительная корреляция между вычислительной мощностью и энергопотреблением. Развернутое оборудование на периферии потребляет около 200 Вт энергии, облачное развертывание — 1–2 киловатта, а энергопотребление однослойной стойки в дата-центре может достигать 100 киловатт. Если сложить энергопотребление всего дата-центра, оно может достичь 50-100 гигаватт. В случаях, когда вычислительная мощность или энергопотребление высоки, эффективность охлаждения и мощность охлаждения являются ключевыми переменными, которые необходимо учитывать. Поскольку крупномасштабные данные и вычислительная мощность будут выделять много тепла, «в настоящее время мы используем технологию жидкостного охлаждения для эффективного охлаждения парка автомобилей. Существующая технология жидкостного охлаждения способна успешно охладить парк мощностью 100 киловатт и, как ожидается, В будущем мощность будет увеличена до 300 киловатт. Таким образом, ограничения Еще одним очень важным фактором вычислительной мощности является то, достаточно ли у вас возможностей для эффективного охлаждения окружающей среды».