Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Автор: Чан Миньсяо

Редактор 丨 Цю Сяофэнь

От войны сотен моделей за последние два года до постепенного внедрения LLM (Large Language Model), ИИ на устройствах всегда был важной частью развития технологии искусственного интеллекта.

Так называемый искусственный интеллект на стороне терминала означает, что пользователи не полагаются на облачные серверы во время использования и используют сервисы искусственного интеллекта непосредственно на терминальном устройстве.

По сравнению с распространенными моделями больших языков, такими как ChatGPT4.0 и недавно выпущенной Llama3.1, основанными на облачных интерфейсах, ИИ на устройстве обеспечивает надежную конфиденциальность, а также имеет множество преимуществ, таких как персонализированное управление и экономия средств.

Хотя несколько компаний, представленных Microsoft, уже предложили на рынке продукты «AI PC», которые успешно сокращают большую языковую модель в облаке и могут использоваться в автономном режиме на мобильных терминалах, таких как мобильные телефоны и компьютеры, это гарантирует, что может использоваться на недорогих интеллектуальных устройствах. Использование автоматизированных программ в любое время и в любом месте остается серьезной проблемой для небольших моделей.

Американская стартап-компания хочет решить проблему внедрения терминала.

Компания Aizip была основана в Кремниевой долине в США в 2020 году. Она ориентирована на конечное применение крошечного искусственного интеллекта (Tiny AI) на интеллектуальном оборудовании, например, на стороне восприятия и на периферии.

В настоящее время «Aizip» создал серию малых языковых моделей (SLM) и агентов искусственного интеллекта под названием Gizmo с размерами от 300 миллионов до 2 миллиардов параметров.

Эта модель поддерживает использование на различных платформах, что обеспечивает лучшую совместимость между различными устройствами и позволяет пользователям получать единообразные операции и функции при переключении между различными устройствами.

«Aizip» в основном предоставляет ряд услуг, таких как интеллектуальное обслуживание клиентов, техническая поддержка, финансовая поддержка и кадровая поддержка для корпоративных клиентов. Отдельные пользователи могут использовать персонализированную службу голосового помощника Gizmo на терминалах интеллектуальных устройств, таких как мобильные телефоны, планшеты, часы, автомобили и бытовая техника.

Понятно, что «Aizip» надеется дать пользователям возможность использовать приложения ИИ где угодно, создав модель ИИ, которая может быть развернута на мобильных устройствах в любое время и обладает высокой масштабируемостью. В настоящее время компания совершает прорывы в ключевых технологиях, таких как эффективность моделей, ориентированных на данные, и автоматизация проектирования ИИ.

По сравнению с большими моделями, маленькие модели могут быть развернуты на чипах стоимостью менее десяти долларов. Затраты на их применение и продвижение намного ниже, и они могут широко использоваться в мобильных терминалах интеллектуальных устройств.

Это означает, что ИИ может предоставлять пользователям предложения более быстро и точно. Пользователи также могут более удобно использовать технологию искусственного интеллекта на мобильных телефонах и планшетах для выполнения повседневной работы и развлечений, а также использовать персонализированные услуги искусственного интеллекта в автономном режиме.

С точки зрения коммерциализации предполагается, что «Aizip» недавно сотрудничала с Renesas Technology для запуска сверхэффективной модели малого языка SLM (Small Language Model) и компактных агентов искусственного интеллекта на базе микропроцессорного блока ARM (MPU). Renesas Technology предлагает широкий спектр микроконтроллеров, систем на кристалле (SoC), ИС управления питанием и других продуктов.

Что касается команды, члены команды «Aizip» представляют такие известные университеты, как Стэнфорд, Беркли, Массачусетский технологический институт и Карнеги-Меллон. Многие члены команды работали в Google и Meta.

Вейер Ван, один из основателей Aizip и руководитель отдела разработки Aizip SLM и агентов искусственного интеллекта, сказал: «Мы наблюдаем критический момент в эффективном искусственном интеллекте. Агенты искусственного интеллекта на устройстве действительно могут заставить все думать. На работающем компьютере на частоте 1,2 ГГц. На RZ/G2L с одним ядром A55 время отклика модели можно сократить до менее 3 секунд».

конец

конец