ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

著者丨チャン・ミンシャオ

編集者丨邱暁芬

過去 2 年間の数百のモデル戦争から LLM (ラージ言語モデル) の段階的な実装に至るまで、オンデバイス AI は常に人工知能テクノロジーの開発において重要な部分を占めてきました。

いわゆる端末側AIとは、ユーザーが利用時にクラウドサーバーに依存せず、端末上で直接AIサービスを利用することを意味します。

ChatGPT4.0や新しく発売されたLlama3.1などのクラウドインターフェイスに依存する主流の大規模言語モデルと比較して、オンデバイスAIはプライバシーが強く、カスタマイズされた操作やコスト削減など多くの利点があります。

マイクロソフトを代表とする複数の企業が、クラウド上で大規模な言語モデルを削減し、携帯電話やコンピュータなどのモバイル端末上でオフラインで使用できる「AI PC」製品をすでに市場に提案しているが、いつでもどこでも自動プログラムを使用できることは、小型モデルにとって依然として大きな課題です。

アメリカの新興企業は、端末実装の問題を解決したいと考えています。

「Aizip」は、2020年に米国のシリコンバレーで設立されました。知覚エンドやエッジエンドなどのスマートハードウェア上での小型人工知能（Tiny AI）のエンドサイドAIアプリケーションに焦点を当てています。

現在、「Aizip」は、パラメータ数が 3 億から 20 億の範囲にある、Gizmo という名前の一連の小型言語モデル (SLM) と AI エージェントを作成しています。

このモデルはさまざまなプラットフォームでの使用をサポートしており、異なるデバイス間の互換性が向上し、異なるデバイス間での切り替え時に一貫した操作と機能を体験できます。

「Aizip」は主に企業顧客にインテリジェントなカスタマーサービス、技術サポート、財務サポート、人的サポートなどの一連のサービスを提供しています。個人ユーザーは、携帯電話、タブレット、時計、自動車、家電などのスマートデバイス端末上で、ギズモのパーソナライズされた音声アシスタントサービスを利用できる。

「Aizip」は、いつでもモバイルデバイスに導入でき、拡張性の高いAIモデルを構築することで、ユーザーがどこでもAIアプリケーションを利用できるようにしたいと考えているという。同社は現在、データ中心のモデルの効率化や AI 設計の自動化などの主要テクノロジーで画期的な進歩を遂げています。

大型モデルと比較して、小型モデルは 10 ドル未満のチップ上に導入でき、アプリケーションやプロモーションのコストがはるかに低く、スマート デバイスのモバイル端末で広く使用できます。

これは、AI がユーザーにより迅速かつ正確に提案を提供できることを意味します。ユーザーは、携帯電話やタブレットで AI テクノロジーをより便利に使用して、日常の仕事やエンターテイメントを処理したり、AI のパーソナライズされたサービスをオフラインで使用したりすることもできます。

商用化の面では、「Aizip」は最近ルネサス テクノロジーと協力して、ARM マイクロプロセッサ ユニット (MPU) に基づく超効率的な小型言語モデル SLM (Small Language Model) と小型 AI エージェントを発売したことがわかりました。ルネサス テクノロジは、マイクロコントローラ、システムオンチップ (SoC)、電源管理 IC などの製品を幅広く提供しています。

チームに関して言えば、「Aizip」チームのメンバーはスタンフォード、バークレー、MIT、カーネギーメロンなどの有名大学の出身であり、多くのメンバーがGoogleやMetaで働いていました。

「Aizip」の創設メンバーの1人であり、Aizip SLMおよびAIエージェント開発の責任者であるWeier Wan氏は、「私たちは効率的なAIにおいて重大な瞬間を目の当たりにしている。オンデバイスAIエージェントは真にあらゆるものを考えさせることができる。 1.2 GHz の場合、A55 コアを 1 つ搭載した RZ/G2L では、モデルの応答時間を 3 秒未満に短縮できます。」

終わり

終わり