nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Auteur 丨 Chang Minxiao

Editeur : Qiu Xiaofen

De la guerre des centaines de modèles au cours des deux dernières années à la mise en œuvre progressive du LLM (Large Language Model), l’IA sur appareil a toujours été un élément crucial du développement de la technologie de l’intelligence artificielle.

L'IA dite côté terminal signifie que les utilisateurs ne s'appuient pas sur des serveurs cloud pendant l'utilisation et utilisent les services d'IA directement sur le terminal.

Par rapport aux modèles de langages traditionnels tels que ChatGPT4.0 et le nouveau Llama3.1 qui s'appuient sur des interfaces cloud, l'IA sur appareil offre une forte confidentialité et présente également de nombreux avantages tels qu'un fonctionnement personnalisé et des économies de coûts.

Bien qu'il existe actuellement plusieurs sociétés sur le marché représentées par Microsoft qui ont proposé des produits « AI PC », qui permettront de réduire avec succès le grand modèle de langage dans le cloud et pourront être utilisés hors ligne sur des terminaux mobiles tels que des téléphones mobiles et des ordinateurs, cela garantit que il peut être utilisé sur des appareils intelligents à faible coût. Utiliser des programmes automatisés à tout moment et en tout lieu reste un défi majeur pour les petits modèles.

Une start-up américaine souhaite résoudre le problème de la mise en œuvre des terminaux.

« Aizip » a été fondée dans la Silicon Valley aux États-Unis en 2020. Elle se concentre sur l'application d'une petite intelligence artificielle (Tiny AI) sur du matériel intelligent tel que l'extrémité de perception et l'extrémité de périphérie.

Actuellement, « Aizip » a créé une série de petits modèles de langage (SLM) et d'agents IA, nommés Gizmo, avec des tailles allant de 300 millions à 2 milliards de paramètres.

Ce modèle prend en charge une utilisation sur diverses plates-formes, permettant une meilleure compatibilité entre différents appareils et permettant aux utilisateurs de bénéficier d'opérations et de fonctions cohérentes lors du basculement entre différents appareils.

« Aizip » fournit principalement une série de services tels qu'un service client intelligent, un support technique, un support financier et un support humain aux entreprises clientes. Les utilisateurs individuels peuvent utiliser le service d'assistant vocal personnalisé de Gizmo sur des terminaux intelligents tels que des téléphones mobiles, des tablettes, des montres, des voitures et des appareils électroménagers.

Il est entendu que « Aizip » espère permettre aux utilisateurs d'utiliser des applications d'IA n'importe où en créant un modèle d'IA pouvant être déployé sur des appareils mobiles à tout moment et doté d'une forte évolutivité. La société réalise actuellement des percées dans des technologies clés telles que l’efficacité des modèles centrés sur les données et l’automatisation de la conception par l’IA.

Par rapport aux grands modèles, les petits modèles peuvent être déployés sur des puces coûtant moins de dix dollars. Leurs coûts d'application et de promotion sont bien inférieurs et ils peuvent être largement utilisés dans les terminaux mobiles des appareils intelligents.

Cela signifie que l’IA peut fournir aux utilisateurs des suggestions plus rapidement et plus précisément. Les utilisateurs peuvent également utiliser la technologie de l'IA de manière plus pratique sur les téléphones mobiles et les tablettes pour gérer leur travail et leurs divertissements quotidiens, et utiliser les services personnalisés de l'IA hors ligne.

En termes de commercialisation, il est entendu que « Aizip » a récemment coopéré avec Renesas Technology pour lancer un modèle de petit langage ultra-efficace SLM (Small Language Model) et des agents d'IA compacts basés sur une unité de microprocesseur (MPU) ARM. Renesas Technology propose une large gamme de microcontrôleurs, de systèmes sur puce (SoC), de circuits intégrés de gestion de l'alimentation et d'autres produits.

En termes d'équipe, les membres de l'équipe « Aizip » viennent d'universités renommées telles que Stanford, Berkeley, MIT et Carnegie Mellon. De nombreux membres ont travaillé pour Google et Meta.

Weier Wan, l'un des membres fondateurs d'« Aizip » et responsable du développement d'Aizip SLM et des agents IA, a déclaré : « Nous assistons à un moment critique dans l'efficacité de l'IA. Les agents IA sur appareil peuvent vraiment tout faire réfléchir. à 1,2 GHz Sur le RZ/G2L avec un seul cœur A55, le temps de réponse du modèle peut être réduit à moins de 3 secondes.

fin

fin