noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Autor: Chang Minxiao

Editor: Qiu Xiaofen

Desde la guerra de cientos de modelos en los últimos dos años hasta la implementación gradual de LLM (Large Language Model), la IA en el dispositivo siempre ha sido una parte crucial del desarrollo de la tecnología de inteligencia artificial.

La llamada IA ​​del lado del terminal significa que los usuarios no dependen de servidores en la nube durante el uso y utilizan los servicios de IA directamente en el dispositivo terminal.

En comparación con los modelos convencionales de lenguajes grandes como ChatGPT4.0 y el recientemente lanzado Llama3.1 que dependen de interfaces en la nube, la IA en el dispositivo tiene una gran privacidad y también muchas ventajas, como operación personalizada y ahorro de costos.

Aunque varias empresas, representadas por Microsoft, ya han propuesto en el mercado productos "AI PC", que reducirán con éxito el modelo de lenguaje grande en la nube y podrán utilizarse sin conexión en terminales móviles como teléfonos móviles y ordenadores, asegura que se puede utilizar en dispositivos inteligentes de bajo costo. El uso de programas automatizados en cualquier momento y lugar sigue siendo un gran desafío para los modelos pequeños.

Una nueva empresa estadounidense quiere resolver el problema de la instalación de terminales.

"Aizip" se fundó en Silicon Valley, Estados Unidos, en 2020. Se centra en la aplicación final de inteligencia artificial diminuta (Tiny AI) en hardware inteligente, como el extremo de percepción y el extremo de borde.

Actualmente, “Aizip” ha creado una serie de pequeños modelos de lenguaje (SLM) y agentes de IA, denominados Gizmo, con tamaños que van desde 300 millones a 2 mil millones de parámetros.

Este modelo admite el uso en varias plataformas, lo que permite una mejor compatibilidad entre diferentes dispositivos y permite a los usuarios experimentar operaciones y funciones consistentes al cambiar entre diferentes dispositivos.

"Aizip" ofrece principalmente una serie de servicios como servicio al cliente inteligente, soporte técnico, soporte financiero y soporte humano a clientes empresariales. Los usuarios individuales pueden utilizar el servicio de asistente de voz personalizado de Gizmo en terminales de dispositivos inteligentes como teléfonos móviles, tabletas, relojes, automóviles y electrodomésticos.

Se entiende que "Aizip" espera permitir a los usuarios utilizar aplicaciones de IA en cualquier lugar mediante la creación de un modelo de IA que pueda implementarse en dispositivos móviles en cualquier momento y tenga una gran escalabilidad. Actualmente, la empresa está logrando avances en tecnologías clave, como la eficiencia de los modelos centrados en datos y la automatización del diseño de IA.

En comparación con los modelos grandes, los modelos pequeños se pueden implementar en chips que cuestan menos de diez dólares. Sus costos de aplicación y promoción son mucho más bajos y pueden usarse ampliamente en terminales móviles de dispositivos inteligentes.

Esto significa que la IA puede ofrecer a los usuarios sugerencias de forma más rápida y precisa. Los usuarios también pueden utilizar la tecnología de IA de forma más cómoda en teléfonos móviles y tabletas para manejar el trabajo y el entretenimiento diarios, y utilizar los servicios personalizados de IA sin conexión.

En términos de comercialización, se entiende que “Aizip” ha cooperado recientemente con Renesas Technology para lanzar un modelo de lenguaje pequeño ultraeficiente SLM (Small Language Model) y agentes de IA compactos basados ​​en una unidad de microprocesador (MPU) ARM. Renesas Technology ofrece una amplia gama de microcontroladores, sistemas en chip (SoC), circuitos integrados de administración de energía y otros productos.

En cuanto al equipo, los miembros del equipo "Aizip" provienen de universidades reconocidas como Stanford, Berkeley, MIT y Carnegie Mellon. Muchos miembros han trabajado para Google y Meta.

Weier Wan, uno de los miembros fundadores de "Aizip" y jefe de desarrollo de Aizip SLM y agentes de IA, dijo: "Estamos siendo testigos de un momento crítico en la IA eficiente. Los agentes de IA en el dispositivo realmente pueden hacer que todo piense. En una computadora en funcionamiento a 1,2 GHz En el RZ/G2L con un solo núcleo A55, el tiempo de respuesta del modelo se puede acortar a menos de 3 segundos”.

fin

fin