Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Autor: Chang Minxiao

Herausgeber: Qiu Xiaofen

Von dem Krieg um Hunderte von Modellen in den letzten zwei Jahren bis zur schrittweisen Implementierung von LLM (Large Language Model) war die KI auf dem Gerät immer ein entscheidender Teil der Entwicklung der Technologie der künstlichen Intelligenz.

Durch die sogenannte terminalseitige KI sind Nutzer bei der Nutzung nicht auf Cloud-Server angewiesen und nutzen KI-Dienste direkt auf dem Endgerät.

Im Vergleich zu gängigen großen Sprachmodellen wie ChatGPT4.0 und dem neu eingeführten Llama3.1, die auf Cloud-Schnittstellen basieren, bietet die KI auf dem Gerät einen hohen Datenschutz und viele Vorteile wie personalisierte Bedienung und Kosteneinsparungen.

Obwohl mehrere Unternehmen, vertreten durch Microsoft, bereits „AI PC“-Produkte auf den Markt gebracht haben, die das große Sprachmodell in der Cloud erfolgreich reduzieren und offline auf mobilen Endgeräten wie Mobiltelefonen und Computern genutzt werden können, stellen sie dies sicher Die Nutzung automatisierter Programme jederzeit und überall ist für kleine Modelle weiterhin eine große Herausforderung.

Ein amerikanisches Start-up-Unternehmen möchte das Problem der Terminalimplementierung lösen.

„Aizip“ wurde 2020 im Silicon Valley in den USA gegründet. Der Schwerpunkt liegt auf der endseitigen KI-Anwendung winziger künstlicher Intelligenz (Tiny AI) auf intelligenter Hardware wie Perception End und Edge End.

Derzeit hat „Aizip“ eine Reihe kleiner Sprachmodelle (SLM) und KI-Agenten namens Gizmo mit Größen zwischen 300 Millionen und 2 Milliarden Parametern erstellt.

Dieses Modell unterstützt die Verwendung auf verschiedenen Plattformen, was eine bessere Kompatibilität zwischen verschiedenen Geräten ermöglicht und es Benutzern ermöglicht, konsistente Vorgänge und Funktionen beim Wechsel zwischen verschiedenen Geräten zu erleben.

„Aizip“ bietet hauptsächlich eine Reihe von Dienstleistungen wie intelligenten Kundenservice, technischen Support, finanzielle Unterstützung und menschliche Unterstützung für Unternehmenskunden an. Einzelne Benutzer können den personalisierten Sprachassistentendienst von Gizmo auf Smart-Device-Endgeräten wie Mobiltelefonen, Tablets, Uhren, Autos und Haushaltsgeräten nutzen.

Es versteht sich, dass „Aizip“ den Benutzern die Nutzung von KI-Anwendungen überall ermöglichen möchte, indem ein KI-Modell erstellt wird, das jederzeit auf mobilen Geräten bereitgestellt werden kann und über eine starke Skalierbarkeit verfügt. Das Unternehmen erzielt derzeit Durchbrüche bei Schlüsseltechnologien wie datenzentrierter Modelleffizienz und KI-Designautomatisierung.

Im Vergleich zu großen Modellen können kleine Modelle auf Chips eingesetzt werden, die weniger als zehn Dollar kosten. Ihre Anwendungs- und Werbekosten sind viel geringer und sie können häufig in mobilen Endgeräten intelligenter Geräte eingesetzt werden.

Das bedeutet, dass KI den Nutzern schneller und präziser Vorschläge machen kann. Benutzer können die KI-Technologie auch bequemer auf Mobiltelefonen und Tablets nutzen, um die tägliche Arbeit und Unterhaltung zu erledigen, und die personalisierten Dienste der KI offline nutzen.

Im Hinblick auf die Kommerzialisierung wird davon ausgegangen, dass „Aizip“ kürzlich mit Renesas Technology zusammengearbeitet hat, um ein hocheffizientes kleines Sprachmodell SLM (Small Language Model) und kompakte KI-Agenten auf Basis einer ARM-Mikroprozessoreinheit (MPU) auf den Markt zu bringen. Renesas Technology bietet eine breite Palette an Mikrocontrollern, System-on-Chip (SoC), Power-Management-ICs und anderen Produkten.

Was das Team angeht, stammen die Mitglieder des „Aizip“-Teams von namhaften Universitäten wie Stanford, Berkeley, MIT und Carnegie Mellon. Viele Mitglieder haben für Google und Meta gearbeitet.

Weier Wan, eines der Gründungsmitglieder von „Aizip“ und Leiter der Entwicklung von Aizip SLM und AI Agents, sagte: „Wir erleben einen kritischen Moment in der effizienten KI. KI-Agenten auf dem Gerät können wirklich alles zum Denken bringen. In einem laufenden Computer.“ bei 1,2 GHz Beim RZ/G2L mit einem einzelnen A55-Kern kann die Reaktionszeit des Modells auf weniger als 3 Sekunden verkürzt werden.“

Ende

Ende