Nachricht

Text |. Wang Zhiyuan

Kürzlich gab mir ein Freund Feedback:KimiWerbung ist wirklich heftig.

Sie können es sehen, wenn Sie NetEase Music hören oder Bilibili durchsuchen. Es wird gesagt, dass das Produkt für normale Benutzer geeignet ist. Es ist jedoch erst Mitte August und einige von Kimis Aktionen lösen bei den Menschen ein etwas anderes Gefühl aus.

Was ist der Unterschied?

Einerseits am 2. August Kimis Muttergesellschaftdunkle Seite des Mondes(Moonshot AI) gab die offizielle Veröffentlichung von Kimis API auf Unternehmensebene bekannt. Dieses Modell auf Unternehmensebene bietet einen stärkeren Datenschutz und eine schnellere Verarbeitungsgeschwindigkeit als die normale Benutzerversion und kann Unternehmen bei der Bewältigung komplexer Aufgaben und großer Datenmengen unterstützen.

Unmittelbar danach gaben sie bekannt, dass sie die Kosten für die Kontext-Caching-Cache-Technologie der offenen Kimi-Plattform von ursprünglich 10 Yuan pro 1 Mio. Token auf 5 Yuan pro Minute senken würden. Ich habe erfahren, dass diese Preissenkung seit dem 1. Juli in der öffentlichen Betaphase auf der offenen Plattform läuft.

Nachdem Sie dies gelesen haben, fragen Sie sich vielleicht: Was genau ist Cache?

Einfach ausgedrückt besteht seine Funktion darin, Text oder Daten im Voraus zu speichern, die wiederholt verwendet und häufig abgefragt werden können, wodurch die Argumentationseffizienz des Modells verbessert wird, ohne dass die Kosten steigen.

Daher frage ich mich bei diesen Maßnahmen: Hat KI einen effektiven Weg im B2B-Bereich gefunden? Nach einer Recherche denke ich: Ja.

01

Lassen Sie uns zunächst über einen Branchenkonsens sprechen:Der Einsatz von KI ist zweifellos der Schlüssel zum Erfolg des Modells.

Dieses Jahr diskutierte Robin Li, CEO von Baidu, auf der World Artificial Intelligence Conference einige seiner Ansichten zur Anwendung großer Modelle. Er sagte: Obwohl die Entwicklung auf der C-Seite wichtig ist, können große Modelle in Anwendungsszenarien auf der B-Seite bessere Ergebnisse erzielen.

Er glaubt, dass im Zeitalter der KI Anwendungen wertvoller sind, die tiefgreifende Auswirkungen auf die Industrie haben und die Effizienz erheblich verbessern können. Er geht davon aus, dass in den Bereichen medizinische Versorgung, Finanzen, Bildung, Fertigung, Transport und Landwirtschaft Anwendungen entwickelt werden Abhängig von ihren jeweiligen Eigenschaften und Datenressourcen werden maßgeschneiderte intelligente Agenten in Zukunft Millionen erreichen und ein riesiges Ökosystem bilden.

In diesem Jahr gewann Baidu 17 Projekte in verschiedenen Bereichen wie medizinische Versorgung, Finanzen, Energie, Umweltschutz und Transport, darunter große staatliche Unternehmen und branchenführende Unternehmen, und die Beträge waren ebenfalls sehr beträchtlich.

Robin Li ist offensichtlich davon überzeugt, dass KI-Anwendungen schnell auf intelligenten Agenten implementiert werden müssen.

Lassen Sie uns nicht sagen, ob es in die Besonderheiten des intelligenten Gremiums fällt. Es gibt so viele Ausschreibungsunterlagen, die einzeln geliefert werden müssen. Wenn in anderthalb Jahren etwas nicht abgeschlossen ist, wird der Kunde definitiv nicht bereit sein.

Mal sehen, was Yang Zhilin, der Gründer von Moonshot AI, darüber denkt.

Im Juni erwähnte Yang während eines Gesprächs zwischen Geek Park-Gründer Zhang Peng und Yang Zhilin, dass sie die B-Seite nicht vollständig ausschlossen, sondern sich hauptsächlich auf die C-Seite konzentrierten. Sein Produkt Kimi hat im KI-Bereich Top-Traffic und -Nutzung erreicht.

Dennoch kommt es bei Nutzern zu Spitzenzeiten häufig zu Problemen aufgrund unzureichender Rechenleistung. Um dieser Situation gerecht zu werden, haben sie mehrere Maßnahmen ergriffen, um die Betriebskosten zu senken und die Effizienz zu steigern.

Eine davon besteht darin, die Inferenzleistung des Modells durch Caching-Technologie zu optimieren. Diese Technologie ermöglicht es Kimi, bei der Verarbeitung komplexer Anfragen schneller zu reagieren und die Notwendigkeit wiederholter Berechnungen zu reduzieren.

Diese Verbesserung verbessert nicht nur die Reaktionsgeschwindigkeit und Verarbeitungseffizienz des Systems, sondern stellt auch die Kohärenz und Genauigkeit des Dialogs oder der Textgenerierung sicher, was in Zukunft angesichts der Möglichkeit, B-Side-Geschäfte zu tätigen, sehr wichtig sein wird Eine große Anzahl zentraler Verarbeitung von Datenanfragen ist besonders wichtig.

Daher glaubt Yang Zhilin, dass man, wenn man auf die B-Seite wechseln möchte, zunächst das Problem der Rechenleistung lösen muss und die Gewährleistung der Stabilität der Rechenleistung die Grundlage bildet.

Andererseits denke ich, dass es nicht so sexy ist, C-End-Geschäfte zu machen. Es ist auf lange Sicht nicht so auffällig, Werbung zu machen.

Ich habe von vielen Werbefachleuten erfahren, dass die Umstellungskosten pro Kopf ab der ersten Hälfte des Jahres 2024 weiter steigen werden. Die Umstellungskosten pro Kimi-PC-Benutzer werden grundsätzlich 40 Yuan/Person erreichen.

Betrachtet man jedoch den allgemeinen Trend, werden die steigenden Wettbewerbskosten auf dem KI-Markt in C-End-Szenarien zweifellos viele KI-Unternehmen dazu veranlassen, ihre Marktstrategien neu zu bewerten.

Obwohl der C-Seite-Markt ein großes Potenzial hat, sind die B-Seite-Anwendungsszenarien die Schlüsselbereiche, um die tiefgreifenden Auswirkungen und effizienten Ergebnisse großer Modelle zu erzielen. Denn nur durch eine echte Kostensenkung und Effizienzsteigerung können wir für Unternehmen erreichen den Fortschritt der Branche und sogar der gesamten Branche fördern.

02

Da der Konsens richtig ist. Wie können also Agenten, KI oder große (kleine) Modelle effektiv in den B2B-Bereich einsteigen?Der erste Weg besteht darin, der B-Seite vorgeschaltet zu sein.

Was bedeutet es?

Die sogenannte B-Seite Upstream ist die Quelle der Lieferkette. Beispiel: Angenommen, es gibt ein Pharmaunternehmen, das Bedarf und Anwendungsszenarien für den Einsatz von KI hat, aber es ist schwierig, in ein großes Modellunternehmen einzudringen. Was soll ich tun?

Zu diesem Zeitpunkt stellen Sie fest, dass das Pharmaunternehmen eine Art SaaS-Software verwendet. Das große KI-Modellunternehmen kann auf diese Weise eine Zusammenarbeit mit dem Softwarelieferanten in Betracht ziehen, und das Pharmaunternehmen kann dies tun Nutzen Sie die Software und sorgen Sie gleichzeitig für einen reibungslosen Übergang zur Nutzung von KI.

Dies ist die Denkweise vieler traditioneller B-Side-Geschäftsleute.

Tatsächlich gibt es für B2B-Software mehrere Bereitstellungsformen. Erstens die lokalisierte Bereitstellung, bei der die Software auf dem eigenen Server oder Gerät des Kunden installiert wird, wodurch der Kunde die Kontrolle über Daten und Sicherheit erhält.

Diese Methode erfordert regelmäßige Upgrades, deren Wartung mühsam und kostspielig ist. Beispielsweise nutzten große Hersteller wie Mercedes-Benz und BMW in der Vergangenheit herkömmliche CRM-Systeme für den lokalen Einsatz zur Verwaltung ihrer Agenten.

Allerdings steht die lokale Bereitstellung bei der Implementierung der KI-Integration vor vielen Herausforderungen, insbesondere vorab trainierte Modelle, die nach der Installation auf Kundenanfragen reagieren können, auch wenn sie nicht mit dem Internet verbunden sind.

Obwohl viele ToB-Unternehmen daran interessiert sind, es auszuprobieren, ist die Komplexität der tatsächlichen Abläufe sehr hoch. Beispielsweise haben Pharmakonzerne oder Krankenhäuser einen enormen Bedarf an Datenmanagement. Sobald die Software aktualisiert werden muss, um neue KI-Funktionen zu integrieren, wird der gesamte Prozess äußerst kompliziert.

Darüber hinaus müssen Projektleiter ihren Vorgesetzten erklären, warum sie viel Geld für die Einführung von KI-Funktionen ausgeben müssen.

Zum Beispiel:

Geben Sie 20 Millionen aus, um ein Modell zu bauen. Es hört sich großartig an, wir verfügen über KI-Fähigkeiten, aber die tatsächliche Situation lässt die Leute vielleicht denken, dass es sich hierbei nur um ein KI-Wissens-Frage- und Antwortsystem handelt. Wenn man es so betrachtet, fühlt es sich immer so an, als wäre es kein gutes Geschäft.

Ein weiterer Punkt ist: Selbst wenn ein Unternehmen ein Modell einführt, was passiert, wenn die Mitarbeiter es nicht mehr nutzen können? Wäre dieses Geld dann nicht verschwendet?Dafür ist keine Berechnung geeignet. Natürlich verfügen einige Unternehmen nicht einmal über eine Wissensbasis und es besteht keine Notwendigkeit, KI-Fähigkeiten einzuführen.

Das SaaS-Modell als eine andere Form ermöglicht es Benutzern, Gebühren über Abonnements zu zahlen, beispielsweise für Kollaborationstools wie Feishu. Im Rahmen dieses Modells können SaaS-Unternehmen KI-Funktionen direkt integrieren und haben sogar die Möglichkeit, kleine Modellunternehmen zu umgehen und Dienstleistungen direkt von großen Modellunternehmen zu erwerben, um Prozesse zu transformieren.

Unter all diesen Formen ist das SaaS-Modell das am einfachsten zu integrierende KI-Funktionen, da Dienstanbieter KI-Funktionen einheitlich im Backend aktualisieren und warten können und sich Kunden nicht um technische Details kümmern müssen.

Daher können Unternehmen, die KI-Lösungen anbieten, aus einer Top-Down-Perspektive einige Aufträge gewinnen, der Prozess, Kunden wirklich erfolgreich zu machen, kann jedoch recht schwierig sein, und die Anstrengungen und Gewinne sind oft nicht verhältnismäßig.

03

Gibt es also eine neue Lösung? haben. Betrachten wir es von unten nach oben.

Wir müssen ein neues Verständnis etablieren:

Der Einsatz von KI im Unternehmen hat tatsächlich einen Durchbruch erzielt. Sie hilft uns vor allem dabei, die Effizienz unserer Arbeit zu verbessern, anstatt sie komplett neu zu starten.

Was ist ein sauberer Start?

Das heißt, den Prozess von Grund auf neu zu gestalten, ohne sich im Rahmen des Workflows oder Projektmanagements auf bestehende Strukturen und Pläne zu verlassen; das bedeutet, alte Methoden und Systeme aufzugeben und völlig neue Methoden zur Lösung des Problems einzuführen eine Aufgabe.

Beispielsweise nutzte ein Unternehmen ursprünglich ein sehr traditionelles Customer-Relationship-Management-System (CRM). Mit der Zeit und dem Wachstum des Unternehmens konnte dieses System die Anforderungen des Unternehmens nicht mehr erfüllen.

Das Unternehmen hat beschlossen, das alte System nicht zu modifizieren oder zu aktualisieren, sondern ein neues CRM-System von Grund auf zu entwickeln. Dieses neue System wird den neuesten Technologie-Stack verwenden, Funktionen entwerfen, die besser zu modernen Geschäftsprozessen passen, und die neuesten Funktionen besser integrieren Datenanalysetools.

Dies ist ein Beispiel für einen „sauberen Start“. Aber wissen Sie was?KI untergräbt den Prozess der Prozessumgestaltung Meistens übernimmt KI Aufgaben, mit denen Menschen bereits vertraut sind, und es besteht keine Notwendigkeit, das Rad neu zu erfinden.

Was bedeutet es?

Wenn ein Unternehmen mit der Nutzung von KI-Modellen beginnt, müssen diese Modelle eng in den unternehmenseigenen Workflow integriert werden. Einige Unternehmen möchten beispielsweise einige fortschrittliche große Modelle im medizinischen oder pädagogischen Bereich verwenden, dieser Prozess kann jedoch auf viele Schwierigkeiten stoßen.

Da das Geschäft und die Prozesse jedes Unternehmens einzigartig sind und auch die von der KI benötigten Daten einzigartig sind, ist ein allgemeines großes Modell möglicherweise nicht geeignet. Es ist oft schwierig, diese umfassenden Konzepte wirklich in einem Unternehmen anzuwenden.

was zu tun?Zu diesem Zeitpunkt wäre es einfacher, ein kleines Modell und einen Assistenten zu haben.

Zum Beispiel:

Buchhalter kleiner und mittlerer Unternehmen nutzen in der Regel Software wie Kingdee, UFIDA und Chanjet. In dieser Software sind bereits viele Daten gespeichert; die Betreiber möchten lediglich die Leistungsfähigkeit der KI nutzen, um schnell ein Datenelement zu finden oder eine Schlussfolgerung zu ziehen, ohne große Änderungen an der ursprünglichen Software vornehmen zu müssen.

Daher besteht eine gute Möglichkeit, KI auf Geschäftsszenarien (ToB) anzuwenden, darin, komplexe Geschäftsprozesse in viele kleine Aufgaben oder spezifische kleine Szenarien zu zerlegen und dann KI zu verwenden, um jedes kleine Szenario zu verbessern.

Wir sehen auch, dass Unternehmen wie MicrosoftOpenAISowohl Investoren als auch Salesforce, der Marktführer in der CRM-Branche, haben KI nicht zur Entwicklung neuer Produkte genutzt.

Obwohl sie Produkte weiterhin mit neuen Funktionen kennzeichnen, verwenden sie tatsächlich große Modelle, um bestehende Geschäftsprozesse oder Produktfunktionen zu unterstützen und zu verbessern.

Mit anderen Worten: Sie verfeinern ein kleines Modell zu einem Assistenten oder einer Erweiterung, die sich besser in bestehende Systeme integrieren und diese optimieren lässt, anstatt sie vollständig zu ersetzen.

Dies ähnelt ein wenig den Plug-ins, die viele KI-Unternehmen kürzlich auf der PC-Seite erstellt haben. Sie müssen nur sanft mit der Maus gleiten oder eine Tastenkombination drücken, und die KI wird eingeblendet, um Ihnen zu helfen. Ihre Hauptfunktion besteht darin, uns dabei zu helfen, bessere Entscheidungen zu treffen.

04

Wenn Sie es nicht glauben, können Sie auch darüber nachdenken: Wozu brauchen ToB-Unternehmen wirklich KI?

Laut Zhiyuans Forschung nutzen sie Daten hauptsächlich, um Entscheidungen in den Bereichen Betrieb, Management, Entscheidungsfindung und Marketing zu treffen.Wie können KI-Unternehmen also sowohl praktisch als auch kostengünstig sein? Der Schlüssel liegt darin, eine schnelle Replikation zu erreichen und mehrere Szenarien zu sehr geringen Kosten abzudecken.

Wie kopieren?

Eine Möglichkeit besteht darin, KI in einen intelligenten Agenten zu kapseln, der lokale Daten abrufen kann.Aus diesem Grund reduziert Kimi Chat die Kosten für das Zwischenspeichern von Cache, da das Speichern häufig verwendeter lokaler Texte dazu beitragen kann, die Genauigkeit des Assistenten zu verbessern.

Aber hier stellt sich die Frage: Wie kann man es gleichzeitig präzise, ​​vielseitig und kostengünstig machen?

In diesem Zusammenhang können wir „hohe Genauigkeit“ wie folgt definieren:Solange das Unternehmen nutzbar ist und die Genauigkeit hoch genug ist, können Benutzer, auch wenn gelegentlich ein Fehler auftritt, ihn identifizieren und erklären, warum er auftritt.

„Niedrige Kosten“ bedeutet, dass die Anfangskosten des Projekts niedrig sein müssen, es auf einem einzigen Computer bereitgestellt werden kann und einfach zu verwenden und zu warten sein muss.Heutzutage sind die Hardwarekosten vieler großer Modelle sehr hoch. Wenn das Unternehmen nicht sicher ist, wie viel Geld es verdienen kann, wird es definitiv nicht bereit sein, zu viel zu investieren.

Der Vorteil großer Modelle besteht darin, dass sie das Vielseitigkeitsproblem früher KI-Algorithmen lösen.

Theoretisch kann ein Modell alle Szenarien bewältigen; in der Praxis müssen wir es verfeinern. Daher definieren wir „hohe Vielseitigkeit“ als die Fähigkeit, Werkzeuge und Automatisierung so zu implementieren, dass sie in großem Maßstab reproduziert und zu geringen Kosten implementiert werden können.

Ein großes Modell mit einem Maßstab von 100 Millionen hat eine Genauigkeit von mehr als 95 % erreicht. Anschließend haben wir aus diesem großen Modell ein kleines Modell abgeleitet und es in einen Assistenten gekapselt, wodurch das Problem der Verwendung des Eingangs gelöst wurde.

Stellen Sie sich vor, ein großes Modellunternehmen verfügt über eine äußerst leistungsstarke Big-Model-Lösung, die wie ein übergeordnetes Modell fungiert und die umfassenden Anforderungen des gesamten Unternehmens unterstützt.

Dieses große Modell ist besonders leistungsstark und kann komplexe Datenanalysen verarbeiten und sehr genaue Erkenntnisse liefern. Es eignet sich besonders für B-Side-Unternehmen, die große Mengen an Rechenressourcen und umfangreiche Datenverarbeitung benötigen. Tatsächlich benötigen jedoch nicht alle B-Side-Unternehmen ein so großes System.

Für mehr kleine und mittlere Unternehmen reicht ein kleineres, fokussierteres Modell aus. Wir können es uns als „Untermodell“ eines größeren Modells vorstellen.

Diese kleinen Modelle erben die Kernfunktionen der größeren Modelle, sind jedoch optimiert und abgestimmt, sodass sie besser zu spezifischen Geschäftsanforderungen und kleinen Betriebsumgebungen passen.

Kleine Modelle benötigen nicht so viel Rechenleistung wie große Modelle, konzentrieren sich jedoch auf bestimmte Aufgaben und können an unterschiedliche Anforderungen angepasst werden, z. B. um intelligente Analyseberichte zu erstellen oder intelligente Analysen durchzuführen.

Dadurch können kleine Unternehmen mit begrenzten Ressourcen KI nutzen, um die Arbeitseffizienz und Entscheidungsqualität zu verbessern.

Daher ist das kleine Modell wie die Essenz, die aus dem großen Modell extrahiert wird. Es benötigt lediglich grundlegende Wissensdatenbankfunktionen. Der Schlüssel besteht darin, es in einen kleinen Assistenten umzuwandeln und ihn zur Verwendung einzubetten.

Denken Sie niemals, dass dies bedeutet, dass Ihre Logik richtig ist. Nach Zhiyuans Forschung wurden KI-Produkte bereits in B-Side-Unternehmen implementiert; für TOB sind KI-Anwendungsszenarien daher Agenten und Plug-ins.

Dies hat auch den Vorteil, dass es einfach zu liefern ist, ohne dass teure Kosten investiert werden müssen.

Zusammenfassen

TOB AI folgt nicht dem alten Weg.

Wenn kleine Modelle der Kernpunkt von TOB sind, dann ist ihre Umwandlung in intelligente Agenten und Assistenten das entscheidende Bindeglied, um die letzte Meile von TOB zu verbinden.Schließlich steht bei Bottom-up der Mensch und die Aufgabe im Mittelpunkt, nicht die Software.