Nachricht

Einige Beobachtungen zu großen Modell-Unternehmensanwendungen

2024-08-20

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Artikel |. Small ist ein großer unternehmerischer Partner

Seit Januar dieses Jahres veranstalten wir jeden Monat einen großen Model-Application-Landing-Salon. Ich möchte hier einige meiner Beobachtungen mitteilen:

Zu den Entwicklungen im vergangenen Jahr:

Die Erkenntnis ist ausgerichtet, alles blüht, ein kleiner Gewinn wird erwartet und wir freuen uns auf einen Treffer.

Zu Beginn des Jahres wurde in einigen Reden auf dem Treffen auch von „unserem Unternehmen verfügt über 5 Jahre Erfahrung mit künstlicher Intelligenz“ und dergleichen gesprochen, wobei LLM absichtlich oder unabsichtlich mit früherer KI vermischt wurde. Jetzt kann jeder sehr offen sagen, welche Szenen frühere KI-Technologie verwenden und welche Modelle verwendet werden. Außerdem wird klar erklärt, welche auf dem Modell basieren und welche Szenen einer Feinabstimmung oder einem sekundären Training unterzogen wurden. Das ist ein gutes Phänomen und ermöglicht es jedem, direkter in die Bereiche vorzudringen, die besprochen werden sollten.

Gleichzeitig haben wir auch immer mehr Szenarien gesehen, in denen LLM tatsächlich eingesetzt wird, einschließlich der Kombination aus Inhaltsgenerierung und spezifischen Arbeitsszenarien, neuen RPA-Produkten, die LLM-Technologie nutzen, in den Bereichen Personalgespräche, Screening und Berufsausbildung . Wirklich zum Tragen gekommen.

Für bereits umgesetzte Projekte verfügt einige Partei A über relativ quantitative Daten zur Bewertung des LLM-Ergebnisses, und einige Partei B hat begonnen zu sagen, dass sie einen Vertrag unterzeichnet oder eine Projektzahlung erhalten hat. Die meisten von Partei B durchgeführten Projekte liegen offenbar in der Größenordnung von Hunderttausenden, und gelegentlich gibt es Projekte von weniger als einigen Millionen. Die Einnahmen aus dieser Richtung sind noch nicht zur Haupteinnahmequelle des Unternehmens geworden.

Jemand hat zu Beginn des Jahres gefragt, und diese Frage wird immer noch gestellt: Welche beliebte Software hat Big Model 2B anscheinend noch nicht? Vielleicht schon lange nicht mehr? Was waren im Laufe der Jahre die größten Hits der 2B-Software? Büroautomation? Finanz-ERP? CRM? DingTalk-Flugbücher? Freuen wir uns weiterhin darauf

Über Produktform:

Chat-Schnittstelle, traditionelle Schnittstelle, traditionell + Chat = Copilot, was sonst?

An 2B-Software für große Modelle hat jeder andere Erwartungen, einige sind pessimistisch und die meisten scheinen zu optimistisch zu sein. Lassen Sie uns diese Erwartung konkretisieren und fragen, wie alle im Unternehmen über diese neue Unternehmenssoftware für große Modelle denken werden.

Das große Modell betrat zunächst das Sichtfeld der Menschen, die Schnittstelle des Chats. Gpt3.0 hat bereits Fähigkeiten gezeigt, die denen von heute sehr ähnlich sind, aber da es keinen Chat, sondern nur eine API gibt, hat es weder die Aufmerksamkeit größerer Menschen auf sich gezogen noch den Kreis durchbrochen. Obwohl die Benutzeroberfläche von Chat und Suche ähnlich aussieht, werden Sie bei der Verwendung feststellen, dass sie sich grundlegend unterscheiden. Wir haben Grund zu der Annahme, dass die neue Generation der Unternehmensinformationssystem-Infrastruktur, die Chat als Schnittstelle verwendet und allen im Unternehmen zur Verfügung steht, in allen Unternehmen populär werden wird, genau wie Bürosoftware, E-Mail und WeChat/DingTalk/Feishu für Unternehmen . colingo.ai, gegründet von kleinen und großen unternehmerischen Partnern, konzentriert sich auf diesen Markt.

Bei traditioneller Unternehmenssoftware haben einige Backends verschiedene KI-Algorithmen verwendet und einige davon durch große Modelle ersetzt, um Probleme besser zu lösen, oder große Modelle verwendet, um Dinge zu verarbeiten, die zuvor nicht mit Algorithmen verarbeitet werden konnten Die Wahrnehmung der Endnutzer ist relativ schwach. Es wird immer mehr dieser Szenarien geben, aber es wird möglicherweise nicht einfach sein, erfolgreiche Software zu produzieren.

Die Kombination aus Chat-Schnittstelle und traditioneller GUI-Software ist Copilot. Als früher enger Partner von OpenAI brachte das Unternehmen Copilot für Office auf den Markt, das es Benutzern ermöglicht, herkömmliche Software besser über die Chat-Schnittstelle zu nutzen. Es scheint, dass dies für einige Zeit auch eine der Hauptschnittstellenformen sein wird.

Gibt es neue Schnittstellenformen? Wie arbeiten Digital Worker mit anderen Workern zusammen? In diesem Bereich gibt es noch viel Raum für Diskussionen.

Zum technischen Weg der 2B-Softwaredienstleister:

  • Top drei: Arrangement, Lappen, Agent
  • Die nächsten drei Pfade: Rechenleistung, Infrastruktur, Schulung und Feinabstimmung

Zu viel zu wissen ist eine Belastung. Ganz zu schweigen von der Frage des „großen Modelldenkens“, das vielleicht nicht einfach zu definieren ist, aber dennoch an der Anwendung großer Modelle erkennbar ist Modelle verschiedener Softwaredienstleister.

Der Unterschied zwischen den oberen drei Straßen und den unteren drei Straßen besteht nicht nur in einigen GPUs, sondern auch darin, dass die damit verbundenen Talente, Arbeitsprozesse, Lieferzyklen, Iterationsgeschwindigkeiten und Gesamtkosten nicht in der gleichen Größenordnung liegen.

Die erste Reaktion der technischen Abteilungen vieler Unternehmen besteht darin, zunächst das Modell zu trainieren, Karten zu kaufen und Leute zu rekrutieren. Dann bleibt es möglicherweise im Sumpf stecken, wenn es an den CEO zurückgegeben wird. Das ist eine sehr schwere Sache und erfordert eine Menge Investitionen. Es gibt keine Fortschritte im Unternehmen und auch von außen stehen wir ständig vor der Frage der Kunden, was man mit großen Modellen für uns tun kann, sodass wir in einem Dilemma stecken.

Der obere dritte Pfad kann die meisten Probleme bei großen Modellanwendungen lösen. Wenn Anwendungsunternehmen den unteren dritten Pfad betreten, sollten sie vor dem Einstieg zumindest den oberen dritten Pfad abschließen und bestätigen, dass der untere dritte Pfad den Effekt wirklich erheblich verbessern kann.

Das Wort „Schulung“ ist in der Anwendungsentwicklung großer Modelle nicht erlaubt. Es mag eine übertriebene Methode sein, aber zum jetzigen Zeitpunkt ist es für die meisten Anwendungsentwicklungsunternehmen möglicherweise der schnellste Weg, Ergebnisse zu erzielen.

Es gibt zwei konkrete Fragen, die ich mit vielen Unternehmen besprochen habe und die ich gerne mit Ihnen teilen möchte:

Bezüglich der Auswahl der Kunden, die mit großen Modellanwendungen beginnen möchten:

„Fortgeschrittene Unternehmen nutzen Feishu“, wir müssen diejenigen Parteien finden, die bereits „großes Modelldenken“ haben. Als Dienstleister ist es schwierig, Parteien zu finden, die sich über jede Ergebnisverbesserung freuen ist nein Bevor wir beginnen, liegen 10.000 Fragen vor uns. Vermeiden wir solche Benutzer.

Welches Modell Sie wählen sollten:

Beginnen Sie mit dem besten Modell, das Sie verwenden können. Wenn Sie dies nicht können, ist diese Modellgeneration nicht gut genug. Warten Sie also einfach.

Sobald es fertig ist, verwenden Sie das realistischste Modell, um es zu optimieren, und teilen Sie Partei A den Unterschied mit, in dem es angepasst wird. Wenn es akzeptabel ist, fahren Sie fort. Wenn es nicht akzeptabel ist, warten Sie einfach.

Denken Sie nicht an die Kosten des Modells. Der heutige Preis ist mit dem von vor sechs Monaten völlig unvergleichlich, und die Leistungsfähigkeit wird in sechs Monaten definitiv besser sein als heute. Um groß angelegte Modellanwendungen durchzuführen, müssen Sie grundsätzlich an „Moores Gesetz der großen Modelle“ glauben, anstatt sich mit der Optimierung des aktuellen Modells zu befassen, ist es besser, sich die Zeit zu nehmen und Ihr Freund zu sein.

Um die Beurteilung von Chancen zusammenzufassen:

Auf dem Markt für 2B-Anwendungen mit großem Modell gibt es neue Szenarien, neue Formen, neue Unternehmen und alte Szenarien, neue Lösungen sowie neue und alte PKs.

Es besteht kein Zweifel, dass es eine Chance für neue Unternehmen darstellt, aber die Produktform ist noch lange nicht ausgereift. Das iPhone kam Mitte 2007 auf den Markt. An welche mobilen Anwendungen erinnern Sie sich Ende 2008? Das große Modell Ende 2022 ist nur noch anderthalb Jahre entfernt. Natürlich muss ein Unternehmen am Leben bleiben, aber es kann nicht darauf abzielen, am Leben zu bleiben. Es gibt noch viele Möglichkeiten, die von Ihnen oder anderen erkundet werden müssen.

Chancen bieten auch aktuellen Softwaredienstleistern in verschiedenen Branchen. 2B-Dienste müssen letztendlich Benutzerprobleme lösen, und Sie kennen die Bedürfnisse des Benutzers am besten. Im Anwendungsbereich hat der Wettbewerb im Zeitalter großer Modelle die technischen Barrieren erheblich geschwächt. Die Fähigkeit, Benutzeranforderungen in für die Verarbeitung großer Modelle geeignete Probleme umzuwandeln, ist zum wichtigsten Wettbewerbsfaktor geworden, und dies ist zweifellos die Stärke des Branchensoftwaredienstes .

Es kommt zwangsläufig zu Umstellungen, egal wie lange man schon in der Branche tätig ist. Unabhängig davon, ob Sie der Erste oder der Letzte in der Branche sind, kann es sein, dass Sie in diesem Wettbewerb ausscheiden und ein paar Positionen für neu hinzugekommene große, einheimische Unternehmen übrig bleiben. Der Rest wird im Zuge dieser technologischen Revolution ebenfalls neu geordnet.

Die entscheidende Schlacht findet diesen Herbst, dieses Jahr, statt.

Die erste Nachbestellung wird diesen Herbst erfolgen. Die meisten Unternehmen verfügen im Jahr 2023 nicht über dedizierte Budgets für große Modelle und einzelne Beschaffungen lenken die Budgets anderer IT-Projekte um. Im Jahr 2024 wird es einige POC-Budgets geben, die sich auf große Modelle beziehen, und ein Großteil des IT-Budgets im Jahr 2025 muss sich auf große Modelle beziehen. Ob Sie Ihre Lösung und die Vision Ihres Unternehmens in diesem Herbst auf Party A umsetzen können, wird darüber entscheiden, wie viele Projekte Sie im Jahr 2025 erhalten können und welche Position Sie im ersten Ranking-Kampf einnehmen.