Nachricht

Gespräch mit Huoshan Tandai: Heutzutage berechnet die Branche auf Basis von Token, aber dieses Modell wird in Zukunft nicht das einzige sein.

2024-08-06

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Text|Anita Tang

Herausgeber|Su Jianxun

Cover-Quelle |. Zur Verfügung gestellt vom Unternehmen

Emergenz ist ein Schlüsselphänomen in der Welle der generativen KI: Wenn sich der Modellmaßstab bis zu einem kritischen Punkt ausdehnt, zeigt die KI menschenähnliche Weisheit und kann verstehen, lernen und sogar erschaffen. „Entstehung“ geschieht auch in der realen Welt – die auf Silizium basierende Zivilisation steht kurz vor dem Ausbruch. Unternehmer und Schöpfer im Bereich der KI nutzen ihre Weisheit und ihren Verstand, um den langen Weg zur Verwirklichung von AGI zu beleuchten. Am Übergang zwischen alter und neuer Produktivität startet „Smart Emergence“ eine neue Kolumne „Emergence of 36 People“. Wir werden das neue Denken in dieser Phase durch Gespräche mit Schlüsselfiguren der Branche festhalten.

Der Volcano Engine im Jahr 2024 hat sich von seinem früheren unauffälligen Profil verändert und erscheint nun in rasantem Tempo auf dem Markt für große Modelle.

Vor nicht allzu langer Zeit, im Mai, hielt Huoshan gerade eine auffällige Pressekonferenz ab, bei der der Preis des Modells auf einen Schlag auf den „Mindestpreis“ gesenkt wurde. Der Preis für Doubaos Hauptmodell, Doubao Pro-32k, wurde auf 0,0008 Yuan/Tausend Token gesenkt, was einem Branchendurchschnittsrückgang von 99,3 % im Jahresvergleich entspricht. Eine Zeit lang herrschte Aufruhr in der gesamten Branche, und die Hersteller folgten diesem Beispiel.

Doch zwei Monate später war Volcano Engine, das beim Preis „den Spieß umgedreht“ hatte, nicht mehr bereit, mehr über den Preis zu sprechen. „Jetzt, da 1 Milliarde Token nur noch 1.000 Yuan kosten, macht es keinen Sinn mehr, den Preis zu senken. Entscheidend ist, wie sehr sich die Modellfähigkeit bei gleichem Preis verbessert.“ erzählte „Intelligent Emergence“.

Gewissermaßen die stürmische „große Aktionswoche“ im Mai – neben Huoshan haben auch Alibaba, Tencent, iFlytek und andere große und kleine Hersteller Preissenkungen für große Modelle angekündigt, was ein Symbol dafür ist, dass das Feld der großen Modelle in eine neue Welt eintritt neue Bühne. Der Konsens dahinter ist, dass große Modelle zwar bereits glänzen, der neue KI-Kuchen aber immer noch zu klein ist – Rechenleistung zu teuer ist und die Nutzer keinen Anreiz zur Innovation haben. Daher könnten die Hersteller die Gewinne genauso gut teilen.

Die Wirkung tritt auch sofort ein. Die durchschnittliche tägliche Token-Nutzung des Doubao Big Model übersteigt mittlerweile 500 Milliarden. Vor der Preissenkung lag diese Zahl bei 120 Milliarden.

Im Vergleich zu Begriffen wie Preiskampf und Umsatz geht es Tan Dai mehr darum, wie viele Benutzer es gebracht hat und wie viele Dinge sie mit großen Modellen gemacht haben. „Wir achten nicht zu sehr auf kurzfristige Einnahmen, sondern vielmehr darauf, mit wie vielen Kunden wir eine intensivere Zusammenarbeit aufgebaut haben und wie viele Probleme wir ihnen bei der Lösung geholfen haben“, sagte er.

Menschen neigen dazu, die Zukunft vorherzusagen, indem sie dem Weg der Vergangenheit folgen. Große Modelle und Cloud Computing gelten beide als Unternehmen mit ähnlichen Modellen: hohe technische Investitionen und technische Forschung und Entwicklung in der frühen Phase, aber der Matthew-Effekt ist in der späteren Phase extrem hoch. Die Voraussetzung ist jedoch, dass der Geschäftsumfang sehr groß werden muss, bevor tatsächlich Skaleneffekte erzielt werden können.

Die diesjährigen Großmodelle entwickeln sich auf diesem Weg – die Hersteller senken nach und nach die Preise, machen die Rechenleistung großer Modelle integrativer und werden zu einer Infrastruktur wie Wasser, Strom und Kohle.

Tan Dai glaubt, dass die Implementierung großer Modelle in Zukunft schneller ablaufen wird als Cloud Computing. Produkte wie ChatGPT haben die Welt bereits wissen lassen, dass KI die Zukunft ist, im Gegensatz zu Cloud Computing, das eine lange „Predigt“ hinter sich hat. Damit aber jeder unbesorgt innovieren kann, ist eine Preissenkung nur der erste Schritt.

Die Explosion von KI-Anwendungen erfordert kontinuierliche Investitionen in die Überwindung verschiedener technischer Schwierigkeiten in Modellen: Kontrollillusionen, lange Texte usw. „Ich glaube nicht, dass Entwickler besorgt sind. Es ist zu früh, jetzt über Killer App zu sprechen.“ Er sagte, dass das aktuelle große Modell noch in der „Big Brother“-Ära sei, „es wird viele Jahre dauern, bis das iPhone erscheint.“

Im Jahr 2021 ist Huoshan offiziell in den Cloud-Markt eingestiegen. Jetzt ist er erst seit drei Jahren voll und immer noch eine neue Kraft auf dem Cloud-Computing-Markt. Daher ist KI für die Volcano Engine nicht nur eine Eintrittskarte in eine neue Ära, sondern auch eine Möglichkeit zum Überholen in Kurven – das ist auch der Grund, warum die Volcano Engine stark in KI investiert. Im Jahr 2023 werden 70 % der inländischen großen Modellunternehmen die Rechenleistungsdienste von Volcano Engine nutzen und in diesem Jahr wird MaaS (Model as a Service) das nächste Schlachtfeld sein.

Das Folgende ist eine Abschrift des Gesprächs zwischen „Intelligence Emergence“ und Tan Dai, zusammengestellt und bearbeitet:

Nachdem der Preis „den Spieß umgedreht“ hat

„Geheimdienstentstehung“: Was Huoshan in letzter Zeit am meisten diskutiert, ist, dass Sie der erste große Hersteller sind, der eine Welle von Preissenkungen gestartet hat. Man sagt, Sie hätten „den Spieß umgedreht“. Was war der Gedanke dahinter?

Tan Dai:Unser Hauptanliegen ist der Aufbau eines Anwendungsökosystems.

„Geheimdienstentstehung“: Fiel Ihnen die Entscheidung, den Preis zu senken, schwer? Wie lange hast du darüber nachgedacht?

Tan Dai: Überhaupt nicht schwierig. Nachdem wir es im August letzten Jahres offiziell auf den Markt gebracht haben, müssen die Kosten besonders hoch gewesen sein. Seitdem führen wir technische Optimierungen durch und haben sie intern ausgiebig genutzt. Nach etwa einem Jahr der technischen Optimierung begannen wir, über Preissenkungen nachzudenken.

„Geheimdienstentstehung“:Warum fällt Ihnen diese Entscheidung nicht schwer?

Tan Dai: Wir denken: Was ist das Wichtigste an dieser Angelegenheit? Das heißt, wir wollen das Geschäftsökosystem erfolgreich machen.

Dahinter verbergen sich mehrere Schwellenwerte. Der erste ist, dass Sitzsäcke bereits hergestellt wurden. Auf unserer 515-Konferenz sahen alle, dass wir bei der Einführung des großen Modells weder unseren eigenen Bewertungssatz erwähnten noch über die Bewertungsergebnisse sprachen.

Weil ich denke, dass es von jedem genutzt werden kann. Was die Bewertung angeht, gibt es viele Bewertungen von Drittanbietern, darunter Zhiyuan, OpenCompass usw., und alle sagen, dass der Sitzsack sehr effektiv ist.

Zweitens sind die Kosten zu hoch, also müssen wir zunächst den Preis senken und ihn zu einem nachhaltigen Preis machen. Da wir ein To-B-Unternehmen sind, ist die Preisgestaltung nicht nachhaltig, wenn sie den Bruttogewinn oder den Gewinn langfristig nicht stützen kann.

Der dritte Punkt ist die Praktikabilität der Implementierung, einschließlich Plug-Ins, Cases usw., für die eine Menge Dinge zusammengestellt werden müssen. Wir senken die Kosten durch technische Optimierung. Das ist es, was Huoshan, ein Cloud-Anbieter, tun muss.

„Geheimdienstentstehung“:Wie hat der Vulkan den Preis auf einen so niedrigen Preis gesenkt?

Tan Dai:Durch die kontinuierliche Optimierung unserer Modellstruktur und die Optimierung der Inferenztechnik können wir die Kosten senken und diese Dividende an die Branche weitergeben.

Als Dienstleistung müssen große Modelle größer und kostengünstiger sein. Bei einem großen Maßstab können Sie unterschiedliche Lasten haben und eine Spitzenstaffelung und eine gemischte Planung durchführen. Das Gleiche gilt für Cloud Computing, was es kostengünstiger macht.

Zweitens: Wenn der Umfang groß genug ist und ein wenig optimiert wird, werden die Vorteile groß genug sein, und nur dann kann genügend Budget für den Aufbau eines guten technischen Teams vorhanden sein.

„Geheimdienstentstehung“: Dies ist ein sich gegenseitig verstärkender Prozess. Erstens ist es billiger und der Maßstab ist größer. Dann können Sie optimieren und der Nutzen wird größer sein.

Tan Dai: Dies ist auch auf die Zunahme der Anrufe bei der Doubao APP zurückzuführen. Aus den bisherigen Daten Dritter kann jeder ersehen, dass KI-Produkte und Doubao APP an erster Stelle stehen. Innerhalb von Douyin werden mehr als 50 Szenarien und Geschäftsbereiche intensiv genutzt, und es gibt auch viele eingeladene Kunden von außerhalb, was die Skalierung unterstützt hat.

Nachdem die Preissenkung am 15. Mai angekündigt wurde, stieg unser Anrufumfang schneller an und wir sahen zu diesem Zeitpunkt mehr Punkte, die optimiert werden konnten.

„Geheimdienstentstehung“:Welche Auswirkungen hatte die offizielle Ankündigung der Preissenkung?

Tan Dai: Erstens ist es nicht mehr für jeden eine Herausforderung, Innovationen im Bereich der KI voranzutreiben, und der Umfang wächst rasant. Viele Startups verwenden täglich mehr als 1 Milliarde Token. Wie viel kostet 1 Milliarde Token jetzt? Nur 1.000 Yuan. Im Vergleich zur Veröffentlichung des Modells am 15. Mai hat sich die durchschnittliche tägliche Nutzung von Tokens pro Kunde um das 20- bis 30-fache erhöht.

Und es gibt viele Nutzungsszenarien, an die wir nicht gedacht haben. Schauen wir uns das ursprüngliche tägliche Anrufvolumen von Doubao an, das mehr als 120 Milliarden Token betrug. Nach der Preissenkung liegt es nun bei über 500 Milliarden Token.

Zweitens, als wir die Preissenkung ankündigten, sagten einige Leute, der Preis sei nicht wichtig, aber langsam folgten viele Hersteller diesem Beispiel.

„Geheimdienstentstehung“: Ihr Hauptmodell Beanbao Pro 128k kostet 0,005 Yuan/Tausend Token, was 95,8 % unter dem Branchenpreis liegt, während das 32k-Modell 0,0008 Yuan/Tausend Token kostet, was einem Rückgang von 99,3 % entspricht. Dieser Preis kann als „Mindestpreis“ bezeichnet werden. Wie wurde er ermittelt?

Tan Dai: Wir legen zunächst das Ziel fest und müssen die Dividenden zu einem nachhaltigen Preis freigeben. Es ist kein Verlust, aber ich muss nicht zu viel verdienen. Ich dachte zunächst, es sei ein Rückgang um 90 % im Vergleich zum Branchendurchschnitt, aber ich hatte nicht erwartet, dass der spätere Vergleich einen Rückgang um 99 % ergeben würde.

„Geheimdienstentstehung“:Wird es in Zukunft Raum für Preissenkungen geben?

Tan Dai: Aus dieser Perspektive ist der Preis nicht länger der Engpass. Nachdem es auf ein so niedriges Niveau gesunken ist, wird der Gewinn für die Benutzer, egal wie stark es noch weiter sinkt, tatsächlich gering sein. Wichtiger ist jetzt, dass es bei gleichem Preis sinnvoller ist, die Modellfähigkeiten zu verbessern.

„Geheimdienstentstehung“: Ist das ein bisschen wie die vorherige Welle der KI-Innovation im Lebenslauf (visuelle Erkennung)? Es ist wichtig, die Genauigkeit von 70 % auf 90 % zu erhöhen, aber am Ende bedeutet ein Anstieg von 95 % auf 98 % eigentlich wenig und die Kunden können das akzeptieren.

Tan Dai: Es kann sein, dass 98 % nicht erreicht werden. Aber wir sollten es umgekehrt betrachten. Früher waren es 5 % Bad Case (Ergebnis entsprach nicht den Erwartungen), aber jetzt sind es 2 % und der Effekt hat sich verdoppelt.

„Geheimdienstentstehung“: In der Branche gibt es auch viele Kommentare, die besagen, dass in China ein Preiskampf begonnen habe, der sich nachteilig auf die Branche auswirke. Da die Ausbildung großer Modelle teuer ist, kann niemand Geld verdienen.

Tan Dai: Ich bin mit dieser Ansicht nicht einverstanden. Aus Branchensicht hat dies dazu geführt, dass Chinas KI floriert, was eine gute Sache ist.

Dasselbe gilt für Cloud Computing, was eine gute Sache ist. Die digitale Transformation ist einfacher geworden und die Kosten konnten nicht nur aus der Perspektive eines einzelnen Unternehmens betrachtet werden.

„Geheimdienstentstehung“:In der Vergangenheit hatte der Begriff „Preiskampf“ im Internetkontext eine zu abwertende Konnotation.

Tan Dai: Ich denke, dass das Geschäftsmodell von To C Internet in der Vergangenheit anders war. Doch im To-B-Preiskampf ist das Unternehmen selbst darauf angewiesen, diesen Preis zu verlangen, und wenn es weiterhin diesen Preis bereitstellt, werden am Ende alle davon profitieren.

„Geheimdienstentstehung“: Das sind definitiv gute Nachrichten für Entwickler. Aber wie sieht es intern aus? Einige Vertriebskollegen von Cloud Factory sagten uns, dass sie keine Motivation hätten, KI zu verkaufen, weil KI nicht zu einem hohen Preis verkauft werden könne. Wie ist dieses Problem zu berücksichtigen?

Tan Dai: Das ist eine sehr gute Frage. Ich habe das Gefühl, dass es für uns nichts zu verlieren gibt.

Erstens ist Huoshan eine Cloud-Plattform, und Kunden wollen nicht nur ein großes Modell, sondern tatsächlich eine umfassende Lösung, die große Modelle, Clouds und Datenprodukte umfasst.

Der Stückumsatz des großen Modells selbst ist zurückgegangen, aber indem Sie Ihren Kunden helfen, mehr Probleme durch das große Modell zu lösen, haben Sie in Zukunft mehr Möglichkeiten, mehr Geschäfte mit ihnen zu machen. Wenn das große Modell fertig ist, werden uns die Kunden sogar sagen, nein, meine IT-Architektur muss umgebaut werden, und dann machen wir das anhand von Vulkanen.

„Geheimdienstentstehung“: Wie ist die Rekonstruktion der IT-Architektur zu verstehen? Wo sind die Räume und Möglichkeiten vorhanden?

Tan Dai:In der Vergangenheit wurden viele Dinge bei den IT-Ausgaben nicht über die Cloud, sondern durch die Überlagerung von Softwarefunktionen gelöst – alles wurde von Arbeitskräften erledigt, und viele Dinge konnten nicht in Rechenleistung umgewandelt werden.

Aber mit dem großen Modell können viele Szenarien, ob Copilot oder Autopilot, viele KI-Szenarien vom großen Modell bedient werden, und die unterste Ebene des großen Modells ist die Cloud. Märkte, die zuvor für die Cloud nicht zugänglich waren, sind nun zu Märkten geworden, auf die zugegriffen werden kann.

„Geheimdienstentstehung“: Wie hoch ist der Bekanntheitsgrad von KI bei Kunden mittlerweile? Als Cloud Computing zum ersten Mal auf den Markt kam, setzten viele Unternehmensanwender Cloud Computing mit dem Begriff „fortschrittlich“ gleich und entschieden sich dann für die Digitalisierung. Haben große Modelle mittlerweile einen solchen Effekt erzielt?

Tan Dai:Unternehmen sagen nicht, dass nach der Einführung von KI alle IT-Umgebungen sofort durch KI ersetzt werden. Dies ist definitiv nicht möglich. Stattdessen identifizieren sie zunächst bestimmte Szenarien, in denen KI zur Verbesserung der Effizienz eingesetzt werden kann.

Wir haben beispielsweise gesehen, dass bei einigen Kunden die Upstream- und Downstream-Dienste zusammenbrechen, sobald das Modell in großem Umfang aufgerufen wird. Sie werden diese Architekturen auf Cloud-nativ umstellen, um die Last zu unterstützen.

„Geheimdienstentstehung“:Inwieweit werden sich diese Fälle im Einkommen niederschlagen?

Tan Dai: Es geht nicht nur um den Umsatz, und wir konzentrieren uns derzeit nicht zu sehr auf die Kurzfristigkeit. Wir schauen uns auch an, mit wie vielen Kunden wir durch diese Angelegenheit eine engere Zusammenarbeit aufgebaut haben und wie viele Probleme wir ihnen bei der Lösung geholfen haben. Am Ende werden sich die Ergebnisse von selbst ergeben.

„Geheimdienstentstehung“:Wenn Sie sich nicht auf kurzfristige Einnahmen konzentrieren, welchen Indikator schätzen Sie jetzt am meisten?

Tan Dai: Die Anzahl der von Unternehmen verwendeten Token, aber ich glaube nicht, dass es in Zukunft nur dieses Modell geben wird. Ich kannte einmal einen Freund, der Romane schrieb, später aber „das Schreiben aufgab und anfing, Gedichte zu schreiben“. Ich frage, warum haben Sie diese Wahl getroffen? Er sagte, dass das Schreiben von Gedichten nach der Zeile und das Schreiben von Romanen nach dem Wort bezahlt werde – der Preis sei für die gleichen 100 Wörter unterschiedlich.

Das Geschäftsmodell des großen Modells wird sich definitiv ändern, und das endgültige Wirtschaftsmodell ist ein durchgängigeres Modell. Wenn es beispielsweise einen Agenten gibt, zahlen Sie ihm so viel, wie er Ihnen bei der Lösung der Probleme hilft. Für die gleichen 100 Wörter ist es ein anderes Geschäftsmodell.

KI-Anwendungen sind zwar nicht explodiert, aber das Wesentliche ist immer noch ein Problem der Modellfähigkeiten

„Geheimdienstentstehung“: Zu Beginn dieses Jahres diskutiert die Branche nun über einen sehr alten Begriff: Killer-App. Jeder fragt sich, warum es noch keine Killer-App gibt. Was halten Sie als wichtiger Infrastrukturanbieter, Huoshan, von der aktuellen Phase der KI-Anwendung?

Tan Dai: Ich denke, dass es mittlerweile tatsächlich eine Killer-App gibt, und ChatGPT ist sie. Unabhängig von der Anzahl der Nutzer und dem Umsatz ist es schneller als alle Internetprodukte, TikTok und Douyin. Das ist bereits ein starkes Signal.

Wenn ich jetzt über die Killer-App spreche, denke ich, dass ich diese Angelegenheit immer noch aus der To-C-Perspektive betrachte. Große Modelle werden in C-Side-Szenarien auf jeden Fall sehr schnell laufen, da der Testbereich sehr groß ist, wie z. B. Chat- und emotionale Begleiter-Apps, jetzt laufen sie alle sehr schnell.

Zweitens müssen wir nicht nur Killer App betrachten, denn es gibt viele Produktivitätsszenarien auf Unternehmensseite, wie zum Beispiel den KI-Kundenservice. In diesen Szenarien gilt das Konzept der Killer-App nicht und wir diskutieren es nicht mit Indikatoren wie DAU.

Unternehmensdienste sprechen nicht über Killer App. ERP (Enterprise Management System Software) ist eine Killer-App, die jedes Unternehmen haben muss, aber niemand spricht über dieses Konzept.

„Geheimdienstentstehung“: Weltweit liegen andere Produkte weit zurück, mit Ausnahme von ChatGPT, das das Niveau einer Killer-App erreicht hat. Beispielsweise konzentrieren sich emotionale Gemeinschaft und Freundschaften immer noch auf eine relativ kleine Gruppe von Menschen, und der Grad der Homogenität ist immer noch hoch.

Tan Dai: Ich denke, es hängt von der Zeit ab. Die Killer-App war zum Beispiel eine Suchmaschine, aber Suchmaschinen erschienen erst sehr spät. In der Vergangenheit waren das alles Portale und E-Commerce-Websites. Doch nachdem es mehr dieser Websites gab, kamen wieder Suchmaschinen auf den Markt.

Auch als das mobile Internet gerade in den Kinderschuhen steckte, kamen Apps wie Douyin und Meituan erst einige Jahre später auf den Markt.

„Geheimdienstentstehung“: Sie haben einen Cloud-Computing-Hintergrund. Was halten Sie im Vergleich zum Cloud Computing von dieser Popularisierungsrunde der KI-Technologie? Wird es den gleichen Weg einschlagen wie die Popularität von Cloud Computing?

Tan Dai: Cloud Computing ist selbst für technisch versierte Menschen recht kompliziert zu verstehen und es bedarf nicht nur einer Person, um es einfach einzurichten. Ich habe von 2010 bis 2011 bei Alibaba gearbeitet. Zu diesem Zeitpunkt war AWS wahrscheinlich der einzige auf der Welt, der herausgefunden hatte, was die Cloud war, und Google hatte es auch nicht herausgefunden.

Aber KI ist anders. Als Einzelperson kann man ihre Funktionen leicht erleben und schnell erkennen, ob sie gut oder schlecht ist. Wenn Sie wissen wollen, was KI ist, nehmen Sie einfach einen Sitzsack. Aus dieser Perspektive ist es nicht wie Cloud Computing, das eine zu komplizierte Evangelisation erfordert.

„Geheimdienstentstehung“:Wird sich ein solcher Popularisierungspfad auf die Entscheidungs- und Einkaufslogik des To-B-Geschäfts auswirken?

Tan Dai: Jedes Unternehmen hat Trägheit und das To-B-Geschäft wird langsamer. Aber zumindest wenn man versteht, ob das Produkt gut ist oder nicht, wird sich das Kundenerlebnis verändern.

Eine große Veränderung durch KI besteht darin, dass sie To-B-Geschäfte sichtbar und zugänglich macht und die Zeit für die POC (Prototypenverifizierung) viel kürzer wird. In der Vergangenheit waren Entscheidungsfindung und Nutzung getrennt. Die Entscheidungsträger trafen Entscheidungen, aber die Benutzer dachten, das sei scheiße.

Aber die KI hat diese Lücken weitgehend geschlossen. In der Vergangenheit mussten sich die Kunden PPTs ansehen, an Führungen teilnehmen und Interviews führen. Am Ende konnten sich die Entscheidungsträger nur die Demo ansehen, und das Erlebnis war nicht so vollständig. Wenn ich jetzt mit einem Kunden spreche, erzählt uns der Kunde von dem Sitzsack, den ich normalerweise verwende. Wenn er in der Demo etwas anpassen möchte, kann er es im Hintergrund ändern und es wird sofort angepasst. Sie können es sogar vor dem Verkauf selbst tun, und es ist nicht nötig, vor dem Verkauf für die Forschung und Entwicklung noch einmal vorbeizukommen, um Änderungen vorzunehmen.

Aus diesem Grund sind unsere Sitzsäcke To C und To B beide von derselben Marke.

„Geheimdienstentstehung“:Glauben Sie, dass es bei den inländischen Großmodellen mittlerweile einen großen Unterschied gibt?

Tan Dai:Der Preisunterschied ist riesig.

„Geheimdienstentstehung“:Sind nicht alle viel gefallen?

Tan Dai: Tatsächlich haben inländische Hersteller die Kosten für unser stärkstes Hauptmodell ebenfalls auf 0,0008 Yuan/Tausend reduziert. Die meisten Hersteller reduzieren jedoch nicht das stärkste Modell, sondern senken es a Kleine Modelle sind kostenlos. Wenn Sie sich ansehen, wie viel die Hauptmodelle einiger Konkurrenzhersteller kosten, werden sie sich mindestens um ein Dutzend Mal vom Preis von Sitzsäcken unterscheiden.

Auch die Verwendung von Open-Source-Modellen zur Kostenmessung ist teurer als die Verwendung von Sitzsäcken. Wenn Sie dafür das Open-Source-Llama verwenden, müssen Sie die technische Optimierung selbst durchführen und es gibt keinen Skalenvorteil. Bei gleichem Effekt ist die technische Optimierung selbst um ein Vielfaches teurer als die direkte Nutzung der Cloud.

„Geheimdienstentstehung“:Was sind neben dem Preis noch weitere Unterschiede?

Tan Dai: Das Modell entwickelt sich immer noch rasant weiter und es gibt noch viele Funktionen, die noch nicht entwickelt wurden. Es wird auch in Zukunft viele Unterschiede geben und es wird immer besser. Doch weltweit gesehen gibt es möglicherweise nur drei oder vier Unternehmen, denen es sehr gut geht, zumindest nicht so vielen wie den zehn Unternehmen in China.

„Geheimdienstentstehung“:Auf welche Branchen konzentrieren sich die Kunden von Huoshan derzeit?

Tan Dai: Es existiert in Tausenden von Branchen. Zu den Mobiltelefonherstellern, die relativ gut abschneiden, gehören Samsung, Xiaomi, OPPO, vivo und Honor. Wir machen auch viel mit Automobilherstellern, und das sind alles sehr große Unternehmen. Auch bei Finanzbanken gibt es einige Fälle.

Der Eintrittswinkel wird jedoch unterschiedlich sein. Was wir beispielsweise in Mobiltelefonen und Autos tun, ist ein relativ vollständiges Mensch-Computer-Interaktionsszenario. Viele große staatliche Unternehmen oder Banken versuchen es jedoch möglicherweise zunächst im Kleinen.

Der Vorteil der KI besteht also darin, dass man nach und nach beginnen kann und nicht gleich zu Beginn das Kernsystem zerschneiden muss.

„Geheimdienstentstehung“: Sind die Kundenprofile der einzelnen großen Modellplattformen sehr unterschiedlich? Viele der Unternehmen, die große Modelle entwickeln, sind Cloud-Anbieter, und auch die Kundengruppen der Cloud-Anbieter weisen branchenspezifische Unterschiede auf.

Tan Dai: Es gibt einen Unterschied, wenn der Geschäftsumfang des großen Modells klein ist, aber es gibt keinen Unterschied, wenn der Maßstab groß ist. Mittlerweile gibt es definitiv mehr kleine und mittelständische Kunden, aber wenn man sich die Branchenverteilung anschaut, muss es nicht unbedingt einen besonders großen Unterschied geben.

„Geheimdienstentstehung“:Welche Seite wird Ihrer Meinung nach auf der C-Seite und der B-Seite zuerst aufsteigen?

Tan Dai: Unser aktuelles Volumen ist ungefähr gleich, aber der Matthew-Effekt auf der C-Seite ist sehr stark. Möglicherweise haben die wenigen Top-Kunden viel DAU beigetragen. Diese Logik gilt für die C-Seite, auch wenn es sich nicht um KI handelt, die Entwicklung der B-Seite ist jedoch sehr langfristig.

„Geheimdienstentstehung“: Was große Modelle jetzt können, ist relativ einfach. Beispielsweise hat jeder das Gefühl, dass die Definition von Agent nicht einmal übereinstimmend ist. Warum kann die Ausführung großer Modelle jetzt nur noch in solch einfachen Szenarien bleiben?

Tan Dai:Die Modellfähigkeit ist nicht stark genug.

„Geheimdienstentstehung“:Was sind die Schlüsselpunkte zum Durchbruch?

Tan Dai: Es gibt einige davon. Die Modellfähigkeit muss stark sein und die Intelligenz muss stark sein. War es nicht schon vor einiger Zeit die Aufnahmeprüfung für das College? Doubao hat den Kurs für Geisteswissenschaften endlich „bestanden“, aber er wurde noch nicht an der Tsinghua-Universität und der Peking-Universität zugelassen, und er hat nicht einmal den Naturwissenschaftskurs bestanden offensichtlich, und sein Niveau reicht nicht aus. Aber kein Problem, wir haben genug Selbstvertrauen.

Zweitens gibt es immer noch viele komplexe Probleme, die nicht gelöst wurden, beispielsweise das Langzeitgedächtnis. Dies erfordert definitiv einige Innovationen in der Modellstruktur und die Multimodalität muss verbessert werden. Auch die Kosten müssen kontrolliert werden. Nach dem Hinzufügen dieser Funktionen ist es nicht in Ordnung, die Kosten zu stark zu erhöhen.

Ich denke, dass es für große Models noch sehr früh ist. Die Mobilkommunikationsrevolution dauert seit den 1970er und 1980er Jahren an, die Entwicklungsgeschichte der KI ist jedoch erst seit zwei Jahren im Gange. Konnten wir, als wir in den 1990er-Jahren noch Mobiltelefone nutzten, an das aktuelle iPhone denken? Das sind Veränderungen der letzten Jahrzehnte.

„Geheimdienstentstehung“:Entspricht das aktuelle Geschäftsvolumen von Huoshan Model, sei es die Anzahl der Kunden oder der Umsatz, Ihren Erwartungen?

Tan Dai: Ich denke, es ist in Ordnung und entspricht den Erwartungen. Wir hoffen auf ein prosperierendes Ökosystem und haben nun tatsächlich die gewünschten Ergebnisse erzielt. Und es geht nicht nur bei uns aufwärts, wir sehen auch, dass es bei unseren Freunden aufwärts geht.

„Geheimdienstentstehung“:Haben Sie einen geschätzten Betrag im Kopf?

Tan Dai: Beispielsweise gibt es ein Ziel für die Gesamtzahl der Token, das sowohl insgesamt als auch gestaffelt ist. Beispielsweise muss die Anzahl der Benutzer, deren Anzahl an Token ein bestimmtes Niveau überschreitet, ein bestimmtes Niveau erreichen. Wir hoffen, dass die Kunden eine spindelförmige oder trichterförmige Verteilung bilden. Wenn die Gesamtmenge an Tokens sehr hoch ist, es aber nur zehn Kunden mit über 100 Millionen Tokens gibt, ist das auch nicht gesund.

„Geheimdienstentstehung“:Wie sieht es jetzt aus?

Tan Dai:Es hat noch nicht die Form einer umgekehrten Pyramide und die Taille des Benutzers kann etwas dicker sein.

„Geheimdienstentstehung“: Offensichtlich ist KI nach der Preissenkung bei großen Modellen integrativer geworden und kann mehr Dinge tun. Glauben Sie, dass es bei den Early Adopters heute einen klaren Trend hin zum „Ein-Personen-Unternehmen“ gibt?

Tan Dai: Heutzutage gibt es weniger „Ein-Personen-Unternehmen“ und mehr „Zehn-Personen-Unternehmen“. Ich sehe im Ausland, dass sich viele Dinge mit nur zwei oder drei Leuten erledigen lassen.

Früher haben wir gescherzt, dass alles, was man brauchte, um ein Unternehmen zu gründen, ein Programmierer war, aber jetzt brauchen wir keinen mehr. Einige von uns befragte Benutzer sagten, dass diese Demo überhaupt nicht für die Prototypenverifizierung (POC) verwendet werden kann, aber jetzt ist dies ein Durchbruch von 0 auf 1. Wenn das große Modell in Zukunft besser ist, kann die KI möglicherweise alles von 0 bis 100 lösen.

OpenAI hatte ursprünglich eine Diskussion darüber, wann ein Einhornunternehmen mit nur einer Person im Unternehmen (im Wert von mehr als 1 Milliarde US-Dollar) entstehen wird und ob es fünf Jahre oder länger dauern wird.

In diesem Fall sollten wir uns nicht nur die Killer-App ansehen, denn viele Ideen von Startups zielen darauf ab, sehr vertikale Probleme zu lösen.

Es ist ein Lügner zu predigen, dass „der Einsatz von KI Ihrem Unternehmen beim Wachstum helfen wird“.

„Geheimdienstentstehung“:Konzentrieren Sie sich jetzt mehr auf die Technologieseite oder auf die Kundenseite?

Tan Dai: fast. Kurzfristig sind die beiden Seiten untrennbar miteinander verbunden. KI ist nicht so ausgereift wie Cloud Computing. Die Verbesserung von KI-Modellen und die Art und Weise, wie Kunden sie nutzen, erfordern einen Feedback-Prozess. Sie können nicht einfach im Büro sitzen und zusehen.

„Geheimdienstentstehung“:Welche Aspekte der aktuellen Bedürfnisse oder Zweifel der Kunden stehen am meisten im Fokus?

Tan Dai:Es gibt viele unerwartete Wege.

In der Bildungsszene zum Beispiel dachten einige Leute früher: „Ich kann das Problem einfach für Sie lösen.“ Aber in vielen Fällen müssen Kunden jetzt die Rolle eines Lehrers übernehmen und mir sagen, wie das geht, anstatt mir nur die Antwort zu sagen. Dafür sind mehr als nur Modellfähigkeiten erforderlich.

„Geheimdienstentstehung“:Glauben Sie, dass dies ein Problem auf Produktebene ist?

Tan Dai:Man kann es sich als Produkt- oder Nachfrageproblem vorstellen, aber dahinter stecken auch technische Probleme.

„Geheimdienstentstehung“: Wird es auf Kundenseite jetzt mehr „Must-have“-Szenarien geben? Beispielsweise denken Unternehmen heute, dass KI entbehrlich ist, oder sie erwägen möglicherweise, Kosten zu senken und die Effizienz zu steigern.

Tan Dai: Alle sind sich bereits einig, dass KI das nächste große Ding ist, und werden es daher auf keinen Fall verpassen. Jetzt müssen wir Unternehmen nicht mehr darüber aufklären, dass sie KI nutzen müssen, sondern man muss mit ihnen besprechen, welche Szenarien für den Einsatz von KI geeignet sind. Manchmal unterschätzen Menschen die Fähigkeiten der KI, manchmal überschätzen sie sie.

„Geheimdienstentstehung“:Daher hat KI im Vergleich zur vorherigen Ära der Digitalisierung eine neue Weiterentwicklung des Digitalisierungskonzepts gebracht.

Tan Dai: Vielleicht. In der Vergangenheit bestand ein sehr wichtiger Schritt bei der Digitalisierung darin, unstrukturierte Daten in strukturierte Daten umzuwandeln und den Menschen die strukturierten Daten verständlich zu machen. Jetzt hat die KI alles für ihn gelöst und die Schwelle zur Digitalisierung gesenkt.

„Geheimdienstentstehung“: Betrachten Unternehmen KI und Digitalisierung aus der gleichen Perspektive? Früher hatte der Chef bei der Digitalisierung von Unternehmen das Gefühl, dass dadurch die Effizienz ein wenig gesteigert werden könnte, doch viele betrachteten dies immer noch als Kostenfaktor. Wenn Unternehmen fragen, ob die Digitalisierung zunehmen wird, ist ihr Beitrag tatsächlich sehr gering. Kann KI diese Situation ändern?

Tan Dai: Ich denke, es ist ein Entscheidungsprozess in verschiedenen Dimensionen. Bei der Technologie geht es einfach darum, das Geschäft zu verbessern. Einerseits möchte der Chef mein Geschäftsmodell sehen und andererseits, wie ich durch Digitalisierung meine Geschäftseffizienz verbessern kann.

Angenommen, ein Einzelhändler fragt mich: Wie kann ich Geschäftswachstum erzielen? Mein erster Punkt ist auf keinen Fall, ihm zu sagen, dass Sie in die KI einsteigen möchten. Ich sage auf jeden Fall: Sie beginnen mit dem Douyin-E-Commerce. Dann lassen Sie uns darüber sprechen, wo wir Ihnen helfen können, die Effizienz durch KI zu verbessern. Wenn Sie von Anfang an sagen „Mit KI können Sie wachsen“, halte ich das für einen Lügner.

„Geheimdienstentstehung“: Ich habe einen Freund, dem es früher schwerfiel, Wolken in Huoshan zu verkaufen, aber er verließ das Unternehmen um 2022. Nachdem er das große Modell gesehen hatte, hatte er das Gefühl, dass dies dem Vulkan eine besonders große Chance bot. Was denken Sie?

Tan Dai: Wir werden die Cloud erst Ende 2021 einführen. Natürlich wird es im ersten Jahr schwierig sein, das ist das schwierigste. Er kann einfach ein weiteres Jahr durchhalten. Tatsächlich war unser Wachstum in den letzten Jahren recht schnell und wir sind die schnellsten in der Branche.

Ich denke, Zeiten machen Helden. Wenn es keine neuen Kunden und keine neuen Szenarien für Kunden gibt, selbst wenn Sie Ihr Bestes geben, was nützt es dann? Das bisherige goldene Zeitalter des Cloud Computing war auf den Aufstieg des mobilen Internets und die allmähliche Reife der Digitalisierung in allen Lebensbereichen zurückzuführen. Dies ist das Naturgesetz der Branchenentwicklung.

Aber die nächste Ära ist die KI. Ich habe das Gefühl, dass sich alle zehn Jahre oder länger ein neuer Punkt ergeben wird, und wir müssen diesen neuen Punkt ergreifen, um unsere Technologieführerschaft zu behaupten.

„Geheimdienstentstehung“:Glauben Sie, dass die Entwickler, mit denen Sie jetzt in Kontakt kommen, besorgt sind?

Tan Dai: Ich persönlich habe das Gefühl, dass niemand besonders besorgt ist. Warum? Sie sehen, die aktuellen Modelle sind ziemlich gut und die Preise sind so niedrig, also probieren Sie einfach mehr aus und Sie müssen sich keine Sorgen machen. Möglicherweise sind die Anleger besorgter. (lachen)

„Geheimdienstentstehung“:Einige Entwickler sind besorgt, denn obwohl die Modelle jetzt günstig sind, waren sie am Anfang ziemlich gut und konnten immer noch Geld verdienen, aber wenn sie erst einmal anfangen, ihren Umfang zu erweitern und in Traffic zu investieren, wird der ROI nicht korrekt sein und die tatsächlichen Benutzer bleiben erhalten wird selten sein.

Tan Dai: Ich denke, das ist ein Verkehrsproblem, kein KI-Problem. Wenn Sie keine KI verwenden, liegen Sie immer noch falsch, wenn Sie andere Dinge verwenden. Beispielsweise sind kurze Spielzüge sehr beliebt, mit anderen kann man kein Geld verdienen.

„Geheimdienstentstehung“:Was ist das interessanteste KI-Anwendungsszenario, das Sie in letzter Zeit gesehen haben?

Tan Dai: Davon gibt es einige, zum Beispiel nutzen manche Kinder Sitzsäcke, um direkt Englisch zu lernen. Ein anderer Firmenkunde von uns wollte ein großes Modell nutzen und veranstaltete daher einen KI-Hackathon innerhalb des Unternehmens. Die Mitarbeiter entwickelten mehr als 100 Produkte basierend auf den Geschäftsanforderungen, denen sie normalerweise begegneten, und vielleicht waren zwei oder drei davon erfolgreich.

Mittlerweile kooperieren wir mit einigen Automobilherstellern, die ihre Nutzer sogar einladen, an der gesamten Gestaltung mitzuwirken. Wenn Benutzer am Design beteiligt sind, können sie ihre eigenen Schwachstellen möglicherweise besser verstehen.

„Geheimdienstentstehung“:Wie stark hat sich das Verhältnis von Schulungs- und Inferenz-Rechenleistung für die von Ihnen betreuten Unternehmen inzwischen verändert?

Tan Dai: Es wird noch mehr Training geben. Aber die Zahl der Schlussfolgerungen nimmt jetzt sehr schnell zu, Dutzende Male höher als im letzten Jahr, während die Ausbildung weniger als doppelt so stark zugenommen hat. Wir gingen ursprünglich davon aus, dass die Inferenz bis zum Jahr 2025 das Training übertreffen würde, und das scheint auch jetzt der Fall zu sein.

„Geheimdienstentstehung“:Wann glauben Sie, dass KI-Anwendungen explodieren werden?

Tan Dai: Erstens ist dieses Jahr keine große Explosion, aber es ist definitiv eine kleine Explosion. Ich denke jedoch, dass es nächstes Jahr eine große Explosion geben wird. Selbst aus globaler Sicht befindet es sich definitiv in einem frühen Stadium der KI-Anwendung. In Zukunft werden günstigere Preise für ideale Modelleffekte sorgen. Nur wenn KI-Anwendungen florieren und weiterhin chemische Reaktionen stattfinden, kann das Ökosystem aufgebaut werden.

„Geheimdienstentstehung“:Seit 2023 betonen Sie, dass Sie in Zukunft keine großen Basismodelle mehr herstellen werden.

Tan Dai: Nie wieder. Das große Doubao-Modell wird von einem engagierten Team bei ByteDance entwickelt. Huoshan muss das Modell nicht selbst erstellen, solange die Cloud und MaaS gut funktionieren.

Menschen, die Cloud Computing betreiben, und diejenigen, die große Modelle betreiben, sind definitiv völlig unterschiedlich. Die großen Hersteller der Welt erledigen ihre Arbeit alle getrennt. Das Modell von Amazon ist Claude, und die Cloud wird von AWS erstellt. Google Cloud und Gemini werden nicht von derselben Gruppe von Personen erstellt.

Wir bei Huoshan konzentrieren uns darauf, die Cloud gut zu machen, aber MaaS ist ein sehr wichtiger Teil der Cloud. Damit MaaS erfolgreich ist, bietet unser MaaS-Service unseren Kunden das beste Modell. Das hat sich nie geändert.

Willkommen in der Gruppe

Willkommen zur Kommunikation