nouvelles

Quelques observations sur les applications d'entreprise à grande échelle

2024-08-20

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Article | Small est un grand partenaire entrepreneurial

Depuis janvier de cette année, nous organisons chaque mois un salon d'atterrissage d'applications de grands modèles à Shanghai. J'aimerais partager ici certaines de mes observations :

Concernant les évolutions au cours de l’année écoulée :

La cognition est alignée, tout s'épanouit, un petit profit est attendu et nous attendons avec impatience un succès.

Au début de l'année, certains discours lors de la réunion parlaient également de « notre entreprise a 5 ans d'expérience en intelligence artificielle » et autres, mélangeant intentionnellement ou non le LLM avec l'IA précédente. Désormais, tout le monde peut dire très franchement quelles scènes utilisent la technologie d'IA précédente et quels modèles sont utilisés. Ils expliqueront également clairement lesquels sont basés sur le modèle et quelles scènes ont fait l'objet d'un réglage fin ou d'une formation secondaire. C’est un bon phénomène qui permet à chacun d’entrer dans des domaines qui devraient être discutés plus directement.

Dans le même temps, nous avons également vu de plus en plus de scénarios dans lesquels le LLM est réellement utilisé, notamment la combinaison de génération de contenu et de scénarios de travail spécifiques, de nouveaux produits RPA utilisant la technologie LLM, dans les domaines des entretiens de ressources humaines, de la sélection et de la formation professionnelle. . Vraiment se concrétiser.

Pour les projets déjà mis en œuvre, certaines parties A disposent de données relativement quantitatives pour évaluer les résultats du LLM, et certaines parties B ont commencé à dire qu'elles ont signé un contrat ou reçu un paiement pour le projet. La plupart des projets entrepris par la partie B semblent être de l'ordre de centaines de milliers, et il existe parfois des projets de moins de quelques millions. Les revenus de cette direction ne sont pas encore devenus le principal soutien des revenus de l'entreprise.

Quelqu'un s'est posé la question au début de l'année, et cette question est toujours posée maintenant, c'est-à-dire quel logiciel populaire possède Big Model 2B. Il semble qu'il n'y en ait pas encore. Peut-être pas avant longtemps ? Quels ont été les plus gros succès des logiciels 2B au fil des années ? Bureautique ? ERP financier ? CRM ? Des livres volants DingTalk ? Continuons d'attendre avec impatience

À propos de la forme du produit :

Interface chat, interface traditionnelle, traditionnel + chat = Copilot, quoi d'autre ?

Pour les logiciels 2B à grande échelle, chacun a des attentes différentes, certains sont pessimistes et la plupart semblent trop optimistes. Concrétisons ces attentes et demandons ce que chacun dans l'entreprise pensera de ce nouveau pilote d'entreprise à grande échelle.

Le grand modèle est d'abord entré dans le champ de vision des gens, qui était l'interface du chat. Gpt3.0 a déjà démontré des capacités très similaires à celles d'aujourd'hui, mais comme il n'y a pas de chat, seulement une API, il n'a pas attiré davantage l'attention des gens et n'a pas non plus brisé le cercle. Bien que l’interface du chat et de la recherche soit similaire, une fois que vous les utiliserez, vous aurez l’impression qu’elles sont essentiellement différentes. Nous avons des raisons de croire que la nouvelle génération d'infrastructure de système d'information d'entreprise, qui utilise le chat comme interface et est accessible à tous dans l'entreprise, deviendra populaire dans toutes les entreprises, tout comme les logiciels de bureautique, de messagerie électronique et d'entreprise WeChat/DingTalk/Feishu. . colingo.ai, incubé par un petit et grand partenaire entrepreneurial, se concentre sur ce marché.

Logiciel d'entreprise traditionnel, certains backends ont utilisé divers algorithmes d'IA, remplaçant certains d'entre eux par de grands modèles pour mieux résoudre les problèmes, ou utilisant de grands modèles pour traiter des choses qui ne pouvaient pas être traitées avec des algorithmes auparavant. la perceptibilité des utilisateurs finaux est relativement faible. Il y aura de plus en plus de scénarios de ce type, mais il ne sera peut-être pas facile de produire un logiciel à succès.

La combinaison de l'interface de chat et du logiciel GUI traditionnel est Copilot. En tant que premier partenaire proche d'OpenAI, il a lancé Copilot pour Office, permettant aux utilisateurs de mieux utiliser les logiciels traditionnels via l'interface de chat. Il semble que ce sera également l'une des principales formes d'interface pendant un certain temps ?

Y a-t-il de nouveaux formulaires d'interface ? Comment les travailleurs du numérique collaborent-ils avec d’autres travailleurs ? Il y a encore beaucoup de matière à discussion dans ce domaine.

Concernant le parcours technique des prestataires logiciels 2B :

  • Top trois : arrangement, chiffon, agent
  • Les trois prochaines voies : puissance de calcul, infrastructure, formation et mise au point

En savoir trop est un fardeau.Ce phénomène existe à l'ère des grands modèles, sans parler de la question de la « pensée des grands modèles », qui n'est peut-être pas facile à définir, mais qui se reflète toujours dans le processus d'application des grands modèles. modèles par divers fournisseurs de services logiciels.

La différence entre les trois routes supérieures et les trois routes inférieures ne réside pas seulement dans quelques GPU, mais aussi dans les talents, les processus de travail, les cycles de livraison, les vitesses d'itération et les coûts globaux globaux impliqués ne sont pas du même ordre de grandeur.

La première réaction des services techniques de nombreuses entreprises est de former d'abord le modèle, d'acheter des cartes et de recruter du personnel. Ensuite, il risque de rester coincé dans le bourbier. S'il est renvoyé au PDG, il deviendra un modèle à grande échelle. C'est une chose très lourde et nécessite beaucoup d'investissement. Il n’y a aucun progrès au sein de l’entreprise et, à l’extérieur, nous devons constamment faire face à des clients qui nous demandent ce qu’ils peuvent faire pour nous avec de grands modèles, nous sommes donc face à un dilemme.

Le tiers supérieur peut résoudre la plupart des problèmes liés aux applications de grands modèles. Lorsque les sociétés d'applications entrent dans le tiers inférieur, elles doivent au moins terminer le tiers supérieur et confirmer que le tiers inférieur peut vraiment améliorer considérablement l'effet avant d'entrer.

Le mot « formation » n'est pas autorisé dans le développement d'applications à grande échelle. Il s'agit peut-être d'une méthode excessive, mais à ce stade, pour la plupart des sociétés de développement d'applications, cibler les trois voies supérieures peut être le moyen le plus rapide d'obtenir des résultats.

Il y a deux questions spécifiques dont j’ai discuté avec de nombreuses entreprises et que j’aimerais partager avec vous :

Concernant le choix des clients avec lesquels démarrer avec des applications de grands modèles :

« Les entreprises avancées utilisent Feishu », nous devons trouver les partis qui ont déjà une « pensée de grand modèle ». En tant que fournisseur de services, il est difficile de trouver des partis qui sont satisfaits de chaque amélioration des résultats. n'est pas Avant de commencer, nous avons 10 000 questions devant nous. Évitons de tels utilisateurs.

Sur quel modèle choisir :

Commencez par le meilleur modèle que vous puissiez utiliser. Si vous n’y parvenez pas, alors cette génération de modèles n’est pas assez bonne, alors attendez.

Une fois que c'est fait, utilisez le modèle le plus réaliste pour l'ajuster et indiquez à la partie A la différence dans la mesure où elle est ajustée. Si elle est acceptable, allez-y. Si ce n'est pas acceptable, attendez.

Ne tenez pas compte du coût du modèle. Le prix d'aujourd'hui est totalement incomparable à celui d'il y a six mois, et les capacités dans six mois seront certainement meilleures qu'aujourd'hui. Pour créer des applications de modèles à grande échelle, vous devez avoir une croyance fondamentale dans la « loi de Moore des grands modèles ». Au lieu d'être obsédé par l'optimisation du modèle actuel, il est préférable d'accepter le temps et d'être votre ami.

Pour résumer le jugement des opportunités :

Sur le marché des applications 2B à grand modèle, il existe de nouveaux scénarios, de nouvelles formes, de nouvelles entreprises, d'anciens scénarios, de nouvelles solutions et de nouveaux et anciens PK.

Il ne fait aucun doute qu'il s'agit d'une opportunité pour les nouvelles entreprises, mais la forme du produit est loin d'être mature. L'iPhone est sorti mi-2007. De quelles applications mobiles vous souvenez-vous fin 2008 ? Le grand modèle fin 2022 n’est que dans un an et demi. Bien sûr, une entreprise doit rester en vie, mais elle ne peut pas avoir pour objectif de rester en vie. De nombreuses opportunités doivent encore être explorées, que ce soit par vous ou par d’autres.

Les opportunités appartiennent également aux fournisseurs de services logiciels actuels dans divers secteurs. Les services 2B doivent en fin de compte résoudre les problèmes des utilisateurs, et c’est vous qui connaissez le mieux les besoins de l’utilisateur. Dans le domaine des applications, la concurrence à l'ère des grands modèles a considérablement affaibli les barrières techniques. La capacité de transformer les besoins des utilisateurs en problèmes adaptés au traitement de grands modèles est devenue le point concurrentiel le plus important, et c'est sans aucun doute la force du service logiciel de l'industrie. .

Des remaniements sont inévitables, peu importe depuis combien de temps vous êtes dans l'industrie. Que vous soyez premier ou dernier dans l'industrie, vous risquez d'être éliminé dans cette compétition, laissant quelques postes aux grandes entreprises natives nouvellement entrées. Le reste sera également réorganisé dans cette révolution technologique.

La bataille décisive aura lieu cet automne, cette année.

La première réorganisation aura lieu cet automne. La plupart des entreprises ne disposent pas de budgets dédiés aux grands modèles en 2023, et les achats individuels détournent les budgets d'autres projets informatiques. Il y aura certains budgets POC liés aux grands modèles en 2024, et une grande partie du budget informatique en 2025 devra être liée aux grands modèles. Que vous puissiez réaliser votre solution et la vision de votre entreprise, le parti A cet automne déterminera le nombre de projets que vous pourrez obtenir en 2025 et votre position dans la première bataille de classement.