nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Texte/Wang Shuoguo Editeur/Yan Ziwei

Deux grandes sociétés modèles dans lesquelles Huawei Hubble a discrètement investi ont publié de nouveaux développements l'un après l'autre.

À la mi-août, Facewall Intelligence a annoncé que sa série de modèles de langage à grande échelle MiniCPM avait reçu plus d'un million de téléchargements depuis son lancement en février.

Fin juillet, Shenshu Technology s'est mondialisée et a lancé Vidu, un grand modèle de Wensheng Video, dont les performances sont comparées à celles de Sora.

Wall-facing Intelligence et Shengshu Technology ont été créés respectivement en 2022 et 2023, et leurs équipes principales sont toutes issues de l'Université Tsinghua. Le PDG de Wall-Facing Intelligence est Li Dahai, l'ancien CTO de Zhihu ; le PDG de Shengshu Technology est Tang Jiayu, qui a étudié au département d'informatique de l'Université Tsinghua avec un baccalauréat et une maîtrise.

La piste de l'IA est brûlante et Huawei Hubble est optimiste quant au potentiel de ces deux jeunes talents.

Nouvelle équipe

Hubble Investment est une institution d'investissement détenue à 100% par Huawei.

Selon Qichacha, elle compte deux entités, à savoir Hubble Technology Investment Co., Ltd. et Shenzhen Hubble Technology Investment Partnership.

Auparavant, l'investissement de Huawei Hubble s'est concentré sur la technologie dure, investissant dans un certain nombre de sociétés de puces semi-conductrices. Cette année, il a successivement soutenu deux sociétés de pointe de Tsinghua, montrant l'accent mis sur la piste de l'IA.

Selon les données d'IT Orange, Hubble a fait des paris successifs dans le domaine de l'intelligence artificielle cette année, avec un montant d'investissement cumulé de 132 millions de yuans.

En direction des grands modèles, elle préfère les élites issues d’écoles prestigieuses.

Les deux sociétés qui ont investi dans l’entreprise ont des structures d’équipe fondatrices similaires et sont toutes deux soutenues par l’Université Tsinghua.

Les principaux membres de Shengshu Technology viennent de l'Institut de recherche sur l'intelligence artificielle de l'Université Tsinghua, et l'équipe fondatrice de Wall-Facing Intelligence est née du Laboratoire de traitement du langage naturel (THUNLP) de l'école.

Un groupe de visages Tsinghua forme la haute direction de la biotechnologie. Outre le PDG, son scientifique en chef est Zhu Jun, directeur adjoint de l'Institut d'intelligence artificielle de Tsinghua, et le directeur technique Bao Fan est un camarade de Tang Jiayu et un membre de l'équipe de recherche de Zhu Jun.

De juin à août de l'année dernière, Shengshu Technology a réalisé deux tours de financement consécutifs et a reçu un total de centaines de millions de yuans. En juin de cette année, Hubble a investi en actions et a participé à son cycle de financement A+.

Le chemin de croissance de l’intelligence face aux murs est similaire.

Son co-fondateur Liu Zhiyuan est directeur de doctorat au Département d'informatique de l'Université Tsinghua et sa direction de recherche est le traitement informatique du langage naturel ; le CTO de l'entreprise Zeng Guoyang, 26 ans, est un étudiant recommandé au concours et a participé au concours. Laboratoire de traitement du langage naturel Tsinghua en deuxième année.

Selon Li Dahai, l'équipe de recherche scientifique intelligente face au mur compte plus de 100 personnes, dont 80 % sont diplômées du Qingbei, avec une moyenne d'âge de seulement 28 ans. Elles ont publié plus de 100 articles dans des revues et conférences faisant autorité.

Avant de fonder Wall-face Intelligence, Li était le CTO de Zhihu, créant une activité de recherche et de recommandation pour la plateforme à partir de zéro, lançant une « communauté intelligente » d'IA et augmentant le nombre d'utilisateurs actifs mensuels.

L'année dernière, ChatGPT était très populaire et tout le monde parlait d'AGI (intelligence générale artificielle). Il a discuté avec les principaux membres de l'entreprise. Après avoir confirmé qu'AGI est la conviction de tous, rejoignez-nous de manière décisive.

Son ancien employeur a soutenu son esprit d'entreprise et, en avril de la même année, Face Wall Intelligence a reçu un investissement de dizaines de millions de yuans de Zhihu. Un an plus tard, Hubble a pris une participation.

Lancer continuellement de nouveaux produits

Les deux startups ont lancé de nouveaux produits dans un laps de temps relativement court. C’est une raison importante pour attirer les investissements d’institutions telles que Huawei et Hubble.

Fin avril, Shengshu Technology s'est associé à l'Université Tsinghua pour publier un grand modèle vidéo : Vidu. Fin juillet, Vidu a été lancé à l'échelle mondiale, ouvrant les deux fonctions principales de Wensheng Video et Tusheng Video, offrant deux options de durée de 4 secondes et 8 secondes, avec une résolution allant jusqu'à 1080P.

Vidu génère un clip de 4 secondes en seulement 30 secondes. Actuellement, les utilisateurs peuvent s'inscrire directement avec leur adresse e-mail pour découvrir Vidu.

Selon les rapports, la vidéo générée par Vidu est fluide et cohérente, sans phénomène d'insertion d'image évident, et le langage de l'objectif est riche, et différents objectifs tels que les plans longs, les plans rapprochés et les gros plans peuvent être commutés.

"Les performances de Vidu sont très remarquables en termes de rétention à long terme de 16 secondes et de compréhension sémantique", a commenté Zhu Jun, scientifique en chef de Shengshu Technology.

L’intelligence face aux murs pousse également constamment de nouveaux mouvements.

En mai, son grand modèle Luca est sorti. Li Dahai a déclaré que les capacités de modèles linguistiques multiples de Luca sont équivalentes à ChatGPT.

Le même mois, le MiniCPM-V2.0, orienté vers le mur, a été lancé, capable d'identifier avec précision les scènes de rue avec des détails complexes et de lire l'écriture manuscrite ancienne sur les feuillets Tsinghua datant de plus de 2 300 ans.

Dès l’année dernière, Face Wall Intelligence a lancé la plateforme de développement de logiciels intelligents ChatDev. Les utilisateurs qui ont besoin de créer de petits jeux, de développement de sites Web, de conception créative, etc. peuvent rapidement le mettre en œuvre en décrivant simplement le nom du projet et les idées associées via ChatDev.

Selon les mots de Li Dahai, un utilisateur ordinaire peut créer un petit logiciel « avec une seule tasse de Coca et pour un coût inférieur à un dollar ».

La commercialisation a été initialement mise en œuvre. Face Wall Intelligence s'est associé à China Merchants Bank, Digital Network, Zhihu, etc. pour appliquer la technologie à des scénarios tels que la finance, l'éducation et les terminaux intelligents.

Par exemple, fin juin, le système de procès assisté par intelligence artificielle développé par l'entreprise a été mis en service au tribunal populaire intermédiaire de Shenzhen, couvrant des processus tels que le dépôt des dossiers, l'examen des dossiers, les audiences du tribunal et la production de documents.

Depuis sa mise en service en janvier de cette année, le système a aidé au classement de 291 000 dossiers et à la génération de 11 600 premières ébauches de documents.

Trouver une nouvelle façon

Li Dahai et Tang Jiayu ont les mêmes caractéristiques, ils ne sont pas superstitieux quant au chemin emprunté par leurs prédécesseurs.

Par exemple, GPT souligne que « de gros efforts peuvent produire des miracles », tandis que l'approche de l'équipe face au mur consiste à prédire les performances de grands modèles à travers de petits modèles : s'entraîner d'abord sur un modèle avec des paramètres allant de 0,009B à 0,03B, puis extrapoler à un modèle 2.4B. Performances prédictives, enfin, entraîner le modèle 2.4B.

Cette méthode permet d'obtenir deux fois le résultat avec la moitié de l'effort. Expérimenter d'abord sur un petit modèle et ajuster les paramètres peut réduire les coûts de formation.

Avant la création de l'entreprise, en tant que membre du projet « Enlightenment » de l'Institut de recherche sur l'intelligence artificielle Zhiyuan de Pékin, l'équipe Wall-Facing a commencé à former de grands modèles de langage en 2020.

L'expérience passée leur permet de savoir quel type de données est nécessaire pour les grands modèles.

"Il est facile pour tout le monde de tomber dans un malentendu et de trop se concentrer sur la quantité absolue de données. En fait, la qualité des données, la manière de les utiliser et la compréhension des données sont plus importantes." dit.

En raison de contraintes de ressources, l'équipe utilise depuis longtemps des méthodes telles que l'accélération distribuée et le réglage fin des paramètres pour réduire les coûts. En 2022, les travaux de mise au point des paramètres de l’équipe face aux murs ont également été publiés dans la sous-revue Nature.

Le style de jeu de Shengshu Technology est similaire.

Sur la feuille de route technique, Shengshu utilise la même architecture convergée que Sora, mais sur le chemin du produit, les deux sont différents.

L'équipe Sora a opté pour de longues vidéos, soutenues par la force technique d'Open AI et la puissance de calcul de Microsoft. Les conditions pour que les startups développent des technologies numériques sont incomparables.

L’équipe de Tang Jiayu a choisi de commencer avec des images 2D, puis de s’étendre aux domaines 3D et vidéo.

La vidéo est essentiellement une amplification d'images en séries chronologiques, qui peuvent être visualisées sous forme d'images multi-images consécutives. Les travaux d'ingénierie sur les images, tels que la collecte de données, le nettoyage, l'annotation et la formation efficace de modèles, peuvent être réutilisés.

Tout au long de l’année 2023, les principales ressources de Shengshu seront placées sur l’image et la 3D. Ce n'est qu'en janvier de cette année que la génération de vidéos courtes de 4 secondes a été lancée. Après la sortie de Sora en février, les progrès de la société se sont accélérés et en avril, elle a pu générer de courtes vidéos de 16 secondes.

Sur la grande piste de modélisme, des équipes nationales et étrangères s'affrontent pour « faire bouger leurs muscles ». Ces deux équipes Tsinghua viennent de commencer à s'échauffer et espèrent obtenir de bons résultats.

D’ici là, Huawei Hubble, qui a investi très tôt, devrait obtenir des rendements excédentaires.