nouvelles

journaliste d'actualités d'interface | cui peng

editeur d'actualités de l'interface | chanson jianan

9lune25jourmatin，baidu est dansyunzhià la conférencedéroulercent geunjeinformatique hétérogèneplate-forme4.0etmille voiles grand modèleplate-forme3.0attendezunjeproduits d'infrastructure，et annoncéj'ai comprismultipleunjeaffaires connexesdeà jourdonnées。dans,wenxingrand modèlemoyenne quotidienneappelquantitédéjàdépasser7100 millions，distancebaidudernière foisannoncerde6100 millionsdonnéesavoirplus loinpromouvoir。

existervient de se termineraliconférence yunqisupérieur，alibabaceowu yongmingjamaisexprimer，alibaba nuagederéseau uniquegrappedéjàdévelopper vers10dix millecarteniveau,etbaidu aussine voulant pas accepterderrière。shen dou, vice-président exécutif du groupe baidu et président du baidu intelligent cloud business groupspécialsouligner，cent ge4.0volonténon seulementouiwankagrappe，plutôtayez-lemature10dix millecartegrappedéployeretcapacité de gestion。

baiducette annéetoujours làsoulignergrand modèledeatterrissageapplication. le pdg de baidu, robin li, a récemment prononcé un discours internesignifie dans，avoirscénarios d'application、peutitération continuemise à niveaudegrand modèle,etautremodèlel'écart entre les produits seradevenant de plus en plus gros.

sur cette base,baiduje l'ai trouvéchang'an automobileetsamsungattendezbeaucoupsite internet du client,parexpositionles résultats d'application des grands modèles de baidu dans diverses industries.

shen trembleexprimer，au cours de la dernière année,baidusentirclientdemodèlebesoinsurtension，la taille de cluster requise devient de plus en plus grande,entreprisedroitemodèlecoût du raisonnementdéclindeattenduaussialler de plus en plus haut。

formation de grands modèlesla prémisse estcréergrappe, il ne s’agit pas seulement d’acheter un gpu et de l’assembler.en généralbesoinquelques moisconduireéquipementconfigurationetdéboguer。

auparavant, il y avaitfournisseurs de cloudmentionné, formant un clusterpeutcompressionarriver1ciel,etshen trembledire，cent ge4.0capable de fairele plus rapide1heures complétéesétablir,principalutiliservolontéformation populaire dans l'industrieoutiletcadreconduiremanière intégrée.

une foisentrer dansformation à grande échellescène，le plus importantc'eststabilité。le domaine des grands modèles a toujours suivi la célèbre loi de mise à l'échelle, selon laquelle les performances du modèle s'amélioreront à mesure que les paramètres, la puissance de calcul et la taille de l'ensemble de données augmenteront.。

selon shen dou, gptules coûts du clustermontant énormedeconstructionet les frais de fonctionnement, construit généralementunwankagrappe，unouigptudeachatcoûtimmédiatementgundamdes milliardsyuan.sioui10dix millecartegrappe，serveurun jourconsommerdepouvoirà proposoui300dix millekilowattheure，équivalent àpékindistrict de dongchengun jourdeconsommation d'électricité résidentielle。

existerce genre deà grande échelledesur le cluster，matérielinévitableréunionapparaîtrefaute，plus l'échelle est grande，dysfonctionnementprobabilitéplus。existercesdysfonctionnement，grande majoritéouidépendre degptucausé par，parce quegptuouitrès sensiblematériel，droitetempérature、humiditéattendezenvironnementfluctuationsensible。

shen dou a mentionné，lorsque meta a entraîné le modèle llama3, un cluster utilisant 16 000 cartes gpu a connu une panne moyenne toutes les 3 heures.

grand modèleformerouiénormetâche unique，unnœuderreur，entiergrappej'ai juste besoinarrêt,etrestaurationarriverprécédentpoint mémoire。en tenant comptegptugrappedecoûttrèscher，chaquebeaucouparrêtune minutevolontébrûler de l'argent en vain，“une formation efficacedurée"cela devienttrèsindicateurs importants。

contregrand modèleformeren courséchecs fréquentsdequestion，cent ge4.0droitedétection de défautsmoyensetmécanisme automatique de tolérance aux pannesconduirej'ai comprismise à niveau，à l'heure actuellewankagrappesupérieurdetemps de formation efficaceatteindre99.5%，shen trembledirec'est plus élevé quepairsadversairededonnéesperformance. aussi,cent ge4.0volontégrand publiclong texteefficacité du raisonnementpromouvoirj'ai compris1foisau-dessus de，en même tempsréduitcoût du raisonnement。

lors du dernier appel aux résultats de baidu,robin lijamaisil a été révélé que la contribution aux revenus de baidu smart cloud ai a encore augmenté pour atteindre 9 % au deuxième trimestre, contre 6,9 ​​% au trimestre précédent.

grand modèleoutildeperformancepromouvoirbien sûrimportant，mais pourbaiduparlons，atterrissage du modèlederéalisationssignification plus pratique。

sauf mise à niveaucent geen plus de la plateforme, baidu a également soulignédernierqianfan3.0plate-forme. selon les données publiées par shen dou,sur la plate-forme de grands modèles qianfan, les grands modèles wenxin sont appelés plus de 700 millions de fois par jour en moyenne, aidant les utilisateurs à affiner 30 000 grands modèles et à développer plus de 700 000 applications d'entreprise.qianfan 3.0 peutil peut appeler près d'une centaine de grands modèles nationaux et étrangers, y compris les grands modèles de la série wenxin, et prend également en charge l'appel de divers petits modèles traditionnels tels que la voix et la vision.

à l'heure actuelle,grand modèleatterrissagedetrois grandsprincipaux besoinsils sontdéveloppement d'applications、modèleraisonnementetmodèledévelopper。

existercouche de développement d'applications，niveau entrepriserung（volontéentrepriseetdonnées de l'industriefaitplug-inbase de connaissancesdonnergrand modèle）etungentilagentouideux majeurscommundegrand modèleatterrissagescène。

parmi eux, une fois que l'agent intelligent a reçu la tâche, il réfléchira de manière indépendante, démontera la tâche, planifiera le plan et appellera des outils pour terminer l'ensemble du processus de manière indépendante.，peutcomplétez le passébesoin3 à4individuelunpptalentcomplététâche。

shen trembleexprimer，baiduinternepourqianfanplate-formefournirj'ai comprisrecherche baidudoncetcarte de baiduattendezdépasser80individuelcomposants officiels，utilisé pourpromouvoiragentexistersur des tâches spécifiquescapacité。

et danspour robin li, les agents intelligents sont de grands modèlesdéveloppésuivantorientation importante."beaucoup de gens sont optimistes quant à l'orientation du développement des agents intelligents, mais à l'heure actuelle, les agents intelligents ne font pas consensus. il n'y a pas beaucoup d'entreprises comme baidu qui considèrent les agents intelligents comme la stratégie la plus importante et l'orientation de développement la plus importante des grands modèles. ".

baidu a lancé trois produits lors de la conférence create de cette année, à savoir agentbuilder, appbuilder et modelbuilder. parmi eux, agentbuilder et appbuilder sont tous deux liés aux agents intelligents. l'un a un seuil inférieur et l'autre met l'accent sur la fonctionnalité.

selon les dernières données divulguées par baidu, la distribution d'agents intelligents dans l'écosystème de baidu a considérablement augmenté. le nombre moyen de distributions par jour en juillet a dépassé 8 millions de fois, soit le double du chiffre de mai.

propriété de baiduhomme numériqueplate-formeetdes produits de service client intelligents sont également disponiblesderniers développements。parmi eux, xilin digital human platform 4.0 prend en charge la génération rapide d'images et de vidéos humaines numériques 3d avec différents styles de maquillage et différentes caractéristiques industrielles basées sur le texte, et réduit le prix des humains numériques hyperréalistes 3d de 10 000 yuans à 199 yuans.

le produit de service client intelligent « keyue » a été optimisé en termes de compréhension des intentions des utilisateurs et d'échange d'informations multimodales, et a amélioré sa capacité à gérer des problèmes complexes.

selon baidu, actuellement l'industrie"taux de résolution des problèmes"dele niveau moyen est de 80 %, et après la mise à niveau, « ke yue » a augmenté cet indicateur à 92 %. ce produit a aidé des entreprises clientes à servir plus de 150 millions de personnes et à interagir avec elles plus de 500 millions de fois.