nachricht

interface news reporter | cui peng

interface-news-editor | lied jianan

9mond25tagmorgen，baidu ist dabeiyunzhiauf der konferenzausrollenhundert geaichheterogenes rechnenplattform4.0undtausend segel großes modellplattform3.0wartenaichinfrastrukturprodukte，und angekündigthabe esmehrereaichverwandtes geschäftvonauf dem neuesten standdaten。in,wenxingroßes modelltagesdurchschnittanrufmengebereitsüberschreiten7100 millionen，distanzbaiduletztes malanmeldenvon6100 millionendatenhabenweiterfördern。

existierengerade zu endealiyunqi-konferenzvorgesetzter，alibabaceowu yongmingimmeräußern，alibaba cloudvoneinzelnes netzwerkclusterbereitserweitern auf10zehntausendkarteebene,undbaidu auchnicht bereit zu akzeptierenhinter。shen dou, executive vice president der baidu group und präsident der baidu intelligent cloud business groupbesondersbetonen，hundert ge4.0willenicht nurjawankacluster，eherhabe esreifen10zehntausendkarteclustereinsetzenundmanagementfähigkeit。

baidudieses jahrimmer dabetonengroßes modellvonlandunganwendung. robin li, ceo von baidu, hielt kürzlich eine interne redebedeutet in，habenanwendungsszenarien、dürfenkontinuierliche iterationupgradevongroßes modell,undanderemodelldie produktlücke wirdimmer größer werden.

basierend darauf,baiduhabe es gefundenchangan automobileundsamsungwarteneine mengewebsite des kunden,vonausstellendie anwendungsergebnisse der großen modelle von baidu in verschiedenen branchen.

shen zittertäußern，im vergangenen jahrbaidufühlenkundevonmodellbrauchenanstieg，die erforderliche clustergröße wird immer größer,unternehmenrechtsmodellbegründungskostenabfallvonerwartetauchimmer höher werden。

training großer modelledie prämisse isterstellenclusterdabei geht es nicht nur darum, eine gpu zu kaufen und zusammenzubauen.allgemeinbrauchenein paar monatebenehmenausrüstungkonfigurationunddebuggen。

früher gab escloud-anbietererwähnt, einen cluster bildendkannkompressionankommen1himmel,undshen zittertsagen，hundert ge4.0in der lage, es zu tunam schnellsten1stunden absolviertgründen,hauptsächlichverwendenwillebeliebte ausbildung in der branchewerkzeugundrahmenbenehmenintegrierter weg.

einmaleintretengroß angelegte ausbildungbühne，am wichtigstendas heißtstabilität。der bereich großer modelle folgt seit jeher dem berühmten skalierungsgesetz, das davon ausgeht, dass sich die modellleistung mit zunehmenden parametern, rechenleistung und datensatzgröße verbessert.。

laut shen dou, gpudie clusterkostenriesige mengevonkonstruktionund betriebskosten, normalerweise baueneinswankacluster，einsjagpuvonkaufenkostenauf einmalgundammilliardenyuan.wennja10zehntausendkartecluster，servereinmalverbrauchenvonleistungumja300zehntausendkilowattstunde，äquivalent zupekingbezirk dongchengeinmalvonstromverbrauch für privathaushalte。

existierenso etwasgroßer maßstabvonauf dem cluster，hardwareunvermeidlichtreffenerscheinenfehler，je größer der maßstab，fehlfunktionwahrscheinlichkeitje höher。existierendiesefehlfunktion，überwiegende mehrheitjaverlassen sie sich daraufgpuverursacht durch，weilgpujasehr empfindlichhardware，rechtstemperatur、luftfeuchtigkeitwartenumfeldfluktuationreaktionsfreudig。

shen dou erwähnt，als meta das llama3-modell trainierte, kam es bei einem cluster mit 16.000 gpu-karten durchschnittlich alle 3 stunden zu einem ausfall.

großes modellzugjariesigeinzelaufgabe，einsknotenfehler，gesamteclusternur brauchenstoppen,undrollbackankommenvorherigeerinnerungspunkt。berücksichtigengpuclustervonkostensehrteuer，jedervielestoppeneine minutewillevergeblich geld verbrennen，“effektives trainingdauer„es wirdsehrwichtige indikatoren。

gegengroßes modellzugin bearbeitunghäufige ausfällevonfrage，hundert ge4.0rechtsfehlererkennungbedeutetundautomatischer fehlertoleranzmechanismusbenehmenhabe esupgrade，derzeitwankaclustervorgesetztervoneffektive trainingszeiterreichen99.5%，shen zittertsagendas ist höher alsgleichaltrigegegnervondatenleistung. auch,hundert ge4.0willemainstreamlanger textargumentationseffizienzfördernhabe es1malüber，gleichzeitigreduziertbegründungskosten。

in baidus jüngstem gewinnaufruf:robin liimmeres zeigte sich, dass der umsatzbeitrag von baidu smart cloud ai im zweiten quartal weiter auf 9 % stieg, verglichen mit 6,9 % im vorquartal.

großes modellwerkzeugvonleistungfördernnatürlichwichtig，aber fürbaidulass uns reden，modelllandungvonerfolgemehr praktische bedeutung。

außer upgradehundert geneben der plattform hob auch baidu hervorletzteqianfan3.0plattform. den von shen dou veröffentlichten daten zufolgeauf der qianfan-plattform für große modelle werden wenxin-großmodelle durchschnittlich mehr als 700 millionen mal pro tag aufgerufen, was benutzern dabei hilft, 30.000 große modelle zu verfeinern und mehr als 700.000 anwendungen auf unternehmensebene zu entwickeln.qianfan 3.0 kannes kann fast hundert in- und ausländische große modelle anrufen, darunter auch große modelle der wenxin-serie, und unterstützt auch das aufrufen verschiedener traditioneller kleiner modelle wie sprache und vision.

derzeit,großes modelllandungvongroße dreihauptbedürfnissesie sindanwendungsentwicklung、modellargumentationundmodellentwickeln。

existierenanwendungsentwicklungsschicht，unternehmensebenerag（willeunternehmenundbranchendatengemachtplug-inwissensbasisgebengroßes modell）undagentagentjazwei hauptfächergemeinsamvongroßes modelllandungszene。

unter anderem wird der intelligente agent, nachdem er die aufgabe erhalten hat, unabhängig denken, die aufgabe zerlegen, den plan planen und tools aufrufen, um den gesamten prozess unabhängig abzuschließen.，dürfenvervollständige die vergangenheitbrauchen3 bis4individuellapptalentvollendetaufgabe。

shen zittertäußern，baiduinternfürqianfanplattformliefernhabe esbaidu-suchealsoundbaidu-kartewartenüberschreiten80individuelloffizielle komponenten，verwendet fürfördernagentexistierenzu bestimmten aufgabenfähigkeit。

und reinnach ansicht von robin li sind intelligente agenten große vorbilderentwickeltnächstewichtige richtung.„viele menschen sind optimistisch, was die entwicklungsrichtung intelligenter agenten angeht, aber bis heute besteht kein konsens über intelligente agenten. es gibt nicht viele unternehmen wie baidu, die intelligente agenten als die wichtigste strategie und wichtigste entwicklungsrichtung großer modelle betrachten.“ ."

baidu hat auf der diesjährigen create-konferenz drei produkte vorgestellt, nämlich agentbuilder, appbuilder und modelbuilder. unter ihnen beziehen sich agentbuilder und appbuilder beide auf intelligente agenten. einer hat einen niedrigeren schwellenwert und der andere legt wert auf funktionalität.

den neuesten von baidu veröffentlichten daten zufolge hat die verbreitung intelligenter agenten im baidu-ökosystem deutlich zugenommen. die durchschnittliche zahl der verbreitungen pro tag überstieg im juli das 8-millionen-fache, was doppelt so hoch ist wie im mai.

im besitz von baidudigitaler mannplattformundauch smarte kundenservice-produkte sind erhältlichneueste entwicklungen。unter anderem unterstützt die xilin digital human platform 4.0 die schnelle generierung digitaler 3d-menschenbilder und -videos mit unterschiedlichen make-up-stilen und unterschiedlichen branchenmerkmalen basierend auf text und senkt den preis für hyperrealistische 3d-digitalmenschen von 10.000 yuan auf 199 yuan.

das intelligente kundenservice-produkt „keyue“ wurde im hinblick auf das verständnis von nutzerintentionen und den multimodalen informationsaustausch optimiert und seine fähigkeit zur bewältigung komplexer probleme verbessert.

laut baidu ist derzeit die branche„problemlösungsrate“vonder durchschnittliche level liegt bei 80 %, und nach dem upgrade hat „ke yue“ diesen indikator auf 92 % erhöht. dieses produkt hat unternehmenskunden dabei geholfen, mehr als 150 millionen menschen zu bedienen und mehr als 500 millionen mal mit ihnen zu interagieren.