notizia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

dopo più di un anno di ricerca, i modelli di grandi dimensioni sono davvero “popolari”?

per quanto riguarda i modelli di grandi dimensioni, sembrano esserci discussioni infinite: perseguire "grandi parametri" o considerare la "legge di scaling"? quale quadro è migliore, "denso" o "sparso"? "linguaggio" o "multimodalità": chi è il vero futuro dei grandi modelli? i giocatori hanno una posizione chiara e le proprie opinioni, ma questa popolarità sembra non essere mai stata trasmessa al mercato più consolidato.

tra i principali produttori, baidu è uno dei pochi che ha implementato l'ingegneria di modelli su larga scala: secondo il rapporto finanziario del secondo trimestre di baidu per il 2024 pubblicato oggi, ha mostrato un fatturato trimestrale totale di 33,9 miliardi di yuan, un fatturato principale di baidu di 26,7 miliardi di yuan. l'utile operativo di baidu core è stato di 5,6 miliardi di yuan, con un aumento su base annua del 23%.

il modello di grandi dimensioni di wenxin conta oltre 600 milioni di chiamate giornaliere e l'intelligenza artificiale ha generato ricavi dal cloud pari a 5,1 miliardi di yuan, con un aumento su base annua del 14%.

riportare l'ia "fluttuante" nel cielo a terra può ottenere tali risultati. cosa ha fatto bene baidu?

il numero di chiamate continua a crescere, contando sulla riduzione dei prezzi e maggiormente sulla forza

cominciamo con i dati più accattivanti nel rapporto finanziario del secondo trimestre di baidu: l’aumento delle chiamate al modello di grandi dimensioni di wenxin.

il numero di chiamate giornaliere supera i 600 milioni e il numero medio di token elaborati ogni giorno supera i trilioni. dietro il crescente numero di chiamate, alle persone viene sempre ricordata la massiccia “guerra dei prezzi dei grandi modelli” del maggio di quest’anno che ha attirato l’attenzione dell’intero settore.

in questa battaglia, gli sforzi di riduzione dei prezzi di baidu possono essere descritti come “feroci”:

la battaglia iniziò rapidamente e baidu annunciò direttamente che i servizi di preimpostazione dei modelli delle serie ernie-speed, ernie-lite ed ernie-tiny sarebbero stati gratuiti;

nel luglio di quest'anno, durante waic, baidu smart cloud ha annunciato ulteriori tagli di prezzo, abbassando significativamente i prezzi dei due modelli di punta ernie 4.0 e ernie 3.5, con input e output rispettivamente a partire da 0,03 yuan/migliaia di token e 0,06 yuan/migliaia di token. .

basta rimuovere la soglia di prezzo e, naturalmente, molti utenti si precipiteranno ad accedervi. in particolare, molte aziende e istituzioni grandi, medie e piccole non si preoccupano più dei costi e hanno l’entusiasmo di provare modelli di grandi dimensioni.

il calo dei prezzi ha infatti ridotto la “spinta” alla chiamata da parte dei clienti;e la concorrenza per i modelli di grandi dimensioni è così agguerrita. anche se il prezzo è più basso, soprattutto se il prezzo è già estremamente basso, perché wenxin riesce a distinguersi?

un articolo analizza da tempo che la capacità di baidu di effettuare un trasferimento di profitti così decisivo si basa essenzialmente sulla più avanzata tecnologia ai full-stack di baidu, che gli dà la sicurezza necessaria per renderlo gratuito e ridurre i prezzi.

dalla nascita di wenxin big model, ha seguito da vicino la tendenza dei tempi. l'efficienza media settimanale dell'allenamento di wenxin big model ha raggiunto il 98,8%. rispetto a quando è stato rilasciato wenxin yiyan, l'efficienza dell'allenamento è aumentata a 5,1 volte l'inferenza è 105 volte. il costo dell'inferenza scende all'1% originale. a giugno, baidu ha lanciato anche flying paddle 3.0. questo aggiornamento ha migliorato significativamente la compatibilità del framework flying paddle con l'infrastruttura ai di baidu e i modelli di grandi dimensioni wenxin e si prevede che ridurrà ulteriormente i costi di inferenza dei modelli in futuro.

baidu ha effettuato un'analisi molto approfondita degli attuali punti critici degli utenti di modelli di grandi dimensioni: il primo tipo di punto critico per gli utenti è la soglia relativamente alta per l'implementazione dell'applicazione e come sviluppare rapidamente applicazioni appropriate basate su scenari; il punto dolente riguarda gli scenari specifici, come utilizzare modelli speciali per soddisfare le esigenze del proprio settore.

in sostanza, affinché un prodotto tecnologico possa convincere gli utenti ad acquistarlo, la prima priorità è ancora la "disponibilità" e la "facilità d'uso" del prodotto tecnologico.

solo un giorno prima della pubblicazione del rapporto finanziario, baidu ha annunciato il supporto per la messa a punto del suo modello di punta ernie 4.0 turbo. in precedenza, la piattaforma per modelli di grandi dimensioni baidu qianfan supportava ernie 3.5, ernie speed, ernie lite, ernie tiny ed ernie character per la messa a punto dei modelli. fino ad ora, è possibile ottimizzare un totale di 6 modelli di grandi dimensioni wenxin sulla piattaforma qianfan la messa a punto cumulativa ha prodotto 21.000 modelli, servendo gli scenari di core business di più di mille aziende, e ha molti casi di successo.

nel campo degli affari governativi, la federazione cinese dei sindacati e baidu smart cloud hanno utilizzato le funzionalità dell’intelligenza artificiale nella consulenza legale, consentendo ai lavoratori di comprendere in modo più accurato le questioni legali, calcolare più rapidamente gli importi delle retribuzioni del lavoro e fornire soluzioni più personalizzate attraverso modelli di grandi dimensioni. valutazione completa del caso.

rispetto ai metodi di sviluppo tradizionali, questo sistema, che richiede precisione e velocità di feedback estremamente elevate, è stato consegnato in un solo mese, il che rappresenta un miglioramento significativo in termini di efficienza rispetto al tradizionale ciclo di consegna di 3-6 mesi.

se la produttività potrà essere così migliorata e più utenti potranno vedere questo valore, sarà difficile non aumentare il numero di chiamate al modello grande di wenxin.

il business del cloud sta crescendo rapidamente, facendo affidamento su maas e strumenti

il rapido sviluppo dell'intelligenza artificiale ha portato risultati diretti a baidu, ovvero la continua crescita del business cloud dell'azienda.

il rapporto finanziario ha rivelato che nel secondo trimestre i ricavi di baidu smart cloud sono stati di 5,1 miliardi di yuan, con un aumento su base annua del 14%, e i ricavi dell'intelligenza artificiale hanno rappresentato il 9%, superiore al 6,9% del trimestre precedente.

trattate un eccellente modello di grandi dimensioni come un biglietto da visita e il business del cloud strettamente integrato con esso sarà naturalmente guidato di conseguenza. la grande prosperità delle applicazioni ia ha fatto sì che il cloud gpu diventasse gradualmente la "configurazione standard" negli appalti aziendali.

di conseguenza, il modello maas (model as a service) sta gradualmente entrando in scena e diventando una nuova aggiunta alla crescita di baidu cloud.

secondo l’ultimo rapporto idc, baidu intelligent cloud si classificherà al primo posto nella quota di mercato cinese delle piattaforme per modelli di grandi dimensioni nel 2023, raggiungendo il 19,9%. allo stesso modo, tra i quasi 260 progetti modello su larga scala che sono stati annunciati come aggiudicatari in cina quest’anno, baidu è in testa alla classifica degli offerenti vincitori. tra i principali produttori di modelli su larga scala, baidu ha il maggior numero di progetti vincitori, copre la maggior parte dei settori e ha vinto più di 64 milioni di yuan in gare d'appalto, classificandosi al primo posto tra i tre.

durante il periodo in cui è stato lanciato il modello di grandi dimensioni, la piattaforma qianfan ha "fatto fortuna" e ha servito un totale di 150.000 clienti. ha compiuto sforzi in molti settori come affari governativi, energia elettrica, istruzione, ecc non solo ha ottenuto il riconoscimento del mercato per i suoi prodotti tecnici, ma porta anche un feedback alla società sotto forma di miglioramenti della produttività.

nelle aree rurali di henan, chongqing e altri luoghi, qianfan sta promuovendo i "grandi modelli verso le campagne", consentendo agli abitanti dei villaggi di affidare in modo sicuro all'assistenza i problemi più banali e dispendiosi in termini di tempo, come il pagamento dell'assicurazione medica e l'elaborazione della registrazione delle famiglie. di grandi modelli.

quando si incontrano problemi difficili da coprire con precisione nella base di conoscenza del governo locale, il modello di grandi dimensioni può anche combinare la ricerca baidu per fornire risposte e rispondere automaticamente alla persona che pone la domanda, portando servizi convenienti 24 ore su 24 nelle campagne.

attualmente gli assistenti residenti sono entrati in più di 6.000 villaggi, consentendo alla gente comune di godere di una vita più intelligente.

per far sentire i clienti "disponibili" e "facili da usare", la commercializzazione di modelli di grandi dimensioni da parte di baidu si basa maggiormente sull'aggiornamento della catena di strumenti per modelli di grandi dimensioni.

coltivare profondamente gli aggiornamenti della catena di strumenti è uno dei temi principali dello sviluppo tecnologico di baidu quest'anno.

dal punto di vista della messa a punto del modello, modelbuilder ha lanciato la funzione dati di alta qualità dei grandi modelli ibridi wenxin.gli utenti possono integrare un corpus misto generale e un corpus di domini verticali con i dati aziendali per ottimizzare modelli di grandi dimensioni specifici del settore che siano più stabili ed efficaci.

dal punto di vista dello sviluppo di applicazioni native ai, appbuilder risolve molti dei problemi che i clienti devono affrontare durante lo sviluppo di applicazioni native ai: il recupero massiccio di conoscenza, strategie personalizzate, sicurezza a livello aziendale e altri aspetti sono stati migliorati, rendendo i modelli di grandi dimensioni più utilizzabili livello. attualmente sulla piattaforma sono state create più di centinaia di migliaia di applicazioni, che coprono l'istruzione online, l'e-commerce, gli affari governativi e altri settori.

il sistema modello di grandi dimensioni di baidu ha effettivamente migliorato la produttività dei clienti, il che è ovvio a tutti nel settore.

guardando indietro, baidu stesso ha anche un enorme ecosistema di prodotti tecnologici. se la capacità dei modelli di grandi dimensioni è davvero così potente, baidu, un "vecchio albero" di 24 anni, può far crescere di nuovo "nuovi germogli"?

ricostruisci il modello del prodotto, guarda il mondo e guarda te stesso

c'è una storia ampiamente diffusa su internet: nel mezzo della seconda guerra mondiale, la guerra era un periodo di ansia, ma la qualità dei paracadute militari statunitensi era preoccupante. per raggiungere una percentuale di passaggio dei paracadute del 100%, arrivarono i militari con una soluzione: lascia che sia il venditore del paracadute a provarlo lui stesso. se non salti, non potrai passare. di conseguenza, il tasso di passaggio del paracadute si è finalmente avvicinato al 100%.

“se non usi tu stesso un prodotto, come puoi far sentire gli altri a proprio agio?”

lo stesso principio vale per baidu. già l'anno scorso, robin li aveva affermato con coraggio che avrebbe utilizzato il modello wenxin per ricostruire tutti i prodotti baidu. la prima a subire il peso è la base di baidu: la ricerca.

attualmente, il 18% dei risultati di ricerca sono generati dall’intelligenza artificiale, che può fornire agli utenti risultati più accurati e diretti. ciò non fa altro che confermare il concetto di "nuova ricerca" proposto da baidu un anno fa, con le tre caratteristiche di "estrema soddisfazione", "stimolazione della raccomandazione" e "cicli multipli di interazione" per rendere i risultati di ricerca degli utenti più accurati, più organizzati e più efficiente.

gli agenti sono una parte fondamentale in questo. baidu sta accelerando la distribuzione degli agenti nei risultati di ricerca. attualmente, la distribuzione media giornaliera di agenti di baidu ha superato gli 800 milioni, ovvero il doppio rispetto a maggio.

robin li ha ripetutamente sottolineato che gli agenti sono come i siti web di intelligenza artificiale, con soglie basse ma soffitti alti.

dal punto di vista dello sviluppo, è più facile sviluppare un agente che un sito web. robin li ha detto: "come è stato realizzato il sito web a quel tempo? era molto semplice scorrere il codice sorgente attraverso il browser. ho potuto realizzarlo con un pochi cambiamenti. lo farò oggi. l'agente intelligente è molto simile a questo... dagli un nome, digli cosa rispondere e cosa non rispondere, e verrà creato un agente intelligente.

essendo uno dei primi grandi produttori del settore, baidu ha costruito un ecosistema che sta iniziando a prendere forma sul percorso degli agenti intelligenti. baidu wenxin intelligence platform agentbuilder ha accumulato 200.000 sviluppatori e 63.000 aziende quando gli sviluppatori creano agenti sulla wenxin intelligence platform, possono scegliere in modo flessibile le versioni wenxin model 3.5 o 4.0. tutti i modelli possono essere utilizzati gratuitamente, che si può dire siano "livellati". la soglia” di utilizzo.

con l'apertura delle olimpiadi di parigi quest'estate, i fan di molti atleti si sono attivati. si sono riuniti spontaneamente sulla piattaforma intelligente baidu wenxin e hanno sviluppato molti corpi intelligenti a supporto dei fan. i fan della giocatrice cinese di tennis da tavolo sun yingsha hanno sviluppato "la piccola fan di sun yingsha" per lei; i fan che sostengono la tennista wang manyu hanno sviluppato il corpo intelligente della subacquea quan hongchan, "manyu's little taro ball", lei è stata chiamata "la piccola borsa di chanchan" dai suoi fan. gli scambi sono stati unici e molto interessanti.

nel campo agricolo, anche l'accademico zhu youyong dell'accademia cinese di ingegneria ha assistito baidu nella creazione della "intelligenza accademica contadina". questo agente intelligente, equipaggiato con i risultati della ricerca di zhu youyong e del suo team, può rispondere a una serie di domande per gli agricoltori, tra cui piantare riso di alta qualità nelle zone aride, patate invernali e altre colture, portando la tecnologia a vantaggio degli agricoltori a un nuovo livello.

la soglia è bassa e l'effetto è buono. come possono gli agenti intelligenti non diventare popolari? non è difficile vedere che la portata dei futuri agenti intelligenti può essere paragonata al vasto numero di siti web che oggi formano un enorme ecosistema.

l'ambizione di baidu è quella di utilizzare la ricerca come il più grande accesso alla distribuzione degli agenti intelligenti e di essere in prima linea nella grande prosperità degli agenti intelligenti.

tra i tanti prodotti tradizionali di baidu, baidu wenku è famoso per "segnare due volte".

ricostruito dal grande modello in una "piattaforma unica per l'acquisizione e la creazione di contenuti ai", baidu wenku è più avanti sulla strada dell'intelligenza artificiale, con centinaia di ppt intelligenti, documenti intelligenti, mappe mentali intelligenti, rapporti di ricerca intelligenti, ecc. la funzione ai modale migliora notevolmente l'esperienza documentale degli utenti e l'efficienza di utilizzo.

finora, il numero cumulativo di utenti ai di baidu wenku ha superato i 180 milioni e il numero di utilizzi delle funzioni ai ha superato i 2,2 miliardi, consentendo a più persone di godere dei dividendi di produttività portati dai modelli di grandi dimensioni, dando a questo prodotto di 15 anni un "seconda primavera"".

conclusione

quest'anno, robin li ha fatto una volta una dichiarazione di alto profilo secondo cui il focus dei modelli di grandi dimensioni è ancora "l'applicazione del volume": "senza applicazioni, solo i modelli di base, siano essi open source o closed source, non hanno valore".

ma ciò che in realtà si vede è che baidu deve comprendere sia i modelli di base che le applicazioni, ed entrambe le mani devono essere forti.

negli ultimi dieci anni, il sudore di baidu sui modelli di grandi dimensioni e sulla ricerca di base sull'intelligenza artificiale ha finalmente nutrito un acro di terreno fertile, ma il suolo da solo non è sufficiente, baidu è entrato nella seconda fase dello sviluppo di modelli di grandi dimensioni, concentrandosi sulla creazione di applicazioni native dell'intelligenza artificiale; coltivare abbondanti "raccolti" su questo "terreno fertile".

la profonda integrazione dell’intelligenza artificiale generativa nel business e l’uso risoluto di grandi modelli per ricostruire la ricerca hanno inoltre rafforzato la fiducia di molte società di intermediazione mobiliare in baidu.

jp morgan ha dichiarato: "dal punto di vista aziendale, un tale cambiamento espanderà il ruolo di baidu nella catena del valore dalla pura guida del traffico alla consulenza pre-vendita. riteniamo che quest'ultima aumenterà il flusso delle conversazioni sulle transazioni e, se eseguita con successo, avrà un impatto positivo sugli utili nel medio-lungo termine.”

se altre grandi aziende vogliono implementare modelli di grandi dimensioni, potrebbero davvero aver bisogno di imparare da baidu: abbassare al minimo le soglie di utilizzo e di costo, fare affidamento sulla forza del cloud e sulle catene di strumenti per costruire un ecosistema ben funzionante e fare affidamento su modelli di grandi dimensioni e agenti per ricostruire i modelli di business esistenti.

queste tre mosse sono tutte operazioni fondamentali per promuovere modelli di grandi dimensioni che possano davvero “volare nelle case della gente comune”.