notizia

Conversazione con Huoshan Tandai: Oggi il settore addebita i token, ma in futuro questo modello non sarà l'unico.

2024-08-06

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Testo|Anita Tang

Redattore|Su Jianxun

Fonte copertina |. Fornita dall'azienda

L’emergenza è un fenomeno chiave nell’ondata dell’intelligenza artificiale generativa: quando la scala del modello si espande fino a un punto critico, l’intelligenza artificiale mostrerà una saggezza simile a quella umana e sarà in grado di comprendere, apprendere e persino creare. L'"emergenza" avviene anche nel mondo reale: la civiltà basata sul silicio sta per scoppiare. Imprenditori e creatori nel campo dell'intelligenza artificiale stanno usando la loro saggezza e il loro cervello per illuminare il lungo viaggio verso la realizzazione dell'AGI. Nella transizione tra la vecchia e la nuova produttività, "Smart Emergence" lancia una nuova rubrica "Emergence of 36 People". Registreremo il nuovo modo di pensare in questa fase attraverso conversazioni con figure chiave del settore.

Il Volcano Engine nel 2024 è cambiato rispetto al suo precedente profilo basso e ora sta apparendo rapidamente nel mercato dei modelli di grandi dimensioni.

Non molto tempo fa, a maggio, Huoshan ha appena tenuto un'accattivante conferenza stampa, che in un colpo solo ha abbassato il prezzo del modello al "prezzo minimo". Il prezzo del modello principale di Doubao, Doubao Pro-32k, è stato ridotto a 0,0008 yuan/migliaia di token, una diminuzione media del settore del 99,3% su base annua. Per un certo periodo l’intero settore fu in subbuglio e i produttori seguirono l’esempio.

Ma due mesi dopo, Volcano Engine, che aveva "ribaltato la situazione" sul prezzo, non era più disposta a parlare più di prezzo. "Ora, con 1 miliardo di token che costano solo 1.000 yuan, non ha più molto senso abbassare ulteriormente il prezzo. Ciò che conta è quanto viene migliorata la capacità del modello allo stesso prezzo." ha detto a "Emergenza Intelligente".

In una certa misura, la tempestosa "settimana della grande promozione" di maggio - oltre a Huoshan, Alibaba, Tencent, iFlytek e altri produttori grandi e piccoli hanno annunciato riduzioni di prezzo per i modelli di grandi dimensioni, il che è un simbolo dell'ingresso nel settore dei modelli di grandi dimensioni nuova fase. L’opinione comune è che, sebbene i modelli di grandi dimensioni siano già sorprendenti, la nuova torta di intelligenza artificiale che ne deriva è ancora troppo piccola: la potenza di calcolo è troppo costosa e gli utenti non hanno alcun incentivo a innovare. Pertanto, i produttori potrebbero anche condividere i profitti.

Anche l'effetto è immediato. L'utilizzo medio giornaliero di token di Doubao Big Model supera ora i 500 miliardi. Prima della riduzione dei prezzi, questa cifra ammontava a 120 miliardi.

Rispetto a termini come guerra dei prezzi e entrate, Tan Dai è più preoccupato di quanti utenti ha portato e di quante cose hanno fatto con i modelli di grandi dimensioni. “Non guardiamo troppo al reddito a breve termine, ma piuttosto a quanti clienti con cui abbiamo stabilito una cooperazione più profonda e quanti problemi li abbiamo aiutati a risolvere. I risultati arriveranno naturalmente”, ha affermato.

Le persone tendono a predire il futuro seguendo il percorso del passato. I modelli di grandi dimensioni e il cloud computing sono entrambi considerati business con modelli simili: pesanti investimenti tecnici e ricerca e sviluppo ingegneristico nella fase iniziale, ma l’effetto Matthew è estremamente elevato nella fase successiva. Ma la premessa è che la portata del business su di esso deve crescere su larga scala prima di poter realmente ottenere effetti di scala.

I modelli di grandi dimensioni di quest'anno si stanno sviluppando lungo questo percorso: i produttori stanno abbassando i prezzi uno dopo l'altro, rendendo la potenza di calcolo dei modelli di grandi dimensioni più inclusiva e diventando un'infrastruttura come l'acqua, l'elettricità e il carbone.

Tan Dai ritiene che in futuro l'implementazione di modelli di grandi dimensioni sarà più veloce del cloud computing. Prodotti come ChatGPT hanno già fatto sapere al mondo che l'intelligenza artificiale è il futuro, a differenza del cloud computing che ha subito un lungo "sermone". Ma per permettere a tutti di innovare senza preoccupazioni, la riduzione dei prezzi è solo il primo passo.

L’esplosione delle applicazioni dell’intelligenza artificiale richiede investimenti continui per superare varie difficoltà tecniche nei modelli: illusioni di controllo, testi lunghi, ecc. "Non credo che gli sviluppatori siano ansiosi. È troppo presto per parlare di Killer App adesso." Ha detto che l'attuale grande modello è ancora nell'era del "Grande Fratello", "ci vorranno molti anni prima che appaia l'iPhone."

Nel 2021, Huoshan è entrata ufficialmente nel mercato del cloud, ora è pieno solo da tre anni ed è ancora una nuova forza nel mercato del cloud computing. Pertanto, l'intelligenza artificiale non è solo un biglietto per una nuova era per il Volcano Engine, ma anche un'opportunità per sorpassare in curva: questo è anche il motivo per cui il Volcano Engine investe molto nell'intelligenza artificiale. Nel 2023, il 70% delle grandi aziende nazionali utilizzerà i servizi di potenza di calcolo di Volcano Engine e quest’anno il MaaS (Model as a Service) sarà il prossimo campo di battaglia;

Quella che segue è una trascrizione della conversazione tra "Intelligence Emergence" e Tan Dai, compilata e modificata:

Dopo che il prezzo ha "ribaltato la situazione"

"Emersione dell'intelligence": La cosa più discussa di recente su Huoshan è che lei è il primo tra i principali produttori a lanciare un'ondata di riduzioni dei prezzi. La gente dice che lei ha "ribaltato la situazione". Qual era il pensiero dietro tutto ciò?

Tan Dai:La nostra considerazione principale è costruire un ecosistema applicativo.

"Emersione dell'intelligence": È stata una decisione difficile per te quella di ridurre il prezzo? Da quanto tempo ci stai pensando?

Tan Dai: Non è affatto difficile. Dopo averlo lanciato ufficialmente nell'agosto dello scorso anno, il costo deve essere stato particolarmente elevato. Da allora ci occupiamo di ottimizzazione tecnica e la utilizziamo ampiamente internamente. Dopo circa un anno di ottimizzazione tecnica, abbiamo iniziato a prendere in considerazione una riduzione dei prezzi.

"Emersione dell'intelligence":Perché questa decisione non è difficile?

Tan Dai: Stiamo pensando, qual è la cosa più importante in questa questione? Vogliamo cioè rendere prospero l’ecosistema aziendale.

Ci sono diverse soglie dietro questo. Il primo è la capacità del modello. Alla nostra conferenza 515, tutti hanno visto che quando abbiamo introdotto il modello grande, non abbiamo menzionato il nostro insieme di valutazione, né abbiamo parlato dei risultati della valutazione.

Perché penso che possa essere utilizzato da tutti. Per quanto riguarda la valutazione, ci sono molte valutazioni di terze parti, tra cui Zhiyuan, OpenCompass, ecc., e tutte dicono che il pouf è molto efficace.

La seconda è che il costo è troppo alto, quindi dobbiamo prima abbassare il prezzo e renderlo sostenibile. Poiché siamo un'azienda di tipo B, se i prezzi non possono supportare l'utile lordo o il profitto a lungo termine, sarà insostenibile.

Il terzo è la praticità dell'implementazione, inclusi plug-in, custodie, ecc., che richiede l'assemblaggio di molte cose. Riduciamo i costi attraverso l'ottimizzazione della progettazione Questo è ciò che deve fare Huoshan, un fornitore di servizi cloud.

"Emersione dell'intelligence":Come ha fatto il vulcano a ridurre il prezzo a un prezzo così basso?

Tan Dai:Ottimizzando continuamente la struttura del nostro modello e ottimizzando l’ingegneria dell’inferenza, possiamo ridurre i costi e rilasciare questo dividendo al settore.

Come servizio, i modelli di grandi dimensioni devono avere dimensioni maggiori e costi inferiori. Su larga scala è possibile avere carichi diversi ed è possibile effettuare picchi scaglionati e pianificazioni miste. Lo stesso vale per il cloud computing, rendendolo più economico.

In secondo luogo, quando la scala è sufficientemente ampia, con una piccola ottimizzazione, i vantaggi saranno sufficientemente grandi e solo allora ci sarà un budget sufficiente per costruire un buon team tecnico.

"Emersione dell'intelligence": Questo è un processo che si rafforza reciprocamente. Innanzitutto è più economico e la scala è più ampia. Successivamente è possibile ottimizzare e i vantaggi saranno maggiori.

Tan Dai: Ciò è dovuto anche all’aumento delle chiamate verso Doubao APP. Tutti possono vedere dai precedenti dati di terze parti che i prodotti AI e l'APP Doubao si sono classificati al primo posto. All’interno di Douyin vengono ampiamente utilizzati più di 50 scenari e linee di business e ci sono anche molti clienti invitati dall’esterno, il che ha supportato la scala.

Dopo l'annuncio della riduzione del prezzo il 15 maggio, la nostra scala delle chiamate è aumentata più rapidamente e in questo momento abbiamo visto più punti che potevano essere ottimizzati.

"Emersione dell'intelligence":Dopo l’annuncio ufficiale della riduzione del prezzo, qual è stato l’effetto?

Tan Dai: Innanzitutto, non tutti hanno più alcun onere per innovare nel campo dell’intelligenza artificiale e la portata sta crescendo rapidamente. Molte startup utilizzano più di 1 miliardo di token ogni giorno. Quanto costa adesso 1 miliardo di token? Solo 1.000 yuan. Rispetto al lancio del modello, avvenuto il 15 maggio, l’utilizzo medio giornaliero di token per cliente è aumentato da 20 a 30 volte.

E ci sono molti scenari di utilizzo a cui non avevamo pensato. Diamo un'occhiata al volume originale delle chiamate giornaliere di Doubao, che era di oltre 120 miliardi di token. Dopo la riduzione del prezzo, ha ora superato i 500 miliardi di token.

In secondo luogo, quando abbiamo annunciato la riduzione del prezzo, alcuni hanno affermato che il prezzo non era importante, ma lentamente molti produttori hanno iniziato a seguirne l'esempio.

"Emersione dell'intelligence": Il tuo modello principale Beanbao Pro 128k ha un prezzo di 0,005 yuan/migliaia di token, ovvero del 95,8% inferiore al prezzo del settore, mentre il modello 32k ha un prezzo di 0,0008 yuan/migliaia di token, ovvero una diminuzione del 99,3%. Questo prezzo può essere definito un "prezzo minimo". Come è stato determinato?

Tan Dai: Per prima cosa stabiliamo l’obiettivo e dobbiamo distribuire i dividendi a un prezzo sostenibile. Non è una perdita, ma non devo guadagnare troppo. Inizialmente pensavo che si trattasse di un calo del 90% rispetto alla media del settore, ma non mi aspettavo che il confronto successivo mostrasse un calo del 99%.

"Emersione dell'intelligence":Ci sarà spazio per una riduzione dei prezzi in futuro?

Tan Dai: Da questo punto di vista, il prezzo non è più il collo di bottiglia. Dopo che sarà sceso a un livello così basso, non importa quanto scenderà ulteriormente, il guadagno per gli utenti sarà in realtà piccolo. Ciò che è più importante ora è che, allo stesso prezzo, è più significativo migliorare le capacità del modello.

"Emersione dell'intelligence": È un po’ come la precedente ondata di innovazione dell’intelligenza artificiale nel CV (riconoscimento visivo)? È importante aumentare la precisione dal 70% al 90%, ma alla fine passare dal 95% al ​​98% in realtà significa poco e i clienti possono accettarlo.

Tan Dai: Potrebbe non essere in grado di fare il 98%. Ma dovremmo guardarlo al contrario. Prima era il 5% di Bad Case (risultato non in linea con le aspettative), ma ora è diventato il 2% e l’effetto è raddoppiato.

"Emersione dell'intelligence": Ci sono anche molti commenti nel settore secondo cui è iniziata una guerra dei prezzi in Cina, il che è dannoso per il settore. Poiché la formazione di modelli di grandi dimensioni è costosa, nessuno può guadagnare denaro.

Tan Dai: Non sono d'accordo con questo punto di vista. Dal punto di vista del settore, ciò ha consentito all’intelligenza artificiale cinese di prosperare, il che è positivo.

Lo stesso vale per il cloud computing: il cloud è già entrato in una guerra dei prezzi, il che è positivo. La trasformazione digitale delle imprese è diventata più semplice e i costi sono stati ridotti.

"Emersione dell'intelligence":In passato, nel contesto di Internet, la "guerra dei prezzi" aveva una connotazione troppo dispregiativa.

Tan Dai: Penso che ci sia una differenza. In passato, il modello di business di To C Internet era diverso. La lana viene dal maiale. Ma nella guerra dei prezzi To B, l’azienda stessa fa affidamento su questo prezzo per addebitare, e se continua a fornire questo prezzo, alla fine tutti ne trarranno vantaggio.

"Emersione dell'intelligence": Questa è sicuramente una buona notizia per gli sviluppatori. Ma per quanto riguarda internamente? Alcuni compagni di corso di vendita di Cloud Factory ci hanno detto che non hanno alcuna motivazione a vendere l'intelligenza artificiale perché l'intelligenza artificiale non può essere venduta a un prezzo elevato. Come considerare questo problema?

Tan Dai: Questa è un'ottima domanda Sento che non c'è niente da perdere per noi.

Innanzitutto, Huoshan è una piattaforma cloud e i clienti non vogliono solo un modello di grandi dimensioni, ma vogliono anche una soluzione completa, che includa modelli di grandi dimensioni, cloud e prodotti dati.

Il ricavo unitario del modello grande stesso è diminuito, ma aiutando i clienti a risolvere più problemi attraverso il modello grande, avrai più opportunità di fare più affari con loro in futuro. Se il grande modello sarà pronto, i clienti ci diranno addirittura che no, la mia architettura IT deve essere ricostruita, e poi lo faremo basandoci sui vulcani.

"Emersione dell'intelligence": Come comprendere la ricostruzione dell'architettura IT? Dove sono gli spazi e le opportunità presenti?

Tan Dai:In passato, molte cose nelle spese IT non venivano risolte attraverso il cloud, ma attraverso la sovrapposizione di funzioni software: tutte venivano svolte dalla manodopera e molte cose non potevano essere convertite in potenza di calcolo.

Ma con il modello di grandi dimensioni, molti scenari, sia che si utilizzi Copilot o Autopilot, molti scenari di intelligenza artificiale possono essere serviti dal modello di grandi dimensioni e lo strato inferiore del modello di grandi dimensioni è il cloud. I mercati che prima erano inaccessibili al cloud sono ora diventati mercati a cui è possibile accedere.

"Emersione dell'intelligence": Quanto è apprezzata l'intelligenza artificiale oggi dai clienti? Quando è uscito per la prima volta il cloud computing, molti utenti aziendali hanno equiparato il cloud computing al concetto di "avanzato" e poi hanno optato per la digitalizzazione. I modelli di grandi dimensioni hanno ottenuto un tale effetto adesso?

Tan Dai:Le aziende non dicono che dopo l’adozione dell’intelligenza artificiale tutti gli ambienti IT verranno immediatamente eliminati dall’intelligenza artificiale. Ciò non è assolutamente possibile, ma identificano innanzitutto alcuni scenari in cui l’intelligenza artificiale può essere utilizzata per migliorare l’efficienza.

Ad esempio, abbiamo visto che per alcuni clienti, una volta richiamato il modello in volume, i servizi upstream e downstream trasformeranno queste architetture basate su cloud native per supportare il carico.

"Emersione dell'intelligence":In che misura questi casi si rifletteranno sul reddito?

Tan Dai: Non è tutto dal punto di vista delle entrate e al momento non siamo troppo concentrati sul breve termine. Osserviamo anche con quanti clienti abbiamo stabilito una cooperazione più profonda attraverso questa questione e quanti problemi li abbiamo aiutati a risolvere. Alla fine, i risultati arriveranno naturalmente.

"Emersione dell'intelligence":Se non ti concentri sul reddito a breve termine, quale indicatore apprezzi di più adesso?

Tan Dai: Il numero di Token utilizzati dalle imprese, ma non credo che in futuro sarà solo questo il modello. Una volta conoscevo un amico che scriveva romanzi, ma in seguito "abbandonò la scrittura e iniziò a scrivere poesie". Chiedo: perché hai fatto questa scelta? Ha detto che scrivere poesie si paga a riga e scrivere romanzi a parole: il prezzo è diverso per le stesse 100 parole.

Il modello di business del grande modello cambierà sicuramente e il modello economico finale sarà un modello più end-to-end. Ad esempio, se c'è un Agente, lo pagherai tanto quanto il numero di problemi che ti aiuta a risolvere. Per le stesse 100 parole, chi lo produce sarà diverso. Questo è un modello di business più avanzato.

Le applicazioni dell’intelligenza artificiale non sono esplose, ma l’essenza è ancora un problema di capacità del modello

"Emersione dell'intelligence": All’inizio di quest’anno nel settore si discute di un termine molto antico: Killer App. Tutti si chiedono perché non esiste ancora un’app killer. In qualità di importante fornitore di infrastrutture, Huoshan, cosa pensi dell'attuale periodo di applicazione dell'intelligenza artificiale?

Tan Dai: Penso che ora esista effettivamente una Killer App, e ChatGPT lo è. Indipendentemente dal numero di utenti e dai ricavi, è più veloce di tutti i prodotti Internet, TikTok e Douyin. Questo è già un segnale forte.

Ora, parlando di Killer App, penso di guardare ancora la questione da una prospettiva To C. I modelli di grandi dimensioni funzioneranno sicuramente molto velocemente negli scenari C-side, perché l'area di prova è molto ampia, come le app di chat e di compagnia emotiva, ora corrono tutte molto velocemente.

In secondo luogo, non dobbiamo limitarci a guardare Killer App, perché ci sono molti scenari di produttività sul lato aziendale, come il servizio clienti AI. In questi scenari il concetto di Killer App non si applica e non ne discutiamo con indicatori come DAU.

I servizi aziendali non parlano di Killer App. L'ERP (software di sistema di gestione aziendale) è una Killer App Ogni azienda deve averla, ma nessuno parla di questo concetto.

"Emersione dell'intelligence": A livello globale, ad eccezione di ChatGPT che ha raggiunto il livello di Killer App, altri prodotti sono molto indietro. Ad esempio, la compagnia emotiva e il fare amicizia sono ancora focalizzati su un gruppo relativamente piccolo di persone, e il grado di omogeneità è ancora elevato.

Tan Dai: Penso che dipenda dal tempo, ad esempio la Killer App nell'era dei PC era un motore di ricerca, ma i motori di ricerca sono apparsi solo molto tardi, in passato erano tutti portali e siti di e-commerce. Ma dopo che ci furono altri siti di questo tipo, i motori di ricerca tornarono alla ribalta.

Anche quando l’Internet mobile era appena agli inizi, app come Douyin e Meituan sono uscite solo diversi anni dopo.

"Emersione dell'intelligence": Provieni da un background di cloud computing. Rispetto al cloud computing, cosa ne pensi di questo ciclo di divulgazione della tecnologia AI? Prenderà lo stesso percorso della popolarità del cloud computing?

Tan Dai: Il cloud computing è piuttosto complicato da comprendere anche se sei una persona tecnica e non ci vuole una sola persona per configurarlo facilmente. Ho lavorato in Alibaba dal 2010 al 2011. A quel tempo, AWS era probabilmente l’unico al mondo che aveva capito cosa fosse il cloud, e nemmeno Google lo aveva capito.

Ma l’intelligenza artificiale è diversa. Come individuo, puoi facilmente sperimentare le sue funzioni e sapere rapidamente se è buona o cattiva. Se vuoi sapere cos'è l'intelligenza artificiale, prendi semplicemente un pouf. Da questo punto di vista, non è come il cloud computing, che richiede un’evangelizzazione troppo complicata.

"Emersione dell'intelligence":Un simile percorso di divulgazione influenzerà la logica decisionale e di acquisto del business To B?

Tan Dai: Ogni impresa ha inerzia e il business To B diventerà più lento. Ma almeno quando capisci se il prodotto è buono o meno, l’esperienza del cliente cambierà.

Un grande cambiamento portato dall’intelligenza artificiale è che rende il business To B visibile e accessibile e il tempo per la POC (verifica del prototipo) sarà molto più breve. In passato, il processo decisionale e l'utilizzo erano separati. I decisori facevano delle scelte, ma gli utenti avrebbero pensato che questo fosse uno schifo.

Ma l’intelligenza artificiale ha attenuato molto queste lacune. In passato, i clienti dovevano guardare PPT, fare tournée e fare interviste. Alla fine, i decisori potevano solo guardare la demo e l'esperienza non era così completa. Ora, quando parlo con un cliente, il cliente ci parlerà della poltrona a sacco che utilizzo abitualmente. Se desidera modificare qualcosa nella demo, può modificarlo in background e verrà modificato immediatamente. Puoi anche farlo tu stesso prima delle vendite e non è necessario tornare prima delle vendite per consentire al team di ricerca e sviluppo di apportare modifiche.

Ecco perché i nostri To C e To B sono entrambi della stessa marca, entrambi pouf.

"Emersione dell'intelligence":Per quanto riguarda i grandi modelli domestici, pensi che ora ci sia una grande differenza?

Tan Dai:La differenza di prezzo è enorme.

"Emersione dell'intelligence":Non sono caduti tutti molto?

Tan Dai: In effetti, i produttori nazionali non hanno seguito attentamente il nostro modello principale, che è il più forte, è stato ridotto a 0,0008 yuan/migliaia di token. Tuttavia, la maggior parte dei produttori non riduce il modello più forte, ma abbassa il secondo modello più forte a I modelli piccoli sono gratuiti. Se andate a vedere quanto costano i modelli principali di alcuni produttori rivali, saranno almeno decine di volte diversi dal prezzo dei pouf.

Anche l’utilizzo di modelli open source per misurare i costi è più costoso rispetto all’utilizzo dei pouf. Se utilizzi Llama open source per farlo, devi eseguire tu stesso l'ottimizzazione tecnica e non vi è alcun vantaggio di scala. Allo stesso modo, eseguire autonomamente l'ottimizzazione tecnica è molte volte più costoso rispetto all'utilizzo diretto del cloud.

"Emersione dell'intelligence":Oltre al prezzo, quali sono le altre differenze?

Tan Dai: Il modello si sta ancora evolvendo rapidamente e ci sono ancora molte funzionalità che non sono state ancora sviluppate. Ci saranno ancora molte differenze in futuro e migliorerà sempre di più. Ma guardando il mondo, potrebbero esserci solo tre o quattro aziende che stanno andando molto bene, almeno non tante quanto le dieci aziende cinesi.

"Emersione dell'intelligence":In quali settori sono attualmente concentrati i clienti di Huoshan?

Tan Dai: Esiste in migliaia di settori. I produttori di telefoni cellulari che ottengono risultati relativamente buoni includono Samsung, Xiaomi, OPPO, vivo e Honor. Facciamo molto anche con i produttori di automobili, e sono tutte aziende molto grandi. Ci sono anche alcuni casi nelle banche finanziarie.

Ma l’angolo di entrata sarà diverso. Ad esempio, nei telefoni cellulari e nelle automobili, ciò che facciamo è uno scenario di interazione uomo-computer relativamente completo. Ma molte grandi imprese o banche statali potrebbero provarlo prima partendo da un piccolo punto.

Quindi il vantaggio di fare intelligenza artificiale è che puoi iniziare poco a poco e non è necessario tagliare il sistema centrale non appena inizi.

"Emersione dell'intelligence": I profili dei clienti di ciascuna piattaforma di modelli di grandi dimensioni sono molto diversi? Molte delle aziende che realizzano modelli di grandi dimensioni sono fornitori di cloud e anche i gruppi di clienti dei fornitori di cloud presenteranno differenze di settore.

Tan Dai: C’è differenza quando la scala aziendale del modello grande è piccola, ma non c’è differenza quando la scala è grande. Oggi ci sono sicuramente più clienti di piccole e medie dimensioni, ma se guardiamo alla distribuzione del settore, potrebbe non esserci necessariamente una differenza particolarmente grande.

"Emersione dell'intelligence":Sul lato C e sul lato B, da quale parte pensi che sorgerà prima il modello grande?

Tan Dai: Il nostro volume attuale è più o meno lo stesso, ma l'effetto Matthew sul lato C è molto forte. Forse i primi pochi clienti hanno contribuito molto al DAU. Questa logica si applica al lato C, anche quando non è AI, ma lo sviluppo del lato B è a lunghissimo termine.

"Emersione dell'intelligence": Ciò che i modelli di grandi dimensioni possono fare ora è relativamente semplice. Ad esempio, tutti ritengono che la definizione di Agente non sia nemmeno allineata. Perché l’esecuzione di modelli di grandi dimensioni ora può rimanere solo in scenari così semplici?

Tan Dai:La capacità del modello non è abbastanza forte.

"Emersione dell'intelligence":Quali sono i punti chiave da sfondare?

Tan Dai: Ce ne sono parecchi. L'abilità del modello deve essere forte e l'intelligenza deve essere forte. Non è stato l'esame di ammissione all'università qualche tempo fa? Doubao ha finalmente "superato" il corso di arti liberali, ma non è stato ancora ammesso all'Università di Tsinghua e all'Università di Pechino, e non ha nemmeno superato il corso di scienze ovvio, e il suo livello non è sufficiente. Ma nessun problema, abbiamo abbastanza fiducia.

In secondo luogo, ci sono ancora molti problemi complessi che non sono stati risolti, come quello della memoria a lungo termine. Ciò richiede sicuramente una certa innovazione nella struttura del modello e la multimodalità deve essere migliore. Anche i costi devono essere controllati Dopo aver aggiunto queste funzionalità, non è giusto aumentarli troppo.

Penso che sia ancora molto presto per i grandi modelli. La rivoluzione delle comunicazioni mobili va avanti da 30 o 40 anni. A partire dagli anni ’70 e ’80, la storia dello sviluppo dell’intelligenza artificiale è più lunga. Ci stiamo lavorando solo da due anni. Quando usavamo ancora i telefoni cellulari negli anni '90, potevamo pensare all'attuale iPhone? Questi sono i cambiamenti avvenuti negli ultimi decenni.

"Emersione dell'intelligence":L’attuale volume d’affari di Huoshan Model, sia in termini di numero di clienti che di entrate, soddisfa le tue aspettative?

Tan Dai: Penso che sia ok e soddisfi le aspettative. Speriamo di vedere un ecosistema prospero e ora abbiamo effettivamente raggiunto i risultati che desideravamo. E non siamo solo noi a salire, vediamo che anche i nostri amici salgono.

"Emersione dell'intelligence":Hai in mente un importo stimato?

Tan Dai: Ad esempio, esiste un obiettivo per il numero totale di token, che è sia totale che suddiviso in livelli. Ad esempio, il numero di utenti il ​​cui numero di token supera un determinato livello deve raggiungere un determinato livello. Ci auguriamo che i clienti formino una distribuzione a forma di fuso o a forma di imbuto. Se la quantità totale di token è molto elevata, ma ci sono solo dieci clienti con oltre 100 milioni di token, anche questo non è salutare.

"Emersione dell'intelligence":Che aspetto ha adesso?

Tan Dai:Non ha ancora la forma di una piramide rovesciata e la vita dell'utilizzatore può essere un po' più spessa.

"Emersione dell'intelligence": Ovviamente, dopo la riduzione dei prezzi dei modelli di grandi dimensioni, l’intelligenza artificiale è diventata più inclusiva e può fare più cose. Pensi che ci sia una chiara tendenza tra gli early adopters oggi a diventare una “one-person company”?

Tan Dai: Al giorno d’oggi ci sono meno “società individuali” e più “società con dieci persone”. Vedo che all'estero si possono fare molte cose anche con solo due o tre persone.

Scherzavamo dicendo che per avviare un’impresa bastava avere un programmatore, ma ora non ne abbiamo più bisogno. Alcuni utenti che abbiamo intervistato hanno affermato che poiché non ho il codice, questa demo non può essere utilizzata affatto per la verifica del prototipo (POC), ma ora può farlo. In futuro, se il modello grande sarà migliore, l’intelligenza artificiale potrebbe essere in grado di risolvere tutto da 0 a 100.

Inizialmente OpenAI aveva discusso di quando emergerà una società unicorno con una sola persona in azienda (del valore di oltre 1 miliardo di dollari) e se ci vorranno cinque anni o più.

In questo caso non dovremmo limitarci a guardare Killer App, perché molte idee di startup mirano a risolvere problemi molto verticali.

È un bugiardo predicare che “l’uso dell’intelligenza artificiale aiuterà la tua azienda a crescere”

"Emersione dell'intelligence":Adesso ti stai concentrando maggiormente sul lato tecnologico o su quello del cliente?

Tan Dai: Quasi. Nel breve termine, le due parti sono inseparabili. L'intelligenza artificiale non è matura come il cloud computing. Il miglioramento del modello di intelligenza artificiale, il miglioramento del prodotto e il modo in cui i clienti lo utilizzano richiedono un processo di feedback. Non puoi semplicemente sederti in ufficio e guardare.

"Emersione dell'intelligence":Su quali aspetti delle esigenze o dei dubbi attuali dei clienti si concentra maggiormente?

Tan Dai:Ci sono molti modi inaspettati.

Ad esempio, nel campo dell'istruzione, alcune persone pensavano: posso risolvere il problema per te. Ma in molti scenari ora, i clienti hanno bisogno che tu svolga il ruolo di insegnante e mi dica come farlo, invece di dirmi semplicemente qual è la risposta. Ciò richiede più delle semplici capacità del modello.

"Emersione dell'intelligence":Pensi che sia un problema a livello di prodotto?

Tan Dai:Puoi considerarlo un problema di prodotto o di domanda, ma dietro ci sono anche problemi tecnici.

"Emersione dell'intelligence": Dal lato del cliente, ci saranno ora più scenari "must have"? Ad esempio, ora le aziende pensano che l’intelligenza artificiale sia una cosa superflua, oppure potrebbero prendere in considerazione la riduzione dei costi e l’aumento dell’efficienza.

Tan Dai: Tutti sono già concordi nel ritenere che l’intelligenza artificiale sia la prossima grande novità, quindi sicuramente non se la perderà. Ora non è più necessario istruire le aziende sull’uso dell’intelligenza artificiale, ma è necessario discutere con loro quali scenari sono adatti all’utilizzo dell’intelligenza artificiale. A volte le persone sottovalutano le capacità dell’intelligenza artificiale, a volte la sovrastimano.

"Emersione dell'intelligence":Pertanto, rispetto alla precedente era della digitalizzazione, l’intelligenza artificiale ha apportato un nuovo aggiornamento al concetto di digitalizzazione.

Tan Dai: Forse. In passato, quando si faceva la digitalizzazione, un passo molto importante era trasformare i dati non strutturati in dati strutturati e far sì che le persone comprendessero i dati strutturati. Ora l’intelligenza artificiale ha risolto tutto per lui e la soglia della digitalizzazione è stata abbassata.

"Emersione dell'intelligence": Le aziende vedono l’intelligenza artificiale e la digitalizzazione dalla stessa prospettiva? In passato, quando le aziende passavano al digitale, il capo pensava che ciò avrebbe potuto migliorare un po’ l’efficienza, ma molti lo consideravano ancora un costo. Quando le aziende si chiedono se la digitalizzazione crescerà, il suo contributo è in realtà molto debole. L’intelligenza artificiale può cambiare questa situazione?

Tan Dai: Penso che sia un processo decisionale in diverse dimensioni. La tecnologia serve solo a migliorare il business. Il capo vuole vedere da un lato il mio modello di business e dall’altro come migliorare la mia efficienza aziendale attraverso la digitalizzazione.

Supponiamo che un rivenditore mi chieda come ottenere la crescita del business? Il mio primo punto è sicuramente non dirgli che vuoi entrare nel mondo dell'intelligenza artificiale, dico sicuramente: avvia l'e-commerce di Douyin. Poi parliamo di dove possiamo aiutarti a migliorare l'efficienza attraverso l'intelligenza artificiale. Se dici fin dall'inizio "puoi crescere con l'intelligenza artificiale", penso che sia un bugiardo.

"Emersione dell'intelligence": Ho un amico che aveva difficoltà a vendere nuvole a Huoshan, ma se ne è andato intorno al 2022. Dopo aver visto il modello grande, ha ritenuto che questo offrisse al vulcano un'opportunità particolarmente grande. Cosa ne pensi?

Tan Dai: Lanceremo il cloud solo alla fine del 2021. Certo, sarà difficile farlo nel primo anno, che è il più difficile, potrà mantenerlo per un altro anno. In effetti, la nostra crescita è stata piuttosto rapida negli ultimi anni e siamo i più rapidi del settore.

Penso che i tempi facciano gli eroi. Se non ci sono nuovi clienti e nuovi scenari per i clienti, anche se fai il meglio, a cosa serve? La precedente età dell’oro del cloud computing è stata dovuta all’ascesa di Internet mobile e alla graduale maturità della digitalizzazione in tutti gli ambiti della vita. Il cloud computing non è cresciuto così rapidamente. Questa è la legge naturale dello sviluppo del settore.

Ma la prossima era è l’intelligenza artificiale. Sento che ogni dieci anni o più emergerà un nuovo punto e dobbiamo cogliere questo nuovo punto per mantenere la nostra leadership tecnologica.

"Emersione dell'intelligence":Pensi che gli sviluppatori con cui entri in contatto ora siano ansiosi?

Tan Dai: Personalmente ritengo che nessuno sia particolarmente ansioso. Perché? Vedi, i modelli attuali sono abbastanza buoni e i prezzi sono così bassi, quindi provane altri e non c'è nulla di cui preoccuparsi. Può darsi che gli investitori siano più ansiosi. (ridere)

"Emersione dell'intelligence":Alcuni sviluppatori sono ansiosi perché, anche se i modelli adesso sono economici, all'inizio erano abbastanza buoni e potevano ancora guadagnare, ma una volta che iniziano ad espandere la loro portata e a investire nel traffico, il ROI non sarà corretto e gli utenti reali fidelizzati sarà raro.

Tan Dai: Penso che sia un problema di traffico, non un problema di intelligenza artificiale. Se non usi l’intelligenza artificiale, sbaglierai comunque se usi altre cose. Ad esempio, le rappresentazioni brevi sono molto popolari. Alcune rappresentazioni brevi possono generare guadagni, mentre altre no. Questo è normale.

"Emersione dell'intelligence":Qual è lo scenario applicativo IA più interessante che hai visto di recente?

Tan Dai: Ce ne sono parecchi, ad esempio alcuni bambini usano i pouf per imparare direttamente l'inglese. Un altro nostro cliente aziendale desiderava utilizzare un modello di grandi dimensioni, quindi ha organizzato un hackathon sull'intelligenza artificiale all'interno dell'azienda. I dipendenti hanno sviluppato più di 100 prodotti in base alle esigenze aziendali che incontravano abitualmente e forse due o tre di loro hanno avuto successo.

Ora collaboriamo con alcune case automobilistiche che invitano addirittura i loro utenti a partecipare all'intera progettazione. Quando gli utenti partecipano alla progettazione, possono comprendere meglio i propri punti critici.

"Emersione dell'intelligence":Per le aziende che servi, quanto è cambiato ora il rapporto tra potenza di calcolo di formazione e inferenza?

Tan Dai: Ci sarà ancora più formazione. Ma l’inferenza ora sta crescendo molto velocemente, decine di volte in più rispetto allo scorso anno, mentre la formazione è cresciuta meno del doppio. Inizialmente avevamo previsto che l’inferenza avrebbe superato l’addestramento entro il 2025, e sembra che ora sia così.

"Emersione dell'intelligence":Quando pensi che esploderanno le applicazioni dell’intelligenza artificiale?

Tan Dai: Prima di tutto, quest’anno non c’è stata una grande esplosione, ma sicuramente è una piccola esplosione. Ma penso che ci sarà una grande esplosione l’anno prossimo. Anche da una prospettiva globale, l’applicazione dell’intelligenza artificiale è decisamente nelle fasi iniziali. In futuro, prezzi più accessibili garantiranno effetti modello ideali. Solo quando le applicazioni dell’intelligenza artificiale prospereranno e le reazioni chimiche continueranno a verificarsi, sarà possibile costruire l’ecosistema.

"Emersione dell'intelligence":Dal 2023 sottolineate che non realizzerete modelli base di grandi dimensioni. Lo farete in futuro?

Tan Dai: Mai più. Il grande modello Doubao è stato sviluppato da un team dedicato presso ByteDance. Non è necessario che Huoshan realizzi il modello da solo, purché il cloud e MaaS siano realizzati bene.

Le persone che si occupano di cloud computing e quelle che si occupano di modelli di grandi dimensioni sono decisamente completamente diverse. I principali produttori mondiali svolgono tutti il ​​proprio lavoro separatamente. Il modello di Amazon è Claude e il cloud è realizzato da AWS Google Cloud e Gemini non sono realizzati dallo stesso gruppo di persone;

Noi di Huoshan ci concentriamo sul fare bene il cloud, ma MaaS è una parte molto importante del cloud. Affinché MaaS abbia successo, il nostro servizio MaaS fornirà il modello migliore ai nostri clienti. Questo non è mai cambiato.

Benvenuto nel gruppo

Benvenuti a comunicare