uutiset

toimittaja xie lilong

suurten mallien hintasota kiinan markkinoilla on jatkunut lähes puoli vuotta. tämä hintasota on saavuttanut negatiivisen bruttovoiton, eikä se näytä merkkejä pysähtymisestä toistaiseksi. johtavat pilvitoimittajat suunnittelevat edelleen uutta hinnanalennusta. tämä hinnanalennusten kierros toteutetaan tämän vuoden syyskuun lopussa.

tämän vuoden toukokuussa kiinalaiset pilvitoimittajat aloittivat hintasodan suurten mallipäätelmien laskentatehosta. bytedancen pilvipalvelut volcano engine, alibaba cloud, baidu smart cloud ja tencent cloud ovat peräkkäin alentaneet suurten mallipäätelmien laskentatehon hintaa yli 90 %.

jos haluat käyttää suurta mallia, sinun on syötettävä kehotekieli ja hankittava sisällön tulos perustelujen avulla. tämä prosessi kutsuu api (application programming interface, aivan kuten vesi- ja sähkökytkin) ja maksaa kulutettujen merkkien määrän mukaan (token on suuren mallin tekstiyksikkö, token voi olla sana, välimerkki, numero, symboli jne.). se on kuin maksaisi käyttömaksun vedestä ja sähköstä.

hinnan alennuksen jälkeen päätelmien laskentatehon kulutus todellakin kasvaa nopeasti. tämän vuoden elokuussa baidun toisen vuosineljänneksen tulosneuvottelupuhelu paljasti, että baidu wenxin big modelin päivittäiset api-puhelut olivat toukokuussa 200 miljoonaa, mikä nousi elokuussa 600 miljoonaan, keskimääräinen päivittäinen token-kulutus toukokuussa oli 250 miljardia elokuu se on kasvanut 1 biljoonaan. bytedance ilmoitti tämän vuoden elokuussa, että heinäkuussa bytedance doubao -mallin keskimääräinen päivittäinen token-käyttö ylitti 500 miljardia. toukokuuhun verrattuna keskimääräinen päiväkohtainen rahakkeiden käyttö yritystä kohden kasvoi 22-kertaiseksi.

tokenin hinnat laskivat yli 90 prosenttia. tämä vähentää pilvitoimittajien päättelytuloja lyhyellä aikavälillä. pilvitoimittajat kuitenkin toivovat voivansa käyttää tätä menetelmää alentaakseen yritysasiakkaiden kokeilu- ja virhekynnystä, mikä johtaa yli 10 kertaa eksponentiaaliseen laskentatehon kulutukseen ja lopulta saavuttaakseen pitkän aikavälin liikevaihdon kasvun.

hintasota päätelmien laskemisesta kotimaisilla suurilla mallimarkkinoilla on kestänyt puoli vuotta.

ensinnäkin laskettu laskentatehon hintasota on jo saavuttanut negatiivisen bruttovoiton. äskettäin monien pilvitoimittajien, mukaan lukien alibaba cloud ja baidu smart cloud, johtajat paljastivat meille, että ennen tämän vuoden toukokuuta kotimaisen laajamittaisen mallipäätelmien laskentatehon bruttokate oli yli 60 %, mikä oli periaatteessa sama kuin kansainvälisten ikäisensä. sen jälkeen, kun suuret valmistajat laskivat hintojaan peräkkäin tämän vuoden toukokuussa, päätelmien laskentatehon bruttomarginaali putosi negatiivisiin lukuihin.

toiseksi, verrattuna openai:n samoihin malleihin, kotimaisten mallien hinta on yleensä vain 20–50 %. kotimaisten suurten mallien bruttokate on paljon pienempi kuin openai:n. kansainvälisen markkinatutkimusorganisaation futuresearchin tutkimusraportti tämän vuoden elokuussa totesi, että openai:n gpt-4-sarjan lippulaivamallin bruttokate on noin 75 % ja gpt-4o-sarjan päämallin bruttokate on noin 75 %. 55 %. openai:n kattava bruttokate on vähintään yli 40 %.

hintasota on taisteltava

tarkistimme alibaba cloudin, volcano enginen, baidu smart cloudin, tencent cloudin ja openai:n virallisen verkkosivuston ilmoittamat suuret mallien päättelyhinnat. verrattuna openai:n saman spesifikaation malleihin kotimaisten mallien hinta on yleensä vain 20–50 %.

otetaan esimerkkeinä alibaban tongyi qianwen-max, baidun ernie-4.0-8k ja tencentin hunyuan-pro. kolmen mallin tuotantohinnat miljoonalta tokenilta ovat 120 yuania, 120 yuania ja 100 yuania. heidän vertailukohtaisen openai-lippulaivamallin gpt-4-turbon tuotantohinta on 210 yuania miljoonalta tokenilta (openai:n virallisilla verkkosivuilla oleva hinta on 30 us dollaria, joka on muunnettu yhdysvaltain dollarin ja rmb:n vaihtokurssiin 1: 7). näiden kolmen suuren kotimaisen mallin hinta on vain noin 50 % gpt-4-turbon hinnasta.

otetaan esimerkkeinä alibaban qwen-long, baidun ernie-speed-pro-128k ja tencentin hunyuan-upotus. kolmen mallin tuotantohinnat miljoonalta tokenilta ovat 2 yuania, 0,8 yuania ja 5 yuania. openai:n halvan mallin openai gpt-4o-mini miljoonan tokenin tuotantohinta on 4,2 yuania (openai:n virallisilla verkkosivuilla oleva hinta on 0,6 us dollaria, joka on muunnettu yhdysvaltain dollarin ja rmb 1:7 vaihtokurssin perusteella. ). alibaban ja baidun lähtötason mallit ovat vain 48 % ja 19 % openai:n lähtötason mallin hinnasta.

suurten mallien hintasota on saavuttanut negatiiviset bruttomarginaalit, mutta tämä ei ole estänyt eri pilvitoimittajia jatkamasta hintojen alentamista.

saamamme uutinen on, että johtavat pilvitoimittajat, kuten alibaba cloud, suunnittelevat edelleen uutta hinnanalennusta. tämä hinnanalennusten kierros toteutetaan tämän vuoden syyskuun lopussa. suorituskykyiset lippulaivamallit ovat tämän hinnanalennuskierroksen painopiste.

edellä mainittujen pilvitoimittajien suuresta malliliiketoiminnasta vastaava ydinhenkilö uskoo, että halpojen pienikokoisten mallien hinnanalennuksille on tällä hetkellä vähän tilaa ja viimeinen hinnanalennusten kierros on pudonnut "psykologiselle pohjalle". yritysasiakkaista. seuraava askel on keskittyä siihen, aikooko jokainen lippulaivamalli jatkaa hintojen alentamista. lippulaivamalli jaetaan myös edelleen kustannustehokkaisiin versioihin, joilla voidaan ratkaista useimmat ongelmat, sekä korkealaatuisiin ja kalliisiin versioihin, jotka ratkaisevat erittäin vaikeita ongelmia.

suuren mallipäätelmän laskentateho on saavuttanut negatiivisen bruttovoiton, joten miksi jatkaa hintojen alentamista?

suuret pilvivalmistajat katsovat pitkän aikavälin markkinatrendiä – pilvipalveluiden laskentatehorakenne on rajuissa muutoksissa. enemmän päätelmien laskentatehoa saaminen on tarttua enemmän vähitellen markkinoihin. kansainvälinen markkinatutkimusorganisaatio idc ennustaa, että kiinan yleisen laskentatehon yhdistetty vuotuinen kasvuvauhti on 16,6 % vuosina 2022–2027 ja älykkään laskentatehon 33,9 %. vuodesta 2022 vuoteen 2027 älykkään laskentatehon sisällä päättelyn laskentatehon osuus nousee 72,6 prosenttiin ja koulutuksen laskentatehon osuus laskee 27,4 prosenttiin.

pilvitoimittajat ovat valmiita luopumaan lyhyen aikavälin tuloista odotettavissa olevan pitkän aikavälin kasvun vuoksi. lyhyellä aikavälillä päätelmien laskentateho ei tuota paljon tuloja. kiinalaisen pilvitoimittajan tekninen henkilö selitti, että kunkin yrityksen mallipuhelutulot eivät ylitä miljardia yuania vuonna 2024, mikä on rajoitettua markkinoilla, joilla on kymmeniä miljardeja vuodessa. pilvitoimittajat ovat valmiita hyväksymään lyhyen aikavälin tulonmenetyksiä ja liiketappioita seuraavan 1-2 vuoden aikana. kaikki lyövät vetoa siitä, että suurten mallikutsujen määrä kasvaa eksponentiaalisesti vähintään 10-kertaiseksi seuraavan 1-2 vuoden aikana. loppujen lopuksi tulojen pitkän aikavälin kasvu voi korvata lyhyen aikavälin tulonmenetyksiä.

hän selitti edelleen, että tässä prosessissa laskentatehon kustannukset laimentuvat vähitellen asiakkaiden kysynnän kasvaessa. suurella malliliiketoiminnalla on vielä mahdollisuus saavuttaa lopulta positiivisia voittoja. vaikka veto ei pidä paikkaansa, joukko mallinvalmistajia kuolee hintasodassa, ja elossa olevat valmistajat poimivat palaset.

eri pilvitoimittajilla on myös erilaiset kilpailunäkökohdat hintasotaa vastaan ​​- volcano engine, alibaba cloud ja baidu smart cloud osallistuvat kaikki hintasotaan, jota on taisteltava.

volcano engine ei tällä hetkellä ole viiden parhaan joukossa kiinan julkisilla pilvimarkkinoilla, mutta sen liikevaihto kasvaa yli 150 % vuonna 2023. suuret mallit ovat sille tärkeä mahdollisuus saada pilvimarkkinoilla kiinni. volcano enginen toimitusjohtaja tan dai mainitsi meille tämän vuoden toukokuussa, että hän havaitsi tämän vuoden maaliskuussa piilaaksossa, että tekoälysovellusyrittäjyys yhdysvalloissa osoitti kiinan mobiili-internetin alkuvaiheen suuntausta vuosina 2012–2014. "pieni tekoälysovellusten startup-tiimi sai nopeasti tuloja ja rahoitusta. kiinan markkinoilla saattaa olla tämä trendi tulevaisuudessa. mutta lähtökohtana on, että päättelyn hintaa on laskettava ja yrityksen ja erehdyksen kynnystä laskea."

alibaba cloud on ensimmäinen kiinan julkisilla pilvimarkkinoilla. alibaba cloudin on seurattava kilpailijoiden hinnanalennuksia. liu weiguang, alibaba cloudin julkisen pilviosaston pääjohtaja, analysoi meille tämän vuoden kesäkuussa, että alibaba cloud on käynyt läpi useita sisäisiä päätelmiä ja laskelmia ja löytänyt kaksi ristiriitaa:

baidu intelligent cloud pitää tekoälyä ydinstrategiaansa. eräs baidu-suurmallien tekninen johtaja kertoi meille tämän vuoden heinäkuussa suoraan, että suuret mallit ovat voitettava taistelu ja hintasota on taisteltava hinnalla millä hyvänsä. tällä strategialla on saavutettu todellisia tuloksia. baidu smart cloudin liikevaihdon kasvuvauhti vuoden 2024 toisella neljänneksellä on palautunut 14 prosenttiin, mikä on korkein piste kahden viime vuoden aikana. baidu-johto julkisti vuoden 2024 toisen neljänneksen tuloskutsussa, että baidu intelligent cloudin suuren mallin liikevaihdon osuus on kasvanut vuoden 2023 neljännen neljänneksen 4,8 prosentista 9 prosenttiin vuoden 2024 toisella neljänneksellä.

suurien mallipäätelmien hintasodan ja negatiivisten katteiden kääntöpuoli on se, että alhainen hinta ei ole tärkein tekijä siinä, käyttävätkö yritysasiakkaat suuria malleja.

edellä mainittujen pilvitoimittajien suuresta malliliiketoiminnasta vastaava ydinhenkilö uskoo, että pilvitoimittajat eivät voi luottaa pitkäjänteiseen rahan ja tappioiden polttamiseen suuren malliteollisuuden käyttöönoton edistämiseksi. heikkotehoisessa ja edullisessa mallissa ei ole mitään järkeä. riittämättömät malliominaisuudet ovat tärkeä syy negatiivisiin bruttokatehintoihin. kotimaan mallipuhelujen hinnat ovat laskeneet merkittävästi, joten hinta ei ole enää yritysasiakkaiden tärkein tekijä. mallin ominaisuudet ja vaikutukset ovat se, mistä yritysasiakkaat välittävät eniten.

erään vakuutusyhtiön it-johtaja suostui. hän sanoi suoraan, että rahoitus- ja vakuutusalan it-menojen osuus yritysten tuloista on tällä hetkellä noin 3–5 %. ilman 80 % laitteiston it-menoista vain 20 % it-menoista käytetään digitaaliseen transformaatioon. kun käytetään uutta tekniikkaa, kuten suuria malleja, panos-tuotossuhde on laskettava. eksplisiittisten mallikustannusten lisäksi on huomioitava myös implisiittiset kustannukset - suurten mallien on oltava yhteensopivia olemassa olevien it-järjestelmien kanssa, datan hallintaa vaaditaan liiketoimintadatan valmistelemiseksi suuriin malleihin ja joukko tekoälyä ymmärtäviä tuotepäälliköitä on rekrytoitava. hän on eniten huolissaan mallin ominaisuuksista ja käytännön vaikutuksista.

stanfordin yliopiston fundamental models research -keskus (crfm) suorittaa pitkän aikavälin maailmanlaajuisia suuria mallitestauksia. laajamittaisten mmlu-testien ranking 17. syyskuuta osoittaa, että kymmenen parhaan mallivalmistajan joukossa ovat anthropicin ai-startup claude 3.5 -sarja (amazonin sijoittama), llama3.1-sarja meta ja openai (microsoft investmentin omistama gpt-4-sarja) ja googlen omistama gemini 1.5 -sarja. tällä hetkellä kiinalaisista suurista malleista vain alibaban omistama tongyi qianwen 2 instruct (72b) on kymmenen parhaan joukossa.

monien kiinalaisten pilvitoimittajien suurten mallien tekninen henkilöstö ilmaisi caijingille saman näkemyksen: suurilla mallimarkkinoilla alhaisen suorituskyvyn ja alhaisen hinnan strategia on kestämätön. ihanteellinen tilanne on perustaa terve ja kestävä liiketoiminta, suljettu silmukka, joka perustuu korkeaan suorituskykyyn ja kohtuullisiin hintoihin.

arvokkaampi vertailukohta on openai. tämän vuoden syyskuusta lähtien openai:lla on 1 miljardi kuukausittaista aktiivista käyttäjää ja 11 miljoonaa maksavaa käyttäjää (mukaan lukien 10 miljoonaa maksanutta yksittäistä tilaajaa ja 1 miljoona yritystilaajaa). tämän vuoden toukokuussa openai:n johto julkisti yhtiön vuosittaisen liikevaihdon (analisoitu liikevaihto on kuluvan kuukauden liikevaihto × 12. tilauspohjaiset ohjelmistoyritykset saavat käyttäjien tilausuudistuksia kuukausittain ja niillä on vakaat tuotto-odotukset, joten ne käyttävät usein vuositasoista tuottokaliiperia) saavutettu 3,4 miljardia yhdysvaltain dollaria (muunnettu yhdysvaltain dollarin ja rmb:n vaihtokurssin 1:7 perusteella, noin 24,1 miljardia juania).

kansainvälisen markkinatutkimusorganisaation futuresearchin uusin tutkimusraportti laskee yrityksen tulorakenteen openai:n ilmoittaman vuosittaisen tulon ja maksullisen käyttäjärakenteen perusteella - 10 miljoonaa yksittäistä tilaajaa toi 1,9 miljardia dollaria, mikä vastaa 56 %:a yritykset tilaajat toivat tuloja 710 miljoonaa dollaria, mikä vastaa 21 %:n api-puhelut tuottivat 510 miljoonaa dollaria eli 15 %.

jopa useiden hinnanalennusten jälkeen openai voi silti säilyttää suhteellisen terveen bruttokatteen. tämän vuoden huhtikuussa openai:n lippulaivamallin gpt-4-turbo tuotantohintaa alennettiin 67 %. tämän vuoden elokuussa openai:n päämallin gpt-4o:n tuotantohintaa alennettiin 30 %. futuresearchin tämän vuoden elokuussa julkaiseman tutkimusraportin mukaan openai:n gpt-4-sarjan lippulaivamallin bruttokate on noin 75 % ja gpt-4o-sarjan päämallin bruttokate on noin 55 %. openai:n kattava bruttokate on vähintään 40 %.

openai:lla on ainutlaatuinen kasvuympäristö. siinä ei ole vain riittävää laskentatehoa, vaan sillä on myös valtava to c (kuluttajaasiakkaille) -käyttäjiä, ja se on myös maailman suurimmilla to b (yritysasiakkaille) -ohjelmistomarkkinoilla.

openai:n menestyksekäs kokemus kahden viime vuoden ajalta on, että se luottaa suureen laskentatehoon "raakalla voimalla luodakseen ihmeitä". kiinalaisilta yrityksiltä puuttuu openai:n kaltaiset laskentatehoehdot ja rahoitusympäristö. laskentateho on kiinalaisten mallivalmistajien keskeinen puute.

kiinalaisen pilvitoimittajan malliteknikko selitti, että noin viimeisen vuoden aikana kiinalaiset pilvitoimittajat ovat maksaneet yli 1,5 kertaa nvidian ai-sirujen ostokustannukset, mikä on pitänyt mallin laskentatehon kustannukset korkeina. tämä vaikuttaa suurten mallien suorituskyvyn ylärajaan ja vaikeuttaa myös suurten mallien teollista toteutusta. palvelinmyyjän mukaan kahdeksan kortin nvidia h100/h800 -sarjan ai-siruilla varustetut palvelimet kiinan markkinoilla vuonna 2023 ylittivät kerran 3 miljoonaa yuania/yksikkö, mikä on yli 1,5 kertaa nvidian virallinen hinta.

miten kiinalaiset yritykset voivat löytää itselleen sopivan kehityspolun, kun laskentaresurssit ovat rajalliset ja laskentakustannukset korkeat? tämä vaatii huolellista suunnittelua ja räätälöintiä.

suurten mallien kehitys on viimeisen kahden vuoden aikana noudattanut skaalauslakia (openai:n vuonna 2020 ehdottama laki, kirjaimellisesti käännettynä "skaalauslakiksi") - mallin suorituskyky liittyy pääasiassa laskennan määrään, malliparametrien määrään ja harjoitustietojen määrä.

edellä mainittujen pilvitoimittajien suuresta malliliiketoiminnasta vastaava ydinhenkilö mainitsi, että ydinperiaatteena on parantaa datan laatua ja määrää skaalauslain rajoitusten mukaisesti ja pienentää malliparametreja asianmukaisesti moe (mixture of experts), malli suunnittelustrategiaa, voidaan käyttää myös useiden mallien sekoittamiseen (ammattimainen malli paremman suorituskyvyn saavuttamiseksi) arkkitehtuuri parantaa mallin suorituskykyä ja vähentää päättelykustannuksia. tiettyjen liiketoimintastrategioiden toteuttamisessa on kaksi vaihtoehtoa.

hintasota negatiivisella myyntivoitolla kiihdyttää suurten mallimarkkinoiden eliminointia. monet alan sisäpiiriläiset ilmaisivat saman näkemyksen caijingille. tämä eliminointikierros kestää yhden tai kaksi vuotta, ja vain 3-5 perusmalliyritystä voi jatkaa hengissä.

xiaopeng, kiinan informatisointikomitean 100 jäsenen johtaja ja alibaba cloud intelligent technology research centerin johtaja, kertoi caijingille tämän vuoden heinäkuussa, että suuret mallit vaativat jatkuvaa investointeja, kykyä saada 10 000 tai jopa 100 000 korttia ja kaupallista tuottoa. monilla yrityksillä ei ole tällaisia ​​mahdollisuuksia. jatkossa kiinan markkinoille tulee vain kolme tai viisi perusmallin valmistajaa.

suurten mallien kehittäminen edellyttää sirujen ja palvelimien hankintaa sekä maa-alueiden vuokraamista datakeskusten rakentamiseen. tämä investointi voi olla jopa kymmeniä miljardeja juaneja vuodessa. nämä kustannukset näkyvät teknologiayritysten investoinneissa. microsoftin vuoden 2024 neljännen vuosineljänneksen tulospyyntö paljasti, että lähes kaikki kyseisen kuukauden 19 miljardin dollarin pääomamenot käytettiin laskentatehoon. viime vuonna (vuoden 2023 kolmannesta neljänneksestä vuoden 2024 toiseen neljännekseen) alibaban, tencentin ja baidun pääomamenot olivat 23,2 miljardia juania, 23,1 miljardia yuania ja 11,3 miljardia yuania, kasvua 77,1 %. 154,1 % ja 46,9 % on tulosta laskentatehoon tehdyistä investoinneista.

jatkuvien laskentatehoinvestointien lisäksi suuri mallipäättelyliiketoiminta vaatii miljardin yuanin vuositukia. kiinalaisen pilvitoimittajan johtaja analysoi, että suurten mallipuheluiden negatiivinen bruttokate tarkoittaa, että mitä enemmän puheluita tehdään lyhyellä aikavälillä, sitä suurempia tappioita syntyy. nykyisen päättelyn laskentatehon kulutuksen mukaan useat johtavat hintasotaan osallistuvat pilvitoimittajat tukevat suurten mallipäätelmien laskentatehon kulutusta yli miljardilla yuanilla vuonna 2024.

alibaba cloud, volcano engine, baidu smart cloud ja tencent cloud voivat luottaa konsernin suureen malliin hintasotien taistelemisessa, mutta suurten malliyritysten on vaikea jatkaa. edellä mainitut kiinan johtavien teknologiayritysten tekoälyn strategiset suunnittelijat uskovat, että alibaba cloudilla ja volcano enginellä on vahvinta verta tässä hintasodassa. alibaba voi ansaita rahaa pilvestä, ja volcano enginellä on bytedancen mainostoiminta verensiirtona. hintasodassa baidu ei ole yhtä hyvä kuin alibaba ja bytedance. kuitenkin baidu n wenxin suuri malli on vahva tekniikka ja on joukko asiakkaita, jotka ovat valmiita maksamaan tekniikkaa. tämä auttaa baidua selviytymään hintasodasta.

suurten startup-mallien on turvattava suuriin valmistajiin ja rahoitukseen selviytyäkseen lyhyellä aikavälillä. tekninen henkilö suuresta mallia käynnistävästä yrityksestä kertoi caijingille tämän vuoden syyskuussa, että zhipu ai, baichuan intelligence, dark side of the moon, zero one thing ja minimax, kotimaisten suurten mallien "five little tigers", ovat kaikki investoineet. kirjoittanut alibaba. yksi sijoitusmenetelmistä on, että investointisumma maksetaan laskentatehon muodossa ja sijoitettu yritys käyttää alibaba cloudin laskentatehoa. se, pystyvätkö "viisi pientä tiikeriä" selviytymään, riippuu jossain määrin siitä, jatkaako ali sijoittamista.

myös edellä mainittujen johtavien pilvitoimittajien tekninen henkilöstö ja edellä mainittujen suurten malliyritysten tekninen henkilökunta uskovat, että kiinan markkinoiden suurmallistartupit kohtaavat testejä seuraavan kahden vuoden aikana ne murtautumaan perusmallimarkkinoilla tulevaisuudessa voi olla kolme ulospääsyä - joko päästäksesi valtion ja yrityksen projektimallien kehittäjäksi, sinun on käännyttävä joko to b:n vertikaaliseen toimialamalliin tai to b:n sovellusmarkkinoille. c. itse asiassa markkinoiden eriyttäminen on jo alkanut. zhipu ai voittaa suuren määrän tarjouksia valtion ja yrityshankkeista, kun taas dark side of the moon keskittyy vain to c -markkinoille.