berita

penyunting |. xie lilong

perang harga model besar di pasar china telah berlangsung hampir setengah tahun. putaran perang harga ini telah mencapai laba kotor negatif dan belum menunjukkan tanda-tanda akan berhenti untuk saat ini. vendor cloud terkemuka masih merencanakan babak baru pemotongan harga. putaran pemotongan harga ini akan dilaksanakan pada akhir september tahun ini.

pada bulan mei tahun ini, vendor cloud tiongkok memulai perang harga untuk daya komputasi inferensi model besar. layanan cloud bytedance, volcano engine, alibaba cloud, baidu smart cloud, dan tencent cloud berturut-turut telah menurunkan harga daya komputasi inferensi model besar hingga lebih dari 90%.

untuk menggunakan model besar, anda perlu memasukkan bahasa prompt dan mendapatkan keluaran konten melalui penalaran. proses ini akan memanggil api (application programming interface, seperti saklar air dan listrik) dan membayar sesuai dengan jumlah token yang dikonsumsi (token adalah unit teks model besar, token dapat berupa kata, tanda baca, angka, simbol, dll). seperti membayar biaya pemakaian air dan listrik.

setelah penurunan harga, konsumsi daya komputasi inferensi memang meningkat pesat. pada bulan agustus tahun ini, panggilan konferensi pendapatan kuartal kedua baidu mengungkapkan bahwa rata-rata panggilan api harian baidu wenxin big model pada bulan mei adalah 200 juta, yang meningkat menjadi 600 juta pada bulan agustus; rata-rata konsumsi token harian pada bulan mei adalah 250 miliar, dan pada bulan agustus agustus sudah tumbuh menjadi 1 triliun. bytedance mengumumkan pada bulan agustus tahun ini bahwa pada bulan juli, rata-rata penggunaan token harian model bytedance doubao melebihi 500 miliar. dibandingkan dengan bulan mei, rata-rata penggunaan token harian per perusahaan meningkat 22 kali lipat.

harga token turun lebih dari 90%. hal ini akan mengurangi pendapatan inferensi vendor cloud dalam jangka pendek. namun, vendor cloud berharap dapat menggunakan metode ini untuk menurunkan ambang coba-coba bagi pelanggan perusahaan, sehingga menghasilkan konsumsi daya komputasi lebih dari 10 kali lipat secara eksponensial, dan pada akhirnya mencapai pertumbuhan pendapatan jangka panjang.

perang harga untuk daya komputasi inferensi di pasar model besar domestik telah berlangsung selama setengah tahun saat ini terdapat tiga fakta dasar:

pertama, perang harga daya komputasi telah mencapai laba kotor negatif. baru-baru ini, pimpinan banyak vendor cloud, termasuk alibaba cloud dan baidu smart cloud, mengungkapkan kepada kami bahwa sebelum mei tahun ini, margin laba kotor dari daya komputasi inferensi model skala besar domestik lebih tinggi dari 60%, yang pada dasarnya sama dengan bahwa rekan-rekan internasional. setelah produsen besar secara berturut-turut memangkas harga pada bulan mei tahun ini, margin laba kotor dari daya komputasi inferensi turun ke angka negatif.

kedua, dibandingkan model openai dengan spesifikasi yang sama, harga model dalam negeri umumnya hanya 20%-50%. margin laba kotor model besar domestik jauh lebih rendah dibandingkan openai. sebuah laporan penelitian oleh futuresearch, sebuah organisasi riset pasar internasional, pada bulan agustus tahun ini menyatakan bahwa margin laba kotor model andalan seri gpt-4 openai adalah sekitar 75%, dan margin laba kotor model utama seri gpt-4o adalah sekitar 55%. margin laba kotor komprehensif openai setidaknya di atas 40%.

perang harga harus dilakukan

kami memeriksa harga inferensi model besar yang diumumkan oleh alibaba cloud, volcano engine, baidu smart cloud, tencent cloud, dan situs resmi openai. dibandingkan model openai dengan spesifikasi yang sama, harga model dalam negeri umumnya hanya 20%-50%.

ambil contoh tongyi qianwen-max dari alibaba, ernie-4.0-8k dari baidu, dan hunyuan-pro dari tencent sebagai contoh. harga keluaran ketiga model per juta token masing-masing adalah 120 yuan, 120 yuan, dan 100 yuan. harga keluaran model andalan openai benchmark gpt-4-turbo mereka adalah 210 yuan per juta token (harga yang tercantum di situs resmi openai adalah 30 dolar as, yang telah dikonversi berdasarkan dolar as dan nilai tukar rmb 1: 7). harga ketiga model besar dalam negeri ini hanya sekitar 50% dari harga gpt-4-turbo.

ambil contoh qwen-long dari alibaba, ernie-speed-pro-128k dari baidu, dan penyematan hunyuan dari tencent sebagai contoh. harga output dari tiga model per juta token masing-masing adalah 2 yuan, 0,8 yuan, dan 5 yuan. harga keluaran token openai model murah openai gpt-4o-mini juta adalah 4,2 yuan (harga yang tercantum di situs resmi openai adalah 0,6 dolar as, yang telah dikonversi berdasarkan nilai tukar dolar as dan rmb 1:7 ). model entry-level alibaba dan baidu hanya 48% dan 19% dari harga model entry-level openai.

perang harga untuk model besar telah mencapai margin kotor negatif, namun hal ini tidak menghentikan berbagai vendor cloud untuk terus memangkas harga.

kabar yang kami terima adalah bahwa vendor cloud terkemuka seperti alibaba cloud masih merencanakan babak baru pemotongan harga. putaran pemotongan harga ini akan dilaksanakan pada akhir september tahun ini. model andalan berperforma tinggi menjadi fokus dari putaran pemotongan harga ini.

orang inti yang bertanggung jawab atas bisnis model besar dari vendor cloud yang disebutkan di atas percaya bahwa saat ini hanya ada sedikit ruang untuk pengurangan harga untuk model murah berukuran kecil, dan putaran terakhir penurunan harga telah turun ke "keuntungan psikologis" pelanggan korporat. langkah selanjutnya yang perlu diperhatikan adalah apakah setiap model andalan akan terus memangkas harga. model andalan juga akan dibagi lagi menjadi versi hemat biaya yang dapat menyelesaikan sebagian besar masalah, serta versi berkualitas tinggi dan berharga tinggi yang dapat memecahkan masalah yang sangat sulit.

kekuatan komputasi inferensi model besar telah mencapai laba kotor negatif, jadi mengapa terus menurunkan harga?

produsen cloud besar melihat tren pasar jangka panjang – struktur kekuatan komputasi komputasi awan sedang mengalami perubahan drastis. untuk memanfaatkan lebih banyak kekuatan komputasi inferensi berarti merebut lebih banyak pasar tambahan. organisasi riset pasar internasional idc memperkirakan bahwa kekuatan komputasi umum tiongkok akan memiliki tingkat pertumbuhan tahunan gabungan sebesar 16,6% dari tahun 2022 hingga 2027, dan kekuatan komputasi cerdas akan memiliki tingkat pertumbuhan tahunan gabungan sebesar 33,9%. dari tahun 2022 hingga 2027, dalam daya komputasi cerdas, proporsi daya komputasi inferensi akan meningkat menjadi 72,6%, dan proporsi daya komputasi pelatihan akan turun menjadi 27,4%.

vendor cloud bersedia menyerahkan pendapatan jangka pendeknya demi pertumbuhan jangka panjang yang diharapkan. dalam jangka pendek, kekuatan komputasi inferensi tidak menghasilkan banyak pendapatan. staf teknis dari vendor cloud tiongkok menjelaskan bahwa pendapatan model call setiap perusahaan tidak akan melebihi 1 miliar yuan pada tahun 2024, yang terbatas di pasar dengan pendapatan puluhan miliar per tahun. vendor cloud bersedia menerima kerugian pendapatan jangka pendek dan kerugian bisnis dalam satu hingga dua tahun ke depan. semua orang bertaruh bahwa jumlah panggilan model dalam jumlah besar akan meningkat secara eksponensial setidaknya 10 kali lipat dalam satu hingga dua tahun ke depan. pada akhirnya, pertumbuhan pendapatan jangka panjang dapat menutupi kerugian pendapatan jangka pendek.

lebih lanjut dia menjelaskan bahwa dalam proses ini, biaya daya komputasi akan berkurang secara bertahap seiring dengan meningkatnya permintaan pelanggan. bisnis model besar masih memiliki peluang untuk meraih keuntungan positif pada akhirnya. sekalipun taruhannya tidak benar, sekelompok produsen model akan mati dalam perang harga, dan produsen yang bertahan akan mengambil alih.

vendor cloud yang berbeda juga memiliki pertimbangan kompetitif yang berbeda ketika menghadapi perang harga - volcano engine, alibaba cloud, dan baidu smart cloud semuanya berpartisipasi dalam perang harga yang harus diperjuangkan.

volcano engine saat ini tidak termasuk dalam peringkat lima besar di pasar cloud publik tiongkok, namun pendapatannya akan tumbuh lebih dari 150% pada tahun 2023. model berukuran besar merupakan peluang penting untuk mengejar ketertinggalan di pasar cloud. tan dai, presiden volcano engine, menyampaikan kepada kami pada bulan mei tahun ini bahwa pada bulan maret tahun ini ia menemukan di silicon valley bahwa kewirausahaan aplikasi ai di amerika serikat menunjukkan tren tahap awal internet seluler tiongkok dari tahun 2012 hingga 2014. "sebuah tim startup aplikasi ai kecil dengan cepat memperoleh pendapatan dan pendanaan. pasar tiongkok mungkin akan menunjukkan tren ini di masa depan. namun premisnya adalah bahwa harga inferensi harus diturunkan dan ambang batas untuk coba-coba harus diturunkan."

alibaba cloud menempati peringkat pertama di pasar cloud publik tiongkok. menghadapi pemotongan harga yang dilakukan pesaing, alibaba cloud harus menindaklanjutinya. liu weiguang, manajer umum divisi cloud publik alibaba cloud, menganalisis kepada kami pada bulan juni tahun ini bahwa alibaba cloud telah melalui beberapa tahap pemotongan dan penghitungan internal dan menemukan dua kontradiksi:

baidu intelligent cloud menganggap ai sebagai strategi intinya. direktur teknis model besar baidu memberi tahu kami secara blak-blakan pada bulan juli tahun ini bahwa model besar adalah pertarungan yang harus dimenangkan, dan perang harga harus dilakukan dengan cara apa pun. strategi ini telah mencapai hasil nyata. tingkat pertumbuhan pendapatan baidu smart cloud pada kuartal kedua tahun 2024 telah pulih menjadi 14%, yang merupakan titik tertinggi dalam dua tahun terakhir. manajemen baidu mengungkapkan dalam laporan pendapatan kuartal kedua tahun 2024 bahwa proporsi pendapatan model baidu intelligent cloud yang besar telah meningkat dari 4,8% pada kuartal keempat tahun 2023 menjadi 9% pada kuartal kedua tahun 2024.

sisi lain dari perang harga inferensi model besar dan margin kotor negatif adalah bahwa harga rendah bukanlah faktor utama apakah pelanggan perusahaan menggunakan model besar.

orang inti yang bertanggung jawab atas bisnis model besar dari vendor cloud yang disebutkan di atas percaya bahwa vendor cloud tidak dapat mengandalkan pembakaran uang dan kerugian jangka panjang untuk mendorong penerapan industri model besar. model berperforma rendah dan harga rendah tidak masuk akal. kemampuan model yang tidak memadai merupakan alasan penting terjadinya perang harga laba kotor yang negatif. karena harga model telepon domestik telah turun secara signifikan, harga tidak lagi menjadi faktor terpenting bagi pelanggan korporat. kapabilitas dan efek dari model ini adalah hal yang paling dipedulikan oleh pelanggan korporat.

seorang direktur ti di sebuah perusahaan asuransi setuju. dia secara blak-blakan mengatakan bahwa proporsi pengeluaran ti di industri keuangan dan asuransi dalam pendapatan perusahaan saat ini adalah sekitar 3%-5%. tidak termasuk 80% pengeluaran ti perangkat keras, hanya 20% pengeluaran ti yang benar-benar digunakan untuk transformasi digital. saat menggunakan teknologi baru seperti model besar, rasio input-output harus dihitung. selain biaya model eksplisit, biaya implisit juga harus dipertimbangkan - model besar harus kompatibel dengan sistem ti yang ada, tata kelola data diperlukan untuk menyiapkan data bisnis untuk model besar, dan sekelompok manajer produk yang memahami ai harus direkrut. yang paling dia khawatirkan adalah kemampuan model dan efek praktisnya.

pusat penelitian model fundamental (crfm) di universitas stanford melakukan pemeringkatan pengujian model besar global jangka panjang. pemeringkatan tes pemahaman bahasa multi-tugas (mmlu) skala besar pada 17 september menunjukkan bahwa sepuluh produsen model teratas mencakup seri claude 3.5 dari startup ai anthropic (diinvestasikan oleh amazon), seri meta llama3.1, dan openai (seri gpt-4 milik microsoft investment) dan seri gemini 1.5 milik google. saat ini, hanya tongyi qianwen 2 instruct (72b) milik alibaba di antara model-model besar tiongkok yang masuk sepuluh besar.

banyak personel teknis model besar vendor cloud tiongkok menyatakan pandangan yang sama kepada caijing: di pasar model besar, strategi kinerja rendah dan harga rendah tidak berkelanjutan. situasi yang ideal adalah membangun lingkaran tertutup bisnis yang sehat dan langgeng dengan mengandalkan kinerja tinggi dan harga yang wajar.

tolok ukur yang lebih berharga adalah openai. pada bulan september tahun ini, openai memiliki 1 miliar pengguna aktif bulanan dan 11 juta pengguna berbayar (termasuk 10 juta pelanggan individu berbayar dan 1 juta pelanggan perusahaan). pada bulan mei tahun ini, manajemen openai mengumumkan pendapatan tahunan perusahaan (pendapatan tahunan adalah pendapatan bulan berjalan × 12. perusahaan perangkat lunak berbasis langganan menerima pembaruan langganan pengguna setiap bulan dan memiliki ekspektasi pendapatan yang stabil, sehingga mereka sering menggunakan kaliber pendapatan tahunan) tercapai 3,4 miliar dolar as (dikonversi berdasarkan nilai tukar dolar as dan rmb 1:7, sekitar 24,1 miliar yuan).

laporan penelitian terbaru dari futuresearch, sebuah organisasi riset pasar internasional, menghitung struktur pendapatan perusahaan berdasarkan pendapatan tahunan dan struktur pengguna berbayar yang diumumkan oleh openai - 10 juta pelanggan individu menghasilkan pendapatan sebesar us$1,9 miliar, menyumbang 56%; pelanggan perusahaan menghasilkan pendapatan $710 juta, menyumbang 21%;

bahkan setelah beberapa kali pemotongan harga, openai masih dapat mempertahankan margin laba kotor yang relatif sehat. pada bulan april tahun ini, harga keluaran model andalan openai gpt-4-turbo diturunkan sebesar 67%. pada bulan agustus tahun ini, harga keluaran model utama openai gpt-4o diturunkan sebesar 30%. laporan penelitian yang dirilis oleh futuresearch pada bulan agustus tahun ini menyatakan bahwa margin laba kotor model andalan seri gpt-4 openai adalah sekitar 75%, dan margin laba kotor model utama seri gpt-4o adalah sekitar 55%. margin laba kotor komprehensif openai setidaknya sebesar 40%.

openai memiliki lingkungan pertumbuhan yang unik. ia tidak hanya memiliki pasokan daya komputasi yang memadai, namun juga memiliki pengguna to c (untuk pelanggan konsumen) yang besar, dan juga merupakan pasar perangkat lunak to b (untuk pelanggan perusahaan) terbesar di dunia.

pengalaman sukses openai dalam dua tahun terakhir adalah ia mengandalkan kekuatan komputasi yang besar untuk melakukan "kekuatan kasar guna menciptakan keajaiban". perusahaan-perusahaan tiongkok tidak memiliki kondisi daya komputasi dan lingkungan pendanaan seperti openai. kekuatan komputasi adalah kelemahan utama produsen model tiongkok.

seorang teknisi model dari vendor cloud tiongkok menjelaskan bahwa selama setahun terakhir ini, vendor cloud tiongkok telah membayar lebih dari 1,5 kali lipat biaya pembelian chip ai nvidia, sehingga biaya daya komputasi model tetap tinggi. hal ini akan mempengaruhi batas atas kinerja model besar dan juga menghambat implementasi industri model besar. menurut dealer server, server delapan kartu yang dilengkapi chip ai seri nvidia h100/h800 di pasar tiongkok pada tahun 2023 pernah melebihi 3 juta yuan/unit, yang lebih dari 1,5 kali lipat harga resmi nvidia.

bagaimana perusahaan tiongkok dapat menemukan jalur pengembangan yang cocok untuk mereka ketika sumber daya komputasi terbatas dan biaya komputasi tinggi? hal ini memerlukan perencanaan dan penyesuaian yang cermat.

dalam dua tahun terakhir, pengembangan model besar telah mengikuti scaling law (undang-undang yang diusulkan oleh openai pada tahun 2020, secara harfiah diterjemahkan sebagai "hukum penskalaan") - kinerja model terutama terkait dengan jumlah penghitungan, jumlah parameter model, dan jumlah data pelatihan.

orang inti yang bertanggung jawab atas bisnis model besar dari vendor cloud yang disebutkan di atas menyebutkan bahwa prinsip intinya adalah meningkatkan kualitas dan kuantitas data di bawah batasan hukum penskalaan dan mengurangi parameter model dengan tepat strategi desain, juga dapat digunakan untuk menggabungkan beberapa model. (model profesional untuk kinerja yang lebih baik) arsitektur meningkatkan kinerja model dan mengurangi biaya inferensi. ketika menerapkan strategi bisnis tertentu, ada dua pilihan.

perang harga dengan laba kotor negatif mempercepat penghapusan pasar model besar. banyak orang dalam industri menyatakan pandangan yang sama kepada caijing. putaran eliminasi ini akan berlangsung selama satu atau dua tahun, dan hanya 3-5 perusahaan model dasar yang dapat terus bertahan.

an xiaopeng, anggota eksekutif komite informatisasi tiongkok 100 dan direktur pusat penelitian teknologi cerdas alibaba cloud, mengatakan kepada caijing pada bulan juli tahun ini bahwa model besar memerlukan investasi berkelanjutan, kemampuan untuk memiliki 10,000 atau bahkan 100,000 kartu, dan keuntungan komersial. banyak perusahaan tidak mempunyai kemampuan seperti itu. di masa depan, hanya akan ada tiga atau lima produsen model dasar di pasar tiongkok.

mengembangkan model besar memerlukan pembelian chip dan server, serta menyewa lahan untuk membangun pusat data. investasi ini bahkan bisa mencapai puluhan miliar yuan per tahun. biaya-biaya ini akan tercermin dalam belanja modal perusahaan teknologi. laporan pendapatan kuartal keempat tahun fiskal 2024 microsoft mengungkapkan bahwa hampir seluruh belanja modal sebesar us$19 miliar pada bulan tersebut dihabiskan untuk daya komputasi. pada tahun lalu (dari kuartal ketiga tahun 2023 hingga kuartal kedua tahun 2024), belanja modal alibaba, tencent, dan baidu masing-masing mencapai 23,2 miliar yuan, 23,1 miliar yuan, dan 11,3 miliar yuan, meningkat sebesar 77,1%, masing-masing 154,1% dan 46,9% merupakan hasil investasi pada daya komputasi.

selain investasi berkelanjutan sebesar puluhan miliar yuan dalam daya komputasi, bisnis inferensi model besar juga memerlukan subsidi sebesar satu miliar yuan per tahun. seorang eksekutif dari vendor cloud tiongkok menganalisis bahwa margin laba kotor negatif untuk panggilan model besar berarti semakin banyak panggilan yang dilakukan dalam jangka pendek, semakin besar kerugiannya. menurut konsumsi daya komputasi inferensi saat ini, beberapa vendor cloud terkemuka yang berpartisipasi dalam perang harga akan mensubsidi konsumsi daya komputasi inferensi model besar sebesar lebih dari satu miliar yuan pada tahun 2024.

alibaba cloud, volcano engine, baidu smart cloud, dan tencent cloud dapat mengandalkan model besar grup ini untuk melawan perang harga, namun sulit bagi startup model besar untuk bertahan. para perencana strategis ai dari perusahaan teknologi terkemuka tiongkok yang disebutkan di atas percaya bahwa alibaba cloud dan volcano engine memiliki kekuatan terkuat dalam putaran perang harga ini. alibaba dapat menghasilkan uang dari cloud, dan volcano engine memiliki bisnis periklanan bytedance sebagai transfusi darah. dalam perang harga, baidu tidak sebaik alibaba dan bytedance. namun, model besar wenxin baidu memiliki teknologi yang kuat dan akan memiliki sekelompok pelanggan yang bersedia membayar untuk teknologi tersebut. hal ini akan membantu baidu bertahan dari perang harga.

startup model besar harus bergantung pada produsen dan pembiayaan besar untuk bertahan dalam jangka pendek. orang teknis dari perusahaan start-up model besar mengatakan kepada caijing pada bulan september tahun ini bahwa zhipu ai, baichuan intelligence, dark side of the moon, zero one thing dan minimax, "five little tigers" dari model besar dalam negeri, semuanya diinvestasikan oleh alibaba. salah satu metode investasinya adalah jumlah investasi dibayarkan dalam bentuk daya komputasi, dan perusahaan yang diinvestasikan menggunakan daya komputasi alibaba cloud. apakah "lima macan kecil" dapat terus bertahan sampai batas tertentu bergantung pada apakah ali akan terus berinvestasi.

tenaga teknis dari vendor cloud terkemuka yang disebutkan di atas dan tenaga teknis dari perusahaan startup model besar yang disebutkan di atas juga percaya bahwa startup model besar di pasar tiongkok akan menghadapi ujian dalam dua tahun ke depan mereka untuk menerobos pasar model dasar. mungkin ada tiga jalan keluar di masa depan - untuk menjadi perusahaan pengembangan model proyek pemerintah dan perusahaan, anda harus beralih ke model industri vertikal to b atau pasar aplikasi to c. faktanya, diferensiasi pasar sudah dimulai. zhipu ai memenangkan banyak tawaran untuk proyek pemerintah dan perusahaan, sementara dark side of the moon hanya berfokus pada pasar to c.