berita

Percakapan dengan Huoshan Tandai: Saat ini, industri mengenakan biaya berdasarkan token, namun model ini tidak akan menjadi satu-satunya di masa depan.

2024-08-06

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Teks|Anita Tang

Editor|Su Jianxun

Sumber sampul |. Disediakan oleh perusahaan

Kemunculan adalah fenomena kunci dalam gelombang AI generatif: ketika skala model meluas ke titik kritis, AI akan menunjukkan kebijaksanaan yang mirip manusia dan dapat memahami, mempelajari, dan bahkan mencipta. "Kemunculan" juga terjadi di dunia nyata - peradaban berbasis silikon akan segera muncul. Pengusaha dan pencipta di bidang AI menggunakan kebijaksanaan dan otak mereka untuk menerangi perjalanan panjang mewujudkan AGI. Pada transisi antara produktivitas lama dan baru, "Kemunculan Cerdas" meluncurkan kolom baru "Munculnya 36 Orang". Kami akan mencatat pemikiran baru pada tahap ini melalui percakapan dengan tokoh-tokoh penting di industri.

Volcano Engine pada tahun 2024 telah berubah dari sebelumnya yang low profile dan kini muncul di pasar model besar dengan pesat.

Belum lama ini, pada bulan Mei, Huoshan baru saja mengadakan konferensi pers yang menarik perhatian, yang menurunkan harga model tersebut ke "harga dasar" dalam satu kali kejadian. Harga model utama Doubao, Doubao Pro-32k, telah diturunkan menjadi 0,0008 yuan/ribu Token, penurunan rata-rata industri sebesar 99,3% tahun-ke-tahun. Untuk sementara waktu, seluruh industri berada dalam kegemparan, dan produsen pun mengikuti jejaknya.

Namun dua bulan kemudian, Volcano Engine yang sempat "membalikkan keadaan" soal harga, tak mau lagi bicara lebih banyak soal harga. “Sekarang, dengan 1 miliar Token hanya berharga 1.000 yuan, tidak masuk akal untuk menurunkan harganya lagi. Yang penting adalah seberapa besar kemampuan model ditingkatkan dengan harga yang sama.” Tan Dai, presiden Volcano Engine, diceritakan "Kemunculan Cerdas".

Sampai batas tertentu, "minggu promosi besar" yang penuh badai di bulan Mei - selain Huoshan, Alibaba, Tencent, iFlytek, dan produsen besar dan kecil lainnya telah mengumumkan pemotongan harga untuk model besar, yang merupakan simbol memasuki bidang model besar. panggung baru. Konsensus di balik hal ini adalah meskipun model besar sudah mempesona, kue AI baru yang dibawanya masih terlalu kecil - daya komputasi terlalu mahal, dan pengguna tidak memiliki insentif untuk berinovasi. Oleh karena itu, produsen sebaiknya berbagi keuntungan.

Efeknya juga langsung terasa. Rata-rata penggunaan Token harian Doubao Big Model kini melebihi 500 miliar. Sebelum penurunan harga, jumlahnya 120 miliar.

Dibandingkan dengan istilah seperti perang harga dan pendapatan, Tan Dai lebih mementingkan berapa banyak pengguna yang dibawanya dan berapa banyak hal yang telah mereka lakukan dengan model besar. “Kami tidak terlalu melihat pada pendapatan jangka pendek, namun lebih pada berapa banyak pelanggan yang telah menjalin kerja sama yang lebih dalam dengan kami dan berapa banyak masalah yang telah kami bantu selesaikan. Hasil akan mengikuti secara alami,” ujarnya.

Orang cenderung meramalkan masa depan dengan mengikuti jejak masa lalu. Model besar dan komputasi awan keduanya dianggap sebagai bisnis dengan model serupa: investasi teknis besar-besaran serta penelitian dan pengembangan teknik pada tahap awal, tetapi Efek Matthew sangat tinggi pada tahap selanjutnya. Namun premisnya adalah bahwa skala bisnis di dalamnya harus tumbuh hingga skala yang sangat besar sebelum benar-benar dapat mencapai efek skala.

Model-model besar tahun ini berkembang mengikuti jalur ini - produsen terus-menerus menurunkan harga, menjadikan daya komputasi model-model besar lebih inklusif dan menjadi infrastruktur seperti air, listrik, dan batu bara.

Tan Dai percaya bahwa di masa depan, model besar akan diimplementasikan lebih cepat dibandingkan komputasi awan. Produk seperti ChatGPT telah membuat dunia tahu bahwa AI adalah masa depan, tidak seperti komputasi awan yang telah melalui “khotbah” panjang. Namun untuk memungkinkan semua orang berinovasi tanpa rasa khawatir, penurunan harga hanyalah langkah pertama.

Ledakan aplikasi AI memerlukan investasi berkelanjutan dalam mengatasi berbagai kesulitan teknis dalam model: ilusi kontrol, teks panjang, dll. "Saya rasa para pengembang tidak cemas. Masih terlalu dini untuk membicarakan Killer App sekarang." Ia mengatakan bahwa model besar saat ini masih di era "Big Brother", "perlu waktu bertahun-tahun sebelum iPhone muncul. "

Pada tahun 2021, Huoshan secara resmi memasuki pasar cloud. Sekarang baru tiga tahun penuh, dan masih menjadi kekuatan baru di pasar komputasi awan. Oleh karena itu, AI tidak hanya menjadi tiket menuju era baru bagi Volcano Engine, namun juga peluang untuk menyalip di tikungan - hal ini pula yang menjadi alasan mengapa Volcano Engine banyak berinvestasi pada AI. Pada tahun 2023, 70% perusahaan model besar dalam negeri akan menggunakan layanan daya komputasi Volcano Engine; dan tahun ini, MaaS (Model as a Service) akan menjadi medan perang berikutnya.

Berikut transkrip percakapan "Kemunculan Intelijen" dan Tan Dai, yang disusun dan diedit:

Setelah harga "membalikkan keadaan"

"Munculnya Intelijen": Hal yang paling banyak dibicarakan tentang Huoshan baru-baru ini adalah Anda adalah produsen besar pertama yang meluncurkan gelombang pemotongan harga. Orang mengatakan bahwa Anda telah "membalikkan keadaan". Apa pemikiran di baliknya?

Tan Dai:Pertimbangan inti kami adalah membangun ekosistem aplikasi.

"Munculnya Intelijen": Apakah keputusan yang sulit bagi Anda untuk menurunkan harga? Sudah berapa lama Anda memikirkannya?

Tan Dai: Tidak sulit sama sekali. Setelah kami meluncurkannya secara resmi pada bulan Agustus tahun lalu, biayanya pasti sangat mahal. Kami telah melakukan optimasi teknik sejak saat itu dan telah menggunakannya secara luas secara internal. Setelah sekitar satu tahun melakukan optimasi teknik, kami mulai mempertimbangkan pengurangan harga.

"Munculnya Intelijen":Mengapa keputusan ini tidak sulit?

Tan Dai: Kami berpikir, apa yang paling penting dalam hal ini? Artinya, kami ingin mensejahterakan ekosistem bisnis.

Ada beberapa batasan dibalik hal ini. Yang pertama adalah kemampuan model. Pada konferensi 515 kami, semua orang melihat bahwa ketika kami memperkenalkan model besar, kami tidak menyebutkan rangkaian evaluasi kami sendiri, kami juga tidak membicarakan hasil evaluasi.

Karena menurut saya bisa digunakan oleh semua orang. Mengenai evaluasi, ada banyak evaluasi pihak ketiga, termasuk Zhiyuan, OpenCompass, dll., dan semuanya mengatakan bahwa bean bag sangat efektif.

Kedua, biayanya terlalu tinggi, sehingga kita harus menurunkan harga terlebih dahulu dan menjadikannya harga yang berkelanjutan. Karena kita adalah bisnis To B, maka jika penetapan harga tidak dapat mendukung laba kotor atau laba dalam jangka panjang, maka akan menjadi tidak berkelanjutan.

Ketiga, kepraktisan implementasi, termasuk plug-in, case, dll, yang membutuhkan banyak hal untuk disatukan. Kami mengurangi biaya melalui optimalisasi teknis. Inilah yang harus dilakukan oleh Huoshan, vendor cloud.

"Munculnya Intelijen":Bagaimana gunung berapi bisa menurunkan harga hingga serendah itu?

Tan Dai:Dengan terus mengoptimalkan struktur model dan mengoptimalkan rekayasa inferensi, kami dapat mengurangi biaya dan melepaskan dividen ini ke industri.

Sebagai sebuah layanan, model besar harus berskala lebih besar dan biaya lebih rendah. Dengan skala yang besar, Anda dapat memiliki beban yang berbeda, dan Anda dapat melakukan penjadwalan yang mengejutkan dan campuran. Hal yang sama juga berlaku untuk komputasi awan, sehingga membuatnya lebih murah.

Kedua, bila skalanya cukup besar, dengan sedikit optimasi, manfaatnya akan cukup besar, barulah tersedia anggaran yang cukup untuk membangun tim teknis yang baik.

"Munculnya Intelijen": Ini adalah proses yang saling menguatkan. Pertama, lebih murah dan skalanya lebih besar. Kemudian bisa dioptimalkan dan manfaatnya lebih besar.

Tan Dai: Hal ini juga disebabkan oleh peningkatan panggilan ke Doubao APP. Semua orang dapat melihat dari data pihak ketiga sebelumnya bahwa produk AI dan Doubao APP menduduki peringkat pertama. Dalam Douyin, lebih dari 50 skenario dan lini bisnis digunakan secara luas, dan terdapat juga banyak pelanggan yang diundang dari luar, yang mendukung skala tersebut.

Setelah penurunan harga diumumkan pada tanggal 15 Mei, skala panggilan kami meningkat lebih cepat, dan saat ini kami melihat lebih banyak poin yang dapat dioptimalkan.

"Munculnya Intelijen":Setelah penurunan harga resmi diumumkan, apa dampaknya?

Tan Dai: Pertama-tama, setiap orang tidak lagi mempunyai beban untuk berinovasi dalam AI, dan skalanya berkembang pesat. Banyak startup yang menggunakan lebih dari 1 miliar Token setiap hari. Berapa harga 1 miliar Token sekarang? Hanya 1.000 yuan. Dibandingkan dengan saat model ini dirilis pada tanggal 15 Mei, rata-rata penggunaan Token harian per pelanggan telah meningkat sebesar 20 hingga 30 kali lipat.

Dan ada banyak skenario penggunaan yang tidak kami pikirkan. Mari kita lihat volume penggunaan harian asli Doubao, yang berjumlah lebih dari 120 miliar Token setelah penurunan harga, kini telah melampaui 500 miliar Token.

Kedua, ketika kami mengumumkan penurunan harga, beberapa orang mengatakan bahwa harga tidak penting, namun perlahan banyak produsen mulai mengikutinya.

"Munculnya Intelijen": Model utama Anda Beanbao Pro 128k dihargai 0,005 yuan/ribu Token, yang 95,8% lebih rendah dari harga industri, sedangkan model 32k dihargai 0,0008 yuan/ribu Token, yang merupakan penurunan 99,3%. Harga ini dapat dikatakan sebagai “harga dasar”.

Tan Dai: Pertama-tama kita menetapkan tujuan, dan kita perlu membagikan dividen dengan harga yang berkelanjutan. Memang tidak rugi, tapi saya tidak perlu menghasilkan terlalu banyak. Awalnya saya mengira angkanya turun sebesar 90% dibandingkan rata-rata industri, namun saya tidak menyangka perbandingan berikutnya menunjukkan penurunan sebesar 99%.

"Munculnya Intelijen":Akankah ada ruang untuk penurunan harga di masa depan?

Tan Dai: Dari perspektif ini, harga tidak lagi menjadi hambatan. Setelah turun ke level yang begitu rendah, tidak peduli seberapa turunnya, keuntungan bagi pengguna sebenarnya akan kecil. Yang lebih penting sekarang adalah dengan harga yang sama, meningkatkan kemampuan model akan lebih berarti.

"Munculnya Intelijen": Apakah ini mirip dengan gelombang inovasi AI sebelumnya di CV (pengenalan visual)? Penting untuk meningkatkan akurasi dari 70% menjadi 90%, namun pada akhirnya, meningkatkan akurasi dari 95% menjadi 98% sebenarnya tidak berarti apa-apa, dan pelanggan dapat menerimanya.

Tan Dai: Mungkin tidak bisa mencapai 98%. Tapi sebaiknya kita lihat sebaliknya, dulu 5% Bad Case (hasilnya tidak sesuai ekspektasi), tapi sekarang menjadi 2%, dan efeknya berlipat ganda.

"Munculnya Intelijen": Banyak juga komentar di industri yang mengatakan bahwa perang harga telah dimulai di Tiongkok, yang merugikan industri. Karena melatih model besar itu mahal, tidak ada yang bisa menghasilkan uang.

Tan Dai: Saya tidak setuju dengan pandangan ini. Dari sudut pandang industri, hal ini memungkinkan AI Tiongkok berkembang, dan ini merupakan hal yang baik.

Hal yang sama juga berlaku pada komputasi awan. Cloud telah memasuki perang harga sejak awal, dan hal ini merupakan hal yang baik. Transformasi digital pada perusahaan menjadi lebih mudah dan biayanya berkurang.

"Munculnya Intelijen":Di masa lalu, dalam konteks Internet, "perang harga" memiliki konotasi yang terlalu merendahkan.

Tan Dai: Saya rasa ada perbedaannya. Dulu, model bisnis To C Internet berbeda. Namun dalam perang harga To B, perusahaan sendiri mengandalkan hal ini untuk mengenakan biaya, dan jika terus memberikan harga ini, pada akhirnya semua orang akan mendapatkan keuntungan.

"Munculnya Intelijen": Ini jelas merupakan kabar baik bagi para pengembang. Namun bagaimana dengan internalnya? Beberapa teman sekelas penjualan dari Cloud Factory mengatakan kepada kami bahwa mereka tidak memiliki motivasi untuk menjual AI karena AI tidak dapat menjual dengan harga tinggi. Bagaimana cara mempertimbangkan masalah ini?

Tan Dai: Ini adalah pertanyaan yang sangat bagus. Saya merasa tidak ada ruginya bagi kami.

Pertama-tama, Huoshan adalah platform cloud, dan pelanggan tidak hanya menginginkan model besar. Mereka sebenarnya menginginkan solusi komprehensif, yang mencakup model besar, cloud, dan produk data.

Pendapatan unit model besar itu sendiri telah menurun, namun dengan membantu pelanggan memecahkan lebih banyak masalah melalui model besar, Anda akan memiliki lebih banyak peluang untuk melakukan lebih banyak bisnis dengan mereka di masa depan. Jika model besar sudah siap, pelanggan bahkan akan memberi tahu kami, tidak, arsitektur TI saya perlu direkonstruksi, dan kemudian kami akan melakukannya berdasarkan gunung berapi.

"Munculnya Intelijen": Bagaimana memahami rekonstruksi arsitektur TI? Di manakah ruang dan peluang yang ada?

Tan Dai:Di masa lalu, banyak hal dalam pengeluaran TI tidak diselesaikan melalui cloud, tetapi melalui superposisi fungsi perangkat lunak - semuanya dilakukan oleh tenaga kerja, dan banyak hal yang tidak dapat diubah menjadi daya komputasi.

Namun dengan model yang besar, banyak skenario, baik menggunakan Copilot atau Autopilot, banyak skenario AI yang dapat dilayani oleh model besar, dan lapisan terbawah dari model besar tersebut adalah cloud. Pasar yang sebelumnya tidak dapat diakses oleh cloud kini menjadi pasar yang dapat diakses.

"Munculnya Intelijen": Seberapa besar kesadaran pelanggan terhadap AI saat ini? Ketika komputasi awan pertama kali keluar, banyak pengguna perusahaan menyamakan komputasi awan dengan konsep "canggih" dan kemudian beralih ke digitalisasi. Sudahkah model-model besar mencapai efek ini sekarang?

Tan Dai:Perusahaan tidak mengatakan bahwa setelah mengadopsi AI, seluruh lingkungan TI akan segera dihilangkan oleh AI. Hal ini jelas tidak mungkin dilakukan. Sebaliknya, mereka terlebih dahulu mengidentifikasi skenario tertentu di mana AI dapat digunakan untuk meningkatkan efisiensi.

Misalnya, kita telah melihat bahwa untuk beberapa pelanggan, setelah model dipanggil dalam volume, layanan upstream dan downstream akan runtuh. Mereka akan mengubah arsitektur ini berdasarkan cloud native untuk mendukung beban.

"Munculnya Intelijen":Sejauh mana kasus-kasus ini berdampak pada pendapatan?

Tan Dai: Ini tidak semuanya dari perspektif pendapatan, dan kami tidak terlalu fokus pada jangka pendek saat ini. Kami juga melihat berapa banyak pelanggan yang telah menjalin kerja sama lebih dalam melalui masalah ini dan berapa banyak masalah yang telah kami bantu selesaikan. Pada akhirnya, hasilnya akan datang dengan sendirinya.

"Munculnya Intelijen":Jika Anda tidak fokus pada pendapatan dalam jangka pendek, indikator apa yang paling Anda hargai saat ini?

Tan Dai: Jumlah token yang digunakan oleh perusahaan, tapi menurut saya model ini tidak akan hanya menjadi model ini di masa depan. Saya pernah mengenal seorang teman yang biasa menulis novel, namun kemudian "meninggalkan menulis dan beralih ke puisi". Saya bertanya, mengapa Anda membuat pilihan ini? Katanya menulis puisi dibayar per baris, dan menulis novel dibayar per kata – harganya berbeda untuk 100 kata yang sama.

Model bisnis model besar pasti akan berubah, dan model ekonomi akhir adalah model yang lebih end-to-end. Misalnya, jika ada Agen, Anda akan membayarnya sebanyak jumlah masalah yang membantu Anda selesaikan. Untuk 100 kata yang sama, siapa yang memproduksinya akan berbeda.

Aplikasi AI belum meledak, namun intinya masih pada masalah kemampuan model

"Munculnya Intelijen": Pada awal tahun ini, industri kini membahas istilah yang sangat lama: Aplikasi Pembunuh. Semua orang bertanya-tanya mengapa belum ada aplikasi yang mematikan. Sebagai penyedia infrastruktur penting, Huoshan, apa pendapat Anda tentang periode penerapan AI saat ini?

Tan Dai: Saya pikir sebenarnya ada Aplikasi Pembunuh sekarang, dan ChatGPT adalah aplikasinya. Terlepas dari jumlah pengguna dan pendapatannya, ini lebih cepat dari semua produk Internet, TikTok dan Douyin. Ini sudah menjadi sinyal yang kuat.

Sekarang berbicara tentang Killer App, saya rasa saya masih melihat masalah ini dari perspektif To C. Model besar pasti akan berjalan sangat cepat dalam skenario C-side, karena area uji cobanya sangat luas, seperti aplikasi chatting dan persahabatan emosional, sekarang semuanya berjalan sangat cepat.

Kedua, kita tidak harus hanya melihat Killer App, karena ada banyak skenario produktivitas di sisi perusahaan, seperti layanan pelanggan AI. Dalam skenario ini, konsep Killer App tidak berlaku dan kami tidak membahasnya dengan indikator seperti DAU.

Layanan perusahaan tidak berbicara tentang Aplikasi Pembunuh. ERP (perangkat lunak sistem manajemen perusahaan) adalah Aplikasi Pembunuh. Setiap perusahaan pasti memilikinya, tetapi tidak ada yang membicarakan konsep ini.

"Munculnya Intelijen": Secara global, kecuali ChatGPT yang telah mencapai level Killer App, produk lain tertinggal jauh. Misalnya saja persahabatan emosional dan pertemanan yang masih terfokus pada sekelompok orang yang relatif kecil, dan derajat homogenitasnya masih tinggi.

Tan Dai: Menurut saya itu tergantung waktu. Misalnya, Aplikasi Pembunuh di era PC adalah mesin pencari, tetapi mesin pencari hanya muncul sangat terlambat. Namun setelah website tersebut semakin banyak, mesin pencari pun keluar lagi.

Termasuk ketika Internet seluler baru saja berkembang, aplikasi seperti Douyin dan Meituan baru keluar beberapa tahun kemudian.

"Munculnya Intelijen": Anda berasal dari latar belakang komputasi awan. Dibandingkan dengan komputasi awan, apa pendapat Anda tentang putaran mempopulerkan teknologi AI ini? Akankah hal ini mengambil jalur yang sama dengan popularitas komputasi awan?

Tan Dai: Komputasi awan cukup rumit untuk dipahami bahkan jika Anda adalah orang teknis, dan tidak hanya diperlukan satu orang untuk mengaturnya dengan mudah. Saya bekerja di Alibaba dari 2010 hingga 2011. Pada saat itu, AWS mungkin satu-satunya di dunia yang mengetahui apa itu cloud, dan Google juga belum mengetahuinya.

Namun AI berbeda. Sebagai individu, Anda dapat dengan mudah merasakan fungsinya, dan Anda dapat dengan cepat mengetahui apakah itu baik atau buruk. Kalau mau tahu apa itu AI, ambil saja bean bag. Dari sudut pandang ini, hal ini tidak seperti komputasi awan, yang membutuhkan penginjilan yang terlalu rumit.

"Munculnya Intelijen":Akankah jalur pemasyarakatan seperti itu memengaruhi pengambilan keputusan dan logika pembelian bisnis To B?

Tan Dai: Setiap perusahaan memiliki kelembaman, dan bisnis To B akan menjadi lebih lambat. Namun setidaknya ketika Anda memahami apakah produk ini bagus atau tidak, pengalaman pelanggan akan berubah.

Perubahan besar yang dibawa oleh AI adalah menjadikan bisnis To B terlihat dan dapat diakses, dan waktu untuk POC (verifikasi prototipe) akan jauh lebih singkat. Di masa lalu, pengambilan keputusan dan penggunaan dipisahkan. Pengambil keputusan membuat pilihan, namun pengguna akan menganggap hal ini buruk.

Namun AI telah banyak memperhalus kesenjangan ini. Dulu, pelanggan harus menonton PPT, mengikuti tur, dan melakukan wawancara. Pada akhirnya, pengambil keputusan hanya bisa menonton demo, dan pengalamannya tidak selengkap itu. Sekarang ketika saya berbicara dengan pelanggan, pelanggan akan memberi tahu kami tentang bean bag yang biasa saya gunakan. Jika dia ingin menyesuaikan sesuatu di demo, dia dapat mengubahnya di latar belakang dan itu akan segera disesuaikan. Anda bahkan dapat melakukannya sendiri sebelum penjualan, dan tidak perlu kembali sebelum penjualan agar R&D dapat melakukan perubahan.

Inilah sebabnya mengapa To C dan To B kami sama-sama merek yang sama, keduanya bean bag.

"Munculnya Intelijen":Sejauh menyangkut model domestik yang besar, menurut Anda apakah ada perbedaan besar sekarang?

Tan Dai:Perbedaan harga sangat besar.

"Munculnya Intelijen":Bukankah semua orang sering terjatuh?

Tan Dai: Faktanya, pabrikan dalam negeri belum mengikuti secara menyeluruh. Model utama kami, yang merupakan yang terkuat, juga telah dikurangi menjadi 0,0008 yuan/ribu Token. Namun, sebagian besar pabrikan tidak mengurangi model terkuat, tetapi menurunkan model terkuat kedua, atau mengurangi a Model kecil gratis. Jika Anda melihat dan melihat berapa harga model utama dari beberapa pabrikan pesaing, harganya setidaknya masih puluhan kali lipat dari harga bean bag.

Menggunakan model open source untuk mengukur biaya juga lebih mahal dibandingkan menggunakan beanbag. Jika Anda menggunakan Llama open source untuk melakukannya, Anda harus melakukan optimasi teknik sendiri, dan tidak ada keuntungan skala. Dengan efek yang sama, melakukan optimasi teknik sendiri beberapa kali lebih mahal dibandingkan menggunakan cloud secara langsung.

"Munculnya Intelijen":Selain harga, apa saja perbedaan lainnya?

Tan Dai: Modelnya masih berkembang pesat, dan masih banyak kemampuan yang belum dikembangkan. Masih banyak perbedaan di masa depan, dan akan semakin baik. Namun melihat dunia, mungkin hanya ada tiga atau empat perusahaan yang berkinerja sangat baik, setidaknya tidak sebanyak sepuluh perusahaan di Tiongkok.

"Munculnya Intelijen":Di industri apa saja pelanggan Huoshan terkonsentrasi?

Tan Dai: Itu ada di ribuan industri. Produsen ponsel yang relatif baik antara lain Samsung, Xiaomi, OPPO, vivo, dan Honor. Kami juga melakukan banyak hal dengan produsen mobil, dan mereka semua adalah perusahaan yang sangat besar. Ada juga beberapa kasus di bank keuangan.

Namun sudut masuknya akan berbeda. Misalnya, pada ponsel dan mobil, yang kami lakukan adalah skenario interaksi manusia-komputer yang relatif lengkap. Namun bagi banyak BUMN atau bank besar, mereka mungkin mencobanya dari hal kecil terlebih dahulu.

Jadi keuntungan melakukan AI adalah Anda bisa memulainya sedikit demi sedikit, dan tidak perlu memotong sistem inti begitu Anda memulainya.

"Munculnya Intelijen": Apakah profil pelanggan setiap platform model besar sangat berbeda? Banyak perusahaan yang membangun model besar adalah vendor cloud, dan kelompok pelanggan vendor cloud juga memiliki perbedaan industri.

Tan Dai: Ada perbedaan bila skala usaha model besar kecil, namun tidak ada perbedaan bila skalanya besar. Saat ini pasti terdapat lebih banyak pelanggan skala kecil dan menengah, namun jika kita melihat distribusi industrinya, mungkin tidak ada perbedaan yang terlalu besar.

"Munculnya Intelijen":Di sisi C dan sisi B, menurut Anda model besar mana yang akan muncul lebih dulu?

Tan Dai: Volume kami saat ini hampir sama, tetapi efek Matthew di sisi C sangat kuat. Mungkin beberapa pelanggan teratas telah menyumbangkan DAU yang banyak. Logika ini berlaku untuk sisi C, meskipun bukan AI, namun pengembangan sisi B bersifat jangka panjang.

"Munculnya Intelijen": Apa yang bisa dilakukan model besar saat ini relatif sederhana. Misalnya, semua orang merasa bahwa definisi Agen bahkan tidak selaras. Mengapa eksekusi model besar kini hanya bertahan dalam skenario sederhana seperti itu?

Tan Dai:Kemampuan modelnya tidak cukup kuat.

"Munculnya Intelijen":Apa poin penting yang harus ditembus?

Tan Dai: Ada cukup banyak. Kemampuan modelnya harus kuat dan kecerdasannya harus kuat. Bukankah itu ujian masuk perguruan tinggi beberapa waktu lalu? Doubao akhirnya "lulus" mata kuliah seni liberal, namun dia belum diterima di Universitas Tsinghua dan Universitas Peking, bahkan dia belum lulus mata kuliah sains jelas, dan levelnya tidak cukup. Tapi tidak masalah, kami cukup percaya diri.

Kedua, masih banyak permasalahan kompleks yang belum terselesaikan, seperti memori jangka panjang. Hal ini tentunya memerlukan beberapa inovasi dalam struktur model, dan multi-modalitas harus lebih baik. Biaya juga harus dikendalikan. Setelah menambahkan kemampuan tersebut, tidak boleh menambah biaya terlalu banyak.

Saya pikir ini masih sangat awal untuk model-model besar. Revolusi komunikasi seluler telah berlangsung selama 30 atau 40 tahun. Dimulai dari tahun 1970an dan 1980an, sejarah perkembangan AI lebih panjang dari itu. Ketika kita masih menggunakan ponsel pada tahun 1990-an, bisakah kita memikirkan iPhone saat ini? Ini adalah perubahan selama beberapa dekade terakhir.

"Munculnya Intelijen":Apakah volume bisnis Model Huoshan saat ini, baik jumlah pelanggan atau pendapatan, memenuhi harapan Anda?

Tan Dai: Menurut saya tidak apa-apa dan sesuai ekspektasi. Kami berharap dapat melihat ekosistem yang sejahtera, dan kini kami telah mencapai hasil yang kami inginkan. Dan bukan hanya kita saja yang naik, kita lihat teman-teman kita juga ikut naik.

"Munculnya Intelijen":Apakah Anda sudah memikirkan perkiraan jumlahnya?

Tan Dai: Misalnya ada target jumlah total token, baik total maupun berjenjang. Misalnya, jumlah pengguna yang jumlah tokennya melebihi level tertentu harus mencapai level tertentu. Kami berharap pelanggan akan membentuk distribusi berbentuk gelendong atau corong. Jika jumlah total token sangat tinggi, namun hanya ada sepuluh pelanggan dengan lebih dari 100 juta token, itu juga tidak sehat.

"Munculnya Intelijen":Seperti apa bentuknya sekarang?

Tan Dai:Bentuknya belum piramida terbalik, dan pinggang penggunanya bisa sedikit lebih tebal.

"Munculnya Intelijen": Tentunya, setelah penurunan harga model besar, AI menjadi lebih inklusif dan dapat melakukan lebih banyak hal. Menurut Anda, apakah ada tren yang jelas di kalangan pengguna awal saat ini untuk menjadi “perusahaan satu orang”?

Tan Dai: Saat ini, terdapat lebih sedikit “perusahaan yang beranggotakan satu orang” dan lebih banyak “perusahaan yang beranggotakan sepuluh orang”. Saya melihat di luar negeri banyak hal yang bisa dilakukan hanya dengan dua atau tiga orang.

Dulu kita bercanda bahwa yang diperlukan untuk memulai bisnis hanyalah seorang programmer, namun sekarang kita tidak memerlukannya lagi. Beberapa pengguna yang kami wawancarai mengatakan karena saya tidak punya Kode, Demo ini tidak bisa digunakan untuk verifikasi prototipe (POC) sama sekali, tapi sekarang bisa. Di masa depan, jika model besar lebih baik, AI mungkin bisa menyelesaikan semuanya dari 0 hingga 100.

OpenAI awalnya berdiskusi tentang kapan perusahaan unicorn dengan hanya satu orang di perusahaannya (senilai lebih dari US$1 miliar) akan muncul, dan apakah akan memakan waktu lima tahun atau lebih.

Dalam hal ini, kita tidak boleh hanya melihat Killer App saja, karena banyak ide startup yang bertujuan untuk menyelesaikan permasalahan yang sangat vertikal.

Adalah suatu kebohongan untuk mengatakan bahwa “menggunakan AI akan membantu bisnis Anda berkembang”

"Munculnya Intelijen":Apakah Anda sekarang lebih fokus pada teknologi atau pelanggan?

Tan Dai: hampir. Dalam jangka pendek, kedua belah pihak tidak dapat dipisahkan. AI belum matang seperti komputasi awan. Peningkatan model AI, peningkatan produk, dan cara pelanggan menggunakannya memerlukan proses umpan balik.

"Munculnya Intelijen":Aspek kebutuhan atau keraguan pelanggan saat ini apa yang paling menjadi fokus?

Tan Dai:Ada banyak cara yang tidak terduga.

Misalnya, dalam dunia pendidikan, ada orang yang berpikir, Saya bisa menyelesaikan masalah untuk Anda. Namun dalam banyak skenario saat ini, pelanggan membutuhkan Anda untuk berperan sebagai pengajar dan memberi tahu saya cara melakukan hal ini, alih-alih hanya memberi tahu saya apa jawabannya. Hal ini memerlukan lebih dari sekadar kemampuan model.

"Munculnya Intelijen":Apakah menurut Anda ini merupakan masalah tingkat produk?

Tan Dai:Anda bisa menganggapnya sebagai masalah produk atau permintaan, namun dibalik itu juga ada masalah teknis.

"Munculnya Intelijen": Di sisi pelanggan, akankah ada lebih banyak skenario "Harus dimiliki" saat ini? Misalnya saja, saat ini, banyak perusahaan yang menganggap AI adalah hal yang tidak bisa diabaikan, atau mereka mungkin mempertimbangkan untuk mengurangi biaya dan meningkatkan efisiensi.

Tan Dai: Setiap orang sudah mempunyai konsensus bahwa AI adalah Next Big Thing, jadi pastinya tidak akan melewatkannya. Kini kita tidak perlu lagi mengedukasi perusahaan bahwa mereka harus menggunakan AI, namun Anda perlu berdiskusi dengan mereka skenario mana yang cocok untuk menggunakan AI. Terkadang orang meremehkan kemampuan AI, dan terkadang mereka melebih-lebihkannya.

"Munculnya Intelijen":Oleh karena itu, dibandingkan dengan era digitalisasi sebelumnya, AI telah membawa peningkatan baru pada konsep digitalisasi.

Tan Dai: Mungkin. Dulu, ketika melakukan digitalisasi, langkah yang sangat penting adalah mengubah data tidak terstruktur menjadi data terstruktur dan membuat masyarakat memahami data terstruktur tersebut. Kini AI telah menyelesaikan segalanya untuknya, dan ambang batas digitalisasi telah diturunkan.

"Munculnya Intelijen": Apakah perusahaan memandang AI dan digitalisasi dari perspektif yang sama? Di masa lalu, ketika perusahaan beralih ke digital, bos merasa bahwa hal itu mungkin akan sedikit meningkatkan efisiensi, namun banyak yang masih menganggapnya sebagai biaya. Ketika perusahaan bertanya apakah digitalisasi akan berkembang, kontribusinya sebenarnya sangat lemah. Bisakah AI mengubah situasi ini?

Tan Dai: Saya pikir ini adalah proses pengambilan keputusan dalam dimensi yang berbeda. Teknologi hanyalah tentang membuat bisnis menjadi lebih baik. Di satu sisi bos ingin melihat model bisnis saya, dan di sisi lain bagaimana meningkatkan efisiensi bisnis saya melalui digitalisasi.

Misalkan seorang pengecer bertanya kepada saya, bagaimana cara mencapai pertumbuhan bisnis? Poin pertama saya jelas bukan untuk memberi tahu dia bahwa Anda ingin masuk ke AI. Saya dengan tegas mengatakan: Anda memulai Douyin e-commerce. Mari kita bahas di mana kami dapat membantu Anda meningkatkan efisiensi melalui AI. Jika Anda mengatakan "Anda bisa tumbuh dengan AI" sejak awal, menurut saya itu bohong.

"Munculnya Intelijen": Saya mempunyai teman yang dulunya kesulitan menjual cloud di Huoshan, namun dia keluar sekitar tahun 2022. Setelah melihat model besarnya, dia merasa bahwa hal ini memberikan peluang yang sangat besar bagi gunung berapi tersebut. Bagaimana menurutmu?

Tan Dai: Kami baru akan meluncurkan cloud pada akhir tahun 2021. Tentu saja, akan sulit melakukannya di tahun pertama, dan itu adalah yang tersulit. Dia hanya bisa mempertahankannya untuk satu tahun lagi. Faktanya, pertumbuhan kami cukup pesat dalam beberapa tahun terakhir, dan kami adalah yang tercepat di industri ini.

Saya pikir waktu menjadikan pahlawan. Jika tidak ada pelanggan baru dan tidak ada skenario baru untuk pelanggan, meskipun Anda melakukan yang terbaik, apa gunanya? Masa keemasan komputasi awan sebelumnya disebabkan oleh kebangkitan Internet seluler dan kematangan digitalisasi secara bertahap di semua lapisan masyarakat. Komputasi awan tidak tumbuh begitu cepat. Ini adalah hukum alam dalam perkembangan industri.

Namun era selanjutnya adalah AI. Saya merasa bahwa setiap sepuluh tahun atau lebih, sebuah titik baru akan muncul, dan kita harus memanfaatkan titik baru ini untuk mempertahankan kepemimpinan teknologi kita.

"Munculnya Intelijen":Apakah menurut Anda pengembang yang Anda hubungi sekarang merasa cemas?

Tan Dai: Saya pribadi merasa tidak ada orang yang merasa cemas. Mengapa? Soalnya, model saat ini cukup bagus dan harganya sangat murah, jadi coba saja lebih banyak dan tidak ada yang perlu dikhawatirkan. Bisa jadi investor lebih cemas. (tertawa)

"Munculnya Intelijen":Beberapa pengembang merasa cemas karena meskipun modelnya sekarang murah, modelnya cukup bagus pada awalnya dan masih dapat menghasilkan uang, tetapi begitu mereka mulai memperluas skalanya dan berinvestasi dalam lalu lintas, ROI tidak akan tepat, dan pengguna tetap sebenarnya akan jarang terjadi.

Tan Dai: Menurut saya itu masalah lalu lintas, bukan masalah AI. Kalau tidak pakai AI, tetap salah kalau pakai yang lain. Misalnya, drama pendek sangat populer. Beberapa drama pendek bisa menghasilkan uang, sementara yang lain tidak. Ini normal.

"Munculnya Intelijen":Skenario penerapan AI apa yang paling menarik yang pernah Anda lihat baru-baru ini?

Tan Dai: Tak sedikit pula, misalnya ada anak yang memanfaatkan bean bag untuk belajar bahasa Inggris secara langsung. Klien korporat kami yang lain ingin menggunakan model besar, jadi dia mengadakan hackathon AI di dalam perusahaan. Karyawan mengembangkan lebih dari 100 produk berdasarkan kebutuhan bisnis yang biasa mereka temui, dan mungkin dua atau tiga di antaranya berhasil.

Kami kini bekerja sama dengan beberapa produsen mobil, yang bahkan mengundang penggunanya untuk berpartisipasi dalam keseluruhan desain. Saat pengguna berpartisipasi dalam desain, mereka mungkin lebih memahami permasalahan mereka sendiri.

"Munculnya Intelijen":Untuk perusahaan yang Anda layani, seberapa besar perubahan rasio pelatihan dan daya komputasi inferensi sekarang?

Tan Dai: Masih akan ada pelatihan lagi. Namun inferensi kini meningkat dengan sangat cepat, puluhan kali lebih tinggi dibandingkan tahun lalu, sementara pelatihan hanya tumbuh kurang dari dua kali lipat. Kami awalnya memperkirakan bahwa inferensi akan melampaui pelatihan pada tahun 2025, dan tampaknya itulah yang terjadi sekarang.

"Munculnya Intelijen":Menurut Anda kapan aplikasi AI akan meledak?

Tan Dai: Pertama-tama, tahun ini bukan ledakan besar, tapi yang pasti ledakan kecil. Tapi menurut saya tahun depan akan terjadi ledakan besar. Bahkan dari perspektif global, penerapan AI sudah berada pada tahap awal. Di masa depan, harga yang lebih terjangkau akan memastikan efek model yang ideal. Hanya ketika penerapan AI berkembang dan reaksi kimia terus terjadi maka ekosistem dapat dibangun.

"Munculnya Intelijen":Sejak tahun 2023, Anda telah menekankan bahwa Anda tidak akan membuat model dasar yang besar. Apakah Anda akan melakukannya di masa mendatang?

Tan Dai: Tidak akan lagi. Model Doubao besar sedang dikembangkan oleh tim khusus di ByteDance. Huoshano tidak perlu membuat modelnya sendiri, asalkan bagus dalam cloud dan MaaS.

Orang yang melakukan komputasi awan dan mereka yang melakukan model besar pastinya sangat berbeda. Semua produsen besar dunia melakukan pekerjaannya secara terpisah. Model Amazon adalah Claude, dan cloud dibuat oleh Google Cloud dan Gemini tidak dibuat oleh kelompok orang yang sama.

Kami di Huoshan fokus untuk melakukan cloud dengan baik, namun MaaS adalah bagian yang sangat penting dari cloud. Agar MaaS sukses, layanan MaaS kami akan memberikan model terbaik kepada pelanggan kami. Hal ini tidak pernah berubah.

Selamat datang di grup

Selamat datang untuk berkomunikasi