berita

Teks |. Wang Zhiyuan

Baru-baru ini, seorang teman memberi saya masukan:KimiPeriklanan sangat sengit.

Anda bisa melihatnya saat mendengarkan NetEase Music atau browsing bilibili. Konon produknya ditujukan untuk pengguna awam. Namun, ini baru pertengahan bulan Agustus, dan beberapa tindakan Kimi membuat orang merasa sedikit berbeda.

Apa bedanya?

Di satu sisi, pada 2 Agustus, perusahaan induk Kimisisi gelap bulan(Moonshot AI) mengumumkan rilis resmi API tingkat perusahaan Kimi. Model tingkat perusahaan ini memberikan perlindungan keamanan data yang lebih kuat dan kecepatan pemrosesan yang lebih cepat dibandingkan versi pengguna biasa, serta dapat membantu perusahaan menangani tugas-tugas kompleks dan data dalam jumlah besar.

Segera setelah itu, mereka mengumumkan bahwa mereka akan menurunkan biaya konteks caching teknologi Cache platform terbuka Kimi dari yang semula 10 yuan per 1 juta token menjadi 5 yuan per menit. Saya mengetahui bahwa penurunan harga ini telah berada dalam versi beta publik di platform terbuka sejak 1 Juli.

Setelah membaca ini mungkin Anda penasaran, apa sebenarnya Cache itu?

Sederhananya, fungsinya adalah untuk menyimpan teks atau data terlebih dahulu yang dapat digunakan berulang kali dan sering ditanyakan, sehingga meningkatkan efisiensi penalaran model tanpa meningkatkan biaya.

Oleh karena itu, tindakan ini membuat saya bertanya-tanya, apakah AI telah menemukan jalur yang efektif di bidang B2B? Setelah melakukan penelitian, saya berpikir: ya.

01

Mari kita bicara tentang konsensus industri terlebih dahulu:Penerapan AI tidak diragukan lagi merupakan kunci keberhasilan model ini.

Tahun ini, di Konferensi Kecerdasan Buatan Dunia, CEO Baidu Robin Li membahas beberapa pandangannya tentang penerapan model besar. Dia berkata: Meskipun pengembangan sisi C penting, skenario aplikasi sisi B adalah tempat model besar dapat mencapai hasil yang lebih baik.

Ia percaya bahwa di era AI, aplikasi yang dapat memberikan dampak besar pada industri dan meningkatkan efisiensi secara signifikan akan lebih bernilai. Ia memperkirakan bahwa di bidang perawatan medis, keuangan, pendidikan, manufaktur, transportasi, dan pertanian, aplikasi akan dikembangkan berbasis AI berdasarkan karakteristik dan sumber datanya masing-masing. Agen cerdas yang disesuaikan akan menjangkau jutaan orang di masa depan, membentuk ekosistem yang sangat besar.

Tahun ini, Baidu memenangkan 17 proyek di berbagai bidang seperti perawatan medis, keuangan, energi, perlindungan lingkungan dan transportasi, mencakup perusahaan-perusahaan besar milik negara dan perusahaan-perusahaan industri terkemuka, dan jumlahnya juga sangat besar.

Tentu saja, Robin Li percaya bahwa aplikasi AI harus segera diimplementasikan pada agen cerdas.

Belum lagi apakah itu akan masuk ke dalam spesifikasi badan intelijen. Banyak sekali dokumen tender yang harus diserahkan satu per satu. Kalau dalam waktu satu setengah tahun tidak selesai, pelanggan pasti tidak mau.

Mari kita lihat apa yang dipikirkan Yang Zhilin, pendiri Moonshot AI tentang hal ini.

Pada bulan Juni, selama percakapan antara pendiri Geek Park Zhang Peng dan Yang Zhilin, Yang menyebutkan bahwa mereka tidak sepenuhnya mengecualikan sisi-B, tetapi terutama berfokus pada sisi-C. Produknya Kimi telah mencapai lalu lintas dan penggunaan teratas di bidang AI.

Meskipun demikian, pengguna sering kali mengalami masalah karena daya komputasi yang tidak mencukupi selama jam sibuk. Untuk mengatasi situasi ini, mereka telah mengambil beberapa langkah untuk mengurangi biaya operasional dan meningkatkan efisiensi.

Salah satunya adalah mengoptimalkan performa inferensi model melalui teknologi caching. Teknologi ini memungkinkan Kimi merespons lebih cepat saat memproses permintaan kompleks dan mengurangi kebutuhan penghitungan berulang.

Peningkatan ini tidak hanya meningkatkan kecepatan respons dan efisiensi pemrosesan sistem, tetapi juga memastikan koherensi dan keakuratan dialog atau pembuatan teks; hal ini akan menjadi sangat penting di masa depan ketika dihadapkan pada kemungkinan melakukan bisnis sisi-B dan sejumlah besar pemrosesan permintaan data terpusat.

Oleh karena itu, Yang Zhilin percaya bahwa jika ingin beralih ke sisi B, Anda harus menyelesaikan masalah daya komputasi terlebih dahulu, dan memastikan stabilitas daya komputasi adalah fondasinya.

Di sisi lain, menurut saya menjalankan bisnis C-end tidak terlalu seksi, terutama menggunakan iklan untuk mendapatkan konversi.

Saya belajar dari banyak praktisi periklanan bahwa mulai paruh pertama tahun 2024, biaya konversi per kapita akan terus meningkat. Biaya konversi setiap pengguna PC Kimi pada dasarnya akan mencapai 40 yuan/orang. Saya belum memverifikasi data ini secara resmi.

Namun, melihat tren umum, meningkatnya biaya persaingan di pasar AI dalam skenario C-end tidak diragukan lagi akan mendorong banyak perusahaan AI untuk mengevaluasi kembali strategi pasar mereka.

Oleh karena itu, meskipun pasar sisi-C memiliki potensi yang besar, skenario penerapan sisi-B adalah bidang utama untuk mencapai dampak besar dan hasil yang efisien dari model-model besar, kita dapat mencapai pengurangan biaya nyata dan peningkatan efisiensi bagi perusahaan mempromosikan kemajuan industri dan bahkan seluruh industri.

02

Karena konsensusnya benar. Jadi, bagaimana agen, atau AI, atau model besar (kecil) bisa memasuki bidang B2B secara efektif?Cara pertama adalah dengan menjadi upstream dari B-side.

Apa maksudnya?

Yang disebut hulu sisi-B adalah sumber rantai pasokan. Misalnya: Misalkan ada perusahaan farmasi yang memiliki kebutuhan dan skenario penerapan penggunaan AI, namun sulit untuk masuk ke perusahaan model besar.

Saat ini, Anda menemukan bahwa perusahaan farmasi menggunakan beberapa jenis perangkat lunak SaaS. Perusahaan model AI yang besar dapat mempertimbangkan untuk bekerja sama dengan pemasok perangkat lunak; dengan cara ini, AI dapat ditambahkan ke produk perangkat lunak yang ada, dan perusahaan farmasi dapat melakukannya menggunakan perangkat lunak. Pada saat yang sama, transisi dengan lancar menggunakan AI.

Ini adalah cara berpikir banyak pebisnis tradisional B-side.

Faktanya, perangkat lunak B2B memiliki berbagai bentuk penerapan. Pertama, penerapan lokal, di mana perangkat lunak diinstal pada server atau perangkat milik pelanggan, memberikan pelanggan kendali atas data dan keamanan.

Metode ini memerlukan peningkatan rutin, yang merepotkan dan mahal untuk pemeliharaannya. Misalnya, di masa lalu, pabrikan besar seperti Mercedes-Benz dan BMW akan menggunakan sistem CRM tradisional untuk penerapan lokal guna mengelola agen.

Namun, penerapan yang dilokalkan menghadapi banyak tantangan ketika menerapkan integrasi AI, terutama model yang telah dilatih sebelumnya, sehingga model tersebut dapat merespons pertanyaan pelanggan bahkan ketika mereka tidak terhubung ke Internet;

Meskipun banyak perusahaan ToB yang tertarik untuk mencoba, kompleksitas operasi sebenarnya sangat tinggi. Misalnya, grup farmasi atau rumah sakit memiliki kebutuhan pengelolaan data yang sangat besar. Begitu perangkat lunak perlu diperbarui untuk mengintegrasikan fungsi AI baru, keseluruhan prosesnya akan menjadi sangat rumit.

Selain itu, bagi pemimpin proyek, mereka harus menjelaskan kepada atasannya mengapa mereka perlu mengeluarkan banyak uang untuk memperkenalkan fungsi AI.

Misalnya:

Menghabiskan 20 juta untuk membangun model. Kedengarannya bagus, kami memiliki kemampuan AI, tetapi situasi sebenarnya mungkin membuat orang berpikir bahwa ini hanyalah sistem tanya jawab pengetahuan AI. Melihatnya seperti ini, rasanya selalu tidak bagus.

Hal lainnya adalah, meskipun sebuah perusahaan memperkenalkan suatu model, bagaimana jika karyawan tidak dapat lagi menggunakannya? Lalu bukankah uang ini akan terbuang percuma?Tidak ada perhitungan yang tepat untuk hal ini. Tentu saja, beberapa perusahaan bahkan tidak memiliki basis pengetahuan, dan tidak perlu memperkenalkan kemampuan AI.

Model SaaS, sebagai bentuk lainnya, memungkinkan pengguna membayar biaya melalui langganan, seperti alat kolaborasi seperti Feishu. Di bawah model ini, perusahaan SaaS dapat secara langsung mengintegrasikan fungsi AI dan bahkan memiliki kemampuan untuk melewati perusahaan model kecil dan membeli layanan langsung dari perusahaan model besar untuk mengubah proses.

Di antara semua bentuk ini, model SaaS adalah yang paling mudah untuk mengintegrasikan fungsi AI, karena penyedia layanan dapat memperbarui dan memelihara fungsi AI secara seragam di bagian belakang, dan pelanggan tidak perlu mengkhawatirkan detail teknis.

Oleh karena itu, dari perspektif top-down, perusahaan yang menyediakan solusi AI mungkin memenangkan beberapa pesanan, namun proses untuk benar-benar membuat pelanggan sukses mungkin cukup sulit, dan upaya serta keuntungan yang diperoleh sering kali tidak proporsional.

03

Jadi, apakah ada solusi baru? memiliki. Mari kita lihat dari bawah ke atas.

Kita perlu membangun pemahaman baru:

Penggunaan AI di perusahaan sebenarnya telah menemukan terobosan. Hal ini terutama membantu kita meningkatkan efisiensi dalam melakukan sesuatu. AI umumnya digunakan untuk menyempurnakan proses kerja yang ada daripada memulai kembali sepenuhnya.

Apa awal yang bersih?

Artinya, mendesain ulang sepenuhnya proses dari awal, tanpa bergantung pada struktur dan rencana yang ada; dalam konteks alur kerja atau manajemen proyek, ini berarti meninggalkan metode dan sistem lama dan mengadopsi metode yang benar-benar baru untuk memecahkan masalah atau melakukan sebuah tugas.

Misalnya, sebuah perusahaan awalnya menggunakan sistem manajemen hubungan pelanggan (CRM) yang sangat tradisional. Seiring berjalannya waktu dan bisnis semakin berkembang, sistem ini tidak lagi dapat memenuhi kebutuhan perusahaan.

Perusahaan memutuskan untuk tidak memodifikasi atau meningkatkan sistem lama, tetapi mengembangkan sistem CRM baru dari awal. Sistem baru ini akan menggunakan tumpukan teknologi terkini, merancang fungsi yang lebih sesuai dengan proses bisnis modern, dan dapat mengintegrasikan yang terbaru dengan lebih baik Alat analisis data.

Ini adalah contoh “awal yang bersih”. Tapi tahukah Anda?AI merongrong proses rekayasa ulang proses. Seringkali, AI menangani tugas-tugas yang sudah biasa dilakukan manusia, dan tidak perlu menciptakan kembali rodanya.

Apa maksudnya?

Ketika sebuah perusahaan mulai menggunakan model AI, model ini harus terintegrasi erat dengan alur kerja perusahaan itu sendiri. Misalnya, beberapa perusahaan ingin menggunakan beberapa model besar yang canggih di bidang medis atau pendidikan, namun proses ini mungkin menemui banyak kesulitan.

Karena bisnis dan proses setiap perusahaan bersifat unik, dan data yang dibutuhkan oleh AI juga unik, model umum yang besar mungkin tidak cocok untuk benar-benar menerapkan konsep luas ini di sebuah perusahaan.

apa yang harus dilakukan?Saat ini, akan lebih mudah untuk memiliki model dan asisten kecil.

Misalnya:

Akuntan usaha kecil dan menengah biasanya menggunakan perangkat lunak seperti Kingdee, UFIDA, dan Chanjet. Sudah banyak data yang tersimpan dalam perangkat lunak ini; bagi operator, mereka hanya ingin menggunakan kekuatan AI untuk menemukan sepotong data atau menarik kesimpulan dengan cepat, tanpa harus melakukan perubahan besar pada perangkat lunak aslinya.

Oleh karena itu, cara yang baik untuk menerapkan skenario AI pada bisnis (ToB) adalah dengan memecah proses bisnis yang kompleks menjadi banyak tugas kecil, atau skenario kecil tertentu, dan kemudian menggunakan AI untuk membantu meningkatkan setiap skenario kecil.

Kami juga melihat bahwa perusahaan seperti MicrosoftBuka AIInvestor, serta Salesforce, pemimpin industri CRM, belum menggunakan AI untuk mengembangkan produk baru.

Meskipun mereka terus memberi label pada produk dengan fitur-fitur baru, pada kenyataannya mereka menggunakan model besar untuk membantu dan meningkatkan proses bisnis atau fungsi produk yang ada.

Dengan kata lain, mereka menyempurnakan model kecil menjadi asisten, atau penyempurnaan, yang dapat mengintegrasikan dan mengoptimalkan sistem yang ada dengan lebih baik daripada menggantikannya sepenuhnya.

Ini mirip dengan plug-in yang baru-baru ini dibuat oleh banyak perusahaan AI di sisi PC. Anda hanya perlu menggeser mouse secara perlahan atau menekan tombol shortcut, dan AI akan muncul untuk membantu. Fungsi intinya adalah membantu kita membuat keputusan yang lebih baik.

04

Jika Anda tidak percaya, Anda juga dapat memikirkannya: Apa yang benar-benar dibutuhkan oleh perusahaan ToB untuk dilakukan oleh AI?

Menurut penelitian Zhiyuan, mereka terutama menggunakan data untuk membantu pengambilan keputusan dalam operasi, manajemen, pengambilan keputusan, dan pemasaran.Jadi, bagi perusahaan AI, bagaimana mereka bisa praktis dan hemat biaya? Kuncinya adalah mencapai replikasi yang cepat dan mencakup berbagai skenario dengan biaya yang sangat rendah.

Bagaimana cara menyalinnya?

Salah satu caranya adalah dengan merangkum AI menjadi agen cerdas yang dapat memanggil data lokal.Inilah sebabnya Kimi Chat akan mengurangi biaya cache Cache karena menyimpan teks lokal yang sering digunakan dapat membantu meningkatkan akurasi asisten.

Namun ada pertanyaan di sini, bagaimana membuatnya akurat, serbaguna, dan sekaligus berbiaya rendah?

Dalam hal ini, kita dapat mendefinisikan "akurasi tinggi" seperti ini:Selama bisnis tersebut dapat digunakan, dan keakuratannya cukup tinggi, meskipun kesalahan sesekali terjadi, pengguna dapat mengidentifikasinya dan menjelaskan mengapa hal itu terjadi.

"Berbiaya rendah" berarti biaya awal proyek harus rendah, dapat diterapkan pada satu mesin, dan harus mudah digunakan dan dipelihara.Saat ini, biaya perangkat keras pada banyak model besar sangatlah tinggi. Jika perusahaan tidak yakin berapa banyak uang yang dapat dihasilkannya, perusahaan pasti tidak akan mau berinvestasi terlalu banyak.

Keuntungan model besar adalah model tersebut memecahkan masalah keserbagunaan algoritma AI awal.

Secara teori, satu model dapat menangani semua skenario; dalam praktiknya, kita harus menyempurnakannya. Oleh karena itu, kami mendefinisikan "fleksibilitas tinggi" sebagai kemampuan menerapkan perkakas dan otomatisasi, sehingga dapat direplikasi dalam skala besar dan diimplementasikan dengan biaya rendah.

Model besar dengan skala 100 juta telah mencapai akurasi lebih dari 95%. Kemudian, kami menurunkan model kecil dari model besar ini dan merangkumnya menjadi asisten, sehingga memecahkan masalah penggunaan pintu masuk.

Bayangkan sebuah perusahaan model besar memiliki solusi model besar yang sangat kuat yang bertindak seperti model induk, mendukung kebutuhan luas seluruh perusahaan.

Model besar ini sangat kuat dan dapat menangani analisis data yang kompleks serta memberikan wawasan yang sangat akurat. Ini sangat cocok untuk perusahaan sisi B yang memerlukan sumber daya komputasi dalam jumlah besar dan pemrosesan data skala besar. Namun faktanya, tidak semua perusahaan B-side membutuhkan sistem sebesar itu.

Untuk usaha kecil dan menengah, model yang lebih kecil dan lebih fokus sudah cukup. Kita dapat menganggapnya sebagai “sub-model” dari model yang lebih besar.

Model kecil ini mewarisi kemampuan inti dari model yang lebih besar, namun dioptimalkan dan disesuaikan sehingga lebih sesuai dengan kebutuhan bisnis spesifik dan lingkungan operasi skala kecil.

Model kecil tidak memerlukan daya komputasi sebanyak model besar, tetapi fokus pada tugas tertentu dan dapat disesuaikan menurut kebutuhan yang berbeda, seperti menghasilkan laporan analisis cerdas atau melakukan analisis cerdas.

Hal ini memungkinkan usaha kecil dengan sumber daya terbatas untuk menggunakan AI guna meningkatkan efisiensi kerja dan kualitas pengambilan keputusan.

Oleh karena itu, model kecil itu seperti esensi yang diambil dari model besar. Kuncinya hanya membutuhkan kemampuan dasar pengetahuan. Kuncinya adalah menjadikannya asisten kecil dan menanamkannya ke dalam alat untuk digunakan.

Jangan pernah berpikir bahwa ini berarti logika Anda benar. Setelah penelitian Zhiyuan, produk AI telah diterapkan di perusahaan sisi-B; oleh karena itu, untuk TOB, skenario penerapan AI adalah agen dan plug-in.

Keuntungannya juga mudah dalam penyampaiannya tanpa harus mengeluarkan biaya yang mahal.

Meringkaskan

TOB AI tidak mengikuti jalur lama.

Jika model kecil adalah titik kunci TOB, maka menjadikannya agen dan asisten cerdas adalah penghubung utama untuk menghubungkan mil terakhir TOB.Bagaimanapun, bottom-up berpusat pada manusia dan tugas, bukan berpusat pada perangkat lunak.