berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

“Sebagai sebuah teknologi, model besar harus benar-benar digunakan oleh industri dan memecahkan masalah praktis dalam industri sebelum model tersebut dapat memberikan nilai sebenarnya.” Guo Wei, wakil presiden Grup Pemasaran Intel Corporation dan manajer umum Jaringan Intel China dan Divisi Pusat Data Edge dan Channel, berbicara dengan Telah ditunjukkan berkali-kali dalam komunikasi dengan TMTpost Media APP.

Sudah hampir 2 tahun sejak ChatGPT diluncurkan. Dalam waktu kurang dari 2 tahun, model AI besar telah merambah ke semua lapisan masyarakat dengan kecepatan yang belum pernah terjadi sebelumnya. Terutama sejak tahun ini, baik produsen model besar maupun perusahaan Partai A telah mengalihkan fokus mereka dari ukuran parameter model ke bagaimana model besar memecahkan masalah industri, mencoba menemukan satu atau lebih model besar yang dapat memecahkan masalah mereka sendiri .

Dari umum hingga industri, skenario adalah kunci penerapan model besar

Jika persaingan model besar dari pabrikan besar dibagi menjadi dua bagian, di paruh pertama, pabrikan besar meluncurkan model besar secara umum satu demi satu dan menunjukkan kekuatan mereka dengan terus meningkatkan parameter model di paruh kedua, ketika AI besar model diterima oleh lebih banyak industri Ketika perusahaan sampingan memperhatikan, semakin banyak model parameter kecil yang muncul, dan skenario penerapan industri secara alami menjadi fokus perusahaan Pihak A dan pemasok model besar Pihak B. Penerapan aplikasi sisi akhir telah menjadi pertanyaan apakah model besar benar-benar dapat direalisasikan pada tahap ini. Kunci “monetisasi” di sisi industri.

Dalam hal ini, Guo Wei mengatakan kepada TMTpost Media APP bahwa Intel percaya bahwa seiring dengan penetrasi teknologi model besar AI ke dalam industri, model tersebut secara bertahap akan berubah dari model besar umum menjadi model besar khusus industri modelnya pasti akan berubah. "Pada saat yang sama, model industri akan menggabungkan lebih banyak pengetahuan spesifik industri dan fokus pada satu atau beberapa skenario spesifik."

Secara kebetulan, Cao Peng, ketua komite teknis JD Group dan presiden Divisi JD Cloud, juga secara terbuka menyatakan di JD Cloud Summit baru-baru ini bahwa "model besar pada umumnya mengandalkan daya komputasi untuk membangun, sedangkan model industri besar mengandalkan bisnis di sana." sudah lebih dari 35 Wan Jingdong memiliki personel pengiriman sendiri, lebih dari 200,000 pedagang, lebih dari 30,000 dokter, lebih dari 20,000 operasi pengadaan dan penjualan, dan lebih dari 10,000 personel penelitian dan pengembangan. Wan Jingdong menggunakan aplikasi berbasis model besar di lebih dari 100 skenario AI di Jingdong.

"Buku Putih Ekonomi Digital Global 2024" menunjukkan bahwa jumlah model kecerdasan buatan besar di dunia telah mencapai 1.328, dimana Tiongkok menyumbang 36%. Di sisi lain, data IDC menunjukkan bahwa AI generatif Tiongkok akan menyumbang 4,6% dari total investasi pasar AI pada tahun 2022. Dengan pesatnya perkembangan teknologi AI generatif, proporsi investasi AI generatif akan mencapai 33,0% pada tahun 2027, skala investasi akan melebihi US$13 miliar, dan tingkat pertumbuhan gabungan lima tahun (CAGR) akan menjadi 86,2%.

Tentu saja, model besar ini sama seperti era komputasi awan sebelumnya. Dalam hal teknologi saja, Tiongkok mungkin masih sedikit tertinggal di belakang tingkat kelas satu di dunia, namun jika kita fokus pada skenarionya, Tiongkok memiliki skenario penerapan yang kaya, dan ini skenario Ini adalah kunci untuk benar-benar "terbang ke rumah orang biasa" dengan model AI yang besar.

Dari cloud hingga edge, bagaimana model besar dapat digunakan dengan lebih baik?

Saat model besar secara bertahap berpindah dari parameter besar model besar umum ke parameter kecil model khusus industri, model besar juga menunjukkan tren perpindahan dari cloud ke sisi perangkat. Data IDC menunjukkan bahwa pada tahun 2026, 80% perusahaan global akan menggunakan AI generatif, dan 50% penerapan edge global akan menyertakan AI.

Dalam hal ini, Sachin Katti, wakil presiden senior dan manajer umum Divisi Jaringan dan Edge Intel, pernah mengatakan bahwa masa depan kecerdasan buatan akan bergantung pada ekosistem terbuka, dan penerapan kecerdasan buatan beralih dari pusat data ke komputasi edge.

Tidak hanya itu, Chen Wei, Wakil Presiden Intel Corporation dan General Manager Jaringan dan Divisi Edge Tiongkok, juga mengatakan kepada TMTpost Media APP bahwa dilihat dari tren perkembangan tahun ini, pelanggan Intel sendiri akan menjajaki penerapan model edge berskala besar tahun ini. Ada lebih banyak pelanggan yang menyukai solusi tersebut. "Tahun ini benar-benar berbeda. Tahun ini pada dasarnya dapat dikatakan bahwa lebih dari separuh pelanggan sedang menjajaki solusi implementasi berdasarkan model edge besar, dan ada banyak kasus praktis." lebih lanjut ditunjukkan.

Ketika model-model besar bergerak menuju edge, perusahaan perlu mempertimbangkan banyak faktor ketika menerapkannya, seperti persyaratan latensi, kepraktisan, optimalisasi data mikro yang dapat disesuaikan, dan persyaratan keamanan informasi.

Namun, penerapan model skala besar di sisi edge masih dalam tahap awal pengembangan, dan terdapat banyak model penerapan yang saat ini terlihat di pasar. “Melalui pengamatan Intel, kami melihat banyak pelanggan yang membangun solusi perangkat keras dan perangkat lunak berdasarkan model skala besar yang umum. Pengoptimalan kinerja adalah model yang berkembang pesat," kata Chen Wei ketika dihadapkan pada pertanyaan yang diajukan oleh Titanium Media APP tentang cara menerapkan model besar dengan lebih baik di sisi klien.

Ketika berbicara tentang tren dan prospek penerapan model-model besar Tiongkok di industri, Guo Wei mengatakan kepada TMTpost Media APP bahwa sejak tahun ini, semakin banyak pengguna industri yang telah menerapkan banyak model industri besar Ceritanya. Tahun ini kita telah melihat semakin banyak kasus implementasi di industri, dan semuanya merupakan skenario yang dapat secara efektif menyelesaikan permasalahan yang ada di industri ini,” kata Guo Wei.

Dilihat dari penerapan saat ini, parameter model di sisi ujung jauh lebih kecil daripada parameter model besar pada umumnya. Saat ini, parameter model di sisi ujung sebagian besar antara 7B dan 10B tugas yang sulit. Sesuatu yang penting dan sulit. Model arus utama saat ini adalah memasukkan pengetahuan khusus industri ke dalam data sambil mengompresinya, yang umumnya dikenal sebagai solusi teknis pemangkasan progresif.

Dalam hal ini, direktur teknis JD Cloud yang relevan mengatakan kepada Titanium Media APP bahwa dengan mengambil contoh skenario kendaraan logistik tak berawak, melalui pengurangan besaran dan pencarian jaringan saraf, dimungkinkan untuk mengompresi sekitar dua kali jumlah parameter tanpa mengurangi model itu sendiri. . Performanya, juga dapat mengurangi latensi sekitar dua kali lipat.

Pada saat yang sama, Guo Wei berbagi analisis dan penilaiannya dengan Titanium Media APP mengenai prospek pengembangan model industri skala besar di Tiongkok. Ia menunjukkan bahwa Tiongkok dapat berkembang lebih cepat dalam tiga aspek.

Pertama, pengembangan model itu sendiri dalam aplikasi industri. Seperti disebutkan di atas, "Dalam hal teknologi saja, Tiongkok mungkin masih jauh tertinggal di belakang tingkat kelas satu di dunia, namun Tiongkok memiliki skenario penerapan yang kaya." Dalam hal implementasi industri, terutama dalam hal integrasi dengan aplikasi, dalam pandangan Guo Wei , Tiongkok Bisa melaju lebih cepat, "Salah satu ciri khas pasar Tiongkok adalah pesatnya perkembangan aplikasi, dan kemampuan untuk dengan cepat mencari cara-cara efektif untuk mengatasi permasalahan industri."

Kedua, kemampuan penalaran model ditingkatkan. Ketika model besar benar-benar diterapkan di industri, tidak cukup hanya mengandalkan pelatihan model. Untuk benar-benar mengatasi permasalahan industri, sangat penting untuk meningkatkan kemampuan penalaran model kemampuan juga akan mengalami peningkatan signifikan pada tahun ini.

Ketiga, dalam pandangan Guo Wei, ketika model besar diimplementasikan di industri, distribusi daya komputasi antara cloud, sisi perangkat, dan edge perlu dikoordinasikan. “Jika itu hanya beberapa aplikasi standar model besar vertikal , model-model besar mungkin sebagian besar diterapkan di cloud. Namun karena kebutuhan akan implementasi industri, kekuatan komputasi AI pasti akan didistribusikan ke sisi edge dan terminal,” kata Guo Wei kepada TMTpost Media APP.

Banyak adegan telah diimplementasikan

Seperti yang dikatakan Guo Wei, sejak tahun ini, banyak skenario aplikasi model industri besar telah diterapkan di sisi perangkat.

Dalam hal pendidikan, Seewo bersama-sama meluncurkan solusi "AI + Education" berdasarkan teknologi Intel. Dengan bantuan prosesor Intel® Core™ Ultra, Seewo dapat menyelesaikan pengoperasian model pengajaran AI besar secara lokal tanpa bergantung pada sumber daya komputasi awan. sehingga meningkatkan kecepatan dan stabilitas respons sistem dan memastikan pengalaman yang lancar selama proses pengajaran.

Di industri ritel, Tous Les Jours telah menciptakan solusi toko pintar melalui teknologi edge computing. Solusi ini dapat menggunakan peralatan pengumpulan audio dan video yang ada di toko, dan melalui integrasi data dan platform manajemen pengoptimalan, sesuai dengan kebutuhan dan karakteristik toko yang berbeda, membuat serangkaian model toko cerdas digital eksklusif untuk mereka, menyediakan tampilan produk dan layanan toko, kebersihan toko, norma karyawan, wawasan kerumunan, dan wawasan arus pelanggan, yang telah meningkatkan kemampuan manajemen yang berbeda dari operasi toko Tous Les Jours, meningkatkan efisiensi manajemen, mengurangi biaya inspeksi toko manual, dan memperkuat penerapan norma karyawan. , mempercepat perkembangan cerdas industri kue.

Dalam hal kesehatan medis, JD Health telah meluncurkan model besar medis "Jingyi Qianxun" berdasarkan model besar JD Yanxi, yang mengintegrasikan sejumlah besar pedoman praktik klinis, literatur medis, dan pengetahuan pakar, serta dapat dengan cepat menyelesaikan migrasi berbagai skenario di bidang medis dan kesehatan. Berdasarkan model skala besar "Beijing Medical Qianxun", perusahaan ini telah meluncurkan serangkaian solusi untuk praktik dokter, termasuk klinik cloud, tindak lanjut pasca diagnosis, konsultasi gabungan ahli, penelitian ilmiah klinis, inkubasi merek IP dokter, dan " alat asisten dokter yang cerdas. , yang tidak hanya mengoptimalkan efisiensi dan kualitas diagnosis dan pengobatan online dokter, namun juga meningkatkan keselamatan praktik.

Dalam hal keamanan, banyak vendor keamanan, termasuk 360, Qi'anxin, Tencent Cloud, Sangfor, dll., telah meluncurkan produk model besar di industri keamanan berdasarkan kemampuan model besar, atau telah mengintegrasikan kemampuan model besar AI ke dalam model asli. sistem keamanan. Di antara produk-produk tersebut, dalam menghadapi tantangan keamanan yang semakin parah yang dibawa oleh AI di era AI, kami telah mencapai tujuan untuk "mengalahkan AI dengan AI".

Dalam hal pekerjaan kantor, banyak produsen telah mengusulkan konsep AIPC dan berfokus pada asisten AI kantor. Dalam skenario AI Chatbot, model besar dapat dengan cepat diterapkan pada PC Intel Core Ultra AI, dan pengguna dapat menggunakan perangkat canggih dengan lancar. teks model besar. Penciptaan, pemrograman, perhitungan matematis dan kemampuan penalaran logis, dan menikmati pengalaman interaktif cerdas lokal yang nyaman dan aman;

Dalam hal pemrosesan dokumen, pengguna dapat menggunakan AI PC untuk memproses email secara efisien, menghasilkan data, menghasilkan dokumen kerja secara otomatis, dan meningkatkan efisiensi kerja. Mereka juga dapat dengan cepat menyusun dokumen kontrak, dan menggunakan AI untuk menganalisis kasus litigasi secara cerdas, sehingga menghasilkan penulisan dokumen yang profesional kemampuan.

Hal di atas hanyalah beberapa skenario dimana aplikasi model besar AI saat ini populer. Selain itu, model besar industri juga banyak digunakan di berbagai bidang seperti keuangan, manufaktur, dan eksplorasi. Era berbagai industri yang memanfaatkan kemampuan model besar AI untuk memberdayakan bisnis telah dimulai.

Data masih menjadi topik yang tidak bisa dihindari

Seperti kita ketahui bersama, data adalah "nutrisi" bagi pesatnya perkembangan model besar. Baik itu model besar secara umum atau model industri besar, jika Anda ingin mewujudkan nilai nyata dan mengurangi "ilusi", data adalah suatu keharusan. topik pembicaraan.

Dalam kaitannya dengan industri, model industri besar memerlukan data spesifik industri yang besar dan kaya. Bagi perusahaan yang ingin menggunakan model industri besar untuk mengurangi biaya dan meningkatkan efisiensi, serta melakukan transformasi dari digitalisasi ke kecerdasan digital, bagian ini sangat penting. untuk data mereka. Dari perspektif aplikasi industri saat ini, data asli perusahaan tidak cukup untuk melatih model industri tingkat perusahaan berskala besar yang lengkap. Solusi utama saat ini adalah menggunakan data sintetis. Selanjutnya, di satu sisi, perusahaan perlu meningkatkan kualitas datanya sendiri. Di sisi lain, cara memilih data sintetis yang unggul juga menjadi permasalahan pelik yang harus dihadapi perusahaan.

Di sisi lain, perbedaan antara model industri besar dan model besar umum adalah bahwa sebagian besar model industri besar perlu diterapkan di sisi perangkat atau sisi edge. Gartner memperkirakan bahwa pada tahun 2025, lebih dari 50% data yang dikelola oleh perusahaan akan dibuat dan diproses di luar pusat data atau cloud.

Dengan kata lain, pada tahun 2025, jumlah data di sisi perangkat akan melebihi 50%. Dalam proses ini, seiring dengan meningkatnya jumlah data sisi tepi, bandwidth transmisi data juga merupakan tantangan besar yang harus dihadapi perusahaan. "Meskipun Tiongkok adalah pemimpin dunia dalam pembangunan bandwidth transmisi untuk seluruh infrastruktur, ketika a Ketika sejumlah besar data dihasilkan di edge, hal ini mungkin masih menyebabkan badai jaringan, dan kami masih perlu lebih mengoptimalkan manajemen jaringan dan strategi transmisi data,” kata Guo Wei kepada Titanium Media APP.

Menantikan masa depan, Sachin Katti mengatakan kepada TMTpost Media APP bahwa meskipun AI mendorong data untuk meningkatkan kualitas, data ini pada gilirannya akan mendukung AI menjadi lebih baik, dan pada akhirnya mencapai siklus yang baik.

Jelasnya, model-model besar telah memasuki periode perkembangan pesat dalam industri. Selama proses ini, perusahaan harus mengikuti prinsip "berbasis data, skenario adalah raja" agar model-model besar dapat diterapkan dengan lebih baik di industri.(Artikel ini pertama kali diterbitkan di Titanium Media APP, penulis | Zhang Shenyu, editor | Gai Hongda)