berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Crecy berasal dari Kuil Aofei
  Qubit |. Akun publik QbitAI

Kecerdasan buatan tidak diragukan lagi menjadi topik penting saat ini, mendorong perkembangan ekonomi digital melalui berbagai metode seperti model besar, aplikasi vertikal, dan agen cerdas.

Namun, infrastruktur yang melayani AI——Menghitung daya dan data, merupakan hambatan yang membatasi pengembangan kecerdasan buatan, dan juga menjadi topik diskusi lebih lanjut.

Mengapa hambatan ini masih ada? Bagaimana cara memecahkannya?

Kami telah melihat beberapa jawaban atas apa yang telah dilakukan Nortel Digital Intelligence, yang telah berdiri selama satu tahun -

Sebuah "pabrik AI" yang mengumpulkan kekuatan komputasi dalam negeri yang "tersedia langsung" telah muncul di Beijing.

“AI Factory” menargetkan kegelisahan terhadap daya komputasi

Baik itu untuk seorang praktisi atau seluruh industri,Kurangnya daya komputasi yang efektifIni adalah masalah yang perlu segera diatasi.

Dari sisi permintaan, pesatnya perkembangan AI generatif yang diwakili oleh model-model besar, "Pertempuran Ratusan Model" yang sengit, dan datangnya era inferensi tidak diragukan lagi akan membawa peningkatan besar dalam permintaan akan daya komputasi.

Sebuah laporan yang diterbitkan bersama oleh Chinese Academy of Engineering dan lebih dari selusin institusi di sub-jurnal Science Intelligent Computing menunjukkan bahwa daya komputasi yang dibutuhkan untuk kecerdasan buatan meningkat dua kali lipat setiap 100 hariakan meningkat lebih dari 1 juta kali lipat dalam lima tahun ke depan。

Apalagi di era kecerdasan buatan, kebutuhan daya komputasi tidak lagi hanya sekedar jumlah FLOPS saja, namun struktur kebutuhan daya komputasi juga mengalami perubahan besar.

Di era AIGC, struktur daya komputasi telah berubah dari akselerator CPU+ menjadi berbasis GPUKomputasi paralel skala besar, proporsi daya komputasi cerdas meningkat pesat。

Namun saat ini, terdapat kesenjangan generasi antara chip dalam negeri, terutama chip kelas atas, dan produk industri canggih dalam banyak aspek seperti kinerja komputasi, konsumsi daya, dan kecepatan komunikasi antar kartu.

Faktor non-chip juga membatasi efisiensi penggunaan daya komputasi, seperti kemampuan transmisi jaringan antar node yang tidak memadai, ekologi perangkat lunak pendukung yang tidak sempurna, dan sebagainya.

Dalam kenyataan ini, sebagian besar daya komputasi cerdas dalam negeri tidak dapat digunakan secara efisien, sehingga menimbulkan kekhawatiran kedua dalam industri mengenai daya komputasi.

Alasan mendasar dari kekhawatiran tersebut adalahPengguna belum memiliki pemahaman yang jelas tentang kemampuan multi-core, terutama daya komputasi dalam negeri., dapat diringkas menjadi beberapa aspek:

• Cluster multi-core skala besar di dalam negeri tidak memiliki kemampuan dan tidak dapat mendukung adaptasi dan evaluasi daya komputasi skala besar yang dekat dengan lingkungan produksi. Dengan kata lain, pengujian chip tunggal hanya dapat memberikan data perkiraan interkoneksi antara kartu dan node komputasi, tetapi tidak ada data tentang rasio akselerasi;
• Platform yang ada sebagian besar didasarkan pada indikator evaluasi eksponensial dan tidak dapat dihubungkan dengan skenario bisnis pengguna. Platform ini tidak sepenuhnya membuka tautan adaptasi dari skenario bisnis ke chip yang mendasarinya mampu memenuhi kebutuhannya sendiri;
• Terdapat kekurangan platform layanan heterogen multi-inti di Tiongkok, dan juga kurangnya upaya pada tugas-tugas penalaran dan pelatihan hibrida multi-inti yang heterogen.

Secara umum, sisi permintaan tidak mengetahui layanan yang dapat diberikan oleh pemasok dan tingkat dukungan terhadap bisnis aktualnya. Pemasok tidak memiliki platform untuk menunjukkan kemampuannya dan apa yang dapat dilakukannya, dan pada saat yang sama memiliki pemahaman yang adil evaluasi dan standar yang jelas.

Untuk mematahkan persepsi ini dan memecahkan teka-teki kecemasan daya komputasi, sebuah perusahaan bernama"Spark·Perhitungan Cerdas"Merek AIDC muncul.

"Satu percikan saja dapat memicu kebakaran di padang rumput." Memilih nama seperti "Spark" adalah karena penyedia solusi berharap bahwa merek ini dapat memicu kebakaran di padang rumput dan mencapai replikasi secara nasional.

Orang yang mengusulkan rencana ini adalahKecerdasan Digital Nortel——Sebuah perusahaan teknologi tinggi di bawah Beijing Electronic Control yang berfokus pada kecerdasan buatan.

Nortel Digital Intelligence percaya bahwa,Kekuatan komputasi adalah bentuk produktivitas baru di era kecerdasan buatan：

Di era pertanian, bumi merupakan kekuatan komputasi;
Di era mesin, listrik dan tenaga uap adalah daya komputasi;
Di era kecerdasan buatan, daya komputasi adalah bentuk utama produktivitas, sama seperti batu bara, air, dan listrik.

Untuk mengubah daya komputasi menjadi faktor produktivitas seperti listrik, kita tidak bisa lagi fokus pada penumpukan chip, server, dan lemari saja;Transformasi dari “gudang daya komputasi” menjadi “pabrik AI”, dilengkapi dengan hubungan produksi berkualitas baru yang sesuai.

Ini juga merupakan ide baru Nortel Digital Intelligence ketika membangun Spark Intelligent Computing.

Secara khusus, Spark Intelligent Computing mendukung inovasi dan penerapan teknologi kecerdasan buatan dengan menyediakan daya komputasi inklusif, seperti air, listrik, dan batu bara.

Di sisi lain, dengan konsep "AIDC sebagai layanan", AIDC menyediakan layanan pendukung seperti model dasar, model industri, dan rantai alat terpadu, memungkinkan perusahaan dengan cepat dan mudah membangun aplikasi yang mereka inginkan atau merekonstruksi produk saat ini. untuk mencapai Inovasi dalam metode produksi.

Saat ini, proyek benchmark pertama dari merek "Xinghuo Intelligent Computing"——Pusat Komputasi Ekonomi Digital BeijingKonstruksi telah dimulai dan akan digunakan sebagai contoh untuk diterapkan di seluruh negeri di masa depan.

Untuk membantu peningkatan daya komputasi dengan lebih baik, Nortel Digital juga memiliki dua produk inti untuk sepenuhnya mengatasi kekhawatiran daya komputasi di industri:

• Tingkat Lanjut·Platform Komputasi Heterogen AI, sebagai respons terhadap kekurangan sumber daya komputasi kelas atas saat ini, konfigurasikan solusi heterogen multi-inti yang paling memenuhi kebutuhan pasar domestik;
• Pagoda·Platform Adaptasi Model Besar, mengadaptasi chip secara luas ke bawah, sehingga chip dapat dipisahkan secara luas dan diadaptasi dari model besar;

Kedua produk tersebut adalah "satu tubuh dan dua sisi", memecahkan kegelisahan daya komputasi dari dimensi yang berbeda.

Platform komputasi heterogen Advanced·AI, sebagai platform verifikasi iteratif daya komputasi domestik full-stack, dapat mewujudkan manajemen terpadu dan penjadwalan berbagai kekuatan komputasi sesuai permintaan tanpa mengetahui detail mendasarnya, dan mewujudkan migrasi yang lancar antara berbagai daya komputasi.

Untuk memungkinkan pemanfaatan daya komputasi yang lebih baik, Spark Intelligent Computing juga telah membuat terobosan melalui komunikasi terpadu, optimalisasi kompilasi, dan terobosan teknologi lainnya yang dapat dilakukan oleh platform komputasi heterogen AIMeningkatkan kinerja chip domestik sebanyak 2-3 kali lipat dan meningkatkan throughput sebanyak 6-7 kali lipat。

Sambil memberikan dukungan daya komputasi kepada pengguna, platform komputasi heterogen AI Qianjin juga menciptakanMode evaluasi baru “chip × model × adegan”, membantu memecahkan asimetri informasi antara produsen dan pengguna, dan membantu produsen chip memecahkan situasi tersebut,Biarkan chip domestik berubah dari "tersedia" menjadi "mudah digunakan"。

Artinya, selain memberikan dukungan daya komputasi kepada pengguna, hal ini juga akan mendorong peningkatan keseluruhan chip domestik dan menghadirkan lebih banyak sumber daya komputasi.

Pagoda·Sistem Adaptasi Model Besar adalah model pemberdayaan dan sisi penerapannya, mendukung penerapan dan manajemen model, melakukan manajemen operasi daya komputasi yang lebih baik, dan selanjutnya mendukung aplikasi kecerdasan buatan.

Biarkan data berkualitas tinggi beredar

Jika kekurangan daya komputasi adalah salah satu “awan gelap” dalam pembangunan AI, maka kekurangan data adalah salah satu hal yang memang layak terjadi.

Dou Dejing, kepala ilmuwan Nortel Digital dan Profesor Terhormat di Sekolah Ilmu Komputer dan Teknologi Universitas Fudan, mengatakan dalam pidato publik,Skala dan kualitas data menentukan “batas atas” AI——Baik itu pelatihan atau inferensi, diperlukan data berkualitas tinggi untuk mendukungnya.

Ambil contoh Llama 3.1, model besar open source terbaru yang dirilis oleh Meta. Model generasi ketiganya menggunakan 15T token data pelatihan pada lebih dari 16.000 GPU H100, yang merupakan 7 kali lipat dari generasi kedua Ini adalah model generasi kedua yang melakukan lompatan kinerja pada skala parameter yang sama.

Di negara kita, situasi saat ini di sisi pasokan data juga menghadapi kecemasan yang sama seperti daya komputasi——Jumlah totalnya melimpah, namun data berkualitas tinggi memiliki populasi yang padat.。

Menurut perkiraan IDC, volume data Tiongkok akan meningkat dari 23,88ZB menjadi 76,6ZB pada tahun 2022 hingga 2027, menjadikannya peringkat pertama di dunia. Namun, kumpulan data korpus berkualitas tinggi yang tersedia masih relatif langka.

Dalam kondisi kuantitasnya yang sudah langka, dihadapkan pada data yang bernilai tinggi“Tidak bisa disuplai, tidak bisa diedarkan, dan tidak bisa dimanfaatkan dengan baik.”Dilema ini mempersulit pemberian nilai, sehingga sumber daya data yang sudah terbatas menjadi semakin tegang.

Di sisi lain, tingkat integrasi data juga sangat tidak mencukupi. Banyaknya data yang tersebar di sisi industri atau dalam sistem vertikal, dantidak terstruktur, tidak dapat langsung digunakan untuk pelatihan model besar.

Alasan mendasar dibalik hal ini adalahKurangnya teknologi yang matang dan mekanisme yang terpercaya untuk mendukung keamanan data, Perusahaan dengan data "tidak tahu, tidak berani, tidak bisa, dan tidak akan" membiarkan data beredar dengan bebas. Status quo "empat tidak" ini semakin menciptakan kekurangan kumpulan data saat ini dan membentuk siklus tanpa akhir.

Jadi prioritas utama adalahMembangun mekanisme data yang dapat dipercaya dan aman。

Untuk mencapai tujuan ini, Nortel Digital Intelligence telah meluncurkan produk penting lainnya——Danau Merah·Ruang Data Tepercaya, memungkinkan elemen data dikumpulkan sepenuhnya dan pemandangan terbuka sepenuhnya.

Red Lake·Ruang Data Tepercaya adalah solusi berlapis yang dibangun berdasarkan "kepercayaan", yang bertujuan untuk merevitalisasi data, menyediakan layanan data tepercaya berkualitas tinggi, dan menciptakan lingkungan data "berbagi aman dan sirkulasi tepercaya".

Dari sudut pandang teknis, Ruang Data Tepercaya Red Lake dilengkapi dengan kotak pasir data tepercaya, yang menggunakan teknologi seperti "gudang data logis" untuk mengimpor, mengubah, dan menghapus data, serta menggunakan komputasi privasi + teknologi blockchain untuk memastikan keamanan data dan transparansi, memastikan ketertelusuran dan transparansi data, dan mencapai "pengendalian rantai penuh".

Pendekatan ini menjadikan data kredibel, dapat dikontrol, tersedia, dapat diaudit, dan dienkripsi untuk melindunginya, sehingga menciptakan lingkungan berbagi dan aplikasi data di mana rasa saling percaya dan perjanjian sirkulasi data multi-pihak terpenuhi.

Dengan langkah-langkah keamanan yang dapat dikontrol di seluruh proses, pemilik data berani memasukkan sumber daya datanya ke dalam sirkulasi pasar dan menarik lebih banyak pemilik data untuk berpartisipasi dalam proses tersebut.

Dengan investasi data awal, ekosistem pasokan data juga akan matang, bentuk pembagian data akan menjadi lebih lengkap dan nyaman, dan aliran data berkualitas tinggi akan memberikan lebih banyak darah segar ke dalam perkembangan industri.

Pada saat yang sama, Nortel Digital sendiri juga telah menghadirkan data berkualitas tinggi ke industri.Matriks model vertikal telah disusun di bidang medis, pendidikan, budaya dan industri lainnya., memungkinkan perusahaan kecerdasan buatan menemukan skenario implementasi dengan lebih baik.

Jadi, siapakah Nortel Digital Intelligence, dan bagaimana Nortel menghasilkan solusi komprehensif terhadap permasalahan industri kecerdasan buatan?

"Pembangkit listrik" di era kecerdasan buatan, "manusia manik" dalam rantai industri

Nortel Digital Intelligence adalah perusahaan teknologi tinggi di bawah Beijing Electronic Control Group. Perusahaan ini berfokus pada kecerdasan buatan dan posisinyaPenyedia layanan AI tumpukan penuh。

Sebelum Nortel Digital Intelligence didirikan, GPT-3.5 bertepatan dengan dirilisnya GPT-3.5. Pada saat itu, era baru kecerdasan buatan diluncurkan sepenuhnya, dan persaingan AI menjadi semakin ketat. Sesuai dengan perkembangan zaman dan permintaan pasar, lahirlah Nortel Digital Intelligence.

Ketika didirikan, proyek pertama yang dikerjakan oleh Nortel Digital Intelligence adalah Beijing Digital Economy Computing Power Center yang diposisikan sebagaiMemberikan daya komputasi cerdas kepada masyarakat untuk mencapai daya komputasi inklusif。

Dengan kata lain, pusat daya komputasi ini seperti “pembangkit listrik”, yang memungkinkan daya komputasi seperti air, listrik, dan batu bara memberdayakan seluruh industri AI mulai dari basis hingga aplikasi.

Kepala Strategi dan Pemasaran, Nortel Digital IntelligenceYang ZhenPendahuluan, inilah perbedaan antara Nortel Digital dan Teknologi Digital. Prioritas pertama Nortel Digital adalah mendukung industri kecerdasan buatan sehingga perusahaan kecerdasan buatan atau pengembang individu dapat dengan cepat menggunakan kecerdasan buatan dan menikmati kecerdasan buatan.

Di seluruh industri kecerdasan buatan, Yang Zhen percaya bahwa Nortel Digital Intelligence berperan aRantai industri "manusia manik"Peran - jika sudah ada manik-manik dalam rantai industri ini, ikatlah; jika belum, buatlah;

Misalnya, akselerasi chip dalam negeri, tata letak model vertikal dalam model industri, dan ruang data tepercaya yang disebutkan di atas semuanya merupakan "mutiara" dalam rantai industri ini.

Selain menyediakan produk-produk daya komputasi, Beijing Digital Economic Computing Power Center juga secara khusus merancang ruang komunikasi dan tampilan yang memungkinkan para praktisi AI di bidang yang sama atau berbeda untuk saling bertabrakan dan berkomunikasi, sehingga mendorong inovasi yang lebih komprehensif dan mendalam.

Kedepannya, ruang terbuka di pusat komputasi ini juga akan dibuka untuk umum sebagai "Taman Teknologi Komputasi", sehingga lebih banyak orang dapat memahami kekuatan perubahan produksi di era kecerdasan buatan.

Singkatnya, Nortel Digital akan menggunakan pusat komputasi cerdas sebagai dukungan untuk menghubungkan teknologi, produk dan layanan hulu dan hilir seperti chip, server, model besar, aplikasi AI, dan investasi industri untuk mendorong pertumbuhan dan kemakmuran industri kecerdasan buatan. dan mendorong peningkatan industri ekonomi regional.

Hingga saat ini, Nortel Digital Intelligence memiliki lebih dari seribu mitra ekologi industri AI, yang mencakup bidang-bidang unggulan seperti penelitian dan pengembangan obat yang dibantu AI, robot umum/kecerdasan yang diwujudkan, mengemudi tanpa pengemudi, dan agen AI.