berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Menurut pemberitaan pada tanggal 9 Agustus, Open Computing China Summit 2024 dengan tema "Kolaborasi Terbuka: Kolaborasi, Kebijaksanaan, dan Inovasi" baru-baru ini diadakan.Informasi inspirasiserverManajer Umum Lini ProdukZhao ShuaiBerbagi tren perkembangan model besar danAIKemajuan dari terbukanya ekologi daya komputasi menunjukkan bahwa semua komputasi di masa depan akan demikianKecerdasan buatan. Setelah pertemuan tersebut, Zhao Shuai, Zhang Zheng, manajer produk senior lini produk AI & HPC Inspur Information, dan Luo Jian, manajer perencanaan produk lini produk server Inspur Information, diwawancarai oleh media dan melakukan pertukaran mendalam tentang topik keterbukaan. komputasi yang mempromosikan pengembangan inovatif kecerdasan buatan.

Zhao Shuai berkata,Saat ini, 2/3 modelnya adalah open source, dan lebih dari 80% proyek AI dikembangkan menggunakan kerangka kerja open source. Model open source telah diunduh lebih dari 300 juta kali dan telah melahirkan lebih dari 30.000 model baru. Dapat dikatakan bahwa open source telah membawa perkembangan dan kemakmuran AI.Berdasarkan hal ini, desain perangkat keras yang terbuka juga menjadi kunci untuk mendorong pengembangan ekologis daya komputasi kecerdasan buatan. Hanya dengan cara ini kami dapat menjangkau setiap pelanggan dan lahan di setiap industri dengan lebih baik.

Zhao Shuai mencontohkan. Di bawah ekosistem terbuka, desain OAM yang dipercepat dan terstandarisasi dibuka pada tahun 2019. Inspur Information mendemonstrasikan UBB pertama di industri pada OCP Summit pada tahun 2019 dan meluncurkan desain sistem referensi OAM MX1 pada tahun 2020. server NF5498A5 berdasarkan spesifikasi OAM v1.0 dirilis pada tahun 2016, yang mempromosikan pengembangan dan penerapan chip AI kelas atas dari beberapa produsen.Standar desain terbuka OAM telah mempercepat proses adaptasi dan kompatibilitas chip komputasi, menghemat miliaran dolar dalam investasi sumber daya industri, mempercepat penerapan dan iterasi komputasi, dan mendukung kematangan model besar lapisan atas dan aplikasi AIGC.

Secara khusus, pelatihan model besar yang efisien biasanya memerlukan dukungan sistem server AI yang terdiri dari chip AI dengan daya komputasi tinggi lebih dari 1.000 kalori. Prasyarat untuk menghubungkan ribuan chip dan memungkinkan mereka bekerja sama secara efisien adalah dengan menyelesaikan koneksi langsung berkecepatan tinggi dari chip internal dari satu server. Munculnya spesifikasi akselerasi terbuka OAM telah memecahkan masalah ketidakkonsistenan bentuk dan antarmuka beberapa kartu akselerator AI dalam satu server, rendahnya efisiensi interkoneksi berkecepatan tinggi, dan siklus penelitian dan pengembangan yang panjang, serta telah mendapat dukungan dan partisipasi dari banyak perusahaan.

Dalam hal ini, Zhang Zheng menunjukkan bahwa Inspur Information terus mempromosikan evolusi standar dan teknologi dalam hal spesifikasi akselerasi terbuka, dan telah bekerja secara diam-diam di komunitas terbuka selama bertahun-tahun, pada awalnya hanya ada sedikit mitra. dan hal ini tidak akan terjadi. Ini mendatangkan keuntungan bagi perusahaan, tetapi kita akan menemukan bahwa manfaatnya bagi seluruh rantai industri sangat besar. Sekarang pada dasarnya produsen chip dalam dan luar negeri, semua produk kelas atas mengadopsi standar terbuka, jadiPrinsip kami pada dasarnya adalah melakukan pekerjaan dengan baik di suatu industri. Hanya jika industri tersebut baik dan sehat, barulah kami dapat memperoleh lebih banyak nilai dalam rantai industri.

Menurut laporan, produsen sistem yang diwakili oleh Inspur Information telah mengembangkan sejumlah server AI yang memenuhi spesifikasi akselerasi terbuka. Inspur Information telah menetapkan sistem perangkat keras interkoneksi 8 kartu pertama di industri yang sesuai dengan spesifikasi OAM. Ini adalah substrat interkoneksi yang mengikuti spesifikasi komputasi terbuka. Untuk pertama kalinya, sistem ini telah mencapai tingkat interkoneksi chip tertinggi di bawah spesifikasi OAM sebesar 56Gbps, yang jauh lebih tinggi dari kecepatan transmisi PCIe5.0, dan spesifikasi akselerasi terbuka dengan kecepatan lebih tinggi masih dalam pengembangan. Server AI generasi terbaru Inspur Information NF5698G7 berdasarkan spesifikasi OAM mendukung berbagai chip akselerasi terbuka berdasarkan spesifikasi OAM, dan membangun cluster berpendingin cairan kilokalori bagi pengguna untuk mendukung pelatihan model besar AI dengan lebih dari 100 miliar parameter.

Pada titik ini, kendala dalam mempercepat spesifikasi telah teratasi, dan tantangan baru pun muncul.

Zhao Shuai mengatakan bahwa semua komputasi di masa depan akan menggunakan AI, tetapi dengan diversifikasi paradigma aplikasi, CPU menunjukkan arah pengembangan yang beragam. Jadi, bagaimana cara menyediakan platform daya komputasi yang lebih baik dan meningkatkan efisiensi untuk CPU yang terdiversifikasi?

Spesifikasi Open Computing Module (OCM) yang baru saja diluncurkan memberikan jawabannya. OCM menggunakan CPU dan memori sebagai unit komputasi terkecil dan menstandarkan antarmuka interkoneksi berkecepatan tinggi dan kecepatan rendah. Sama seperti OAM yang membangun basis chip akselerasi terpadu, OCM akan mendorong penyatuan antarmuka unit komputasi CPU dan peningkatan ekosistem.Program ini diprakarsai bersama oleh China Electronics Standards Institute, Intel, AMD, Inspur Information, Lenovo, Super Fusion, Baidu, Xiaohongshu, dll. Ini adalah spesifikasi desain modul komputasi server domestik pertama dan bertujuan untuk membangun sistem komputasi standar berdasarkan prosesor. Unit modul daya mewujudkan kompatibilitas chip prosesor dari arsitektur yang berbeda dengan menyatukan interkoneksi berkecepatan tinggi eksternal, protokol manajemen, antarmuka catu daya, dll. dari unit daya komputasi prosesor yang berbeda, dan membangun basis daya komputasi terpadu untuk CPU untuk memecahkan tantangan ekologi CPU dan memfasilitasi pelanggan Berdasarkan beragam skenario aplikasi seperti kecerdasan buatan, komputasi awan, dan data besar, kami dapat secara fleksibel dan cepat mencocokkan platform daya komputasi yang paling sesuai untuk mendorong perkembangan industri daya komputasi yang berkualitas tinggi dan pesat.

Luo Jian menambahkan bahwa ketika Inspur Information sedang membangun standar industri, hal itu tidak muncul begitu saja, namun muncul dari benturan dengan mitra hulu dan hilir di industri tersebut. Dia menekankan,Standar industri dan industrialisasi produk bergerak maju secara bersamaan. Ini tidak berarti bahwa hanya ada satu standar. Hanya satu standar yang tidak bernilai bagi seluruh industri! Hanya dengan menempatkan spesifikasi di pasar dan menerapkannya di sisi pelanggan, nilai nyata dapat dihasilkan.(Dingxi)

Artikel ini berasal dari NetEase Technology Report.