berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Jin Lei berasal dari Kuil Aofei
Qubit |. Akun publik QbitAI

Untuk Intel"Lampu", menerobos masalah daya komputasi yang sulit di era model besar——

Meluncurkan terintegrasi penuh pertama di industriOCI(Interkoneksi Komputasi Optik).

△Sumber: Intel

Anda harus tahu bahwa ketika model AI besar mengikuti Hukum Penskalaan, untuk mencapai hasil yang lebih baik, baik skala model maupun skala data berkembang menuju tren yang lebih besar.

Hal ini akan menyebabkan model AI besar mengajukan persyaratan yang lebih tinggi pada seluruh komputasi dan penyimpanan, termasuk komunikasi I/O perantara, pada tingkat daya komputasi.

Terobosan Intel kali ini memang tepatkomunikasi masukan/keluaran：

Di CPU dan GPU,Gunakan I/O optik alih-alih I/O elektrik untuk transmisi data.

Apa gunanya?

Pendeknya,Jarak transmisi data jauh lebih jauh，Jumlahnya besar，Konsumsi daya rendah——"Fisik" lebih cocok untuk model AI besar.

△Sumber: Intel

Jadi mengapa Intel menggunakan "ringan"? Bagaimana penerapannya secara spesifik?

Menggunakan “ringan”, ia berubah dari gerbong menjadi truk

Metode I/O kelistrikan tradisional (sambungan kabel tembaga) tentunya memiliki kelebihan, seperti mendukung kepadatan bandwidth yang tinggi dan konsumsi daya yang rendah, namun permasalahan fatalnya adalahJarak transmisi relatif pendek (kurang dari 1 meter)。

Tidak ada masalah jika ditempatkan di rak, namun daya komputasi model AI yang besar sering kali berada pada level cluster server.

Tidak hanya menempati area yang luas, tetapi juga mencakup N rak. Panjang kabel harus puluhan bahkan ratusan meter, dan konsumsi daya yang cukup tinggi akan memakan seluruh daya yang disuplai ke rak bahwa tidak ada daya yang cukup untuk melakukan operasi baca dan tulis komputasi dan chip memori.

di samping itu,Rasio deposit terhadap rekeningDi sisi lain, justru karena karakteristik "besar" dari model besar maka rasio asli membaca sekali dan melakukan ratusan penghitungan kini mendekati 1:1.

△Sumber: Intel

Hal ini memerlukan metode baru yang dapat meningkatkan daya komputasi dan kepadatan penyimpanan sekaligus mengurangi konsumsi daya dan memperkecil ukurannya, sehingga menempatkan lebih banyak komputasi dan penyimpanan dalam ruang terbatas.

Dengan I/O optik, masalahnya terpecahkan:

Ini dapat mendukung 64 saluran 32Gbps dalam satu arah pada serat optik hingga 100 meter.

Metafora gambar, sama seperti menggunakanpengangkutan(kapasitas dan jarak terbatas) untuk digunakanmobil dan trukuntuk mengirimkan barang (jumlah lebih besar dan jarak lebih jauh).

Tidak hanya itu, bahkan jika ingin menyelesaikan pekerjaan transmisi data dengan kepadatan lebih tinggi dan lebih fleksibel dalam jarak yang relatif pendek, OCI dapat dibandingkan dengansepeda motor, lebih cepat dan lebih fleksibel.

Perlu disebutkan bahwa metode OCI ini tidak hanya bersifat teoretis.

Menurut Intel, mereka telah memanfaatkan teknologi fotonik silikon yang telah terbukti untuk mengintegrasikan sirkuit terintegrasi fotonik silikon (PIC) yang berisi laser on-chip, amplifier optik, dan sirkuit terintegrasi elektronik.

Dan sebelumnya telah ditunjukkan bahwa chip OCI yang dikemas dengan CPU-nya sendiri juga dapat diintegrasikan dengan SOC (system-on-chip) seperti CPU, GPU, dan IPU generasi berikutnya.

Belum selesai, Intel telah mengirimkan lebih dari 8 juta sirkuit terintegrasi silikon fotonik, di mana lebih dari 32 juta laser kini digunakan.

△Sumber: Intel

Jadi pertanyaan selanjutnya adalah:

Bagaimana OCI Intel "disempurnakan"?

Wakil Presiden Intel Research dan Direktur Intel China ResearchLagu JiqiangSelama proses komunikasi, beliau melakukan analisis dan interpretasi mendalam terhadap masalah ini.

△Song Jiqiang, Wakil Presiden Intel Research Institute dan Direktur Intel China Research Institute

Teknologi fotonik silikon menggabungkan dua penemuan terpenting abad ke-20: sirkuit terpadu silikon dan laser semikonduktor.

Teknologi ini mendukung kecepatan transfer data yang lebih cepat dalam jarak yang lebih jauh dibandingkan perangkat elektronik tradisional, sekaligus memanfaatkan efisiensi manufaktur silikon volume tinggi Intel.

Teknologi integrasi fotonik silikon yang dirilis oleh Intel kali ini, chip OCI telah mencapai tingkat pengemasan bersama optoelektronik.

Paket bersama optoelektronik ini menempatkan sirkuit terintegrasi fotonik silikon (PIC) dan sirkuit terintegrasi elektronik (EIC) pada substrat untuk membentuk chip OCI, yang berfungsi sebagai komponen koneksi terintegrasi.

Artinya xPU, termasuk CPU, dan GPU masa depan dapat dikemas dengan chip OCI.

Inti OCI mengubah semua sinyal I/O listrik dari CPU pusat data menjadi cahaya, dan mentransmisikannya satu sama lain antara node atau sistem dari dua pusat data melalui serat optik.

Kecepatan transmisi data dua arah saat ini mencapai 4Tbps. Protokol transmisi lapisan atasnya kompatibel dengan PCIe 5.0 dan mendukung 64 saluran 32Gbps dalam satu arah, yang cukup di pusat data saat ini:

Ia menggunakan 8 pasang serat optik dan hanya mengkonsumsi 5 picojoule (pJ) per bit, atau 10-12 joule. Data ini tiga kali lebih rendah daripada konsumsi daya modul transceiver optik pluggable (yang terakhir adalah 15 picojoule per bit). ).

△Sumber: Intel

Dalam saluran transmisi optik, sebenarnya memiliki 8 pita berbeda. Interval frekuensi setiap pita adalah 200GHz, menempati total jarak spektrum 1,6THz untuk transmisi.

Cahaya berkisar dari cahaya tampak hingga cahaya tak kasat mata. Faktanya, lebar spektrumnya sangat luas Mulai dari THz, mendekati komunikasi optik.

Jadi di bidang apa partikel inti OCI akan digunakan di masa depan?

Dalam hal ini, Song Jiqiang berkata:

Salah satunya adalah Anda dapat menggunakannya untuk mencapai komunikasi, dan Anda juga dapat mengemasnya dengan chip komputasi seperti CPU dan GPU yang dikemas dengan sangat erat.
Melalui integrasi fotonik silikon dan teknologi pengemasan canggih, pengemasan canggih Intel juga memiliki banyak teknologi berbeda untuk mencapai chip I/O dengan kepadatan lebih tinggi, dan kemudian menggabungkannya dengan xPU lain untuk membentuk berbagai jenis berdasarkan chip di masa depan dan chip interkoneksi akan memiliki prospek penerapan yang sangat bagus.

Dilihat dari peta jalan evolusi kinerja chip antarmuka OCI I/O, saat ini dapat mencapai solusi teknis kecepatan transmisi 32Tbps, terutama mengandalkan peningkatan tiga indikator yang berulang dan stabil, yaitu:

• Ada 8 pita stabil dalam serat optik
• Kecepatan transmisi data optik setiap band adalah 32Gbps
• Dapat menarik 8 pasang serat optik secara bersamaan tanpa saling mempengaruhi

Dikalikan dengan ketiga indikator tersebut, kecepatan transmisi data saat ini adalah 2Tbps satu arah dan 4Tbps dua arah. Kedepannya, kami dapat terus berkembang dan secara bertahap meningkatkan kemampuan bandwidth.

△Sumber: Intel

Terakhir, Song Jiqiang juga menjelaskan perbedaan Intel dalam teknologi integrasi fotonik silikon:

Alasan utamanya adalah kami membangun pemancar laser frekuensi tinggi pada wafer dan mengintegrasikan amplifier optik silikon. Ini adalah dua teknologi yang relatif inti, keduanya diproduksi pada tingkat wafer.
Selanjutnya, kita dapat memproduksi secara massal laser yang sangat terintegrasi, karena keunggulan laser on-chip ini adalah dapat ditransmisikan menggunakan serat optik biasa.
Dan dalam hal stabilitas, hampir samaDibutuhkan 10 miliar jam agar kesalahan terjadi。

Jadi apa pendapat Anda tentang pilihan Intel yang "ringan"? Selamat meninggalkan pesan di area komentar untuk berdiskusi.

Tautan referensi:
[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfA
[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Menunjukkan-OCI-Optical-IO-Chiplet-Dikemas-Bersama-CPU-di/post/1582541
[3]https://www.youtube.com/watch?v=Fml3yuPR2AU