berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

[sebelumnya, ceo anthropic juga menyatakan bahwa biaya pelatihan model ai saat ini adalah us$1 miliar, dan dalam tiga tahun ke depan, jumlah ini mungkin meningkat menjadi us$10 miliar atau bahkan us$100 miliar. ]

"kluster 10.000-ka" dianggap oleh industri sebagai "tiket" untuk putaran kompetisi model berskala besar ini. kini, "kluster 100.000-ka" telah menjadi arena baru bagi raksasa teknologi untuk bersaing.

"lebih dari 100.000 cluster kartu akan segera muncul." shen dou, wakil presiden eksekutif baidu group, mengatakan pada konferensi baidu zhiyun pada 25 september.

dia menyebutkan bahwa dalam setahun terakhir, dia telah mengalami lonjakan permintaan pelanggan untuk pelatihan model, dan ukuran cluster yang dibutuhkan semakin besar. pada saat yang sama, ekspektasi semua orang terhadap terus menurunnya biaya inferensi model juga semakin tinggi dan lebih tinggi. hal ini menuntut stabilitas dan efektivitas manajemen gpu yang lebih tinggi. pada hari yang sama, baidu meningkatkan platform komputasi heterogen ai baige 4.0, yang memiliki kemampuan untuk menyebarkan dan mengelola 100.000 cluster kartu.

faktanya, di balik ledakan kecerdasan buatan generatif ini sebagian disebabkan oleh "keajaiban besar". industri telah mencapai lompatan dalam kinerja model-model besar dengan terus meningkatkan tumpukan daya komputasi. oleh karena itu, cluster wanka dianggap oleh industri sebagai "konfigurasi standar" untuk memasuki lingkaran inti ai. namun kini, wanka pun belum bisa sepenuhnya memenuhi permintaan tersebut. tidak hanya baidu, namun semakin banyak raksasa industri yang menerapkan cluster 100.000 kartu untuk mengejar efisiensi komputasi yang lebih tinggi dan kinerja model yang besar.

pada konferensi yunqi baru-baru ini, alibaba cloud mendemonstrasikan infrastruktur baru seputar era ai, di mana satu cluster jaringan telah diperluas hingga level 100.000 kartu. alibaba cloud sedang mengembangkan segalanya mulai dari chip, server, jaringan, dan penyimpanan hingga pendinginan. pasokan listrik, dan pusat data. membangun kembali infrastruktur ai yang canggih untuk masa depan.