berita

Pengumuman resmi Apple: Model yang mendukung Apple Intelligence dilatih menggunakan chip khusus Google

2024-07-30

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Penulis artikel ini: Li Dan

Sumber: AI Keras

Dokumen publik menunjukkan bahwa pengembangan sistem kecerdasan buatan (AI) milik Apple, Apple Intelligence, tidak terlepas dari dukungan chip khusus Google.

Pada hari Senin, 29 Juli, Waktu Bagian Timur, situs web resmi Apple menerbitkan makalah teknis yang merinci beberapa model bahasa dasar yang dikembangkan untuk mendukung sistem kecerdasan pribadi Apple, Apple Intelligence, termasuk sekitar 3 miliar model bahasa yang digunakan untuk berjalan secara efisien di perangkat sisi klien "Apple Basic Model" (AFM), dan model bahasa server besar - server AFM yang dirancang untuk arsitektur cloud AI Apple "Private Cloud Compute".

Dalam makalah tersebut, Apple memperkenalkan bahwa AFM sisi klien dan AFM server adalah anggota dari keluarga besar model generatif yang dikembangkan oleh Apple. Dalam makalah tersebut, Apple mengungkapkan bahwa model pelatihan menggunakan chip AI ASIC TPUv4 generasi keempat dan chip TPUv5 generasi terbaru yang dikembangkan oleh Google. Artikel itu berbunyi:

"Kami melatih server AFM dari awal pada 8192 chip TPUv4, menggunakan panjang urutan 4096 dan ukuran batch 4096 urutan untuk melakukan 6,3 triliun pelatihan token."
"AFM sisi terminal dilatih pada chip TPUv5p 2048."

Dalam makalah setebal 47 halaman, Apple tidak menyebut nama Google atau Nvidia, tetapi mengatakan bahwa layanan AFM dan AFM-nya dilatih pada "cluster cloud TPU". Artinya Apple menyewa server dari penyedia layanan cloud untuk melakukan penghitungan.

Faktanya, selama Konferensi Pengembang Sedunia (WWDC) pada bulan Juni tahun ini, media telah menemukan rincian dokumen teknis yang dirilis oleh Apple bahwa Google telah menjadi pemenang lain dari upaya Apple di bidang AI. Insinyur Apple menggunakan perangkat lunak kerangka kerja yang dikembangkan sendiri oleh perusahaan dan berbagai perangkat keras untuk membangun model dasar, termasuk unit pemrosesan tensor (TPU) yang hanya tersedia di Google Cloud. Namun Apple tidak mengungkapkan seberapa besar ketergantungan Apple pada chip dan perangkat lunak Google dibandingkan pemasok perangkat keras AI lainnya seperti Nvidia.

Oleh karena itu, komentar di media sosial X pada hari Senin menunjukkan bahwa ada berita tentang Apple yang menggunakan chip Google pada bulan Juni, dan sekarang kami memiliki detail lebih lanjut tentang tumpukan pelatihan tersebut.


Beberapa komentar mengatakan bahwa Apple tidak membenci Nvidia, tapi TPU lebih cepat. Ada juga yang berkomentar bahwa TPU lebih cepat, jadi masuk akal jika Apple menggunakannya. Tentu saja, mungkin juga lebih murah dibandingkan chip Nvidia.


Komentar media pada hari Senin mengatakan bahwa TPU Google awalnya dibuat untuk beban kerja internal dan sekarang digunakan secara lebih luas. Keputusan Apple untuk menggunakan chip Google untuk melatih model menunjukkan bahwa beberapa raksasa teknologi mungkin sedang mencari dan menemukan alternatif selain chip AI Nvidia dalam hal pelatihan AI.

The Wall Street Journal menyebutkan bahwa minggu lalu, CEO Meta Zuckerberg dan Alphabet serta CEO Google Pichai mengisyaratkan dalam pidato mereka bahwa perusahaan mereka dan perusahaan teknologi lainnya mungkin telah berinvestasi berlebihan dalam infrastruktur AI. Namun mereka semua mengakui bahwa risiko bisnis jika tidak melakukan hal tersebut terlalu tinggi.

Zuckerberg berkata:

“Konsekuensi dari keterbelakangan adalah Anda akan dirugikan dalam teknologi yang paling penting dalam 10 hingga 15 tahun ke depan.”

Pichai berkata:

AI membutuhkan biaya yang besar, namun risiko kurangnya investasi bahkan lebih besar. Google mungkin telah berinvestasi terlalu banyak pada infrastruktur AI, terutama termasuk pembelian GPU Nvidia. Sekalipun pertumbuhan AI melambat, pusat data dan chip komputer yang dibeli perusahaan dapat digunakan untuk tujuan lain. Bagi kami, risiko underinvesting jauh lebih besar dibandingkan risiko overinvesting.