Artikel ini disintesis oleh Keserbagunaan Industri Semikonduktor (ID: ICVIEWS)

Prosesor AI multiguna generasi kedua Tenstorrent harus diluncurkan sebelum tahun 2025.

Nvidia mendominasi pasar prosesor kecerdasan buatan (AI), mengendalikan lebih dari 80% penjualan, menurut beberapa perkiraan baru-baru ini. Namun Jim Keller, perancang prosesor legendaris dan CEO Tenstorrent saat ini, yakin bahwa Nvidia tidak melayani pasar tertentu dengan baik. Oleh karena itu, terdapat peluang bagi Tenstorrent dan pengembang prosesor AI lainnya.

“Ada banyak pasar yang tidak dilayani dengan baik oleh Nvidia,” kata Jim Keller dalam wawancara dengan media Jepang.

Jim Keller memiliki sejarah yang sangat cemerlang dalam industri komputer, membuat terobosan di AMD, Intel, dan Tesla, dan kini memimpin pengembangan prosesor AI di Tenstorrent. Dari tahun 1998 hingga 1999, Jim Keller mengerjakan arsitektur K7/K8 yang mendukung Athlon di AMD. Dari tahun 2008 hingga 2012, ia memimpin pengembangan prosesor A4 dan A5 di Apple. Dari tahun 2012 hingga 2015, ia memimpin K12 ARM proyek di AMD., proyek arsitektur Zen, dari 2016 hingga 2018, ia mengembangkan chip autopilot FSD di Tesla, dan dari 2018 hingga 2020, ia berpartisipasi dalam proyek misterius di Intel.

Kepemimpinan Jim Keller di Tenstorrent bertujuan untuk memberikan alternatif yang terjangkau dibandingkan GPU Nvidia yang mahal, yang masing-masing berharga $20.000 hingga $30.000 atau lebih. Pendekatan bisnis Tenstorrent dirancang untuk melayani pasar yang belum ditangani secara memadai oleh Nvidia, khususnya di sektor edge. Tenstorrent mengklaim bahwa sistem Galaxy-nya tiga kali lebih efisien dan 33% lebih murah dibandingkan Nvidia DGX, yang mungkin merupakan server AI paling populer di dunia.

Menurut laporan, Tenstorrent diperkirakan akan merilis prosesor AI multiguna generasi kedua sebelum akhir tahun ini, tetapi tidak mengungkapkan nama prosesor tersebut. Menurut peta jalan terbaru Tenstorrent pada musim gugur lalu, perusahaan bermaksud untuk merilis prosesor AI mandiri Black Hole dan chiplet Quasar berdaya rendah dan berbiaya rendah untuk solusi AI multi-chip.

Perusahaan mengklaim prosesor yang akan datang menawarkan efisiensi kinerja yang sebanding dengan GPU AI Nvidia. Efisiensi yang digembar-gemborkan dan biaya yang lebih rendah dicapai sebagian dengan menghindari memori bandwidth tinggi (HBM) dan mendukung GDDR6, yang merupakan hal yang logis untuk prosesor AI tingkat pemula dan mainstream yang dirancang terutama untuk inferensi AI. Pada saat yang sama, Tenstorrent mengatakan arsitekturnya mengonsumsi bandwidth memori lebih sedikit dibandingkan pesaingnya, yang merupakan alasan utama efisiensi yang lebih tinggi dan biaya yang lebih rendah.

Meskipun Tenstorrent belum menguasai pangsa pasar prosesor AI secara signifikan, perusahaan tersebut saat ini berfokus pada solusi AI yang hemat biaya dan terukur yang dapat mengatasi berbagai aplikasi yang saat ini tidak dapat dilayani dengan baik oleh Nvidia. Namun, pasar-pasar ini tidak akan menjadi samudra biru, karena banyak perusahaan akan mencoba untuk mengatasi pasar-pasar ini dengan produk mereka di kuartal mendatang, melawan Nvidia yang sudah mengakar kuat. Daripada bersaing langsung dengan Nvidia, hal ini akan memudahkan pendatang baru untuk mengatasi ceruk pasar yang sebenarnya tidak secara langsung dipenuhi oleh "tim ramah lingkungan".

Pada awal tahun 2023, startup chip AI Kanada Tenstorrent baru-baru ini mengumumkan penyesuaian personel, dan CTO Jim Keller akan menjabat sebagai CEO.

Menariknya, CEO asli Ljubisa Bajic telah bertukar pekerjaan dengan Keller dan akan menjabat sebagai CTO baru.

Keller menulis di platform sosial, Ljubisa Bajic dan saya memutuskan untuk bertukar peran dan terus mengembangkan kecerdasan buatan, produk CPU, dll. untuk memenuhi tantangan komputasi generasi berikutnya.

Tenstorrent didirikan 7 tahun lalu, dan Bajic adalah salah satu pendirinya. Jim Keller bertemu Bajic saat bekerja di AMD dan menjadi investor eksternal pertama Tenstorrent. Kemudian ia resmi bergabung dengan Tenstorrent sebagai CTO pada Januari 2021.

Selama masa jabatannya sebagai CTO, Keller memiliki dua tugas utama. Salah satunya adalah menghadirkan arsitektur RISC-V, yang menjadi dasar pengembangan inti CPU Ascalon oleh tim perusahaan. Yang kedua adalah memperkenalkan David Bennett sebagai chief customer officer. Yang terakhir adalah seorang veteran AMD dan juga pernah menjabat sebagai Presiden Lenovo Jepang dan CEO bisnis komputer pribadi NEC.

Namun, produk komersial Ascalon masih harus menunggu beberapa waktu. Chip BlackHole AI generasi baru Tenstorrent akan dikembangkan berdasarkan desain inti X280 RISC-V SiFive.

Jim Keller menyarankan Nvidia meninggalkan standar swasta

Jim Keller tidak hanya ahli dalam desain chip, tetapi juga pendukung setia teknologi terbuka. Tentu saja, Nvidia menjadi "musuhnya".

Baru-baru ini, Jim Keller mengusulkan agar GPU Blackwell terbaru Nvidia tidak menggunakan protokol standar NVLink pribadi untuk interkoneksi multi-chip dan interkoneksi jaringan, tetapi harus diganti dengan standar Ethernet terbuka, yang dapat menghemat miliaran Dolar Nvidia. Ia juga berpendapat bahwa Nvidia tidak boleh menggunakan solusi InfiniBand miliknya sendiri di jaringan pusat data dan harus beralih ke Ethernet.

Meskipun jaringan NVIDIA Infiniband memiliki latensi rendah dan bandwidth tinggi, hingga 200GbE, Ethernet dapat mencapai 400GbE atau bahkan 800GbE.

AMD, Broadcom, Intel, Meta, Microsoft, Oracle, dan raksasa lainnya juga bekerja sama untuk mengembangkan generasi berikutnya dari Ethernet berkecepatan ultra tinggi (Utlra Ethernet), yang memiliki throughput lebih tinggi dan lebih cocok untuk aplikasi AI dan HPC.

Selain itu, Jim Keller selalu merasa tidak puas dengan ekologi tertutup NVIDIA CUDA dan pernah menyebutnya sebagai rawa, bukan parit.

Arm, Intel, Qualcomm, Samsung, dll juga telah bekerja sama untuk membentuk Unified Acceleration Foundation (UXL). Salah satu tujuannya adalah untuk menggantikan solusi NVIDIA. Bagi Huang Renxun, NVLink dan CUDA adalah hasil dari investasi perusahaannya sebesar miliaran dolar selama bertahun-tahun, dan keduanya juga merupakan artefak untuk melindungi kepentingannya sendiri.

*Penafian: Artikel ini dibuat oleh penulis asli. Isi artikel adalah pendapat pribadinya, kami cetak ulang hanya untuk berbagi dan berdiskusi, bukan berarti kami setuju atau menyetujuinya.