Questo articolo è sintetizzato da Semiconductor Industry Versatility (ID: ICVIEWS)

Il processore AI multiuso di seconda generazione di Tenstorrent dovrebbe essere lanciato prima del 2025.

Nvidia domina il mercato dei processori di intelligenza artificiale (AI), controllando oltre l’80% delle vendite, secondo alcune stime recenti. Ma Jim Keller, il leggendario progettista di processori e attuale CEO di Tenstorrent, ritiene che Nvidia non stia servendo bene alcuni mercati. Pertanto, esiste un'opportunità per Tenstorrent e altri sviluppatori di processori AI.

"Ci sono molti mercati in cui Nvidia non serve bene", ha detto Jim Keller in un'intervista ai media giapponesi.

Jim Keller ha una storia davvero illustre nel settore informatico, facendo scalpore presso AMD, Intel e Tesla e ora guidando lo sviluppo di processori AI presso Tenstorrent. Dal 1998 al 1999, Jim Keller ha lavorato all'architettura K7/K8 che supportava Athlon presso AMD. Dal 2008 al 2012, ha assunto la guida dello sviluppo dei processori A4 e A5 presso Apple. Dal 2012 al 2015, ha presieduto il K12 ARM presso AMD, progetto di architettura Zen, dal 2016 al 2018 ha sviluppato chip autopilota FSD presso Tesla e dal 2018 al 2020 ha partecipato a progetti misteriosi presso Intel.

La leadership di Jim Keller presso Tenstorrent mira a fornire alternative convenienti alle costose GPU di Nvidia, che costano dai 20.000 ai 30.000 dollari o più ciascuna. L'approccio commerciale di Tenstorrent è progettato per servire i mercati che Nvidia non si rivolge adeguatamente, in particolare quelli periferici. Tenstorrent afferma che il suo sistema Galaxy è tre volte più efficiente e il 33% più economico di Nvidia DGX, che potrebbe essere il server AI più popolare al mondo.

Secondo i rapporti, Tenstorrent dovrebbe rilasciare il suo processore AI multiuso di seconda generazione entro la fine di quest'anno, ma non ha rivelato il nome del processore. Secondo l'ultima roadmap di Tenstorrent dello scorso autunno, la società intende rilasciare il suo processore AI autonomo Black Hole e i chiplet Quasar a basso consumo e a basso costo per soluzioni AI multi-chip.

L'azienda afferma che i suoi prossimi processori offrono efficienze prestazionali paragonabili alle GPU AI di Nvidia. L'efficienza pubblicizzata e i costi inferiori si ottengono in parte evitando la memoria a larghezza di banda elevata (HBM) a favore di GDDR6, che è una cosa logica per i processori AI entry-level e mainstream progettati principalmente per l'inferenza AI. Allo stesso tempo, Tenstorrent afferma che la sua architettura consuma meno larghezza di banda della memoria rispetto ai suoi concorrenti, il che è una delle ragioni principali della sua maggiore efficienza e dei costi inferiori.

Sebbene Tenstorrent debba ancora conquistare una quota significativa del mercato dei processori AI, la società è attualmente concentrata su soluzioni AI convenienti e scalabili in grado di affrontare una varietà di applicazioni che Nvidia attualmente non può servire adeguatamente. Tuttavia, questi mercati non saranno oceani blu, poiché molte aziende cercheranno di affrontare questi mercati con i loro prodotti nei prossimi trimestri, combattendo la radicata Nvidia. Piuttosto che competere direttamente con Nvidia, renderebbe più facile per i nuovi concorrenti affrontare nicchie che in realtà non sono direttamente soddisfatte dai "team verdi".

All’inizio del 2023, la startup canadese di chip AI Tenstorrent ha recentemente annunciato adeguamenti del personale e il CTO Jim Keller assumerà la posizione di CEO.

È interessante notare che il CEO originale Ljubisa Bajic ha scambiato il lavoro con Keller e fungerà da nuovo CTO.

Keller ha scritto sulla piattaforma social, Ljubisa Bajic e io abbiamo deciso di scambiarci i ruoli e continuare a sviluppare intelligenza artificiale, prodotti CPU, ecc. per affrontare la prossima generazione di sfide informatiche.

Tenstorrent è stata fondata 7 anni fa e Bajic è uno dei cofondatori. Jim Keller ha incontrato Bajic mentre lavorava presso AMD ed è diventato il primo investitore esterno di Tenstorrent. Successivamente è entrato ufficialmente in Tenstorrent come CTO nel gennaio 2021.

Durante il suo mandato come CTO, Keller aveva principalmente due compiti. Il primo era portare l'architettura RISC-V, sulla base della quale il team dell'azienda ha sviluppato il core della CPU Ascalon. Il secondo è quello di presentare David Bennett come chief customer officer. Quest'ultimo è un veterano di AMD ed è stato anche presidente di Lenovo Japan e CEO del settore personal computer di NEC.

Tuttavia, i prodotti commerciali di Ascalon dovranno ancora aspettare un po’ di tempo. Il chip AI BlackHole di nuova generazione di Tenstorrent sarà sviluppato sulla base del design del core X280 RISC-V di SiFive.

Jim Keller suggerisce che Nvidia abbandoni gli standard privati

Jim Keller non è solo un maestro nella progettazione dei chip, ma anche un fedele sostenitore delle tecnologie aperte. Ha sempre odiato quelle tecnologie chiuse. Naturalmente Nvidia divenne il suo "nemico".

Recentemente, Jim Keller ha proposto che l'ultima GPU Blackwell di Nvidia non dovrebbe utilizzare il protocollo standard privato NVLink per l'interconnessione multi-chip e l'interconnessione di rete, ma dovrebbe essere sostituita dallo standard aperto Ethernet, che può far risparmiare miliardi di dollari a Nvidia. Ritiene inoltre che Nvidia non dovrebbe utilizzare la propria soluzione InfiniBand nella rete dei data center e dovrebbe passare a Ethernet.

Sebbene la rete NVIDIA Infiniband abbia una bassa latenza e un'elevata larghezza di banda, fino a 200 GbE, Ethernet può raggiungere 400 GbE o addirittura 800 GbE.

Anche AMD, Broadcom, Intel, Meta, Microsoft, Oracle e altri giganti stanno collaborando per sviluppare la prossima generazione di Ethernet ad altissima velocità (Utlra Ethernet), che ha un throughput più elevato ed è più adatta per applicazioni AI e HPC.

Inoltre, Jim Keller è sempre stato insoddisfatto dell'ecologia chiusa di NVIDIA CUDA e una volta l'ha definita una palude piuttosto che un fossato.

Arm, Intel, Qualcomm, Samsung, ecc. hanno anche collaborato per formare la Unified Acceleration Foundation (UXL). Uno degli obiettivi è sostituire la soluzione NVIDIA. Per Huang Renxun, sia NVLink che CUDA sono il frutto degli investimenti di miliardi di dollari effettuati dalla sua azienda nel corso degli anni, e sono anche artefatti per proteggere i propri interessi.

*Disclaimer: questo articolo è stato creato dall'autore originale. Il contenuto dell'articolo è la sua opinione personale. La nostra ristampa è solo per la condivisione e la discussione Ciò non significa che siamo d'accordo o d'accordo con esso. In caso di obiezioni, contattare il backend.