Este artículo es un resumen de Semiconductor Industry Versatility (ID: ICVIEWS)

El procesador de IA multiusos de segunda generación de Tenstorrent debería lanzarse antes de 2025.

Nvidia domina el mercado de procesadores de inteligencia artificial (IA), controlando más del 80% de las ventas, según algunas estimaciones recientes. Pero Jim Keller, el legendario diseñador de procesadores y actual director ejecutivo de Tenstorrent, cree que Nvidia no está sirviendo bien a ciertos mercados. Por lo tanto, existe una oportunidad para Tenstorrent y otros desarrolladores de procesadores de IA.

"Hay muchos mercados a los que Nvidia no atiende bien", dijo Jim Keller en una entrevista con los medios japoneses.

Jim Keller tiene una historia verdaderamente distinguida en la industria informática, ha causado sensación en AMD, Intel y Tesla, y ahora lidera el desarrollo de procesadores de inteligencia artificial en Tenstorrent. De 1998 a 1999, Jim Keller trabajó en la arquitectura K7/K8 que soportaba Athlon en AMD. De 2008 a 2012, tomó la iniciativa en el desarrollo de los procesadores A4 y A5 en Apple. De 2012 a 2015, presidió el K12 ARM. Proyecto en AMD, proyecto de arquitectura Zen, de 2016 a 2018 desarrolló chips de piloto automático FSD en Tesla, y de 2018 a 2020 participó en proyectos misteriosos en Intel.

El liderazgo de Jim Keller en Tenstorrent tiene como objetivo proporcionar alternativas asequibles a las costosas GPU de Nvidia, que cuestan entre 20.000 y 30.000 dólares o más cada una. El enfoque comercial de Tenstorrent está diseñado para atender mercados que Nvidia no está abordando adecuadamente, particularmente en el borde. Tenstorrent afirma que su sistema Galaxy es tres veces más eficiente y un 33% más barato que Nvidia DGX, que puede ser el servidor de IA más popular del mundo.

Según los informes, se espera que Tenstorrent lance su procesador de IA multipropósito de segunda generación antes de finales de este año, pero no reveló el nombre del procesador. Según la última hoja de ruta de Tenstorrent del otoño pasado, la compañía tiene la intención de lanzar su procesador de IA independiente Black Hole y chiplets Quasar de bajo consumo y bajo costo para soluciones de IA de múltiples chips.

La compañía afirma que sus próximos procesadores ofrecen eficiencias de rendimiento comparables a las GPU con inteligencia artificial de Nvidia. La eficiencia promocionada y el menor costo se logran en parte evitando la memoria de gran ancho de banda (HBM) en favor de GDDR6, lo cual es algo lógico para los procesadores de IA de nivel básico y convencionales diseñados principalmente para la inferencia de IA. Al mismo tiempo, Tenstorrent afirma que su arquitectura consume menos ancho de banda de memoria que sus competidores, lo cual es una razón clave para su mayor eficiencia y menores costos.

Si bien Tenstorrent aún tiene que capturar una participación significativa del mercado de procesadores de inteligencia artificial, la compañía actualmente se centra en soluciones de inteligencia artificial rentables y escalables que puedan abordar una variedad de aplicaciones que Nvidia actualmente no puede atender adecuadamente. Sin embargo, estos mercados no serán océanos azules, ya que muchas empresas intentarán abordarlos con sus productos en los próximos trimestres, luchando contra la arraigada Nvidia. En lugar de competir frontalmente con Nvidia, facilitaría a los nuevos participantes abordar nichos que en realidad no son atendidos directamente por los "equipos ecológicos".

A principios de 2023, la startup canadiense de chips de IA Tenstorrent anunció recientemente ajustes de personal y el CTO Jim Keller se desempeñará como CEO.

Curiosamente, la directora ejecutiva original, Ljubisa Bajic, intercambió trabajos con Keller y se desempeñará como la nueva directora de tecnología.

Keller escribió en la plataforma social, Ljubisa Bajic y yo decidimos intercambiar roles y continuar desarrollando inteligencia artificial, productos de CPU, etc. para enfrentar la próxima generación de desafíos informáticos.

Tenstorrent se fundó hace 7 años y Bajic es uno de los cofundadores. Jim Keller conoció a Bajic mientras trabajaba en AMD y se convirtió en el primer inversor externo de Tenstorrent. Luego se unió oficialmente a Tenstorrent como CTO en enero de 2021.

Durante su mandato como CTO, Keller tuvo principalmente dos tareas: una era traer la arquitectura RISC-V, en base a la cual el equipo de la empresa desarrolló el núcleo de CPU Ascalon. El segundo es presentar a David Bennett como director de atención al cliente. Este último es un veterano de AMD y también se desempeñó como presidente de Lenovo Japón y director ejecutivo del negocio de computadoras personales de NEC.

Sin embargo, los productos comerciales de Ascalon aún tendrán que esperar algún tiempo. El chip BlackHole AI de nueva generación de Tenstorrent se desarrollará basándose en el diseño del núcleo X280 RISC-V de SiFive.

Jim Keller sugiere que Nvidia abandone los estándares privados

Jim Keller no sólo es un maestro en el diseño de chips, sino también un fiel defensor de las tecnologías abiertas. Siempre ha odiado esas tecnologías cerradas. Naturalmente, Nvidia se convirtió en su "enemigo".

Recientemente, Jim Keller propuso que la última GPU Blackwell de Nvidia no debería utilizar el protocolo estándar privado NVLink para la interconexión de múltiples chips y la interconexión de redes, sino que debería ser reemplazada por el estándar abierto Ethernet, que puede ahorrarle a Nvidia miles de millones de dólares. También cree que Nvidia no debería utilizar su propia solución InfiniBand en la red del centro de datos y debería cambiar a Ethernet.

Aunque la red NVIDIA Infiniband tiene baja latencia y gran ancho de banda, hasta 200 GbE, Ethernet puede alcanzar 400 GbE o incluso 800 GbE.

AMD, Broadcom, Intel, Meta, Microsoft, Oracle y otros gigantes también están cooperando para desarrollar la próxima generación de Ethernet de ultra alta velocidad (Utlra Ethernet), que tiene un mayor rendimiento y es más adecuada para aplicaciones de IA y HPC.

Además, Jim Keller siempre ha estado descontento con la ecología cerrada de NVIDIA CUDA y una vez la llamó pantano en lugar de foso.

Arm, Intel, Qualcomm, Samsung, etc. también han cooperado para formar la Unified Acceleration Foundation (UXL). Uno de los objetivos es reemplazar la solución de NVIDIA. Para Huang Renxun, tanto NVLink como CUDA son el fruto de la inversión de miles de millones de dólares de su empresa a lo largo de los años, y también son artefactos para proteger sus propios intereses.

*Descargo de responsabilidad: este artículo fue creado por el autor original. El contenido del artículo es su opinión personal. Nuestra reimpresión es solo para compartir y discutir. No significa que estemos de acuerdo o de acuerdo con él. Si tiene alguna objeción, comuníquese con el backend.