noticias

NVIDIA presenta el sistema de superchip Blackwell GB200: el rendimiento de inferencia de IA se multiplica por 1,5

2024-08-26

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Anteriormente se informó que el suministro de la nueva generación de GPU con arquitectura NVIDIA Blackwell se había retrasado. Sin embargo, el funcionario no lo admitió ni lo negó. En cambio, silenciosamente sacaron un sistema de servidor basado en la súper GPU GB200 de nueva generación. chip y lo demostró.

GB200 Grace Blackwell incluye dos GPU B200 y una CPU Grace, con un consumo total de energía de hasta 2700W.

Entre ellos, el B200 tiene 204 mil millones de transistores, memoria HBM3E de 8096 bits y 192 GB (ancho de banda de 8 TB/s), el rendimiento alcanza los 9 pflops (9 mil billones de veces por segundo) y el consumo de energía alcanza los 1000 W por primera vez.


El servidor mostrado por NVIDIA es como una obra de arte, con cables de color azul y cobre, una gran cantidad de tubos de cobre de diámetro ultragrueso y disipadores de calor ultragrandes, formando un gigante.

NVIDIA no desveló la configuración concreta, sólo que se divide en dos versiones con y sin NVSwitch, con un ancho de banda total de hasta 14,4TB/s.

En términos de rendimiento, solo se proporciona un dato: el rendimiento de inferencia de IA del modelo grande de parámetros Llama 3.1 de 70 mil millones se mejora 1,5 veces en comparación con el H200.

¿Qué hacer con la disipación de calor? NVIDIA reveló que está desarrollando un sistema de refrigeración por agua caliente que puede reducir el consumo de energía en un 28%.


Sin embargo, NVIDIA aún no ha dado una fecha de envío para los servidores GPU Blackwell, que se estima que será en el cuarto trimestre de este año.

En la próxima conferencia Hot Chip 2024, NVIDIA explicará en detalle la GPU Blackwell y revelará más noticias sobre las futuras CPU Vera y GPU Rubin.