noticias

se acerca el “clúster de 100.000 tarjetas”. los gigantes tecnológicos están compitiendo por el límite de la potencia informática de la ia.

2024-09-26

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

[anteriormente, el director ejecutivo de anthropic también declaró que el costo actual del entrenamiento del modelo de ia es de mil millones de dólares, y en los próximos tres años, esta cifra puede aumentar a 10 mil millones de dólares o incluso 100 mil millones de dólares. ]

la industria considera que el "cúmulo de 10.000 ka" es el "boleto" para esta ronda de competencia de modelos a gran escala. ahora, el "cúmulo de 100.000 ka" se ha convertido en un nuevo terreno elevado para que compitan los gigantes tecnológicos.

"pronto aparecerán más grupos de 100.000 tarjetas", dijo shen dou, vicepresidente ejecutivo de baidu group, en la conferencia baidu zhiyun el 25 de septiembre.

mencionó que en el último año, experimentó un aumento en la demanda de capacitación de modelos por parte de los clientes y que el tamaño del grupo requerido es cada vez mayor. al mismo tiempo, las expectativas de todos sobre la disminución continua de los costos de inferencia de modelos también son cada vez mayores. y más alto. estos han planteado requisitos más altos para la estabilidad y eficacia de la gestión de gpu. el mismo día, baidu actualizó su plataforma informática heterogénea de ia baige 4.0, que tiene la capacidad de implementar y gestionar grupos de 100.000 tarjetas.

de hecho, la explosión de esta ronda de inteligencia artificial generativa se debe en parte al "gran milagro" de la industria, que ha logrado un salto en el rendimiento de los modelos grandes al aumentar continuamente la potencia informática. por lo tanto, la industria considera que el clúster wanka es la "configuración estándar" para ingresar al círculo central de la ia. pero ahora ni siquiera wanka puede satisfacer plenamente la demanda. no solo baidu, sino que cada vez más gigantes de la industria están implementando clústeres de 100.000 tarjetas para lograr una mayor eficiencia informática y un rendimiento de modelos grandes.

en la reciente conferencia de yunqi, alibaba cloud demostró una nueva infraestructura en torno a la era de la ia, en la que un único clúster de red se ha ampliado al nivel de 100.000 tarjetas y está desarrollando de todo, desde chips, servidores, redes y almacenamiento hasta refrigeración. suministro de energía y centros de datos reconstrucción de infraestructura de inteligencia artificial avanzada para el futuro.