noticias

intelligent things informó el 13 de septiembre que, según the information, karan batta, vicepresidente senior del gigante de software oracle (oracle cloud infrastructure), dijo que aunque nvidia está en auge en la venta de chips para centros de datos de inteligencia artificial, algunos clientes que desarrollan ia están recurriendo a los más pequeños. rival de amd.

oracle reconoce la posición dominante de nvidia en el mercado de chips, pero también cree que necesita agregar algo de competencia para controlar los costos de desarrollo de hardware.

los productos nvidia pueden aumentar los precios y muchos clientes están preocupados por esto.

los ejecutivos de oracle dijeron que el hardware de amd puede ayudar efectivamente a la compañía a prevenir crisis derivadas de la escasez de suministro de chips nvidia, que ha existido durante la mayor parte del año pasado.

aparte decorporación oráculoademás, los proveedores de servicios en la nube como microsoft también han reducido su exposición a los gigantes de la informática con ia.nvidiaintención de depender.

1. los recortes de suministro de nvidia se han convertido en la norma y los clientes están recurriendo a amd.

karan batta dijo: "descubrimos que lograr la inferencia de chips no necesariamente tiene que estar vinculado a un proveedor específico". karan batta cree que en cualquier momento.como nvidia domina el mercado de chips para servidores, necesita competencia para reducir los costos de hardware.

ya sea desarrollando aplicaciones de ia de forma independiente o comprando dichas aplicaciones a proveedores de software,una mayor competencia permitirá a las empresas controlar los costos de inferencia de la ia.

es posible que el último chip de servidor insignia de amd en 2023 no sea tan poderoso como el último chip insignia h100 de nvidia en 2022, pero los ejecutivos de oracle y microsoft creen queno les queda más remedio que apoyar a amd para fomentar la competencia.karan batta añadió: "amd está poniendo mucho esfuerzo en ello y está haciendo un gran trabajo mejorando el rendimiento del chip".

karan batta piensa:el uso de hardware amd por parte de oracle también le ayuda a protegerse contra posibles escasez de suministro de nvidia en el futuro. esta escasez se produjo durante gran parte del año pasado.

karan batta se negó a revelar detalles específicos o nombres de clientes, pero sus comentarios indican que oracle espera reducir su dependencia del gigante de la informática de inteligencia artificial nvidia, una medida similar a la de otros proveedores de servicios en la nube como microsoft.

además, los costos de alquiler de chips de nvidia para inferencia han ido cayendo, pero sus chips insignia de ia de próxima generación pueden cambiar eso. otros clientes de nvidia han expresado en privado preocupaciones similares,les preocupa que si amd u otras empresas no aprovechan la cuota de mercado de nvidia, los productos de nvidia seguirán siendo caros.

aunque hasta el momento esto no ha sucedido.

amd dijo que los ingresos de sus centros de datos aumentaron un 115% en el trimestre de junio a 2.800 millones de dólares en comparación con el mismo período del año pasado, mientras que los ingresos del centro de datos de nvidia aumentaron un 154% en el trimestre de julio a 26.300 millones de dólares.

▲ cuadro comparativo de ingresos de centros de datos de nvidia y amd (fuente: the information)

2. oracle está cooperando con openai y xai para aumentar la escala de los grupos de chips

mientras tanto, oracle y otros proveedores de nube están en auge, alquilando más servidores nvidia a clientes como openai y xai de elon musk.

en el mercado de alquiler de servidores de ee. uu., oracle ocupa el cuarto lugar detrás del servicio en la nube de amazon, la tecnología en la nube de microsoft azure y google cloud.oracle generó 2.400 millones de dólares en ingresos de este negocio, un 45% más año tras año.

oracle ha ingresado relativamente tarde a la computación en la nube, pero tiene algo de suerte porque el año pasado coincidió con una avalancha de nuevas empresas de inteligencia artificial para adquirir servidores en la nube. oracle no ha desarrollado un modelo de lenguaje tan grande como openai gpt-4, por lo que no representa una amenaza competitiva para los clientes de desarrollo de ia, lo que le otorga una ventaja en el mercado.

ahora oracle busca capturar una mayor participación del mercado de capacitación de modelos de ia, cofundadorlarry ellisonlarry ellison dijo el lunes que oracle está diseñando un centro de datos con una capacidad de más de mil millones de vatios, que sería suficiente para alimentar una ciudad como san francisco.

karan batta se negó a revelar detalles del centro de datos ni a anunciar cuándo estará operativo. para respaldar su expansión, oracle aumentará la capacidad de conectar grupos de chips de ia para que puedan funcionar como una sola computadora, una configuración ideal para entrenar nuevos modelos de lenguaje grandes, dijo.

esas mejoras incluyen cambiar la forma en que oracle enfría los chips que generan calor y construir túneles para que los cables conecten chips en diferentes edificios para que no tengan que estar todos en la misma ubicación.

él dijo,oracle planea al menos duplicar el tamaño de su grupo de chips de 64.000 gpu a más de 128.000. pero no especificó cuándo.

además, karan batta cree que oracle aún puede beneficiarse de la necesidad de capacitación en inteligencia artificial incluso si las nuevas empresas utilizan otros servicios en la nube para desarrollar sus modelos centrales.

por ejemplo, estas empresas también necesitan hardware para otros fines, como el ajuste, donde los desarrolladores optimizan modelos para tareas específicas.

karan batta dijo que algunas empresas de inteligencia artificial están comprando acceso a chips más antiguos para manejar estas cargas de trabajo.

según la base de datos del centro de datos de inteligencia artificial de la información,es posible que oracle haya llegado a un acuerdo con openai y microsoft para utilizar una instalación de texas el próximo año, pero karan batta se negó a comentar sobre el asunto sobre empresas específicas.

conclusión: ¿cuanto más frustración tienes, más coraje obtienes? afirma estar entre los mejores en capacidades informáticas de ia

reciente,oracle sufre un revés, porque musk decidió construir su propio clúster de gpu en memphis, ee. uu., en lugar de alquilarlo a oracle, porque la empresa no podía construir rápidamente un centro de datos.

karan batta cree que es demasiado pronto para saber si xai puede completar el clúster colossus de 100.000 chips h100 más rápido que oracle.

“no tengo una base para comparar. ¿somos mucho más rápidos que xai? ¿o somos mucho más lentos? creo que sentiremos que somos uno de los más rápidos en términos de potencia informática de ia en comparación con otros proveedores de nube. ".

fuente: la información