OpenAI necesita GPU… ¡muchas GPU! Tanto para entrenar sus modelos como para sus inferencias. Microsoft ya había utilizado Oracle Cloud para aliviar las infraestructuras Azure de Bing AI. El editor renueva esta asociación para OpenAI AI.
Microsoft es uno de los mayores clientes de NVidia. Pero está muy lejos de ser el único gran solicitante de estas GPU necesarias para la IA. La escasez en el mercado de GPU y la inflación de precios están obligando a la empresa liderada por Satya Nadella a buscar recursos fuera de sus propias infraestructuras Azure.
En noviembre pasado, Microsoft y Oracle anunciaron un acuerdo que permite a Bing alquilar GPU y recursos informáticos de forma ventajosa en Oracle Cloud Infrastructure (OCI). Las dos nubes están bastante cerca desde hace varios años, en particular con una interconexión optimizada para permitir a los clientes conjuntos explotar plenamente los servicios de las dos nubes.
Por lo tanto, el acuerdo permitió a Microsoft desbordar las cargas de trabajo de inferencia de IA de Bing Chat normalmente alojadas en Azure en OCI.
Esta semana, Microsoft, Oracle y OpenAI anunciaron una nueva asociación para extender la plataforma Microsoft Azure AI a Oracle Cloud Infrastructure (OCI). Esta colaboración tiene como objetivo proporcionar capacidades adicionales a OpenAI y sus 100 millones de usuarios cada mes.
Una bendición y un buen golpe de marketing para Oracle Cloud. “ La carrera para crear el modelo de lenguaje más grande del mundo ha comenzado, impulsando una demanda ilimitada de la infraestructura de IA Gen2 de Oracle », se alegra Larry Ellison, presidente y director de tecnología de Oracle. Añade (un poco de marketing gratuito no hace mucho daño) que “ Líderes como OpenAI eligen OCI porque es la infraestructura de IA más rápida y rentable del mundo. »
Una forma de recordarnos que muchas startups de IA, empezando por Adept, Modal, MosaicML, Reka, Suno, Together AI, Twelve Labs e incluso xAI (la startup de IA de Elon Musk) ya están utilizando Supercúmulo OCI para entrenar e inferir modelos de IA de próxima generación.
Es cierto que la OCI vio rápidamente la oportunidad para que la IA fortaleciera su posición entre los hiperescaladores estadounidenses. Desde el principio, Oracle Cloud realizó pedidos masivos de GPU a NVidia para construir su «OCI Supercluster», una infraestructura » HPC como servicio » diseñado para IA que puede acomodar hasta 32 768 GPU. Una infraestructura que pronto evolucionará para dar cabida a las próximas GPU “Blackwell” de NVidia.
Lea también:
Bing AI requiere tanta GPU que Microsoft llama a Oracle Cloud al rescate
Elon Musk tira la toalla en su lucha contra OpenAI
Stargate la mega computadora de OpenAI y Microsoft
OCI: “Hemos almacenado 80 mil millones de contratos en la nube”
Base de datos Oracle: no me llames «23c», sino «23ai»
Oracle Cloud anuncia “disponibilidad general” de sus servicios de IA generativa
[
