Azure anuncia nuevas máquinas virtuales calibradas para el trabajo de IA más exigente, pero también una nueva generación de «contenedores confidenciales» para un mejor aislamiento y protección de cargas de trabajo confidenciales en contenedores.
Al anunciar GPT-4 esta semana, OpenAI destacó el papel de Azure y la infraestructura HPC creada por Microsoft para satisfacer las necesidades de aprendizaje de GPT-4. La firma dirigida por Satya Nadella ha desplegado así 10.000 GPU Nvidia interconectadas en una red Infiniband a una escala sin precedentes en la nube. El editor incluso habría superado los límites probados hasta ahora por los fabricantes de equipos aventurándose en «tierras desconocidas» y desarrollando mecanismos de refrigeración y fiabilidad originales y específicos.
Nidhi Chappell, gerente de productos de Microsoft para computación de alto rendimiento e IA en Azure, explica que » Debido a que estas tareas involucran miles de GPU, debe asegurarse de tener una infraestructura confiable y que tenga la red funcionando en segundo plano para poder comunicarse más rápido y poder hacerlo durante semanas sin interrupción. Por lo tanto, no se trata de comprar un montón de GPU, conectarlas y hacer que funcionen juntas. Hay mucha optimización a nivel de sistema para obtener el mejor rendimiento, un esfuerzo posible gracias a una larga experiencia adquirida durante varias generaciones. »
Nuevas máquinas virtuales para IA con GPU NVidia H100
Es precisamente esta experiencia bastante única la que Microsoft quiere ahora poner a disposición de las empresas. Azure anuncia la disponibilidad en versión preliminar de sus nuevas instancias de VM «ND H100 v5» para cargas de trabajo de IA que requieren de 8 a miles de GPU NVidia H100 interconectadas por una red Nvidia Quantum-2 Infiniband.
Más concretamente, estas nuevas máquinas virtuales que suceden a la «ND A100 v4» (basada en la antigua generación de GPU NVidia A100) son 9 veces más rápidas en la fase de aprendizaje y 30 veces más rápidas en la inferencia. Ofrecen las siguientes características:
– CPU escalable Intel Xeon de cuarta generación
– 8 GPU Tensor Core NVidia H100 interconectadas por NVSwitch next gen y NVLink 4.0
– Ancho de banda de 3,2 Tb/seg por máquina virtual
– 3,6 TB/s de ancho de banda entre las 8 GPU de cada VM
– 16 canales de memoria DDR5 a 4800 MHz.
Contenedores muy “confidenciales”
Si bien se puede decir que la IA es una de las áreas de innovación que más acapara a los ingenieros de Azure, hay otra área que los inspira a innovar: la computación confidencial.
La computación confidencial tiene como objetivo proteger aún más los entornos de nube de múltiples inquilinos. Reúne un conjunto de técnicas pero también tecnologías integradas en el corazón de los procesadores destinadas a proteger las aplicaciones y los datos durante su procesamiento (un momento crítico en el que los datos son tradicionalmente vulnerables porque se descifran para ser procesados).
Hasta ahora, la computación confidencial utilizaba máquinas virtuales ejecutadas en entornos de ejecución confiables (TEE – Trusted Execution Environment) basados en un mecanismo de enclave creado dentro del procesador para aislar el procesamiento y los datos de la misma máquina virtual. . El sistema se basa en claves de cifrado a las que solo puede acceder el código de la aplicación designada para que los datos en la RAM permanezcan cifrados hasta que los utilice el procesador. Por lo tanto, incluso si un arrendatario es pervertido y aprovecha una falla en el hipervisor para salir de su espacio y acceder a la memoria RAM utilizada por los otros arrendatarios, los datos permanecen inutilizables.
Por lo tanto, Microsoft ha estado ofreciendo máquinas virtuales confidenciales desde 2019 e incluso ha estado ofreciendo clústeres de Kubernetes AKS «confidenciales» desde 2020 (basado en un uso original de máquinas virtuales para permitir que grupos de nodos confidenciales y grupos de nodos no confidenciales se combinen para alojar y ejecutar los contenedores).
Los ingenieros de Azure implementaron especificaciones específicas para los últimos procesadores AMD Epyc para extender el uso de esta computación confidencial a contenedores alojados fuera de AKS. Azure anuncia así la vista previa de la “ Contenedores Confidenciales en su infraestructura sin servidor ACI (Instancias de contenedor de Azure).
« Los clientes de Azure recurren cada vez más a aplicaciones basadas en contenedores nativas de la nube para respaldar sus cargas de trabajo. Sin embargo, estos clientes también buscan opciones de alojamiento en la nube que brinden los niveles más altos de protección de datos, lo que a menudo requiere experiencia y gestión de infraestructuras complejas”. explica Peter Pogorski, gerente de producto de Azure Containers. “Para abordar estos desafíos, desarrollamos contenedores confidenciales en Azure Container Instances. Esta plataforma sin servidor permite que los contenedores de Linux se ejecuten dentro de un entorno de ejecución confiable (TEE) basado en hardware certificado, lo que ofrece la simplicidad de una plataforma de contenedor sin servidor con la seguridad mejorada de la informática confidencial. ».
Lea también:
OpenAI formaliza GPT-4 que más de un millón de internautas ya utilizan sin saberlo…
Microsoft con ChatGPT en Azure
Microsoft formaliza sus ofertas ARM bajo Azure
Microsoft anuncia nueva conferencia de IA para el 16 de marzo
[
