Cloud

Microsoft desarrollaría sus propios aceleradores de IA

Si bien Microsoft ha hecho de la IA la tecnología que impulsa su crecimiento, el editor ahora consideraría imponer una NPU en sus PC «Surface» y desarrollaría su propia GPU aceleradora de IA para su nube Azure.

Como sabemos, en 2023 Microsoft apuesta por la IA. El editor anunció AI Copilot para su motor de búsqueda, para sus herramientas comerciales (Dynamics 365 Copilot), para sus herramientas colaborativas (Microsoft 365 Copilot), para analistas de ciberseguridad (Microsoft Security Copilot) y para desarrolladores (GitHub Copilot y servicios OpenAI en Azure ). Ni una parte de su actividad, ni uno solo de su software, se verá más o menos afectado por la IA.

El hecho es que para entrenar y luego animar todas estas IA, se necesitan recursos informáticos masivos. Según un estudio de TrendForce, un servicio como ChatGPT requeriría 30 000 GPU NVidia A100. A razón de 15.000 euros por tarjeta GPU A100, ChatGPT estaría impulsado y animado por una infraestructura que costaría más de 500 millones de dólares. Y eso solo para ChatGPT.

Ahora agregue todos los servicios de IA de OpenAI, todos los servicios de IA de Microsoft y todos los de las empresas que desarrollan IA en Azure, y tendrá una pequeña idea de las posibles economías de escala para Microsoft si la empresa tenía su propio procesador AI en lugar de depender de las GPU de NVidia.

GPU caseras para las nubes

Amazon ha hecho los cálculos durante mucho tiempo y ha estado desarrollando sus propios aceleradores de formación «AWS Trainium» y sus propios aceleradores de inferencia «AWS Inferentia 2» desde hace varios años.
Google está haciendo lo mismo con su TPU interna (Unidad de procesamiento de tensores) que ya se encuentra en la cuarta generación. Google incluso está desarrollando su propio procesador Tensor G1/G2 con un acelerador IA NPU para sus famosos teléfonos inteligentes Pixel.

Por su parte, Microsoft ha confiado hasta ahora en FPGA (tipos de procesadores no congelados que se pueden reconfigurar para acelerar tareas específicas) y los ha integrado en Azure (FPGA basados ​​en hardware de Intel). El editor incluso afirma que Azure representa la inversión más grande del mundo en FPGA «. En marzo pasado, Microsoft explicó que usa FPGA para evaluar redes neuronales profundas (DNN), clasificar las búsquedas de Bing y acelerar las redes definidas por software (SDN) para reducir las latencias, mientras libera CPU para otras tareas.

Sin embargo, si creemos en la información del sitio “The Information”, Microsoft estaría desarrollando su propia GPU aceleradora de IA en paralelo y esto desde 2019. Un proyecto llamado “Athena” que habría entrado recientemente en la fase de prueba. Por lo tanto, el procesador podría entrar en producción ya en 2024 y generalizarse en los servidores de Azure dedicados a las cargas de trabajo de IA.

Es posible que sepamos más en la conferencia Build 2023 del 23 al 25 de mayo.

NPU también en la superficie

Además, Microsoft también parece convencido de que los ordenadores personales ya no pueden prescindir de un acelerador de IA. Actualmente, solo los Surface Pro basados ​​en procesadores ARM (de Qualcomm co-desarrollados con Microsoft) incluyen una NPU para acelerar las inferencias. Es por esto que solo sus Surface con procesadores “Microsoft SQ” se benefician de las funcionalidades conocidas como Windows Studio Effects, mejorando la reproducción sonora y visual durante las videoconferencias.

Según el sitio web Thurrot.com, Microsoft debería integrar una NPU en todas sus próximas generaciones de máquinas Surface, ya sean en tecnología ARM/Qualcomm o x86/Intel. La historia no dice si Microsoft ha desarrollado una NPU interna, solo quiere usar CPU con NPU integradas o quiere integrar una NPU común de terceros en todas las máquinas futuras.

[

Related posts
Cloud

¡Cloud First se vuelve más selectivo!

¿Qué hubiera pasado si “Cloud First” hubiera llegado a su fin? Si bien casi una cuarta parte…
Read more
Cloud

Azure Logic Apps Automation quiere alinear a los agentes de IA

Con Azure Logic Apps Automation, Microsoft quiere convertir la automatización empresarial en un…
Read more
Cloud

Tsuga confía en BYOC para reinventar la observabilidad

En un momento en el que los volúmenes de registros, métricas y rastreos se están disparando, la…
Read more

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *