[20/11/2024] IBM y AMD han anunciado una colaboración para desplegar los aceleradores AMD Instinct MI300X como servicio en IBM Cloud. Según lo señalado en el comunicado de prensa, esta oferta tiene como objetivo mejorar el rendimiento y la eficiencia energética de los modelos de IA generativa, como las aplicaciones de computación de alto rendimiento (HPC) para clientes empresariales. Esta colaboración también permitirá el soporte para los aceleradores AMD Instinct MI300X dentro de la plataforma de datos y IA watsonx de IBM, así como el soporte de inferencia de IA de Red Hat Enterprise Linux.
"A medida que las empresas continúan adoptando modelos y conjuntos de datos de IA más grandes, es fundamental que los aceleradores dentro del sistema puedan procesar cargas de trabajo intensivas en cómputo con alto rendimiento y flexibilidad para escalar", sostuvo Philip Guido, vicepresidente ejecutivo y director comercial de AMD. "Los aceleradores AMD Instinct combinados con el software AMD ROCm ofrecen un amplio soporte, incluidas las plataformas IBM Watsonx AI, Red Hat Enterprise Linux AI y Red Hat OpenShift AI para crear marcos líderes utilizando estas herramientas de ecosistema abierto. Nuestra colaboración con IBM Cloud tendrá como objetivo permitir a los clientes ejecutar y escalar la inferencia de IA Gen sin obstaculizar el costo, el rendimiento o la eficiencia".
Por su parte, Alan Peacock, gerente general de IBM Cloud, sostuvo que AMD e IBM Cloud comparten la misma visión en torno a llevar la IA a las empresas. "Estamos comprometidos a llevar el poder de la IA a los clientes empresariales, ayudándoles a priorizar sus resultados y asegurándonos de que tengan el poder de elección cuando se trata de sus implementaciones de IA. Aprovechar los aceleradores de AMD en IBM Cloud brindará a nuestros clientes empresariales otra opción para escalar y satisfacer sus necesidades de IA empresarial, al mismo tiempo que busca ayudarlos a optimizar el costo y el rendimiento".
IBM y AMD están colaborando para ofrecer aceleradores MI300X como servicio en IBM Cloud para apoyar a los clientes empresariales que aprovechan la IA. Para ayudar a los clientes empresariales de todas las industrias, incluidas aquellas que están fuertemente reguladas, IBM y AMD tienen la intención de aprovechar las capacidades de seguridad y cumplimiento de IBM Cloud, sostuvieron los ejecutivos.
- Compatibilidad con la inferencia de modelos grandes: Equipados con 192GB de memoria de alto ancho de banda (HBM3), los aceleradores AMD Instinct MI300X ofrecen soporte para la inferencia y el ajuste fino de modelos más grandes. La gran capacidad de memoria también puede ayudar a los clientes a ejecutar modelos más grandes con menos GPU, lo que podría reducir los costos de inferencia.
- Rendimiento y seguridad mejorados: Ofrecer aceleradores AMD Instinct MI300X como servicio en IBM Cloud Virtual Servers for VPC, así como a través del soporte de contenedores con IBM Cloud Kubernetes Service e IBM Red Hat OpenShift on IBM Cloud, puede ayudar a optimizar el rendimiento de las empresas que ejecutan aplicaciones de IA.
"Para las cargas de trabajo de inferencia de IA generativa, IBM planea habilitar el soporte para los aceleradores AMD Instinct MI300X dentro de la plataforma de datos y IA watsonx de IBM, proporcionando a los clientes de watsonx recursos adicionales de infraestructura de IA para escalar sus cargas de trabajo de IA en entornos de nube híbrida. Además, las plataformas Red Hat Enterprise Linux AI y Red Hat OpenShift AI pueden ejecutar modelos de lenguaje grandes (LLM) de la familia Granite con herramientas de alineación mediante InstructLab en aceleradores MI300X”, anotó Peacock.
Se espera que los aceleradores IBM Cloud con AMD Instinct MI300X estén disponibles para el público en general en la primera mitad del 2025.
Franca Cavassa, CTOPerú