[16/10/2024] Dell Technologies amplía la cartera de soluciones de IA generativa (GenAI) con las incorporaciones de Dell AI Factory adaptadas a los entornos de AMD.
"Al integrar la tecnología AMD en los últimos servidores, soluciones de IA y servicios de Dell a través de Dell AI Factory, estamos proporcionando el rendimiento y la eficiencia que las empresas necesitan hoy y en el futuro", dijo Arthur Lewis, presidente del Grupo de Soluciones de Infraestructura de Dell Technologies, en el comunicado de prensa. "Junto con AMD, estamos estableciendo nuevos estándares en el rendimiento de la IA, brindando a las empresas soluciones potentes y rentables esenciales para los entornos modernos basados en datos".
Nuevos servidores Dell PowerEdge
El ejecutivo anotó que los nuevos servidores proporcionan soluciones personalizables y eficientes que simplifican la gestión y soportan cargas de trabajo de alto rendimiento para las empresas modernas:
- Diseñado para cargas de trabajo de IA empresarial, el Dell PowerEdge XE7745 admite hasta ocho GPU PCIe de doble ancho o 16 GPU PCIe de ancho único con procesadores AMD EPYC de 5.ª generación en un chasis de 4U refrigerado por aire. "Diseñadas específicamente para la inferencia de IA, el ajuste fino de modelos y la computación de alto rendimiento, las ranuras de GPU internas se combinan con ocho ranuras PCIe Gen 5.0 adicionales para la conectividad de red, creando configuraciones densas y flexibles con 2 veces más capacidad de GPU DW PCIe”, explicó Lewis.
- Los servidores PowerEdge R6725 y R7725 están optimizados para la escalabilidad con procesadores AMD EPYC de 5.ª generación de alto rendimiento. "El nuevo diseño del chasis DC-MHS permite una refrigeración por aire mejorada y dos CPU de 500W, superando los difíciles desafíos térmicos de potencia y eficiencia. Estas plataformas mantienen un riguroso análisis de datos y cargas de trabajo de IA, con configuraciones optimizadas para la escalabilidad, y ofrecen un rendimiento récord para cargas de trabajo como la virtualización, las bases de datos y la IA. El R7725 ofrece hasta un 66% más de rendimiento y hasta un 33% más de eficiencia en la parte superior de la pila”, aseguró el ejecutivo.
Lewis agregó que las tres plataformas pueden admitir hasta un 50% más de núcleos, con un aumento de hasta el 37% en el rendimiento por núcleo.
"Disponibles en varias opciones de configuración, los servidores de un solo socket admiten el doble de memoria con soporte para 24 DIMM (2DPC) y cumplen con diversos requisitos de carga de trabajo y maximizan el rendimiento en chasis compactos de 1U y 2U. Para los clientes que implementan IA a escala, Dell Technologies también continuará siendo compatible con todos los aceleradores AMD Instinct más recientes en los servidores Dell PowerEdge XE”, sostuvo el ejecutivo.
Agregó que los equipos de TI pueden monitorear, administrar y actualizar de forma remota los servidores Dell PowerEdge con el controlador de acceso remoto integrado de Dell (iDRAC) actualizado. "Con un procesador más rápido, mayor memoria y un coprocesador de seguridad dedicado, iDRAC simplifica la administración y la seguridad del servidor, lo que permite a los equipos de TI responder con mayor confiabilidad y eficiencia”, afirmó Lewis.
Mejoras a Dell AI Factory
El ejecutivo anotó que Dell AI Factory está diseñada para respaldar diversos requisitos de IA con una amplia cartera de soluciones, desde computadoras de escritorio hasta centros de datos y nubes, lo que permite a las organizaciones ajustar el tamaño de sus inversiones en IA:
- Soluciones de IA generativa de Dell con AMD que utilizan el servidor Dell PowerEdge XE9680 con aceleradores AMD Instinct MI300X para ofrecer inferencia, recuperación, generación aumentada (RAG) y personalización de IA.
- El Dell Enterprise Hub en Hugging Face ahora es compatible con Dell PowerEdge XE9680 con aceleradores AMD Instinct MI300X, lo que proporciona contenedores y scripts personalizados para una implementación fácil y segura de modelos como Llama y Mixtral.
- Los servicios profesionales de Dell para IA generativa se están expandiendo para admitir entornos AMD.
Disponibilidad
El servidor Dell PowerEdge XE7745 estará disponible en todo el mundo a partir de enero del 2025. Por su parte, los servidores Dell PowerEdge R6715, R7715, R6725 y R7725 estarán disponibles en todo el mundo a partir de noviembre del 2024.
Las soluciones de IA generativa de Dell con AMD estarán disponibles en todo el mundo a partir del cuarto trimestre del 2024, y las actualizaciones de Dell Enterprise Hub on Hugging Face ya están disponibles en todo el mundo, mientras que la plataforma de servicios de implementación de Dell para IA generativa ya está disponible en algunos países.
Franca Cavassa, CTOPerú