[15/11/2024] Nutanix ha anunciado que amplía la plataforma de infraestructura de IA de la empresa con una nueva oferta nativa de la nube, Nutanix Enterprise AI (NAI), que puede desplegarse en cualquier plataforma de Kubernetes, en el borde, en los centros de datos centrales y en servicios de nube pública como AWS EKS, Azure AKS y Google GKE. Según lo señalado en el comunicado de prensa, la oferta de NAI ofrece un modelo operativo multinube híbrido coherente para cargas de trabajo de IA aceleradas, lo que permite a las organizaciones aprovechar sus modelos y datos en la ubicación segura que elijan y, al mismo tiempo, mejorar el retorno de la inversión (ROI).
"Al aprovechar NVIDIA NIM para optimizar el rendimiento de los modelos básicos, Nutanix Enterprise AI ayuda a las organizaciones a implementar, ejecutar y escalar de forma segura los puntos finales de inferencia para grandes modelos de lenguaje (LLM) para respaldar la implementación de aplicaciones de IA generativa (GenAI) en minutos, no días o semanas”, sostuvo Thomas Cornely, vicepresidente senior de gestión de productos de Nutanix.
De acuerdo al ejecutivo, la IA generativa es una carga de trabajo inherentemente híbrida, con nuevas aplicaciones que a menudo se crean en la nube pública, el ajuste fino de los modelos que utilizan datos privados que se producen en las instalaciones, y la inferencia que se implementa más cerca de la lógica empresarial, que puede ser en el perímetro, en las instalaciones o en la nube pública; este flujo de trabajo híbrido distribuido de GenAI puede presentar desafíos para las organizaciones preocupadas por la complejidad, la privacidad de los datos, la seguridad y el costo.
"Nutanix Enterprise AI proporciona un modelo operativo multinube coherente y una forma sencilla de implementar, escalar y ejecutar LLM de forma segura con microservicios de inferencia optimizados para NVIDIA NAM, así como modelos de base abierta de Hugging Face. Esto permite a los clientes poner en marcha la infraestructura empresarial de GenAI con la resiliencia, las operaciones del día 2 y la seguridad que necesitan para las aplicaciones críticas para el negocio, en las instalaciones o en AWS Elastic Kubernetes Service (EKS), Azure Managed Kubernetes Service (AKS) y Google Kubernetes Engine (GKE)”, explicó Cornely.
Además, añadió, Nutanix Enterprise AI ofrece un modelo de precios transparente y predecible basado en recursos de infraestructura, lo cual es importante para los clientes que buscan maximizar el retorno de la inversión de sus inversiones en GenAI. Esto contrasta con el uso difícil de predecir o los precios basados en tokens.
Nutanix Enterprise AI es un componente de Nutanix GPT-in-a-Box 2.0. GPT-in-a-Box también incluye Nutanix Cloud Infrastructure, Nutanix Kubernetes Platform y Nutanix Unified Storage, junto con servicios para respaldar las necesidades de configuración y dimensionamiento de los clientes para la capacitación e inferencia en las instalaciones. Para los clientes que buscan implementar en la nube pública, Nutanix Enterprise AI se puede implementar en cualquier entorno de Kubernetes, pero es operativamente consistente con las implementaciones locales.
"Nutanix Enterprise AI se puede implementar con la plataforma de IA de pila completa de NVIDIA y se valida con la plataforma de software NVIDIA AI Enterprise, incluido NVIDIA NIM, un conjunto de microservicios fáciles de usar diseñados para la implementación segura y confiable de inferencia de modelos de IA de alto rendimiento. Nutanix-GPT-in-a-Box también es un sistema certificado por NVIDIA, lo que también garantiza la fiabilidad del rendimiento”, anotó el ejecutivo.
Cornely indicó que Nutanix Enterprise AI puede ayudar a los clientes a:
- Abordar la escasez de habilidades de IA. La simplicidad, la elección y las funciones integradas significan que los administradores de TI pueden ser administradores de IA, lo que acelera el desarrollo de IA por parte de científicos de datos y desarrolladores que se adaptan rápidamente utilizando los últimos modelos y la computación acelerada de NVIDIA.
- Eliminar las barreras para crear una plataforma preparada para la IA. Muchas organizaciones que buscan adoptar GenAI luchan por crear la plataforma adecuada para admitir las cargas de trabajo de IA, incluido el mantenimiento de la coherencia en su infraestructura local y múltiples nubes públicas. "Nutanix Enterprise AI aborda esto con un flujo de trabajo simple impulsado por la interfaz de usuario que puede ayudar a los clientes a implementar y probar puntos finales de inferencia LLM en minutos, ofreciendo al cliente la opción con soporte para microservicios NVIDIA NIM que se ejecutan en cualquier lugar, lo que garantiza un rendimiento optimizado del modelo en entornos en la nube y en las instalaciones. También se admiten Hugging Face y otros estándares de modelos. Además, la integración nativa con Nutanix Kubernetes Platform mantiene la alineación con la capacidad de aprovechar toda la plataforma Nutanix Cloud o proporcionar a los clientes la opción de ejecutarse en cualquier tiempo de ejecución de Kubernetes, incluidos AWS EKS, Azure AKS o Google Cloud GKE con computación acelerada de NVIDIA”, explicó el ejecutivo.
- Mitigar los problemas de privacidad y seguridad de los datos. Ayudar a mitigar los riesgos de privacidad y seguridad está integrado en Nutanix Enterprise AI al permitir a los clientes ejecutar modelos y datos en los recursos informáticos que controlan. "Además, Nutanix Enterprise AI ofrece un panel de control intuitivo para la resolución de problemas, la observabilidad y la utilización de los recursos utilizados para los LLM, así como controles de acceso basados en roles (RBAC) rápidos y seguros para garantizar que la accesibilidad de los LLM sea controlable y comprensible. Las organizaciones que requieran una seguridad reforzada también podrán implementar en entornos aislados o de sitios oscuros”, aseguró Cornely.
- Llevar la infraestructura empresarial a las cargas de trabajo de GenAI. Los clientes que ejecutan Nutanix Cloud Platform para aplicaciones críticas para el negocio ahora pueden aportar la misma resiliencia, operaciones del día 2 y seguridad a las cargas de trabajo de GenAI para una experiencia de infraestructura empresarial.
"Los casos de uso clave para los clientes que aprovechan Nutanix Enterprise AI incluyen: mejorar la experiencia del cliente con GenAI a través del análisis de los comentarios y documentos de los clientes; acelerar la creación de código y contenido aprovechando los copilotos y el procesamiento inteligente de documentos; aprovechar los modelos de ajuste fino en datos específicos del dominio para acelerar la generación de código y contenido; el fortalecimiento de la seguridad, incluido el aprovechamiento de los modelos de IA para la detección de fraudes, la detección de amenazas, el enriquecimiento de alertas y la creación automática de políticas; y la mejora de la analítica mediante el aprovechamiento de modelos ajustados en datos privados”, finalizó Cornely.
Nutanix Enterprise AI, que se ejecuta en las instalaciones, en el perímetro o en la nube pública, y Nutanix GPT-in-a-Box 2.0 están actualmente disponibles para los clientes.
Franca Cavassa, CTOPerú