[17/10/2024] DataStax anunció la plataforma de IA DataStax, construida con NVIDIA AI anotando que reduce el tiempo de desarrollo de la IA en un 60%. Según lo señalado en el comunicado de prensa, esta plataforma integra la plataforma de IA DataStax con el software NVIDIA AI Enterprise, lo que facilita a las empresas la creación de aplicaciones de IA que aprovechen los datos y el contexto empresarial de las empresas. Esta plataforma también facilita a las empresas perfeccionar sus modelos para que aprendan por sí mismos y sean más precisos con el uso por parte de los clientes.
"A medida que las empresas se esfuerzan por aprovechar la IA, nos centramos en simplificar y acelerar el camino hacia la producción para desbloquear la innovación a escala. La plataforma de IA DataStax, creada con NVIDIA AI, proporciona una solución integral que no solo reduce los costos, sino que también desbloquea una velocidad de desarrollo inigualable, lo que hace que las aplicaciones sean más inteligentes y precisas a medida que los clientes las utilizan. Estamos entusiasmados de ofrecer una plataforma que cambiará la trayectoria de la IA empresarial y redefinirá las experiencias de los clientes", sostuvo Chet Kapoor, presidente y CEO de DataStax.
El ejecutivo anotó que la plataforma de IA DataStax, creada con NVIDIA AI, ofrece a las empresas una solución de IA completa para todas las partes del ciclo de vida del desarrollo y la producción de IA, desde la ingesta y recuperación de datos hasta el desarrollo de aplicaciones, la implementación y la formación continua de la IA. Según Kapoor, esto resuelve dos problemas urgentes:
- Desarrollo de aplicaciones de IA: Hay nuevas herramientas necesarias para el desarrollo de aplicaciones de IA, y esas herramientas están diseñadas principalmente para desarrolladores individuales. "Sin embargo, tienden a romperse cuando se trata de los flujos de trabajo de equipo y organizacionales necesarios en organizaciones más grandes. En este momento, la mayoría de los proyectos de IA están fracasando o están atrasados debido a la complejidad de las herramientas. Tener una plataforma unificada simplifica en gran medida la variabilidad en la pila tecnológica”, anotó el ejecutivo.
- Permite una IA más precisa: Las empresas necesitan que sus aplicaciones de IA generen resultados basados en sus datos empresariales, relevantes para su dominio empresarial, y que aprendan de las interacciones de sus clientes. "NVIDIA NeMo Customizer y NeMo Evaluator simplifican la formación o el ajuste de LLM, SLM, modelos de incrustación y reclasificación de modelos, mientras que la plataforma de desarrollo de aplicaciones de IA de DataStax ofrece a los desarrolladores el control dinámico de la búsqueda y la recuperación necesario para adaptar GenAI a los clientes individuales”, explicó Kapoor.
El ejecutivo comentó que las piezas clave de la plataforma de IA DataStax, creada con NVIDIA AI, incluyen:
DataStax Langflow, que incluye un entorno de desarrollo de aplicaciones que simplifica la creación y comprensión de flujos lógicos complejos a través de una interfaz visual intuitiva.
Componentes de NVIDIA AI Enterprise, entre los que se incluyen:
- NeMo Retriever: Permite a las organizaciones conectar sin problemas modelos personalizados con diversos datos empresariales y ofrecer respuestas muy precisas. Esto es crucial para que las aplicaciones de IA de las empresas tengan el contexto de sus sistemas y datos empresariales para proporcionar los resultados más relevantes.
- Multimodal PDF Data Extraction: Un modelo que permite la ingesta de fuentes de datos empresariales complejas y no estructuradas, como PDF, para que estén listas para su uso en aplicaciones de IA mediante la generación de recuperación aumentada (RAG).
- NeMo Curator: Herramienta de curación de datos que ayuda a los desarrolladores a crear conjuntos de datos grandes y de alta calidad para el preentrenamiento o el ajuste de LLM o modelos de incrustación.
- NeMo Customizer: Microservicio escalable y de alto rendimiento que simplifica el ajuste y la alineación de los LLM para casos de uso específicos del dominio. Esto reduce las dependencias de los LLM amplios y listos para usar y permite una mayor precisión a un menor costo.
- NeMo Evaluator: Automatiza la evaluación de los modelos de IA generativa del cliente y los LLM para mayor precisión.
- NeMo Guardrails: Agrega fácilmente barandillas programables a aplicaciones conversacionales basadas en LLM.
NIM Agent Blueprints: Un catálogo de flujos de trabajo de IA preentrenados y personalizables que equipan a los desarrolladores con un conjunto completo de software para crear e implementar aplicaciones de IA generativa para casos de uso canónicos, como avatares de servicio al cliente, generación de recuperación aumentada y detección virtual de descubrimiento de fármacos.
DataStax Data Management: La IA requiere las necesidades de datos más diversas de cualquier aplicación empresarial. "Las empresas han descubierto que quieren una solución de datos integrada en lugar de la complejidad de agregar diferentes soluciones para las capacidades de gráficos vectoriales o de conocimiento. DataStax ofrece búsqueda vectorial líder en la industria, búsqueda híbrida flexible, gráfico de conocimiento y RAG de gráficos, análisis de IA en tiempo real, transmisión, publicación/suscripción y un almacén NoSQL linealmente escalable. Disponible en la nube (DataStax Astra), o en software autogestionado nativo de la nube (DataStax Hyper-Converged Database)”, comentó Kapoor.
Añadió que, la plataforma de IA DataStax, creada con NVIDIA AI, es tanto para entornos en la nube como autogestionados. "Esto brinda a las empresas la flexibilidad para implementar como prefieran: las implementaciones en la nube pueden aprovechar sus entornos de Amazon Web Services (AWS), Microsoft Azure o Google Cloud. Muchas grandes empresas necesitan ejecutar sus aplicaciones de IA en centros de datos autogestionados nativos de la nube para tener un control total sobre todos los aspectos de su pila tecnológica. Esto es especialmente cierto para las industrias fuertemente reguladas como los bancos, las compañías de seguros y las empresas de atención médica, que a menudo han tenido problemas con otras herramientas de IA que no se crearon para las necesidades de escala empresarial o cumplimiento”, finalizó el ejecutivo.
Franca Cavassa, CTOPerú