[06/09/2024] DataStax ha anunciado nuevas funciones y actualizaciones de su AI PaaS, señalando que minimiza las alucinaciones con hasta un 20% más de relevancia, un tiempo de respuesta 74 veces más rápido y un rendimiento nueve veces mayor
"Con DataStax, los desarrolladores pueden centrarse en el desarrollo de aplicaciones, en lugar de en la gestión de la infraestructura, impulsada por múltiples actualizaciones nuevas de DataStax AI PaaS”, sostuvo Ed Anuff, director de productos de DataStax, en el comunicado de prensa.
Simplificación de la ingesta de datos
De acuerdo al ejecutivo, la preparación e ingesta de datos es uno de los mayores retos a la hora de crear una aplicación GenAI. "Los desarrolladores se enfrentan a la conversión de cantidades masivas de datos existentes, en diferentes formatos, a un formato adecuado para su uso en la generación de recuperación aumentada (RAG). A menudo, estos documentos son demasiado grandes para incrustar modelos y deben dividirse en segmentos más pequeños o fragmentarse”.
Para resolver este problema, Anuff indicó que Unstructured ahora se integra de forma nativa con Langflow y Astra DB, lo que simplifica las opciones de configuración complejas y lleva el poder de las canalizaciones de ingesta de Unstructured a los usuarios de DataStax. "Los desarrolladores pueden importar fácilmente varios archivos PDF de cualquier tamaño, fragmentar esos archivos y, con DataStax Vectorize, pueden generar las incrustaciones vectoriales para mejorar la relevancia de las consultas”.
El ejecutivo señaló, asimismo que, esta actualización agrega soporte para más tipos de archivos y agiliza el procesamiento de datos, al llevar la preparación de datos directamente al proceso de carga de datos. "Los usuarios pueden controlar los tamaños de los fragmentos para optimizar la relevancia semántica y mejorar el rendimiento de RAG. Esto conduce a resultados de consulta más relevantes y a una mejor utilización de los recursos de la aplicación”.
Permitir un acceso sin interrupciones a los datos
Anuff agregó que DataStax presentará una nueva integración que permite a los usuarios conectar sin problemas sus datos almacenados en Astra DB con Glean. "Con esta integración, Glean podrá acceder y analizar directamente los datos almacenados en Astra DB, lo que permitirá a la plataforma responder a preguntas complejas y proporcionar respuestas a consultas relevantes y precisas”.
Además, explicó el ejecutivo, los usuarios podrán aprovechar un nuevo componente de Glean para DataStax Langflow que permite a los desarrolladores crear fácilmente consultas de Glean dentro de un flujo de Langflow. "Los usuarios pueden aprovechar las capacidades de indexación de Glean para enriquecer el contexto de sus operaciones y tomar decisiones más informadas basadas en información de datos en tiempo real”.
Impulsando la agilidad en el desarrollo de aplicaciones GenAI
Anuff anotó que DataStax ha mejorado aún más su AI PaaS con la versión preliminar pública gratuita de la API de DataStax Langflow. "La API de Langflow permite a los desarrolladores crear y alojar su aplicación GenAI en cualquier lugar con una simple llamada HTTP a un punto final de API alojado por DataStax, lo que proporciona una ruta rápida y fácil a la producción”.
El ejecutivo aseguró que esto simplifica y acelera la implementación, al eliminar la sobrecarga de autoalojar una aplicación, y se integra con aplicaciones externas para integrar fácilmente GenAI en los proyectos existentes. Se puede acceder a la API a través de HTTP, y Langflow incluye fragmentos de código JavaScript y Python que se pueden colocar en la aplicación de un desarrollador.
Franca Cavassa, CTOPerú