[26/06/2024] DataStax ha anunciado actualizaciones de su plataforma de desarrollo de IA generativa, señalando que ayudan a que el desarrollo de aplicaciones impulsado por la generación aumentada (RAG, por sus siglas en inglés) sea cien veces más rápido.
"Con DataStax, los desarrolladores pueden centrarse en el desarrollo de aplicaciones, en lugar de en la gestión de la infraestructura, impulsada por múltiples actualizaciones nuevas”, sostuvo Ed Anuff, director de producto de DataStax, en el comunicado de prensa, anotando que éstas son:
Lanzamiento de Langflow 1.0 y DataStax Langflow
En abril, DataStax adquirió Langflow, el marco visual de código abierto para crear aplicaciones RAG. Ahora, DataStax está lanzando Langflow 1.0, que incluye una versión de Langflow que está alojada en la plataforma DataStax Cloud.
"La interfaz de arrastrar y soltar de Langflow 1.0, con docenas de integraciones con las mejores herramientas de IA de la generación: LangChain, LangSmith, OpenAI, Hugging Face, Mistral y otras, facilita a los desarrolladores la configuración, el intercambio y la comparación de todos los principales modelos de lenguaje y proveedores de incrustación”, anotó el ejecutivo, indicando que esto brinda a los desarrolladores flexibilidad para comparar fácilmente diferentes proveedores y sus resultados.
Además, agregó Anuff, como parte de la versión de código abierto de Langflow 1.0, los desarrolladores ahora pueden aprovechar el servicio de observabilidad de LangSmith para rastrear las respuestas de una aplicación para aplicaciones basadas en LLM más relevantes y precisas.
Preparación de los datos para RAG con Unstructured.io
El ejecutivo comentó que una nueva asociación entre DataStax y Unstructured permite a las empresas y desarrolladores preparar sus datos empresariales para la IA, manejando la ingesta de datos y la fragmentación entre tipos de datos: PDF, Salesforce, Google Drive, etc. para su uso en aplicaciones de IA.
"Los desarrolladores se benefician de la ingesta de datos ultrarrápida a través de la conversión rápida de grandes conjuntos de datos y tipos de documentos comunes en datos vectoriales. Esta nueva integración permite que estas incrustaciones se escriban rápidamente en Astra DB para búsquedas de similitud GenAI altamente relevantes. Y, al gestionar conjuntos de datos muy grandes, los usuarios pueden convertir esos datos en incrustaciones y escribirlos en Astra DB en cuestión de minutos”, aseguró Anuff.
Ecosistema de proveedores de incrustación
De acuerdo al ejecutivo, Vectorize simplifica la generación de vectores al permitir a los desarrolladores elegir un servicio de incrustación, configurarlo con Astra DB y comenzar a crear de inmediato. "La mayor parte de la incrustación se maneja actualmente 'del lado del cliente', lo que significa que los desarrolladores necesitan aprender muchas API diferentes. Con DataStax Vectorize, la incrustación de vectores ahora se realiza en el servidor; lo que significa que los desarrolladores solo necesitan aprender una API para acceder a los ocho proveedores de incrustación más populares y comparar los resultados entre ellos. DataStax se ha asociado con los principales proveedores de incrustaciones para ofrecer opciones sólidas, con una implementación simplificada que solo requiere que los usuarios configuren una sola API para crear incrustaciones. Entre los proveedores de inserción de asociados se incluyen: Azure OpenAI, Hugging Face, Jina AI, Mistral AI, NVIDIA, OpenAI, Upstage AI y Voyage AI”.
GenAI con RAGStack 1.0
Desde el lanzamiento de RAGStack en diciembre del 2023, Anuff señaló que DataStax ha agregado profundidad y amplitud continuas al producto con la adición de varias características clave, integraciones y asociaciones, todas disponibles ahora en la versión 1.0 de RAGStack, su solución para usar y lista para producción que agiliza la implementación de RAG a escala empresarial, con un conjunto eficiente de herramientas, técnicas técnicas y gobernanza.
"Todas las empresas que construyen con GenAI en este momento están buscando la forma más efectiva de implementar RAG dentro de sus aplicaciones. Las empresas necesitan caminos probados hacia el éxito con GenAI. Dependen de API externas que no tienen garantías, se lanzan según su propio calendario y, a menudo, amenazan la estabilidad de las aplicaciones a las que sirven. Las empresas no pueden depender de proyectos de código abierto sin soporte o de proveedores que no pueden respaldar de manera efectiva las necesidades y la escala de sus proyectos de GenAI”, anotó el ejecutivo.
La versión 1.0 de RAGStack, añadió Anuff, proporciona estabilidad a todas las aplicaciones y marcos de GenAI al ofrecer lo mejor del código abierto y las últimas técnicas requeridas para casos de uso empresarial. RAGStack 1.0 incluye múltiples características nuevas:
- Langflow en RAGStack: Los usuarios pueden crear aplicaciones más rápido con Langflow utilizando la versión de RAGStack de componentes probados en compatibilidad, rendimiento y seguridad.
- Knowledge Graph RAG: Proporciona una representación basada en gráficos diseñada específicamente para que las aplicaciones GenAI almacenen y recuperen información de manera más eficiente y precisa que la búsqueda de similitud basada en vectores sola con Astra DB.
- ColBERT en RAGStack con Astra DB: Implementación lista para producción que ofrece una recuperación mejor que cualquier codificación de un solo vector, respaldada por Astra DB.
- Text2SQL/Text2CQL para aportar un contexto estructurado, semiestructurado y no estructurado al flujo de GenAI, activando los datos existentes con beneficios adicionales.
"Vectorizar en RAGStack y LangChain: permite que los marcos de código abierto aprovechen un nuevo patrón de incrustación del lado del servidor con cadenas”, finalizó Anuff.
Franca Cavassa, CTOPerú