[14/11/2023] DataRobot anunció una nueva funcionalidad integral diseñada para cerrar la brecha de confianza de la IA generativa, acelerando las soluciones de IA desde el prototipo hasta la producción e impulsando el valor en el mundo real.
"Las demandas en torno a la IA generativa son amplias, complejas y evolucionan en tiempo real", afirmó Venky Veeraraghavan, director de Producto de DataRobot, en el comunicado de prensa. "Con más de 500 de nuestros clientes desplegando y gestionando IA en producción, entendemos lo que se necesita para construir, gobernar y operar su IA de forma segura y a escala. Con este último lanzamiento, hemos diseñado un conjunto de capacidades listas para la producción para abordar los desafíos únicos de la IA generativa e infundir la confianza necesaria para poner en práctica soluciones transformadoras".
El ejecutivo anotó que la nueva funcionalidad anunciada aporta gobernanza y observabilidad de nivel empresarial tanto para la IA generativa como para la predictiva en la Plataforma DataRobot AI:
- Consola de observabilidad de 360°: Nueva capacidad de observación de 360° para DataRobot y modelos de terceros a través de proveedores en la nube, en las instalaciones o en el perímetro. La consola actúa como un centro de mando y control con información exhaustiva sobre el rendimiento, el comportamiento y el estado de los sistemas y modelos de IA, lo que permite la detección inmediata de problemas o anomalías.
- Monitorización de costos y rendimiento de LLM: Monitorización lista para usar para observar y gestionar sus soluciones y costos de IA generativa en tiempo real con métricas personalizables diseñadas tanto para un alto rendimiento como para presupuestos ajustados a los objetivos. "Ahora puede ver el costo por predicción y el gasto total por solución de IA generativa, establecer sus propias alertas para evitar superar los umbrales y tomar decisiones de compensación entre coste y rendimiento”, indicó el ejecutivo.
- Modelos de protección de IA generativa: Evalúa atributos críticos como la toxicidad, el sentimiento, las filtraciones de PII, la inyección puntual y la corrección de los modelos de IA generativa en producción, así como capture los comentarios de los usuarios sobre la calidad de las respuestas generadas para mejorar los modelos con el tiempo.
- Registro unificado de IA: Un único sistema de registro para gobernar todos sus activos de IA generativa y predictiva, incluidos los modelos de diferentes sistemas. "El nuevo Registro centralizado le ayuda a realizar un seguimiento de lo que importa al tiempo que unifica proyectos, procesos y entornos multicloud dispares para una visibilidad y colaboración fluidas entre equipos en toda su organización”, anotó Veeraraghavan.
- Zona de juegos LLM multiproveedor: Interfaz visual con acceso integrado a GCP Vertex AI, Azure OpenAI y AWS BedRock para comparar y experimentar diferentes recetas con cualquier combinación de modelo de base, bases de datos vectoriales y estrategias de incitación.
- Aceleradores de IA generativa. Nuevos aceleradores diseñados para realizar rápidamente tareas comunes para acelerar el despliegue de IA generativa, como crear y alojar una aplicación de generación aumentada de recuperación (RAG), añadir métricas personalizadas, monitorizar modelos externos e integrarse con aplicaciones empresariales como Slack y Microsoft Teams.