Noticias

DataRobot presenta la observabilidad de la IA

Con intervención en tiempo real para la IA generativa

[03/05/2024] DataRobot, la plataforma de IA empresarial, ha lanzado una nueva funcionalidad de observabilidad de IA con intervención en tiempo real para soluciones de IA generativa, disponible en todos los entornos, incluidos los de nube, locales e híbridos. Según lo señalado en el comunicado de prensa, esta última versión proporciona a los líderes y equipos de IA las herramientas para crear con confianza aplicaciones de nivel empresarial, gestionar el riesgo y ofrecer resultados empresariales.

"La falta de visibilidad y el riesgo son obstáculos importantes para alcanzar el valor comercial real de la IA", sostuvo Venky Veeraraghavan, director de productos de DataRobot. "Estamos revolucionando la observabilidad de la IA con la intervención en tiempo real en diversos activos y entornos de IA, para que los líderes puedan salvaguardar los proyectos, mejorar la supervisión y capacitar a los equipos".

De acuerdo al ejecutivo, este anuncio aporta la observabilidad de la IA para cualquier activo y entorno de IA a la plataforma de IA de DataRobot para ofrecer:

  • Observabilidad de la IA entre entornos: Ofrece una supervisión completa en todos los entornos y reduce el riesgo en todo su entorno de IA con una gobernanza unificada para todos los activos de IA predictiva y generativa.
  • Intervención y moderación de IA generativa en tiempo real: Construye una defensa multicapa para proteger las aplicaciones de IA con flujos de trabajo personalizados de compilación, intervención y moderación, aprovechando una amplia biblioteca de protecciones prediseñadas y configurables para garantizar la precisión y prevenir problemas como inyecciones rápidas y toxicidad, detectar información de identificación personal (PII) y mitigar las alucinaciones.
  • Alertas y diagnósticos de IA generativa: Ofrece control y flexibilidad con políticas de alertas y notificaciones personalizables, solucione visualmente los problemas y rastree las respuestas, y establezca diagnósticos sólidos en varios idiomas con información para las comprobaciones de calidad de los datos, la deriva de temas y mucho más.

Veeraraghavan indicó que esta nueva versión también presenta las mejores capacidades de evaluación, pruebas y soporte de LLM de código abierto:

  • Alojamiento LLM de código abierto de nivel empresarial: Aprovecha cualquier modelo fundacional de código abierto, incluidos LLaMa, Hugging Face, Falcon y Mistral, con la seguridad y los recursos LLM integrados de DataRobot, complementando las integraciones recientes con los microservicios de inferencia NVIDIA NIM y el software NVIDIA NeMo Guardrails para acelerar las implementaciones de IA para las empresas.
  • Evaluaciones, pruebas y métricas de LLM: Mejora la calidad de las aplicaciones, evalúa el rendimiento de LLM y automatiza las pruebas con la innovadora creación de datos de pruebas sintéticas listas para usar, métricas de evaluación y puntos de referencia de calidad.
  • Experimentación RAG avanzada: Evalúa diferentes métodos de incrustación, estrategias de fragmentación y bases de datos vectoriales para evaluar e identificar la mejor estrategia RAG para cada caso de uso.

Toda la funcionalidad anunciada está disponible en entornos en la nube, locales e híbridos.

Llegamos a ustedes gracias a:


BrandPosts Qué es BrandPost

Más »
×
Los artículos publicados en esta sección -BrandPosts- son escritos y editados por los proveedores o miembros de la comunidad TI. BrandPosts crea una oportunidad para que un patrocinador proporcione información y comentarios desde su punto de vista, directamente a la audiencia de CTO Perú. El equipo editorial de CTO Perú no participa en la redacción o edición de estos BrandPosts.

Primer contacto

Más »

Casos de éxito

Más »