[23/06/2025] IBM ha anunciado lo que señalan es el primer software de la industria para reunir a los equipos de seguridad y gobernanza de IA y proporcionar una visión unificada de la postura de riesgo de las empresas.
"Las nuevas capacidades mejoran e integran watsonx.governance y Guardium AI Security para ayudar a los clientes a mantener sus sistemas de IA -incluidos los agentes- seguros y responsables a escala. Watsonx.governance es la herramienta de gobierno de IA de extremo a extremo de IBM y Guardium AI Security es la herramienta de IBM para proteger los modelos, los datos y el uso de la IA”, sostuvo Ritika Gunnar, gerente general de Datos e IA de IBM, en el comunicado de prensa.
Las nuevas ofertas de hoy incluyen:
Integración y automatización de la seguridad de IA agentica
La ejecutiva manifestó que IBM está mejorando la integración de IBM Guardium AI Security y watsonx.governance, proporcionando a las empresas la primera solución unificada para gestionar los riesgos de seguridad y gobernanza asociados con los casos de uso de IA. "La integración respalda los procesos de los usuarios para validar los estándares de cumplimiento con respecto a 12 marcos diferentes, incluida la Ley de IA de la UE e ISO 42001”.
Gunnar agregó que IBM también está introduciendo nuevas capacidades en Guardium AI Security a través de una colaboración con AllTrue.ai, incluida la capacidad de detectar nuevos casos de uso de IA en entornos de nube, repositorios de código y sistemas integrados, proporcionando una amplia visibilidad y protección en un ecosistema de IA cada vez más descentralizado. Una vez identificado, IBM Guardium AI Security puede desencadenar automáticamente flujos de trabajo de gobernanza adecuados desde watsonx.governance.
"Las actualizaciones recientes de IBM Guardium AI Security también incluyen red teaming automatizado para ayudar a las empresas a detectar y corregir vulnerabilidades y errores de configuración en casos de uso de IA. Y para ayudar a mitigar riesgos como la inyección de código, la exposición de datos confidenciales y la fuga de datos, la herramienta permite a los usuarios definir políticas de seguridad personalizadas que analizan las solicitudes de entrada y salida. Estas características ya están disponibles en IBM Guardium AI Security, y su integración con watsonx.governance se desplegará a lo largo del resto del año”, aseguró la ejecutiva.
Gunnar anotó, asimismo que. el futuro de la IA depende de lo bien que la protegamos hoy. "Incorporar la seguridad desde el principio es esencial para proteger los datos, respaldar las obligaciones de cumplimiento y construir una confianza duradera".
Evaluación de IA agentica mejorada y gobernanza del ciclo de vida
De acuerdo a la ejecutiva, IBM watsonx.governance ahora puede supervisar y gestionar agentes de IA a lo largo de todo su ciclo de vida, desde el desarrollo hasta la implementación. "Los nodos de evaluación se pueden integrar directamente en los agentes, lo que permite a los usuarios supervisar cuidadosamente métricas como la relevancia de las respuestas, la relevancia del contexto y la fidelidad, y ayudar a identificar la causa raíz del bajo rendimiento. Las capacidades futuras planificadas también incluyen la evaluación de riesgos de incorporación de agentes, registros de auditoría de agentes y un catálogo de herramientas de agentes, que se espera que estén disponibles el 27 de junio”.
Capacidades de cumplimiento listas para usar
Los aceleradores de conformidad de IBM watsonx.governance proporcionan regulaciones, estándares y marcos precargados seleccionados de todo el mundo, lo que permite a los usuarios identificar obligaciones relevantes y asignarlas a sus propios casos de uso de IA, aseguró Gunnar, indicando que el contenido cubre regulaciones clave como la Ley de IA de la UE, la SR 11-7 de la Reserva Federal de EE. UU. y la Ley Local 144 de la Ciudad de Nueva York, junto con estándares globales como ISO/IEC 42001 y marcos como el NIST AI RMF. Watsonx.governance Compliance Accelerators ya está disponible como complemento.
Experiencia para escalar la IA de manera responsable
Para ayudar a los clientes a escalar la IA de manera responsable, Gunnar comentó que IBM Consulting Cybersecurity Services presenta un nuevo conjunto de servicios que reúne plataformas de seguridad de datos, como IBM Guardium AI Security, con tecnología de IA profunda y consultoría de dominios. "Los nuevos servicios apoyarán a las organizaciones a lo largo de su viaje de transformación de la IA: desde el descubrimiento de implementaciones de IA y posibles vulnerabilidades, hasta la implementación de prácticas seguras por diseño en todas las capas de IA, hasta la orientación de gobernanza para un panorama regulatorio en constante evolución. Los nuevos servicios se basan en la experiencia de IBM Consulting ayudando a cientos de clientes en todo el mundo en la estrategia y la gobernanza de la IA”.
Franca Cavassa, CTOPerú