[25/07/2024] El último conjunto de directrices de IA de Cloud Security Alliance (CSA), la organización mundial dedicada a definir estándares, certificaciones y mejores prácticas para ayudar a garantizar un entorno de computación en la nube seguro, explora la importancia de la gestión de riesgos de modelos (MRM) para garantizar el desarrollo, la implementación y el uso responsables de los modelos de IA/ML. Escrito para un público amplio, incluidos los profesionales directamente involucrados en el desarrollo de la IA y los líderes empresariales y de cumplimiento que se centran en la gobernanza de la IA, el Artificial Intelligence (AI) Model Risk Management Framework hace hincapié en el papel de la MRM en la configuración del futuro de la IA ética y responsable.
"Si bien la creciente dependencia de los modelos de IA/ML promete desbloquear un gran potencial para la innovación y las ganancias de eficiencia, al mismo tiempo introduce riesgos inherentes, particularmente los asociados con los modelos en sí, que si no se controlan pueden provocar pérdidas financieras significativas, sanciones regulatorias y daños a la reputación. Mitigar estos riesgos requiere un enfoque proactivo como el que se describe en este documento", sostuvo Vani Mittal, miembro del Grupo de Trabajo de Tecnología y Riesgo de IA y autor principal del documento.
Al destacar los riesgos inherentes asociados con los modelos de IA (por ejemplo, sesgos de datos, inexactitudes o irrelevancias fácticas y posibles usos indebidos), el documento enfatiza la necesidad de un enfoque proactivo para garantizar un marco integral de MRM.
El marco presentado en el documento explora la MRM y su importancia para el desarrollo responsable de la IA, examinando de cerca los cuatro pilares de un marco de MRM eficaz (tarjetas modelo, hojas de datos, tarjetas de riesgo y planificación de escenarios) y cómo trabajan juntos para crear un enfoque holístico de la MRM. Al implementar este marco, las organizaciones pueden garantizar el uso seguro y beneficioso de los modelos de IA/ML con beneficios clave como:
- Transparencia y explicabilidad mejoradas
- Mitigación proactiva de riesgos y "seguridad desde el diseño"
- Toma de decisiones informada
- Fomento de la confianza con las partes interesadas y los reguladores
El ejecutivo sostuvo que, si bien este documento se centra en los aspectos conceptuales y metodológicos de MRM, se anima a aquellos que deseen aprender más sobre los aspectos centrados en las personas de MRM, como los roles, la propiedad, el RACI y la participación multifuncional, a leer las Responsabilidades organizativas de IA de CSA: responsabilidades básicas de seguridad.
Franca Cavassa, CTOPerú