[24/10/2024] Impulsada por la necesidad de abordar el panorama cambiante de la Inteligencia Artificial (IA) y sus riesgos asociados y consideraciones éticas, la Cloud Security Alliance (CSA), organización mundial dedicada a definir estándares, certificaciones y mejores prácticas para ayudar a garantizar un entorno de computación en la nube seguro, ha publicado un nuevo informe titulado AI Organizational Responsibilities - Governance, Risk Management, Compliance, and Cultural Aspects.
Según lo señalado en el comunicado de prensa, el informe, el segundo de una serie centrada en delinear las responsabilidades de la organización en materia de IA, ofrece un enfoque detallado para gestionar los riesgos relacionados con la IA, cumplir con los requisitos normativos y mantener los estándares éticos, al tiempo que se aprovechan las tecnologías de IA.
Redactado por el Grupo de Trabajo de Responsabilidades Organizacionales de IA de CSA, el documento se basa en el documento fundacional Responsabilidades organizacionales de IA - Responsabilidades de seguridad básicas, que se centra en la seguridad de los datos, la seguridad de los modelos y la gestión de vulnerabilidades, y proporciona un marco integral para integrar la IA dentro de las estructuras organizacionales con énfasis en la gobernanza, la gestión de riesgos y los aspectos culturales.
"El verdadero potencial de la IA solo puede materializarse cuando la gobernanza, la gestión de riesgos y la cultura se integran en su implementación. Estos elementos garantizan una innovación responsable, mitigan las consecuencias no deseadas y promueven un ecosistema de IA que no solo sea eficiente, sino también ético e inclusivo. Esperamos que el marco proporcionado en este documento guíe a las empresas hacia el desarrollo y la implementación responsables y seguros de la IA", sostuvo Ken Huang, copresidente del Grupo de Trabajo de Responsabilidades Organizacionales de IA y autor principal del documento.
Estructurado en cuatro áreas principales de responsabilidad (gestión de riesgos, gobernanza y cumplimiento, cultura de seguridad y capacitación, y prevención de IA en la sombra), cada sección se analiza más a fondo en seis áreas transversales de preocupación para garantizar que las organizaciones puedan evaluar, implementar y administrar de manera integral sus iniciativas de IA al tiempo que abordan aspectos clave como la responsabilidad, las estrategias de implementación, el monitoreo, el control de acceso, y el cumplimiento normativo.
Los futuros documentos de la serie abordarán los desafíos adicionales de la IA a medida que las organizaciones adopten e implementen aplicaciones de IA, la integridad de la cadena de suministro y la mitigación de los usos indebidos.
Franca Cavassa, CTOPerú