Noticias

Gartner: La IA generativa se ha convertido en un riesgo emergente

Para las empresas

[14/08/2023] La disponibilidad masiva de IA generativa, como ChatGPT de OpenAI y Google Bard, se convirtió en una de las principales preocupaciones para los ejecutivos de riesgos empresariales en el segundo trimestre de 2023, según Gartner, Inc.

"La IA generativa fue el segundo riesgo más nombrado en nuestra encuesta del segundo trimestre, apareciendo en el top 10 por primera vez", señaló Ran Xu director de investigación en la Práctica de Riesgo y Auditoría de Gartner. "Esto refleja tanto el rápido crecimiento de la conciencia pública y el uso de herramientas de IA generativa, así como la amplitud de los casos de uso potencial, y por lo tanto los riesgos potenciales, que estas herramientas engendran".

En mayo del 2023, Gartner encuestó a 249 altos ejecutivos de riesgos empresariales para proporcionar a los líderes una visión comparativa de 20 riesgos emergentes. Los informes trimestrales sobre riesgos emergentes incluyen información detallada sobre el posible impacto, el marco temporal, el nivel de atención y las oportunidades percibidas para estos riesgos.

La viabilidad de terceros fue el principal riesgo emergente que las organizaciones están vigilando más de cerca en la encuesta del segundo trimestre del 2013 (véase el cuadro 1). La incertidumbre en la planificación financiera fue el tercer riesgo, seguido del riesgo de concentración en la nube. Las tensiones comerciales con China completaron los cinco principales riesgos, que se dividieron entre cuestiones sintomáticas de la actual volatilidad macroeconómica y geopolítica, y preocupaciones relacionadas con la tecnología.

Cuadro 1: Los cinco riesgos emergentes más citados en el segundo trimestre del 2023

Clasificación del riesgo (por frecuencia) Nombre del riesgo Frecuencia
1 Viabilidad de terceros 67%
2 Disponibilidad de IA generativa masiva 66%
3 Incertidumbre en la planificación financiera 62%
4 Riesgo de concentración de nubes 62%
5 Tensiones comerciales con China 56%

Disponibilidad masiva de IA generativa

Gartner ha identificado previamente seis riesgos de la IA generativa y cuatro áreas de regulación de la IA que son relevantes para las funciones de aseguramiento. En términos de gestión del riesgo empresarial, deben abordarse tres aspectos principales, según los expertos de Gartner:

Propiedad intelectual: "La información introducida en una herramienta de IA generativa puede formar parte de su conjunto de entrenamiento, lo que significa que la información sensible o confidencial podría acabar en los resultados para otros usuarios", señaló Xu. "Además, el uso de los resultados de estas herramientas podría acabar infringiendo inadvertidamente los derechos de propiedad intelectual de otros que las hayan utilizado".

Agregó que es importante educar a los líderes corporativos sobre la necesidad de precaución y transparencia en torno al uso de tales herramientas para que los riesgos de propiedad intelectual puedan mitigarse adecuadamente tanto en términos de entrada como de salida de las herramientas de IA generativa.

Privacidad de los datos: Es posible que las herramientas de IA generativa compartan información de los usuarios con terceros, como vendedores o proveedores de servicios, sin previo aviso. "Esto tiene el potencial de violar la ley de privacidad en muchas jurisdicciones. Por ejemplo, ya se han aplicado normativas en China y la UE, y están surgiendo propuestas de normativas en EE.UU., Canadá, India y Reino Unido, entre otros, anotó Xu.

Ciberseguridad: "Los piratas informáticos siempre están probando nuevas tecnologías en busca de formas de subvertirlas para sus propios fines, y la IA generativa no es diferente", afirmó Xu. "Hemos visto ejemplos de código de malware y ransomware que la IA generativa ha sido engañada para producir, así como ataques de 'inyecciones rápidas' que pueden engañar a estas herramientas para que proporcionen información que no deberían. Esto está llevando a la industrialización de ataques avanzados de phishing".

Causas e implicaciones del riesgo de viabilidad de terceros

"Una inflación persistente que responde menos a las subidas de los tipos de interés y se mantiene más tiempo de lo previsto ha disparado los costos y las presiones sobre los márgenes de terceros", indicó Xu. "A medida que los bancos centrales aumentan las tazas de interés para luchar contra la inflación, se produce también un proceso de restricción del crédito que puede obligar a los proveedores a suspender sus operaciones o declararse insolventes al aumentar los costos de los préstamos".

Si las condiciones económicas se deterioran de forma generalizada, esto puede provocar una caída inesperada de la demanda que podría afectar a la viabilidad de los proveedores o a su capacidad para suministrar bienes y servicios a tiempo. Los expertos de Gartner identificaron tres posibles consecuencias para la viabilidad de terceros que los gestores de riesgos deben vigilar a medida que evolucione la situación:

Pérdida de insumos y materiales clave: Si los terceros aumentan sus precios debido a la situación económica general, existe un riesgo claro de perder el acceso a insumos y materiales clave, ya que los terceros favorecerían a los clientes dispuestos a pagar precios más altos.

Hipótesis de planificación financiera erróneas: Las hipótesis de costos quedarán invalidadas a medida que los proveedores aumenten los precios o fallen, lo que obligará a cambiar de proveedor y a aumentar los precios para obtener bienes y servicios.

Desafíos fuera de la cadena de suministro: Los socios, como los proveedores de servicios gestionados o los socios comerciales, los acreedores o los proveedores de tecnología pueden cesar o reducir sus operaciones.

Llegamos a ustedes gracias a:


BrandPosts Qué es BrandPost

Más »
×
Los artículos publicados en esta sección -BrandPosts- son escritos y editados por los proveedores o miembros de la comunidad TI. BrandPosts crea una oportunidad para que un patrocinador proporcione información y comentarios desde su punto de vista, directamente a la audiencia de CTOPerú. El equipo editorial de CTOPerú no participa en la redacción o edición de estos BrandPosts.

Primer contacto

Más »

Casos de éxito

Más »