[28/05/2024] La preocupación por los ataques maliciosos mejorados por la inteligencia artificial (IA) ascendió a la cima de la clasificación de riesgo emergente de Gartner en el primer trimestre del 2024, según Gartner, Inc.
"La perspectiva de acciones maliciosas habilitadas por herramientas asistidas por IA preocupa a los líderes de riesgo de todo el mundo", señaló Gamika Takkar, directora de investigación de la Práctica de Riesgo y Auditoría de Gartner, en una entrada de blog. "La relativa facilidad de uso y la calidad de las herramientas asistidas por IA, como la generación de voz e imágenes, aumentan la capacidad de llevar a cabo ataques maliciosos con consecuencias de amplio alcance".
Durante el primer trimestre de este año, Gartner encuestó a 345 altos ejecutivos de riesgo empresarial para capturar y comparar sus 20 principales riesgos emergentes y proporcionar a los líderes una visión de sus causas y posibles consecuencias.
Los riesgos relacionados con la IA ocuparon los dos primeros puestos en la encuesta del 1T24 (véase la Tabla 1), con los ataques maliciosos mejorados por IA citados como el principal riesgo emergente y la desinformación asistida por IA también causando preocupación. La escalada de la polarización política, que entró en el rastreador por primera vez en el 4T23, cayó del segundo lugar más citado al tercer lugar.
Tabla 1: Los cinco riesgos emergentes más citados en el primer trimestre de 2024
Fuente: Gartner (mayo del 2024)
Causas de los ataques y la desinformación habilitados por IA
De acuerdo a Takkar, uno de los principales impulsores de los ataques y la desinformación habilitados por la IA es la rápida expansión del acceso a sus capacidades. La mejora de la IA puede proporcionar código malicioso y facilitar el phishing y la ingeniería social, lo que permite una mejor intrusión, una mayor credibilidad y ataques más dañinos.
"Su bajo costo y rápido crecimiento también exponen a los usuarios a la tecnología que tienen poca conciencia sobre cómo reconocer cuándo las herramientas habilitadas para IA están proporcionando información válida frente a información falsa o tergiversada", sostuvo Takkar.
Posibles consecuencias a mitigar
Los impactos potenciales de los ataques mejorados por IA y la desinformación son de gran alcance y tienen consecuencias para la reputación, la productividad y la capacidad de respuesta de las organizaciones. El aumento de los incumplimientos y los requisitos de divulgación pueden erosionar la confianza en una organización y una marca entre los clientes, consumidores y socios.
"La velocidad y la calidad de los ataques mejorados por IA y la desinformación también obstaculizan la capacidad de los equipos de seguridad de la información para responder y adaptarse al nuevo panorama de seguridad, lo que amplifica aún más sus vulnerabilidades", finalizó Takkar.
Franca Cavassa, CTOPerú