[12/05/2025] Check Point Software Technologies ha presentado su primer Informe de Seguridad de la IA que ofrece una exploración en profundidad de cómo los ciberdelincuentes están utilizando la inteligencia artificial (IA) como arma, junto con información estratégica para que los defensores se mantengan a la vanguardia.
"A medida que la IA remodela las industrias, también ha borrado las líneas entre la verdad y el engaño en el mundo digital. Los ciberdelincuentes ahora utilizan la IA generativa y los grandes modelos de lenguaje (LLM) para eliminar la confianza en la identidad digital. En el panorama actual, lo que ve, escucha o lee en línea ya no se puede creer al pie de la letra. La suplantación de identidad impulsada por IA elude incluso los sistemas de verificación de identidad más sofisticados, lo que convierte a cualquiera en una víctima potencial de engaño a gran escala”, sostuvo Lotem Finkelstein, director de investigación de Check Point, en el comunicado de prensa.
Información clave sobre amenazas del informe de seguridad de IA
El ejecutivo anotó que, en el corazón de estos desarrollos se encuentra la capacidad de la IA para suplantar y manipular de manera convincente las identidades digitales, disolviendo la frontera entre lo auténtico y lo falso. El informe revela cuatro áreas principales en las que esta erosión de la confianza es más visible:
- Suplantación de identidad e ingeniería social mejoradas por IA: Los actores de amenazas utilizan la IA para generar correos electrónicos de phishing realistas y en tiempo real, suplantaciones de audio y videos deepfake. "En particular, los atacantes imitaron recientemente al ministro de Defensa de Italia utilizando audio generado por IA, lo que demuestra que ninguna voz, rostro o palabra escrita en línea está a salvo de la fabricación”, comentó Finkelstein.
- Envenenamiento de datos y desinformación de LLM: Los actores maliciosos manipulan los datos de entrenamiento de la IA para sesgar los resultados. "Un caso relacionado con la red rusa de desinformación Pravda mostró que los chatbots de IA repetían narrativas falsas el 33% de las veces, lo que subraya la necesidad de una sólida integridad de los datos en los sistemas de IA”, indicó el ejecutivo.
- Malware y minería de datos creados por IA: Los ciberdelincuentes aprovechan la IA para crear y optimizar malware, automatizar campañas DDoS y refinar las credenciales robadas. "Servicios como Gabbers Shop utilizan la IA para validar y limpiar los datos robados, lo que mejora su valor de reventa y la eficiencia de la segmentación”, anotó Finkelstein.
- Militarización y secuestro de modelos de IA: Desde cuentas de LLM robadas hasta Dark LLM personalizados como FraudGPT y WormGPT, los atacantes están eludiendo los mecanismos de seguridad y comercializando la IA como herramienta para la piratería y el fraude en la web oscura.
Estrategias defensivas
El informe hace hincapié en que los defensores deben asumir ahora que la IA está integrada en las campañas de los adversarios. Finkelstein señaló que, para contrarrestar esto, las organizaciones deben adoptar marcos de seguridad cibernética conscientes de la IA, que incluyen:
- Detección asistida por IA y búsqueda de amenazas: Aproveche la IA para detectar amenazas y artefactos generados por la IA, como contenido sintético de phishing y deepfakes.
- Verificación de identidad mejorada: Vaya más allá de los métodos tradicionales e implemente verificaciones de identidad de varias capas que tengan en cuenta la suplantación impulsada por IA en texto, voz y video, reconociendo que la confianza en la identidad digital ya no está garantizada.
- Inteligencia de amenazas con contexto de IA: Equipe a los equipos de seguridad con las herramientas para reconocer y responder a las tácticas impulsadas por la IA.
"En esta era impulsada por la IA, los equipos de seguridad cibernética deben seguir el ritmo de los atacantes integrando la IA en sus defensas. Este informe no solo destaca los riesgos, sino que proporciona la hoja de ruta para proteger los entornos de IA de manera segura y responsable", finalizó Finkelstein.
Franca Cavassa, CTOPerú