[11/11/2024] CrowdStrike ha lanzado CrowdStrike AI Red Team Services señalando que estos servicios especializados identifican y ayudan a mitigar de manera proactiva las vulnerabilidades en los sistemas de IA, incluidos los LLM, para que las organizaciones puedan impulsar la innovación segura de IA con confianza.
"A medida que las organizaciones adoptan la IA a un ritmo rápido, las nuevas amenazas, como la manipulación de modelos, el envenenamiento de datos, la exposición de datos confidenciales, etc., se dirigen cada vez más a las aplicaciones de IA y sus datos subyacentes. El compromiso de los sistemas de IA, incluidos los LLM, puede dar lugar a una violación de la confidencialidad, una reducción de la eficacia del modelo y una mayor susceptibilidad a la manipulación de adversarios”, sostuvo Tom Etheridge, director de servicios globales de CrowdStrike, en el comunicado de prensa.
Según el ejecutivo, los servicios de CrowdStrike AI Red Team proporcionan a las organizaciones evaluaciones de seguridad integrales para sistemas de IA, incluidos los LLM y sus integraciones, para identificar vulnerabilidades y configuraciones incorrectas que podrían conducir a violaciones de datos, ejecución de código no autorizada o manipulación de aplicaciones. "A través de ejercicios avanzados de equipo rojo, pruebas de penetración y evaluaciones específicas, combinadas con innovaciones de la plataforma Falcon como Falcon Cloud Security AI-SPM y Falcon Data Protection, CrowdStrike se mantiene a la vanguardia de la seguridad de IA”.
Etheridge señaló que las características clave del servicio incluyen:
- Defensa proactiva de la IA: Identifica las vulnerabilidades en los sistemas de IA, en consonancia con las técnicas de ataque OWASP Top 10 LLM estándar del sector, antes de que los adversarios puedan explotarlas, mejorando la protección contra las amenazas emergentes.
- Emulaciones adversarias del mundo real: Ofrece escenarios de ataque personalizados y específicos para cada aplicación de IA, lo que garantiza que los sistemas se prueben contra las amenazas más relevantes.
- Validación de seguridad integral: Proporciona información procesable para fortalecer la resiliencia de las integraciones de IA en un panorama de amenazas en evolución.
Franca Cavassa, CTOPerú