[07/08/2024] Qualys ha anunciado que está ampliando su cartera con Qualys TotalAI, diseñada para abordar los crecientes desafíos y riesgos asociados con la seguridad de la IA generativa y las aplicaciones de grandes modelos de lenguaje (LLM).
"A medida que las organizaciones integran cada vez más la IA y los LLM en sus productos y soluciones, se enfrentan a una mayor superficie de ataque y a mayores riesgos cibernéticos. Las prácticas tradicionales de ciberseguridad están demostrando ser insuficientes para abordar estos nuevos desafíos. La necesidad de descubrir LLM o modelos de IA desconocidos o no aprobados, conocidos como modelos en la sombra, aumenta significativamente la exposición a las amenazas, incluido el robo de modelos y las fugas de datos de CVE existentes o configuraciones incorrectas. Además, existe un riesgo creciente de pérdida accidental de datos, problemas de cumplimiento y daños a la reputación debido al contenido inapropiado y las alucinaciones de IA generadas por estos modelos. Estas preocupaciones ponen de manifiesto la urgente necesidad de soluciones de seguridad sólidas en el cambiante panorama de la IA”, comentó Sumedh Thakar, presidente y CEO de Qualys, en el comunicado de prensa.
El ejecutivo sostuvo que Qualys TotalAI aprovecha las funciones por las que es conocida la plataforma Qualys para empoderar a las organizaciones en la adopción segura de tecnologías de IA. "Amplía las capacidades de visibilidad de activos, detección de vulnerabilidades y remediación de Qualys a la IA generativa, y agrega escaneo LLM. La solución aborda específicamente los 10 riesgos más críticos de OWASP para las aplicaciones de LLM: inyección rápida, divulgación de información confidencial y robo de modelos. Con Qualys TotalAI, las organizaciones pueden aprovechar de forma segura los beneficios de la IA mientras mantienen rigurosos estándares de seguridad”.
Thakar agregó que Qualys TotalAI permitirá a las organizaciones:
- Descubrir todas las cargas de trabajo de IA: Descubre, realiza el inventario y clasifica todos los activos de IA y LLM, incluidas las GPU, el software, los paquetes y los modelos, en producción y desarrollo, al tiempo que correlaciona su exposición con la superficie de ataque.
- Evitar el robo de modelos: Amplía el poder de TruRisk para evaluar, priorizar y remediar las vulnerabilidades del software de IA con 650+ detecciones específicas de IA, correlacionadas con las fuentes de amenazas y las exposiciones de activos, para evitar el riesgo de robo de modelos y datos.
- Infraestructura de IA segura: Aprovecha las capacidades integrales de corrección para superar los requisitos de seguridad, alinearse con los SLA y satisfacer las necesidades comerciales. Mitiga de forma proactiva las amenazas potenciales para garantizar operaciones fluidas y una sólida postura de seguridad de IA y LLM.
- Detectar la divulgación de datos confidenciales: Evalúa los LLM en busca de exposiciones críticas a ataques como la inyección inmediata, la divulgación de información confidencial y el robo de modelos según el OWASP Top 10 para LLM. Esto garantizará la confianza en la gestión de riesgos de la IA y hará que los modelos estén preparados para la auditoría y el cumplimiento.
Qualys TotalAI estará disponible en el cuarto trimestre del 2024.
Franca Cavassa, CTOPerú