[16/06/2025] Orca Security lanzó las últimas innovaciones para Orca AI y nuevas detecciones para proteger los datos confidenciales de entrenamiento de IA en entornos nativos de la nube. Según lo señalado en el comunicado de prensa, Orca AI proporciona acceso instantáneo a la telemetría profunda en la nube desde el modelo de datos unificado de Orca a través de una experiencia simple, intuitiva y similar a un chat para comprender rápida y fácilmente los riesgos de seguridad en la nube y las brechas de cumplimiento.
"El enfoque de Orca se basa en la visión de hacer que la seguridad en la nube sea fácil para todos los que utilizan la plataforma de seguridad en la nube de Orca. La base es el modelo de datos unificado y SideScanning patentado de Orca, que proporciona la telemetría en la nube más amplia y profunda disponible en cualquier plataforma. Orca AI se basa en esa base con una colección de capacidades impulsadas por GenAI, incluida la búsqueda de lenguaje natural y las recomendaciones de corrección de código para ayudar a simplificar, acelerar y mejorar la seguridad en la nube para los equipos de seguridad y DevOps”, sostuvo Gil Geron, CEO y cofundador de Orca Security.
A través de la adición de un chatbot en la aplicación, el ejecutivo anotó que Orca AI ahora hace que toda esta inteligencia sea más accesible y procesable. "Por ejemplo, los analistas de seguridad pueden hacer preguntas sencillas a Orca AI, como "¿Cuáles son mis alertas más críticas?" y recibir resúmenes rápidos, lo que reduce el tiempo de obtención de información. A continuación, pueden colaborar con Orca AI en el contexto de una alerta para evaluar el impacto potencial y recomendar los controles de mitigación adecuados. Los equipos de seguridad de aplicaciones también pueden explorar problemas más complejos como: ¿Por qué esta confirmación de código produce una alerta crítica y cómo puedo solucionarlo? Orca AI explicará el problema en un lenguaje sencillo y luego recomendará fragmentos de código para solucionar la brecha de seguridad, extendiendo las capacidades de remediación impulsadas por IA de Orca a la experiencia del chatbot”.
Nuevas detecciones de datos confidenciales en AI-SPM
Geron comentó que, a través de AI-SPM, Orca aprovecha su tecnología SideScanning sin agentes para proporcionar la misma visibilidad, información sobre riesgos y datos profundos para los modelos de IA que para otros recursos en la nube. También aborda casos de uso exclusivos de la seguridad de la IA, incluida la detección de datos confidenciales en conjuntos de entrenamiento.
"Orca mejoró sus capacidades de AI-SPM con nuevas detecciones de datos confidenciales en modelos de entrenamiento, riesgo de envenenamiento de datos debido a datos de entrenamiento de IA editables o reemplazables, y configuraciones incorrectas de IA avanzadas asignadas a OWASP LLM Top 10 y OWASP ML Top 10. Las nuevas visualizaciones de gráficos facilitan a los equipos de seguridad la comprensión y la corrección rápida del riesgo para los modelos de entrenamiento de IA. Estas nuevas detecciones de modelos de entrenamiento estarán disponibles primero para Azure Open AI, con AWS Sagemaker, y luego serán compatibles con Vertex AI de Google Cloud”, finalizó el ejecutivo.
Franca Cavassa, CTOPerú