[28/11/2024] Según lo comentado por A10 Networks en su comunicado de prensa, la adopción de la inteligencia artificial (IA) está creando nuevas arquitecturas en los centros de datos y las infraestructuras de nube híbrida. También está creando la necesidad de nuevas soluciones de seguridad dado el aumento de la superficie de ataque. Según una encuesta de KPMG, más del 76% de los encuestados cree que estará expuesto a riesgos de privacidad y seguridad de datos como resultado del uso de la IA generativa (GenAI). Con este riesgo, los equipos de seguridad deben desarrollar nuevos métodos para proteger las aplicaciones de IA en producción. Las principales preocupaciones incluyen la seguridad de los grandes modelos de lenguaje (LLM), incluido el código abierto (por ejemplo, LLAMA 3.1).
Para ayudar a abordar estas preocupaciones, A10 Networks anunció que está ampliando su infraestructura de alto rendimiento y sus soluciones de seguridad para incluir ahora un firewall de IA y herramientas de seguridad LLM.
"Las organizaciones que están poniendo LLM en producción necesitarán nuevos conocimientos y soluciones fáciles de integrar para ofrecer seguridad y disponibilidad de las cargas de trabajo de inferencia. Estas incluyen herramientas que descubren vulnerabilidades, como responder a indicaciones que hacen que el modelo alucine o divulgue información que es de propiedad o de identificación personal por naturaleza. Se necesitarían herramientas adicionales para, en algunos casos, romper un modelo protegido para ayudar a identificar formas de hacer que el modelo sea más fuerte”, sostuvo Dhrupad Trivedi, presidente y CEO de A10 Networks.
El ejecutivo anotó que, las nuevas soluciones, como un firewall de IA, se pueden utilizar para proteger los LLM de producción. "Un firewall de IA es un nuevo enfoque para proteger un nuevo conjunto de aplicaciones. Es una solución que puede inspeccionar la ruta de solicitud y respuesta del tráfico a una aplicación de inferencia de IA. Se puede aplicar un firewall de IA para aplicar políticas específicas, por ejemplo, para descartar mensajes que pueden ser perjudiciales para el LLM no probado y probado. Un firewall de IA funciona a alta velocidad para minimizar la latencia y trabajar junto con un proxy, o puede tener una función de proxy incorporada para terminar el tráfico cifrado y procesarlo directamente. En última instancia, un firewall de IA puede tomar medidas para aumentar la seguridad de las aplicaciones de IA, al tiempo que ayuda a proporcionar disponibilidad y baja latencia”.
Franca Cavassa, CTOPerú