[14/11/2024] F5 ha anunciado el acceso anticipado a F5 AI Gateway para agilizar las interacciones entre aplicaciones, API y grandes modelos de lenguaje (LLM) que impulsan la adopción de la IA empresarial. Según lo señalado en el comunicado de prensa, esta solución en contenedores optimiza el rendimiento, la observabilidad y las capacidades de protección, lo que reduce los costos, y ofrece a los equipos de seguridad y operaciones un camino sin interrupciones para adoptar servicios de IA a través de una calidad de salida de datos significativamente mejorada y una experiencia de usuario superior.
"Los LLM están desbloqueando nuevos niveles de productividad y experiencias de usuario mejoradas para los clientes, pero también requieren supervisión, inspección profunda en el momento de la inferencia y defensa contra nuevos tipos de amenazas", sostuvo Kunal Anand, director de Innovación de F5. "Al abordar estos nuevos requisitos e integrarnos con las soluciones de confianza de F5 para la gestión del tráfico de API, estamos permitiendo a los clientes desplegar con confianza y eficiencia aplicaciones impulsadas por IA en un panorama de amenazas cada vez más grande".
El ejecutivo anotó que F5 AI Gateway observa, optimiza y protege un gran número de variables automatizadas y de usuario para ofrecer reducciones de costes, mitigar las amenazas maliciosas y garantizar el cumplimiento normativo.
"F5 AI Gateway está diseñado para reunirse con los clientes, y sus aplicaciones, en el lugar ideal de su viaje hacia la IA. Se puede implementar en cualquier nube o centro de datos y se integrará de forma nativa con las plataformas NGINX y BIG-IP de F5 para aprovechar los servicios líderes de seguridad y entrega de aplicaciones de F5 en implementaciones tradicionales, multinube o periféricas. Además, la extensibilidad abierta de la solución permite a las organizaciones desarrollar y personalizar la seguridad y los controles programables aplicados por F5 AI Gateway. Estos procesos se pueden actualizar fácilmente y aplicar dinámicamente para impulsar el cumplimiento instantáneo de las políticas de seguridad y los mandatos de cumplimiento”, comentó Anand.
F5 AI Gateway:
- Ofrece aplicación de políticas de seguridad y cumplimiento con detección y corrección automatizadas contra los riesgos identificados en el OWASP Top Ten para aplicaciones LLM.
- Descarga las tareas duplicadas de los LLM con almacenamiento en caché semántico, lo que mejora la experiencia del usuario y reduce los costos de las operaciones.
- Agiliza los procesos de integración, lo que permite a los desarrolladores centrarse en la creación de aplicaciones impulsadas por IA en lugar de gestionar infraestructuras complejas.
- Optimiza el equilibrio de carga, el enrutamiento del tráfico y la limitación de velocidad para LLM locales y de terceros para mantener la disponibilidad del servicio y mejorar el rendimiento.
- Proporciona una única interfaz de API que los desarrolladores pueden utilizar para acceder al modelo de IA que elijan.
Franca Cavassa, CTOPerú