[24/03/2025] Cloudflare presentó Cloudflare for AI, un conjunto de herramientas para proporcionar visibilidad, seguridad y control integrales para las aplicaciones de IA, desde la implementación del modelo hasta el uso y la defensa contra el abuso. Según lo señalado en el comunicado de prensa, ahora, los clientes de Cloudflare podrán protegerse contra las amenazas más acuciantes a las que se enfrentan los modelos de IA actuales, incluido el uso indebido de las herramientas por parte de los empleados, las indicaciones tóxicas, la fuga de información de identificación personal (PII) y otras vulnerabilidades emergentes.
"La IA está remodelando rápidamente las operaciones empresariales, impulsando a las organizaciones a desarrollar e integrar agresivamente nuevos modelos en áreas críticas que afectan a todo, desde cómo poner precio a los productos, reponer los estantes de las tiendas de comestibles, analizar datos médicos y mucho más. Al mismo tiempo, los modelos de IA se han vuelto más accesibles que nunca: organizaciones de todos los tamaños pueden aprovechar la tecnología de IA sin necesidad de grandes inversiones. A medida que la experimentación con IA se generaliza, surgen nuevos riesgos: los ciberdelincuentes atacan las aplicaciones de IA, mientras que los equipos de seguridad luchan por seguir el ritmo de la rápida velocidad de la innovación. Las organizaciones que no utilizan e implementan de forma segura los modelos de IA corren el riesgo de exponerse a ciberamenazas emergentes que podrían comprometer sus operaciones principales y los datos de la empresa”, sostuvo Matthew Prince, cofundador y CEO de Cloudflare.
El ejecutivo anotó que, con Cloudflare for AI, las organizaciones pueden protegerse contra una serie de amenazas potenciales que pueden convertirse en armas contra modelos críticos de IA, e indicó que. Cloudflare puede ayudar a los clientes a:
- Descubrir todas las aplicaciones de IA en uso, tanto las autorizadas como las no autorizadas: Los CISO son ahora responsables de proteger el uso de la IA en toda la red de la empresa. "Pero a menudo, los equipos de seguridad no tienen visibilidad de dónde se está utilizando la IA. Con Firewall for AI, Cloudflare ahora puede descubrir y etiquetar automáticamente todas las aplicaciones de IA con facilidad. Una vez descubiertas, los equipos de seguridad pueden revisar e implementar las medidas necesarias para salvaguardar su uso”, explicó Prince.
- Supervisar y gestionar cómo los empleados y los equipos utilizan la IA: Desde la información sobre los clientes y los precios hasta la automatización y los recursos humanos, los modelos de IA se aprovechan en una amplia gama de equipos dentro de una organización. "Pero una vez que la información confidencial de los clientes o de la empresa queda expuesta, resulta imposible recuperar el control y volver a protegerla de forma eficaz. AI Gateway, una vez configurado, proporciona visibilidad en todas las aplicaciones de IA de una organización y le permite recopilar información sobre las solicitudes y los patrones de uso”, señaló el ejecutivo.
- Impedir que los empleados y usuarios filtren o envíen información confidencial: La adopción generalizada y masiva de la IA significa que las personas están utilizando herramientas para aumentar la productividad y la eficiencia en sus tareas laborales diarias. "Aunque parezca inofensivo, pegar información confidencial de la empresa -como estrategias comerciales patentadas, información de clientes o documentos internos- en un chatbot podría dar lugar a filtraciones de datos o repercusiones legales. Ahora, las organizaciones pueden utilizar el Firewall para IA de Cloudflare para identificar fugas de datos confidenciales mediante alertas y, potencialmente, bloquearlas antes de que causen daños adicionales”, sostuvo Prince.
- Detectar la toxicidad de los mensajes, el sentimiento y los temas enviados por empleados o usuarios: Si se envían mensajes o temas inapropiados a un modelo de IA, el modelo podría proporcionar resultados incorrectos y engañosos. "AI Gateway de Cloudflare se integra ahora con Llama Guard para permitir a los administradores establecer reglas que detengan los mensajes perjudiciales, manteniendo así la integridad de los modelos en línea con el uso previsto”, señaló el ejecutivo.
- Desarrollar aplicaciones de IA potentes y escalables sin sacrificar la seguridad: En el panorama competitivo actual, las empresas necesitan ejecutar modelos de IA que sean sencillos, asequibles y seguros. "Cloudflare Workers AI ofrece una plataforma para crear e implementar aplicaciones de IA, con GPU en más de 190 ciudades de todo el mundo. Esto permite a las empresas implementar soluciones de IA de forma eficiente y cercana al usuario, sin importar en qué parte del mundo se encuentre, con seguridad incorporada”, afirmó Prince.
- Aumentar la resistencia de las aplicaciones de IA: Las aplicaciones de IA creadas tanto por un proveedor, como las desarrolladas internamente, son objetivos cada vez más populares de ataques y abusos por parte de rastreadores automatizados y usuarios malintencionados. "Las funciones de rendimiento y seguridad de aplicaciones de Cloudflare detienen el acceso no deseado y frenan los ataques a las aplicaciones de IA más importantes de las organizaciones. Al mismo tiempo, Cloudflare enruta, equilibra las cargas y optimiza el tráfico para aumentar la fiabilidad”, indicó el ejecutivo.
Todos los productos incluidos en Cloudflare for AI ya están disponibles.
Franca Cavassa, CTOPerú