
[20/01/2025] Los agentes de IA están preparados para transformar la productividad de los mil millones de trabajadores del conocimiento del mundo con "robots del conocimiento" que pueden realizar una variedad de tareas. Según NVIDIA, para desarrollar agentes de IA, las empresas deben abordar preocupaciones críticas como la confianza, la seguridad y el cumplimiento.
"Los nuevos microservicios NVIDIA NIM para establecer límites de seguridad para la IA, que forman parte de la colección de herramientas de software NVIDIA NeMo Guardrails, son microservicios de inferencia portátiles y optimizados que ayudan a las empresas a mejorar la seguridad, precisión y escalabilidad de sus aplicaciones de IA generativa”, sostuvo Kari Briski es vicepresidenta de gestión de productos para kits de desarrollo de software de IA y HPC en NVIDIA, en una entrada de blog.
La ejecutiva anotó que un elemento central para la orquestación de los microservicios es NeMo Guardrails, parte de la plataforma NVIDIA NeMo para seleccionar, personalizar y proteger la IA. "NeMo Guardrails ayuda a los desarrolladores a integrar y administrar barreras de protección de IA en aplicaciones de modelos de lenguaje (LLM) de gran tamaño”.
Briski explicó que los desarrolladores pueden usar los microservicios de NIM para crear agentes de IA más seguros y confiables que brinden respuestas seguras y apropiadas dentro de las pautas específicas del contexto y estén reforzados contra los intentos de jailbreak. "Desplegados en el servicio al cliente en industrias como la automotriz, las finanzas, la atención médica, la fabricación y el comercio minorista, los agentes pueden aumentar la satisfacción y la confianza del cliente”.
La ejecutiva comentó que uno de los nuevos microservicios, creado para moderar la seguridad del contenido, se entrenó utilizando el conjunto de datos de seguridad de contenido de Aegis, una de las fuentes de datos anotadas por humanos de mayor calidad en su categoría. "Seleccionado y propiedad de NVIDIA, el conjunto de datos está disponible públicamente en Hugging Face e incluye más de 35 mil muestras de datos anotados por humanos marcados para la seguridad de la IA y los intentos de jailbreak para eludir las restricciones del sistema”.
NVIDIA ha presentado tres nuevos microservicios NIM para NeMo Guardrails que ayudan a los agentes de IA a operar a escala mientras mantienen un comportamiento controlado:
* Microservicio NIM de seguridad de contenido que protege la IA contra la generación de resultados sesgados o dañinos, lo que garantiza que las respuestas se alineen con los estándares éticos.
*Microservicio NIM de control de temas que mantiene las conversaciones centradas en temas aprobados, evitando digresiones o contenidos inapropiados.
* Microservicio NIM de detección de jailbreak que agrega protección contra intentos de jailbreak, lo que ayuda a mantener la integridad de la IA en escenarios adversos.
"Al aplicar varios modelos ligeros y especializados como medidas de seguridad, los desarrolladores pueden cubrir las brechas que pueden producirse cuando solo existen políticas y protecciones globales más generales, ya que un enfoque único para todos no protege ni controla adecuadamente los flujos de trabajo complejos de IA de agentes”, explicó Briski.
Agregó que, los modelos de lenguaje pequeños, como los de la colección NeMo Guardrails, ofrecen una latencia más baja y están diseñados para ejecutarse de manera eficiente, incluso en entornos distribuidos o con recursos limitados. "Esto los hace ideales para escalar aplicaciones de IA en industrias como la atención médica, la automotriz y la fabricación, en ubicaciones como hospitales o almacenes”.
La ejecutiva finalizó indicando que NeMo Guardrails es abierto y extensible, y ofrece integración con un sólido ecosistema de proveedores líderes de modelos de seguridad de IA, así como con herramientas de observabilidad y desarrollo de IA. Admite la integración con ActiveScore de ActiveFence, que filtra el contenido dañino o inapropiado en aplicaciones de IA conversacional, y proporciona visibilidad, análisis y monitoreo.
Los microservicios de NVIDIA NeMo Guardrails, así como NeMo Guardrails para la orquestación de raíles y el kit de herramientas NVIDIA Garak, ya están disponibles para desarrolladores y empresas.
Franca Cavassa, CTOPerú