Alertas de Seguridad

Synopsys advierte de un error en EmbedAI

Puede permitir que datos envenenados se cuelen en sus LLM

[03/06/2024] El Centro de Investigación de Ciberseguridad (CyRC) de la empresa de seguridad Synopsys ha expuesto una vulnerabilidad de envenenamiento de datos en la aplicación EmbedAI (CVE-2024-5185). EmbedAI permite a los usuarios interactuar con documentos utilizando las capacidades de los grandes modelos de lenguaje (LLM).

Según lo señalado en la entrada de blog, esta vulnerabilidad podría hacer que una aplicación se vea comprometida, lo que provocaría entradas no autorizadas o ataques de envenenamiento de datos. "Estos ataques son posibles gracias a una vulnerabilidad de falsificación de solicitudes entre sitios (CSRF) creada por la ausencia de una implementación segura de administración de sesiones y políticas débiles de uso compartido de recursos entre orígenes, señaló Mohammed Alshehri, investigador de seguridad de Synopsys, quien descubrió la vulnerabilidad.

El investigador anotó que un atacante puede dirigir a un usuario a una página web maliciosa que explota una vulnerabilidad CSRF dentro de la aplicación EmbedAI. "Al aprovechar esta vulnerabilidad CSRF, el atacante puede engañar al usuario para que cargue e integre inadvertidamente datos incorrectos en el modelo de lenguaje de la aplicación.

Alshehri agregó que la explotación de esta vulnerabilidad podría afectar al funcionamiento inmediato del modelo, y puede tener efectos duraderos en su credibilidad y en la seguridad de los sistemas que dependen de él. "Esto puede manifestarse de varias maneras, incluida la difusión de información errónea, la introducción de sesgos, la degradación del rendimiento y la posibilidad de ataques de denegación de servicio.

Finalizó indicando que el CyRC se comunicó con los desarrolladores, pero no ha recibido una respuesta dentro del plazo de 90 días dictado por su política de divulgación responsable. El CyRC recomienda eliminar las aplicaciones de las redes inmediatamente.

Llegamos a ustedes gracias a:


BrandPosts Qué es BrandPost

Más »
×
Los artículos publicados en esta sección -BrandPosts- son escritos y editados por los proveedores o miembros de la comunidad TI. BrandPosts crea una oportunidad para que un patrocinador proporcione información y comentarios desde su punto de vista, directamente a la audiencia de CTO Perú. El equipo editorial de CTO Perú no participa en la redacción o edición de estos BrandPosts.

Primer contacto

Más »

Casos de éxito

Más »