Reportajes y análisis

La IA en la sombra se está comiendo los datos de su empresa

A través de sus empleados

[12/06/2024] Desde el lanzamiento de ChatGPT en noviembre del 2022, la IA generativa se ha convertido en una de las tecnologías que más rápido se ha adoptado en el lugar de trabajo. Pero, como se ha visto en cambios de paradigma pasados como la computación en la nube, los beneficios de productividad de esta nueva tecnología se equilibran con nuevos riesgos.

Al igual que en los primeros días de la adopción de la nube, los trabajadores están utilizando herramientas de IA antes de que los departamentos de TI las compren formalmente. El resultado es la "IA en la sombra", es decir, el uso de herramientas de IA por parte de los empleados a través de cuentas personales que no están autorizadas por la empresa, ni siquiera son conocidas por ella.

"La IA en la sombra conlleva riesgos inherentes a la confidencialidad e integridad de los datos de la empresa, ya que los sistemas de IA suelen asimilar la información que se les proporciona, incorporando estos datos a su base de conocimientos más amplia. Las empresas ya han señalado que la sustancia de la información confidencial que los trabajadores introducen en ChatGPT se ha compartido inadvertidamente con terceros, sostuvo Cameron Coles, vicepresidente de Marketing de Cyberhaven, en una entrada de blog.

Comprender cómo se utiliza el material generado por la IA dentro de las organizaciones es igualmente importante porque este contenido puede ser inexacto, infringir inadvertidamente los derechos de autor o las marcas comerciales, o incluir vulnerabilidades de seguridad, especialmente cuando se trata de código generado por IA, sostuvo el ejecutivo.

El informe Q2 2024 AI Adoption and Risk Report de Cyberhaven Labs explora estas tendencias. Se basa en patrones reales de uso de la IA de tres millones de trabajadores, lo que proporciona una lente sin precedentes a través de la cual se puede examinar la adopción y las implicaciones de seguridad de la IA en el entorno corporativo.

Crecimiento en el uso de la IA y las 25 principales herramientas de IA

El uso de la IA en el trabajo está aumentando a un ritmo exponencial, al igual que la cantidad de datos corporativos pegados o cargados en las herramientas de IA. El informe encontró que, entre marzo del 2023 y marzo del 2024, la cantidad de datos corporativos que los trabajadores invierten en herramientas de IA aumentó un 485%. "La adopción de la IA ha aumentado tanto y tan rápido que el trabajador del conocimiento promedio ahora coloca más datos corporativos en herramientas de IA un sábado o domingo que hace un año, comentó Coles.

Cyberhaven, IA en la sombra, Shadow, inteligencia artificial generativa

ChatGPT, que encendió el auge de la IA en noviembre del 2022, sigue siendo la aplicación de IA más utilizada en el lugar de trabajo. "En el último año ha surgido un conjunto de 'tres grandes' proveedores que dominan el panorama de la IA: en conjunto, los productos de OpenAI, Google y Microsoft representan el 96% del uso de la IA en el trabajo. Pero todavía estamos en las primeras etapas de la revolución de la IA, y numerosas startups también ocupan un lugar destacado en la lista de las 25 mejores herramientas de IA, anotó el ejecutivo.

Cyberhaven, IA en la sombra, Shadow, inteligencia artificial generativa

Adopción de la IA por parte de la industria

La industria con mayor adopción de IA es la tecnología. En todas las dimensiones, los trabajadores de las empresas tecnológicas utilizan la IA más que sus homólogos de otros campos. El informe señala que, en marzo del 2024, el 23,6% de los trabajadores tecnológicos introdujeron datos corporativos en una herramienta de IA. También colocan datos en herramientas de IA con más frecuencia (2.007.102 eventos por cada 100 mil empleados) y copian datos de herramientas de IA con más frecuencia (1.664.821 eventos por cada 100 mil empleados) que los trabajadores de cualquier otra industria.

Cyberhaven, IA en la sombra, Shadow, inteligencia artificial generativa

"Todavía estamos en las primeras etapas de la curva de adopción, ya que el 5,2% de los empleados de las empresas de medios y entretenimiento, el 4,7% de los empleados de las empresas financieras y el 2,8% de los productos farmacéuticos y las ciencias de la vida están poniendo los datos de la empresa en herramientas de IA. Los empleados del comercio minorista y la fabricación tienen tasas de adopción de la tecnología de IA mucho más bajas que otras industrias. Solo el 0,6% de los trabajadores de las empresas manufactureras y el 0,5% de los trabajadores de las empresas minoristas pusieron los datos de la empresa en IA en marzo del 2024, anotó Coles.

Cyberhaven, IA en la sombra, Shadow, inteligencia artificial generativa

En particular, agregó, los trabajadores de los medios de comunicación y el entretenimiento copian un 261,2% más de datos de las herramientas de IA de los que introducen en ellas. "Descubrimos que, en los medios de comunicación, una cantidad creciente de contenido de noticias se genera utilizando IA. Encontramos un patrón similar en los servicios profesionales (por ejemplo, bufetes de abogados, consultoras, etc.), donde los trabajadores copian un 73,3% más de datos de las herramientas de IA de los que introducen en ellas. Los consultores de gestión, en particular, están utilizando la IA para preparar diapositivas de presentación y otros materiales orientados al cliente.

La "IA en la sombra" está creciendo más rápido de lo que TI puede seguir el ritmo

La "IA en la sombra" es el uso de la IA entre los trabajadores que la función de TI y seguridad de la empresa no sanciona o, en algunos casos, ni siquiera conoce.

OpenAI lanzó una versión empresarial de ChatGPT en agosto del 2023 con salvaguardas de seguridad mejoradas y la garantía de que la información de los clientes corporativos no se utilizará para entrenar modelos utilizados por el público en general (que pueden filtrar la sustancia de los datos de entrenamiento). Según OpenAI, el 80% de las empresas de la lista Fortune 500 tienen equipos que utilizan ChatGPT con cuentas corporativas. "Sin embargo, descubrimos que una mayoría significativa sigue siendo una cuenta personal, sostuvo el ejecutivo.

Cyberhaven, IA en la sombra, Shadow, inteligencia artificial generativa

En el lugar de trabajo, el 73,8% de las cuentas de ChatGPT son no corporativas que carecen de los controles de seguridad y privacidad de ChatGPT Enterprise. "Además, el porcentaje es aún mayor para Géminis (94,4%) y Bardo (95,9%). A medida que las empresas adoptan versiones empresariales de herramientas populares y para casos de uso clave y migran usuarios a cuentas corporativas, se lanzan más startups de IA y los usuarios finales están adoptando nuevas herramientas de IA más rápido de lo que TI puede seguir el ritmo, lo que impulsa el crecimiento continuo de la 'IA en la sombra'", añadió Coles.

Lo que los trabajadores de datos corporativos ponen en las herramientas de IA

La adopción de la IA está llegando a nuevos departamentos y casos de uso que involucran datos que no deberían exponerse fuera de la empresa. "Si bien el volumen total de datos corporativos vinculados a la IA ha aumentado significativamente durante el último año, el porcentaje de esos datos que son confidenciales también ha aumentado significativamente. En marzo del 2024, el 27,4% de los datos corporativos que los empleados introdujeron en herramientas de IA eran sensibles, frente al 10,7% de hace un año. La variedad de estos datos también ha crecido, señaló el ejecutivo.

Agregó que, el principal tipo de datos confidenciales que se incluyen en las herramientas de IA es el servicio de atención al cliente (16,3% de los datos confidenciales), que incluye información confidencial que los clientes comparten en los tickets de soporte. El código fuente comprende otro 12,7% de los datos sensibles destinados a la IA. "Es importante tener en cuenta que este número no incluye los colotes de codificación integrados en entornos de desarrollador; representa el código fuente que un desarrollador copia y pega en una herramienta de IA de terceros, lo cual es más arriesgado que los copilotos corporativos sancionados.

Cyberhaven, IA en la sombra, Shadow, inteligencia artificial generativa

El material de investigación y desarrollo representa el 10,8% de los datos confidenciales que fluyen hacia la IA. "Esta categoría incluye los resultados de las pruebas de investigación y desarrollo que, en las manos equivocadas, proporcionarían información a los competidores que trabajan en productos de la competencia. Una vez que los nuevos productos se acercan al lanzamiento, los equipos de marketing comienzan a trabajar en materiales promocionales. El material de marketing no publicado constituye el 6,6% de los datos, y las comunicaciones internas confidenciales también constituyen el 6,6% de los datos, explicó Coles.

El informe señala también que los registros de RRHH y de empleados representan el 3,9% de la información sensible que va a la IA, incluidos los detalles confidenciales de RRHH, como la compensación de los empleados y los problemas médicos. Los documentos financieros son solo el 2,3% de los datos confidenciales que entran en las herramientas de IA, pero este material puede ser especialmente perjudicial si se filtra, ya que incluye datos financieros no publicados para empresas públicas.

Los datos confidenciales fluyen a la "IA en la sombra"

¿Cuántos datos confidenciales van a estas cuentas de IA no corporativas?

"Si bien los documentos legales comprenden solo el 2,4% de los datos corporativos confidenciales que van a las herramientas de IA, la gran mayoría (82,8%) se colocan en cuentas de "IA en la sombra" riesgosas. Los documentos legales incluyen borradores de contratos de adquisición o fusión para acuerdos propuestos, acuerdos de conciliación con términos confidenciales y materiales legales protegidos por el privilegio abogado-cliente, sostuvo Coles.

Cyberhaven, IA en la sombra, Shadow, inteligencia artificial generativa

Aproximadamente la mitad del código fuente (50,8%), los materiales de investigación y desarrollo (55,3%) y los registros de recursos humanos y empleados (49%) colocados en IA van a cuentas no corporativas.

"Curiosamente, descubrimos que la forma más común de datos confidenciales de la empresa que van a las herramientas de IA también es más probable que se use con cuentas de IA corporativas aprobadas. Solo el 8,5% de la información de atención al cliente que se pone en las herramientas de IA va a cuentas no corporativas, anotó Coles.

Cómo se utiliza el contenido generado por IA en el trabajo

El ejecutivo señaló que, es igualmente importante observar dónde se utiliza el material generado por IA dentro de las organizaciones, no solo desde un punto de vista legal y de seguridad, sino también para comprender el impacto que la IA está teniendo en diferentes tipos de trabajo. Midieron para cada categoría de datos en una empresa, cuánto se está creando utilizando IA.

"Desde su origen en una herramienta de IA, rastreamos hacia dónde llegaba el contenido generado por IA dentro de las empresas y descubrimos que el destino con el mayor porcentaje de contenido de IA son las redes profesionales con un 5,1%. En otras palabras, aproximadamente una de cada 20 publicaciones de LinkedIn que los empleados crean mientras están en el trabajo se realizan utilizando IA. Sin embargo, otro material de la IA se está utilizando de formas más críticas para el negocio, comentó Coles.

Cyberhaven, IA en la sombra, Shadow, inteligencia artificial generativa

En marzo del 2024, el 3,4% de los materiales de investigación y desarrollo se produjeron utilizando IA, lo que podría crear un riesgo si se introdujera material patentado o inexacto.

Le siguió el 3,2% de las inserciones de código fuente. "Al igual que en partes anteriores de este informe, este número solo cubre las herramientas de IA de terceros, no los copilotos de codificación integrados en entornos de desarrollo. Es probable que la cantidad real de código fuente que se crea con herramientas de IA sea mucho mayor. Pero las herramientas de IA de terceros a menudo no tienen los mismos controles para evitar el código malicioso, anotó el ejecutivo.

El informe también señala que el 3,0% del contenido gráfico y de diseño se originó en la IA, lo que puede ser un problema, ya que las herramientas de IA pueden generar material de marca registrada.

"Una cantidad menor, pero aún significativa, de noticias y material mediático (1,1%), que incluye artículos de noticias escritos, se realiza utilizando IA. Encontramos el mismo porcentaje para las bolsas de trabajo y el material de reclutamiento, que incluye descripciones de puestos de trabajo en línea, que se originan en herramientas de IA, finalizó Coles.

Llegamos a ustedes gracias a:


BrandPosts Qué es BrandPost

Más »
×
Los artículos publicados en esta sección -BrandPosts- son escritos y editados por los proveedores o miembros de la comunidad TI. BrandPosts crea una oportunidad para que un patrocinador proporcione información y comentarios desde su punto de vista, directamente a la audiencia de CTOPerú. El equipo editorial de CTOPerú no participa en la redacción o edición de estos BrandPosts.

Primer contacto

Más »

Recursos

Más »