Noticias

Más de 1 de cada 4 organizaciones prohibió el uso de GenAI

Por riesgos de privacidad y seguridad de los datos

[31/01/2024] Cisco publicó hoy su estudio Cisco 2024 Data Privacy Benchmark, una revisión anual de cuestiones clave de privacidad y su impacto en los negocios. Antes del Día Internacional de la Privacidad de Datos, la empresa señaló en un comunicado de prensa que los hallazgos resaltan las crecientes preocupaciones sobre la privacidad con GenAI, los desafíos de confianza que enfrentan las organizaciones sobre su uso de la IA y los atractivos retornos de la inversión en privacidad.

"Basándose en las respuestas de 2.600 profesionales de la privacidad y la seguridad en 12 geografías, la séptima edición del Benchmark muestra que la privacidad es mucho más que una cuestión de cumplimiento normativo, anotó Dev Stahlkopf, director legal de Cisco.

Crecientes preocupaciones sobre la privacidad con la IA generativa

"Las organizaciones ven a GenAI como una tecnología fundamentalmente diferente con desafíos novedosos que considerar", anotó el ejecutivo. "Más del 90% de los encuestados cree que GenAI requiere nuevas técnicas para gestionar datos y riesgos. Aquí es donde entra en juego una gobernanza reflexiva. Preservar la confianza del cliente depende de ello.

Entre las principales preocupaciones, las empresas citaron las amenazas a los derechos legales y de propiedad intelectual de una organización (69%) y el riesgo de divulgación de información al público o a los competidores (68%).

Preocupaciones con GenAI

Stahlkopf sostuvo que la mayoría de las organizaciones son conscientes de estos riesgos y están implementando controles para limitar la exposición: el 63% ha establecido limitaciones sobre qué datos se pueden ingresar, el 61% tiene límites sobre qué herramientas GenAI pueden ser utilizadas por los empleados, y el 27% dijo que su organización había prohibió por completo las aplicaciones GenAI por el momento. "No obstante, muchas personas han ingresado información que podría ser problemática, incluida información de los empleados (45%) o información no pública sobre la empresa (48%).

Lento progreso en IA y transparencia

El estudio también señala que los consumidores están preocupados por el uso de la IA que involucra sus datos hoy en día y, sin embargo, el 91% de las organizaciones reconocen que necesitan hacer más para asegurarles a sus clientes que sus datos se utilizan solo para fines previstos y legítimos en la IA. "Esto es similar a los niveles del año pasado, lo que sugiere que no se ha logrado mucho progreso, indicó Stahlkopf.

Asimismo, el estudio indica que las prioridades de las organizaciones para generar confianza en los consumidores difieren de las de los individuos. "Los consumidores identificaron que sus principales prioridades eran obtener información clara sobre exactamente cómo se utilizan sus datos y no venderlos con fines de marketing. Cuando se les hizo la misma pregunta, las empresas identificaron que sus principales prioridades eran cumplir con las leyes de privacidad (25%) y evitar violaciones de datos (23%). Sugiere que sería útil prestar más atención a la transparencia, especialmente con aplicaciones de inteligencia artificial donde puede ser difícil entender cómo los algoritmos toman sus decisiones, comentó Stahlkopf.

Privacidad y confianza: el papel de las certificaciones y leyes externas

Las organizaciones reconocen la necesidad de tranquilizar a sus clientes sobre cómo se utilizan sus datos, y el 98% dijo que las certificaciones de privacidad externas son un factor importante en sus decisiones de compra. "Este es el más alto que hemos visto en los últimos años, comentó, por su parte, Harvey Jang, vicepresidente y director de privacidad de Cisco.

El ejecutivo agregó que el 94% de los encuestados dijo que sus clientes no les comprarían si no protegieran adecuadamente sus datos. "Están buscando pruebas contundentes de que se puede confiar en la organización. La privacidad se ha vuelto indisolublemente ligada a la confianza y la lealtad del cliente. Esto es aún más cierto en la era de la IA, donde la inversión en privacidad posiciona mejor a las organizaciones para aprovechar la IA de manera ética y responsable.

A pesar de los costos y requisitos que las leyes de privacidad pueden imponer a las organizaciones, el 80% de los encuestados dijo que las leyes de privacidad han tenido un impacto positivo en ellas, y sólo el 6% dijo que el impacto ha sido negativo. Una regulación sólida de la privacidad aumenta la confianza de los consumidores en las organizaciones con las que eligen compartir sus datos.

"Además, muchos gobiernos y organizaciones están implementando requisitos de localización de datos para mantener ciertos datos dentro de un país o región. Si bien la mayoría de las empresas (91%) cree que sus datos serían intrínsecamente más seguros si se almacenaran dentro de su país o región, el 86% también dijo que un proveedor global, que opera a escala, puede proteger mejor sus datos en comparación con un proveedor local, anotó Jang.

Privacidad: Una inversión valiosa

De acuerdo a Cisco, en los últimos cinco años, el gasto en privacidad se ha más que duplicado, los beneficios han tendido a aumentar y los retornos se han mantenido sólidos. Este año, el 95% indicó que los beneficios de la privacidad superan sus costos, y la organización promedio reporta obtener beneficios de privacidad de 1,6 veces su gasto. Además, el 80% indicó obtener importantes beneficios de 'lealtad y confianza' de sus inversiones en privacidad, y esto es aún mayor (92%) para las organizaciones más maduras en materia de privacidad.

Inversión en privacidad

Finalmente, Cisco señaló que, en el 2023, las organizaciones más grandes (más de 10 mil empleados) aumentaron su gasto en privacidad entre un siete y un ocho por ciento desde el año pasado. Sin embargo, las organizaciones más pequeñas experimentaron una menor inversión; por ejemplo, las empresas con entre 50 y 249 empleados redujeron su inversión en privacidad en una cuarta parte en promedio.

Llegamos a ustedes gracias a:


BrandPosts Qué es BrandPost

Más »
×
Los artículos publicados en esta sección -BrandPosts- son escritos y editados por los proveedores o miembros de la comunidad TI. BrandPosts crea una oportunidad para que un patrocinador proporcione información y comentarios desde su punto de vista, directamente a la audiencia de CTO Perú. El equipo editorial de CTO Perú no participa en la redacción o edición de estos BrandPosts.

Primer contacto

Más »

Casos de éxito

Más »