Las empresas y organizaciones se lanzan a usar herramientas de IA generativa, a pesar de las importantes dudas que eso genera en materia de seguridad

● El 95 % de las organizaciones están utilizando herramientas GenAI de alguna manera.

● El 89 % considera que las herramientas de GenAI son un peligro potencial para la seguridad.

● El 23 % de las que utilizan herramientas GenAI admiten no disponer de ningún tipo de control

● Son los equipos de TI, y no los empleados en general, quienes aparecen como el principal impulsor en su uso.

Un nuevo estudio de Zscaler, Inc. (NASDAQ: ZS), líder en seguridad en la nube, evidencia que las compañías se están viendo presionadas para utilizar herramientas de Inteligencia Artificial Generativa (GenAI), a pesar de las importantes dudas y preocupaciones que ello plantea en materia de seguridad. Según su último estudio "All eyes on securing GenAI" (Todos los ojos puestos en proteger la GenAI), realizado con la participación de 900 responsables de TI de todo el mundo, aunque el 89 % de las organizaciones tienen la certeza de que las herramientas GenAI como ChatGPT son un riesgo potencial para su seguridad, el 95% ya las está utilizando en sus empresas.

Y lo que es todavía más preocupante, el 23 % reconoce no supervisar en absoluto su uso y, además, el 33 % afirma no tener todavía implementada ninguna medida de seguridad asociada a GenAI, aunque muchas ya lo han planificado. La situación parece ser especialmente grave entre las empresas de menor tamaño (500-999 empleados), donde el 95 % de las organizaciones reconocen estar utilizando herramientas GenAI y hasta un 94 % es consciente del gran riesgo que ello implica.   

"Las herramientas de GenAI, incluyendo ChatGPT y otras, son una gran esperanza para las empresas en términos de velocidad, innovación y eficiencia", destaca Sanjay Kalra, VP de Gestión de Producto de Zscaler. "A pesar de ello, con la preocupación existente en torno a sus medidas de seguridad, apenas un 39 % de las organizaciones percibe su adopción como una oportunidad y no como una amenaza. Esto no solo pone en peligro su negocio y actividad y la integridad de los datos de sus clientes, sino que también desaprovecha su enorme potencial".

Curiosamente, la presión para su uso no proviene de donde se podría pensar, pues los resultados del estudio nos dicen que el departamento de TI tiene la capacidad de recuperar el control de la situación. A pesar de la idea generalizada, no son los usuarios los motores del interés y su uso actual, solo el 5 % de los encuestados afirmó que procedía de los empleados. En cambio, el 59 % afirmó que el uso estaba siendo impulsado directamente desde los equipos de TI. 

"Que los equipos de TI estén al timón debería poder tranquilizar a los responsables empresariales", prosigue Kalra. "Significa que la dirección de las empresas dispone de autoridad para poder controlar estratégicamente el ritmo de adopción de GenAI y establecer un control firme sobre sus medidas de seguridad, antes de que su implantación dentro de su organización avance aún más. Sin embargo, es necesario tener en cuenta que la ventana para lograr una buena gobernanza está disminuyendo rápidamente".

Con el 51 % de los consultados anticipando un aumento significativo en el interés por el uso de las herramientas GenAI antes de fin de año, las organizaciones necesitan actuar rápidamente para cerrar la brecha entre el uso y la seguridad.

Estos son algunos consejos que los responsables de las empresas pueden tener en cuenta para garantizar que el uso de GenAI en su organización está debidamente protegido:

• Implementar una arquitectura integral de confianza cero para autorizar únicamente las aplicaciones y usuarios de IA aprobados.
• Realizar análisis exhaustivos de los riesgos de seguridad de las nuevas aplicaciones de IA para comprender claramente las vulnerabilidades y responder a ellas.
• Implantar un sistema de registro detallado para hacer un seguimiento de todas las solicitudes y respuestas de IA.
• Habilitar medidas de prevención de pérdida de datos (DLP) con confianza cero para todas las actividades de IA con el fin de evitar la extracción de datos.

Recursos adicionales
https://info.zscaler.com/rs/306-ZEJ-256/images/zscaler-genai_survey_infographic.pdf

Metodología

En octubre de 2023, Zscaler contrató a Sapio Research para realizar una encuesta a 901 responsables de la toma de decisiones de TI (ITDM) en 10 mercados [España, Australia y Nueva Zelanda, Francia, Alemania, India, Italia, Países Bajos, Singapur, Reino Unido e Irlanda, y los EE.UU.]. Estos ITDM trabajan en empresas de más de 500 empleados y en distintos sectores.

Sapio Research es una agencia de servicios integrales de estudios de mercado B2B y tecnológicos que ayuda a las empresas a desarrollarse gracias a soluciones de investigación de alta calidad, eficientes y fiables.