Todos los ojos puestos en proteger la GenAI

Una encuesta muestra que las organizaciones se apresuran a utilizar herramientas de IA generativa, a pesar de las importantes preocupaciones en materia de seguridad

El mundo de las tecnologías de la información tiende a repetir los errores que comete al intentar adoptar las últimas innovaciones tecnológicas. El mejor ejemplo actual de esto es la prisa de la que hemos sido testigos en el último año por adoptar herramientas de IA generativa (GenAI), que comenzó con la popularidad de ChatGPT. La proliferación de nuevas aplicaciones de GenAI es muy similar a lo que presenciamos con SAAS. Las organizaciones se apresuraron a migrar aplicaciones desde sus centros de datos a entornos de nube y sólo comenzaron a preocuparse por su seguridad (y rendimiento) a posteriori. 

Zscaler encargó recientemente una investigación titulada "Todos los ojos puestos en proteger la GenAI" para descubrir cómo utilizan las empresas actuales las herramientas GenAI, las implicaciones de seguridad de esta rápida adopción y las formas en que se protegen la propiedad intelectual y los datos de los clientes. Las conclusiones, que representan las respuestas de 900 líderes de TI en 10 mercados globales, sugieren que las organizaciones se sienten apremiadas a utilizar herramientas GenAI, a pesar de las importantes preocupaciones de seguridad que presentan. 

Predominan las preocupaciones por la seguridad

Según nuestra investigación, un increíble 95 por ciento de las organizaciones ya están utilizando herramientas GenAI de alguna forma dentro de su actividad empresarial. El 57 por ciento de los líderes de TI permiten su uso sin restricciones y un poco más de un tercio (el 38 por ciento) aborda su uso con cautela. El 5 por ciento restante de los encuestados respondió que o bien se están conteniendo para ver a dónde va la tecnología o han prohibido por completo el uso de dichas herramientas. 

Sin embargo, a pesar de estas cifras de uso tan elevadas, un importante 89 por ciento de los líderes de TI encuestados admiten que su organización considera que la GenAI es un riesgo potencial para la seguridad, y casi la mitad (el 48 por ciento) estuvo de acuerdo en que la amenaza actualmente puede superar las oportunidades que estas herramientas podrían propiciar. 

La mayoría de las empresas utilizan herramientas GenAI

Con resultados como estos, la adopción temprana de GenAI parece ser un riesgo menos calculado de lo que nos gustaría creer. Y, de hecho, las organizaciones harían bien en tener en cuenta las preocupaciones de seguridad y privacidad antes de continuar. GenAI promete beneficios notables en términos de productividad y creatividad, por lo que una prohibición total de su uso colocaría a las organizaciones en una desventaja competitiva sustancial. Desde esa perspectiva, es alentador ver que sólo una pequeña minoría está tomando este camino. Pero su adopción debe abordarse estratégicamente, con un enfoque primordial en la seguridad para garantizar un uso responsable y seguro. 

¿De dónde proceden las preocupaciones de seguridad?

Las principales preocupaciones enumeradas para aquellas organizaciones que no utilizan GenAI fueron la posible pérdida de datos confidenciales, la falta de comprensión de sus peligros y beneficios, y la falta de recursos para supervisar su uso. Dado que el 23 por ciento de las organizaciones que utilizan herramientas GenAI no supervisan esto en absoluto, está claro por qué este último punto en particular se planteó como una amenaza. 

Las organizaciones no están actuando ante las preocupaciones de seguridad.

Al incorporar cualquier tecnología nueva, es fundamental comprender los desafíos de seguridad únicos que plantea para que no eclipsen su potencial. No implementar medidas de seguridad adicionales relacionadas con GenAI, algo que un tercio de las organizaciones que lo utilizan admiten, es otra decisión arriesgada que podría contribuir a la vulnerabilidad de las organizaciones. Si bien el 31 por ciento de ese mismo grupo ha incluido soluciones específicas de GenAI en su hoja de ruta, la intención es mucho menos efectiva que la acción, ya que lo temporal tiende a convertirse en permanente. 

Con GenAI, el principal desafío de seguridad radica en la filtración de datos, lo que subraya la importancia vital de contar con medidas potentes de seguridad de datos. Por lo tanto, el primer paso que deben dar las organizaciones es tener visibilidad de quién utiliza qué aplicaciones de IA y, posteriormente, controlar el uso. Una vez que hayan recuperado la visibilidad, podrán implementar medidas de protección de datos comenzando con la clasificación de los datos para evitar filtraciones. Sorprendentemente, sólo el 46 por ciento de los encuestados se mostraron confiados en que su organización hubiera clasificado todos sus datos en función de su importancia. Otro 44 por ciento al menos ha comenzado a clasificar algunos de sus datos como requisito previo para implementar medidas de seguridad. Pero eso todavía deja un gran trabajo por delante.

Las organizaciones deben actuar ahora para recuperar el control

TI necesita tomar el control del uso y la seguridad de GenAI

Dado que las organizaciones parecen estar tan poco preparadas para proteger la GenAI, cabe especular acerca de qué está forzando una adopción tan rápida de la tecnología. 

Sorprendentemente, la presión de la implementación no proviene de donde la gente podría pensar. A pesar de la conciencia generalizada, los empleados no parecen ser la fuerza impulsora detrás del interés y el uso actual: sólo el 5 por ciento de los encuestados dijo que provenía de este grupo. Tampoco se trata de clientes potenciales (21 por ciento). En realidad, el 59 por ciento de los líderes de TI afirmaron ser ellos mismos quienes promovían esta implementación. 

La situación, en este caso, parece tener menos que ver con la “presión” empresarial para introducir nueva tecnología y más con el “deseo” de los equipos de TI de mantenerse al día con la innovación tecnológica. En todo caso, dado que el interés de los líderes empresariales sigue siendo bajo, parecería que GenAI aún tiene que pasar de ser el patio de recreo de los equipos de TI a un facilitador empresarial más amplio. 

El hecho de que sean los equipos de TI quienes están detrás de la adopción temprana debería ofrecer tranquilidad tanto a los líderes empresariales como a los de TI. Significa que hay espacio para moderar estratégicamente el ritmo de adopción de GenAI, dándole a TI tiempo suficiente para establecer un control firme de sus medidas de seguridad antes de que los riesgos de seguridad y privacidad se conviertan en crisis. 

La implementación de GenAI debe ir acompañada de una solución de confianza cero como la plataforma Zscaler Zero Trust Exchange, que garantice una supervisión y autoridad integrales del uso de la tecnología por usuario y aplicación, y permita a las organizaciones mantener un entorno seguro y controlado. Los siguientes pasos permitirán a los equipos de TI recuperar el control de las herramientas GenAI:

1. Realizar evaluaciones exhaustivas de riesgos de seguridad para aplicaciones GenAI para comprender y responder a los riesgos de seguridad y privacidad.
2. Implementar una arquitectura global de confianza cero para obtener visibilidad y autorizar sólo aplicaciones y usuarios GenAI aprobados.
3. Establecer un sistema de registro integral para rastrear todas las indicaciones y respuestas de GenAI.
4. Habilitar medidas de prevención de pérdida de datos basadas en confianza cero para proteger todas las actividades de GenAI y evitar la filtración de datos.

Siempre que surge una nueva tecnología, trae consigo casos de uso tanto positivos como negativos. Zscaler es pionero en soluciones de confianza cero para liberar el enorme potencial de la GenAI de manera segura y responsable, del mismo modo que lo fuimos en la adopción segura de la nube. Con Zscaler, acelere con valentía su revolución de IA generativa.