Repensar la ciberseguridad para las reglas de la IA

Los modelos de inteligencia artificial de vanguardia, llamados Frontier AI, han desplazado la línea de base tradicional de la ciberseguridad, exponiendo vulnerabilidades en código, malas configuraciones en la nube y superficies de ataque de maneras que no existían hace apenas unos meses.

En la primera parte de una entrevista exclusiva con ComputerWeekly en Español, Sam Rubin, líder global de Unit 42 en Palo Alto Networks, la unidad de la empresa especializada en respuesta ante incidentes, destacó que el uso no autorizado de IA en las empresas está creando brechas invisibles de ataque en las empresas, y advirtió sobre la adopción de agentes de IA sin los adecuados controles y gobierno, que puede llevar a problemas como los que generaría un pasante ansioso con acceso a todos los sistemas.

Con más de 750 investigaciones de brechas bajo su experiencia, Rubin revela que el 75% de los ataques exitosos utilizaron datos que ya estaban disponibles en los registros de las organizaciones, pero que permanecían fragmentados e inutilizables. Por eso, explica que la propuesta de Palo Alto Networks para mejorar la ciberseguridad es la misma que la que usó Salesforce para revolucionar la relación con los clientes: usar una sola plataforma que facilite esta tarea a los especialistas. La ciberresiliencia, destaca, no es una meta futura, sino una necesidad inmediata de supervivencia.

Sam Rubin

¿Cuáles crees que son los principales riesgos y amenazas cibernéticas que enfrentan las empresas hoy en día?

Sam Rubin: El principal riesgo cibernético al que se enfrentan las empresas hoy en día es la posibilidad de que un actor malicioso, un hacker, se infiltre en su organización y cause daños disruptivos, paralice sus sistemas, robe datos y los utilice para extorsionar, o suspenda o interrumpa las operaciones de cualquier otra forma.

En tu opinión, ¿cuál es el nivel actual de madurez de la mayoría de las organizaciones en cuanto a resiliencia, tanto a nivel global como en América Latina?

Sam Rubin: Creo que la resiliencia es realmente un tema prioritario debido a lo que ha estado sucediendo con la IA de vanguardia, específicamente con Mythos. He tenido cientos de conversaciones con CISO, grandes organizaciones financieras globales y fabricantes regionales más pequeños, y todos están pensando en la resiliencia, pero se encuentran en diferentes etapas de ese proceso. Saben que es importante, pero muchas organizaciones no están donde deberían estar.

¿Qué crees que necesitan para avanzar?

Sam Rubin: La resiliencia se trata, fundamentalmente, de la capacidad de resistir y seguir operando ante un ataque. Y aunque hay muchos componentes diferentes, se puede desglosar en un par de áreas clave:

• Una es: ¿puedes contener el radio de impacto? Es decir, si un hacker obtiene acceso a una computadora portátil, ¿puedes impedir que acceda a otra información sensible gracias a que cuentas con la segmentación de red adecuada? Esa es una parte muy importante.
• Otra es la gestión de identidades y accesos: ¿cuentas con el nivel adecuado de controles que permita a un usuario o a un agente de IA hacer lo que necesita hacer, pero que le impida acceder a lo que no debe cuando no debería tener ese acceso?
• Y, por último, la capacidad de detectar y responder casi en tiempo real. Y esa es un área importante en la que vemos que las empresas simplemente no cuentan con una gran capacidad y dependen de las habilidades de su equipo. Es posible que cuenten con personas fenomenales con grandes habilidades, pero dada la velocidad y la escala de estos ataques, no se puede confiar en la velocidad ni en la capacidad humana. Hay que contar, como decimos, con IA para combatir a la IA.

En América Latina hay mucha presión para adoptar la IA, pero la madurez en ciberseguridad no siempre está a la altura. ¿Cuál sería tu recomendación: acelerar las iniciativas de IA para la ciberseguridad o primero fortalecer la identidad, la gobernanza y la capacidad antes de ampliar la inteligencia?

Sam Rubin: Creo que ambas cosas son importantes, son casi las dos caras de una misma moneda. En cuanto a la gobernanza, a medida que las organizaciones adoptan rápidamente la IA, los usuarios la están utilizando —ya sea ChatGPT o Gemini— y los ingenieros están desarrollando aplicaciones, pero la gobernanza y el control se están quedando rezagados. Y eso está creando una superficie de ataque más amplia.

De hecho, Unit 42 ha respondido recientemente a varios incidentes en los que las aplicaciones de IA están generando vulnerabilidades porque están prestando servicios a usuarios y clientes, pero no cuentan con la seguridad adecuada. Por lo tanto, en realidad se convierten en un nuevo objetivo al que los atacantes apuntan para infiltrarse y obtener acceso a la información. Por eso, la gobernanza, el control y la visibilidad de toda esta rápida innovación en IA son de vital importancia para nuestra capacidad de innovar y avanzar rápidamente en este ámbito.

Pero si se cuenta con un presupuesto limitado, ¿qué recomiendas para dar los primeros pasos?

Sam Rubin: No creo que haya que hacer concesiones. Creo que existen métodos para desarrollar e implementar IA que incorporan la seguridad desde el diseño como principio. Se trata de los controles de acceso que le das a la aplicación de IA. Es la capacidad de no incluir código inseguro en las aplicaciones que estás desarrollando.

Hay muchas cosas que pueden ser inherentes a la forma en que se desarrolla, y el problema es el peligro de que, si dices: «Bueno, tengo un presupuesto pequeño y de todos modos no lo voy a desarrollar», tus usuarios lo harán de todos modos porque es muy valioso y útil para ellos desde el punto de vista de la productividad.

Van a usar ChatGPT en su celular. Van a copiar y pegar información de tu organización a esas aplicaciones. Por eso, cuando las organizaciones imponen demasiadas restricciones o limitan a sus empleados, vemos este fenómeno de Shadow AI, en el que las organizaciones o los empleados la usan de todos modos. Así que hay que adoptarla, pero hay que hacerlo de manera segura.

¿Qué riesgos específicos ves en torno a la IA para las empresas latinoamericanas, teniendo en cuenta el este entorno del que hablamos, con falta de gobernanza y de presupuesto?

Sam Rubin: IA es la nueva palabra de moda, pero también las cuentas no humanas, especialmente en sectores como el gobierno. La mejor manera en que puedo explicar o ayudar a la gente a conceptualizar el riesgo es que, cuando creas un agente, es casi como tener otro usuario en tu entorno. Y estos usuarios aún no son tan sofisticados, pero están tratando de hacer cosas en tu nombre.

Piénsalo tal vez como un pasante que has contratado y que está muy ansioso por hacer el trabajo, pero que tal vez no sabe en qué momento va a cometer un error o compartir inadvertidamente información que no debería. Ese es el riesgo que las organizaciones y las entidades del sector público en América Latina están asumiendo cuando se apresuran a desarrollar con IA: existe este riesgo interno que se genera por la capacidad de actuar como agente que le estamos otorgando a estos modelos.

¿Entonces se necesitan controles estrictos?

Sam Rubin: Se necesitan controles, sí. Deben existir medidas de protección y controles, controles de identidad y acceso, medidas de seguridad en cuanto a lo que pueden y no pueden acceder y, sin duda, visibilidad desde el punto de vista de las operaciones de seguridad para saber si ha ocurrido algo, a fin de detenerlo y responder rápidamente.

¿Cómo podemos tener visibilidad de todos estos sistemas complejos y, al mismo tiempo, ser capaces de protegerlos?

Sam Rubin: Lo que hemos visto, a lo largo de los años, tanto en seguridad como en TI, es que la innovación se produce simplemente al agregar la última novedad. En el caso de la seguridad, esto es un problema especialmente grave porque el mercado responde a las nuevas amenazas. Así que surge una nueva amenaza, y entonces aparece un nuevo proveedor y dice: «Oye, tengo algo para solucionarlo. No hay problema, tengo algo que te permite contrarrestar esta amenaza».

Lo que termina pasando es que las empresas y los gobiernos incorporan este nuevo producto de seguridad que detiene esta amenaza en particular, y tratan de encajarlo o integrarlo con la miríada de otras herramientas que ya tienen. Y, de repente, han creado esta increíble carga operativa al tratar de administrar, operar y lograr que todo esto funcione en conjunto.

Mi equipo se dedica mucho a la respuesta ante brechas de seguridad. El año pasado atendimos más de 750, y en más de 75 de las investigaciones que realizamos, los datos sobre cómo el actor malicioso ingresó, escaló privilegios y se movió, todo estaba ahí en los registros. Todo está ahí. Es solo que estas empresas no pueden ponerlo en práctica porque está demasiado fragmentado, desconectado y es muy difícil de usar.

Claro, hay muchos datos y muy poca gente…

Sam Rubin: Eso es absolutamente cierto. Y, en muchos sentidos, hay paralelismos con otra industria dentro de las TI: la gestión de relaciones con los clientes, o CRM. Si nos remontamos tal vez 20 años atrás, antes de que Salesforce fuera una plataforma, existían todos estos componentes diferentes para dar seguimiento al proceso de ventas, interactuar con el cliente después de la venta, enviar órdenes de compra y gestionar todo el ciclo de vida del cliente. Y desde la perspectiva del usuario o cliente, tenías que armarlo tú mismo, y se convertía en algo increíblemente engorroso de intentar construir y operar. Y Salesforce, hay que reconocerlo, llegó y dijo: «Vamos a facilitar esto. Vamos a crear una plataforma».

Por eso creemos que podemos hacer —y estamos haciendo— lo mismo desde la perspectiva de la ciberseguridad.  

Los avances en los modelos de IA de vanguardia están acelerando el descubrimiento y la explotación de vulnerabilidades. ¿Qué es lo primero que deberían hacer las empresas para enfrentar el desafío de las amenazas impulsadas por la IA?

Sam Rubin: Creo que en este momento todas las empresas están más expuestas de lo que se dan cuenta. Y lo que quiero decir con eso es que estos modelos de IA de vanguardia —Mythos, OpenAI, GPT-5000 55 y los que les siguen de cerca— facilitan que los adversarios encuentren puntos de exposición, es decir, vulnerabilidades en el código que pueden explotarse, brechas en tu superficie de ataque que permiten que un actor malicioso se infiltre.

Y también la forma en que utilizas diferentes aplicaciones SaaS o en la nube, donde tal vez no se trate de una vulnerabilidad, sino de un error de configuración. Por lo tanto, cada una de esas categorías está ahora más expuesta de lo que estaba incluso hace unos meses. Así que nuestra perspectiva es que toda organización debe pasar por un proceso ahora mismo para detectarlas y solucionarlas. Un proceso para:

• evaluar cómo su código podría ser vulnerable,
• examinar su superficie de ataque expuesta al exterior,
• mover elementos detrás de un firewall,
• modificar parte de su exposición y,
• en general, pensar y analizar esa gestión de la postura de seguridad; eso es algo que deben hacer de inmediato.

Ahora bien, esa no es la solución a largo plazo. Pero es lo necesario para alcanzar un nivel de seguridad y protección en este momento. Después de eso, entramos en la conversación que estamos teniendo sobre la resiliencia.

Es una especie de punto de referencia…

Sam Rubin: Así es. Diría que hay un nuevo punto de referencia. La línea se ha desplazado y tenemos una nueva línea de base. Estamos más expuestos que hace unos meses.

En la segunda parte de la entrevista, conozca por qué la gestión de la identidad sigue siendo uno de los principales puntos débiles para muchas compañías.