De usar IA a responder por ella: la gobernanza se convierte en el siguiente desafío empresarial

Durante los últimos dos años, gran parte de la conversación empresarial sobre inteligencia artificial se centró en identificar casos de uso, acelerar procesos y aumentar la productividad. Sin embargo, la aparición de modelos generativos cada vez más sofisticados y de sistemas agénticos capaces de ejecutar acciones con distintos niveles de autonomía está desplazando el debate hacia otro terreno.

De hecho, la velocidad del desarrollo de esta tecnología está superando la capacidad de los marcos regulatorios para generar evidencia, evaluar riesgos y construir mecanismos efectivos de supervisión, advierte el informe del Panel Científico Internacional Independiente sobre IA de Naciones Unidas, publicado en julio de 2026. La cuestión ya no es únicamente qué puede hacer la IA, sino quién responde por sus decisiones, cómo se supervisa su comportamiento y qué mecanismos existen para controlar sus riesgos.

Los riesgos asociados a esta nueva etapa ya comenzaron a materializarse. La expansión del fraude con IA está transformando la forma en que se construye la confianza dentro de los ecosistemas digitales. La capacidad de distinguir entre una interacción humana legítima y una generada artificialmente se vuelve cada vez más compleja, especialmente en sectores donde la identidad constituye un elemento crítico para operar.

"Uno de los desafíos más complejos que introduce la inteligencia artificial es que empieza a difuminar la frontera entre interacciones humanas e interacciones automatizadas. Los agentes de IA, los deepfakes y las identidades sintéticas están evolucionando a una velocidad que obliga a replantear cómo se verifica la identidad y autenticidad dentro de los ecosistemas digitales. La gobernanza no puede limitarse al comportamiento de los modelos; también debe contemplar mecanismos para validar quién interactúa con ellos, qué nivel de confianza puede atribuirse a una identidad y cómo se gestionan los riesgos cuando los sistemas automatizados son capaces de operar a escala", afirma Samer Atassi, vicepresidente para Latinoamérica de Jumio.

El informe también advierte que gran parte de las metodologías utilizadas para evaluar modelos avanzados siguen siendo diseñadas por las mismas organizaciones que los desarrollan, sin estándares externos equivalentes a los que existen en industrias como la farmacéutica o la aeronáutica. Esta asimetría de información refuerza la necesidad de construir mecanismos de supervisión permanentes dentro de las organizaciones.

"Gobernar un sistema de inteligencia artificial va mucho más allá de aprobarlo antes de ponerlo en marcha. La verdadera prueba consiste en demostrar que existe control sobre él mientras opera. En los próximos años, esa capacidad de demostrar control será tan determinante como la de construir el sistema", subraya Daniel Villa, CEO de NYXN.

La gobernanza de la IA agéntica exige definir qué decisiones puede tomar un agente autónomo, cuáles requieren intervención humana y qué mecanismos permiten reconstruir posteriormente qué ocurrió, por qué ocurrió y quién responde por sus consecuencias. "La creciente adopción de marcos como ISO/IEC 42001 responde precisamente a esta necesidad de entender la gobernanza como un sistema de gestión permanente y no como un ejercicio puntual de cumplimiento", añade Villa.

La complejidad aumenta aún más en sectores donde la inteligencia artificial comienza a integrarse directamente en infraestructuras críticas. La banca constituye uno de los ejemplos más visibles de esta transformación. Los avances en IA agéntica permiten automatizar procesos que históricamente dependían de una intervención humana constante, desde la gestión del riesgo hasta la atención al cliente o la detección de fraude.

"La IA agéntica está acercando la industria financiera a un modelo donde determinados procesos operativos pueden ejecutarse con niveles crecientes de autonomía. Esto genera oportunidades importantes en productividad, gestión del riesgo, prevención del fraude y atención al cliente, pero también eleva los requisitos de gobernanza. Cuando la inteligencia se incorpora directamente dentro del core bancario, la prioridad deja de ser únicamente automatizar tareas y pasa a ser garantizar trazabilidad, explicabilidad y supervisión sobre cada acción que el sistema ejecuta", explica Alejandro Masseroni, regional sales leader – NextGen Financial Services de Temenos.

Naciones Unidas recomienda convertir la supervisión humana en un objetivo operacional medible y establecer mecanismos claros de atribución para sistemas cada vez más autónomos. Esa capacidad de supervisión depende, en gran medida, de la visibilidad que las organizaciones tengan sobre los procesos y comunicaciones que ocurren dentro de sus entornos tecnológicos.

Germán Patiño, vicepresidente sénior para América Latina de Lumu, lo explica: "La gobernanza de IA y las operaciones de ciberseguridad en la actualidad comparten algunos principios que permiten a las organizaciones ejercer un control de forma eficiente y precisa. En primera medida, las organizaciones requieren tener visibilidad de lo que sucede en la red, ya que esta visibilidad permite entender los flujos de trabajo que se ejecutan con motores de IA. Adicionalmente, también ayuda a descubrir la existencia de 'Shadow AI', que son esas aplicaciones o servicios de IA usados sin permiso de la organización".

La aparición de entornos de IA no gobernados es una preocupación creciente para las áreas de seguridad y tecnología. Las organizaciones necesitan identificar comunicaciones entre sistemas gobernados y no gobernados, comprender cómo circulan los datos y mantener evidencia suficiente para supervisar decisiones automatizadas.

Además, aunque la inteligencia artificial mejora sustancialmente la productividad y la personalización, también incrementa las expectativas sobre transparencia, uso responsable de los datos y capacidad de rendición de cuentas.

"La adopción de inteligencia artificial está impulsando mejoras en productividad, eficiencia, personalización de servicios y competitividad en los sectores de la economía digital. Sin embargo, el crecimiento de estas capacidades también incrementa las expectativas de consumidores, empresas y autoridades sobre la forma en que se utilizan los datos, se toman decisiones automatizadas y se gestionan los riesgos asociados", afirma María Fernanda Quiñones, presidenta ejecutiva de la Cámara Colombiana de Comercio Electrónico.

"La gobernanza de IA será uno de los elementos que definirán la sostenibilidad de la transformación digital durante los próximos años. Tanto organizaciones como gobiernos deberán enfocarse en centrar la normativa y la innovación con transparencia, trazabilidad y mecanismos claros de rendición de cuentas para fortalecer la confianza de usuarios y de los negocios", concluye.

La inteligencia artificial está dejando de ser una herramienta de apoyo para convertirse en una infraestructura que participa activamente en decisiones, procesos y operaciones. Esa transición obliga a desarrollar capacidades de trazabilidad, observabilidad y rendición de cuentas que hasta hace poco ocupaban un lugar secundario. La ventaja competitiva ya no dependerá de adoptar la IA más rápido, sino demostrar control sobre ella cuando opere a escala.