IA en las empresas latinoamericanas: desafíos éticos y de implementación

Las barreras que persisten en la aplicación de IA en las compañías

Los expertos advierten que, aunque las organizaciones han reconocido la importancia y la necesidad de integrar herramientas de inteligencia artificial en sus operaciones, muchas aún no han logrado hacerlo debido a diversas barreras que enfrentan. “La falta de regulaciones, así como la resistencia al cambio y la ausencia de una cultura de innovación pueden dificultar la adopción de nuevas tecnologías. Además, destaca la escasez de profesionales especializados en IA y los desafíos para retenerlos. Por otro lado, los altos costos de implementación también representan una consideración importante, ya que implica la necesidad de invertir en nueva infraestructura tecnológica”, destaca Francisco Rojas, director ejecutivo de Applied Intelligence para Accenture Chile.

Francisco Rojas, Accenture.

Entre estas barreras, resalta el problema del desarrollo de talentos a la velocidad que se requiere y en la cantidad necesaria. “Actualmente, casi todos los países de la región están en deuda en la creación de espacios de aprendizaje y capacitación de nuevos profesionales que sean capaces de generar valor. Entonces, mientras no tengamos profesionales capacitados que puedan sacar el máximo provecho a esta nueva tecnología, es muy difícil que las empresas logren implementar de manera robusta la IA como una herramienta que pueda generar un impacto real en la manera de trabajar”, enfatiza Fernando Sánchez, de País Digital.

Jorge Gamero, Experis y ManPowerGroup.

En este sentido, se vuelve preponderante el desafío “de conectar con talento especialista en el área, lo cual se puede contrarrestar inicialmente con la habilitación de programas de formación y capacitación más completos en IA para aquellos colaboradores con la disposición de aprender e interiorizarse en el tema, así como las habilidades técnicas y blandas para realizarlo. Todos aprendemos en este proceso, pero es importante hacerlo con un plan de acción que guíe los próximos pasos”, señala Jorge Gamero, director de Experis para Sudamérica y gerente general de ManpowerGroup Chile.

“Es fundamental contar con talento especializado. Y es importante preguntarse cómo generamos ese talento y cómo lo retenemos para desarrollar, implementar y mantener la IA, sobre todo, considerando la enorme escasez de técnicos y profesionales que existe en TI”, complementa Diego González, CEO de Defontana.

Por el lado de la infraestructura, Fernando Sánchez, de País Digital, sostiene que, para implementar esta tecnología, es necesario realizar una inversión importante que permita adquirir hardware y software especializados, además del costo que implica el mantenimiento y la actualización del sistema. “Muchas organizaciones aún carecen del hardware, software y conectividad necesarios para implementar soluciones de IA efectivas. Y la implementación de sistemas de IA puede requerir una inversión inicial significativa, lo cual es un obstáculo para las pequeñas y medianas empresas, agrega Danilo Naranjo, de Wingsoft.

¿Cuáles son los riesgos de ciberseguridad que conlleva la IA?

Si bien la IA está siendo utilizada de forma efectiva con por las empresas para resolver diversas problemáticas de negocio, también se está utilizando como arma por los ciberatacantes. Con la IA, el panorama de amenazas se potencia, permitiendo a los actores maliciosos mejorar cada etapa de un ataque y hacerlo más efectivo que antes.

“Estamos viendo que los ciberdelincuentes aplican esta tecnología en una gran cantidad de actividades maliciosas, que van desde frustrar algoritmos que detectan actividades anormales hasta imitar el comportamiento humano. Otro uso muy difundido de la IA generativa tiene que ver con potenciar ataques de phishing. Hace algunos años, un correo con errores de ortografía o redacción eran motivo de sospecha. En la actualidad, un ataque de phishing llega con un texto escrito a la perfección gracias al uso de prompts como ChatGPT”, explica Juan Pablo Arias, gerente senior de ingeniería para Fortinet Chile.

Pero los adversarios no se detienen ahí. En el futuro cercano, los ciberdelincuentes aprovecharán la IA de formas nunca vistas. Por ejemplo, con esta tecnología los atacantes podrán elaborar “perfiles generativos” extrayendo información de redes sociales y otros sitios web públicos con información personal. Con esto, se generarán audios y videos para suplantar la identidad de cualquier persona y realizar engaños difíciles de detectar.

Juan Pablo Arias, Fortinet.

“Los ciberdelincuentes utilizarán la IA para potenciar el robo de contraseñas. La búsqueda por fuerza bruta y el password spraying (usar la misma contraseña en múltiples cuentas) son métodos muy utilizados que se potenciarán fuertemente, ya que la IA permite identificar patrones en las contraseñas y así aumentar la probabilidad de adivinarlas. Incluso hay evidencia de la utilización de IA para procesar el sonido de los usuarios cuando teclean para adivinar las contraseñas. Esperamos además que existan ataques mucho más sofisticados como los AI poisoning attacks, que consisten en manipular intencionalmente los datos usados para entrenar los modelos de IA. También esperamos que los actores maliciosos utilicen kits de herramientas automatizadas para ejecutar tales ataques”, agrega Juan Pablo Arias.

¿Qué sucede con la ética en el uso empresarial de la IA?

De acuerdo con el “IBM Global AI Adoption Index 2023”, el 90 % de los profesionales de TI concuerdan en que es más probable que los consumidores elijan los servicios de una empresa que ofrece transparencia y un marco ético sobre cómo se construyen, gestionan y utilizan sus datos y modelos de IA. El 92 % también dijo que tener la capacidad de gobernar los datos y la IA a lo largo de todo el ciclo de vida es un aspecto importante de la confianza en la IA.

Francisco Merino, Dynatrace.

Al respecto, Francisco Merino, SE Manager de Dynatrace, señala que es importante comprender que el uso de IA en las empresas debe estar regularizada por principios éticos, “considerando que su uso podría afectar directamente la toma de decisiones sobre ejecuciones hacia nuestros usuarios”.

John Piragauta, In Motion.

En la misma línea, John Piragauta, gerente de transformación digital en In Motion, sostiene que la ética en el uso de la IA es un tema fundamental que definirá el futuro de la adopción de esta tecnología. “Para mí, es el equivalente al descubrimiento de la fisión nuclear hace unos años. Puedes crear energía, pero si tu ética lo permite, una bomba también es una opción. Es importante que existan marcos regulatorios claros y específicos que guíen la utilización ética de la IA, asegurando la transparencia, la equidad y la privacidad de los datos, siempre pensando en que los datos están para mejorar modelos de negocio, servicios, proyectos al orden de la sociedad y no netamente individuales. No está definido, pero estar informado e integrar una política de gobierno de datos es el primer paso. Por tanto, los gobiernos deben crear y adoptar marcos, y las empresas tienen responsabilidad de aplicarlo, pero los individuos también deben ser involucrados”, explica.

En Chile, aún no se ha establecido un marco legal específico que regule el uso de la inteligencia artificial, pero diversas iniciativas están en curso para abordar esta necesidad. En la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación de la Cámara de Diputados se aprobó en general un proyecto para la creación de una "Comisión de inteligencia artificial". Además, un equipo de expertos está trabajando en la actualización de la Política Nacional de IA, presentada en 2021.

“En cuanto a la supervisión del uso de la IA en entornos laborales, en muchos países no existe una entidad específica encargada de esta tarea de manera exclusiva. Sin embargo, diferentes instituciones y reguladores tienen competencia sobre aspectos específicos relacionados con la IA. Además, algunas empresas establecen comités éticos internos o buscan certificaciones para garantizar que el desarrollo y la implementación de sistemas de IA cumplan con estándares éticos aceptables”, profundiza Francisco Rojas, de Accenture Chile.

Diego González, Defontana.

“Ahora es el momento de aplicar la IA de forma positiva y ética. Es muy importante que se regule, ya que es una tecnología muy poderosa que puede ser un gran apoyo a la productividad y eficiencia en los negocios. La IA es una herramienta, un complemento, que pronto será un estándar. Así como se ha regulado la protección de datos personales y la ciberseguridad, es importante regular la aplicación de la IA, sin limitar la innovación. Ya la UE lo está haciendo, por lo que debemos estar atentos a ese avance”, enfatiza Diego González, de Defontana.

Proyecciones futuras para el uso de IA en las empresas

De acuerdo con los estudios, se espera que el futuro de la IA en las empresas de Latinoamérica tenga un crecimiento significativo. Un informe de International Data Corporation proyecta que el mercado latinoamericano de IA alcance los 4.500 millones de dólares en 2024, creciendo a una tasa de crecimiento anual compuesta del 27,4 % entre 2020 y 2024. “En líneas generales, se espera que la IA tenga un impacto positivo en la economía y la sociedad de Latam. De esta forma, también se espera un aumento en políticas y regulaciones adecuadas para garantizar su uso correcto”, señala Isabel Almarza, de ACTI.

No obstante, los expertos advierten que, debido a la dispar realidad que existe en la región, es muy difícil que a futuro Latinoamérica juegue un rol protagónico en esta materia a nivel mundial. En esa línea, se espera que la brecha entre los países siga creciendo, y que países como Chile y Brasil, que se encuentran más avanzados, empiecen a buscar colaboración en otras regiones del mundo, como Europa, Asia o Estados Unidos, algo que ya está ocurriendo.

“De todas formas, se espera que las compañías sigan avanzando en temas de adopción de la IA, especialmente aquellas que pertenecen a la industria financiera y empresas de telecomunicaciones, aprovechando las ventajas que entrega en materias de automatización de tareas y procesamiento de datos. Esto tendrá un gran impacto en la manera de entender y realizar el trabajo de las compañías, permitiendo abaratar costos y aumentar la productividad, al mismo tiempo que va a ayudar a que cada vez más compañías empiecen a implementarla”, concluye Fernando Sánchez, de País Digital.