putilov_denis - stock.adobe.com
IA en las empresas latinoamericanas: desafíos éticos y de implementación
Las empresas de la región están utilizando inteligencia artificial principalmente como mano de obra digital, para automatizar procesos de TI, y en marketing y ventas; Chile, Brasil y Uruguay son los países que más han desarrollado el uso e implementación de esta tecnología.
Una investigación realizada por Morning Consult para IBM, llamada “IBM Global AI Adoption Index 2023”, concluyó que las compañías de Latinoamérica con más de 1.000 empleados han agilizado la implementación de inteligencia artificial (IA). De hecho, 67 % de los profesionales de tecnología de Argentina, Brasil, Chile, Colombia, México y Perú dijeron que sus organizaciones aceleraron el uso de IA en los últimos 24 meses.
La investigación también destaca los casos de uso más comunes entre las empresas de Latinoamérica que actualmente exploran o implementan IA. Algunos de ellos incluyen: mano de obra digital (39 %), automatización de procesos de TI (36 %), y marketing y ventas (35 %). Por otro lado, algunos usos en etapas tempranas de adopción fueron: diagnóstico sanitario (8 %), análisis de riesgos ambientales (10 %) y sostenibilidad (16 %).
Isabel Almarza, segunda vicepresidenta de la Asociación Chilena de Empresas de Tecnologías de Información A.G. (ACTI A.G.) y gerenta general de Microsystem, sostiene que la implementación de la IA es algo que va en aumento en las empresas latinoamericanas, dadas las ventajas que esta otorga. “En los últimos años, hemos sido testigos de un aumento en el uso y adopción de tecnologías de IA en diversas industrias del continente. La segunda versión del estudio ‘Al Readiness’, que mide la adopción de la IA en empresas en territorio nacional, mostró un significativo avance respecto a su primera edición en 2019. En esta encuesta participaron 62 empresas de diversos sectores, y el 50 % ha declarado implementar la IA con señales de generación de valor. Mientras que un 39 % señala tener conciencia al respecto, el 19 % restante cuenta con gobernanza para implementar IA, pero falta generación de valor. Sin duda, son cifras que hablan de un crecimiento exponencial a nivel nacional y que se replican a nivel internacional y en Latinoamérica”, explica.
No obstante, Fernando Sánchez, gerente general de Fundación País Digital, explica que la realidad en Latinoamérica es bastante dispar entre cada país. “A nivel regional, Chile, Brasil y Uruguay son los países que más han desarrollado el uso e implementación de esta tecnología, impulsando políticas públicas para incorporar la IA en distintas esferas de la vida cotidiana, entre ellas el mundo laboral y el comercio. Por ejemplo, en Brasil se desarrolló un plan para promover el uso de la IA en los establecimientos educativos de tal manera que generen nuevos talentos a futuro. Mientras tanto, en marzo pasado, una comisión conformada por autoridades chilenas del mundo público y privado se reunió con el grupo DG Connect de la Unión Europea para presentar su agenda digital y proponer una colaboración a largo plazo en materia de adopción de nuevas tecnologías como la IA. Además, en 2021, Chile presentó su Política Nacional de Inteligencia Artificial, contemplando el trabajo a realizar respecto a los factores habilitantes, el desarrollo de la tecnología y aspectos éticos y de seguridad. Sin embargo, y según el Índice Interamericano de inteligencia artificial, esta realidad es muy distinta a la que se vive en otros países en la región, tales como Bolivia, Paraguay y Ecuador, donde aún queda mucho por avanzar en temas de infraestructura, disponibilidad de datos y en el desarrollo de capital humano”, destaca.
Otro informe, el "Technology Vision 2024" de Accenture, apunta que el 95 % de los ejecutivos prevé un papel clave para los modelos de IA en sus estrategias, principalmente porque la IA puede automatizar tareas repetitivas, reducir errores y agilizar procesos, lo que se traduce en un ahorro de tiempo y recursos. Además, mejora la toma de decisiones, mediante el análisis de grandes volúmenes de datos, y potencia la experiencia del cliente, permitiendo la personalización de productos y servicios, y anticipando necesidades y preferencias.
En este sentido, Danilo Naranjo, fundador de Wingsoft y Ocular, sostiene que las empresas de la región están invirtiendo en sistemas de IA para análisis de datos, atención al cliente mediante chatbots, y optimización de la cadena de suministro, entre otros. “Aunque el ritmo de adopción varía entre los países, hay un interés creciente en desarrollar talento local y fomentar ecosistemas de innovación que apoyen la IA. Sin embargo, la región enfrenta desafíos, como la necesidad de una mayor inversión en infraestructura tecnológica y la brecha en habilidades digitales. En resumen, Latinoamérica se encuentra en una fase de transformación digital acelerada, donde la IA se perfila como un elemento clave para el futuro empresarial de la región”, dice.
Las barreras que persisten en la aplicación de IA en las compañías
Los expertos advierten que, aunque las organizaciones han reconocido la importancia y la necesidad de integrar herramientas de inteligencia artificial en sus operaciones, muchas aún no han logrado hacerlo debido a diversas barreras que enfrentan. “La falta de regulaciones, así como la resistencia al cambio y la ausencia de una cultura de innovación pueden dificultar la adopción de nuevas tecnologías. Además, destaca la escasez de profesionales especializados en IA y los desafíos para retenerlos. Por otro lado, los altos costos de implementación también representan una consideración importante, ya que implica la necesidad de invertir en nueva infraestructura tecnológica”, destaca Francisco Rojas, director ejecutivo de Applied Intelligence para Accenture Chile.
Entre estas barreras, resalta el problema del desarrollo de talentos a la velocidad que se requiere y en la cantidad necesaria. “Actualmente, casi todos los países de la región están en deuda en la creación de espacios de aprendizaje y capacitación de nuevos profesionales que sean capaces de generar valor. Entonces, mientras no tengamos profesionales capacitados que puedan sacar el máximo provecho a esta nueva tecnología, es muy difícil que las empresas logren implementar de manera robusta la IA como una herramienta que pueda generar un impacto real en la manera de trabajar”, enfatiza Fernando Sánchez, de País Digital.
En este sentido, se vuelve preponderante el desafío “de conectar con talento especialista en el área, lo cual se puede contrarrestar inicialmente con la habilitación de programas de formación y capacitación más completos en IA para aquellos colaboradores con la disposición de aprender e interiorizarse en el tema, así como las habilidades técnicas y blandas para realizarlo. Todos aprendemos en este proceso, pero es importante hacerlo con un plan de acción que guíe los próximos pasos”, señala Jorge Gamero, director de Experis para Sudamérica y gerente general de ManpowerGroup Chile.
“Es fundamental contar con talento especializado. Y es importante preguntarse cómo generamos ese talento y cómo lo retenemos para desarrollar, implementar y mantener la IA, sobre todo, considerando la enorme escasez de técnicos y profesionales que existe en TI”, complementa Diego González, CEO de Defontana.
Por el lado de la infraestructura, Fernando Sánchez, de País Digital, sostiene que, para implementar esta tecnología, es necesario realizar una inversión importante que permita adquirir hardware y software especializados, además del costo que implica el mantenimiento y la actualización del sistema. “Muchas organizaciones aún carecen del hardware, software y conectividad necesarios para implementar soluciones de IA efectivas. Y la implementación de sistemas de IA puede requerir una inversión inicial significativa, lo cual es un obstáculo para las pequeñas y medianas empresas, agrega Danilo Naranjo, de Wingsoft.
¿Cuáles son los riesgos de ciberseguridad que conlleva la IA?
Si bien la IA está siendo utilizada de forma efectiva con por las empresas para resolver diversas problemáticas de negocio, también se está utilizando como arma por los ciberatacantes. Con la IA, el panorama de amenazas se potencia, permitiendo a los actores maliciosos mejorar cada etapa de un ataque y hacerlo más efectivo que antes.
“Estamos viendo que los ciberdelincuentes aplican esta tecnología en una gran cantidad de actividades maliciosas, que van desde frustrar algoritmos que detectan actividades anormales hasta imitar el comportamiento humano. Otro uso muy difundido de la IA generativa tiene que ver con potenciar ataques de phishing. Hace algunos años, un correo con errores de ortografía o redacción eran motivo de sospecha. En la actualidad, un ataque de phishing llega con un texto escrito a la perfección gracias al uso de prompts como ChatGPT”, explica Juan Pablo Arias, gerente senior de ingeniería para Fortinet Chile.
Pero los adversarios no se detienen ahí. En el futuro cercano, los ciberdelincuentes aprovecharán la IA de formas nunca vistas. Por ejemplo, con esta tecnología los atacantes podrán elaborar “perfiles generativos” extrayendo información de redes sociales y otros sitios web públicos con información personal. Con esto, se generarán audios y videos para suplantar la identidad de cualquier persona y realizar engaños difíciles de detectar.
“Los ciberdelincuentes utilizarán la IA para potenciar el robo de contraseñas. La búsqueda por fuerza bruta y el password spraying (usar la misma contraseña en múltiples cuentas) son métodos muy utilizados que se potenciarán fuertemente, ya que la IA permite identificar patrones en las contraseñas y así aumentar la probabilidad de adivinarlas. Incluso hay evidencia de la utilización de IA para procesar el sonido de los usuarios cuando teclean para adivinar las contraseñas. Esperamos además que existan ataques mucho más sofisticados como los AI poisoning attacks, que consisten en manipular intencionalmente los datos usados para entrenar los modelos de IA. También esperamos que los actores maliciosos utilicen kits de herramientas automatizadas para ejecutar tales ataques”, agrega Juan Pablo Arias.
¿Qué sucede con la ética en el uso empresarial de la IA?
De acuerdo con el “IBM Global AI Adoption Index 2023”, el 90 % de los profesionales de TI concuerdan en que es más probable que los consumidores elijan los servicios de una empresa que ofrece transparencia y un marco ético sobre cómo se construyen, gestionan y utilizan sus datos y modelos de IA. El 92 % también dijo que tener la capacidad de gobernar los datos y la IA a lo largo de todo el ciclo de vida es un aspecto importante de la confianza en la IA.
Al respecto, Francisco Merino, SE Manager de Dynatrace, señala que es importante comprender que el uso de IA en las empresas debe estar regularizada por principios éticos, “considerando que su uso podría afectar directamente la toma de decisiones sobre ejecuciones hacia nuestros usuarios”.
En la misma línea, John Piragauta, gerente de transformación digital en In Motion, sostiene que la ética en el uso de la IA es un tema fundamental que definirá el futuro de la adopción de esta tecnología. “Para mí, es el equivalente al descubrimiento de la fisión nuclear hace unos años. Puedes crear energía, pero si tu ética lo permite, una bomba también es una opción. Es importante que existan marcos regulatorios claros y específicos que guíen la utilización ética de la IA, asegurando la transparencia, la equidad y la privacidad de los datos, siempre pensando en que los datos están para mejorar modelos de negocio, servicios, proyectos al orden de la sociedad y no netamente individuales. No está definido, pero estar informado e integrar una política de gobierno de datos es el primer paso. Por tanto, los gobiernos deben crear y adoptar marcos, y las empresas tienen responsabilidad de aplicarlo, pero los individuos también deben ser involucrados”, explica.
En Chile, aún no se ha establecido un marco legal específico que regule el uso de la inteligencia artificial, pero diversas iniciativas están en curso para abordar esta necesidad. En la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación de la Cámara de Diputados se aprobó en general un proyecto para la creación de una "Comisión de inteligencia artificial". Además, un equipo de expertos está trabajando en la actualización de la Política Nacional de IA, presentada en 2021.
“En cuanto a la supervisión del uso de la IA en entornos laborales, en muchos países no existe una entidad específica encargada de esta tarea de manera exclusiva. Sin embargo, diferentes instituciones y reguladores tienen competencia sobre aspectos específicos relacionados con la IA. Además, algunas empresas establecen comités éticos internos o buscan certificaciones para garantizar que el desarrollo y la implementación de sistemas de IA cumplan con estándares éticos aceptables”, profundiza Francisco Rojas, de Accenture Chile.
“Ahora es el momento de aplicar la IA de forma positiva y ética. Es muy importante que se regule, ya que es una tecnología muy poderosa que puede ser un gran apoyo a la productividad y eficiencia en los negocios. La IA es una herramienta, un complemento, que pronto será un estándar. Así como se ha regulado la protección de datos personales y la ciberseguridad, es importante regular la aplicación de la IA, sin limitar la innovación. Ya la UE lo está haciendo, por lo que debemos estar atentos a ese avance”, enfatiza Diego González, de Defontana.
Proyecciones futuras para el uso de IA en las empresas
De acuerdo con los estudios, se espera que el futuro de la IA en las empresas de Latinoamérica tenga un crecimiento significativo. Un informe de International Data Corporation proyecta que el mercado latinoamericano de IA alcance los 4.500 millones de dólares en 2024, creciendo a una tasa de crecimiento anual compuesta del 27,4 % entre 2020 y 2024. “En líneas generales, se espera que la IA tenga un impacto positivo en la economía y la sociedad de Latam. De esta forma, también se espera un aumento en políticas y regulaciones adecuadas para garantizar su uso correcto”, señala Isabel Almarza, de ACTI.
No obstante, los expertos advierten que, debido a la dispar realidad que existe en la región, es muy difícil que a futuro Latinoamérica juegue un rol protagónico en esta materia a nivel mundial. En esa línea, se espera que la brecha entre los países siga creciendo, y que países como Chile y Brasil, que se encuentran más avanzados, empiecen a buscar colaboración en otras regiones del mundo, como Europa, Asia o Estados Unidos, algo que ya está ocurriendo.
“De todas formas, se espera que las compañías sigan avanzando en temas de adopción de la IA, especialmente aquellas que pertenecen a la industria financiera y empresas de telecomunicaciones, aprovechando las ventajas que entrega en materias de automatización de tareas y procesamiento de datos. Esto tendrá un gran impacto en la manera de entender y realizar el trabajo de las compañías, permitiendo abaratar costos y aumentar la productividad, al mismo tiempo que va a ayudar a que cada vez más compañías empiecen a implementarla”, concluye Fernando Sánchez, de País Digital.
Consejos de protección en ciberseguridad al usar IA
Para estar protegidas, las compañías deben desarrollar una estrategia de ciberseguridad que involucre a toda la organización, incluyendo tanto áreas tecnológicas como de negocio. Juan Pablo Arias, gerente senior de ingeniería para Fortinet Chile, señala que la estrategia debe ser lo suficientemente flexible que permita adaptarse de forma rápida a la adopción acelerada de nuevas tecnologías como la IA.
Es clave incorporar tres elementos clave:
1. Conciencia en ciberseguridad: Es clave promover la educación y conciencia en toda la organización. Es de vital importancia incluso educar a los altos ejecutivos y directores, de modo tal que las decisiones siempre tengan considerada la ciberseguridad. Por ejemplo, muchas iniciativas relacionadas con la IA tienen que ver con innovaciones que buscan automatizar o crear de nuevos modelos de negocio. Estos proyectos usualmente son intensivos en el uso de dispositivos adicionales, nuevas apps, nubes públicas y privadas, entre otras tecnologías, las que, a su vez, abren múltiples brechas de seguridad. En otras palabras, utilizar IA expande aún más la superficie de ataque y las empresas deben ser conscientes de esto para tomar las medidas necesarias.
2. Procesos: Las organizaciones deben estar preparadas para afrontar a los actores maliciosos. Si bien en la actualidad no es posible evitar un ataque, sí es factible mantener el negocio operando ante un escenario adverso. Para ello, la organización debe tener procesos definidos y herramientas que entreguen visibilidad para gestionar la crisis, y que permitan hacer un análisis. También es importante considerar una estrategia comunicacional durante un incidente, equipos de ciberseguridad preparados, capacidad de tomar decisiones rápidas y tener proveedores expertos que permitan superar el incidente y evitar que vuelva a ocurrir.
3. Tecnología: Una forma de combatir los ciberataques potenciados con IA es con herramientas que también utilicen esta tecnología. La IA permite detectar y responder a ataques sofisticados que se observan por primera vez (ataques de día cero). Para ello, es clave además incorporar soluciones que cubran toda la superficie de ataque. En este sentido, analistas como Gartner promueven el uso de plataformas de ciberseguridad, donde distintos componentes pueden compartir información entre sí de forma transparente, y tomar acciones automatizadas. De esta manera, es posible ahorrar recursos que normalmente se desperdician en integraciones y procesos manuales.
Investigue más sobre Inteligencia artificial y automatización
-
Brasil en la vanguardia digital: el despertar de la inteligencia artificial nacional
-
Mejores prácticas de gobernanza para integrar la IA en los negocios
-
La IA en ciberseguridad e identidad digital es un arma de doble filo
-
¿Principales beneficios de la IA? Las decisiones basadas en datos y la reducción de costos