Guía Esencial

Navegue en las secciones

La IA necesita un marco ético, pero éste aún no es compartido por todos los países

La inteligencia artificial no se podrá regular hasta que se traduzca en políticas públicas, considera Gabriela Ramos, subdirectora general de Ciencias Sociales y Humanas de la UNESCO.

El papel de la inteligencia artificial es cada día más preponderante. Todas las industrias están apostando por la implementación de esta tecnología, para así facilitar todos sus procesos. Pero, en el tema de otorgamiento de créditos, en especial para aquellas instituciones de crédito enfocadas en los sectores menos favorecidos, se debe educar a esa IA con más ética para que no discrimine esos créditos, o más allá, para que cuente con los marcos éticos para respetar las libertades fundamentales de las personas.

Este fue el tema central de la conferencia «Inteligencia Artificial: hablemos de ética, inclusión y derechos humanos», dictada por Gabriela Ramos, subdirectora general de Ciencias Sociales y Humanas de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), que se dio dentro del marco de la semana del Premio Nacional Monte de Piedad 2021.

De acuerdo con Gabriela Ramos, el uso de las tecnologías de IA requiere una reflexión muy profunda. La directiva de la UNESCO considera que, con el tema de la ética de la ciencia y de las tecnologías emergentes, es necesario tomar decisiones y realizar acciones conjuntas, no solo dejar que otros decidan, pues todavía no se conoce al 100 % las capacidades de imitación de ciertas funcionalidades de la inteligencia humana, incluyendo características tales como la percepción, el aprendizaje, el razonamiento y la resolución de problemas.

«Sabemos que la inteligencia artificial está debajo de la interacción del lenguaje o incluso la producción del trabajo, y eso es lo que nutre la revolución digital y lo que está cambiando la forma cómo las economías y las sociedades operan. Funciona, y por eso es importante entender de qué se trata», afirmó Ramos.

Para la experta, existe un dilema ético en que el desarrollo de la tecnología no sea equilibrado, ya que los progresos que esta presenta se realizan solamente entre unos cuantos países, y principalmente, por algunas compañías. El reto se concentra en lograr que estas tecnologías no solamente sean usadas por países emergentes, sino que también tengan desarrollos en estas naciones. «Nosotros escuchamos en México: ¿Cómo nos capacitamos para realmente tomar ventaja de estas tecnologías? ¿cómo conectamos a la gente? En la UNESCO sabemos que ese es un reto importante, pero también hay que tener mayor diversidad y posibilidad de que muchos países, muchas otras compañías, puedan participar en el desarrollo de las tecnologías», indicó.

Esta desigualdad se ve reflejada en las cifras. De acuerdo con la directiva, proyecciones de la UNESCO muestran que los beneficios económicos estarán muy sesgados. China va a tener un crecimiento del 26 % del PIB con las tecnologías, en tanto Estados Unidos crecerá 14 % y Europa, 10 %; mientras tanto, América Latina y algunas regiones de Asia solo el 6 %. «Entonces, realmente hay que repensarlo porque vivimos en un mundo desigual que, además, se ha vuelto cinco veces más desigual por los impactos de covid-19».

Sesgos en la IA, el reto por venir

En el lado positivo, tenemos a las plataformas digitales habilitadas para la inteligencia artificial que proporcionan información y noticias, asientos para viajes, así como el apoyo durante la pandemia para el desarrollo de la vacuna. «Sabemos que, sin la inteligencia artificial, sin la impresionante capacidad de analizar datos y de utilizar datos, el desarrollo de las vacunas no hubiera sido tan rápido. El control de la pandemia de alguna forma también ha sido permitido por estas tecnologías», afirmó Ramos.

Pero uno de los puntos más álgidos con respecto a los riesgos del uso de los sistemas de inteligencia artificial es el tema del sesgo que se llega a presentar, a veces debido a un mal diseño, y que puede llevar a conclusiones que resulten en decisiones y juicios nocivos para algunas comunidades o para algún segmento de la población, como las mujeres. Además, su uso malintencionado «permite que sucedan cosas como la invasión al Capitolio o la manipulación de las elecciones en varios países, por ejemplo; por ello necesitamos este marco ético».

La directiva comentó que muchos ejercicios de inteligencia artificial, por ejemplo, reconocen menos a las mujeres afrodescendientes o a las mujeres latinas. «El hecho de que muchos de nuestros asistentes digitales tengan voz de mujer es algo que la UNESCO documentó hace algunos años, en el sentido de que parecería ser que siempre estamos repitiendo las discriminaciones del mundo real a través de estas tecnologías», señaló.

Sin embargo, la subdirectora general de Ciencias Sociales y Humanas de la UNESCO considera que se debe dar importancia a aristas de las cuales tenemos que estar muy conscientes, como el tema de la privacidad, considerada como un «derecho humano fundamental y piedra angular de la democracia».

«(Existen) riesgos al entrar a la vida privada para dar el seguimiento y rastreo (de los datos), que evidentemente pueden ser mal utilizados», advirtió Ramos, pues para nadie es un secreto que, durante la pandemia, hubo un incremento en la recolección de datos de las personas «simplemente porque nos hemos digitalizado mucho más, porque nos hemos ido a las plataformas, pero también se requería tener esta información. [No obstante,] una vez que se controle este estado de emergencia, creo que es bien importante que regresemos a una definición más limitada de la utilización de estos datos y del seguimiento a las personas por medio de estas tecnologías», resaltó.

Ramos explicó que la UNESCO ha recibido un mandato de sus países miembros para hacer una normalización, una coordinación y lograr tener una definición normativa global, un estándar global para avanzar la tecnología con todo su potencial positivo y controlar sus impactos. La vocera comentó que este organismo de la ONU está jugando un papel de convencimiento entre los países para la adopción de un marco normativo mundial de estas tecnologías, que armonice el crecimiento y el creciente número de estrategias nacionales y regionales. «Empezamos a trabajar hace dos años, aunque yo tengo solo un año [en su puesto] y solo me tocó la negociación, que tampoco fue poca cosa. Pero nos hemos embarcado en elaborar esta recomendación, que pone particular atención a la educación y la ciencia porque tienen un alcance global», dijo.

Aunque han existido intentos por normar la inteligencia artificial, el énfasis que la UNESCO pone es en las políticas públicas. «No se va a lograr el objetivo último si no lo traducimos en política pública. Tenemos una metodología con la que revisamos las bases de datos, los algoritmos, las definiciones para revisar cómo estamos», pero si eso no es aplicado por las naciones, puede quedar únicamente como una serie de buenas intenciones.

También, de alguna manera, se busca frenar la computadora. «Al final, las recomendaciones que las computadoras nos puedan hacer son resultado de lo que hicimos nosotros, como seres humanos. Les damos la concertación, por supuesto. En todo el ciclo del sistema –empezando por la investigación, la definición y las conclusiones a las que llegan– ni siquiera los que están desarrollando las tecnologías saben por qué las computadoras llegaron a algunas de estas conclusiones. Entonces, nuestro llamado es que siempre debe haber un ser humano que al final tenga el juicio», subrayó Ramos.

Sin embargo, el marco ético todavía «es un barco que no es compartido por todos los países de la misma forma. Todos los países tienen diferentes marcos éticos, pero difieren en ciertas formas, y hay que llegar a definiciones muy completas que incluyan temas de valores, el tema del respeto y la promoción de la protección y promoción de la dignidad humana, los derechos humanos y las libertades fundamentales», finalizó la subdirectora general de Ciencias Sociales y Humanas de la UNESCO.

Investigue más sobre Inteligencia artificial y automatización

ComputerWeekly.com.br
Close