Inteligencia artificial, desarrollo y ética

La IA responsable tiene un gran potencial para el bienestar de la humanidad, pero también conlleva desafíos.

Tamara Del Moral

tdelmoral@senacyt.gob.pa

IMAGiNA

¿Pueden pensar las máquinas? Esta era la pregunta con la que introducía Alan Turing, su ensayo: “Computing Machinery and Intelligence” en 1950, en el cual analizaba el problema planteado con el “Juego de imitación”

(conocido como test de Turing). El matemático inglés, uno de los pioneros de la inteligencia artificial (IA), desarrolló sus argumentos sobre las ambigüedades conceptuales y tecnicismos biológicos del tipo: “las máquinas no piensan porque no tienen neuronas”, además de los enfoques matemáticos, del comportamiento, la capacidad de aprendizaje de las máquinas y otros.

Setenta y tres años después, la IA es ubicua, está en los asistentes de atención digital y en los asistentes personales como Alexa y Siri. En las funciones de teléfonos móviles, motores de búsqueda en internet y de recomendaciones, en servicios de streaming, carros autónomos, cámaras de vigilancia, robots…

Básicamente, la IA es una rama informática que busca crear sistemas capaces de realizar tareas que normalmente son realizadas por la inteligencia humana.

John McCarthy, matemático, informático e investigador, la definió como “la ciencia y la ingeniería de la fabricación de máquinas inteligentes, especialmente programas informáticos inteligentes. Está relacionada con la tarea similar de usar computadoras para entender la inteligencia humana, pero la IA no tiene que limitarse a métodos que son biológicamente observables”.

La compañía tecnológica multinacional IBM define la inteligencia artificial como “un campo que combina la ciencia informática y los conjuntos de datos robustos para permitir la resolución de problemas. También abarca los subcampos del machine learning y el deep learning. Estas disciplinas están conformadas por algoritmos de IA que buscan crear sistemas expertos que hagan predicciones o clasificaciones basadas en datos de entrada”.

El Dr. Fernando Arias, docente e investigador del Centro de Estudios Multidisciplinarios en Ciencias, Ingeniería y Tecnologías (Cemcit- AIP) de la Universidad Tecnológica de Panamá (UTP), explica que los algoritmos de machine learning (aprendizaje automatizado) y de IA tienen bases muy fuertes de matemática, particularmente en álgebra lineal. “Las aplicaciones son variadas: visión por computadora, procesamiento de lenguaje natural y de datos en general, ciberseguridad y modelado científico, por ejemplo, usar

algoritmos para modelar las interacciones entre proteínas para desarrollar nuevos medicamentos”.

Las aplicaciones de IA están conquistando espacios en las organizaciones y emprendimientos, en la educación, el arte, logística, seguridad y entretenimiento. Abundan las aplicaciones de IA para modificar fotos logrando diversos efectos. La clave para que el usuario obtenga el resultado deseado, es afinar lo más posible los parámetros o instrucciones (prompt) que se le dan a la aplicación.

En el campo de salud y medicina, se está utilizando la IA de manera complementaria para interpretar imágenes médicas.

De acuerdo con la Administración de Alimentos y Medicamentos (FDA) de Estados Unidos, “las tecnologías de inteligencia artificial y aprendizaje automático tienen el potencial de transformar la atención médica al obtener conocimientos nuevos e importantes a partir de la gran cantidad de datos generados durante la prestación de atención médica todos los días. Los fabricantes de dispositivos médicos están utilizando estas tecnologías para innovar sus productos y ayudar mejor a los proveedores de atención médica y mejorar la atención al paciente”.

IA generativa

Actualmente, las aplicaciones generativas gozan de popularidad, estas son formas de IA que aprenden a partir de los datos existentes y pueden crear contenidos nuevos, ya sea textos, imágenes e incluso, música. Entre estas están ChatGPT y DALL-E, que

puede crear imágenes y arte a partir de una descripción en lenguaje natural.

Según la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco), la IA generativa tiene implicaciones en la propiedad intelectual (PI) porque “el uso de algoritmos de IA para crear obras nuevas y originales plantea cuestiones jurídicas únicas y complejas relacionadas con la titularidad y la infracción de la PI. En consecuencia, es esencial que los actores judiciales, como jueces, fiscales y abogados, conozcan a fondo la relación entre la PI y la IA generativa”.

Para el arquitecto y artista generativo, Jorge Ledezma, en el arte generativo el artista no tiene todo el control, pero tampoco carece totalmente de control. “Hay una parte al azar en donde uno inyecta entropía, pero lo que resulta está dentro de una serie de parámetros. Es muy común que el artista generativo trabaje con computadoras, pero no necesariamente. También hay música y performance generativas. Creo que hoy día hay mucha polémica con la utilización de la IA para hacer arte”.

Según Ledezma, en la creación de una pieza de arte usando IA hay varios actores: la fuente de imágenes que usa la IA de referencia, por ejemplo, obras de Picasso, Matisse y de varios artistas mientras está “aprendiendo”, la persona que programa el software de IA, y la persona que indica lo que quiere que haga la máquina, por ejemplo: ‘quiero que me hagas un canguro horneando un pie de limón’. “El artista es el que pide un canguro horneando un pie de limón. Es la persona que tiene el propósito”, añade.

Ética, gobernanza y ODS

La Unesco considera que “la IA tiene un enorme potencial para el bien social y la promoción de la consecución de los ODS si se desarrolla de una manera que beneficie a la humanidad, respete las normas y estándares mundiales y esté anclada en la paz y el desarrollo”.

En el documento Recomendación sobre la Ética de la Inteligencia Artificial de la Unesco (2022), se indica que los sistemas de IA plantean nuevos tipos de cuestiones éticas que incluyen, aunque no exclusivamente, “su impacto en la adopción de decisiones, el empleo y el trabajo, la interacción social, la atención de la salud, la educación, los medios de comunicación, el acceso a la información, la brecha digital, la protección del consumidor y de los datos personales, el medio

ambiente, la democracia, el estado de derecho, la seguridad y el mantenimiento del orden, el doble uso y los derechos humanos y las libertades fundamentales, incluidas la libertad de expresión, la privacidad y la no discriminación”.

“El problema no es la herramienta, sino nosotros, los seres humanos”, opina el Dr. Víctor López Cabrera, doctor en IA, docente e investigador de la UTP. “La toma de decisión de los gobiernos, academias, empresas privadas y todos, para el buen uso de la IA, con buenas políticas normativas y los recursos apropiados para los grupos que estamos trabajando, es fundamental”.

Más allá del uso deshonesto de ChatGPT por parte de estudiantes para hacer sus trabajos académicos, otro aspecto negativo tiene que ver con los sesgos y estereotipos de género y étnicos de quienes programan la IA. Por ejemplo,  cuando en los conjuntos de datos que se utilizan para “entrenar” los algoritmos de reconocimiento facial se usan mayormente voz y rostros masculinos de referencia.

Un trabajo de grado de 2019, realizado por Berta Fernández de la Morena, de la Universidad Autónoma de Madrid, titulado “Discriminación Algorítmica. Estudio del sesgo en arquitecturas de aprendizaje profundo”, expone que los sistemas de reconocimiento facial se están utilizando cada vez más en la toma de decisiones automatizadas y cuando se realiza

una clasificación supervisada, como es el caso de los algoritmos de reconocimiento facial o clasificación de género/etnia, se recomienda trabajar con una base de datos balanceada.

La autora menciona que “el hecho de no poder disponer de características e información variada y de esta forma, generalizar los datos para entrenar los modelos, puede derivar en un modelo sesgado, y como consecuencia, en la toma de decisiones injustas que impactarían directamente en los usuarios”.

El informe Los efectos de la IA en la vida laboral de las mujeres (Unesco/BID/ OCDE, 2022), alude a que “los sistemas de IA no deberían asociar a las mujeres con ocupaciones relativas al cuidado y la asistencia de manera sesgada”.

“La IA es beneficiosa en la medida que contribuya al desarrollo social del país, especialmente en la salud y la educación. Si la IA va a ayudar a mejorar la calidad de vida, a apalancar la educación, viabilizar el emprendimiento de todas las personas en todos sus niveles, con las políticas públicas apropiadas de cada país, a nivel global, será un beneficio”, dijo el Dr. López en un panel sobre IA y tecnologías emergentes en el VI Foro de Gobernanza de Internet realizado en Panamá.

En el mismo panel, el Dr. Carlos Boya, doctor en ingeniería eléctrica, electrónica y automática, especialista en industria 4.0, IA y robótica, e investigador del, Sistema Nacional de Investigación, señaló que los países que dominan las nuevas tecnologías pueden manipular a las poblaciones y por tanto, es importante que las personas se eduquen y que los estados inviertan en I+D para que países como Panamá puedan desarrollar sus propias tecnologías, según sus necesidades.

Impacto laboral

Se estima que las tareas rutinarias podrían ser reemplazadas por la automatización impulsada por la IA, acarreando pérdida de empleos en campos como la logística, administración y procesamiento de datos.

El Ing. Gustavo Cuervo, asesor de soluciones de software de GBM, explicó en el VI Foro de Gobernanza de Internet, que la IA tiene que ser transversal en todas las carreras. Destacó dos tendencias en las organizaciones: cada vez se ven nuevas combinaciones de recursos que son disruptivas, en el sentido de que las personas complementan carreras tradicionales como abogacía o psicología, con otras relacionadas a la tecnología, como son la ciencia de datos y la IA. Además, se observa una aceleración para desarrollar herramientas basadas en IA. Ante estos cambios, es importante que las organizaciones cuenten con guías o políticas de uso de la IA.

Según el precitado informe de Unesco/BID/ OCDE, 2022, el aumento del uso de la IA cambia los requisitos de habilidades dentro del ámbito laboral, aumentando la demanda de habilidades digitales para mantener y gestionar sistemas de IA, para crear, desarrollar e interactuar con sistemas de IA, y para trabajar en las tareas para las cuales los sistemas de IA están mal preparados.

En este contexto, las mujeres están en desventaja porque tienen menos acceso que los varones a la tecnología y a las habilidades para usarla. “Todos estos cambios en los requisitos de habilidades tienen efectos adversos y diferenciados en las mujeres en comparación con los varones”, indica el documento.

Actualmente, hay muy pocas mujeres con empleos relacionados con la IA en el mundo y pocas investigadoras publicando sobre IA en revistas revisadas por pares. “Este es un desafío para la trayectoria y el desarrollo futuros de los sistemas de IA. Si los sistemas no son desarrollados por equipos diversos, es menos probable que se encarguen de las necesidades de usuarios diversos o que se alineen a los derechos humanos”, resume el informe.