La inteligencia artificial como herramienta para la lucha contra la discriminación

Los procesos de transformación digital deben erradicar los sesgos y tendencias discriminatorias existentes todavía en la sociedad

La inteligencia artificial como herramienta para la lucha contra la discriminación

Es cierto que términos como inteligencia artificial, machine learning, metaverso o blockchain se han convertido en palabras frecuentemente utilizadas en muchos ámbitos y foros, pero no es menos cierto que dichos términos en muchas situaciones pueden dar lugar a interpretaciones ambiguas y a definiciones poco precisas, no sólo de lo que realmente significan, sino, sobre todo, respecto de lo que implican en la vida de todos los usuarios.

Por inteligencia artificial nos referimos a los sistemas que manifiestan un comportamiento inteligente que permite analizar el entorno y pasar a la acción -actuar- con cierto grado de autonomía para alcanzar objetivos específicos. Dichos sistemas pueden consistir solamente en programas informáticos o bien en los referidos programas informáticos ya incorporados a dispositivos de hardware (vehículos, robots, drones….).

Por supuesto, la regulación de la inteligencia artificial plantea retos al legislador nacional y comunitario. Son ya diferentes las iniciativas legislativas que en uno u otro estadio ya se están llevando a cabo, regulando diferentes aspectos. Dichos enfoques normativos no pueden perder de vista la implicación que sobre la vida de las personas tiene la inteligencia artificial, tanto desde el punto de vista de su diseño mismo en la configuración y creación de los algoritmos, como desde la perspectiva del desarrollo y continua revisión y alimentación de dichos sistemas a través del machine learning.

Sin duda, la promoción de la igualdad efectiva y la lucha contra la discriminación por cualquier causa u origen ha de ser un punto esencial en las diferentes iniciativas legislativas normativas e imperativas que cristalicen en los próximos meses y años. Pensemos que cada vez con más frecuencia los algoritmos son usados para seleccionar currículos profesionales, determinar la concesión de ayudas públicas o valorar la capacidad y solvencia financiera de las personas solicitantes de préstamos bancarios.

No son pocas las noticias desde hace varios años al respecto de la existencia de sesgos por diferentes causas (género, raza u orientación sexual) en distintos sistemas de inteligencia artificial, vulnerando así derechos civiles que son derechos fundamentales y esenciales al ser humano. Así, en agosto de 2021 se hizo público que un antiguo algoritmo utilizado por Twitter mantenía un sesgo en el recorte automático de las imágenes colgadas por los usuarios, prefiriendo dicho algoritmo los rostros claros, jóvenes, delgados y con rasgos femeninos.

Desde este punto de vista, pese a su carácter informador y no normativo, la Carta de Derechos Digitales elaborada a partir del trabajo realizado por el Grupo asesor de Expertas y Expertos constituido por la Secretaría de Estado de Digitalización e Inteligencia Artificial del Ministerio de Asuntos Económicos y Transformación Digital del Gobierno de España, sienta las bases, estableciendo un derecho a la igualdad y a la no discriminación en el entorno digital, promoviendo la no discriminación y la no exclusión y, en particular, la igualdad efectiva de mujeres y hombres en entornos digitales, debiéndose fomentar que los procesos de transformación digital apliquen la perspectiva de género, adoptando, en su caso, medidas específicas para garantizar la ausencia de sesgo de género en los datos y algoritmos usados.

Por ello, es claro el mandato de los expertos para que el legislador promulgue leyes y reglamentos que, con un carácter coercitivo y obligatorio para todos los actores del entorno digital, promuevan esa efectiva igualdad, que no quede sólo en la neutralidad de Internet, sino en la igualdad efectiva de todas las personas sin que en ningún sistema de inteligencia artificial se pueda provocar un sesgo por ninguna causa, implantando sistemas de revisión, auditoría y evaluaciones continuas para la eliminación de los existentes.

Sin embargo, resulta evidente que no sólo es el legislador quien ha de facilitar el marco normativo desde el que se posibilite la igualdad efectiva y no discriminación, sino que todos los actores implicados en la transformación digital (agencias, consultoras y compañías) han de impulsar desde su mera creación los sistemas de inteligencia artificial cuya fuente inspiradora sea la igualdad efectiva de todas las personas conforme establece nuestra Constitución. Deben cristalizar en los procesos de transformación digital que vayan también transformando los sesgos y tendencias discriminatorias existentes todavía y lamentablemente en la sociedad misma.

Jacobo Álvarez Ramallo, director Jurídico & Legal MioGroup

Normas
Entra en El País para participar