El bienestar distópico de los algoritmos... y sus riesgos
La IA puede desencadenar situaciones indeseables en sociedades democráticas avanzadas
Por todos es sobradamente conocido que una de las principales razones por las que el uso de la inteligencia artificial se ha generalizado de forma tan vertiginosamente rápida es el beneficio real e inmediato que esta tecnología aporta a la sociedad en general.
No puede negarse que la inteligencia artificial contribuye al bienestar social, aportando beneficios en todos los sectores de la economía. Posibilita la mejora de la calidad de vida de las personas, la salud, los resultados medioambientales o las actividades sociales. Pero también acarrea grandes riesgos, como la opacidad en la toma de decisiones, la discriminación de género o de otro tipo, la generación de sistemas adictivos, la intromisión en nuestras vidas privadas o su uso con fines delictivos.
Cuando delegamos el bienestar social en los algoritmos, la primera reflexión que debemos hacer es que los algoritmos, por sí solos, no son ni dejan de ser éticos. Son las personas que los diseñan, entrenan con datos y definen sus objetivos quienes pueden determinar, conforme a sus intereses y/o propios sesgos, su funcionamiento. Y esos intereses no siempre coinciden con el interés general.
La simplificación de procesos, la mejora de las experiencias personales y profesionales en cualquier ámbito; en definitiva, la eficiencia y las capacidades de estos algoritmos pueden llevarnos a depender de ellos, inconscientes del peligro que entrañan los diseños algorítmicos que dejen fuera realidades sociales minoritarias o los modelos de aprendizaje basados en información asimétrica que distorsionen, de forma aparentemente óptima, la toma de decisiones.
Todo esto puede conllevar situaciones distópicas indeseables en sociedades democráticas avanzadas como la nuestra, sociedades que conformamos las personas. Y este enfoque humano no podemos perderlo de vista si no queremos que la inteligencia artificial se convierta en una revolución tecnológica que nos haga, paradójicamente, involucionar como sociedad.
En el lado más extremo de esta revolución, ya desde hace algunos años existen voces y corrientes de pensamiento que pronostican la transformación de la condición humana mediante el uso de tecnologías avanzadas que ayudan a mejorar y superar las limitaciones humanas. Es el movimiento intelectual denominado transhumanismo, que afirma la posibilidad de mejorar la condición humana haciendo disponibles tecnologías para eliminar el envejecimiento y mejorar de forma relevante las capacidades intelectuales, físicas y psicológicas humanas, con planteamientos incluso de inmortalidad. Esto nos lleva a preguntarnos: ¿dónde está el límite?
Por ello, es de importancia capital que la inteligencia artificial se construya no solo desde la eficiencia o la legalidad, sino desde la ética, proporcionando el marco de valores y principios que deben guiar las acciones para mejorar el bienestar social, la salud, la felicidad y la calidad de vida de las personas. Debe ser justa, diseñarse conforme a los criterios éticos instaurados en nuestras sociedades democráticas y de forma transparente, permitiendo así la rendición de cuentas.
La ética debe, asimismo, servir como base para el derecho, siendo parte intrínseca del mismo. En este contexto, la normativa que regula el uso de la IA debe elaborarse con el fin de garantizar el orden social, económico y ético de nuestra sociedad. En eso es donde, con más o menos acierto, pone el foco el Reglamento Europeo de Inteligencia Artificial, regulando la IA desde la óptica de los riesgos que los usos de esta tecnología conllevan para los derechos fundamentales y los valores de la UE.
Al menos en el entorno de la UE, y sin perjuicio de la complejidad regulatoria que domina esta jurisdicción, parece que hay esperanza y se puede avanzar e innovar de forma ética y responsable. No debemos bajar la guardia. La formación, la sensibilización, la concienciación y el debate constante son palancas clave para seguir en esta línea.
