Las ‘AItocracias’ y el descontrol de la inteligencia artificial
El llamamiento de la industria tecnológica a reflexionar sobre el avance de la IA contrasta con el empeño de los regímenes autoritarios usarla para el control político y social
La llamada de atención lanzada por un nutrido grupo de empresarios e intelectuales relacionados con la industria de la inteligencia artificial (IA), en la que piden una pausa de al menos seis meses para reflexionar sobre las consecuencias para la humanidad del desarrollo de esta tecnología da idea de los daños que puede causar su inadecuado uso.
Este llamamiento parte de personas con convicciones éticas y democráticas. Por eso se preguntan: “¿debemos arriesgarnos a perder el control de nuestra civilización?” Ellos mismos responden que “estas decisiones no deben delegarse a líderes tecnológicos no elegidos. Los sistemas de IA potentes solo deben desarrollarse cuando estemos seguros de que sus efectos son positivos y sus riesgos controlables”, señala la misiva publicada el miércoles pasado.
Pero ese grito pidiendo parar y reflexionar sobre a dónde vamos quizás llegue demasiado tarde para determinados países. La inteligencia artificial es el juguete soñado por los autócratas, y, dada su sensibilidad ética y democrática, cuesta imaginarles ordenando a sus laboratorios que echen el freno. De hecho, la vinculación entre las autocracias y el abuso de la IA ha dado lugar al nacimiento de un nuevo concepto: AItocracia.
En noviembre de 2021, los profesores Martin Beraja (MIT), Andrew Kao (Harvard), David Y. Yang (Harvard) y Noam Yuchtman (LSE) publicaron AI-tocracy, informe que fue actualizado en octubre pasado. El estudio de estos cuatro profesores prueba que hoy “la tecnología de inteligencia artificial y los regímenes autocráticos pueden reforzarse mutuamente”. Esa es la conclusión a la que llegan después de un exhaustivo estudio sobre el uso que China está realizando de la IA para el reconocimiento facial, para lo que han recopilado datos sobre las empresas de desarrollo de IA y sus contratos públicos y su manejo en los disturbios sociales que se han producido en todo el país.
Según este estudio, la contratación de empresas de tecnología IA que utilizan sistemas de reconocimiento facial ha permitido reducir los disturbios que protestaban por el malestar social. Al tiempo, las compañías que innovan en IA se han visto beneficiadas por esta disminución de las protestas con mayores contratos públicos y privados y tienen más probabilidades de vender su tecnología en el exterior. “Estos resultados sugieren la posibilidad de una innovación sostenida en IA en el régimen chino: la innovación en IA afianza el régimen, y la inversión del régimen en IA para el control político, estimula la innovación en las fronteras del conocimiento”. De ahí la denominación de AI-tocracy.
Con este panorama, es difícil de imaginar al Gobierno de Xi Jinping, con quien se ha reunido esta semana Pedro Sánchez, sumándose a la iniciativa lanzada desde Estados Unidos. La primera gran diferencia es que esta iniciativa parte del sector privado, que es el que reclama que se produzca una parada o, de lo contrario, piden que el Gobierno imponga una moratoria. En China los papeles están invertidos. El sector privado no puede decir nada, basta recordar como desaparecen involuntariamente de la vida pública grandes empresarios, como Jack Ma, fundador de Alibaba. Todo lo decide el Gobierno.
En Estados Unidos son los propios empresarios del sector los que, conscientes de la amenaza, piden que “la investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”. Este lenguaje se escapa a AItocracias como China o Rusia, empeñadas en el control de la opinión pública, para lo que están dispuestos a ocultar la realidad, como sucede con la negación de la guerra en Ucrania.
Al comienzo del escrito firmado por los empresarios se lanzan algunas preguntas que en los países de cultura democrática resultan totalmente retóricas: “¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?” Es evidente que la respuesta no es la misma en Occidente que en las mencionadas Rusia y China.
The Times publicó el año pasado que investigadores del Centro Nacional de Ciencia Integral de China han desarrollado un software con IA capaz de leer la mente y medir la lealtad de una persona al Partido Comunista, todo ello partiendo del análisis de las expresiones faciales y las ondas cerebrales. Así, no es de extrañar que el departamento de propaganda de dicho partido lanzara la aplicación móvil Xuexi Qiangguo, que en español significa estudio de un país fuerte, en la que se da puntos al usuario en la medida que lee artículos, visualiza vídeos y realiza pruebas en las que se mide su conocimiento del ideario de Xi Jinping. Esta aplicación se convirtió en la más descargada de la tienda de Apple al mes de lanzarse, enero de 2019, por delante de Tik Tok o WeChat (el WhatsApp chino). Esta aplicación es obligatoria para los miembros del Partido Comunista.
Todo esto sucede en un contexto en el que China quiere arrebatar a Estados Unidos la hegemonía global. En esa disputa, la IA va a jugar un papel clave, no solo por sus aplicaciones para el control de la opinión pública, sino porque es una tecnología que va a afectar a determinar la nueva revolución industrial. Por tanto, cuesta imaginar que, como ya ha pasado en la lucha contra el cambio climático, las grandes potencias se pongan de acuerdo, aunque sea en no autodestruirse.
En 2022, China perdió población por vez primera en seis décadas. Bajó menos de un millón, hasta 1.410 millones de habitantes, pero han saltado las alarmas porque la crisis demográfica se acelera. Son las consecuencias de 36 años (1979-2015) de prohibición de tener más de un único hijo por pareja, ahora es de dos. Todo ello lleva a que la ONU ahora estime que China estará por debajo de 770 millones de habitantes en 2100, lo que supone perder casi la mitad de la población. Por tanto, China tiene poco tiempo y mucho que correr para superar a Estados Unidos.
Aurelio Medel es Doctor en Ciencias de la Información y profesor de la Universidad Complutense
Sigue toda la información de Cinco Días en Facebook, Twitter y Linkedin, o en nuestra newsletter Agenda de Cinco Días