Transparencia algorítmica: ¿la nueva garantía democrática del siglo XXI?
El algoritmo no puede convertirse en el nuevo “porque sí” del poder público. Si una decisión afecta a nuestros derechos, debe poder ser explicada. Y si no puede explicarse, quizás no debería ser adoptada
Imagina que te deniegan una ayuda, no superas una oposición o te quedas fuera de una licitación pública y, cuando preguntas por qué, la respuesta es siempre la misma: “lo ha decidido el sistema”. Nadie puede explicarte nada más. No hay motivos que conocer ni argumentos que cuestionar. Solo un algoritmo convertido en respuesta y el silencio de quien ya no sabe explicar sus propias decisiones.
La incorporación de algoritmos en el funcionamiento de la Administración pública exige garantizar la correspondiente explicabilidad, trazabilidad y transparencia sobre su funcionamiento, para no debilitar las garantías democráticas. El algoritmo no puede convertirse en el nuevo “porque sí” del poder público. Si una decisión afecta a nuestros derechos, debe poder ser explicada. Y si no puede explicarse, quizás no debería ser adoptada.
Durante décadas, el derecho de acceso a la información pública se construyó pensando en expedientes de papel, informes técnicos y actas de reuniones. La irrupción de la inteligencia artificial en la toma de decisiones administrativas, desde la asignación de plazas escolares hasta la detección de fraude en subvenciones o la priorización de inspecciones, no ha desplazado ese derecho. Lo ha puesto a prueba.
No se trata de frenar la digitalización de la administración pública, ni de sembrar una desconfianza indiscriminada hacia la inteligencia artificial. Los sistemas automatizados bien diseñados pueden reducir la arbitrariedad humana, agilizar procedimientos y liberar recursos para la atención a lo verdaderamente complejo. Pero los algoritmos no son neutrales. Detrás de cada uno de ellos existen decisiones humanas sobre qué variables son relevantes, qué objetivos se persiguen, qué riesgos son aceptables o qué criterios deben priorizarse. Cada una de esas decisiones incorpora opciones jurídicas, organizativas y, en ocasiones, éticas.
En España, el caso BOSCO supuso un punto de inflexión. Por primera vez, la transparencia algorítmica ha dejado de ser un debate reservado a ingenieros y especialistas en inteligencia artificial para convertirse en una cuestión de derechos.
Más allá del acceso al código fuente, la verdadera cuestión es mucho más sencilla: el derecho a comprender. Quien se vea afectado por una decisión automatizada debe poder saber, en términos claros y comprensibles, qué criterios se han tenido en cuenta y por qué han conducido a una determinada conclusión. Conocer cómo se ha tomado la decisión es también una premisa necesaria para impugnarla cuando no está de acuerdo. La transparencia algorítmica no es un problema técnico reservado a especialistas. Es una exigencia jurídica y democrática.
En el fondo, no estamos ante algo tan nuevo como puede parecer. Se trata de trasladar a la era digital una garantía tan antigua como el propio Estado de Derecho: toda decisión pública, la tome quien la tome, debe poder ser explicada. Un funcionario que deniega una ayuda tiene que decir por qué. Un inspector que abre un expediente tiene que justificar los motivos. Eso no es una novedad de la era digital, es una regla básica que ha existido siempre: quien tiene poder para decidir sobre la vida de otra persona, tiene también la obligación de motivar la decisión. Lo único que cambia ahora es quién o qué toma parte en esa decisión antes de que llegue a la persona.
Por eso exigir explicaciones cuando interviene un algoritmo no es pedir un privilegio nuevo ni levantar sospechas sobre la tecnología en sí. Es aplicar la misma exigencia de siempre a una herramienta distinta. No se trata de desconfiar del algoritmo. Se trata de no dejar de exigir, nunca, lo que siempre hemos exigido: que nos digan por qué.
En una Administración cada vez más automatizada, el derecho a saber debe evolucionar hacia el derecho a comprender. La transparencia del siglo XXI no puede limitarse a permitir el acceso al resultado de una decisión administrativa. Resulta imprescindible garantizar el acceso a las razones que la justifican cuando estas se encuentran incorporadas en reglas algorítmicas, modelos predictivos o sistemas de inteligencia artificial. La transparencia del futuro consistirá, cada vez más, en hacer comprensible aquello que la tecnología amenaza con volver invisible.
La ciudadanía no tiene la obligación de aprender cómo funcionan los algoritmos para ejercer sus derechos. Son las instituciones las que tienen la obligación de asegurar que la innovación tecnológica sea compatible con los principios democráticos que las legitiman. Y cuando no es así, son las instituciones garantes del derecho a saber las que deben ofrecer esa garantía.
Porque aceptar la opacidad algorítmica equivale a construir espacios inmunes al control democrático precisamente allí donde las decisiones públicas adquieren una mayor complejidad tecnológica. Y una democracia no puede permitirse zonas de sombra en el ejercicio del poder público.
No nos enfrentamos únicamente a un debate tecnológico. Nos encontramos ante una cuestión que afecta directamente a la calidad democrática de nuestras instituciones. La transparencia algorítmica no es una exigencia tecnológica. Es una exigencia constitucional y democrática.