IA, algoritmo y transparencia: la Administración Pública, primera obligada a ello
El pasado 11 de septiembre, el Tribunal Supremo sentó doctrina obligando al Ministerio de Medioambiente a exhibir el código fuente de la aplicación informática BOSCO
Primero, dar ejemplo (decencia) y después, dar lecciones (docencia). Con el aterrizaje tan potente de la inteligencia artificial (IA) a nivel mundial, parece que la Administración es muy rápida para exigir obligaciones a los demás (hace bien), pero no tanto a ella misma (hace muy mal). Primero, ejemplo; luego, lecciones. En este orden de cosas, el Tribunal Supremo emite doctrina pionera en materia de ética, gobernanza y transparencia hacia el sector público: algoritmos claros, subvenciones transparentes.
La sentencia 1119/2025, de 11 de septiembre de 2025, de la Sección 3ª de la Sala de lo Contencioso-Administrativo del TS, reconoce el derecho de la Fundación Ciudadana Civio a acceder al código fuente de la aplicación informática BOSCO. Para ello, obliga a la a la Administración demandada a la exhibición del mismo. A través de esta aplicación, se filtraban todos los proyectos solicitantes de subvención europea vinculados a ese proyecto y sector concretos y dicha aplicación informática confirmaba el cumplimiento de los requisitos exigidos para la concesión de las mismas.
El portal estadístico Statista prevé que el mercado de la IA generativa alcance los 217 billones de dólares en el año 2025, llegando en el año 2030 a alcanzar a nivel mundial los 897 billones.
Por todo ello, el binomio industria-nación es esencial y la transparencia pública afianza la confianza empresarial en dicho binomio. En su defecto, la colaboración público-privada (tan nombrada y renombrada diariamente) carece de entidad propia.
La repercusión económica de esta tecnología en el entorno socioeconómico hace que las estrategias utilizadas por las organizaciones reporten un ROI de 3,7 en su inversión en esta tecnología.
En este sentido, dicha confianza del sector privado en el sector público se basa en la seguridad que pretende aportar el considerando 71 del Reglamento General de Protección de Datos (RGPD), por el que se establece el derecho de todo ciudadano a recibir una explicación, por parte de la Administración, del tratamiento de sus datos realizado a través de algoritmos.
Se afianza esta seguridad jurídica en el considerando 22 (el derecho a no ser objeto de una decisión tomada a través de decisiones automatizadas, incluida la elaboración de perfiles).
Ahora bien, hay que partir de un parámetro básico conceptual: el algoritmo como “información pública” (artículo 13 de la Ley 19/2013 de 9 de diciembre). Este matiz es fundamental a efectos de entender posteriores interpretaciones prácticas diarias (cfr. Resolución CTBG 058/ de 20 de mayo de 2021 y GAIP n.200 de 21 de junio de 2017).
En este sentido, Italia ha sido el primer país de la UE en trasponer el Reglamento IA a su propio sistema de fuentes. De esta manera, se saben los parámetros generales a través del Reglamento (ya son conocidos desde su publicación el 2 de agosto de 2024), y ahora, también el procedimiento concreto para su aplicación diaria (Ley Integral sobre IA).
En lo referido a la transparencia y gobernanza del sector público son destacables dos medidas importantes y novedosas incorporadas por la Ley italiana. Primero, en materia penal, incluye delitos específicos por uso de IA a través de una nueva figura basada en la difusión engañosa de contenidos generados con IA (como deepfakes), con penas de prisión de hasta cinco años. Por otro lado, matiza el uso de la IA por la Administración de Justicia. podrá utilizarse como apoyo técnico, pero no podrá intervenir en la valoración de pruebas ni en decisiones judiciales.
A nivel empresarial, este enfoque regulatorio nos hace mantener el principio de que el fin imperante y cortoplacista de números redondos no justifica los medios (tampoco con la IA como herramienta poderosa). Seguiremos construyendo por el mejor resultado en la colaboración pública-privada sin perder el foco del impacto humano y humanista en el entorno que nos rodea, con la responsabilidad de que lideramos el futuro desde lo que hacemos en el presente.
Por ello, necesitamos garantizar que el resultado mantendrá los cimientos de una sociedad que puede evolucionar sin perder su humanidad. Para ello, los seres humanos debemos posicionarnos por encima de la evolución tecnológica, estableciendo las bases para que la tecnología siga al servicio de las personas y de la sociedad.
En definitiva, todo proyecto de IA debe ser transparente, explicable, confiable y auditable. Crear conlleva saber criar lo creado. Toda creación requiere, a su vez, de ética (moralidad-legalidad), épica (resistir e insistir y nunca desistir) y estética (la presencia siempre genera prestancia). Crear, criar y saber crecer. Vista, suerte y al reto.