Transparencia aplicada a la inteligencia artificial: ¿lo estamos haciendo bien?
Sería conveniente exigir claridad sobre el qué y el dónde, esto es, sobre qué es y que no es IA dentro de una solución
En el ámbito de la inteligencia artificial, las organizaciones (empresas, asociaciones, administraciones públicas) son conscientes de la necesidad de incorporar la transparencia como principio en sus estrategias y políticas. De hecho, la transparencia está siendo recogida como principio por la mayoría de los códigos éticos de empresas e instituciones, si bien la forma en que es citada y utilizada es muy variada (como puede comprobarse por ejemplo a través de los resultados de la investigación basada en lenguaje natural realizada por Linking Artificial Intelligence Principles, que muestra que esta aparece vinculada a conceptos tan variados como explicable, previsible, inteligible, auditoría o rastreable).
También lo es el legislador europeo, que en el proyecto de Reglamento de la UE también ha recogido la transparencia como principio y la exige para algunos tipos de soluciones basadas en inteligencia artificial (IA). Este proyecto fija normas de transparencia armonizadas para los sistemas de IA destinados a interactuar con personas físicas, los sistemas de reconocimiento de emociones y los sistemas de categorización biométrica, y los sistemas de IA utilizados para generar o manipular contenidos de imagen, audio o vídeo.
Por lo general cuando se habla de IA y de la necesidad de que sea transparente, el debate se centra en los algoritmos y los datos y, más concretamente, en su poder para influir en nuestra toma decisiones sobre aspectos que pueden afectar a nuestros derechos fundamentales en temas financieros, de salud, jurídicos, educativos, etc. Y también en nuestra voluntad, limitando nuestra capacidad de escoger libremente (al ser informados, al votar, al comprar, etc.), sin que seamos conscientes de ello.
La realidad es que por ahora parece que lo que más preocupa a políticos, legisladores y doctrina es el uso que de los datos hace la IA, su proveniencia, cómo se etiquetan, etc., así como el funcionamiento del algoritmo: lo que este hace y cómo lo hace. Pero el debate sobre la transparencia y la IA debería centrarse en muchos más aspectos. En concreto en todos los que componen o influyen en el desarrollo y comercialización, la puesta en servicio y la utilización de los sistemas de Inteligencia Artificial. Y entre otros, parece que sería conveniente exigir transparencia sobre el qué y el dónde, esto es, sobre qué es y que no es IA dentro de una solución, el modelo de negocio que la justifica, el grado en que un sistema de IA influye y moldea el proceso de toma de decisiones de una organización, o las capacidades y limitaciones del sistema de IA. Así como sobre los sujetos que tienen un rol de cualquier tipo en relación con esa IA, como sus propietarios, desarrolladores, supervisores, certificadores, usuarios o interesados / afectados / beneficiarios. Además, la transparencia debería exigirse respecto a todos los procesos de utilización, supervisión, certificación.
En conclusión, debemos tomar consciencia de que la IA es una tecnología cada vez más relevante y cuyas potencialidades pueden afectar a nuestros derechos fundamentales. La transparencia es un concepto polisémico en el ámbito jurídico y comprender sus diferentes significados es interesante, porque de ellos pueden quizás extraerse conclusiones útiles para definir el significado de transparencia aplicado a la inteligencia artificial. La transparencia está siendo incorporada como principio a la mayoría de las leyes y códigos éticos para la IA de empresas e instituciones, sin bien la forma en que es definida es muy variada. En general, cuando hoy se habla de transparencia de la IA se reivindica esta en relación con los datos y los algoritmos, pero no con otras cuestiones que pueden ser igualmente relevantes. Por eso es importante reflexionar cuanto antes sobre todo lo que influye en el desarrollo y comercialización, la puesta en servicio y la utilización de los sistemas de inteligencia artificial, la transparencia no es solo una palabra bonita y que vende mucho; ni basta con aplicarla a los datos y los algoritmos. Estamos ante un derecho complejo, polifacético, y que debe ser correctamente definido, partiendo para ello de la comprensión profunda de esta categoría de tecnologías, antes de que sea ya demasiado tarde y vivamos en un mundo artificialmente inteligente, pero quizás demasiado oscuro.
María Jesús González-Espejo, CEO del Instituto de Innovación Legal y presidenta de la Innovation in Law Studies Alliance.