Carissa Véliz, filósofa: “La IA presenta las predicciones como hechos, pero la democracia necesita incertidumbre para ser libre”
La experta cuestiona la confianza en los algoritmos y reivindica la inestabilidad como una condición de los sistemas políticos y la autonomía ciudadana
La democracia necesita algo que la inteligencia artificial pretende eliminar: la incertidumbre. Nadie sabe quién ganará unas elecciones antes de que los ciudadanos voten. El resultado permanece abierto hasta el final de la jornada electoral y el recuento de las papeletas. Para Carissa Véliz, esa incertidumbre no es una carencia del sistema democrático, sino una de sus condiciones esenciales. Y es precisamente esa idea de un futuro abierto contra la que, a su juicio, choca buena parte del despliegue actual de la inteligencia artificial.
La filósofa, profesora de la Universidad de Oxford y autora de varios libros entre los que destaca Privacidad es poder: datos, vigilancia y libertad en la era digital, ha dedicado su intervención durante la cena de clausura de la primera jornada del foro CREO, organizado por CincoDías y Prisa Media, a cuestionar la confianza depositada en las predicciones algorítmicas que desarrolla la IA. Véliz, que asesora tanto a empresas como a instituciones como la Comisión Europea y el Congreso de Estados Unidos, ha recordado cómo ha cambiado el tono del debate tecnológico. De los primeros años de internet, marcados por una confianza casi ilimitada en sus posibilidades, se ha pasado a un escenario en el que proliferan las advertencias sobre los riesgos extremos de la inteligencia artificial. Entre ambos tiempos, se ha perdido de vista lo que pueden hacer realmente estos sistemas.
Su respuesta es, en apariencia, sencilla. El aprendizaje automático utiliza grandes cantidades de datos para identificar patrones y realizar predicciones sobre lo que puede ocurrir. Buena parte de la fascinación que despierta la tecnología nace, según Véliz, de atribuir a esas predicciones la capacidad de conocer el futuro, algo que en realidad es una falacia pues en su opinión, “el futuro no se predice, se produce”.
El problema aparece cuando una probabilidad generada por la IA se presenta como una certeza y empieza a utilizarse para tomar decisiones sobre las personas, como la concesión de un préstamo o la contratación de un trabajador. Si un banco rechaza una hipoteca porque el solicitante no cumple determinados requisitos —sus ingresos, su nivel de endeudamiento o su historial de pagos— la decisión puede debatirse. Pero si el rechazo responde a una probabilidad calculada por un modelo, resulta más difícil saber qué se está cuestionando y cómo puede rebatirse. Y al final, la predicción termina produciendo aquello que anuncia porque lo condiciona.
En el caso de las empresas, la filósofa ha insistido en que si una herramienta utilizada por las empresas descarta a un candidato porque considera que tiene pocas posibilidades de éxito y otras compañías emplean sistemas entrenados con criterios similares, ese trabajador tendrá cada vez menos oportunidades de acceder a un empleo. El algoritmo tendrá un elevado porcentaje de aciertos, pero parte de esa precisión procederá de las propias decisiones que ha contribuido a provocar.
Y la pregunta es quién decide sobre esos asuntos. Préstamos, empleos, prestaciones públicas o incluso decisiones judiciales se están incorporando en la actualidad a sistemas de clasificación y predicción cuyo funcionamiento es poco transparente. Según Véliz, el riesgo no está únicamente en que una máquina se equivoque, sino en que las decisiones que importan en el terreno político no se discutan por considerar irrefutables los algoritmos tecnológicos.
La recolección de los datos que necesitan esas herramientas digitales presenta además un problema de seguridad que sigue sin solucionarse, pues son susceptibles de ser robadas, filtradas o utilizadas con fines distintos de aquellos para los que fueron creadas. “Acumular información también significa acumular riesgos. Cuantos más datos existen y más concentrados están, mayores son las consecuencias de que alguien pueda acceder a ellos o utilizarlos con otros fines. La vulnerabilidad no desaparece por el hecho de que la información esté almacenada en sistemas digitales. Por el contrario, en algunos casos, puede aumentar”, ha señalado durante su discurso.
Ante el gran margen de error de las predicciones, lo que la filósofa propone es la prevención. El ejemplo más claro es que “los ingenieros no intentan saber cuándo chocará un avión con un pájaro, sino que diseñan los aviones para que puedan soportar ese impacto si ocurre”. La misma lógica debería aplicarse a instituciones y sociedades sometidas a cambios que no pueden anticiparse con precisión, como una pandemia. Prepararse para distintos escenarios puede ser más útil que confiar en una única previsión sobre lo que está por venir.
La democracia, ha recordado, no funciona porque sepamos qué ocurrirá, sino porque aceptamos que no lo sabemos. Esa incertidumbre permite que los ciudadanos decidan y que los resultados puedan cambiar. En ese contexto, las afirmaciones sobre un futuro inevitable tienen también una dimensión política. Cuando líderrd tecnológicos, como Mark Zuckerberg o Elon Musk, afirman que una determinada tecnología cambiará inevitablemente el futuro, no están solo haciendo una predicción. También construyen las condiciones para que esa predicción se cumpla: inversores que financian, empresas que adoptan esa tecnología y gobiernos que regulan a partir de esa expectativa. Los gigantes tecnológicos tienen su propia agenda, y por ello hay que desconfiar. “Ni los gobiernos, ni las empresas, ni las personas se están preguntando quién hace la predicción, con qué datos, qué intereses hay detrás y qué alternativas quedan fuera”. En suma, “la IA presenta las predicciones como hechos, pero la democracia necesita incertidumbre para ser libre.”
En un momento en que buena parte del debate sobre inteligencia artificial se mueve entre la fascinación y el miedo, Véliz ha reivindicado otra vía que pasa por aceptar que el futuro sigue siendo incierto y que, precisamente por eso, todavía puede ser decidido. En su opinión, aún hay margen para decidir cómo se incorpora la tecnología a la sociedad. Su propuesta pasa por reducir la dependencia de las grandes compañías que concentran buena parte de la infraestructura y el desarrollo de la IA. La apuesta debería ser, por contra, sistemas más locales, protegidos y sometidos a un mayor control por parte de las instituciones que los utilizan.