Vigilar el algoritmo para garantizar el futuro a todos
Sin una digitalización libre de sesgos, ética y responsable se creará un marco de exclusión para amplias capas de la población
Cuando estamos a punto de cumplir un año desde que la pandemia irrumpió en nuestras vidas, forzando medidas extraordinarias y nunca vistas, toca reflexionar sobre qué enseñanzas ha dejado todo ello. En tal sentido, una de las huellas más profundas sobre las que se edificará buena parte de nuestras relaciones personales, sociales, profesionales y económicas es la mayor dependencia e incorporación de la tecnología en todos los órdenes de nuestra vida. La presencia humana tiende a desaparecer en los procesos que tienen que ver, por ejemplo, con la gestión de las finanzas. Si antes la máquina robusta sustituyó a la mano de obra en factorías e industrias, hoy la inteligencia artificial y los procesos en línea van camino de diseñar la banca del futuro, entre otros sectores.
Hablamos del algoritmo como sustituto de buena parte de los procesos en los que la inteligencia humana, más allá de la mano, formaba parte de la toma de decisiones. Es lo que se conoce como aprendizaje automático o machine learning, en su acepción inglesa mucho más extendida. Es decir, lograr un proceso automatizado de toma de decisiones que va mejorando a medida en que se incorporan evidencias al algoritmo. Esto es, las máquinas pensarán mejor y más rápido, gestionarán mejor y más rápido, invertirán mejor y más rápido. ¿O no?
Es ampliamente sabido que el algoritmo genera sesgos importantes: estos sofisticados modelos computacionales finalmente, no hacen más que un potente procesamiento de datos; si estos están sesgados de origen, el error se reproduce. Si la realidad es sesgada, el sesgo se multiplica. Resulta evidente la necesidad de corrección, por ejemplo, de un algoritmo que solo se dedicara a dar préstamos de alto riesgo porque son los que maximizan la ganancia. Y si entramos en terrenos más sensibles, sabemos que estos sesgos pueden llevar a la discriminación de las personas en función de su origen, edad, sexo, procedencia, nivel de ingresos, lugar de residencia…
Al final, la perfección tecnológica del modelo choca contra una realidad diversa, perfectible y viciada porque diversos, perfectibles y llenos de mochilas somos las personas que la pueblan. ¿Cómo conciliar ambos mundos? No podemos renunciar a la inmersión tecnológica que la pandemia no ha hecho sino acrecentar. La rentabilidad de que dota la inteligencia artificial a procesos como el financiero viene a favorecer a todos los actores del sistema. También a los consumidores que obtienen versatilidad, comodidad y precio. Pero tampoco podemos permitir fallas en el sistema. Máxime cuando nos espera aún un largo trecho hasta que combatamos los desequilibrios económicos que ha generado la pandemia.
Y es que no hay tiempo que perder. Sabemos que el paisaje que deja tras de sí estos más de 12 meses ya (y lo que nos queda) de parón económico es desolador. Buena parte de la población ha dejado de percibir ingresos; para otros será muy difícil el reenganche laboral; los más jóvenes tienen ante sí una carrera de obstáculos compleja como nunca para empezar a labrarse el futuro y los resortes de la reactivación económica, en definitiva, tardarán en verse engrasados de nuevo. ¿Podemos permitirnos un sistema que, ajeno a la problemática del momento, expulse a colectivos que no comulguen con el algoritmo?
Muchos tildarán de excesiva la reflexión pero es en estos momentos cuando apelo al compromiso de quienes ostentan los cargos de responsabilidad en las compañías, de quienes nos gobiernan o de aquellos encargados de la vigilancia y observancia del buen hacer de los players del sistema. Sabemos que la velocidad de los cambios implementados por la tecnología y el feroz entorno en el que han de moverse hoy los otroras gigantes todopoderosos de la banca, telecomunicaciones y aseguradoras eleva el listón y exige frialdad en las decisiones. Pero no olvidemos los contrapesos. De eso no saben los algoritmos.
La pandemia ha sido todo un test de estrés para la digitalización bancaria. De repente, el efectivo causa pavor (cuando se ha demostrado que no era portador del virus), las oficinas bancarias atienden previa cita y se prioriza el canal en línea. Sabíamos de las ventajas de la banca online: la comodidad que proporciona, incluso la oportunidad para la inclusión financiera de poblaciones aislados por edad o por territorio. Pero no estábamos preparados para el reverso tenebroso: la exclusión financiera que puede generar. De repente, una parte de la población acostumbrada a sus cobros en ventanilla se queda sin alternativa, por poner un ejemplo. A mayor escala, si no se dotan de equilibrios estos procesos, emergerán exclusiones de todo tipo.
Finalmente, no perdamos de vista, una vez más, el delicado momento económico que vivimos. Muchos préstamos se encuentran en riesgo real de impago y los sectores motores de la economía mundial afrontan una debilidad no vista en décadas. Si en un escenario así no somos capaces de proteger a los más vulnerables, nos exponemos a una falsa salida de la crisis. Y si a esto añadimos una dejación de responsabilidades en la observancia de una digitalización libre de sesgos, ética y responsable, estaremos sentando las bases de un futuro injusto para amplias capas de la población. No lo permitamos.
Patricia Suárez Ramírez es Presidenta de Asufin