Apostar por una IA generalista en finanzas no nos ayudará a cumplir con la Ley europea
El éxito no pasa por las grandes ambiciones, sino por una implementación práctica y enfocada, que priorice la fiabilidad
Las primeras obligaciones del Reglamento Europeo de Inteligencia Artificial entraron en vigor el pasado 2 de febrero. Se trata del primer plazo importante para la aplicación de esta norma y, aunque el debate se ha centrado principalmente en los sistemas que quedan prohibidos, el foco debería ponerse en la oportunidad que supone, sobre todo en algunos ámbitos. Europa está marcando la pauta sobre cómo debería funcionar la IA en los servicios financieros.
La nueva Ley de IA de la UE va más allá del mero cumplimiento normativo. Es un marco para desarrollar mejores sistemas de inteligencia artificial. Esto es especialmente cierto en el área que nos ocupa. Al clasificar las aplicaciones financieras como calificación crediticia y la fijación de precios de los seguros como de alto riesgo, la norma reconoce algo que sabíamos desde hace tiempo: en el ámbito de los servicios financieros, los sistemas de IA deben ser específicos, precisos y transparentes.
El mercado ya está avanzando en esta dirección. Es cierto que siguen existiendo organizaciones que se dejan llevar por el atractivo de una IA generalista, pero las principales firmas financieras están apostando por lo que llamamos IA right-sized, o a medida. Esta se centra en la automatización dirigida a través de agentes de IA y/o la implementación de modelos a menor escala, siempre dentro de sólidos marcos de gobernanza.
Lejos de ser obstáculos, los requisitos de la Ley en materia de explicabilidad, supervisión humana y gestión de riesgos son características fundamentales de cualquier sistema de IA que gestione operaciones financieras. Se trata de un sector en el que muchas aplicaciones críticas de esta tecnología se consideran de alto riesgo por su posible impacto en las decisiones empresariales y los resultados de los clientes. Por este motivo, es crucial que cualquier inteligencia artificial que se utilice sea supervisada y controlada por personas.
Y es que en la gestión financiera no hay margen para la opacidad. Tareas como el análisis de los patrones de gasto, la detección y prevención de fraudes o la supervisión de las políticas de gastos requieren de sistemas que funcionen de forma eficaz inmediatamente y cumplan estrictos estándares de protección de datos.
No se trata de crear sistemas omnipotentes, sino de desarrollar agentes inteligentes que lleven a cabo funciones concretas con tareas claramente definidas. Además, cada una de estas debe operar dentro de los límites y con los permisos adecuados. Esto implica implementar vías de escalamiento claras para casos extremos, mantener registros de auditoría exhaustivos de todas las decisiones asistidas por IA y garantizar que expertos humanos puedan revisar y anular las recomendaciones del sistema cuando sea necesario.
Hay tres principios fundamentales que caracterizan a la IA right-sized y que la alinean con la norma europea. Uno, ser diseñada con un objetivo. La IA debe cumplir con un propósito concreto y sus funciones deben estar bien definidas. Así, la recomendación es que las empresas opten por aplicaciones que agilicen tareas financieras específicas.
Dos, estar focalizada en el profesional. La supervisión humana es, precisamente, uno de los aspectos en los que más incide la Ley europea. En este sentido, los agentes, y demás aplicaciones de IA, deben presentarse como una herramienta de apoyo que refuerce las soluciones y procesos existentes, y no como una herramienta para remplazar la toma de decisiones humana.
Tres, tener la gobernanza integrada. Los agentes de IA deben estar programados para poder realizar acciones dentro de los permisos establecidos para cada usuario, garantizando un estricto control sobre la protección de datos. Además, deben hacer posible el rastreo posterior de cualquier operación, con el objetivo de que se puedan realizar las auditorías y revisiones pertinentes.
¿Oportunidad de liderazgo?
En el mercado global de la IA, Europa está posicionándose a la vanguardia en uno de los aspectos más relevantes: la fiabilidad. Aquí, es importante poner de relieve que los requisitos de la Ley de IA en materia de detección de sesgos con el fin de evitar patrones discriminatorios en las decisiones de la IA, las evaluaciones periódicas de riesgos y la supervisión humana no limitan la innovación, sino que definen la excelencia para los servicios financieros.
Además, a medida que los mercados globales exijan sistemas de IA transparentes y responsables, el enfoque europeo podría convertirse en un estándar para los servicios financieros de todo el mundo, lo que supone una ventaja significativa para las empresas de nuestra región.
En el caso de los servicios financieros, los sistemas de IA deben ser lo suficientemente robustos para gestionar operaciones financieras complejas y lo suficientemente fiables para abordar todas las tareas, incluyendo las que mayor nivel de detalle requieren. Esto implica implementar soluciones que funcionen de forma eficaz y transparente desde el primer día, aprendan de las acciones de los usuarios y mantengan rigurosos estándares de seguridad.
En pocas palabras, el éxito no pasa por contar con grandes ambiciones, sino por una implementación de la IA práctica y enfocada, que priorice la fiabilidad y la seguridad de los datos y aumente las capacidades financieras de las empresas.
Laura Gámiz es directora de Payhawk España
