Las finanzas señalan los riesgos tangibles e inmediatos de la IA
El sector advierte de que los guardarraíles responden a razones prácticas, no filosóficas ni políticas
No es necesario recurrir a las distopías hollywoodienses ni a presagios laborales aún por cristalizar para encontrar un lado oscuro de la inteligencia artificial que tenga efectos sistémicos sobre la sociedad. Es decir, más allá de los deepfakes y de la industrialización de las estafas cibernéticas. El lanzamiento del modelo Mythos por parte de Anthropic ha desatado esta primavera un episodio de pánico entre los responsables de seguridad cibernética de instituciones financieras y organismos supervisores sin precedentes. El Banco Central Europeo ha exigido planes de contingencia a las entidades financieras ante un sistema capaz de detectar brechas en los sistemas informáticos de las entidades con una velocidad y eficacia desconocidas. Anthropic no está comercializando este temible algoritmo, pero la conclusión es evidente: que otra organización lo consiga o logre emular sus capacidades es solo cuestión de tiempo.
El Consejo de Estabilidad Financiera, organismo supranacional que vela por que al sistema financiero internacional no se le salten las costuras, ha aportado un ángulo paralelo de riesgos; el que supone el uso de la inteligencia artificial por parte de las propias instituciones de bancos y firmas de inversión. La organización ha planteado una docena de pautas para la aplicación de estos sistemas, consciente en todo caso de que no se trata de recomendaciones a futuro: el sector ha corrido a aplicar los modelos de aprendizaje para la automatización de tareas, en muchos casos con gran éxito. Los focos de preocupación y las recomendaciones son, hasta cierto punto, de sentido común: los agentes de IA que toman decisiones de forma autónoma pueden tomar malas decisiones (incluso delictivas), las entidades deben vigilar con qué datos se entrenan sus sistemas y ser tanto capaces de corregirlos como responsables de sus actos.
Dos elementos clave explican, simplificando mucho, el éxito del sistema capitalista en la historia: la capacidad de movilizar recursos y la capacidad de adaptación. La IA se ha beneficiado, como en su día el ferrocarril o la máquina de vapor, de la primera. Pero se está desarrollando a una velocidad y sus implicaciones son tales que el mundo no parece preparado para absorberla sin más, como estas tecnologías pretéritas. El mundo financiero, siempre más rápido que otros ámbitos, ha dado su señal de alerta: los motivos por los que fijar guardarraíles a esta tecnología no son filosóficos o políticos, sino de orden meramente práctico.