La amenaza invisible del ‘compliance’ digital
No existe conciencia en las empresas de que ese software tan moderno y aparentemente inocente para gestionar al personal les está poniendo en la diana de la AESIA
La recién creada Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), escondida entre unos propósitos que —con gran marketing— se ven más que loables, se prepara sin prisa pero sin pausa, agazapada pacientemente, a comenzar la cacería.
Lo vimos en su momento con la AEPD, que comenzó siendo aquel chaval pánfilo de la escuela al que era posible ignorarle y pegarle una colleja a la vez sin que tal paradoja quebrase la lógica infantil, y que acabó convirtiéndose en el matón del barrio con el que al cruzarte te temblaban las canillas y acababas dándole el bocadillo del recreo y el par de monedas del bolsillo que tu madre te había dado como paga semanal para comprar un Donut a la salida.
Con la AESIA, la historia se repite. Ahí está. Casi nadie lo sabe, pero ahí está. Escondida en tierras gallegas, y a la espera de encontrar una sede con propósito de permanencia, va dedicando su pequeño presupuesto a incrementar paulatinamente su plantilla y a elaborar notas informativas en su web. Al menos, es lo que muestra… por ahora. Porque llegará un momento en que, como ocurrió con la AEPD, deberá subsistir gracias a lo recaudado por las sanciones que vaya imponiendo, y habrá un nuevo matón en el barrio.
¿Y las víctimas? Pues las habrá de todo tipo: desarrolladores de sistemas de IA, empresas que implementan internamente software basado en IA, fabricantes que incorporan la IA a sus productos… No importa si son entidades grandes o pequeñas startups.
Muy probablemente los desarrolladores tomen conciencia más pronto que tarde del tsunami de obligaciones que les impone el Reglamento Europeo de IA (AI Act) y lo acaben introduciendo en su proceso productivo, pues es algo esencial para su negocio y supervivencia. Sin embargo, las empresas que van a implementar en sus procesos internos el uso de la IA, especialmente en lo relativo a la gestión de los recursos humanos, están más preocupados por no quedarse atrás y subirse ya al tren de esta nueva tecnología para poder gritar en LinkedIn que son modernas, disruptivas e innovadoras, que por cumplir obligación y normativa alguna.
Y es que, a decir verdad, no existe conciencia en las empresas de que ese software tan moderno y aparentemente inocente para gestionar al personal les está poniendo en la diana de la AESIA. No importa si la herramienta está diseñada para mejorar la situación laboral de los empleados, ni si permitirá la adopción de decisiones más justas, ni si posibilitará reconocimientos personales o mejoras en el ambiente de trabajo. Porque para el Reglamento Europeo de IA, y para la AESIA como organismo responsable de asegurar su cumplimiento en España, se concibe la IA como un peligro. Es irrelevante si se plantea su uso con una finalidad loable y plausible; siempre y en todo caso es un riesgo.
Es incontestable que la moda de usar programas basados en tecnología con IA ha llegado a las empresas para quedarse. Podemos hablar de herramientas destinadas a los procesos de selección de personal, que facilitan el análisis de los currículums para elegir o descartar candidatos. Podemos hablar de sistemas de control y gestión de emociones de los empleados que pretenden mejorar su bienestar en el trabajo. Podemos hablar de programas que ayudan a mandos intermedios o superiores en la organización de turnos o ritmos de trabajo. Podemos hablar de software que facilite la toma de decisiones a los responsables de recursos humanos en cuestiones tan sensibles y relevantes como las promociones profesionales o los incrementos retributivos.
Su uso parece inocente, pero no lo es.
Estos y otros muchos ejemplos son considerados por la normativa europea como sistemas de Alto Riesgo o de Riesgo Prohibido, y o bien impide su uso o lo restringe con una suma ingente de obligaciones que exige a la compañía a adoptar medidas preventivas, de control y de información.
Nadie está preparado, y la AESIA está al acecho. Tal vez no será hoy, ni posiblemente mañana; pero llegará. Y las multas que prevé la norma no son para tomárselas a broma, pues las cifras se cuentan en millones de euros.
El compliance digital va a ser indispensable a la hora de poner en marcha estas herramientas. Es necesario delimitar responsabilidades, perfilar el uso de los sistemas de IA, establecer protocolos y procedimientos, fijar supervisores… y elegir a los proveedores adecuados. Los departamentos de Recursos Humanos se van a ver obligados a entrar en un terreno como el informático que hasta ahora les era ajeno, pero el Reglamento Europeo de IA es muy claro cuando prevé que en materia de relaciones laborales se habrán de adoptar medidas preventivas y llevar a cabo acciones específicas hacia los empleados y sus representantes legales y sindicales.
Así que antes de que llegue el nuevo matón del barrio es imprescindible prepararse para que no nos deje con los bolsillos vacíos. Porque si se hace difícil cuando ves que te quitan ese dinerillo ahorrado, no lo es menos cuando hay que decirle con cara de bobo a tu madre, que es la que manda en casa, qué te ha pasado a sabiendas de que te responderá con un “te lo advertí“.
