Los riesgos legales de utilizar inteligencia artificial en la selección de candidatos

La pandemia acelera el uso de herramientas para buscar empleados, pero estos métodos pueden vulnerar derechos fundamentales

Los riesgos legales de utilizar inteligencia artificial en la selección de candidatos

El aumento del desempleo consecuencia de la crisis está haciendo que muchas personas que buscan trabajo remitan gran número de currículos y solicitudes de empleo a las empresas. Y estas, para agilizar la labor de sus departamentos de recursos humanos, están acudiendo cada vez más al uso de algoritmos en sus procesos de selección de personal.

No obstante, el uso de estas herramientas no está exento de riesgos legales, en ocasiones difíciles de detectar. Por ejemplo, cuando Amazon descubrió que su herramienta de reclutamiento basada en inteligencia artificial (IA) mostraba un sesgo contra las mujeres, la reprogramó para ignorar explícitamente palabras relacionadas con el género. Sin embargo, el sistema revisado siguió aplicando patrones implícitos de género, como verbos altamente correlacionados con los hombres.

Y las consecuencias para las empresas pueden ser graves, porque con ello se podrían vulnerar las expresiones del principio de igualdad del artículo 14 de la Constitución española en el ámbito laboral, como son el artículo 4.2 del Estatuto de los Trabajadores o el 5 de la Ley Orgánica para la Igualdad Efectiva de Mujeres y Hombres. Estas normativas recogen el derecho de los empleados a “no ser discriminados directa o indirectamente” tanto en el proceso de búsqueda de empleo como una vez incorporados a la compañía.

Infringir cualquiera de estos preceptos puede acarrear sanciones de entre 6.250 a 187.500 euros. Además, el Reglamento General de Protección de Datos regula la utilización de sistemas automatizados de toma de decisiones que produzcan efectos jurídicos o afecten significativamente a la persona de modo similar, y prevé sanciones de hasta 20 millones de euros, en el peor caso.

Estas herramientas, como destaca Borja Suárez, fundador de B-Lawyer (headhunter del sector legal), se están usando por todas las grandes empresas en sus procesos de selección y gestión de recursos humanos. En la primera fase del proceso, estos sistemas aportan su gran capacidad de filtrar con rapidez grandes volúmenes de información, en virtud de los criterios establecidos para cada puesto. En una segunda, permiten evaluar con precisión a los candidatos restantes.

El uso de la inteligencia artificial aparece en la gestión de los datos internos de las empresas, sobre todo en los procesos de transformación del negocio y la mejora de la prestación del servicio a diferentes áreas.

Riesgo de discriminación

Las ventajas del uso de estos sistemas implican también algunos inconvenientes. Borja Suárez destaca el principal: son sistemas de selección pasiva, que filtran en función de unos parámetros establecidos (como el expediente académico o los años de experiencia laboral). Por tanto, pueden quedar descartados candidatos que podrían resultar adecuados, pero cuyas virtudes no son identificadas por la máquina.

Además, añade, los riesgos de discriminación y sesgo en estos procesos existen y son reales, a menudo como consecuencia de los perfiles definidos, explícita o implícitamente, por las propias empresas.

Por otra parte, Javier Ruiz de Azcárate, presidente de Catenon, añade que la mayoría de soluciones tecnológicas para la selección de personal se desarrollan en EE. UU, “cuya regulación sobre protección de datos es más laxa que en la UE, lo que hace que no sean fácilmente extrapolables a nuestro mercado sin una exhaustiva revisión y adaptación en esta materia”.

Este experto destaca además un dato importante: salvo en el sector IT, en España no se libra una auténtica guerra por el talento laboral, lo que hace que las empresas inviertan poco en el área de selección de personal comparativamente con los países anglosajones, donde es considerada un área estratégica y prioritaria, integrada por equipos multidisciplinares.

En España esta función está prácticamente copada por psicólogos “que en general son expertos en la fase final del proceso, que no requiere en general una aplicación intensiva de tecnologías”.

Tecnología para un negocio en alza

Herramientas. El presidente de Catenon, Javier Ruiz de Azcárate, explica que en la actualidad existe un enorme ecosistema de soluciones de base tecnológica para la detección (como crowdsourcing o shared talent networks), atracción (como marketing programático TA o CRM-C) y valoración de talento (como parsing o matching, biometría facial o e-assessment, analytics). Y aunque su uso es frecuente fuera de nuestras fronteras, en nuestro país está aún en un nivel básico, limitándose, “como mucho a la utilización de plataformas ATS (aplication tracking system) para la gestión del proceso”.

Oferta creciente. Además de para la mejora de sus procesos de gestión interna, las grandes empresas de consultoría (big four) y algunos despachos anglosajones están incrementado su oferta de servicios de búsqueda de personal para sus clientes, con apoyo en potentes sistemas automatizados y la inteligencia artificial.

Equidad. El Reglamento General de Protección de Datos (RGPD) establece que el tratamiento de los datos de una persona por parte de un sistema inteligente no debe tener ningún efecto adverso injustificado, debiendo evitarse los sesgos en los algoritmos.

Normas
Entra en El País para participar