Doce entidades se integran en una coalición para exigir un control democrático de los algoritmos

Nace Acción por la Justicia Algorítmica, una iniciativa de litigación estratégica fundada por Fundación Eticas y Madita.es En su primera campaña ponen foco en las webs de los partidos políticos

La inteligencia artificial (IA)y el machine learning se han colado sigilosamente en muchas acciones del día a día: para evitar el spam en el correo electrónico, para que un banco conceda o no un préstamo, para hacer análisis de valores financieros y mejorar las predicciones y recomendaciones, para temas de vigilancia... La idea de un futuro distópico con robots que utilicen el análisis de nuestros datos con distintos fines no resulta extraña, pero sí preocupante.

Por eso, más de una docena de entidades se han integrado en Acción por la Justicia Algorítmica (AxJA), una coalición de nueva creación que tiene como objetivo utilizar la “litigación estratégica” para promover las buenas prácticas en entornos digitales y de inteligencia artificial. La entidad ha sido fundada por Fundación Eticas, una organización sin ánimo de lucro que promueve el uso responsable de algoritmos y sistemas de inteligencia artificial, y Maldita.es, un medio español sin ánimo de lucro conocido por ser muy combativo contra la desinformación.

La coalición pretende identificar los retos más urgentes en la sociedad digital, señalar malas prácticas para hacerles frente a través de medios legales y contribuir en su reparación a través de la colaboración con instituciones públicas y entidades del sector privado. Quiere poner el foco en la falta de control democrático y de transparencia en el uso de herramientas tecnológicas como la implementación de sistemas de IA y de toma de decisiones automatizadas, así como velar por la rendición de cuentas a las entidades pertinentes.

La organización cuenta con el respaldo de personas que trabajan en la protección de los derechos en el entorno digital y una decena de asociaciones. En España forman parte de la coalición miembros como Digital Fems, Gender Justice Lab, Irídia, Xnet, Interferencias y Huxir, a los que se suman otros internacionales como Digital Freedom Fund, Panoptykon Foundation y Fundación Karisma.

Estas entidades, aparte de darle seguimiento a las campañas y proyectos ya previstos, se reunirán periódicamente para identificar los desafíos más relevantes y valorar las acciones estratégicas que permitan mejorar los estándares de desarrollo y uso de las nuevas tecnologías.

En su primera campaña, la coalición dará visibilidad al uso de las cookies en las webs de los partidos políticos con representación parlamentaria en España, para hacer un llamamiento al uso responsable, transparente y democrático de estos miniprogramas capaces de recoger datos de los usuarios sin su conocimiento ni control. La campaña quiere evidenciar la falta de buenas prácticas incluso entre aquellos que tienen el deber de promoverlas, y se enfoca en las cookies porque recientes decisiones legales a nivel europeo han puesto sobre la mesa su extendido uso de formas no legales.

Según AxJa, la legislación actual permite que las cookies funcionales no requieran consentimiento, así que “la ciudadanía debería desconfiar siempre de las pantallas de aceptación de cookies: quien recoge solo los datos estrictamente necesarios para el funcionamiento de una página web no necesita consentimiento explícito. Quien lo pide está buscando un uso comercial o publicitario que el usuario/a debería poder rechazar con la misma facilidad que puede aceptar”, aseguran.

El análisis se ha hecho de manera pública a través de la extensión Privacy Badger de la Electronic Frontier Foundation, que bloquea automáticamente las cookies y arroja el número y qué tipo de rastreadores han sido bloqueados. El estudio revela que estos partidos utilizan de media 7,5 rastreadores en sus webs y desvela otras malas prácticas sobre la configuración de esta tecnología.

AxJA también trabajará en la creciente brecha digital promovida por la implementación de soluciones digitales para la prestación de servicios. La reciente campaña Soy mayor, no idiota ha puesto sobre la mesa esta realidad, dicen desde la coalición, que se centrará en abordar los casos de brecha digital auspiciados por las Administraciones públicas, que eliminan la atención personal o telefónica para imponer soluciones digitales para procesos tan importantes como utilizar el transporte público o acceder a cursos y servicios.

En el caso del reconocimiento facial, AxJA pedirá explicaciones a aquellos organismos y empresas que apuesten por estas herramientas en un momento en el que en la UE se plantea su posible ilegalización. Ya se está trabajando en el uso de estos sistemas en entornos aeroportuarios y educativos.

“A pesar de las buenas intenciones, la tecnología actual está generando discriminaciones, exclusiones e injusticia y AxJA pretende subir el precio de hacer las cosas mal”, dice Gemma Galdon Clavell, fundadora de Fundación Eticas. Esta añade que se observan altísimos niveles de incumplimiento de la legislación de protección de datos y de IA. “En la coalición queremos usar herramientas legales existentes para denunciar malas prácticas y premiar a aquellos que se esfuerzan en desarrollar e implementar tecnologías responsables”, añade.