La selectividad británica expone los defectos de los algoritmos
El modelo utilizaba las notas de la escuela del alumno para calificarlo, perjudicando a los de zonas pobres
La furia popular ha obligado al Gobierno británico a renunciar a un algoritmo que calculaba las notas probables de la selectividad. Es un recordatorio de que incluso los algoritmos bien intencionados cometen muchos errores perjudiciales.
Los exámenes se cancelaron por la pandemia. El furor estalló después de que casi el 40% de los estudiantes tuvieran una puntuación inferior a la prevista por sus profesores, y que los alumnos de escuelas desfavorecidas se vieran afectados de forma desproporcionada.
Es un ejemplo inusualmente duro y público de un problema mucho mayor. Por ejemplo, los modelos que se usan para dar créditos pueden dificultar que las personas menos ricas tomen prestado a tipos razonables.
Los algoritmos también se utilizan en muchos estados de EE UU para ayudar a decidir la probabilidad de que un delincuente reincida. Se supone que neutralizan los prejuicios de los jueces, pero sus aportaciones, por ejemplo si los amigos del convicto han sido arrestados, pueden introducir otros prejuicios, como describe la matemática Cathy O’Neil.
Ella habla de las variables proxy, es decir, entradas que sustituyen el conocimiento del comportamiento real de una persona. En el algoritmo de la selectividad británica, uno de los proxy era el historial de la escuela del alumno. Resultó una forma segura de discriminar a los estudiantes estrella de orígenes menos ricos.
Como tantas veces, el objetivo era racional: ajustar las calificaciones previstas para acercarlas, en general, a la distribución de resultados de años anteriores. Las autoridades tuvieron meses para considerar las posibles consecuencias imprevistas de su algoritmo. Como adolescentes descuidados, perdieron el tiempo.
Las historias de desamparo de chavales quedan bien en la tele, y las protestas de padres, maestros y una generación de futuros votantes hicieron que la negativa inicial del Gobierno a ceder durara poco, como era previsible. Ahora valdrán las calificaciones estimadas por los maestros. Ojalá fuera tan fácil para, por ejemplo, los presos, hacerse oír.
Los autores son columnistas de Reuters Breakingviews. Las opiniones son suyas. La traducción, de Carlos Gómez Abajo, es responsabilidad de CincoDías