A Google o Facebook les vendría bien aprender algo más de ética

Deben hacer más esfuerzos por evitar los sesgos discriminatorios de los algoritmos

Logotipo de Google.
Logotipo de Google.

A las Big Tech les vendría bien un poco de formación ética. Google, de Alphabet, ha atraído tanta atención sobre los asesores externos que eligió para que le ayudaran a desarrollar responsablemente la inteligencia artificial que abandonó el esfuerzo. Sin embargo, merece reconocimiento por capacitar a algunos miembros de su personal sobre los peligros del sesgo involuntario en los algoritmos y otros problemas. Más aportaciones externas, en particular de los círculos académicos, pueden ayudar a Silicon Valley a reducir el riesgo.

Google reconoció que necesitaba ayuda para navegar los dilemas morales que presentaba la IA, pero su intento fracasó. Unos 2.500 empleados de la industria tecnológica, académicos y de otros sectores firmaron una carta en la que pedían a la empresa que destituyera de su consejo asesor sobre inteligencia artificial a la presidenta del think tank conservador Heritage Foundation, Kay Coles James, porque había criticado propuestas apoyadas por personas transgénero, gays y lesbianas. En lugar de eso, la empresa disolvió el panel.

Es un bochorno para una compañía que ha sido proactiva en hacer que los empleados piensen en las consecuencias no deseadas de sus productos. Alrededor de 100 empleados del buscador han recibido formación basada en un proyecto de ética tecnológica de la Universidad de Santa Clara (California), que aporta estudios de casos como la creación de un asistente virtual para ayudar a los ejecutivos de las empresas, y desafía a los estudiantes a salir de su burbuja y cuestionar lo que dan por supuesto.

Otras universidades ofrecen cursos similares. Stanford tiene estudiantes de ciencias de la computación analizando situaciones del mundo real, como la parcialidad de los algoritmos utilizados por los jueces para decidir si dejan salir a alguien bajo fianza o los problemas de privacidad que provoca la publicación de fotos de hijos en Instagram. Harvard y el MIT se unieron el año pasado para ofrecer formación sobre ética y buen gobierno en la IA.

Estas iniciativas son útiles porque la tecnología puede incorporar los prejuicios de sus diseñadores humanos. En Estados Unidos, negros e hispanos ocupan solo el 13% de los puestos de trabajo de ingeniería, mientras que las mujeres tienen alrededor del 14%, según datos de 2018 del Pew Research Center. Es importante porque la tecnología toma decisiones cada vez más complejas sobre las personas: ahí están los programas de reconocimiento facial utilizados por las fuerzas de seguridad.

Las quejas de parcialidad contra Silicon Valley también hacen cada vez más ruido. En una demanda por discriminación presentada por el Departamento de Vivienda y Desarrollo Urbano el 28 de marzo, se acusaba a Facebook de permitir a los anunciantes enfocar sus anuncios con criterios de raza y religión. Los desarrolladores informáticos y los ejecutivos deben identificar por qué eso está mal. Es una lección para las Big Tech.

Los autores son columnistas de Reuters Breakingviews. Las opiniones son suyas. La traducción, de Carlos Gómez Abajo, es responsabilidad de CincoDías

Normas