Para agilizar la búsqueda de empleados Amazon utilizaba un software basado en inteligencia artificial capaz de analizar currículums más rápido que un departamento entero de recursos humanos. El sistema fue “despedido” por sus decisionesmachistas.
Al programa de reclutamiento no le gustaban las mujeres. O, al menos, privilegiaba a los aspirantes hombres. Su falta de objetividad se evidenció en la elección de candidatos a puestos técnicos, por ejemplo desarrolladores.
Como toda inteligencia artificial, ésta quiso ser una solución ágil. En este caso para encontrar a los mejores candidatos gracias al aprendizaje automático. Creado en 2014, analizaba los perfiles y arrojaba los cinco “mejores”.
¿Por qué prefería a los hombres? Para sus recomendaciones estudiaba la base de datos de la compañía que incluye información del personal contratado en la última década. Ahí encontraba que la mayoría de los desarrolladores son varones. Este patrón repetido se tradujo en un comportamiento sexista.
Las empresas tecnológicas más importantes del mundo (Amazon, Google, Facebook, Apple y Microsoft) tienen un punto en común: por amplio margen, en sus equipos de desarrollo los hombres son mayoría.
Para colmo, el programa también ponía puntajes a los candidatos (de una a cinco estrellitas) y lo bajaba en caso que las candidatas hayan asistido a centros educativos para mujeres.
Cuando Amazon detectó este comportamiento realizó modificaciones en el sistema. Pero no logró que fuese totalmente objetivo. Luego de varios intentos, el software fue despedido. Patitas a la calle de los ceros y unos...
Los reportes señalan que en 2017 la empresa que dirige el magnate Jeff Bezos echó a todo el equipo que creó el sistema. Desde Amazon no realizaron comentarios sobre el tema. La divulgación del hecho confirma que el aprendizaje automático todavía sufre limitaciones, aún cuando hay grandes presupuestos detrás.