Fitxatges algorítmics
Doctora en sociologia, experta en transformació digital i impacte social, EsadeL’art de trobar la persona adequada per a una feina és un exercici de probabilitat i cribratge. De sempre s’han pres decisions complexes a partir de bocins d’informació en forma de currículum, una estona d’entrevista i altres simulacres plens de filtres com ara gènere, edat, origen, formació, experiència, encaix en l’ambient de l’empresa... En tot el camí, molts detalls i matisos queden en l’aire i els buits d’informació s’omplen amb prejudicis, idees alimentades per creences (“els de tal universitat seran millors”) o generalitzant experiències anteriors (“una vegada vam fitxar algú de tal país i no va funcionar”). Estereotips clàssics, típics i tòpics que es creuen constantment amb les oportunitats professionals. Alguns més visibles i d’altres menys, però amb l’arribada de la intel·ligència artificial s’estan qüestionant els biaixos conscients i inconscients que acompanyen les dinàmiques de reclutament.
Imaginem una gran empresa on arriben més de 500 currículums per vacant disponible, i imaginem que existeix la possibilitat de definir un algoritme que automàticament agafa la pila de candidatures i les revisa, les classifica, les ordena per idoneïtat i en destaca les 5 millors. Sona quasi a música i compleix els requisits de ser una tasca àrdua, repetitiva, basada en criteris clars i per tant automatitzable. És comprensible que els departaments de recursos humans hagin vist en els algoritmes una oportunitat per ser més eficients i més rigorosos.
Amazon, per exemple, va començar aquesta aventura el 2014 treballant en programes per agilitzar la selecció de talent. En concret, va idear un sistema que donava d’1 a 5 estrelles als candidats en funció de la idoneïtat –igual que es poden puntuar tots els productes–. El programa els permetia rastrejar milions de perfils a LinkedIn i altres xarxes, i trobar les similituds amb les vacants. Fantàstic, així podien arribar fins i tot a aquelles persones que no s’havien postulat per a una posició.
La gran sorpresa, però, és que a banda d’automatitzar la selecció, han aconseguit replicar i amplificar els biaixos de l’empresa. Un algoritme tremendament eficient discriminant en masculí. En posarem dos exemples. Considerava que haver lluït el braçalet de capitania en un club de bàsquet donava punts, tret que fos bàsquet femení. També trobava més adequats els conceptes 'executar' o 'liderar', molt més freqüents en currículums d’enginyers homes, que 'dur a terme' o 'ser responsable de'. I així és com en lloc de diversificar, el que estaven aconseguint era una plantilla molt similar a la que ja tenien: homes, joves i blancs.
Després de quatre anys de proves han decidit cancel·lar la iniciativa fins a nou avís. I no és que l’algoritme en si mateix estigués mal programat. El problema és més profund. La base de la intel·ligència artificial és la capacitat d’aprendre a partir dels exemples amb què l’alimentes. Si la plantilla són 70% homes i 30% dones, entendrà que aquesta proporció és l’adequada. Si en els departaments de desenvolupament tecnològic aquestes proporcions són de 80-20 i, en canvi, a recursos humans són de 60-40, tenim més tòpics en acció. Aquestes xifres són dades del 2017, vàlides per a Amazon, però són similars en els casos de Google, Apple, Facebook i Microsoft.
Homes que treballen amb homes i que sense voler desenvolupen algoritmes que valoren la masculinitat. L’origen del problema no és tecnològic sinó humà i té a veure amb la ignorància del biaix de l’afinitat. Un mecanisme ancestral que fa que ens generin més confiança aquelles persones que s’assemblen a nosaltres. Si aquest “nosaltres” és molt homogeni, ens aboca a una redundància que en algun cas pot ser positiva, però que, quan es busca diversitat, juga clarament en contra. I fixem-nos en la paradoxa: les empreses citades inverteixen en programes STEM (ciència, tecnologia, enginyeria i matemàtiques) en escoles i organitzacions que justament pretenen fomentar la diversitat en aquestes matèries. Nous currículums que difícilment superarien el sedàs automàtic.
Així doncs, si anem cap als fitxatges algorítmics, per què no els convertim en l’ocasió de programar d’acord amb la plantilla que somiem? Pot ser la manera més eficaç d’accelerar la conquesta de l’equitat. Encara hi ha molt camí per recórrer, però l’àmbit de la selecció de personal té molts ingredients per ser un bon exemple de com la tecnologia obliga a repensar el com i el perquè dels processos. I no només ens qüestiona els fonaments, sinó que ens permet explorar els equilibris de la col·laboració entre la precisió algorítmica i la sensibilitat humana.