Quan un algoritme assenyala la lluna

Twitter va reconèixer fa unes setmanes que els seus algoritmes afavoreixen la difusió dels continguts de dretes. Twitter va dir que no sap per què passa. Aquesta segona afirmació només es pot acceptar si Twitter és dels que creuen en l’angelical objectivitat dels algoritmes. És possible que encara no sàpiga per què passa això, però té prou experiència, coneixements i eines per plantejar diverses opcions. Com ara la que apunten alguns tecnòlegs: potser la dreta, en general, utilitza de forma més eficient la inèrcia inherent als algoritmes, que recomanen els missatges que circulen més i, per això, circulen encara més.

El que es pot afirmar d’entrada és que la causa no és que els algoritmes siguin de dretes. Els algoritmes no són ni de dretes ni d’esquerres, ni intel·ligents ni estúpids, ni sensibles ni amb cor de pedra. De fet, no tenen cor, perquè són un seguit d’instruccions pensades perquè ens puguem comunicar amb les màquines i elles ho puguin fer entre si.

Però els que sí que tenen cor i poden ser de dretes o d’esquerres, intel·ligents –més sovint– o no tant i més o menys sensibles són els que elaboren els algoritmes. I això ens ha de fer veure que els algoritmes no són aquella eina immaculada que a partir de piles de dades sap aconsellar la publicitat que ens interessarà més, l’article que ens convé llegir, la pel·lícula amb què gaudirem o fins i tot la parella amb qui serem feliços la resta de la nostra vida –fins que un altre algoritme aconselli que ens en separem.

Els algoritmes els fan persones i les persones tenen biaixos. Poden ser conscients –i sabem com alguns algoritmes s’han utilitzat amb objectius polítics clars– o inconscients. Tots tenim les nostres mancances i els nostres errors d’apreciació o de judici. Però no les coneixem totes. Per això, quan algú elabora un algoritme potser el fa més esbiaixat del que seria desitjable. I no perquè necessàriament tingui aquesta intenció –és probable que moltes vegades sí–, sinó perquè, per molt objectius que vulguem ser, sempre podem caure en els nostres apriorismes, estar condicionats per sentiments que no percebem o arrossegar tics dels quals mai no hem estat conscients.

Però, a més, els algoritmes s’alimenten de dades. I qui elabora l’algoritme el pot programar perquè busqui determinades dades o en determinats llocs. I encara que no tingui aquest condicionament, l’algoritme no podrà buscar més enllà de les dades que produeix la societat. Si als Estats Units els afroamericans són menys de la sisena part de la població general, però vora la meitat de la població reclusa, un algoritme que hagi de valorar si una persona té més probabilitats o menys de reincidir pot considerar que els afroamericans són més propensos a saltar-se la llei. No podrà pensar per si sol que potser hi ha factors socioeconòmics, culturals o d’altres tipus que hi influeixen. Un algoritme no pensa, tret que se li hagin introduït unes ordres que li permetin dubtar de les dades.

A més, fer deduccions a partir de les dades no és tan fàcil i objectiu com sembla. Un estudi assenyalava, fa anys, que els països on es consumeix més xocolata per càpita també tenen més Nobel en relació a la població. Però si passem de la correlació a la relació causa-efecte ens podem trobar amb dirigents que tinguin la perillosa idea de no invertir tant en educació i recerca i, en comptes d’això, repartir més xocolata entre els estudiants i els investigadors –i entre la població en general, perquè l’estudi es referia a tots els ciutadans.

Els algoritmes són un reflex de la societat i, per tant, si volem millorar els algoritmes cal millorar al mateix temps la societat. Però tornem al principi. Com és que Twitter prima els missatges de dretes? Fa anys Facebook va decidir oferir als membres de la xarxa aquells articles que encaixaven més en el seu pensament, perquè els complaurien més. És una estratègia que va contra la forma com han evolucionat les societats: cal llegir i escoltar opinions diferents, per replantejar-se les pròpies, per comprendre altres punts de vista o per ampliar la nostra visió. Però a algunes elits això no els deu interessar.

Per això, refiar-se tant dels algoritmes, al contrari del que solen dir moltes grans empreses i molts tecnòlegs, no et facilita la vida. L’empobreix. No és que Twitter tingui algoritmes de tendència prodretana. És que hi ha qui sap aprofitar els biaixos dels algoritmes i qui sap elaborar, directament, algoritmes esbiaixats. Per això, modernitzant el proverbi xinès i canviant-ne la conclusió, quan un algoritme assenyala la lluna, cal mirar primer l’algoritme, per saber de quin peu calça i qui el promou. Si no, potser en realitat ens ensenyaran Saturn o un cometa, aprofitant que la nostra capacitat crítica es troba, ella sí, a la lluna.