Qui hi ha darrere els algoritmes?

Frances Haugen no és la primera extreballadora que ha trencat l’opacitat corporativa per parlar de les pràctiques secretes de Facebook, però ens ha donat exemples concrets de com la companyia explota les nostres vulnerabilitats per enriquir-se. Saber que una de cada tres noies amb baixa autoestima se sent pitjor quan fa servir Instagram, ens ha fet tocar de peus a terra en un moment en què la salut mental dels grups més joves és una preocupació global. Aquestes revelacions també estan tenint molt ressò per la campanya mediàtica de Jeff Horowitz, el periodista darrere dels Facebook Files al Wall Street Journal. Aquesta vegada sembla que el debat sobre com regular les plataformes és inevitable, per molt que de moment ens semblin cavalls ingovernables i desbocats.

A aquestes altures de la pel·lícula, com a societat hem entès que els aparadors digitals estan fets a mida de les nostres pors i ansietats, de la nostra fragilitat econòmica o del moment vital que travessem. Aquella internet dels anys 90 en què buscàvem de manera proactiva a través dels cercadors ha quedat eclipsada per un seguit d’empreses de publicitat que han dissenyat infraestructures algorítmiques tan lucratives com deshumanitzants. Moltes mirades estan posades avui en la regulació d’aquests algoritmes, però la condició prèvia és admetre que aquestes plataformes són molt més que el canal per on circulen continguts de forma lliure i aleatòria. Com diu Peter Pomantsarev, l’obsessió lucrativa acaba en una personalització extremadament visceral.

Roddy Lindsay, dissenyador d’algoritmes a Facebook entre el 2007 i el 2013, fa un parell de setmanes afirmava al New York Times que cal que les xarxes socials assumeixin responsabilitats. Tan important és el que viralitzen com el que silencien. Assenyalar els algoritmes és oblidar que al darrere hi ha equips programant amb intencionalitats molt definides. Una cosa és protegir el dret a la llibertat d’expressió, una altra ben diferent és la impunitat de les plataformes com a amplificadores dels continguts. La direcció en què apuntin aquests algoritmes té efectes reals tant a escala individual com col·lectiva. Ho sabem per Cambridge Analytica, per exemple, o per la crisi del sector de la comunicació digital quan el 2018 Facebook va decidir prioritzar continguts de persones enfront dels d’organitzacions. Moltes empreses van patir davallades d’audiència de més del 70% en pocs dies.

En el cas europeu el debat es planteja en termes de transparència i rendició de comptes, alhora que existeix una estratègia contra la desinformació. Aquesta última, però, té per objecte controlar les possibles ingerències exteriors que puguin posar en risc la seguretat nacional. Res que s’acosti gaire a obligar Facebook (i Instagram) o d’altres com TikTok a fer-se plenament responsables de la moderació de continguts. La Comissió Europea ha llançat dues propostes legislatives en relació als serveis digitals: una de més orientada a garantir la competència i evitar els monopolis (la Digital Markets Act) i una altra que pretén regular les empreses que proveeixen serveis online (la Digital Services Act).

D’acord amb l’EDRI -organització que aglutina persones defensores dels drets digitals en l’àmbit europeu- hi ha tres aspectes fonamentals que aquest paquet legislatiu hauria d’abordar: la protecció per defecte, la transparència algorítmica i els models de negoci més enllà de l’economia de l’atenció. Això vol dir, per exemple, que en lloc de classificar-nos en funció dels continguts que ens interessen i el que això revela de nosaltres, només utilitzin la informació que declarem proactivament i conscientment quan ens obrim un compte. En segon lloc, ha quedat demostrat que el comitè de supervisió de Facebook no és un instrument prou vinculant, així que la rendició de comptes d’aquestes plataformes ha de ser més exigent i efectiva. L’associació polonesa Panoptykon, membre d’EDRI, proposa uns sistemes d’auditories externes i entitats reguladores amb capacitat d’imposar mesures concretes. I en tercer lloc, i al meu parer mesura fonamental, prohibir que es lucrin a base d’explotar les nostres misèries i fomentar la innovació cap a models de negoci més ètics. La situació és reversible: tant de bo capgirem els algoritmes de la polarització i la morbositat per automatitzar l’empatia i la comprensió. Necessitem ecosistemes digitals ètics i que garanteixin els drets humans. I si algun territori pot marcar el camí del propòsit a les grans tecnològiques, hauria de ser la Unió Europea amb la seva agenda de sobirania digital.