Així es decideix si un pres està preparat per treballar en una cuina

TarragonaA Catalunya la decisió final sobre si un pres encara és perillós la pren un equip professional. La Junta de Tractament, formada per juristes, psicòlegs, educadors i treballadors socials, entre d'altres, és qui té l'última paraula i qui decideix si un reclús pot començar a tenir més llibertat i, per exemple, treballar a la cuina d'un centre penitenciari. Des de l'any 2009, però, aquests professionals, abans de prendre una decisió tan complicada, fan servir el RisCanvi, una eina creada per un equip d'investigadors de la Universitat de Barcelona que funciona a partir d'algoritmes i que ajuda a preveure quin risc té cada intern de reincidir. L'assassinat dimecres passat d'una cuinera del centre penitenciari Mas d'Enric comès per un reclús que treballava amb ella ha obert el debat sobre com s'atorguen els permisos dels presos i ha posat en evidència que alguna cosa va fallar.

"Al final, hem d'entendre que el que estem intentant preveure és inherentment imprevisible", explica Carlos Castillo, professor del departament de tecnologies de la informació i la comunicació de la Universitat Pompeu Fabra i analista d'algoritmes en sectors on hi ha riscos de discriminació. Castillo ha escrit diferents articles sobre el RisCanvi i ha dirigit una tesi doctoral sobre aquest protocol en què ara se centren les mirades que busquen una explicació.

El RisCanvi té en compte fins a 43 factors de cada reclús, com per exemple el seu nivell d'hostilitat i la seva capacitat per fer plans raonables de futur. Totes aquestes dades, que s'actualitzen cada sis mesos, permeten que l'algoritme determini si hi ha un risc alt, mitjà o baix de reincidència. Els riscos que analitza són les probabilitats que un reclús s'autolesioni, que cometi un delicte violent, que cometi qualsevol delicte o, com va passar a Mas d'Enric, que pugui atacar un altre intern o un treballador del centre. "Veiem moltes pel·lícules de presons americanes, però no són així. Les presons catalanes poden tenir un efecte rehabilitador", assegura Castillo. Segons l'estudi que van fer de RisCanvi, "es tendeix a sobreestimar el risc de reincidència de les persones preses", però després d'usar aquest algoritme "les possibilitats de reincidència s'estimen a la baixa". La Junta de Tractament pot contradir el que digui l'algoritme, però ho ha de justificar.

El nivell d'eficàcia d'aquesta eina és alt (té una capacitat predictiva de 0,72 sobre 1, segons els seus creadors), però segons Castillo té alguns aspectes a millorar. La nova regulació europea d'intel·ligència artificial determina que en casos sensibles, com els que afecten l'administració de la justícia, "el sistema s'ha d'auditar de manera periòdica, per saber que funciona correctament". El RisCanvi s'ha anat calibrant en diferents ocasions però la primera auditoria externa no es va fer fins al novembre de l'any passat. Un altre problema que hi veu Castillo, és una precisió més baixa sobre els subgrups. "A Catalunya un 10% dels presos són dones i el RisCanvi és menys precís en la seva capacitat predictiva amb les dones", explica, segurament perquè la mostra amb què es va fer era masculina. "Les minories en surten perjudicades", diu Castillo. Als Estats Units, on s'utilitza un sistema similar, és amb la comunitat afroamericana on hi ha menys encert en la predicció.

"No endevina el futur, però ajuda a preveure'l"

Un dels pares de RisCanvi és Antoni Andrés Pueyo, catedràtic de la Universitat de Barcelona (UB) i responsable del grup d'investigadors que van desenvolupar l'algoritme per encàrrec del departament de Justícia. "Els professionals tenen molt ull clínic, perquè coneixen els reclusos, però aquest instrument els dona més seguretat", explica. I afirma: "No endevina el futur, però ajuda a preveure'l". El cas de Mas d'Enric és el que es coneix com un "fals negatiu", que és "quan confies que una persona es portarà bé i complirà la norma i acaba cometent un assassinat i a més se suïcida", explica. "El coneixien bé i ningú no s'esperava que passés això, però els pronòstics s'equivoquen". Sobre la nova normativa europea, Andrés Pueyo defensa que el RisCanvi no és intel·ligència artificial, sinó que funciona amb la informació que hi bolquen els professionals.