Condemnats o absolts per la IA?

BarcelonaLa intel·ligència artificial (IA) ja ens acompanya en gestos quotidians com aconseguir indicacions per arribar a lloc o manipular el mòbil amb un assistent de veu. El ChatGPT no és l’única eina que els estudiants de secundària fan servir com a suport per estudiar, i la IA ja s’ha colat pràcticament en tots els sectors, també en la creació artística. I en la justícia, quin paper hi pot jugar? La IA podrà redactar sentències que absolguin o condemnin acusats? Consultades per l’ARA, tres veus expertes es debaten entre l’empenta per agilitzar processos mecànics en un sistema crònicament col·lapsat i el risc de deixar les decisions judicials en mans d’una IA.

Per a la doctora en Informàtica Núria Castell, la tecnologia que ja està desenvolupada pot ajudar la justícia a alleugerir algunes tasques, com els processos de gestió documental. Per exemple, per seleccionar jurisprudència que tingui a veure amb un cas concret, però també per generar documents o formularis necessaris durant el procediment i fins i tot per preparar un primer esborrany de les preguntes per a un interrogatori. Castell també creu que per als jutges podrien ser útils els sistemes de reconeixement gestual per ajudar a detectar, per exemple, si un testimoni o un acusat menteix.

Amb tot, el professor de dret processal de la Universitat Púbica de Navarra Manuel Richard comparteix que aquesta tecnologia pot ajudar en tasques repetitives, però descarta que pugui servir per contrastar la credibilitat d’un testimoni en causes on s’entrellacen qüestions morals i jurídiques i cal "valorar els fets, l’emotivitat, la sentimentalitat". "De vegades, fins i tot hem d’anar contra natura i creure un testimoni perquè creiem que diu la veritat, i no creure’n 20 perquè creiem que menteixen. Té a veure amb l’apreciació, amb la valoració humana", afegeix.

Una "proposta" per resoldre

El desembre del 2023 es va aprovar un reial decret de transformació del servei públic de justícia a Espanya que, entre altres aspectes, aborda l’ús la IA en actuacions judicials i defineix la seva intervenció distingint les actuacions automatitzades (per exemple, paginar expedients), les proactives (com enviar notificacions) i les assistides. Aquestes últimes són les més controvertides fins ara, i de moment no s’han aplicat en cap jutjat: en aquest cas, la IA pot presentar un esborrany d’una resolució o una sentència, que el jutge sempre haurà de validar després.

Aquestes resolucions sempre es podrien revisar després amb un recurs, però Richard veu el perill que, davant d’un cas complicat, o en un jutjat saturat de feina, els magistrats puguin preferir "fer cas a la màquina i donar-li la culpa si hi ha un error" abans que fer la resolució des de zero. En canvi, Castell recorda que l’esborrany que emeti la IA "sempre s’hauria d’entendre com una proposta", perquè "la percepció que pugui tenir el jutge després de veure-ho en directe i tenir tota la informació sobre la taula" ha de passar per davant.

A la jutgessa Isabel Giménez aquest extrem li sembla "ciència-ficció, tenint en compte els dèficits de la justícia" pel que fa a recursos. Veu amb bons ulls aprofitar la tecnologia per automatitzar feines mecàniques que podrien alleugerir la càrrega de feina als jutjats, fins i tot per a resolucions on no hi ha més marge que aplicar la norma que correspongui. En aquest sentit, recorda l’etapa quan tenia sobre la taula "centenars" de procediments per retards en aerolínies. "Només havia de triar el model i posar els noms. Això sí que ho podria haver fet una màquina", valora.

El que no pot fer una IA

En canvi, Giménez considera "perillós" deixar que la IA decideixi una resolució judicial on calgui més interpretació i valorar proves. "La prova l’estaria valorant la IA, i jo desconec l’algoritme", diu a l'exposar que desconfia de les resolucions que pugui proposar aquesta tecnologia sense saber amb quines dades o possibles biaixos està dissenyada. "Em preocupa molt, cada resolució és un món. Jo també puc tenir prejudicis amb alguna cosa, però quan tinc un prejudici també tinc molta cura de no caure-hi", afegeix Giménez. A Richard li preocupa, de manera similar, que "la IA és un negoci aliè a la ciència": "Tots els tests i proves són secret empresarial i no són accessibles". La doctora en informàtica Núria Castell creu, davant d’aquestes desconfiances, que "l’explicabilitat de la IA és el gran repte" que afronta ara aquesta tecnologia. És a dir, que el mateix sistema pugui explicar de manera comprensible per a l’usuari com ha arribat a la conclusió que proposa i amb quines dades.

Tot i això, Castell aprecia una limitació a aquestes eventuals sentències redactades per la IA. Aquesta tecnologia funciona a còpia d'aprendre el que ja ha passat. Per tant, "difícilment" podria proposar una sentència pionera o que aposti per una forma diferent de resoldre el cas, com la que va dictar Giménez per prevenir un cas de violència vicària.

Aquesta setmana, Richard, Giménez i Castell han coincidit en una taula de debat sobre l’ús de la IA en valoració de proves judicials al Col·legi de l’Advocacia de Barcelona (Icab). El procurador Jaume Aso, que va presentar el debat, n’extreu com a conclusió que "cal robotitzar la IA i humanitzar l’administració de justícia". Al final de la trobada, Giménez va compartir la carta que va escriure per explicar la seva resolució a la nena que va allunyar del seu pare, que havia maltractat la mare, i al recordar-ho resol: "Això no ho fa una IA".