L’any 2019 es va revelar un dels escàndols més importants sobre la intel·ligència artificial (IA). El govern dels Països Baixos havia estat fent servir un algoritme d’autoaprenentatge per crear perfils de risc que li permetessin identificar un potencial frau entre aquells que sol·licitaven ajuts públics a la criança. El disseny d’aquest algoritme va venir a reforçar un biaix racista per part de les institucions públiques neerlandeses, que van acusar de forma errònia moltes famílies –la majoria d’origen turc i marroquí– de cometre frau. Aquestes famílies van haver de tornar grans quantitats de diners a les autoritats, cosa que va fer que moltes s’haguessin d’endeutar i perdessin la casa i fins i tot la tutela dels fills i filles.
Sens dubte, són moltes les coses que ens preocupen de l’arribada de la IA a les nostres vides: Ens quedarem a l’atur? Què podem creure’ns del que veiem a les xarxes? Com podem evitar que els estudiants copiïn? Fa temps que convivim amb bots o sistemes de recomanació en plataformes digitals, però l’aparició del ChatGPT ha fet que ens qüestionem molt més com la IA està imbricada en el nostre dia a dia. I aquest debat s’ha traslladat també a l’ús que l’administració pública pot fer d’aquests recursos.
Són diverses les institucions públiques del nostre entorn que ja compten amb aquesta tecnologia per ajudar-les en diferents tasques. I des del projecte de m4social de la Taula d’entitats del Tercer Sector he pogut col·laborar en un informe que busca precisament identificar els beneficis i riscos de l’ús de la IA en les administracions públiques catalanes a través de sistemes com l’identificador de necessitats en intervenció social, el recomanador de prestacions socials, el motor de regles de prestacions socials o el servei d’automatització dels informes de pobresa energètica. Són sistemes de decisió automatitzada, que poden incloure o no l’ús d’IA. S’ha creat també un repositori d’exemples a Catalunya, que afecten especialment els col·lectius en situació de vulnerabilitat.
Si la tecnologia ens ajuda a prendre decisions sobre com assignar ajuts socials entre la ciutadania, ens hem de qüestionar la transparència, privacitat i seguretat d’aquest tipus de sistemes, garantint que fugin de biaixos i discriminacions. És a dir, que una persona quedi exclosa pel seu origen ètnic, edat o el gènere. Però no podem deixar que la por ens allunyi d’una transformació digital necessària a l’Administració –i especialment a l’accés de la ciutadania als serveis públics, tradicionalment lent al nostre país.
Compartir dades entre diferents administracions, automatitzar processos i comptar amb algoritmes que permetin identificar les necessitats de la ciutadania, tot proposant actuacions, no només millora l’eficiència en la gestió i redueix les càrregues i els temps dels treballadors públics, sinó que també permet a aquelles persones que es trobin en una situació d’emergència social poder tenir un ajut en pocs dies, en comptes d’esperar mesos. La IA implica riscos per a les administracions públiques, però renunciar-hi per por del seu funcionament és encara més perillós.
