Tecnologies de vigilància i democràcia

Molts ciutadans desconfien de l’app Radar COVID del govern espanyol per monitoritzar l’evolució de la pandèmia i rastrejar contactes. Fan bé. No perquè l’app sigui perillosa, que segons els experts no ho és (tot i que hi ha alguna ombra, utilitza un protocol DP-T3, Decentralized Privacy-Preserving Proximity Tracing, que teòricament acabarà sent de codi obert, i no demana dades personals ni permisos de localització), sinó perquè l’actitud d’una ciutadania democràtica i crítica respecte a tota iniciativa tecnològica massiva, sigui instada pel govern o per empreses privades, hauria de ser d’entrada la de la preocupació i la malfiança. Hem d’estar permanentment atents i escrutar amb molt de rigor i de forma crítica els mecanismes que poden donar accés a tercers actors a qualsevol informació sobre nosaltres. Aquesta és una nova forma de dominació social, i ens hem d’acostumar a tractar-la com a tal, sense caure en teories conspiratives, tan temptadores per a molts en temps d’incerteses com els que vivim. I com que no tots tenim els coneixements suficients per jutjar nosaltres mateixos la seguretat d’aquestes eines, el millor que podem fer és escoltar les organitzacions de defensa dels drets fonamentals i llibertats digitals que tinguin prestigi i reconeixement en la matèria, com, en aquest tema particular i a Catalunya, la de Xnet. Com dic, però, tot sembla indicar que l’app del govern espanyol no és invasiva, i que és, en aquest sentit, suficientment confiable.

Molt diferent és el cas que hem conegut aquests darrers dies d’un projecte de recerca per a videovigilància massiva amb tecnologia d’intel·ligència artificial (IA), apadrinat i finançat pel ministeri de Ciència i Tecnologia i que té el suport del ministeri de l’Interior espanyol, i més particularment de la Prefectura d'Informació de la Guàrdia Civil. Es tracta d’un macroprojecte de recerca participat per grans empreses tecnològiques (com Retevisión del grup Cellnex o Indra, entre d’altres), tres universitats (la de Granada, la Carlos III i la Politècnica de Madrid, a través de l'IPTC) i un institut de recerca privat independent, l’Instituto Tecnológico de Castella i Lleó. Aquest projecte porta per nom el nom ridículament pretensiós d’AI MARS (Artificial Intelligence System for Monitoring, Alert and Response for Security events). L’objectiu declarat del projecte és la videovigilància dels espais públics o els espais de grans concentracions o trànsit de persones, com estadis, centres comercials, concerts, fronteres o aeroports. El sistema combina una IA de reconeixement facial amb una xarxa de videovigilància massiva, que alhora estarà connectada per 5G amb smart glasses de realitat augmentada que podran portar els agents de policia i que farà que si la cara d’un sospitós és identificada pel sistema els agents de carrer rebran en qüestió d’un segon l’alerta i la ubicació exacta d’aquesta persona. Per altra banda, el sistema és tan sofisticat, segons ens diuen, que ni les mascaretes anticovid, ni el maquillatge, ni els barrets ni les ulleres de sol impedeixen el reconeixement de la persona en qüestió. La recerca es va iniciar el 2018 i estarà a punt per a la seva implementació general l’any 2022, i no es descarta potencials usos comercials privats, per exemple per part de grans superfícies comercials.

La “justificació” que se li dona és la de sempre: la seguretat i “la prevenció d’atemptats terroristes i d’altres incidències (aglomeracions, disturbis, etc.)”. L’argument sempre és la por. És molt important que els ciutadans no caiguem en el parany. La tensió entre seguretat i llibertat és un fals dilema. Una seguretat mínima no és contrària a la llibertat. Més aviat n’és una precondició. Mentre que una “seguretat excessiva” implica la fi de la llibertat i, com en tot acte de dominació, la fi de la seguretat mateixa. Dins d’una cel·la de presó puc tenir garantida, en un sentit, la meva seguretat (tot i que sabem que malauradament ni tan sols això és cert), però no és aquesta, en tot cas, la seguretat que busquem, una seguretat que ens impedeixi de ser lliures.

Ara pensin un moment en el que implica aquest projecte de recerca i què passarà si el ministeri finalment es decideix a comprar-lo i implementar-lo. Imaginin un sistema massiu i distribuït de videovigilància per tot l’Estat (només si és generalitzable i centralitzat resulta realment efectiu). Hi haurà un moment que un agent de la Policia Nacional o de la Guàrdia Civil, si disposa dels permisos necessaris, podrà prémer un botó i tindrà en menys d’un segon accés a tot un historial sobre vostè. Sabrà immediatament per quins aeroports ha passat, per quines cruïlles i places dels centres de les ciutats ha caminat i de qui anava acompanyat, quins centres comercials ha visitat i què ha comprat, a quins grans esdeveniments ha acudit i, el que és més greu, en quines manifestacions i protestes ha participat. Es dirà que no passa res per tenir accés a aquesta informació mentre seguim tenint garantits la lliure circulació i el dret de protesta. Però aquí és on no ens hem d’equivocar. Jo, en exercici de la meva llibertat d’expressió, tinc un dret inalienable a escriure crítica política, si volgués, sota pseudònim. Només així es pot garantir en determinades circumstàncies que l’exercici del meu dret és realment lliure de tota coacció. I el mateix ha de passar amb el dret de manifestació i protesta. Ha de poder ser exercit de forma anònima.

El que els explico aquí pot sonar-li a algú a ciència-ficció (només hem de recordar els clàssics del gènere, com Total recall). Però ja és una realitat a la Xina, un estat autoritari que domina i exerceix un control social cada cop més absolut sobre la seva ciutadania, i on la llibertat i la democràcia no existeixen. Per això els protestants de Hong Kong utilitzaven màscares durant les protestes de l’any passat. Per això mateix el govern xinès va prohibir immediatament l’ús de màscares. Malauradament, la Xina no és l’únic estat que està desenvolupant programes així. I algunes democràcies estan prenent un camí equivocat. Els comitès d’ètica i IA que s’han creat a Europa i als països europeus són els primers que haurien d’alertar sobre aquests perills. Si no ho fan, haurem de ser els ciutadans, com sempre, els que ens mobilitzem defensivament. No podem badar. No ens podem permetre posar en perill els nostres valors més fonamentals: la llibertat i la democràcia.