Per un paper clau ètic i tecnològic en la IA
Que en qualsevol moment es pugui saber qui és, amb noms i cognoms, tothom que camina pel passeig de Gràcia o la Rambla de Barcelona pot semblar propi d'una novel·la de ciència-ficció distòpica digna de George Orwell o Manuel de Pedrolo, però no és tan lluny de la realitat. De fet, la possibilitat que això pugui passar és una de les discrepàncies clau en la regulació dels sistemes d'intel·ligència artificial que negocien aquests dies el Consell de la UE (format pels estats membres) i el Parlament Europeu. Permetre la identificació biomètrica remota en temps real a l'espai públic pot servir per prevenir el terrorisme –un problema que a Barcelona i en moltes altres ciutats europees coneixen bé–, però també és molt fàcil que sigui perillós. Per això l'Eurocambra pretenia classificar aquests sistemes d'"alt risc" i sotmetre'ls a un control estricte.
Els ciutadans han de tenir dret a mantenir la seva intimitat, és un dret fonamental. Hem de poder caminar pel carrer sense que se sàpiga en tot moment on som exactament. I, per tant, aquesta mena de sistemes només s'haurien de poder permetre sota una estricta regulació. I tot això sense tenir en compte altres sistemes que van encara més enllà, com els que pretenen identificar emocions o predir la possibilitat que algú delinqueixi, que poden caure fàcilment en biaixos que, directament, vulnerin els drets humans. No oblidem que els algorismes els alimentem amb dades generades per la societat i, per tant, carregades amb el nostre racisme, masclisme i classisme.
Per això la regulació europea sobre la intel·ligència artificial que s'està discutint aquests dies, per molt que pugui semblar que ens queda lluny, és més important del que sembla. I alhora ens convé que no sigui més estricta del compte. Hi ha molt poques empreses al món amb prou capacitat de càlcul per crear grans models de llenguatge com els que fan servir ChatGPT, d'OpenAI, i Bard o Gemini, de Google. I totes són als Estats Units o a la Xina, tal com recordava el catedràtic d'enginyeria informàtica de la Universitat Rovira i Virgili Josep Domingo-Ferrer a l'octubre, en un acte organitzat per aquest diari i l'Institut d'Estudis Catalans.
Per tant, ara mateix l'impuls europeu per regular la intel·ligència artificial generativa pot tenir conseqüències, especialment, per a tecnologies de fora de la Unió o bé que, sent europees, es fonamenta en models extraeuropeus. Però també pot coartar o impulsar, depenent de com es redacti, l'aparició d'aventures tecnològiques dins la UE en aquest camp. Europa no hauria de renunciar a tenir un paper clau en una de les tecnologies més disruptives de l'actualitat, que marcarà el nostre futur més proper. Al contrari, les institucions haurien d'empènyer per aconseguir un paper de lideratge tecnològic, però també ètic, en el desenvolupament d'aquestes tecnologies. Perquè la intel·ligència artificial, o ens la fem, o ens la faran. I llavors només ens quedarà reaccionar.