La UE pacta la primera llei d'intel·ligència artificial

Brussel·lesDesprés de mesos de negociacions i una última trobada que s'ha allargat més de 36 hores, el Consell (estats membres) i el Parlament Europeu han pactat aquest divendres la primera llei europea d'intel·ligència artificial, per permetre o prohibir aquesta tecnologia en funció del risc que suposi per a les persones.

La norma regularà els sistemes d'intel·ligència artificial com el conegut ChatGPT, però també altres àmbits com els límits de la identificació biomètrica, un dels últims punts del text legislatiu on s'havien encallat les converses per les diferents posicions entre els estats membres i els parlamentaris.

La presidenta de la Comissió Europea, Ursula von der Leyen, ha remarcat en una piulada a X (abans Twitter) que aquesta normativa és pionera a escala global. "Un marc legal únic per al desenvolupament de la intel·ligència artificial en el qual podem confiar", ha dit. La dirigent comunitària ha posat èmfasi en la importància d'aquest acord per la seguretat i els drets fonamentals dels ciutadans i les empreses.

El pacte arriba després de tres dies de negociacions intenses en què un dels punts crítics ha estat l'ús que es podrà fer de les càmeres d'identificació biomètrica per part dels cossos de seguretat per garantir la seguretat i prevenir delictes com el terrorisme. La norma prohibeix les càmeres de reconeixement facial en espais públics, però els estats membres han pressionat per permetre que es facin servir en casos concrets, sempre amb autorització judicial prèvia.

Així i tot, la majoria parlamentària tenia una posició més dura i volia prioritzar el dret a la intimitat dels ciutadans. Per això en un inici optava per restringir aquesta tecnologia a posteriori (no de forma preventiva) i per ordre judicial per tal de perseguir delictes greus, com pot ser terrorisme o, entre altres, abusos sexuals. Finalment, també es podrà fer servir quan hi hagi amenaces terroristes o es prevegi una situació de perill.

Amb aquest pacte, la presidència espanyola del Consell de la UE aconsegueix posar-se una medalla que perseguia, després de pressionar fins a l'últim moment les parts negociadores per arribar a un acord abans que s'acabi el seu mandat.

Els estats membres aposten per l'autoregulació

La nova llei també acabarà amb les tecnologies d'intel·ligència artificial que classifiquen currículums laborals per a procediments de contractació, que qualifiquen sobre la solvència de les persones que volen accedir a un préstec o estimen la fiabilitat de les proves presentades en un procediment judicial, que es basen en esquemes discriminatoris. Especialment, pel que fa a gènere, ètnia, orientació sexual o afinitats polítiques.

Pel que fa a la regulació dels sistemes generadors com ChatGPT, Alemanya, França i Itàlia, que a última hora semblava que podrien fer entrebancar el consens, van aconseguir fer prevaldre la seva posició. Les tres economies més grans de la Unió Europea, que en aquest cas sí que van de bracet, van demanar "més temps" per discutir la nova normativa per garantir que no obstaculitza la innovació i no afecta negativament la competitivitat de la indústria del bloc europeu, que pretén explotar aquesta tecnologia.

En canvi, el Parlament Europeu i una part important dels Vint-i-set optaven per regular i acotar per llei el desenvolupament dels anomenats sistemes fundacionals o sistemes generatius d'intel·ligència artificial, com ChatGPT, que creen contingut a través de l'observació d'altres dades. D'aquesta manera, pretenien assegurar-se que aquesta tecnologia no acaba suposant un perill.

Fins i tot l'Eurocambra tenia la intenció de classificar aquests sistemes directament "d'alt risc" i que, per tant, estiguessin lligats en curt legalment i sotmesos a un control molt estricte. Tanmateix, almenys Berlín, París i Roma volen que aquesta tecnologia s'autoreguli amb mecanismes propis de protecció, i que les autoritats només actuïn en cas de risc potencial.

Això sí, tant Alemanya com França i Itàlia estan disposades a acceptar el control d'un organisme extern i independent de les grans companyies del sector, que intervindrà en el supòsit que els sistemes fundacionals s'encaminin cap a un potencial perill. A més, aquestes empreses estarien en contacte constant amb la Comissió Europea, amb la qual treballarien conjuntament per identificar possibles perills i prendre mesures.

De fet, aquest mecanisme de control és similar al que ja han adoptat els Estats Units, que a finals d'octubre van aprovar la primera llei per regular la intel·ligència artificial. Qualsevol avenç d'un sistema fundacional que pugui suposar un "risc greu per a la seguretat nacional" s'haurà de notificar al govern estatunidenc.

Segons fonts de les negociacions, el punt de la normativa sobre el control dels sistemes generatius és un dels que s'han discutit de forma més "viva" i "activa" en les negociacions, sobretot arran de l'aparició de ChatGPT i del fet que els investigadors de l'empresa Open AI avisessin el consell de la companyia d'un poderós descobriment que, segons ells, amenaçava la humanitat.

Un altre dels punts destacats en què es va arribar a un consens és la transparència dels continguts creats a través de la intel·ligència artificial. S'haurà d'advertir quan un producte s'ha generat a través d'eines i tecnologies com ChatGPT, especialment per protegir els drets d'autor. "Volem crear un marc legal segur que potenciï la inversió en el sector i que les empreses que s'hi dediquen no hagin de fer front a una allau de demandes", diu una font de les negociacions.

En aquesta línia, les institucions europees es volen assegurar que la llei no quedi desfasada massa aviat, sobretot tenint en compte que es preveu que la intel·ligència artificial evolucioni molt de pressa. Per això, permet que la Comissió Europea pugui prohibir per decret els nous usos que vagin sortint d'aquesta tecnologia sense que ho hagi d'acordar amb el Parlament Europeu o amb els estats membres.