L'Eurocambra vol evitar una IA racista i antidemocràtica: “Estem escrivint la història d’una nova era”

EstrasburgEls diferents membres de la Comissió Europea i tots els representants dels grups parlamentaris de l'Eurocambra que han intervingut en el ple d'aquest dimarts han coincidit —i repetit— que la legislació sobre la intel·ligència artificial (IA) que està tramitant la Unió Europea és "històrica". S'han congratulat d'avançar-se a la resta de grans potències mundials i de ser la primera administració del món que està tramitant una regulació que vol ser pionera i referent per controlar aquesta nova tecnologia, que presenta tants riscos com oportunitats. "Hem de lligar curt la intel·ligència artificial perquè s'utilitzi de manera positiva. Volem aprofitar-nos del progrés de la tecnologia i posar-la al servei humà", ha defensat la vicepresidenta de la Comissió Europea, Margrethe Vestager.

De fet, Brussel·les ja va presentar una proposta legislativa abans que, tal com ha dit el portaveu de la iniciativa, Brando Benifei, "saltessin les alarmes" i es parlés fins i tot de la "possibilitat de l'extinció humana" arran de l'esclat de la intel·ligència artificial generativa. Aquesta tecnologia, més enllà de recollir tota la informació i totes les dades de les quals disposa, també crea nou contingut, com textos, quadres o imatges. "Europa s'ha avançat, però els riscos ja existeixen i la IA s'ha de controlar. El món sencer ens mira", ha assegurat Benifei. Amb el mateix to grandiloqüent, l'altre portaveu, Tudorache Dragos, ha afirmat que "la Unió Europea està escrivint la història d'una nova era" i "vol posar la humanitat al centre" del desenvolupament de la IA.

El tema més polèmic: l'ús biomètric (racista) de la IA

Malgrat l'enorme consens de l'Eurocambra, en l'única qüestió en què els grups parlamentaris discrepen és fins a quin punt s'ha de limitar l'ús de la intel·ligència artificial en els sistemes d'identificació biomètrica en temps real en espais públics. El Partit Popular Europeu (PPE), tal com ja plantejava la Comissió Europea, vol que aquesta tecnologia es pugui fer servir per prevenir possibles atacs terroristes o, per exemple, per a la recerca de persones desaparegudes, inclús nens. Ara bé, els socialdemòcrates i la majoria de grups, però, s'hi oposen frontalment i fonts comunitàries conservadores admeten que no preveuen que la seva posició acabi prevalent.

"S'ha demostrat que no funciona i acaba tenint un funcionament discriminatori", ha defensat el socialdemòcrata Petar Vitanov. En aquest sentit, l'eurodiputat progressista considera que aquest mecanisme podria anar en detriment dels drets de les persones racialitzades i podria facilitar que empreses i administracions "burlin" la llei per acabar utilitzant-la per a altres finalitats. En tot cas, sí que hi ha acord sobre que es permeti que els cossos de seguretat dels estats membres puguin fer servir els sistemes d'identificació biomètrica amb autorització judicial i per investigar delictes molt greus.

A més, la majoria dels eurodiputats volen prohibir els sistemes que categoritzin per gènere, raça, ètnia, nacionalitat, estatus, creences religioses o orientacions polítiques; els sistemes predictius policials basats en l'historial delictiu, el perfil de l'acusat i la ubicació; i els reconeixedors d'emocions, principalment en ambients laborals i en centres educatius.

Protecció dels drets d'autor

Un altre dels punts destacats que els eurodiputats han esmenat del text que va proposar la Comissió Europea és el de potenciar la transparència dels continguts creats a través de la intel·ligència artificial. D'aquesta manera, s'haurà d'advertir que els productes que han estat generats a través d'eines com ChatGPT són resultat d'aquesta tecnologia. En la mateixa línia, l'Eurocambra també vol que les empreses del sector dissenyin models d'intel·ligència artificial que s'assegurin de no generar continguts il·legals, i que publiquin el resum de les fonts que han utilitzat i quins són els seus drets d'autor.

En el debat d'aquest dimarts a la seu del Parlament Europeu d'Estrasburg s'ha constatat el gran consens que hi ha sobre la conveniència de regular la IA i es preveu que la normativa —sense les esmenes del PPE— s'aprovi a la votació d'aquest dimecres per majoria aclaparadora. Tot i això, el text legislatiu que en surti no serà el definitiu perquè l'Eurocambra encara l'haurà de negociar amb els estats membres i ratificar de forma oficial.