Brando Benifei: "Els riscos de la IA són imminents i reals, no són coses de pel·lícules futuristes"

Brussel·lesEl jove eurodiputat italià Brando Benifei (Partit Socialdemòcrata) és ponent de la llei sobre intel·ligència artificial (IA) que està tramitant la Unió Europea. Al Parlament Europeu s'ha erigit en un dels màxims defensors de la necessitat de lligar curt aquesta nova tecnologia i ara, després que l'Eurocambra presentés la seva proposta de normativa, és un dels encarregats de negociar el text legislatiu final amb els estats membres i la Comissió Europea.

La Unió Europea està tramitant la primera llei a tot el món que vol regular la intel·ligència artificial. Per què urgeix tant?

— Hi ha riscos que ja tenim identificats i analitzats que són imminents i completament reals, no són coses del futur o de pel·lícules futuristes. Hem de ser capaços d’aprofitar el progrés que ens pugui donar la intel·ligència artificial, però sempre garantint la seguretat i el benestar dels nostres ciutadans. Hem de mitigar tots els perills que pugui tenir aquesta tecnologia i, per fer-ho, estem fins i tot disposats a prohibir-ne alguns usos. La gent ha d’estar tranquil·la, ha de tenir clar que la nostra prioritat és que no es vulnerin els nostres drets fonamentals.

Quins són els principals riscos de la IA?

La discriminació, per exemple. Hi ha sistemes informàtics que discriminen per sexe o raça, posem per cas, en el filtratge de currículums d’un procés de selecció de personal per ocupar càrrecs de responsabilitat. No pot ser que hi hagi treballadors que en siguin exclosos per prejudicis infundats relacionats amb el fet de ser dona o no ser blanc. També s’ha de restringir l’ús de la IA dels menors d’edat. S’ha de controlar a quins continguts tenen accés o quins consells i informacions reben, perquè són molt més vulnerables.

El Parlament Europeu vol prohibir que es pugui fer servir la IA per controlar emocionalment els estudiants i els treballadors. A què es refereix?

— Potser encara és massa aviat per veure exactament com les empreses i els governs poden acabar utilitzant el reconeixement emocional dels estudiants i treballadors amb la IA, però volem assegurar-nos que això no passa i que es relacioni, per exemple, amb el seu comportament o rendiment. En cap cas volem permetre que es pugui controlar socialment la gent d’aquesta manera, suposa un risc molt alt per a la nostra privacitat i la nostra salut mental.

¿Aquest és el mateix motiu pel qual l’Eurocambra vol vetar l'ús de sistemes d'identificació biomètrica en temps real en espais públics?

— Exacte, no volem que la IA s’utilitzi per augmentar el control social. No hi veiem la utilitat, tampoc en matèria de seguretat en general, tal com insisteixen alguns estats membres. Només permetem l’ús de càmeres de reconeixement facial en temps real o amb vídeos gravats de manera excepcional, en els casos d’investigació que comptin amb autorització judicial i estiguin perseguint delictes molt greus.

A la proposta legislativa de la Comissió Europea sí que s’hi permetia l’ús de sistemes d’identificació biomètrica, i una bona part dels estats membres també hi estan a favor. Com els faran canviar d’opinió?

— Els convencerem explicant que la llei que hem proposat ja és suficient per a la seguretat. Aquests límits també ens fan menys vulnerables a l’espionatge exterior i estem determinats a protegir els nostres ciutadans contra el control social. La nostra proposta és equilibrada.

¿Creu que la gent ha de patir per si la IA li prendrà la feina?

— No tinc clar que sigui un perill real. Segurament es perdran feines o desapareixeran alguns oficis, però també se’n crearan de nous, com en tots els canvis tecnològics. Això ho hem vist a moltes fàbriques, les feines que abans feien els treballadors ara les fan els robots i, ara, els treballadors generalment només s’han d’ocupar de fer anar les màquines. Ara bé, aquesta transició s’ha de fer bé i de manera progressiva. Hem d’invertir en formació per a aquests nous oficis i, a la vegada, hem de donar alternatives econòmiques i suport social a la gent que pugui perdre la feina.

També hi ha certa preocupació en sectors com el dels artistes i en els mitjans de comunicació per ChatGPT.

— El Parlament Europeu s'ha compromès a protegir els drets d’autor de pintors, escriptors, periodistes, etc. Tot el que estigui creat amb IA, sigui ChatGPT o l’eina de creació de contingut que sigui, haurà d’avisar que està generat amb aquesta tecnologia. A més, tots els productes que s’hagin fet amb IA hauran de detallar de manera molt transparent i clara de quines fonts d’informació i de quins continguts creats per humans s'alimenta.

¿Tem que la UE s’hagi avançat massa i no es pugui adaptar als nous usos de la IA que estiguin per venir?

La IA és una tecnologia nova i desconeixem quines aplicacions acabarà tenint. Això és així i en som completament conscients. Per aquest motiu, volem tirar endavant un text legislatiu prou ampli que no requereixi gaire tràmits burocràtics per ser actualitzat de manera ràpida i eficaç sempre que sigui necessari.