Cap a una regulació global de la IA

Experts, líders polítics, empreses i organitzacions socials de tot el món fan sentir veus d’alarma sobre l’impacte, present i futur, de la intel·ligència artificial. En alguns contextos s’ha generat una sensació fins i tot de pànic, i també d’impotència, a l’hora de posar en marxa iniciatives que intentin mitigar els riscos evidents a escala global. No ajuden a apaivagar la por existent les declaracions d’alguns dels màxims responsables dels sistemes d’IA generativa més populars (com la del ChatGPT). Recordem Sam Altman davant del Senat dels EUA admetent que la IA podria provocar “un mal enorme al món”. El problema més gros que tenim en aquests moments, però, és que aquestes veus d’alarma conviuen amb la inacció i la paràlisi de quasi totes les institucions democràtiques i amb la relativa manca de consciència i debat de la major part de la nostra societat, inclosos molts dels nostres polítics, sobre el que està realment en joc.

Alguns experts reclamen desesperadament una moratòria internacional en la recerca i el desenvolupament dels algoritmes d’IA generativa, una iniciativa que, no ens enganyem, no tindrà cap èxit en la mesura que depengui de la col·laboració voluntària dels principals actors públics (estats) i privats (grans empreses). Amb independència d’això, quasi tots els actors exigeixen una regulació efectiva que posi algun límit als perills que estem creant. Simultàniament, molts experts no deixen d’assenyalar l’enorme potencial de millora i transformació positiva que aquests algoritmes tenen sobre les nostres vides i sobre el funcionament dels nostres governs. No són pocs els que aplaudeixen, per exemple, la recent decisió de la ciutat de Boston de demanar als seus treballadors que integrin l’ús de ChatGPT en les seves decisions i tasques ordinàries, tot i que no podem saber del cert les conseqüències que això pot tenir per a l’activitat de l’administració. Soc dels que creuen que la IA tindrà un paper fonamental a l'hora d'enfortir i impulsar les nostres democràcies, però aquesta dimensió positiva, gens catastrofista, també requereix una regulació urgent.

Aquesta mateixa setmana el Parlament Europeu ha debatut, i aprovat, el text d’un reglament de la IA, el primer intent seriós de regulació transnacional en aquest àmbit. El reglament obre l’esperança d’introduir alguns límits a la indústria privada amb l’objectiu mitigar els riscos socioeconòmics, ètics, de vulneració de drets fonamentals i fins i tot de soscavament dels nostres sistemes democràtics i de l’estat de dret, dotant les institucions europees d’un cert poder de supervisió. Aquests dos darrers riscos, els perills per a la democràcia i els drets fonamentals, són potser els més importants de tots i, paradoxalment, també són dels que menys parlem.

Però el reglament neix amb dues limitacions inherents i difícils de superar. La primera és d’escala. El reglament només exercirà, amb excepcions, efectes jurídics en el territori de la Unió. És cert que d’algoritmes n’hi ha de molts tipus i que alguns operen a una escala molt local. Però quan parlem de la gran transformació produïda per la IA estem parlant d’un fenomen fonamentalment global. Només una regulació global pot ser realment efectiva. Els algoritmes que previsiblement produiran efectes més transformadors sobre la nostra societat no estan, de fet, radicats a Europa. La segona limitació és que el reglament adopta un enfocament de mitigació de riscos particularitzat per a cada algoritme. Com tantes altres regulacions europees, tracta la IA com si fos un producte industrial o comercial, i només aspira a introduir-hi alguns límits marginals. Però li manca una visió democràtica completa. L’amenaça fonamental de la IA sobre els sistemes democràtics deriva de l’agregació i generalització dels sistemes d’intel·ligència artificial, de la possible dependència epistemològica que poden acabar generant, i evidentment dels riscos de manipulació ideològica i política. I el reglament no està pensat per afrontar aquest repte. De fet, és una oportunitat perduda també per veure l’altra cara de la moneda, per potenciar l’ús de la IA en defensa dels nostres sistemes democràtics i de drets fonamentals.

Són molts els que reclamen l’adopció d’una regulació global de la IA: alguns proposen, amb poca fortuna, una implicació activa de les Nacions Unides i un tractat multilateral mundial. D'altres, la creació d’una agència mundial de la IA, prenent com a model l’Organisme Internacional de l’Energia Atòmica. Però el cert és que la majoria d’estats no ho veuen amb bons ulls. És per això que potser la iniciativa més interessant ara mateix és la que promouen experts com Tim Davis i Audrey Tang: establir una deliberació democràtica global, impulsada precisament per l’ús d’algoritmes d’IA, que permeti a la ciutadania de tot el món discutir de forma informada i articulada sobre quina hauria de ser la resposta institucional global als reptes que tenim i pressioni els seus governs perquè actuïn. Els camins són incerts. Però el pànic no ens servirà de res si no comencem a parlar seriosament d’aquest tema.