Armes autònomes, morts i responsabilitats
Investigador del Centre Delàs d’Estudis per la PauLa setmana passada es va reunir a Ginebra el grup d’experts governamentals de l'ONU en armes autònomes (GGE). A la reunió hi van participar un total de 82 països. Els sistemes autònoms letals, caracteritzats per les sigles LAWS en anglès, podrien portar-nos la tercera revolució en les tecnologies de la guerra (després de la pólvora i la bomba atòmica), en paraules del professor de Berkeley Stuart Rusell. Alguns governs, entre els quals hi ha els dels Estats Units, Rússia, Israel, la Xina, Alemanya i França, ja han dit que veuen bé aquest tipus d’armes, i alguns ja hi estan invertint. Diuen que no poden quedar enrere respecte d'altres adversaris que també volen explotar els seus “beneficis operacionals”.
Cal dir que aquest concepte d’'armes autònomes' inclou sistemes amb graus molt diferents d’autonomia. Noel Sharky, investigador i president del Comitè Internacional per al Control de les Armes Robòtiques (ICRAC), les classifica en cinc nivells: les que ataquen objectius que han estat prèviament decidits per persones humanes; les que proposen una llista de possibles objectius perquè els responsables decideixin; les que seleccionen l’objectiu de manera autònoma però després requereixen un vistiplau; les que també el seleccionen autònomament i després passen a l’atac si algú no l’atura durant una franja limitada de temps, i les que seleccionen i ataquen sense intervenció humana. Sharky diu que les dues primeres són discutibles, mentre que les tres últimes són èticament inacceptables basant-se en el que, entre moltes altres raons, es coneix com a 'biaix d'automatització': els operadors humans tendeixen a acceptar com a correctes les solucions proposades pels ordinadors i habitualment no les contrasten.
Les armes autònomes són robots versàtils pensats per destruir i matar. Són autònomes, cert; però, com nosaltres, es poden equivocar, perquè es basen en sistemes d'intel·ligència artificial, habitualment xarxes neuronals profundes, que tenen una determinada probabilitat, no nul·la, d’error. Les màquines no s’adonen de quan s’equivoquen. En alguns casos, com el de la traducció automàtica, els errors dels sistemes basats en l’aprenentatge profund són tolerables i fàcilment esmenables. En canvi, els errors de les armes autònomes són vides de persones concretes.
La Declaració Universal dels Drets Humans comença proclamant que el fonament de la justícia i la pau al món és el reconeixement de la dignitat humana de totes les persones. Una dignitat que implica el deure de respectar el valor essencial i els drets fonamentals de tothom, independentment de la seva raça, sexe, idioma o religió. Les armes, i les autònomes en particular, atempten contra aquesta dignitat. Perquè les armes maten, sovint tallant vides que no tenen res a veure amb els conflictes; i les autònomes, a més, ho fan basant-se en càlculs heurístics de fiabilitat discutible. Quin és el fonament ètic que avala aquestes morts extrajudicials? No deixa de ser sorprenent que els països democràtics defensin el dret de tothom a tenir un judici just, que més de 140 països (d’un total dels 193 de l'ONU) hagin abolit la pena de mort, que els seus jutges no puguin condemnar ningú a la mort, i que hi hagi qui estigui dissenyant armes autònomes que podran acabar 'decidint' matar persones i que, quan s’equivoquin, segurament en mataran d’altres. Qui anirà a judici per cada mort produïda per aquests sistemes autònoms?
Un total de 116 experts en els àmbits de la intel·ligència artificial i la robòtica han signat una carta per demanar a les Nacions Unides que prohibeixi les armes autònomes letals. La llista de signants inclou Jody Williams, Elon Musk i Stephen Hawking.
La reunió del GGE de la setmana passada, però, va mostrar que els governs no opinen el mateix. Segons un informe de la campanya Stop Killer Robots, la llista creixent de països que reclamen la prohibició de les armes totalment autònomes és actualment de 26; inclou el Brasil, Xile i Mèxic, però no Espanya. L'únic país europeu a la llista és Àustria. D'altra banda, és molt significatiu que els cinc estats que van rebutjar explícitament avançar en les negociacions per definir un nou dret internacional sobre aquestes armes van ser els Estats Units, França, Israel, Rússia i el Regne Unit.
En aquests moments de bogeria militar, és bo saber el que ens deia l’ex secretari general de l'ONU Ban Ki-moon: “El món està sobrearmat, i en canvi la pau té massa pocs diners”.