La guerra no la faran (encara) els Terminators: així canvia l'exèrcit amb la intel·ligència artificial

WashingtonEl 30 de desembre del 2022 Open AI va fer públic i gratuït el seu xatbot ChatGPT, un model de llenguatge generatiu que va permetre per primera vegada que qualsevol usuari sense idea de programació interactués amb la intel·ligència artificial (IA) en un llenguatge senzill. En tan sols un any, aquesta tecnologia s'ha democratitzat i ha evolucionat –de l'arquitectura GPT-3, a la GPT-3.5, fins a GPT-4–, i ara tothom pot tenir al seu abast, per vint euros al mes, una sèrie d'assistents digitals personalitzats (GPTs) capaços de buscar informació a internet, generar imatges o crear el codi per programar un videojoc.

És la primera democratització d'una tecnologia que fa dècades que existeix. Nascuda en el món acadèmic i científic als anys 50, les potències militars no van trigar a interessar-s'hi i finançar-la, i amb el pas del temps s'ha convertit en una pota central de la carrera armamentística. Els experts consultats per l'ARA coincideixen a comparar el seu potencial amb revolucions militars com la pólvora, el motor de combustió, l'aviació o la bomba nuclear. Però, al ritme que avança, es fa difícil predir la forma que acabarà prenent.

"Durant l'última dècada, la IA s'ha convertit en una capacitat crítica per a la defensa nacional dels Estats Units", assegura Lauren Kahn, investigadora del Council on Foreign Relations (CFR) i experta en innovació en defensa. "Des del 2010, hi ha hagut una nova onada de creixement, amb grans avenços en el processament del llenguatge i l'aprenentatge automàtic (deep learning). I ara, especialment des de la guerra d'Ucraïna, el Pentàgon n'ha accelerat el desenvolupament".

Els usos militars de la IA

Més enllà de les funcions comercials, les capacitats militars de la IA són immenses, tant dins com fora del camp de batalla. Drons autònoms, identificació d'objectius, prevenció de moviments enemics, desenvolupament d'estratègies, simulació de batalla i logística militar, són alguns exemples dels usos que ja li estan donant els principals exèrcits.

“Les municions, les plataformes i les forces armades són les parts més visibles de qualsevol cadena de mort. Menys visibles, però no per això menys importants, són les capacitats que les uneixen i fan que el tot sigui més que la suma de les parts. És precisament en aquestes capacitats que volem invertir”, va dir la subsecretària de Defensa nord-americana, Kathleen Hicks, en una roda de premsa al Pentàgon. Malgrat que la idea dels robots antropomòrfics i despietats que ens va vendre James Cameron a Terminator (1984) és impactant, de moment l'aportació de la IA als exèrcits no va per aquest camí.

Per exemple, l'empresa de software Palantir està col·laborant des del 2008 amb el Pentàgon en la recollida de dades i processament amb IA per oferir respostes "ràpides i pràctiques" als comandaments. El seu conseller delegat, Alex Karp, va presumir que l'empresa és "responsable de la majoria d'identificacions de tancs i artilleria de l'enemic a Ucraïna" i, a més, utilitza dades dels satèl·lits per determinar ràpidament els recursos a desplegar o per trobar la ruta logística més eficient.

Replicator: el pla del Pentàgon per disputar l'hegemonia xinesa

La IA ja és present, d'una manera o altra, en gairebé totes les guerres del món. L'exemple més clar és l'ús de drons, petits vehicles aeris semiautònoms que no estan, ni de lluny, exemptes de riscos: l'any 2019, durant la segona guerra civil de Líbia, una vintena de vehicles aeris no tripulats turcs van identificar els seus objectius i els van atacar per compte propi llançant-se sobre ells i explotant, segons va descriure un informe de Nacions Unides. Es va convertir en una de les primeres matances documentades dutes a terme per la IA.

Des de l'inici de la invasió russa, els EUA han enviat a Ucraïna centenars de màquines similars de fabricació pròpia, els Phoenix Ghost, i n'han accelerat el desenvolupament. Però ara el Pentàgon vol fer un pas més: la seva iniciativa Replicator aspira a produir milers de drons autònoms, moguts per IA, "en els pròxims 18-24 mesos".

L'objectiu, anunciat per Hicks a l'agost, és "superar el gran avantatge de la República Popular Xina", que fa anys que innova en aquest àmbit. Malgrat que els EUA fa temps que inverteixen en vehicles autònoms, per primera vegada ho faran "en massa" i buscant costos de producció menors "per produir i subministrar capacitats als combatents en el volum i la velocitat necessaris per dissuadir d'una hipotètica agressió", va assegurar la subsecretària de Defensa. Tanmateix, aquesta ambiciosa iniciativa no s'ha acabat de concretar ni té encara un pressupost assignat.

El Pentàgon augmenta any rere any la seva inversió en IA i, de cara a l'exercici fiscal 2024, hi ha dedicat el finançament més gran fins a la data. Preveu un total de 842.000 milions de dòlars per al departament de Defensa (un 5% més que el 2023), i la major part de l'augment se l'emporta Recerca i Desenvolupament, amb la seva partida més alta de la història en dòlars nominals, 210.000 milions.

No obstant això, “la IA continua sent un punt feble de l'exèrcit estatunidenc”, assegura Kahn, especialment si es compara amb la inversió –en proporció a la despesa total en defensa– d'altres potències militars, com la Xina o Rússia. Especialment Pequín, que fa anys que prioritza la inversió en IA, malgrat que el seu pressupost total en defensa (uns 224.000 milions de dòlars) és gairebé quatre vegades inferior al nord-americà.

Els robots dirigiran les guerres?

"A curt termini, cal esperar que segueixi augmentant la tendència actual de més ús de sistemes semiautònoms. A llarg termini, està clar que passarem a un model de sistemes totalment autònoms", pronostica a l'ARA l'investigador Kevin Desouza, expert en IA del centre Brookings. I adverteix que, “donada la seva naturalesa autònoma, aquests sistemes podrien prendre decisions contràries a la nostra concepció sobre les normes de la guerra o la pèrdua acceptable”.

Totes les distopies que narren un futur impregnat d'IA coincideixen a identificar el seu principal risc: que escapi del control de l'ésser humà. Aquest és, presumiblement, un dels punts que ha generat la recent disputa en el si d'OpenAI. De moment, les fonts consultades concorden que els principals perills en els conflictes tenen a veure amb l'ús d'algoritmes mal dissenyats, que podrien causar nombroses víctimes civils, així com accidents de foc amic.

A més, “la IA podria conduir a una escalada indesitjada”, afegeix Kahn. “Si un sistema de míssils amb un algoritme d'aprenentatge automàtic decideix pel seu compte disparar a un enemic, com convences l'adversari que ha estat un accident, si no pots assenyalar cap humà com a culpable?”. Donada aquesta circumstància, “no ens interessa posar la IA al comandament, per exemple, dels sistemes nuclears: hi ha decisions que només haurien de prendre els humans".

Per evitar aquest tipus d'amenaces, “hem de dotar-nos de convencions acceptades mundialment, com les existents per a l'armament nuclear, químic i biològic”, afegeix Desouza. Malgrat que és un tema que s'ha debatut en diverses ocasions a l'ONU, i entre els líders de les primeres potències mundials, Biden i Xi, en la pràctica no s'ha arribat a establir cap límit. "No pots intentar prohibir-ho", va assegurar divendres passat el president rus, Vladímir Putin, que va anunciar una nova estratègia de país en aquest àmbit: "Si prohibim aspectes de la IA, els desenvoluparà un altre país i aleshores ens quedarem enrere".