Dubtes, mentides i intel·ligència artificial
Manipulacions. Donald Trump continua en llibertat, exhibint demagògia i incitacions a l’odi, com va demostrar dissabte a Waco, en el seu primer míting oficial per a la campanya del 2024 a la Casa Blanca. Mentre el gran jurat de Manhattan decideix si l’expresident ha d’entrar o no a la presó, les xarxes socials ja van viralitzar la setmana passada les suposades fotografies de la seva detenció. Un sistema d’intel·ligència artificial, capaç de generar imatges a partir de la descripció que s’introdueixi en el programa, va crear les instantànies d’un Donald Trump perseguit, immobilitzat per la policia i detingut en una cel·la. La construcció d’una falsa realitat, que pot ser desmentida amb una ràpida cerca a Google, va acabar, però, corrent com la pólvora entre el trumpisme més lleial que se sentia interpel·lat a la mobilització i els que, malgrat el dubte o la consciència de la fabricació, alertaven del risc de confusió i de la incomoditat que comportaven les imatges. Més llenya per al foc de l’escepticisme general que s’ha instal·lat en la contradicció de missatges que impera a les xarxes socials.
La falsificació d’imatges (dels primers deep fakes de manipulació audiovisual a la sofisticació que permetrà la intel·ligència artificial) suposa la mort del veure per creure. Ens obliga a dubtar de la nostra pròpia mirada. La confusió entre realitat i ficció és cada cop més present, més immediata i més eficaç, si del que es tracta és d’instal·lar-nos en el desconcert.
La falsa realitat juga també amb les nostres ganes de creure, ja sigui en la imatge del papa Francesc vestit amb una gran jaqueta encoixinada blanca com si fos una icona de la moda (el “vicari de Balenciaga”, deia una de les etiquetes que es van viralitzar divendres passat) o d’Emmanuel Macron suposadament corrent entre la policia i els manifestants que s’enfrontaven als carrers de París, fugint del gas lacrimogen. Una altra imatge falsa que va tenir més de tres milions de visualitzacions la setmana passada.
Dubtes. Vivim en un món on hi ha granges de clics; on enviem les nostres dades a un núvol que, de fet, està fet de cables ben tangibles, i on la intel·ligència artificial intenta fer-nos dubtar de les nostres capacitats cognitives. La falsificació d’imatges desafia els límits de la versemblança i, inevitablement, posa a prova també les nostres certeses. Per això aquesta transformació tecnològica accelerada ens descol·loca. Ens atrapa en el dubte que va des de l’amenaça de la manipulació algorítmica, que pot engrandir vulnerabilitats prèvies, fins a l’excitant oferta del tot és possible.
El ChatGPT ens pot canviar l’ofici i la perspectiva sobre el nostre propi món. Però la intel·ligència artificial és una eina, no és un substitutiu de tot.
Vulnerabilitats. Aquestes construccions falses que posen a prova les nostres creences o les nostres relacions no neixen del no res. La capacitat de la desinformació de penetrar en els debats públics, de confondre o erosionar, per exemple, la confiança en les institucions o en els processos electorals, beu moltes vegades de divisions socioculturals existents; apunta cap a fractures que ja hi eren i cap a certs grups suposadament inclinats a confiar en aquestes fonts o narratives, i així a contribuir voluntàriament o involuntàriament a difondre-les. Els abusos de poder, els sistemes polítics disfuncionals, les desigualtats i l'exclusió són terreny adobat per a la desinformació. Les nostres vulnerabilitats prèvies alimenten la capacitat disruptiva de la tecnologia.