"Tornar a la vida" de la mà de la IA

GinebraD’ençà que té consciència de la finitud de la seva existència, l’ésser humà ha buscat sense èxit poder gaudir d’una vida eterna. Gràcies als últims avenços en intel·ligència artificial, la immortalitat podria estar a l’abast, almenys de forma virtual. Nodrint-se de la informació digital que els difunts deixen enrere, cada cop és més comú veure persones que "reviuen" de la mà de la IA. Alguns exemples notables han aparegut en espots publicitaris en els quals han "ressuscitat" cantants, actors han reaparegut en pel·lícules de forma pòstuma o s’han recreat d’altres personatges populars rellevants.

Tanmateix, aquestes pràctiques comporten una sèrie de dilemes ètics i aspectes legals importants, i poden tenir una influència notòria en la salut mental dels familiars i en el procés de superació del dol. "Em preocupa que aquest tipus d'intel·ligència artificial no faciliti aquesta acceptació", comenta Natàlia Artigas, psicòloga i psicoterapeuta especialista en dol de l’Hospital Josep Trueta de Girona.

El progrés tècnic que porta a la desinformació

Durant els últims anys s’ha experimentat una eclosió de noves eines de la mà de la intel·ligència artificial. Una de les més notables són els anomenats models generatius, tipus ChatGPT. Aquests sistemes són capaços de generar contingut nou en forma de text, imatge, so o vídeo a partir d’una base de dades que prenen com a referència.

Els algoritmes d'IA que hi ha al darrere de les aplicacions utilitzen les dades que els usuaris han enregistrat digitalment. El volum de dades disponibles per entrenar els algoritmes determina en gran part la fidelitat de la reproducció. Aquests models són els mateixos que permeten generar els coneguts deep fakes, que són recreacions virtuals de personatges reals en imatge o vídeo, i que molt sovint es fan servir per crear confusió i propagar desinformació. Tot i que un ull entrenat encara és capaç de distingir imatges reals de falses, en moltes ocasions la distinció no és evident. En un futur pròxim, quan els algoritmes acumulin encara més dades i els models siguin més avançats, es preveu que sigui una tasca impossible per a l’ésser humà, amb els riscos que això comporta.

Quan les dades emprades per entrenar els algoritmes d'IA formen part del registre digital que ha deixat enrere un difunt, els mateixos models que permeten crear deep fakes es poden utilitzar per fer "reviure" persones de forma virtual.

Un impacte psicològic significatiu

Un dels problemes amb aquesta tecnologia és que recrear persones difuntes amb la intel·ligència artificial pot tenir conseqüències psicològiques significatives en els seus éssers estimats. Quan una persona propera mor, familiars i amics passen per un procés de dol, que “hem de transitar per integrar que la persona estimada ha mort i aprendre a viure amb la seva absència", explica Artigas.

Els símptomes associats al dol poden ser molt diversos i depenen de cada individu i de la seva relació amb el difunt. "Moltes vegades senten que no tenen energia o es troben molt làbils emocionalment i amb molta ràbia", assenyala Artigas.

La primera fase del dol acostuma a ser la més dura i és en la qual els símptomes són més aguts. "Pot haver-hi una manca de concentració, ansietat i dificultat per dormir", comenta aquesta psicòloga, que acompanya a molts pacients durant aquest procés en sessions de psicoteràpia. "El pacient ha d’entendre que el dol és un procés natural, no una malaltia i que, per molt intens que sigui, toca viure’l", afirma i afegeix que "el dol és com una gran ferida en què has d’invertir un temps a curar-la fins que cicatritza i deixa de fer mal".

La interferència d’eines com la intel·ligència artificial en aquest procés natural podria allargar-lo de forma innecessària i, fins i tot, cronificar-lo. "Em preocupa que la IA no faciliti aquesta acceptació, sinó que l’entorpeixi", considera Artigas.

No obstant això, la IA podria ser útil en algunes etapes del dol. "En teràpia de vegades treballem amb assumptes no resolts d’una forma simbòlica, perquè la persona ja no hi és", explica aquesta psicòloga, que apunta que "una eina com aquesta podria ajudar a treballar de forma simbòlica". Però per ser realment útils, hauria d’estar degudament recomanada i integrada a la pràctica clínica. "És molt important que l’ús d’aquestes eines estigui supervisat i acompanyat per professionals", comenta Artigas.

D’altra banda, les persones vulnerables i amb una sèrie de factors de risc podrien ser les més propenses a patir les conseqüències negatives d’aquesta tecnologia. "Persones amb trastorns mentals o que viuen soles podrien ser propenses a enganxar-se a aquest tipus de solucions. Fer-ne un mal ús i generar una dependència", adverteix.

És ètic fer "reviure" els morts?

L’avenç de la intel·ligència artificial pot fer-nos qüestionar l’impacte ètic que poden tenir aplicacions com la de "ressuscitar" els morts. "Vivim en un context en què sembla que tenim solucions tecnològiques per a tot, que podem controlar-ho i dominar-ho tot. En aquest sentit, la mort és una bufetada, una cura d'humilitat", comenta el filòsof Francesc Torralba, professor de la Universitat Ramon Llull i que l’any 2023 va publicar el llibre "L’ètica algorítmica", en el qual, entre altres temes, tracta sobre l’impacte social de la IA.

Torralba es mostra molt crític amb aquest tipus d’aplicacions de la tecnologia, "Donar continuïtat a una presència a través de la tecnologia és, en gran part, un succedani que en cap cas omple el buit que deixa aquella persona", declara.

El mateix Torralba, que també ha escrit en nombroses ocasions sobre el procés de dol, explica que hem d'"acceptar que aquella persona no hi és". "Hem de recordar-lo i hem d'agrair tot allò que ens va donar sent viu. Hem de fer memòria a partir dels objectes i a partir de les imatges i d’allò que podem conservar".

Una tecnologia que no té límits ens pot fer pensar en una tecnologia que podrà substituir els humans en qualsevol aspecte de la vida, i de la mort. No obstant això, per Torralba hi ha aspectes que són purament humans i que cap màquina podrà mai reemplaçar. "Som éssers que tenim molts tipus d’intel·ligència: emocional, social, espiritual, corporal... La nostra amplitud d'intel·ligències és molt diferent de la IA", diu Torralba, que afegeix: "La intel·ligència artificial té capacitats extraordinàries en algues àrees, però és molt miop en d'altres".

Qüestionar-nos què ha de fer la intel·ligència artificial és qüestionar-nos, també, sobre la natura dels éssers humans. "Hem de ser prou lúcids per veure en quins aspectes de la nostra vida la IA ens pot ser extraordinàriament valuosa i en quins l'activitat humana és irrenunciable", explica el filòsof. Quins són els espais que hem de reservar exclusivament per a les persones o què significa ser humà són preguntes que traspassen les fronteres de la filosofia i s’endinsen en el debat públic. "La irrupció de la IA està generant un debat molt interessant sobre el que és genuïnament humà i allò que ens fa singulars en el conjunt del cosmos", comenta Torralba.

Ressuscitar pot tenir conseqüències legals

Més enllà de l’impacte ètic i psicològic d’aquests sistemes d'IA, cal tenir en compte les possibles conseqüències legals que poden comportar l’ús pòstum de dades personals. "Aquesta resurrecció digital només és possible a través de tècniques de síntesi profunda que requereixen l'ús de diverses formes de dades personals, com la imatge i la veu", explica Albert Sabater, director de l’Observatori d'Ètica en Intel·ligència Artificial de Catalunya, que afegeix, "El consentiment i l’especificació del propòsit és essencial, sigui via testament o bé a través de la família del difunt".

Tot i que recentment s’ha aprovat la llei europea que regula els sistemes basats en dades i intel·ligència artificial, l’aplicació d’aquesta llei en casos concrets està encara per veure. "Hem de pensar com regular i governar aquestes tecnologies i posar-les al servei de les causes nobles de la humanitat, sobretot de les persones més vulnerables", comenta Torralba.

Un dels aspectes clau de la regulació té a veure amb la cadena de responsabilitats relacionades amb l’impacte negatiu d’aquesta tecnologia. "La responsabilitat és compartida, ja que hi haurà empreses sense escrúpols que voldran vendre el servei sense tenir en compte que els riscos superen els possibles avantatges i que posaran els seus interessos per damunt dels interessos del difunt i dels seus familiars", comenta Sabater.

Un progrés accelerat i un futur incert

El ràpid avenç de tecnologies com la intel·ligència artificial obre moltes qüestions sobre les implicacions socials que pot tenir. "La velocitat de la innovació tecnològica és acceleradíssima, en canvi, la reflexió ètica i la reflexió jurídica és molt més lenta", declara Torralba.

Ens enfrontem a un gran nombre de preguntes sense tenir encara una resposta clara. "Quin és l’impacte d’utilitzar aquesta recreació digital d’una forma privada envers una forma pública? Quins són els riscos de recollir i gestionar les dades que fan possible aquestes recreacions digitals, especialment quan les empreses deixin d’existir o bé siguin venudes o absorbides per altres que no tenien el consentiment del difunt? I què succeirà quan els difunts siguin menors d’edat o altres persones vulnerables?", qüestiona Sabater.

El progrés tècnic de la intel·ligència artificial sembla no tenir fronteres. Les conseqüències de la manca de límits poden ser nefastes si el que volem és assegurar-nos un futur en el qual les persones, i no la tecnologia, es troba al centre. En particular, la mort és un element essencial de la naturalesa humana. Ens defineix i condiciona el que fem a la vida. "No hem de buscar evasives ni solucions fàcils al procés de dol. La mort és una ruptura profunda en les relacions, i això costa d'assumir. Però totes aquestes construccions tecnològiques són contraproduents en el procés d'acceptació de la pèrdua", conclou Torralba.