Els ‘deep fakes’ assalten la televisió

BarcelonaLa cantant Nicki Minaj i l’actor Tom Holland, que viuen junts, no estan gaire contents amb el fet que Mark Zuckerberg s’hagi instal·lat a la casa del costat. Tampoc Idris Elba exulta felicitat des que Kim Kardashian s’ha mudat a la urbanització i comença a fer-se notar en el jardí comunitari. I Harry Kane s’enfila per les parets perquè el raper Stormzy li ha rebentat una de les rajoles del seu pati. Tot plegat, les habituals picabaralles entre veïns –sempre susceptibles d’escalar– si no fos per dos detalls. El primer, que les protagonitzen supercelebritats. El segon, més important, és que elles no s’hi han prestat però el programa The neighbour wars, que s’estrena el 26 de gener a la britànica ITVX, ha aprofitat la tecnologia deep fake per fer-ne unes rèpliques inquietantment versemblants.

Després d’un parell d’anys en què apareixien esporàdicament treballs remarcables de deep fakes en vídeo, amb rèpliques generades per ordinador gairebé indistingibles de personatges com Barack Obama o Morgan Freeman, ara són ja les televisions i les plataformes les que estudien com incorporar aquesta forma de tecnologia en els seus productes. Un dels reptes passa per aconseguir un contingut que funcioni per ell mateix, més enllà de l’embadaliment que genera la proesa tècnica. L’altre, decidir entre qüestions ètiques sobre l’ús de la imatge de personatges públics o fins a quin punt informar a l’espectador. The neighbour wars, per exemple, no pretén enganyar ningú i, al final de cada episodi, les perfectes màscares digitals que ha vist l’espectador s’esvaneixen i es poden veure els actors que han estat interpretant les celebritats.

A Rússia hi ha un cas similar. La minisèrie PMJason, estrenada a la web aquesta tardor,explica les aventures de l’actor de films d’acció Jason Staham a Rússia l’any 2027. Representa que ha estat rodant cinc anys al país i ha decidit quedar-s’hi. Alguns dels seus amics el visiten i pateixen els clàssics xocs culturals. L’espectador hi veu Keanu Reeves, Margo Robbie, Robert Pattinson... Només que no són ells realment, sinó creacions digitals. Pel·lícules com les últimes entregues de Star Wars ja feien ús de la tecnologia per fer reviure o rejovenir personatges: el que és innovador és la facilitat que hi ha actualment per fer-ho amb pressupostos molt més modestos que els del cinema.

També Netflix prepara una incursió en el món dels deep fakes. La productora Cuarzo, responsable de La isla de las tentaciones, ha estat gravant en una illa sense especificar la primera temporada de Falso amor, un programa en l’estela del seu predecessor, en què diverses parelles posen a prova la seva relació sotmetent-se a un entorn on seductors professionals intenten que cometin una infidelitat. En aquesta ocasió, però, la tecnologia deep fake permetrà mostrar a les respectives parelles imatges de les presumptes relliscades i el concursant haurà de decidir si el que està veient és real o una creació d’ordinador. Fins ara, els programes es limitaven a muntar amb més o menys malícia i manipulació imatges reals.

Els avenços tecnològics desafien la dita del “veure per creure” i obren la porta a tota mena de distorsions que, en nom de l’entreteniment, poden trepitjar línies vermelles. La cultura pop comença a integrar aquests vídeos i la sèrie de la BBC The Capture, en la seva segona temporada, se centra molt en com un deep fake pot perjudicar la vida d’algú, o denigrar la seva reputació de manera permanent.

En altres casos, senzillament es juga a provocar l’astorament, aprofitant la novetat d’aquests algoritmes. És el que va passar al juny al programa America’s got talent, on l’estudi Metaphysic va oferir una exhibició de deep fakes que va culminar amb Elvis Presley saltant a l’escenari (amb una imitació vocal també sintètica, elaborada pels mateixos tècnics que han treballat per recuperar les veus de Luke Skywalker i Darth Vader a les sèries televisives de Star Wars).

Un altre gènere en voga, aquest ja més específic de les xarxes, consisteix en agafar moments televisius cèlebres i aplicar-hi la tecnologia deep fake. Un dels casos més cèlebres, i divertits, és l’entrevista que el genial imitador Bill Hader va protagonitzar al late show de Conan O’Brien, on va oferir una imitació vocal molt convincent d’Al Pacino i Arnold Schwarzenegger. El laboratori Ctrl+shift+face ha volgut anar un pas més enllà i ha modificat el vídeo, de manera que l’actor no només clava la veu (com ja feia en l’original), sinó que la seva cara es transforma de manera molt convincent en les dels dos intèrprets imitats.

El deep fake també amenaça amb sacsejar el món de la pornografia, i aquí les línies legals i morals són encara més delicades. Diverses companyies s’anuncien en webs de vídeos per a adults oferint el servei de reemplaçar qualsevol cara d’una escena existent per la que li proporcioni l’usuari. Tot i que substituir una cara per una altra no sigui tan fàcil com promet la publicitat, documentals com Deep fake porn: could you be next?, de la BBC, ja exploren aquesta forma de manipulació, que també pot causar greus problemes a les víctimes que apareixen en un d’aquests vídeos sense saber-ho, si comença a circular. I, mentrestant, algunes webs s’han especialitzat en oferir vídeos amb escenes pornogràfiques on les cares han estat substituïdes per celebritats sense el seu consentiment.