El 'deepfake porn' i els menors
Aquesta setmana, a Almendralejo, més d’una desena de menors (alguns d’ells inimputables perquè no tenen 14 anys) eren identificats com a autors i distribuïdors d'imatges falses creades artificialment i altament sexualitzades de com a mínim 21 companyes, també menors d’edat.
Aquests continguts, anomenats deepfake porn, són producte de la creació sense consentiment, a través de la intel·ligència artificial, d’imatges fictícies íntimes i sexuals a partir d’imatges de persones reals.
Un exemple que ha tingut ressò mediàtic últimament són les imatges de Rosalia despullada que va publicar un cantant per promocionar-se, però majoritàriament aquesta problemàtica afecta persones anònimes. I en més d’un 90% dels casos, les dones són les víctimes del deepfake porn. De fet, les aplicacions creades a tal efecte ofereixen majoritàriament cossos de dones per poder crear les imatges falses.
No és casualitat. Un dels grans riscos de la IA és que serveixi com a eina per seguir reproduint les violències que existeixen dissortadament en la nostra realitat quotidiana. No oblidem que el masclisme és metamòrfic i s’adapta a nous contextos, també a la realitat virtual. Així, l’existència d’aquestes aplicacions és una amenaça clara per a les dones.
El pitjor és que aquests continguts, cada cop més barats i accessibles també per a la mainada –ho hem vist aquests dies–, no es creen de manera innòcua. Al darrere sol haver-hi alguna intencionalitat: ja sigui el xantatge econòmic, la venjança o satisfer desitjos sexuals. Altre cop, una forma d’exercir poder sobre les dones. És el que ha passat en el cas d’Almendralejo, encara que alguns busquin justificar els fets amb l’eximent que són jocs de mainada. Amb la creació i difusió d’aquests continguts, els autors, encara que siguin menors, reforcen vincles d’una masculinitat patriarcal que gaudeix cosificant les seves companyes i agredint-les en el món virtual.
Es tracta de menors aprenent de ben petits a accedir i decidir sobre els cossos de les seves amigues, sense importar el seu consentiment. Un joc de poder compartit en què aprenen el seu lloc en el món i el de les nenes, en què es creuen unes línies vermelles amb una sensació d’impunitat absoluta, amb una idea recurrent i compartida que esdevé la seva gran excusa: com que no les toquem, el que fem no és greu. I a l’altre costat, unes noies que sovint carreguen amb un important impacte psicològic, per haver-se vist exposades al món totalment nues. Perquè, tot i que no és el seu cos, el món les representa i les construeix així. Se'ls crea una sensació d’inseguretat, de vergonya, de falta de control sobre la seva imatge, sobre el seu cos i sobre elles mateixes. Exposades al món virtual sense consentir-ho, se senten indefenses perquè no hi ha cap control sobre aquells continguts, que podran ser visionats per milers de persones i fins i tot acabar formant part de continguts pornogràfics. És una agressió en tota regla cap a elles, cap a la seva intimitat i cap al seu dret a decidir. Una clara violència que pot deixar moltes cicatrius.
