Un documentario sugli effetti della pornografia deepfake è in lavorazione, e la regista dice di sperare che faccia luce sull'immenso trauma che provoca.
La storia di ciò che è accaduto alla scrittrice Helen Mort dopo aver appreso che le foto del suo volto erano apparse su immagini deepfake in un sito web porno è raccontata nel film di Rosie Morris My Blonde GF.
Un'immagine in cui il volto di una persona è stato aggiunto digitalmente al corpo di un'altra viene definita deepfake.
Helen ritiene che le immagini che la ritraggono possano essere state prese da un precedente account Facebook e/o da fotografie professionali pubblicamente disponibili di lei.
Nel filmato, la si può vedere mentre sfoglia le foto di se stessa a 19 anni, mentre sorride alle riunioni di famiglia e ai matrimoni, e quando era incinta.
Queste sono le immagini che sono state successivamente modificate digitalmente su immagini di donne che partecipano a scene violente e suggestive.
Parlando direttamente alla telecamera, dichiara: "Avevo bisogno di vedere le immagini da sola". Il pubblico ha la sensazione di partecipare a una conversazione imbarazzante.
La donna è seduta sul bordo del letto, ha il mio viso ma non la mia bocca e sta compiendo un atto sessuale. La pelle della donna è molto più abbronzata della mia e ha il mio stesso tatuaggio.
La donna sta studiando un messaggio di testo. un invito a degradare il soggetto della fotografia, che sono io. "Nel testo Helen viene chiamata "My Blonde GF", che diventa il sottotitolo del documentario.
Morris era interessato a saperne di più sulle reazioni di Helen alle immagini, che includevano incubi orribili e grafici e paranoia.
Helen afferma di avere spesso l'impressione che "la gente per strada sapesse delle immagini e conoscesse questo orribile segreto su di me, che improvvisamente si sentiva come il mio orribile segreto"."
Anche se non è la prima volta che ne parla, ed esistono altri documentari sul deepfake porn, in che modo il film di Morris è unico?
"Il mio film non presta attenzione all'autore del reato, non mi interessa lo spazio mentale della persona", afferma il regista. Il mio obiettivo principale era quello di farvi accompagnare da Helen mentre raccontava la sua storia"
"Siete con lei in ogni fase; quando l'ho incontrata per la prima volta, stava ancora riflettendo e cercando di risolvere la situazione. Quando ho incontrato Helen per la prima volta, sono rimasto sbalordito nell'apprendere che si può violare l'integrità sessuale di una persona senza toccarla davvero".
"Questa è la cosa che mi ha ispirato e credo sia la cosa che mi ha sorpreso di più". ".
Subire un deepfake porn può essere estremamente traumatico. L'impatto può essere devastante e sconvolgere la vita, secondo la professoressa Clare McGlynn dell'Università di Durham, specialista in abusi sessuali basati sulle immagini.
"Molte vittime parlano di una sorta di "rottura sociale", in cui le loro vite sono divise in "prima" e "dopo" l'abuso, con l'abuso che influisce su ogni aspetto della loro vita: professionale, personale, economico, di salute e di benessere". "
Ho avuto la sensazione che quelle fossero immagini reali, ed è difficile spiegare a chi non l'ha visto con le proprie foto, cosa sia in realtà - non mi hanno fatto nulla, dice Helen nel film.
Ma hanno impiantato tutte queste informazioni e queste immagini nella mia testa, e non sono in grado di cancellarne nessuna. Anche le immagini perfettamente inalterate non mi appaiono allo stesso modo.
"Ora che guardo quella foto [di lei che indossa un vestito], se la vedessi da sola, penserei che è la foto di un'aggressione". "
Morris continua: "Le immagini tormentano Helen".
Il fatto che non credo si possa distinguere facilmente un'immagine da un ricordo, a differenza di quanto accade con le fotografie, è ciò che trovo più inquietante. Non sai se ricordi il momento o l'immagine quando ti guardi indietro, sai.
Quindi, quello che è successo a Helen è che queste immagini, che sono collegate ai ricordi, sono state appropriate e hanno quasi impiantato questi falsi cosiddetti falsi ricordi nella sua mente. E non c'è modo di quantificare il trauma.
A causa del legame emotivo con l'immagine originale, si sente come un'aggressione psicologica. "Secondo la professoressa Erika Rackley della Kent Law School e alcuni suoi colleghi, alcuni anni fa hanno condotto interviste con sopravvissuti ad abusi sessuali basati su immagini, come riporta la BBC.
Nel contesto dei deepfakes, uno di loro ha detto che l'immagine era "ancora una foto di te.La società Sensity AI, che si occupa di tracciare i deepfakes, ha scoperto che il 96% di essi erano immagini sessuali non consensuali e che il 99% di essi erano di donne: "Le donne hanno molte più probabilità di subire questi abusi e gli uomini sono i principali responsabili".
"Il porno deepfake è un altro esempio di come la società non prenda sempre sul serio i crimini contro le donne. Gli abusi online sono troppo spesso minimizzati e ignorati". ".
Helen parla dell'ansia insostenibile di non sapere chi ha creato le immagini.
Afferma che i suoi occhi sono fissi sulla telecamera in ogni singola immagine. Tuttavia, questo creatore di profili e accumulatore di immagini è rimasto anonimo in tutto questo". "
Quando ha saputo che la polizia non era in grado di assicurare alla giustizia i creatori delle immagini, è rimasta ancora più inorridita.
Non essendo stato commesso alcun reato, le hanno comunicato che non potevano fare nulla. La creazione di immagini deep-fake non è contro la legge.
La polizia può già indagare in Scozia in base all'attuale quadro giuridico, ma non è così in Inghilterra o in Galles.
La condivisione di immagini pornografiche deepfake non consensuali diventerà illegale in base all'imminente legge sulla sicurezza online, attualmente in fase di revisione da parte della Camera dei Lord.
I "cambiamenti nella legge sono attesi da tempo", secondo il Prof. McGlynn. Tuttavia, perché sia veramente efficace, "deve indicare la violenza online contro le donne e le ragazze come un problema prioritario e includere misure per garantire che le piattaforme Internet prendano sul serio questi abusi".
Il disegno di legge dovrebbe diventare legge quest'anno, secondo il Dipartimento per la Scienza, l'Innovazione e la Tecnologia, che ne è responsabile.
Morris dice alla fine del suo film che sta "cercando di porre domande" e aggiunge: "Non ho soluzioni, ma sento davvero che è qualcosa a cui dobbiamo prestare attenzione".
Aggiunge: "Penso che ti diano una finestra sulla vita degli altri. Penso che l'importanza dei documentari non possa essere sottovalutata".
"Penso che al giorno d'oggi siamo così concentrati sulle nostre esperienze e su come ci presentiamo a causa dei social media".
"È fondamentale considerare come le altre persone vivono e percepiscono il mondo".
. "
