Stiamo assistendo al progredire di una nuova forma di revenge porn: quella che sfrutta gli algoritmi DeepFake.
Deepfake: di che cosa si tratta?
Il DeepFake è una tecnica di fotomontaggio, che sfrutta l’intelligenza artificiale per modificare o ricreare, partendo da contenuti reali, le caratteristiche e i movimenti di una persona in maniera estremamente realistica. Ad esempio, col DeepFake si può sostituire, in un video originale, il volto di qualcuno con quello di un’altra persona (Zhang et al., 2020). Questa tecnologia, inizialmente, era utilizzata come ausilio agli effetti speciali cinematografici (GPDP, 2020) ma, come spesso accade, un ritrovato innovativo può ben presto alimentarne un uso distorto e problematico, come il sexting o il revenge porn.
Il termine sexting è stato ufficializzato nel 2009 e nasce dalla fusione delle parole inglesi sex (sesso) e texting (scrivere messaggi di testo). La comunità scientifica non è ancora pervenuta ad una definizione univoca, tuttavia si può definire come l’invio e la ricezione di contenuti di natura sessuale (come foto e video), tramite internet e telefoni cellulari. Altre definizioni includono l’invio, oltre che di video ed immagini, anche di messaggi di testo (Gassó et al., 2019). Col termine revenge porn s’intende invece la trasmissione di immagini sessualmente esplicite (precedentemente catturate col consenso della persona o da essa stessa inviate) a un pubblico più ampio senza il suo consenso (McKinlay & Lavis, 2020; L. 69/2019). In Italia, il revenge porn è stato dichiarato reato dalle legge n. 69 del 2019, meglio nota come Codice Rosso.
Il Deepfake, infatti, ha finito per avere un enorme impatto anche in ambiti come il sexting e il revenge porn, mettendo a repentaglio la dignità e la riservatezza delle persone (GPDP, 2020).
Che cos’è il porno deepfake?
Una delle possibili applicazioni è il cosiddetto Porno DeepFake, detto anche video deepnude: una scena erotica viene estratta da un film hard e si sostituiscono i volti dei porno attori con quelli di altre persone, per poi diffondere il contenuto in rete (ibidem). Le conseguenze, in questo caso, non sono da trascurare. Infatti, le ripercussioni sociali e psicologiche per le vittime non si discostano troppo da quelle osservate nei casi di vittimizzazione da revenge porn, soprattutto quando il fotomontaggio è particolarmente credibile. Il DeepFake, infatti, ha ormai raggiunto un livello di sofisticatezza tale che è difficile distinguere l’autenticità del video attraverso il rilevamento automatico o manuale (Zhang et al., 2020).
Quali sono le ripercussioni psicologiche?
Samantha Bates nel 2016 ha pubblicato uno studio dove ha analizzato le ripercussioni psicologiche in un campione di donne vittime di revenge porn. Gli esiti riscontrati sono andati dalla perdita di fiducia nelle relazioni fino ad arrivare all’ideazione suicidaria, passando per depressione, ansia e disturbo da stress post-traumatico (PTDS). I risultati di questo studio hanno mostrato notevoli somiglianze con le conseguenze psicologiche della violenza sessuale, intesa proprio come assalto fisico (sexual assault).
Il vademecum del GPDP
Il Garante per la protezione dei dati personali (GPDP), verso la fine del 2020 ha emesso una scheda informativa per allertare sui rischi dell’uso malevolo di questa tecnologia. Nel vademecum in questione, l’Autorità Garante evidenzia come il DeepFake possa configurarsi, innanzi tutto, come una grave forma di furto dell’identità. Le vittime potrebbero, infatti, trovarsi rappresentate in contesti mai frequentati e in comportamenti mai messi in atto, come anche fare discorsi e dichiarazioni che non hanno mai avuto luogo (poiché il DeepFake si può applicare anche ai contenuti audio).
I Porno DeepFake possono essere utilizzati, a totale insaputa dei soggetti rappresentati, anche per alimentare la pornografia illegale e la pedopornografia (GPDO, 2020). A quest’ultimo riguardo, va sottolineato che il codice penale italiano stabilisce che i reati di pornografia minorile e di detenzione di materiale pedopornografico si configurano pure quando le immagini sono “realizzate con tecniche di elaborazione grafica non associate in tutto o in parte a situazioni reali, la cui qualità di rappresentazione fa apparire come vere situazioni non reali” (art. 600-quater.1 c.p.). Perciò, in Italia, quando il Porno DeepFake coinvolge soggetti minori, rientrerebbe nel reato di pedopornografia minorile e/o detenzione di materiale pedopornografico. Tuttavia, quando le persone coinvolte sono maggiorenni, il codice penale sembrerebbe non prevedere (ancora) specifiche fattispecie di reato.
Nonostante il vuoto normativo che emergerebbe dalla lettura del codice penale, va evidenziato che le Autorità di protezione dei dati personali possono intervenire per sanzionare le violazioni della normativa in materia di protezione dati e che il Garante, nella sua scheda informativa emessa nel dicembre 2020, ha esplicitato una serie di comportamenti da osservare, volti a prevenire e contrastare i casi di vittimizzazione conseguenti alla diffusione di contenuti DeepFake (GPDP, 2020).
Deepfake: come prevenire?
Di seguito, ecco alcuni suggerimenti indicati dall’Autorità Garante all’interno del vademecum (2020):
- Evitare la diffusione indiscriminata di immagini personali o dei propri cari sui social network.
- Conoscere e riconoscere gli elementi che possono far presumere di trovarsi in presenza di un DeepFake, ad esempio un’immagine pixellata, un movimento innaturale delle palpebre, un’anomalia nelle luci e ombre del video o la deformazione della bocca del soggetto che parla. A questo proposito, va detto che alcuni DeepFake sono così raffinati che spesso è molto complicato riconoscerli. Perciò, i ricercatori hanno messo a punto algoritmi altrettanto sofisticati, allo scopo di individuare i contenuti non reali e arginarne l’utilizzo malevolo, così come le grandi imprese del digitale stanno formando team specializzati nel monitoraggio e nel contrasto del fenomeno (GPDP, 2020).
- Segnalare il presunto DeepFake alla piattaforma che lo ospita ed evitare di condividerlo.
- Se si ritiene che il DeepFake sia stato utilizzato in modo tale da configurare un reato o una violazione della privacy, rivolgersi alle autorità (come la Polizia postale o lo stesso Garante per la protezione dei dati personali).
In conclusione, l’utilizzo distorto di certi tipi di tecnologia che sfruttano l’intelligenza artificiale rappresenta un serio rischio nell’ambito della cyber victimization, come dimostrano i fenomeni del revenge porn, del cyberbullismo e del sextortion (la parola sextortion è la fusione delle parole inglesi sexual – sessuale – e extortion – estorsione, con essa si intende la minaccia di distribuire materiale intimo e sessuale a meno che la vittima non rispetti determinate richieste, O’Malley & Holt, 2020). Tale rischio si estende anche all’ambito del cyber crime, come dimostrano i fenomeni dello spoofing (il furto di informazioni che avviene attraverso la falsificazione di identità di persone o dispositivo, in modo da ottenere la trasmissione di dati, GDPD, 2020), del phishing (tecnica comunemente utilizzata per ottenere informazioni riservate tramite azioni di furto dell’identità, Rendall et al., 2020) e altri fenomeni ancora. Non va poi tralasciato il problema delle fake news (cioè le notizie false) e dell’impatto sulla libertà decisionale dell’individuo (ibidem). La buona notizia è che i ricercatori, i social network, i motori di ricerca e altre figure come, in Italia, il Garante per la protezione dei dati personali, si sono già attivati allo scopo di contenere il fenomeno e ridurne l’incidenza.
