A livello individuale, il deepfake può avere la funzione di mero divertimento. In realtà, questi deepfake non solo potrebbero mettere a rischio la reputazione, ma anche il benessere emotivo, le prospettive di carriera e la sicurezza fisica.
‘In ogni falso si nasconde sempre qualcosa di autentico!‘. Questa frase, pronunciata nel film La migliore offerta di Giuseppe Tornatore, racchiude il senso che, nella cinematografia, si fornisce alla dualità falso/vero. Sempre nel contesto cinematografico, il lavoro di post-produzione sui film ha fatto sembrare i falsi molto realistici. Ad esempio, nel 2009, Il Curioso Caso di Benjamin Button ha vinto l’Academy Award per i migliori effetti visivi. Il film si basa su immagini generate al computer (CGI) per aiutare a raccontare la storia di un bambino nato con l’aspetto di un uomo anziano che, poi, trascorre 84 anni diventando più giovane. La creazione di tali falsi richiedeva competenza, una formazione approfondita, hardware costosi e software sofisticati. Nonostante il termine CGI suggerisce che ogni progetto è il risultato di un lavoro ad alta intensità, gli strumenti di oggi consentono a chiunque di creare falsi, che appaiono reali senza investimenti significativi in formazione, raccolta dati, hardware e software. Persone, anche non esperte, saranno presto in grado di manipolare i media esistenti o di generare nuovi contenuti con relativa facilità. Nel 2018, il popolare programma di face-swap ‘Fakeapp’ ha richiesto grandi quantità di dati di input per generare deepfake.
Il termine deepfake è stato creato da un utente anonimo della piattaforma Reddit, che ha generato un vero e proprio fenomeno. La parola deepfake, infatti, deriva dall’inglese ‘deep learning’, ovvero sistemi di apprendimento artificiale profondo, vale a dire una tipologia di algoritmi e ‘fake’, cioè ‘falso’. Nella pratica, il deepfake utilizza videoclip modificando i volti e le parole di celebrità inconsapevoli. Si tratta, quindi, di un fenomeno in cui sono gli algoritmi a ‘governare’, creando un sistema di datacrazia (De Kerckhove, 2001). Le prime vittime dei deepfake erano personaggi famosi, tra cui attori (ad esempio, Emma Watson, Scarlett Johansson), cantanti (ad esempio, Katy Perry) e politici (ad esempio, i presidenti degli Stati Uniti Obama e Trump), i cui volti sono stati trasposti, senza il loro permesso, su altri. Uno dei primi deepfake che ha mostrato il potere dell’intelligenza artificiale e dell’apprendimento profondo è stato ‘Sintetizzare Obama’ del 2017 (Suwajanakorn, Seitz, & Kemelmacher-Shlizerman, 2017), che ha caratterizzato un uso impressionante della tecnologia di sincronizzazione delle labbra basata su filmati audio esistenti. Oggi potremmo osservare il leader di un paese pronunciare in modo convincente un discorso del leader di un altro paese, o viceversa. L’esposizione maggiore dei personaggi famosi dipende dal fatto che risultano come persone più presenti sulla scena mediale. Tale trucco, profondamente falso, ha un successo allarmante per due ragioni principali: per il principio di credibilità e di accessibilità.
L’impatto dei deepfake è significativo perché, anche se negli ultimi anni in relazione alla nascita dei programmi di editing per le immagini, la fiducia sull’autenticità delle foto condivise sui social è venuta meno (Westling, 2019), si tende a riporre più fiducia nelle voci che si conoscono e nei video che si guardano (Brucato, 2015). Il sistema visivo del cervello, nonostante sia in gran parte robusto, può essere soggetto a percezioni errate, come nel caso delle illusioni ottiche (Kietzmann, Geuter, & König, 2011).
Prima di comprendere come funzionano i deepfake, bisogna chiarire che le tecniche e le tecnologie esistenti si evolvono continuamente. La maggior parte degli attuali deepfake nel dominio visivo seguono una procedura in cui il vero volto di una persona viene scambiato con un’immagine falsa che mostra qualcun altro. E’ necessario anche spiegare che i deepfake possono essere impiegati in qualsiasi contesto, nascendo nel settore cinematografico ed estendendosi nella produzione di notizie false, criminalità o nella satira. Così come ad essere esteso è anche il target delle vittime. In ogni caso, il funzionamento prevede tre fasi:
- l’individuazione della regione del viso originale, estratto in fotogrammi;
- questi fotogrammi, poi, sono utilizzati come input per una rete neurale profonda, che genera automaticamente un fotogramma corrispondente all’originale, però, con il volto sostituito da un’altra persona;
- il volto sostituito e rilevato dalla rete neurale viene automaticamente inserito nell’immagine di riferimento originale per creare il deepfake (Kietzmann et al., 2020).
Ma quali sono le conseguenze del deepfake? A livello individuale, il deepfake, che non ha un intento malizioso, può avere la funzione di mero divertimento. In realtà, questi deepfake non solo potrebbero mettere a rischio la reputazione, ma anche il benessere emotivo, le prospettive di carriera e la sicurezza fisica. Con una tecnologia così ‘potente’ e il numero crescente di immagini e video all’interno dei social media, chiunque può diventare un bersaglio per molestie online, diffamazione, furto di identità e bullismo.
Per le organizzazioni, i deepfake hanno pro e contro. I vantaggi si possono trovare nel settore dell’intrattenimento e della moda, in cui le celebrità possono semplicemente rendere disponibili i loro modelli senza la necessità di viaggiare per un servizio video, per esempio. Per quanto riguarda l’effetto negativo dei deepfake sulle organizzazioni, i progressi tecnologici spesso rendono i modi ‘tradizionali’ di lavorare obsoleti. Per esempio, l’intera industria del doppiaggio, che ha tradotto i film in modo che le parole della lingua da doppiare corrispondessero al movimento originale delle labbra dell’attore, è in pericolo e a rischio di estinzione, ora che le lingue e il movimento delle labbra possono essere cambiate. Per quanto riguarda il lato oscuro dei deepfake, si prevede che anche le aziende ignare saranno vittime di inganno e diffamazione (Kietzmann et al., 2012).
Per i governi, il potenziale positivo dei deepfake risiede nella capacità di comunicare con le varie parti interessate in modo che sia accessibile. Ad esempio, un annuncio di servizio pubblico può essere trasmesso in diverse lingue. Allo stesso tempo, il lato oscuro dei deepfake è potente, con le possibilità offerte alla persona e ai media di creare e condividere atti di sabotaggio tempestivi (Riechmann, 2018). In sintesi, la propaganda e l’ingerenza elettorale dei deepfake, unite alla disinformazione, potrebbero minacciare, ad esempio, un governo efficiente.
Il risvolto psicologico del fenomeno dei deepfake è proprio il mancato riconoscimento tra ciò che è vero e ciò che è falso, mettendo in crisi la fiducia nell’Altro e aumentando la frammentarietà del Sé.
