Deepfake – Significato, Storia, evoluzione

Deep fake significato: I deepfake sono immagini, audio e video falsificati, creati da algoritmi di intelligenza artificiale, sebbene la fabbricazione e la manipolazione di immagini e video digitali non siano una novità, i rapidi sviluppi delle reti neurali (Deep Neural Network) negli ultimi anni hanno reso il processo di creazione di immagini/audio/video falsi convincenti, sempre più facili e veloci da realizzare.

Deepfake: Definizione, Tecnologia e Impatto sulla Disinformazione Online

La parola deepfake finisce sempre più spesso per essere associata allo sconcertante problema della disinformazione online.

In realtà la tecnologia deepfake è molto di più dell’accezione negativa che gli è stata etichettata, nei prossimi anni sarà uno dei driver principali nella creazione ed elaborazione delle informazioni, ma per comprendere meglio il suo potenziale tecnologico e produttivo è necessario capire la sua storia.

Origine dei Deepfake: Da Reddit alla Viralità dei Video Manipolati

Nei primi mesi del 2017 un utente di Reddit (social network e sito di notizie in cui i membri registrati possono pubblicare contenuti di tutti i tipi, come post o link diretti), soprannominato “Deepfakes”, comincia a pubblicare video di alcuni spezzoni di film dove i volti di attori vengono sovrapposti agli attori originali, realizzando così dei video fake, abbastanza realistici che suscitano fin da subito il divertimento e l’interesse di
molti utenti.

Il successo è tale che Deepfakes crea una “subreddit”, una specifica categoria all’interno di reddit, dove i post sono organizzati in argomenti e seguiti da migliaia di utenti.

Controversie e Implicazioni Legali dei Deepfake Pornografici

Nel giro di poche settimane si passa, però, da video curiosi e divertenti, a spezzoni di video hard dove il volto dei pornoattori viene sostituito con quello di celebrità del mondo dello spettacolo, cominciando ad ingenerare perplessità e allarme, come ad es. il caso di Taylor Swift, in cui la faccia della cantante è stata inserita in diversi video fake a contenuto pornografico.

In questa categoria – subito ridenominata “deep-porn” – nonostante i video siano realizzati in modo artificiale, la loro diffusione può ledere la reputazione e la dignità personale delle vittime assumendo così rilevanza penale e Reddit si trova rapidamente a dover gestire diverse azioni legali intentate dalle vittime, così alla fine blocca l’account Deepfakes, motivando la decisione con la violazione delle policy della community per pubblicazione di video NSFW (Not Safe For Work), ossia non sicuro per il lavoro, acronimo usato principalmente nei siti di blog e forum per indicare materiale sessualmente esplicito, volgare o potenzialmente offensivo.

Ormai però il numero di utenti interessati a questa tipologia di video è tale da rendere l’argomento virale, e nonostante le restrizioni imposte anche da altri social network come Twitter, Facebook e siti tematici come Pornhub – che per la prima volta usano la definizione di “video sintetici” – si sviluppano canali alternativi ad es. presso 4chan e 8chan. Canali social più permessivi in termini di regole e censura, dove molti utenti criticano aspramente la scelta di Reddit, condividendo oltre ai video anche post con link ad altri siti tematici dedicati ai deepfakes porno che nel frattempo sono sorti (Fig. 1).

I post dei video di Deepfake diventano così sempre più virali, ma il loro successo non è solo per i “prodotti finali” ma soprattutto perché, oltre ai video, alcuni utenti cominciano a postare link ad applicazioni che permettono a tutti di poter creare i propri deepfake facilmente, senza nessuna conoscenza di computer grafica e di intelligenza artificiale, componente tecnologica alla base della produzione di queste tipologie di video.

Evoluzione Tecnologica dei Deepfake: Da Manipolazione Video a Intelligenza Artificiale

Ed è questa nuova tecnologia la vera novità, di per sé la manipolazione video dei volti denominata “face swap” non è una novità, in quanto è una tecnologia utilizzata da tempo nell’ambito del mondo cinematografico dove a volte, a causa dell’impossibilita di poter girare delle scene con specifici attori (ad esempio, perché deceduti) il loro volto viene sovrapposto a quello di altri attori; come accaduto all’attore Peter Cushing, morto nel 1994 e redivivo nei panni del comandante della Morte Nera nell’episodio Rouge One di Star Wars del 2016, grazie all’elaborazione grafica del volto dell’attore Guy Henry (Fig.2).

Democratizzazione dei Deepfake: Tecnologia Accessibile e Rischi Associati

Prima di Deepfakes, quindi, la possibilità di eseguire dei video credibili di face swap rimaneva appannaggio esclusivo di professionisti della computer grafica che avevano a disposizione strumenti e software potenti e costosi.

I deepfake rappresentano un primo salto evolutivo nel “face-swap” casalingo, perché permettono a utenti senza alcuna esperienza, ma con una buona scheda video e un po’ di tempo a disposizione, di utilizzare applicativi in grado di realizzare video fake di buona qualità, ed è così che la parola “deepfake” diventa sinonimo di video falsi prodotti con l’intelligenza artificiale.

La parola deepfake, infatti, deriva dall’inglese “deep learning”, ed intende una tipologia di algoritmi che sfruttano l’intelligenza artificiale per generare dei falsi, “fake”, per creare un’immagine, un audio voce e/o un video umano sintetico.

A dare un primo forte scossone all’opinione pubblica sul tema dei deepfake, alfine di aumentare la consapevolezza dei pericoli di questa tecnologia, è stato nel 2018, l’attore e regista statunitense Jordan Peele con un video, diventato subito virale, in cui il presidente Barack Obama sembra insultare personaggi pubblici, tra cui Donald Trump e Ben Carson. Il video, pubblicato ad aprile 2018, è visionabile di seguito:

Il video realizzato attraverso la tecnica deepfake di sincronizzazione delle labbra (Lip- Sync), genera enorme interesse e preoccupazione anche nelle agenzie di intelligence governative che vedono subito il potenziale utilizzo e pericolo di questa tecnologia in scenari di propaganda politica, disinformazione e cyberwarfare.

Impatto dei Deepfake sulla Sicurezza delle Informazioni e Cybersecurity

Un altro aspetto importante nell’ evoluzione della tecnologia deepfake è che si è passati da video processati attraverso un grande lavoro fatto di lunghi tempi di “montaggio”, a deep fake in tempo reale, in grado di cambiare ad es., l’immagine del volto di un soggetto con un altro, esistente o immaginario, durante l’utilizzo estemporaneo di applicazioni video come ad esempio una video call o in un live streaming.

Questi fattori combinati tra loro, sono in grado di generare dei falsi multifattoriali (audio, video ed interazione), sollevando una enorme attenzione da parte degli esperti di sicurezza delle informazioni che hanno classificato la tecnologia deepfake tra le nuove e più pericolose cyber minacce.

Continua a leggere: scarica il white paper gratuito “Deepfake & Cyber Intelligence: tecniche di creazione, rilevamento e prevenzione“

Articolo a cura di Francesco Arruzzoli