Deepfake & Cyber Intelligence

Tecniche di creazione, rilevamento e prevenzione

La tecnologia deepfake è sicuramente diventata uno dei driver principali nella generazione di contenuti, c’è il potenziale non solo per distribuire notizie false, ma anche per causare disordini politici, un aumento della criminalità informatica, del revenge porn, scandali fasulli e un aumento delle molestie e degli abusi online, inoltre, in tribunale video presentati come prova potrebbero essere resi inutili dal utilizzo di tale tecnologia.

Gli sviluppatori di deepfake hanno la capacità di far dire o fare alle persone tutto ciò che vogliono e successivamente divulgare i falsi contenuti manipolati online. Ad esempio, nel 2021, la commissione per gli affari esteri del parlamento olandese è stata indotta con l’inganno a condurre una video chat con qualcuno che impersonava Leonid Volkov, il dissidente politico che guida lo staff di Alexei Navalny, leader dell’opposizione russa e principale avversario di Putin.  

Le agenzie governative sono particolarmente preoccupate sul fatto che i deepfake possano essere utilizzati per propagare disinformazione e condurre crimini. Eppure il futuro dei deep fake potrebbe essere davvero luminoso, ma per garantire che le applicazioni false non vengano utilizzate in modo improprio dovremmo creare dei limiti, anche se, considerando la velocità del progresso tecnologico in questo campo, risulta difficile pensare ad una protezione totale.

Nei prossimi anni, i deepfake utilizzeranno tecnologie e processi basati sull’Intelligenza Artificiale sempre più sofisticati accelerando e potenziando gli attacchi di ingegneria sociale. La sicurezza cognitiva è quindi particolarmente utile per prevenire gli attacchi informatici che manipolano la percezione umana. Tali attacchi detti anche “hacking cognitivi”, sono progettati per influenzare i comportamenti degli utenti al fine di raggiungere gli scopi dell’attaccante. Gli sforzi per la sicurezza cognitiva in questo settore includono anche approcci non tecnici, ad es. il concetto di “firewall umano” che mira a rendere le persone meno vulnerabili alla manipolazione, tecnicamente più preparate, nonché soluzioni tecniche progettate per rilevare dati fuorvianti, disinformazione, così come metodi per prevenirne la diffusione.