Che cosa sono i deep fake e come riconoscerli

I deepfake consistono in dei video falsi derivanti da video reali: questi ultimi infatti vengono manipolati grazie a un’intelligenza artificiale, la quale consente di ricreare alla perfezione copie di persone o eventi già esistenti e realizzare quindi dei video falsi.

Tale fenomeno è stato creato da alcuni utenti del social Reddit nel 2017 e da allora sono presenti su internet molti video ritraenti persone o eventi reali, ma i cui avvenimenti non hanno mai avuto luogo. L’intelligenza artificiale consente di modificare o creare video falsi e farli sembrare molto realistici, per questo motivo potrebbe essere difficile distinguere i deepfake da video o notizie reali.

Il deep fake consiste in una tecnologia evoluta di morphing e sintesi delle immagini umane, e con l’aiuto di una IA (o intelligenza artificiale) è possibile sovrapporre o combinare fotogrammi o immagini di video su un video precedentemente esistente.

Infatti, il compito dell’intelligenza artificiale è quello di reperire determinate immagini che possono essere sovrapposte a un video già esistente e ritraente nella maggior parte dei casi persone famose: così facendo viene creato il video falso che stavolta risulta estremamente realistico e può quindi ingannare.

Questa tecnologia unita all’utilizzo di un’intelligenza artificiale non vengono solo utilizzati su persone famose, ma anche per ulteriori fini: revenge porn, diffusione di notizie false, truffe, cyberbullismo. Per la maggior parte delle volte questi deepfake sono utilizzati per creare dei contenuti espliciti.

Dati i loro utilizzi è importante non farsi ingannare e riconoscere con attenzione questi video falsi, da cui è importante proteggersi.

Leggi anche: Sicurezza informatica: ovvero, prevenire è meglio che curare

Chi può creare i deepfake

Dopo la nascita del fenomeno dei deepfake da alcuni utenti del social network Reddit, la tecnologia che sta alla base dei deepfake è pian piano aumentata e diventata sempre più adeguata nella cura dei dettagli, al fine di rendere i video ancor più realistici. Attualmente vi sono svariati metodi possibili per poter creare dei deepfake, ma quello maggiormente utilizzato per la sua efficacia rimane il primo utilizzato.
Alla base di questa metodologia si ha un utilizzo di reti neurali di ampie dimensioni, le quali possono svolgere tantissimi calcoli in breve tempo e in quantità infinite e scambiare grandi quantità di dati.

Tali elementi sono molto utili in quanto utilizzano un autoencoder: questo ottimizza lo scambio facciale, rendendo ancor più realistico il video falso.

Per poter utilizzare questo metodo è sufficiente avere già un video originale contenente un evento o una persona reale, come un attore. Sono ideali i video target. Le reti neurali riescono a raccogliere ulteriori video o foto, così da creare il medesimo personaggio nel video reale con estremo realismo.

Mediante l’autoencoder quindi l’intelligenza artificiale, o IA, è capace di studiare ed effettuare un’analisi estremamente dettagliata al fine di mappare l’intero video target: le varie angolazioni, le espressioni facciali della persona e ulteriori dettagli utili. Successivamente l’IA può trovare delle espressioni adeguate e realistiche da poter sovrascrivere sul video originale, così che si abbia un nuovo video falso ma estremamente realistico.

La tecnica dell’intelligenza artificiale e della rete neurale è la prima tecnica utilizzata per la creazione dei deep fake, ma vi sono anche ulteriori metodologie attualmente utilizzate. Infatti, nel corso del tempo sono aumentati i metodi che rendono possibile la creazione dei deep fake: tra quelle utilizzate maggiormente al giorno d’oggi, oltre all’originale, vi è la Generative Adversarial Networks.

Quest’ultima è anche nota come GAN e viene utilizzata da chiunque ne dispone. Tale tecnologia raffinata e moderna consente di apprendere in maniera automatica i difetti tipici che possono rendere i deepfake facilmente riconoscibili, così da eliminarli. In tal modo diventa ancora più complicato distinguere i video falsi da quelli reali, diffondendo così fake news.

Chi può creare un deep fake?

Col passare del tempo è diventato sempre più facile creare dei deepfake, anche per semplici utenti che navigano sul web. Solitamente gli utenti che non utilizzano tecnologie all’avanguardia possono creare dei deepfake tramite appositi siti o applicazioni apposite. Questi utenti possono facilmente creare dei deepfake con delle applicazioni o siti che hanno alla base i meccanismi precedentemente descritti, come reti neurali e gan: ciò comporta una elevata attenzione per distinguerli da video reali.
Vi sono però anche utenti più esperti che non si limitano a utilizzare applicazioni o siti appositi, ma interagiscono anche con delle community di sviluppatori, al fine di avere materiali ottimi e analizzati nel dettaglio al fine di creare deepfake.

E’ quindi possibile affermare che le varie tecnologie, siti e applicazioni possono essere trovati da qualsiasi utente capace di navigare sul web. Un ulteriore problema consiste nei codici open source, che rende tali strumenti accessibili a tutti quanti. Vi sono anche delle interfacce realizzate in maniera semplice e intuitiva, affinché anche gli utenti meno esperti nell’utilizzo di internet possano comunque creare dei deepfake, senza utilizzare delle competenze specifiche e tecniche o determinati software.

Le applicazioni volte alla creazione dei deepfake, adeguate sia per computer sia per smartphone o tablet, sono velocemente eliminate al fine di limitare i danni causati dal deepfake. Purtroppo sono anche presenti dei siti che consentono di non installare alcuno strumento e che favoriscono la creazione di un video falso tramite qualsiasi video reperibile su internet e piattaforme varie.

Leggi anche: Cos’è il Dark Web e come funziona

Quali sono i pericoli dei deepfake

Normalmente i deep fake possono essere pericolosi e non. Nello specifico, se dei deepfake vengono utilizzati al solo scopo di divertimento, come ad esempio la creazione di un meme oppure sostituire la propria faccia con un’altra in una scena di un film, non vi sono dei problemi. Questi deepfake però sono anche noti per dei crimini correlati al revenge porn o alla pornografia generale, così come le truffe online collegate ai giochi d’azzardo e non solo.

E’ quindi molto pericoloso creare e diffondere questi video. Molti colossi del web, come Facebook e non solo, si occupano costantemente di eliminare dalle piattaforme deepfake al fine di salvaguardare gli utenti che non hanno i mezzi per poterli distinguere dai video reali.
Un ulteriore pericolo consiste nella diffusione dei deepfake, che in ogni caso crea scompiglio: infatti, pur buttando giù il video ed eliminandolo, vi è comunque la possibilità che questo sia stato salvato o che abbia già creato parecchio scompiglio, portando molti utenti a credere a una fake news o addirittura a essere vittime di una truffa online. Determinati deepfake sono talmente realistici che portano anche delle testate giornalistiche importanti all’ulteriore diffusione di notizie false.

Come riconoscere e difendersi dai deepfake

Per comuni utenti e che non hanno molte informazioni sui deepfake potrebbe essere molto complicato riconoscerli ed evitare di ottenere informazioni errate. Vi sono svariati metodi finalizzati al riconoscimento di questi video. Quello più utilizzato è anche quello più semplice: i deepfake realizzati in maniera grossolana possono contenere diversi elementi che li rendono riconoscibili, come il battito di ciglia. Molti deepfake infatti vengono ricostruiti con la mancanza di questo movimento naturale: pertanto se ci si rende conto che la persona raffigurata non sbatte mai le ciglia, il video è sicuramente falso.

E’ possibile prestare attenzione a questo dettaglio e smascherare solo i video più grossolani, mentre quelli più dettagliati e realizzati con delle tecnologie moderne presentano tutti i movimenti naturali fisiologici.

Molti infatti sono difficili da riconoscere. Per quelli meglio realizzati, si consiglia invece di concentrarsi sulle sfumature della carnagione della pelle e sull’attaccatura della pelle: questi due elementi infatti sono solitamente il punto debole dei deepfake realizzati in maniera ottimale.
Se si notano delle incongruenze con questi due elementi nel video, è possibile che siano dei deepfake.

Infine, è doveroso prestare attenzione all’audio e alle luci dell’evento: se si trovano delle anomalie riguardanti le ombre o i riflessi delle figure sul pavimento, è possibile che ci si trovi davanti a un deepfake. Oltretutto, anche l’audio è un elemento fondamentale in quanto la qualità potrebbe essere inferiore e il labiale non è naturale.

Vi sono anche ulteriori elementi correlati ai comportamenti naturali dell’essere umano o alle circostanze dell’evento presenti nel video che possono riportare alla differenziazione tra un video reale e un deepfake. Ad esempio, si consiglia di prestare attenzione alle guance e fronte dei personaggi, oltre alle sopracciglia e agli occhi: questi elementi tendono infatti ad essere poco realistici e molto grossolani nei deepfake, e quindi sono facilmente riconoscibili.

Inoltre vi sono anche delle persone presenti nei deepfake e aventi gli occhiali, i quali sono ricostruiti dalle tecnologie con maggior difficoltà e quindi meno naturalezza. Anche i baffi e le barbe possono essere raffigurate in maniera errata e poco naturale. Al fine di riconoscere i deepfake è quindi altamente consigliato prestare attenzione ai dettagli, i quali possono essere poco curati sia nei casi in cui siano stati creati con siti e tecnologie moderate, sia nel caso in cui siano stati creati con tecnologie sofisticate.
In questi ultimi casi è possibile dover visionare più volte il medesimo video al fine di comprendere dove sia l’imperfezione.

Come rilevare i deepfake con Microsoft

deepfake

Credits: Microsoft

Per poter comprendere se si ha davanti un deepfake o meno non esistono solo i metodi precedentemente citati, per i quali è necessaria solo la propria osservazione e attenzione. Sono infatti disponibili delle tecnologie avanzate e moderne, create appositamente per contrastare questo fenomeno ed evitare che molti utenti possano ottenere delle informazioni sbagliate o essere truffati online.

Microsoft è una piattaforma che ha escogitato una tecnica finalizzata a svelare i video falsi e contrastarne la diffusione, oltre ai danni che ne derivano. Diversi esperti avevano già consigliato di utilizzare la propria attenzione e capacità d’osservazione al fine di capire se si stesse guardando un video fake, ma molti utenti hanno preferito avere una risposta sicura al 100% grazie all’utilizzo delle tecnologie di rilevamento.
Le tecnologie in questione sono avanzate e realizzate appositamente per contrastare il fenomeno dei deepfake. Questi strumenti sono utili e sono maggiormente adeguati per chi nota i vari dettagli, come i movimenti o elementi innaturali tipici dei deep fake.

Scopri il nostro servizio di: Informatica Forense: investigazioni avanzate