info@rislab.it - PARTNERSHIP: CNS | VIDES | FEDERICO II

Deepfake: Cosa sono? Sono un pericolo per la sicurezza?

Deepfake: Cosa sono? Sono un pericolo per la sicurezza?

I deepfake, lasciati senza controllo, sono destinati a diventare la prossima grande arma dei criminali informatici! Di cosa si tratta? Che genere di tecnologia utilizzano? I deepfake sono usati per alterare o creare contenuti audiovisivi realistici. Spesso impiegati a scopi di satira o sociali, essi sono però diventati anche un’arma in mano agli hacker. Vediamo come nell’articolo.

Cos’è la tecnologia Deepfake? È pericolosa?

La tecnologia Deepfake utilizza tecniche di intelligenza artificiale per alterare o creare contenuti audiovisivi. Un esempio è quello di sostituire il volto di una normale persona con quello di una celebrità. A volte i risultati sono talmente buoni da non riuscire ad accorgersi della finzione!

Spesso è impiegato per scopi non preoccupanti, come la satira e i giochi, ma ultimamente è sempre più utilizzato dai criminali. Eppure, nel 2019, una ricerca di iProove ha mostrato che il 72% delle persone non sapeva neanche cosa fossero i deepfake.

In mano a degli hacker essi possono essere usati per creare una falsa narrativa apparentemente attendibile. Le due principali minacce sono la manipolazione e disinformazione del pubblico e lo sfruttamento economico ai danni di privati o aziende.

Immaginate infatti il potere di un deepfake utilizzato, ad esempio, per manipolare un esito elettorale, inventare uno scandalo o creare campagne di disinformazione contro un prodotto sul mercato. Le persone non saranno più in grado di determinare il vero dal falso.

La minaccia alla sicurezza informatica per le aziende è che i deepfake potrebbero aumentare l’efficacia degli attacchi di phishing, ad esempio. Oppure rendere più facili le frodi di identità. E ancora manipolare la verità per causare un crollo ingiustificato del valore di azioni.

Come viene creato un deepfake?

Un deepfake viene sviluppato utilizzando una rete neurale per esaminare e scoprire i modelli necessari a produrre un’immagine convincente. Successivamente viene creato, partendo da queste informazioni, un algoritmo di apprendimento automatico. Come per tutto il machine learning, la quantità di dati che possono essere utilizzati per l’addestramento è fondamentale: maggiore è il set di dati, più accurato sarà l’algoritmo. Grandi dataset sono già disponibili gratuitamente su Internet.

Due sviluppi recenti hanno migliorato e aumentato la qualità e la pericolosità dei deepfake. Il primo è l’adattamento e l’uso delle reti generative contraddittorie (GAN). Questi modelli migliorano fino a che il risultato è un’immagine falsa che non può essere rilevata dall’occhio umano.

La seconda minaccia proviene dalla larghezza di banda 5G e dalla potenza di calcolo del cloud. Tramite l’uso combinato di queste due tecnologie si possono manipolare i flussi video in tempo reale. Le tecnologie deepfake possono quindi essere applicate in contesti di videoconferenza, servizi video in live streaming e televisione.

Minacce alla sicurezza informatica

Pochi criminali hanno le competenze necessarie per sviluppare e utilizzare deepfake tanto efficaci. Purtroppo, però, la continua evoluzione e lo sviluppo del crimine-as-a-service (CaaS) cambierà le carte in tavola. Così, riusciranno a usare anche più facilmente questa tecnologia.

I Deepfake potrebbero essere utilizzati per estorsioni, e il phishing potrebbe essere ancora più pericoloso. Come? Minacciando l’esca di usare video personali fittizi oppure convincendola di essere un conoscente. Ma la minaccia davvero seria potrebbe venire dalla manipolazione del mercato.

False informazioni, rivelazioni imbarazzanti, accuse di esportazioni illegali e molto altro potrebbero causare un drammatico crollo del valore delle azioni di un’azienda. Le bande criminali, o persino gli stati-nazione che cercano di compensare le sanzioni, potrebbero acquistare le azioni quando sono basse.

La sicurezza si basa sulla fiducia. I deepfake forniscono una falsa fiducia.

Rilevare i falsi

La qualità dei deepfake supera già la capacità dell’occhio umano di rilevare un falso.

Come riconoscere un deepfake da un video vero? Guardare approfonditamente è la prima mossa: attenzione a imperfezioni nei colori della pelle, disallineamenti fonema-visema (cioè una correlazione imperfetta tra la corrispondenza verbale e orale); movimenti facciali (dove i movimenti facciali e della testa non sono correlati correttamente); e modelli convoluzionali ricorrenti che cercano incongruenze tra i singoli fotogrammi che compongono un video.

Ma ci sono difficoltà. Proprio come una leggera variazione al malware può essere sufficiente per ingannare gli antivirus, così anche una leggera alterazione del metodo utilizzato per generare un deepfake potrebbe ingannare gli esperti o i software.

Un ulteriore problema potrebbe essere causato dalla compressione del video, che ridurrebbe il numero di pixel a disposizione dell’algoritmo di rilevamento.

Evitare i deepfake è forse più facile che cercare di individuarli.