Cosa sono i deepfake - Semplice come
Cosa sono i deepfake

Precedente

Robot e chirurgia: perché la tecnologia è un’alleata dei medici

Successivo

Le regole per pubblicare le foto dei propri figli online

Innovazione

Cosa sono i deepfake

di Simone Cosimi - 31 Ottobre 2019
Condividi su FacebookTwitta su TwitterCondividi su LinkedIn

Video manipolati grazie a sistemi di intelligenza artificiale, a volte in modo molto raffinato, per manomettere la realtà. Il più delle volte, sostituendo al volto del reale protagonista di una clip (l’estratto di un film, un discorso pubblico, un video musicale) quello di qualcun altro. Facendogli dire o fare cose che non ha mai detto o fatto. Il requisito è che di quest’ultima persona si disponga di un ricco numero d’immagini, impresa di certo non più complessa in tempi di social network e sovraesposizione digitale. Questo sono i deepfake, contenuti sofisticati che circolano nel web ormai da un anno e mezzo.

Se all’inizio sembravano “magie” riservate a pochi esperti, diverse indagini – fra cui una recente del Mit, con una dimostrazione firmata dal professore di informatica Hao Li – hanno stimato che ben presto la capacità di crearne di indistinguibili sarà alla portata di tutti. Forse già entro un anno.

Gli inizi

I deepfake hanno preso a circolare all’interno dei forum statunitensi come 4chan per scopi illeciti:  i volti di star, celebrità del cinema o della musica venivano sovrapposti ad altre persone.

Se all’inizio i risultati apparivano inquietanti ma facilmente distinguibili, le soluzioni si sono perfezionate in tempi molto rapidi e, appunto, stanno diventando sempre più accessibili all’utenza media. In fondo, sebbene lavorino su principi molto più semplici, anche fenomeni come le app che possono invecchiare o ringiovanire il nostro viso hanno aperto la strada a un mondo in cui diventerà sempre più complesso assicurarsi dell’originalità di un contenuto che viene caricato su internet.

Come funzionano

Tecnicamente, le sovrapposizioni – una faccia originale che viene data in pasto al sistema e una ricostruita che ne esce e viene applicata nel video – vengono realizzate attraverso una Gan (Rete Antagonista Generativa), un meccanismo in base al quale due reti imparano l’una dall’altra, che può lavorare anche in tempo reale.

Il risultato è una sintesi dell’immagine umana che si presta a una quantità di rischi potenziali che è bene conoscere: può non solo essere l’origine di una quantità di “falsi” sempre più complessi da smascherare ma anche un mezzo di intimidazione o diffamazione.

Ricadute positive si possono riscontrare negli ambiti di post produzione multimediale.

Come individuarli

Come si fa a individuare i deepfake? Non è molto semplice, perché la loro precisione aumenta in modo esponenziale. Un primo passo è, per esempio, misurare con un software il movimento delle palpebre e coglierne o meno la naturalezza e la frequenza (lo hanno consigliato lo scorso anno tre ricercatori della State University di New York). Anche se il metodo è stato presto superato. Nelle scorse settimane sono invece arrivati un paio di sistemi più efficaci per difendersi, firmati da Siwei Lyu, docente d’informatica e direttore del Computer Vision e Machine Learning Lab dell’Albany State University, nello Stato di New York. Il primo consiste nell’osservazione dei pixel di alcuni fotogrammi specifici alla ricerca di impercettibili distorsioni dei tratti somatici. Il secondo è per così dire “difensivo”: è un altro algoritmo in grado di inserire dei “pixel di disturbo” sullo sfondo di un video per evitare che possa essere manipolato, rendendo complicata l’analisi del volto “vittima” in fase di estrazione delle immagini.

Poco tempo per leggere? Ascolta il vodcast!

Simone Cosimi

Simone Cosimi

Simone Cosimi, giornalista professionista, collabora con Repubblica, D, Wired, VanityFair.it e altre testate nazionali. Segue diversi ambiti fra cui tecnologia, innovazione, cultura, politica, esteri e territori di confine, spingendo verso un approccio multidisciplinare. Già redattore del mensile culturale Inside Art, per cui ha curato cataloghi d’arte e pubblicazioni come il trimestrale Sofà, ha lavorato in passato, fra gli altri, per Rockstar, DNews, Excite, Style.it e Corriere di Rieti.

Iscriviti alla newsletter