Deepfake, la moda devastante dei falsi porno video

Revenge porn, umiliazione pubblica, diffusione di nudi integrali. Ora la violenza sulle donne si esercita anche con la tecnica del “Deepfake”: una situazione destinata a peggiorare nel futuro.

Chissà se Hermione Granger, al secolo Emma Watson, interpretando nel 2001 “Harry Potter e la pietra filosofale” avrebbe mai immaginato che, nel 2020, sarebbe stata oggetto di uno sconcertante episodio di porno deepfake, visionato – in una manciata di giorni – ben 23 milioni di volte.

 È proprio ciò che le è accaduto lo scorso mese di giugno.

Il deepfake è quella tecnica basata sull’intelligenza artificiale che permette di combinare o sovrapporre delle immagini per creare un video falso, ma perfettamente credibile.

Tutto ha inizio su Reddit (Reddit è un social news aggregator, un misto di piattaforma di discussione e distributore di link, diviso in forum), quando un utente denominato “deepfakes” ha cominciato a portare sul sito immagini di film in cui il volto degli attori veniva sostituito quello di altre persone. Utilizzando strumenti di apprendimento automatico e programmi open source, l’utente ha presto raccolto l’attenzione di molti e soprattutto del sito Motherboard – Vice (sito web di notizie) che gli ha dedicato un articolo a dicembre dell’anno scorso.

Parliamo di un fenomeno allarmante che genera, ogni mese, oltre 1000 “fotomontaggi” pubblicati sui più grandi siti internet porno del pianeta, pagine con visualizzazioni da record  e,tanto per intenderci, stiamo parlando di siti internet che, in termini di visitatori, nella classifica dei siti più frequentati al mondo, sono secondi solo a Google, YouTube, Facebook, Twitter e Instagram, in alcuni casi hanno più visite di Wikipedia, Yahoo o Amazon.

Questo studio effettuato da Sensity è stato, tra l’altro commentato con dolore, dal collega Guido Scorza, oggi componente dell’Autorità Garante Privacy Italiana, in un suo recente post.

Su 14.678 video deepfake trovati in rete, il 96% è composto da materiale pornografico. Non sono solo le fake news il principale problema (almeno per ora), ma lo sfruttamento dell’immagine della donna.

Immaginate lo sconforto per l’universo femminile, perché – ovviamente – il fenomeno è totalmente “dedicato” alle donne – accorgersi, d’improvviso che il proprio volto sia stato ritagliato ad hoc, sul corpo di una porno star e sparato nell’universo dei siti porno.

 Un’autentica violenza sessuale con conseguenze sulla sua vita, probabilmente, comparabili.

E’ verosimile che milioni di bramosi frequentatori pornofili penseranno di riconoscere un volto, noto per ben diverse ragioni, in quella scena di sesso, molti si faranno – poco conta se a torto o a ragione – un’idea su di lei che semplicemente non corrisponde alla realtà.

Pochi, ovviamente, le diranno di averla vista su un sito porno e pochissimi, anche quando lei provasse a spiegare che si tratta di un fotomontaggio per quanto irriconoscibile, le crederanno davvero.

E la sua vita sarà, in molti casi, distrutta, il suo futuro compromesso perché quelle immagini, presumibilmente, continueranno a galleggiare sul web per sempre.

Lo studio di Sensity è assolutamente pessimista circa la possibilità di combattere consuccesso, questo fenomeno sconvolgente e dilagante: la tecnologia per la realizzazione dei porno deep fake – a cominciare da quelli a sfondo sessuale – è sempre più abbordabile,

Va detto, però, che i gestori dei siti porno, seppur con sensibilità e impegno diversi, stanno adottando rimedi utili, almeno a garantire alla vittima, di chiedere e ottenere – qualora se ne accorga – la rimozione del video o delle immagini, in tempi brevi.

Ma tutto ciò, sarà sufficiente?

prima che la malcapitata si renda conto di essere stata oggetto di questo stravolgimento della sua persona, il video sarà stato visualizzato e diffuso lungo centinaia di migliaia di rivoli digitali.

A questo punto va di chiedersi: quanto ci metteremo a fare i conti con una vittima adolescente alla quale l’ex fidanzato di turno o un gruppo di compagni di scuola decideranno di fare un “dispetto” di pessimo gusto e dalle conseguenze drammatiche, magari, senza neppure rendersene conto?

Non c’è tempo da perdere e, soprattutto, come talvolta accaduto, non ci si può lasciare fermare dalla natura pruriginosa del fenomeno, della pornografia, del mercato di riferimento.

I gestori dei siti porno sono, ormai, autentiche multinazionali del web che vanno trattate alla stessa stregua di Google, Facebook, Apple, Amazon o Twitter.

E da loro che va preteso che installino sistemi di riconoscimento automatico dei deep fake – che, ormai, iniziano a diffondersi – almeno per segnalare il carattere sospetto di un video in fase di upload da parte dell’utente, innanzitutto all’utente stesso che potrebbe essere inconsapevole del fake o, magari, comunque, pensarci due volte prima di violentare una donna via web.

E poi, naturalmente, ai moderatori perché verifichino ed eventualmente blocchino la pubblicazione del contenuto.

Ribadisco quanto espresso in precedenti post, è indispensabile dotarci di leggi che puniscano in maniera esemplare i novelli violentatori sessuali digitali.

In Italia, ad esempio, abbiamo finalmente, una buona legge sul revenge porn ma è difficile, stante il sacrosanto principio di tassatività del diritto penale, applicarla all’ipotesi nella quale a finire online è un fotomontaggio; una legge che va sicuramente rivisitata alla luce del fenomeno – oggi – commentato e che si proponga come “aperta” alla stigmatizzazione di fenomeni similari.

L’educazione, la cultura dei diritti della persona anche nella sua dimensione digitale, il confronto a scuola, in famiglia e in università, deve fare la differenza.

Mi piace concludere con un invito: Aiutatemi a realizzare un sogno. Voglio portare in giro per i Teatri d’Italia un mio monologo dedicato al “lato oscuro del web e dei Social Media”, proprio per rendere (maggiormente) consapevoli: Genitori, Insegnanti, i nostri figli, gli educatori, tutti coloro che “dipendono”, dallo strapotere della digital comunication…mi date una mano?

Buona vita

Federico Bergaminelli

Avv.Federico Bergaminelli

Esperto di diritto delle nuove tecnologie ICT, TLC, energie rinnovabili e reti intelligenti; proprietà intellettuale e industria; procedimenti innanzi alle autorità amministrative indipendenti e altro contenzioso in materia di privacy nelle comunicazioni.

A latere delle attività di consulenza e con l’entrata in vigore della Legge 190 del 6 novembre 2012 (Disposizioni per la prevenzione e la repressione della corruzione e dell’illegalità nella pubblica amministrazione), ai cui lavori preparatori ha partecipato direttamente, promuove la costituzione dell’Istituto Italiano per l’Anticorruzione, organizzazione nazionale che gode dell’Alto Patronato del Presidente della Repubblica. Sin dall’inizio, ne è il Presidente.

Professore associato presso l’Università degli Studi di Pisa (Facoltà di Giurisprudenza, titolare del corso su “Responsabilità civile per illecito trattamento dei dati personali”), docente a contratto presso l’Università degli Studi di Cassino (membro del comitato didattico del master in “Innovazione e management nelle Pubbliche Amministrazioni”), presso l’Università “Magna Graecia” di Catanzaro (membro del comitato didattico del master in “Medicina delle biotecnologie”) e presso l’Università degli Studi di Napoli (Facoltà di Scienze Infermieristiche ).

E’ team leader e master trainer di schema ISO 37001:2016 per il gruppo internazionale DNV-GL ed opera quale formatore accreditato in materia di Prevenzione della Corruzione ed in materia di Privacy presso Enti Pubblici ed Enti Nazionali di Formazione. Consulente di Federsanità-ANCI, coordina l’Osservatorio Nazionale sul Fascicolo Sanitario Elettronico presso l’Università “Carlo Bò” di Urbino. E’ socio di vari Istituti nazionali ed internazionali di diritto pubblico. E’ autore di pubblicazioni scientifiche e di commento ed annovera numerose partecipazioni ad eventi formativi e convegni, anche di rilievo internazionale.