La legge può impedire ai bot di Telegram di spogliarci?

Immaginate di caricare una vostra foto in vacanza sulla vostra piattaforma di social media preferita. Siete vestiti in costume da bagno e sorridete spensierati alla macchina fotografica. Ora immaginate di incontrare questa immagine mentre scorrete la vostra bacheca. Riconoscete il vostro volto e lo sfondo e sembra proprio la vostra foto, ma in questa immagine siete completamente nudi. Ci sono alcune incongruenze ma è comunque convincente.

Potrebbe sembrare una scena di un episodio di Black Mirror, ma purtroppo è una possibilità reale grazie agli strumenti disponibili su Telegram, che permette agli utenti di caricare immagini di una persona (vestita) e di richiedere che la persona nell’immagine sia “spogliata digitalmente” a pagamento.

Telegram funziona prevalentemente come applicazione di messaggistica ma facilita programmi autonomi (chiamati “bot”), uno dei quali è in grado di “trasformare” digitalmente queste immagini. Telegram ha oltre 400 milioni di utenti attivi al mese!

La società di monitoraggio e rilevamento dei Deepfake  “Sensity “ha recentemente pubblicato una ricerca su Telegram e hanno scoperto che il 70% degli utenti utilizza un bot per manipolare foto di donne e che, alla fine di luglio 2020, almeno 104.852 immagini di nudo finto sono state condivise in un canale chiamato “collezioni di immagini” disponibile sull’app. Il numero di immagini richieste dagli utenti che sono state condivise pubblicamente è probabilmente molto più alto e la facilità con cui tale “manipolazione delle immagini” può essere effettuata all’insaputa delle vittime è davvero allarmante.

Dunque: l’uso di bot per produrre immagini pseudo nude è legale?

Se la persona nell’immagine è minorenne la posizione legale è chiara. Le immagini di bambini reali che vengono alterate per apparire nude o sessualmente esplicite sono illegali a livello internazionale. La Convenzione sui diritti del bambino, ratificata da 196 paesi, impone ai firmatari di adottare misure per proteggere i bambini dallo sfruttamento sessuale e dall’utilizzo nella produzione di materiale pornografico.

Fintanto che Telegram rimuove le immagini indecenti di bambini segnalate, non è colpevole – secondo gli attuali quadri giuridici internazionali – se un utente utilizza il bot per produrre un’immagine pornografica di un bambino. Ma è improbabile che questa legge renda il bot stesso illegale.

E gli adulti?
Per le donne e gli uomini di età superiore ai 18 anni, la produzione di una pseudo-immagine sessuale non è di per sé illegale ai sensi del diritto internazionale, anche se viene prodotta e distribuita senza il consenso della persona ritratta nell’immagine.

Questo è, come al solito, un caso di legge che gioca a rincorrersi. Le leggi internazionali create per proteggere la privacy non proteggono le persone da questo tipo di abuso. L’articolo 8 della Convenzione europea dei diritti dell’uomo, che prevede il diritto al rispetto della “vita privata e familiare, della casa e della corrispondenza” di una persona, è stato utilizzato come base per le leggi nazionali in tutta Europa per proteggere le fotografie, ma solo se l’immagine originale rimane inalterata.

Il bot di Telegram sfrutta quindi una lacuna legale quando si tratta di immagini di adulti falsificate (Telegram non ha risposto alle nostre domande sul bot e sulle immagini che produce, né alle richieste di Sensity ).

Mentre ci sono leggi che possono proteggere gli adulti dallo sfruttamento e dall’abuso sessuale attraverso i social media, queste leggi non sono così solide come quelle che proteggono i bambini. Non si applicano alle immagini prodotte da Telegram attraverso i bot.

Ad esempio, nel Regno Unito, il fenomeno del porno per vendetta – la condivisione non consensuale di immagini nude e sessuali – è proibito dal Criminal Courts and Justice Act (2015). Ma questo non copre le situazioni in cui un’immagine originale  viene manipolata per apparire nuda.

Affinché un’immagine alterata o falsa di un adulto possa essere considerata non conforme alla legge, devono essere coinvolti altri elementi. L’immagine creata per esempio deve essere considerata “offensiva”  e deve essere dimostrato che la pseudo-immagine è stata inviata allo scopo di causare “danno”. Gli elementi di questo reato sono oggettivamente difficili da provare.

In questo contesto, non sorprende che tali atti siano raramente denunciati, per non parlare delle indagini. I procedimenti giudiziari per questo tipo di reato sono rari, nonostante le linee guida del governo stabiliscano che questo tipo di reato può essere grave.

Regolamentazione di nuovi reati informatici
La tecnologia richiede che la legge si tenga al passo con le tendenze in rapida evoluzione e altamente complesse.  Telegram è solo un esempio del crescente interesse per le immagini e i video “deepfake”.

Il Regno Unito sta valutando una legislazione in base alla quale le piattaforme dei social media potrebbero essere multate per aver facilitato tali immagini. Il governo ha proposto di far sì che aziende come Telegram si assumano maggiori responsabilità per la sicurezza dei loro utenti e affrontino i danni causati da contenuti o attività sul loro servizio. Ma i progressi sono incerti e la legislazione potrebbe non essere approvata fino al 2023.

Le applicazioni che facilitano o producono immagini false per il consumo generale sono una tendenza pericolosa che non si dissiperà senza un notevole cambiamento dell’attuale quadro giuridico.

Fonte

Jo-Ann Pattinson, Postdoctoral Research Fellow, University of Leeds  
Subhajit Basu, Associate Professor in Cyberlaw; Chair, BILETA, University of Leeds

This article is republished from The Conversation under a Creative Commons license.
Read the original article.