Un mese fa uno scandalo ha sconvolto la Corea dei Sud. Alla fine del mese di agosto era stata scoperta una chat su Telegram in cui venivano condivise immagini porno false ai danni principalmente di ragazze, spesso minorenni. I partecipanti della chat erano ben 220mila, il culmine di un fenomeno, quello della pornografia deepfake, molto più radicato di quanto si pensi. La notizia è stata diffusa in seguito alle 88 segnalazioni ricevute, che hanno permesso di identificare 24 sospetti in una settimana. La maggior parte delle vittime erano ragazze, il 60% delle quali minorenni. Secondo quanto riportato dall’agenzia di stampa Yonhap, quest’anno la polizia sudcoreana ha gestito più di 800 casi di reati sessuali tramite deepfake.
Creare questo tipo di contenuti è molto semplice. Basta andare sul profilo social di una qualsiasi persona, prendere una foto e grazie all’Intelligenza Artificiale creare un video porno “deep fake”, quindi totalmente falso. Dopodiché, basta far girare il contenuto in rete senza che la “protagonista”, anche se sarebbe meglio definirla vittima, ne sia al corrente. I programmi in grado di creare deepfake, non sempre utilizzati allo scopo di creare contenuti pornografici, sono diventati sempre più raffinati, rendendo quasi impossibile capire se si tratti di immagini vere o false.
In queste settimane, i manifestanti si sono riuniti per le strade di Seoul per chiedere delle azioni attive al fine di eliminare crimini simili. Lo scandalo, infatti, riguarda un fenomeno molto diffuso tanto da essere definito un’emergenza. Negli ultimi sei anni ci sono state almeno 2mila vittime di reati di deepfake, e si tratta di un numero sottostimato dal momento che molte donne evitano di denunciare. Per di più, oltre il 30% delle vittime che ha invece cercato aiuto erano minorenni.
Il fenomeno non risparmia i personaggi dello spettacolo: secondo le ricerche della società di cybersicurezza Security Hero, oltre la metà della pornografia deepfake nel mondo vede come protagoniste le celebrità sudcoreane, quasi totalmente donne.
Solitamente, gli autori dei deepfake sono ragazzi mossi dal “divertimento” di utilizzare immagini di persone conosciute, come compagne o insegnanti, per trasformarle in falsi porno, che purtroppo sembrano fin troppo reali. Le dichiarazioni degli autori sono sempre le stesse, si appellano alla curiosità e al divertimento, facendo intendere che non riconoscevano la gravità dei crimini che stavano commettendo. Per le vittime tutto questo si traduce in un clima di paura e sfiducia nelle istituzioni, comprese scuola e luoghi di lavoro. Da quando è scoppiata la crisi, moltissime donne hanno rimosso le loro foto e video dai social, terrorizzate che potesse accadere qualcosa di simile anche a loro.
Affinché il fenomeno venga combattuto efficacemente, bisogna intensificare le indagini della polizia ma anche costruire una “sana cultura mediatica”, ha sottolineato il presidente Yoon Suk Yeol.
Telegram e la diffusione di immagini porno
Agli inizi di settembre è stata aperta un’indagine contro Telegram con l’accusa di “incoraggiare” la diffusione di immagini deep fake. Mentre tutto questo accadeva in Corea del Sud, in Francia è stato arrestato il fondatore e amministratore delegato di Telegram Pavel Durov dopo le accuse secondo cui sull’app di messaggistica crittografata si sarebbero verificati episodi di pornografia infantile, traffico di droga e frode. Nonostante ciò, Durov è stato rilasciato ma sottoposto a un pesante controllo giudiziario.
Telegram è particolarmente diffuso in Asia e i problemi legati alle attività illecite che si svolgono sulla piattaforma sono sempre più evidenti: dal gioco d’azzardo ai ricatti sessuali, dalla propaganda radicale alla pedopornografia. L’app è stata spesso criticata per la mancanza di un sistema di moderazione e di collaborazione con le forze dell’ordine per la rimozione di contenuti potenzialmente dannosi.
Corea del Sud e discriminazione di genere
I critici del Governo sudcoreano non hanno mancato di ricordare che prima di salire al potere, il presidente Yoon aveva dichiarato che le donne sudcoreane non subiscono “discriminazioni di genere sistemiche”, affermazione che metterebbe in dubbio la volontà di gestire in modo adeguato il problema.
Il Paese, infatti, detiene il record di Stato con il più alto divario retributivo di genere tra le nazioni ricche, da aggiungere alla diffusa cultura delle molestie sessuali, da cui deriva l’utilizzo delle tecnologie in tal senso. Per avere un’immagine più chiara, una femminista ha mappato le scuole in cui sono stati creati contenuti deepfake su minorenni da studenti maschi.
I crimini sessuali digitali erano già diffusi prima dell’avvento dell’intelligenza artificiale. Sei anni fa ci furono le proteste delle donne riprese da telecamere nascoste nei bagni o negli spogliatoi, una pratica che prende il nome di molka. Nel 2019 ci fu lo scandalo ‘nth-room’, quando si scoprì una chat Telegram in cui decine di donne venivano ricattate e costrette a inviare immagini sessuali degradanti e violente. In questo caso, l’ideatore dell’organizzazione, Cho Ju-bin, è stato condannato a 42 anni di carcere per aver ricattato almeno 74 donne di cui 16 adolescenti. La criminalità online in Corea del Sud prevede anche l’utilizzo di telecamere spia per pubblicare materiale di revenge porn, ovvero contenuti pornografici privati condivisi senza il consenso al fine di vendicarsi.
Human Rights Watch ha confermato che la violenza di genere online è un problema diffuso in Corea del Sud, e che giudici, pubblici ministeri, polizia e legislatori a maggioranza uomini, non prendono questi crimini abbastanza sul serio.
Le proteste a Seoul
In questo scenario si collocano le proteste organizzate con cadenza settimanale ormai da un mese. Lo scorso weekend i manifestanti vestiti di nero si sono riuniti a Hyehwa-dong, nel centro di Seoul, per chiedere azioni efficaci per eliminare crimini simili. Durante le manifestazioni sono state condivise storie personali e di conoscenti che soffrono a causa della diffusione di immagini pornografiche deepfake.
Le proteste sono continuate anche in seguito all’approvazione del disegno di legge che criminalizza il possesso e la visione di immagini e video deepfake sessualmente espliciti. Ma agli attivisti non basta, chiedono misure più severe, giustizia per le vittime e responsabilità da parte del governo nell’affrontare quella che è stata definita un’“epidemia di crimini sessuali”.
Il Governo ha approvato un disegno di legge che prevede di punire con una pena fino a tre anni di carcere o una multa fino a 30 milioni di won (circa 23.000 dollari) chiunque possieda, acquisti, salvi o guardi materiale deepfake sessualmente esplicito. La nuova legge aumenterà anche la pena massima per chi realizza deepfake, da cinque a sette anni di detenzione. Il disegno di legge deve però ottenere l’approvazione del presidente Yoon affinché venga firmato e trasformato in legge.
Gli attivisti sostengono che le leggi attuali non siano sufficienti a combattere i reati sessuali diffusi nel Paese. Si richiede in particolar modo al governo di fornire un’educazione sessuale completa a bambini e adulti e di promuovere finalmente l’uguaglianza di genere nel Paese. Ciò che dovrebbe essere eliminato dalle piattaforme online non è il diritto all’autoespressione delle donne, ma la radicata cultura maschile.
Abbonati e diventa uno di noi
Se l'articolo che hai appena letto ti è piaciuto, domandati: se non l'avessi letto qui, avrei potuto leggerlo altrove? Se pensi che valga la pena di incoraggiarci e sostenerci, fallo ora.
