Twitch ha deciso di prendere provvedimenti contro un problema sempre più serio, il dilagare dei cosiddetti deepfake che, pur vietati dalla piattaforma stanno letteralmente tracimando sulla stessa. Per farlo, è stata presa la decisione di aggiornare le linee guida concernenti i contenuti per “adulti”, prospettando il definitivo bando nei confronti di chi dovesse persistere in un comportamento ritenuto con tutta evidenza pericoloso da un punto di vista etico, ovvero l’utilizzo di questa tecnica per creare contenuti pornografici.

Twitch si schiera contro il deepfake

Twitch ha deciso di non restare a guardare e di colpire con forza tutti coloro che stanno utilizzando la piattaforma al fine di diffondere contenuti pornografici creati con tecniche di deepfake. I video in questione sono stati diffusi negli ultimi mesi colpendo non solo celebrità, ma anche influencer e semplici utenti, costringendo infine l’azienda a porre un confine che non dovrà essere violato, pena l’immediata sospensione.

A colmare la misura è stato un episodio accaduto il mese passato, quando un utente di Twitch, uno streamer noto come Atrioc, è stato sorpreso nell’atto di utilizzare un sito in grado di produrre video deepfake a danno di colleghi e amici. Quando la vicenda è diventata di pubblico dominio lo stesso Atrioc si è scusato e ha cessato la pubblicazione di questi contenuti, ma il problema è balzato con tutta la sua evidenza all’attenzione generale, spingendo infine Twitch a farsene carico.

La soluzione è stata individuata nella revisione della politica relativa ai cosiddetti profili synthetic NCEI (Non-Consensual Exploitative Image), categoria che include quegli utenti non-umani in grado di imitare persone in carne e ossa utilizzando il loro volto come base. Questi canali saranno oggetto di bando nel caso in cui mostreranno i deepfake incriminati, oppure li utilizzeranno in maniera indebita. Coloro che lo faranno saranno a loro volta sanzionati sin dalla prima violazione, con possibilità di appellarsi alla decisione le quali saranno estremamente limitate.

La stessa azienda ha poi precisato che il prossimo 14 marzo darà luogo ad un apposito evento, un Creator Camp virtuale sui deepfake NCEI cui prenderà parte Zara Ward, una streamer di Twitch esperta di NCEI e manager della linea di assistenza Revenge Porn, nel corso del quale provvederà a spiegare la sua nuova politica in questo ambito. Subito dopo le regole adottate diventeranno effettive e da quel momento sarà proibito sbagliare.

Il deepfake rappresenta un problema reale

Il deepfake sta diventando un problema sempre più pressante, venendo usato ad esempio per il cosiddetto “revenge porn”, oltre che per seminare discredito su avversari politici o altre figure pubbliche di spicco. Ne ha preso atto Twitch pubblicando un lungo post sulla piattaforma, in cui ha spiegato che il porno deepfake non è un problema solo della piattaforma, ma di Internet in generale. Tesi dimostrata dalla recente decisione di Google, che lo ha bandito da Colaboratory.

L’azienda ha inoltre dato vita ad un team di esperti con cui consultarsi periodicamente sulle tematiche collegate al deepfake. Una squadra che è composta dall’esperta di sicurezza Danielle Keats Citron, professoressa di diritto e vicepresidente della Cyber ​​Civil Rights Initiative, e da esperti della UK Revenge Porn Helpline.

Inoltre, Twitch consiglia a coloro che sono stati colpiti da queste tecniche di rivolgersi alla linea di assistenza che è stata approntata negli Stati Uniti dalla Cyber-Civil Rights Initiative e da quella di Revenge Porn nel Regno Unito. Mentre i minori di 18 anni possono a loro volta provare a contattare il sito TakeltDown, per capire come muoversi in situazioni di questo genere. Inoltre, sarà possibile creare una impronta digitale di ogni immagine NCEI, anche non ancora condivisa, in modo da poter rimuovere i contenuti in caso vengano immessi in rete.