L’Oversight Board chiede a Meta di fare di più contro i deepfake sessuali che colpiscono le persone comuni

È di pochi giorni addietro la notizia che riporta l’attenzione sul problema dei deepfake sessuali generati dall’intelligenza artificiale, con il Meta Oversight Board, il Consiglio di sorveglianza indipendente che vigila sul rispetto delle regole sui contenuti di Facebook e Instagram, che ha pubblicato le proprie raccomandazioni all’azienda dopo un’indagine su un caso concreto avvenuto su Instagram.

Non è la prima volta che il Consiglio si trova a criticare le politiche di moderazione di Meta: a giugno 2025 aveva già sollevato il problema delle falle nella gestione dei deepfake che coinvolgono le celebrità, parlando di un approccio “incoerente e ingiustificabile”. Questa volta il focus si sposta sulle persone comuni, che il sistema attuale sembra proteggere in misura decisamente inferiore rispetto ai personaggi pubblici.

Il caso che ha dato origine all’indagine riguarda un video AI pubblicato su Instagram che mostrava una donna mentre sistemava il proprio vestito, con la biancheria intima visibile in alcuni fotogrammi.

Due utenti avevano segnalato il video a Meta, ma l’azienda non l’aveva rimosso. L’utente che ha poi presentato ricorso al Board aveva già fatto un primo appello a Meta, anche stavolta senza esito e solo dopo che il Board stesso ha sollevato la questione internamente, Meta si è limitata a rendere il post visibile solo agli adulti, concludendo che non violava le proprie linee guida per la rimozione.

Segui TuttoTech.net su Google Discover

Il sistema funziona meglio per i personaggi pubblici

Secondo il Board, le risposte di Meta durante l’indagine rivelano un problema per cui l’unico modo praticabile per una persona comune di dimostrare il mancato consenso è la segnalazione diretta da parte della vittima stessa. Per i personaggi pubblici esistono canali alternativi, come le segnalazioni delle forze dell’ordine, dei media o di partner fidati, oppure didascalie o titoli che suggeriscano una diffusione “vendicativa o sensazionalistica”. Percorsi che le persone comuni difficilmente riescono a percorrere.

Meta ha spiegato al Board che al momento della prima segnalazione non aveva elementi per stabilire che la persona ritratta nel video fosse reale. Se la diretta interessata avesse segnalato il video autonomamente, quello avrebbe costituito un chiaro indicatore di mancato consenso e il contenuto sarebbe stato rimosso. Un ragionamento circolare che il Board ha definito inaccettabile, soprattutto nel caso specifico in cui la persona ritratta aveva già chiuso il proprio account e quindi non era in condizione di segnalare nulla.

Le tre raccomandazioni del Board

Il Consiglio ha formulato tre raccomandazioni principali. La prima chiede di includere le impersonificazioni sessuali generate dall’AI nella policy di Meta sull’Abuso Sessuale degli Adulti, considerandole per definizione prive di consenso.

La seconda prevede la possibilità per gli utenti di designare degli “account connessi“, ovvero amici o familiari fidati, autorizzati a segnalare violazioni come la condivisione non consensuale di immagini intime per conto di chi non può farlo direttamente.

La terza chiede di rendere la categoria dei deepfake sessuali AI una voce separata nei moduli di segnalazione e appello, disponibile per tutti gli utenti a livello globale. Attualmente solo i residenti in Texas e in Florida hanno accesso a un modulo specializzato che elenca i deepfake intimi come motivo di segnalazione.

“È evidente che la scala, la velocità e la sofisticazione degli strumenti AI hanno determinato una proliferazione di contenuti sessuali non consensuali generati dall’intelligenza artificiale a livello globale“, ha scritto il Board nel proprio rapporto.

Meta è obbligata a rispondere, non ad agire

Va detto che Meta è tenuta a rispondere alle raccomandazioni del Board, ma non è obbligata a implementarle. Se dovesse scegliere di adottarle, il Board ne monitorerà l’attuazione. Per il caso specifico che ha originato l’indagine, il Board ha invece revocato la decisione di Meta di lasciare il video online e ha richiesto la rimozione del contenuto.

Non è la prima volta che il dibattito sui deepfake sessualizzati prende piede anche in Europa. A marzo l’UE aveva votato per vietare le app per la creazione di nudi deepfake, anche se alcune parti dell’AI Act sono state rinviate al novembre 2026. Il caso Meta evidenzia quanto la moderazione dei contenuti resti ancora largamente insufficiente rispetto alla velocità con cui questi strumenti si diffondono.