Uno deepfake generato con l’intelligenza artificiale può diventare uno strumento per diffondere odio e mettere a tacere chi partecipa al dibattito pubblico. Lo sostiene la decisione dell’Oversight Board su Meta, che ha ribaltato la scelta dell’azienda di lasciare online un video manipolato contro una consigliera laburista scozzese.

Segui TuttoTech.net su Google Discover

Pubblicità-43%Nuovo POCO F9 Ultra
Amazon
Nuovo POCO F9 Ultra
🎟 Offerta in pagina + coupon: 26POCOF9
629,90€1.099,90€
Vai all'offerta

Il caso della consigliera laburista scozzese

Nel novembre 2025 un iscritto a Facebook ha pubblicato un breve video che mostrava il volto di una consigliera del Partito laburista in Scozia. Il contenuto, apparentemente creato con l’intelligenza artificiale, la ritrae mentre pronuncia una frase rivolta contro i rifugiati:

“I rifugiati sono benvenuti qui, anche se violentano le nostre donne, perché anche i bianchi lo fanno”.

La rappresentazione è realistica, ma a un esame più attento appare sintetica: l’audio non è del tutto sincronizzato con i movimenti del viso, segno che si tratta di una fabbricazione. Il video faceva parte di un album che conteneva anche la fotografia di diverse donne nominate, presenti a una protesta contro l’estrema destra, tra cui la stessa consigliera. Insieme, album e video hanno superato 5.000 visualizzazioni, più di 50 commenti, oltre 20 reazioni e più di 10 condivisioni.

Due persone, inclusa la politica ritratta, hanno segnalato il video per violazione della policy su Bullismo e molestie, ma i sistemi di Meta non hanno dato priorità al contenuto per una revisione umana, e il post è rimasto su Facebook. Entrambe hanno presentato appello a Meta, che però ha mantenuto il post senza sottoporlo a un esame umano. Una delle due persone coinvolte, non la politica, si è poi rivolta al Board. Quando l’organismo ha portato il caso all’attenzione di Meta, l’azienda ha concluso che il video non violava i suoi Community Standards e non meritava un’etichetta AI.

Meta ha anche contestato l’interpretazione secondo cui il contenuto facesse affermazioni generalizzate sui rifugiati in violazione della policy su Hateful Conduct. Ha sostenuto che il video non soddisfaceva i criteri per la disinformazione perché non era stato segnalato da alcun membro del suo programma Trusted Partner, e che non poteva essere considerato ingerenza elettorale dal momento che la consigliera ritratta non si era candidata alle recenti elezioni locali scozzesi. L’azienda ha citato anche il basso engagement e la natura “satirica” del video come motivi per non applicare un’etichetta AI. Nel frattempo, immigrazione e alloggi per richiedenti asilo erano temi di acceso dibattito politico in vista delle elezioni, comprese quelle in Scozia del 7 maggio 2026, alle quali però la consigliera non era candidata.

Cosa ha deciso il Board

L’organismo ha valutato il caso alla luce di tre politiche di Meta: Hateful Conduct, Disinformazione e Bullismo e molestie. La maggioranza del Board ha stabilito che il video avrebbe dovuto essere rimosso in base alla policy su Hateful Conduct, perché accusa i rifugiati nel loro insieme di gravi reati e di comportamenti sessuali predatori, non solo alcuni rifugiati come sosteneva Meta. Una minoranza dissente: secondo questa posizione il video non andrebbe considerato discorso d’odio perché diretto alle presunte opinioni della politica, non a tutti o alla maggior parte dei rifugiati, e perché, trattandosi di discorso politico, la soglia per la rimozione dovrebbe essere più alta.

Sulla disinformazione, la maggioranza del Board ritiene che la rimozione non sarebbe stata giustificata, ma che il video avrebbe dovuto ricevere un’etichetta High Risk AI. L’analisi conclude che le regole di Meta sull’etichettatura dei deepfake sono inadeguate. Anche su questo punto emergono posizioni minoritarie: una minoranza sostiene che l’etichetta High Risk sia troppo restrittiva e che sarebbe stata più appropriata un’etichetta meno severa, AI Info; un’altra minoranza, separata, ritiene che la gravità dei danni, unita al fatto che Meta in pratica applica poche etichette AI, giustificherebbe la rimozione. Il Board ha inoltre stabilito che il video non richiederebbe la rimozione in base alle regole su bullismo e molestie, perché la funzionaria eletta è una figura pubblica e ha quindi diritto a una protezione minore rispetto ai privati.

In una decisione separata, il Board ha ordinato a Meta di rimuovere anche un video manipolato con l’AI che prendeva in giro una giovane donna musulmana in Europa, impegnata in una campagna per l’educazione alla salute mestruale. Il video la mostrava mentre eseguiva esercizi assurdi e mangiava junk food, e ha accumulato decine di milioni di visualizzazioni su varie piattaforme social. Complessivamente il Board ha chiesto la rimozione di entrambi i video AI-generati, ha definito le salvaguardie di Meta “consistentemente e fondamentalmente inadeguate” di fronte alla rapida crescita dei contenuti generati dall’IA, e ha formulato nove raccomandazioni tra i due casi, concedendo a Meta 60 giorni per rispondere.

“Da politici a cittadini privati, i deepfake generati dall’IA sono sempre più usati per molestare e mettere a tacere le donne, allontanandole dal discorso pubblico”, ha dichiarato Pamela San Martin, co-presidente del Board.

Le raccomandazioni a Meta

Il Board raccomanda a Meta di intervenire su più fronti. Ecco le richieste principali:

  • Cambiare la policy sui media manipolati per abbassare la soglia delle etichette High Risk, assicurandosi che non siano solo una misura legata a crisi o integrità elettorale.
  • Aumentare l’attrito per chi visualizza contenuti etichettati come AI-generated o High Risk AI, per esempio usando un interstitial, cioè una schermata che richiede un clic per vedere il contenuto, invece di una semplice etichetta.
  • Sottoporre tutti i contenuti etichettati High Risk a demonetizzazione, riduzione della diffusione o rimozione dalle raccomandazioni, con penalità crescenti per gli account che condividono più volte contenuti con etichetta High Risk.
  • Garantire che le regole e gli esempi relativi a interferenze su voto o censimento siano formulati come applicabili a livello globale e non limitati al contesto statunitense.
  • Divulgare pubblicamente, nel Transparency Center, dati annuali sul numero di volte in cui applica le etichette High Risk e High Risk AI ai contenuti, incluso il numero di volte in cui queste etichette vengono applicate a contenuti provenienti da politici o che li riguardano.
  • Assicurarsi che tutte le etichette previste dalla policy sulla disinformazione (AI Info, High Risk o High Risk AI) siano visibili sui contenuti nella Meta Content Library e che i contenuti che hanno ricevuto queste etichette siano ricercabili tramite un filtro.

Il Board ribadisce inoltre una raccomandazione già formulata nella decisione AI Generated Video in Israel-Iran Conflict: Meta dovrebbe pubblicare una spiegazione chiara delle penalità per chi non autodichiara contenuti creati o alterati digitalmente, fornire i criteri per le penalità e indicare quali funzionalità dell’account vengono limitate e per quanto tempo.