Secondo l’Oversight Board, il Consiglio di sorveglianza indipendente che vigila sul rispetto delle regole sui contenuti di Facebook e Instagram, Meta non si sta impegnando a sufficienza per limitare i contenuti truffaldini che circolano sui suoi social e per impedire che i truffatori la facciano franca.

Esemplare il caso del video deepfake di una pubblicità per un gioco online in stile casinò chiamato Plinko, che per promuoversi ha sfruttato l’intelligenza artificiale e la notorietà dell’ex calciatore Ronaldo Luis Nazário de Lima (noto anche come “Il Fenomeno”), pubblicità ingannevole che è rimasta online per molto tempo (generando oltre 600mila visualizzazioni) nonostante le molte segnalazioni di truffa ricevute da Meta.

Meta accusata di non fare abbastanza per limitare i deepfake delle celebrità sui suoi social

“È probabile che Meta stia consentendo la pubblicazione di una quantità significativa di contenuti truffaldini sulle sue piattaforme per evitare di forzare in modo potenzialmente eccessivo un piccolo sottoinsieme di approvazioni di celebrità autentiche. I recensori su larga scala non sono in grado di far rispettare questo divieto sui contenuti che creano un personaggio falso o fingono di essere una persona famosa per truffare o frodare. Meta dovrebbe far rispettare questo divieto su larga scala, fornendo ai recensori degli indicatori spesso facilmente identificabili che distinguano i contenuti AI”

È quanto ha scritto l’Oversight Board, conclusione a cui è giunta seguendo proprio il caso menzionato che mette in luce delle falle significative nell’approccio di Meta alla moderazione dei contenuti per le truffe che coinvolgono persone famose. Il Consiglio si riferisce in particolare agli ormai molti contenuti che mostrano attori, cantanti, politici e sportivi in video artefatti manipolati con l’intelligenza artificiale che, risultando credibili, sono capaci di promuovere servizi, prodotti e, più in generale di diffondere informazioni false e contenuti ingannatori.

Oltre al caso del video di Plinko citato, sono circolati molto sui social altri celebri deepfake di celebrità come l’app per fare soldi facili pubblicizzata da Cristiano Ronaldo, le cure dentali proposte da Tom Hanks, i metodi di cura del diabete di Elon Musk o i consigli sugli investimenti in criptovalute dello stesso Mark Zuckerberg, che è stato pertanto spronato a fare di più.

Soprattutto perché Meta avrebbe comunicato ai suoi dipendenti di applicare la sua politica per contrastare questi contenuti truffaldini solo in caso di escalation, cioè solo quando la loro diffusione determinati livelli. Perché “ciò richiede un’analisi altamente dipendente dal contesto e dalle competenze specialistiche” ha spiegato Meta al Consiglio, aggiungendo inoltre che l’interpretazione dei revisori può variare da un’area all’altra e potrebbe introdurre delle incoerenze nell’applicazione del sistema”. Ne risulta dunque che una quantità significativa di contenuti truffaldini sta probabilmente sfuggendo ai controlli che Meta dovrebbe fare.

L’Oversight Board ha pertanto esortato l’azienda ad aggiornare le proprie linee guida interne e a responsabilizzare i revisori dei contenuti per identificare tali truffe fornendo loro una formazione adeguata sugli “indicatori” chiave per riconoscere i contenuti manipolati con l’intelligenza artificiale.

In risposta al Consiglio, un portavoce di Meta ha definito inaccurate molte delle affermazioni del Consiglio affermando che “Man mano che questa attività (la circolazione di video deepfake, ndr) è diventata più persistente e sofisticata, sono aumentati anche i nostri sforzi per contrastarla. Stiamo testando l’uso della tecnologia di riconoscimento facciale, contrastando con forza le truffe e consentendo alle persone di proteggersi attraverso diversi strumenti e avvisi di sicurezza sulla piattaforma. Pur apprezzando il parere dell’Oversight Board in questo caso, molte delle affermazioni dell’Oversight Board sono semplicemente inesatte e risponderemo alla raccomandazione completa entro 60 giorni, in conformità con lo statuto”.

Potrebbero interessarti anche: