Con l’avanzare delle capacità dell’intelligenza artificiale, la sfida per moderare la generazione di contenuti osceni, inquietanti, odiosi oppure offensivi probabilmente diventerà sempre più ardua.

L’ultimo esempio sono gli adesivi AI che Meta ha recentemente annunciato per le sue app social che permettono agli utenti di generare sticker con un testo.

Come prevedibile la funzionalità sta già incontrando problemi, in quanto alcuni utenti sono riusciti a creare adesivi disturbanti senza troppi sforzi in Facebook Messenger.

Ad esempio personaggi protetti da copyright come Topolino o Super Mario in scenari violenti o sessualizzati, politici in situazioni umilianti, bambini soldato e altro.

meta stickers ai luigiwar

Gli sticker AI di Facebook sono privi di moderazione

Sebbene Meta disponga di metodi di screening per individuare i contenuti inappropriati, le possibilità quasi infinite degli strumenti di intelligenza artificiale rendono estremamente difficile una moderazione efficace.

Meta ha riconosciuto il problema sottolineando il suo impegno per migliorare lo sviluppo responsabile della funzionalità e ha affermato che i filtri di moderazione si evolveranno mano a mano che l’azienda riceverà più feedback sugli effetti indesiderati.

Tuttavia alcuni utenti sostengono che Meta sia stata troppo frettolosa nel lanciare la funzionalità senza dare sufficienti garanzie sul controllo dell’output. Anche gli strumenti generativi di OpenAI hanno incontrato problematiche simili, ma del resto la corsa all’intelligenza artificiale non aspetta nessuno.

Potrebbe interessarti: Meta potrebbe lanciare un abbonamento da 10 euro al mese per Facebook e Instagram