La moderazione sui social network di Meta sarà affidata all’IA

Le funzionalità basate sull’intelligenza artificiale oramai da un paio di anni hanno letteralmente stravolto i social network e pare che in futuro l’importanza di tale tecnologia sia destinata ad aumentare in modo ancora più notevole.

Almeno ciò è quanto emerge da quelli che sono i programmi di Meta in fatto di moderazione: il colosso dei social network, infatti, ha annunciato che nel corso dei prossimi anni l’azienda implementerà sistemi di intelligenza artificiale più avanzati nelle sue app, trasformando in modo radicale il suo approccio alla gestione dei contenuti, il tutto con l’obiettivo di riuscire ad individuare e rimuovere con maggiore precisione le violazioni più gravi, come le truffe e i contenuti illegali.

In virtù di tale nuovo sistema, gli utenti dovrebbero finire per visualizzare meno contenuti pericolosi o inadeguati.

Un nuovo sistema di moderazione di Meta con l’IA

L’attuale quantitativo di collaboratori umani dedicati alla moderazione subirà una drastica riduzione e a “tremare” per questa importante modifica sono migliaia di persone che attualmente hanno il compito di esaminare i contenuti segnalati dai sistemi di intelligenza artificiale di Meta e le segnalazioni degli utenti.

Un esempio pratico di ciò che ha in mente il colosso statunitense è rappresentato dall’assistente virtuale Meta AI, perfettamente integrato in Facebook e Instagram e capace di garantire un aiuto con un semplice tocco, rispondendo in pochi secondi alle richieste e riducendo così i tempi di attesa rispetto alle tradizionali ricerche nei centri assistenza.

Il nuovo assistente di supporto Meta AI è stato progettato con l’obiettivo di aiutare gli utenti a risolvere i problemi più comuni del proprio account (per esempio, sulle impostazioni delle notifiche o sulle nuove funzionalità), consentendo anche di segnalare truffe, account falsi o contenuti problematici, avere dettagli sul motivo per il quale i propri contenuti sono stati rimossi, gestire le impostazioni sulla privacy e reimpostare la password.

A dire del colosso dei social network, con il nuovo approccio gli esseri umani cambieranno il proprio ruolo, in quanto si troveranno a svolgere un compito “chiave” nelle “decisioni critiche” (per esempio, valutando i ricorsi contro la disattivazione degli account o se effettuare una segnalazione alle forze dell’ordine) e forniranno supporto nella formazione e in altre attività.

Meta ci tiene a precisare che il suo team di sviluppatori sta testando in modo rigoroso ciascuno di questi sistemi di intelligenza artificiale, integrando misure di sicurezza e valutandone le prestazioni per proteggerli da eventuali pregiudizi, così da garantirne la coerenza e l’accuratezza.

Nei prossimi mesi ne sapremo certamente di più.