OpenAI introduce nuovi controlli in Sora per limitare l’uso dei propri avatar IA

OpenAI ha annunciato un aggiornamento importate per Sora, la sua controversa piattaforma di video generativi basata sull’intelligenza artificiale, recentemente arrivata alla seconda versione, e che si sta tramutando sempre più in una sorta di TikTok dei deepfake. Il nuovo aggiornamento introduce controlli avanzati che permettono di gestire in modo più preciso la presenza delle proprie versioni IA, chiamate cameo, all’interno dei video pubblicati sull’app; una mossa che arriva in un momento delicato, mentre la piattaforma è alle prese con un’ondata di contenuti generati dall’IA e con crescenti preoccupazioni per l’abuso della tecnologia.

Offerta

Amazon Fire TV Stick 4K Select

19.99€ invece di 54.99€

-64%

Amazon 🛒

Sora di OpenAI permette ora un maggiore controllo sui propri cameo

Bill Peebles, a capo del team Sora di OpenAI, ha spiegato che ora gli utenti potranno limitare l’uso del proprio avatar IA in base a diversi contesti, ad esempio sarà possibile impedire che la propria copia virtuale appaia in video a tema politico, pronunci determinate parole o compaia in contesti indesiderati (come accanto a un determinato oggetto o marchio). In altre parole, un sistema pensato per evitare usi impropri o offensivi dei propri sosia digitali, che fino ad oggi potevano apparire liberamente in contenuti creati da terzi.

Thomas Dimson, membro dello staff di OpenAI, ha aggiunto che gli utenti potranno anche personalizzare le preferenze estetiche e comportamentali dei loro avatar, per esempio imponendo che indossino un accessorio o un capo d’abbigliamento specifico in ogni video.

La piattaforma Sora 2, lanciata appena una settimana fa, è diventata rapidamente un fenomeno virale ma anche un simbolo del caos dell’IA generativa; nei suoi primi giorni l’app ha letteralmente inondato la rete di video generati dall’intelligenza artificiale, molti dei quali utilizzano volti di persone reali, celebrità comprese, senza alcun consenso.

Gli strumenti di controllo introdotti finora erano piuttosto rudimentali, limitandosi a un semplice sì o no per consentire o meno l’uso del proprio volto in gruppi di utenti selezionati; ma i casi di abuso e disinformazione hanno evidenziato la necessità di interventi più stringenti, non è un caso che Sam Altman, CEO di OpenAI, sia apparso in diversi video ironici (e non autorizzati) creati con Sora, nei quali il suo alter ego digitale veniva mostrato mentre rubava, rappava o addirittura interrogava un Pikachu.

OpenAI ha inoltre dichiarato di star lavorando per migliorare la filigrana digitale che dovrebbe contrassegnare i contenuti generati da Sora, dopo che diversi utenti sono già riusciti ad aggirarla; Peebles ha assicurato che il team continuerà a rafforzare le restrizioni e ad aggiungere nuovi strumenti per mantenere il controllo sui cameo IA.

Resta però il dubbio che queste misure siano sufficienti a contrastare il fenomeno dei deepfake incontrollati, che molti esperti considerano uno dei rischi più immediati dell’IA generativa applicata ai contenuti multimediali. Le esperienze passate con chatbot e modelli linguistici come ChatGPT o Claude, spesso utilizzati impropriamente nonostante i filtri di sicurezza, non lasciano del tutto tranquilli.

L’aggiornamento di Sora rappresenta un passo nella direzione giusta, ma non risolve il problema alla radice, ovvero la facilità con cui chiunque può creare e diffondere video iperrealistici con protagonisti virtuali, talvolta indistinguibili dalle persone reali.

OpenAI sembra voler dimostrare maggiore attenzione alle preoccupazioni degli utenti e alla gestione etica dei propri strumenti, ma il rischio che internet venga sommerso da contenuti spazzatura generati dall’IA resta alto; il futuro di Sora, e forse dell’intero settore dei video generativi, dipenderà da quanto queste promesse di controllo sapranno tradursi in risultati concreti.