L’UE indaga su X e Grok: riflettori puntati sulle immagini sessualizzate generate dall’IA

L’Unione Europea torna a stringere il cerchio attorno a X e al suo ecosistema di intelligenza artificiale, la Commissione irlandese per la protezione dei dati (DPC) ha infatti avviato un’indagine su larga scala nei confronti della piattaforma X, in relazione alla generazione e pubblicazione di immagini sessualizzate non consensuali tramite il chatbot Grok, sviluppato da xAI.

Una vicenda che, come spesso accade quando si parla di IA generativa e moderazione dei contenuti, si colloca all’incrocio tra libertà di espressione, tutela dei dati personali e responsabilità delle grandi piattaforme tecnologiche.

TV LG OLED AI B5 48''

Amazon 🛒

Un’indagine su X per possibili violazioni del GDPR

Il DPC, autorità responsabile dell’applicazione del Regolamento generale sulla protezione dei dati (GDPR) in Irlanda, dove molte big tech hanno la loro sede europea, ha confermato di aver avviato un’indagine formale per verificare la conformità di X ad alcuni obblighi fondamentali previsti dal regolamento.

Al centro dell’attenzione vi è la presunta capacità degli utenti di indurre l’account @Grok su X a generare immagini sessualizzate di persone reali, incluse donne e, elemento ancora più grave, minori. Secondo quanto dichiarato dal vice commissario Graham Doyle, l’indagine analizzerà se la piattaforma abbia rispettato:

• l’obbligo di trattare i dati personali solo per scopi specifici e legittimi
• il principio di privacy by design nello sviluppo del prodotto
• la necessità di effettuare valutazioni d’impatto sui rischi prima del lancio di funzionalità ad alto rischio

In altre parole, l’UE vuole capire se X abbia adeguatamente valutato e mitigato i rischi connessi alla generazione di contenuti sensibili tramite l’intelligenza artificiale.

Grok sotto pressione, tra libertà di parola e moderazione

Il chatbot Grok è integrato direttamente nel feed del social network e rappresenta uno dei pilastri della strategia IA di Elon Musk; negli ultimi mesi tuttavia, il suo funzionamento è finito più volte sotto i riflettori.

Già in estate, xAI era intervenuta per modificare alcuni comportamenti del sistema dopo che il chatbot aveva pubblicato contenuti antisemiti ed elogi nei confronti di Hitler. Più recentemente, a inizio gennaio, migliaia di deepfake sessualizzati di donne sarebbero stati generati tramite Grok, provocando una forte reazione da parte di utenti, esperti di sicurezza e politici.

Come spesso accade quando si parla di moderazione su X, la linea adottata da Musk è sempre rivolta a un approccio piuttosto non interventista, in nome della libertà di espressione. Tuttavia, le pressioni dei governi, tra minacce di multe e possibili divieti, hanno portato l’azienda a introdurre misure tecnologiche per limitare la generazione di immagini esplicite, insistendo sul fatto che il materiale pedopornografico e la nudità non consensuale vengano rimossi.

Non solo GDPR, in campo anche il Digital Services Act

L’indagine annunciata dal DPC non è l’unico fronte aperto, l’UE ha già avviato un procedimento separato nei confronti di xAI ai sensi del Digital Services Act, che impone alle grandi piattaforme online di mitigare la diffusione di contenuti illegali e dannosi.

Il doppio binario, GDPR da un lato e DSA dall’altro, mostra chiaramente come Bruxelles stia affrontando il tema da più prospettive: tutela dei dati personali, responsabilità nella diffusione dei contenuti, trasparenza algoritmica e valutazione dei rischi sistemici.

Nel frattempo, anche altre autorità si sono mosse, l’Information Commissioner’s Office del Regno Unito ha annunciato una propria indagine su X e xAI, esprimendo serie preoccupazioni sull’uso dei dati personali da parte di Grok e sul suo potenziale di generare immagini e video sessualmente espliciti dannosi.

Perquisizioni in Francia e clima teso in azienda

Il contesto è ulteriormente complicato dalle recenti perquisizioni negli uffici parigini di X, nell’ambito di un’indagine sugli algoritmi della piattaforma e sulla diffusione di materiale di abusi sessuali generati dall’IA; i procuratori francesi hanno convocato Elon Musk e l’ex CEO Linda Yaccarino per interrogatori volontari previsti ad aprile.

X ha definito le accuse infondate, parlando di un’azione di polizia abusiva e motivata da obbiettivi politici, sostenendo che l’indagine distorca la legge francese e metta a rischio la libertà di parola.

Il tutto si inserisce in un momento già turbolento per l’azienda, con decine di dipendenti che hanno lasciato il gruppo nelle ultime settimane e una ristrutturazione interna annunciata dopo la fusione tra xAI e SpaceX.

Cosa rischia X

Se l’indagine del DPC dovesse accertare violazioni del GDPR, le conseguenze potrebbero essere tutt’altro che marginali, le sanzioni previste infatti possono arrivare fino al 4% del fatturato globale annuo dell’azienda.

Ma al di là dell’aspetto economico, il caso rappresenta un banco di prova cruciale per l’intero settore dell’intelligenza artificiale generativa, l’UE sta di fatto testando la tenuta delle proprie norme in un contesto in cui i sistemi IA sono sempre più integrati nelle piattaforme social e possono essere facilmente sfruttati per produrre contenuti dannosi.

Molti di voi avranno notato come, negli ultimi mesi, il dibattito pubblico si sia spostato dalla semplice qualità dei modelli IA alla loro responsabilità sociale e legale; e casi come quello di Grok rendono evidente quanto sia sottile il confine tra innovazione tecnologica e tutela dei diritti fondamentali.

Gli sviluppi delle prossime settimane saranno dunque fondamentali per capire non solo il futuro di X in Europa, ma anche quale sarà l’approccio regolatorio nei confronti delle IA integrate nei social network.