L’UE indaga su Grok e xAI per la produzione di immagini di nudo tramite l’AI

L’Unione Europea ha aperto un’indagine formale nei confronti di xAI. La società di Elon Musk che sviluppa il discusso e controverso chatbot Grok, è finita al centro della discussione per la diffusione su X di immagini di nudo non consensuale generate a partire da foto reali caricate dagli utenti. Il modello permetteva infatti di spogliare digitalmente le persone ritratte, producendo contenuti sessualizzati che hanno suscitato un forte allarme pubblico. Non solo per la gravità del fatto in sé, ma anche perché tra i soggetti coinvolti c’erano anche minori. La Commissione europea ha quindi attivato le procedure previste dal Digital Services Act (DSA) per verificare se l’azienda abbia valutato adeguatamente i rischi e adottato tutte le misure per prevenire la creazione e la circolazione di materiale potenzialmente illecito.

Offerta

MacBook Air 13'', M4 (2025), 512GB

1249€ invece di 1399€

-11%

Amazon 🛒

L’indagine dell’UE

Secondo la commissaria europea Henna Virkkunen queste immagini rappresentano una forma di violenza che non può essere tollerata. La Commissione europea vuole accertare se l’azienda abbia rispettato i propri obblighi in materia di sicurezza online. Nel caso emergessero violazioni, le sanzioni potrebbero arrivare fino al 6% del fatturato globale. Bruxelles non adotterà misure provvisorie durante l’indagine ma ha già espresso preoccupazione per la debolezza dei controlli messi in campo da xAI. Anche perché non è la prima volta che Grok viene attenzionato dall’UE. Già in passato era stata avviata una procedura formale di infrazione per il sospetto di violazione degli obblighi di trasparenza e di quelli legati al contrasto alla disinformazione e alla diffusione di contenuti illegali.

Il caso della creazione di immagini di nudo generate tramite Grok ha attirato l’attenzione anche fuori dall’Europa. Nel Regno Unito l’autorità di regolazione dei media ha aperto una propria indagine, mentre Malesia e Indonesia hanno scelto di vietare del tutto il chatbot. Di fronte alle critiche X ha modificato il sistema per impedire la generazione di queste immagini e ha limitato l’accesso a Grok agli utenti con un abbonamento. Musk ha affermato che chi utilizza l’IA per produrre contenuti illegali sarà considerato responsabile al pari di chi li carica manualmente. La Commissione Europea ritiene però che questi interventi siano arrivati tardi e non garantiscano una tutela sufficiente alle persone coinvolte.

Le responsabilità attribuite a Grok e xAI

L’indagine segna un momento importante per la regolazione dell’intelligenza artificiale nelle piattaforme social. È una delle prime volte in cui un’autorità europea interviene in modo diretto su un modello generativo integrato in un servizio online, evidenziando come le frontiere tra rete sociale e sistemi di IA siano diventate sempre più sottili. L’obiettivo è chiarire che le aziende che incorporano strumenti di intelligenza artificiale devono garantire che non vengano trasformati in mezzi di abuso.

Anche perché se è vero quanto sostiene Musk (che la responsabilità è di chi utilizza l’IA per produrre e condividere contenuti illegali) è altrettanto vero che le stesse piattaforme di intelligenza artificiale non possono essere esenti da responsabilità.

La questione dei deepfake sessuali è diventata oggi una delle emergenze digitali più delicate da affrontare. La rapidità con cui possono essere prodotti e diffusi questi contenuti amplifica i rischi per la privacy e la dignità delle vittime, che non sono solo figure pubbliche ma anche persone comuni. Anzi, per le persone comuni i rischi, essendoci meno attenzione mediatica, possono essere ancora più elevati. L’Unione Europea considera questo fenomeno una priorità e sta cercando di stabilire un quadro di protezione che tenga conto dell’evoluzione tecnologica.

La responsabilità contestata a xAI riguarda sia il comportamento del modello sia la sua integrazione con X, che ha facilitato la diffusione immediata dei contenuti prodotti. La scelta di ridurre i filtri rispetto ad altri concorrenti ha reso più difficile prevenire gli abusi e ora rappresenta uno degli aspetti principali dell’indagine. Il procedimento potrebbe avere conseguenze significative per l’intero settore, costringendo le aziende a rafforzare i sistemi di sicurezza e a dimostrare con maggiore chiarezza la capacità di gestire i rischi.

Il ruolo dell’UE

La vicenda, oltre a evidenziare l’urgenza sulla materia, mostra anche il ruolo dell’Unione europea. L’indagine su xAI diventa un banco di prova per verificare la capacità del Digital Service Act di far rispettare le regole in un settore che sta cambiando con grande rapidità. Se dovesse portare a nuove misure o a un rafforzamento degli obblighi per le piattaforme, il caso Grok potrebbe segnare un momento decisivo nella gestione dell’intelligenza artificiale generativa e aprire un nuovo capitolo nel rapporto tra tecnologia e diritti digitali.