xAI porta in tribunale un utente di Grok accusato di aver utilizzato l’IA per creare deepfake sessuali

xAI, la società di intelligenza artificiale fondata da Elon Musk (recentemente inglobata nella nuova SpaceXAI), ha avviato un’azione legale contro un utente accusato di aver sfruttato Grok per generare deepfake sessualizzati di persone reali, inclusi minori. Si tratta di uno dei primi casi in cui un’azienda sviluppatrice di modelli di IA decide di citare direttamente in giudizio uno dei propri utenti per un utilizzo illecito della piattaforma, in un contesto che continua ad alimentare il dibattito sulla responsabilità delle aziende e sull’efficacia delle misure di sicurezza integrate nei sistemi di intelligenza artificiale generativa.

Segui TuttoTech.net su Google Discover

xAI accusa un utente di aver aggirato le protezioni di Grok per creare deepfake sessuali

La causa è stata depositata presso un tribunale federale del Texas e riguarda Terry Wayne Harwood, 67enne della Carolina del Sud già arrestato nei mesi scorsi nell’ambito di un’indagine per sfruttamento sessuale di minori.

Secondo quanto riportato nella denuncia, l’uomo avrebbe utilizzato due account xAI tra dicembre 2025 e febbraio 2026 caricando fotografie perfettamente innocue di adulti e bambini, chiedendo poi a Grok di modificarle oppure di generare nuove immagini e video che ritraessero le persone presenti nelle fotografie in situazioni sessualmente esplicite o comunque fortemente sessualizzate.

xAI sostiene che il modello abbia rifiutato queste richieste in numerose occasioni grazie ai sistemi di sicurezza implementati, ma che l’utente avrebbe continuato a riformulare i prompt nel tentativo di aggirare le limitazioni imposte dall’intelligenza artificiale.

Tra gli esempi riportati nella documentazione legale figura quello relativo all’immagine di una bambina di circa 10-11 anni completamente vestita, che l’imputato avrebbe cercato di trasformare in un’immagine pornografica attraverso richieste successive; anche in questo caso Grok avrebbe inizialmente rifiutato la generazione del contenuto.

L’azione legale arriva dopo mesi particolarmente difficili per xAI, a partire dall’inizio del 2026 infatti, Grok è finito al centro di numerose polemiche per la possibilità, almeno in alcune circostanze, di creare deepfake sessualizzati non consensuali utilizzando fotografie di persone reali.

Lo scandalo ha attirato rapidamente l’attenzione delle autorità di regolamentazione internazionali, indagini sono state avviate negli Stati Uniti, nel Regno Unito, mentre anche la Commissione Europea e la Commissione Irlandese per la protezione dei dati hanno aperto verifiche dedicate.

In risposta alle critiche, xAI ha progressivamente rafforzato le protezioni del proprio modello per limitare la generazione di questo genere di contenuti. Nonostante ciò, secondo la società, alcuni utenti hanno continuato a tentare di aggirare i sistemi di sicurezza modificando ripetutamente le richieste inviate all’intelligenza artificiale.

Nella denuncia, la società sottolinea di applicare regolarmente i propri termini di servizio attraverso la sospensione degli account che violano le regole e la segnalazione dei casi sospetti al national Center for Missing & Exploited Children (NCMEC). Secondo i dati riportati negli atti processuali, nel solo 2026 xAI avrebbe sospeso 52.222 account ed effettuato 73.604 segnalazioni al NCMEC, attività che avrebbero contribuito ad almeno 244 arresti.

L’azienda sostiene inoltre che le presunte azioni dell’imputato abbiano esposto le vittime a danni gravissimi, oltre ad aver creato significativi rischi legali e reputazionali per la stessa xAI.

Oltre a un risarcimento economico, il cui importo non è stato reso noto, xAI ha chiesto al tribunale di vietare in maniera permanente all’uomo qualsiasi utilizzo futuro di Grok; la società chiede inoltre che il convenuto sia chiamato a sostenere eventuali costi che xAI potrebbe dover affrontare qualora le vittime decidessero di intentare azioni legali nei confronti dell’azienda.

Nel frattempo, sul fronte penale, Harwood deve già rispondere davanti alla giustizia della Carolina del Sud di diversi capi d’accusa legati allo sfruttamento sessuale di minori; secondo le autorità statali, l’uomo non sarebbe soltanto in possesso di materiale pedopornografico, ma avrebbe anche contribuito alla sua distribuzione.

Questa vicenda rappresenta un precedente potenzialmente importante per l’intero settore dell’intelligenza artificiale generativa. Finora l’attenzione si era concentrata soprattutto sulle responsabilità delle aziende nello sviluppo dei modelli, mentre questa causa mostra come i fornitori di IA siano pronti a perseguire anche gli utenti che tentano deliberatamente di aggirare i sistemi di sicurezza per utilizzare tali strumenti a fini criminali.