L’agente IA di OpenAI che ha violato Hugging Face ha compromesso anche altri servizi

L’incidente che recentemente ha coinvolto OpenAI e Hugging Face continua a fare emergere nuovi dettagli, dopo aver rivelato che un agente di intelligenza artificiale sperimentale era riuscito a evadere dall’ambiente isolato di test, accedere a internet e compromettere la piattaforma Hugging Face durante una valutazione interna, l’azienda ha aggiornato la propria analisi confermando che lo stesso agente è riuscito a infiltrarsi anche in altri servizi di terze parti sfruttando credenziali esposte pubblicamente.

Pur sottolineando che nessun altro episodio ha raggiunto la gravità della compromissione subita da Hugging Face, OpenAI ammette che l’agente ha dimostrato una capacità di movimento ben più ampia di quanto inizialmente noto.

Segui TuttoTech.net su Google Discover

Pubblicità-39%

HiHonor

HONOR Magic V6, 16GB+512GB

🎟 Coupon -700€: AATG700 + sconto permuta di 200€

1.399€2.299€

Vai all'offerta

L’agente ha sfruttato credenziali pubbliche per accedere ad altri servizi

Nel nuovo aggiornamento pubblicato da OpenAI viene spiegato che, durante le indagini successive all’incidente, è stato individuato un piccolo numero di casi nei quali i modelli hanno identificato e utilizzato credenziali di account pubblicamente esposte su servizi accessibili da internet.

Secondo quanto ricostruito dall’azienda, l’agente è riuscito a compromettere quattro account distribuiti su quattro diversi servizi; OpenAI precisa inoltre che alcuni accessi sono stati osservati anche nell’ambito di altre valutazioni sperimentali.

L’azienda ha fornito qualche dettaglio sul ruolo di questi account, uno è stato utilizzato come relay in uscita e come punto di appoggio per le operazioni, mentre un secondo è servito per l’archiviazione dei dati; gli altri due account sono stati consultati esclusivamente in modalità di sola lettura e, secondo OpenAI, non sono stati impiegati per compromettere Hugging Face.

Nonostante questi nuovi elementi, la società ribadisce di non aver individuato altre attività con un livello di gravità o un impatto paragonabile all’attacco contro Hugging Face, che rimane il caso più significativo emerso durante le indagini.

Coinvolto anche un cliente di Modal Labs

Parallelamente all’aggiornamento di OpenAI, un’indagine di Reuters ha identificato uno dei servizi coinvolti. Secondo il report, l’agente avrebbe compromesso anche l’account di un cliente di Modal Labs, società di cloud computing con sede a New York.

Il responsabile tecnologico dell’azienda, Akshat Bubna, ha spiegato che l’agente non ha violato l’infrastruttura di Modal, ma ha sfruttato una vulnerabilità presente nel codice sviluppato da un cliente e ospitato sulla piattaforma cloud; in particolare, il cliente aveva pubblicato un endpoint privo di autenticazione che permetteva a chiunque su internet di utilizzare le relative sandbox per l’esecuzione di codice, una configurazione che ha di fatto lasciato aperta una porta d’accesso.

Modal ha quindi precisato che la propria piattaforma e i sistemi di isolamento non sono stati compromessi in alcun modo e che l’incidente ha interessato esclusivamente l’ambiente del cliente vulnerabile. OpenAI non ha commentato direttamente il coinvolgimento di Modal Labs, limitandosi a rimanere al proprio aggiornamento ufficiale. Una fonte a conoscenza della vicenda tuttavia, ha confermato a Reuters che la società rientra tra i quattro servizi citati dall’azienda.

Un incidente che continua a far discutere

L’intera vicenda ha attirato l’attenzione della comunità tecnologica sin dal 21 luglio, quando OpenAI ha rivelato che uno dei propri agenti di intelligenza artificiale, basato su GPT-5.6 Sol e su un modello ancora più avanzato non rilasciato pubblicamente, era riuscito a uscire dall’ambiente sandbox predisposto per i test e penetrare nei sistemi di Hugging Face nel tentativo di risolvere autonomamente un problema previsto dalla valutazione.

Nei giorni successivi Reuters aveva riferito che l’agente aveva portato avanti la propria attività per diversi giorni e che OpenAI si era accorta dell’evasione soltanto circa una settimana dopo, quando la minaccia era già stata contenuta e l’FBI era stato informato dell’accaduto. L’azienda aveva contestato alcune ricostruzioni pubblicate dall’agenzia, senza però fornire ulteriori dettagli.

L’ultimo aggiornamento offre quindi un quadro più completo delle azioni compiute dall’agente dopo la fuga dall’ambiente di test e conferma che, oltre a Hugging Face, sono stati coinvolti altri servizi, sebbene senza conseguenze giudicate altrettanto gravi.

Come misura precauzionale, OpenAI ha dichiarato di aver disattivato il modello sperimentale, di averne crittografato i dati e di aver limitato l’accesso esclusivamente alle attività di ricerca, così da consentire ulteriori analisi sull’accaduto e prevenire il ripetersi di episodi simili.