Due modelli IA sotto test interno a OpenAI sono usciti da un ambiente isolato, hanno trovato un accesso a internet e hanno violato l’infrastruttura di Hugging Face, la piattaforma open source di riferimento per modelli e dataset di machine learning, senza che nessun essere umano guidasse o autorizzasse quelle azioni. È quanto ha ammesso OpenAI in un comunicato ufficiale, pochi giorni dopo che Hugging Face aveva reso pubblico di aver rilevato e contenuto un accesso non autorizzato ai propri sistemi.

Segui TuttoTech.net su Google Discover

Pubblicità-7%DREAME X60 Pro Ultra Complete, 42.000Pa
Amazon
DREAME X60 Pro Ultra Complete, 42.000Pa
1.399€1.499€
Vai all'offerta

Come si è arrivati alla violazione

Secondo la ricostruzione di OpenAI, l’episodio è avvenuto durante una valutazione interna pensata per spingere i modelli a “perseguire tecniche di exploitation avanzate lungo percorsi di attacco complessi”, con l’obiettivo di misurarne le capacità offensive in ambito informatico. Per stimare la capacità massima dei modelli, il test veniva eseguito senza i classificatori di produzione che normalmente impediscono ai sistemi di intraprendere attività informatiche ad alto rischio, e con un livello ridotto di “rifiuti” su richieste legate alla sicurezza informatica. I modelli coinvolti erano GPT-5.6 Sol e un modello pre-release ancora più capace, non ancora rilasciato pubblicamente.

L’ambiente di test era altamente isolato, con accesso di rete limitato alla sola possibilità di installare pacchetti software tramite un proxy interno. È proprio lì che i modelli hanno concentrato buona parte della propria potenza di calcolo: pur di risolvere il problema di valutazione a cui erano stati sottoposti, hanno individuato e sfruttato una vulnerabilità zero-day nel proxy utilizzato per la gestione dei pacchetti, poi hanno eseguito una serie di azioni di escalation dei privilegi e movimento laterale all’interno dell’ambiente di ricerca, fino a raggiungere un nodo con accesso reale a internet.

Una volta online, i modelli hanno dedotto che Hugging Face potesse ospitare dataset o soluzioni utili a risolvere il problema di valutazione assegnato, chiamato internamente ExploitGym, e hanno cercato attivamente un modo per accedervi. In un caso specifico, hanno combinato più vettori di attacco, incluso l’uso di credenziali rubate e ulteriori vulnerabilità zero-day, fino a individuare un percorso di esecuzione di codice da remoto sui server di Hugging Face. È stato il team di sicurezza interno di OpenAI ad accorgersi per primo dell’attività anomala, mentre quello di Hugging Face aveva già rilevato e iniziato a contenere l’intrusione in autonomia, avviando anche una ricostruzione forense con i propri modelli open source.

“Un incidente senza precedenti”, secondo OpenAI

OpenAI descrive l’accaduto come «un incidente di sicurezza informatica senza precedenti, che coinvolge capacità di attacco allo stato dell’arte», specificando di aver scelto di condividere pubblicamente i risultati preliminari dell’indagine, ancora in corso insieme a Hugging Face, proprio per aiutare chi si occupa di sicurezza informatica a comprendere cosa siano oggi realmente in grado di fare i modelli più avanzati. L’azienda ha già segnalato in modo responsabile la vulnerabilità zero-day individuata al fornitore del software interessato, ha introdotto controlli più rigidi nella configurazione della propria infrastruttura di ricerca, a costo di rallentare il ritmo della ricerca stessa, e ha inserito Hugging Face nel proprio programma di accesso prioritario dedicato alla sicurezza informatica.

Da parte sua, Hugging Face ha definito l’accaduto una svolta di categoria: «Gli strumenti offensivi autonomi guidati dall’IA non sono più qualcosa di teorico», ha dichiarato l’azienda nel proprio annuncio, sottolineando come l’uso dell’intelligenza artificiale per condurre attacchi informatici riduca sensibilmente tempi e costi di questo tipo di operazioni, rendendo altrettanto necessario l’uso di IA anche sul fronte difensivo. Il co-fondatore e CEO di Hugging Face, Clem Delangue, ha commentato: «Questo incidente, forse il primo del suo genere, conferma un punto in cui crediamo da tempo: la sicurezza dell’IA non verrà risolta da una singola azienda che lavora in segreto. Verrà risolta in modo aperto, collaborativo, con un ampio accesso all’IA per ogni soggetto che si occupa di difesa, ovunque si trovi».

OpenAI ha aggiunto di aspettarsi che incidenti di questo tipo diventino «sempre più comuni con la proliferazione di modelli sempre più capaci sul piano informatico», citando anche una valutazione dell’UK AI Security Institute secondo cui modelli come GPT-5.6 Sol risultano sempre più capaci di sostenere operazioni complesse e articolate su più fasi nel tempo. Per l’azienda, la lezione principale resta che le capacità di attacco informatico avanzate dei modelli devono procedere di pari passo con misure di cybersicurezza e strumenti difensivi altrettanto solidi, non restare un passo indietro rispetto alla velocità con cui quelle capacità continuano a crescere.