Ha fatto clamore la notizia dei modelli di OpenAI che sono riusciti a violare, senza alcun intervento umano, la piattaforma Hugging Face. Ora emergono nuovi dettagli di quanto accaduto, con Reuters che ha condotto un’inchiesta, basata su fonti a conoscenza diretta dei fatti, che ha ricostruito nel dettaglio la cronologia dell’accaduto. Un’inchiesta che porta alla luce un aspetto rimasto finora sconosciuto, ovvero il tempo che OpenAI ha impiegato prima di rendersi conto di essere responsabile dell’attacco.

Segui TuttoTech.net su Google Discover

PubblicitàSamsung Galaxy S25 Edge, 256GB
Amazon
Samsung Galaxy S25 Edge, 256GB
489€
Vai all'offerta

La cronologia dei fatti

Secondo quanto riportato da due persone a conoscenza dell’indagine, l’agente AI avrebbe tentato per la prima volta di uscire dall’ambiente di test isolato di OpenAI attorno al 9 luglio. L’intrusione vera e propria ai danni di Hugging Face sarebbe iniziata due giorni dopo, l’11 luglio, e sarebbe proseguita fino al 13 luglio, come confermato da Thomas Wolf, cofondatore della piattaforma. Sarebbero però passati diversi giorni prima che OpenAI collegasse l’accaduto al proprio agente, con le due aziende che avrebbero comunicato per la prima volta sull’episodio solo intorno al 20 luglio.

Il punto di svolta sarebbe arrivato dopo il 16 luglio, quando Hugging Face ha reso pubblico tramite un post ufficiale di aver subito un’intrusione da parte di “un sistema di agente AI autonomo”. Solo nel fine settimana tra il 18 e il 19 luglio il personale di OpenAI avrebbe individuato, analizzando i log interni, le tracce che indicavano il coinvolgimento del proprio agente. Nel frattempo Hugging Face aveva già segnalato l’accaduto all’FBI.

I segnali d’allarme prima dell’attacco vero e proprio

L’episodio riguarderebbe un agente basato su due modelli avanzati di OpenAI, GPT-5.6 Sol e un modello non ancora rilasciato descritto dall’azienda come ancora più potente. Secondo quanto emerso dall’inchiesta, prima dell’attacco vero e proprio ci sarebbero già stati segnali di comportamenti anomali da parte della tecnologia di OpenAI. In un caso, un agente avrebbe lasciato appunti destinati apparentemente a versioni future di sé stesso, con istruzioni su come aggirare i vincoli interni dell’azienda. In altri test precedenti sarebbero stati inoltre disattivati alcuni sistemi di monitoraggio. Reuters ha comunque precisato di non aver potuto stabilire se questi episodi siano collegati direttamente all’agente che ha poi attaccato Hugging Face o no.

Va inoltre considerato che OpenAI eseguirebbe spesso più valutazioni di modelli in parallelo, generando una quantità di dati talmente elevata da rendere difficile per il personale tenere il passo, un elemento che aiuterebbe a spiegare il ritardo nella scoperta.

Le reazioni e le domande sulla sicurezza degli agenti AI

La vicenda, oltre al clamore in sé, solleva diversi interrogativi sugli agenti AI sempre più diffusi e con enormi capacità d’azione. In una nota, OpenAI ha definito l’accaduto un incidente “senza precedenti”, aggiungendo di aver riscontrato “diverse imprecisioni” nella ricostruzione di Reuters senza però specificare quali. Una scelta che non aiuta a ricostruire l’accaduto e a sgomberare il campo dai dubbi sulle capacità di OpenAI di evitare in futuro situazioni simili.

C’è di certo il fatto che un agente AI sia riuscito a violare una piattaforma e che OpenAI non sia stata in grado di impedire l’accaduto. Se questo sia avvenuto per colpa o per la maggiore capacità degli agenti AI sposta poco in termini di preoccupazione sull’accaduto e, soprattutto, sul futuro. Un futuro in cui gli agenti AI saranno sempre più autonomi e capaci di eseguire compiti complessi con supervisione umana minima o del tutto assente. Anche “solo” il fatto che l’agente AI di OpenAI sia in grado di prevedere istruzioni su come aggirare i vincoli interni dell’azienda, spalanca le porte a una serie di inquietanti interrogativi sulle capacità di questa tecnologia.

Jeffrey Ladish, che dirige l’organizzazione Palisade Research specializzata nello studio del comportamento degli agenti AI, ha sottolineato che questi sistemi possono mentire, imbrogliare e violare i sistemi.