Ora anche OpenAI ha il “suo” Mythos. Così come Anthropic ha scelto di riservare Mythos 5 (il modello più potente dell’azienda sul fronte della cybersicurezza) a un ristretto gruppo di partner fidati per la cybersicurezza difensiva per le sue capacità considerate troppo elevate per un rilascio generale ora, con lo stop ad Astra, anche l’azienda dietro a ChatGPT si trova a fare i conti con un modello le cui capacità informatiche potrebbero essere troppo avanzate per essere distribuite senza ulteriori garanzie: OpenAI ha reso noto di non poter escludere che Astra abbia raggiunto un livello di pericolosità tale da richiedere la sospensione delle attività interne che non rispettano ancora i nuovi requisiti di sicurezza.

Eppure in materia di sicurezza informatica OpenAI ha puntato molto in questi mesi. Da GPT-5.4-Cyber, pensato per i professionisti della cybersicurezza, fino al framework Trusted Access introdotto con GPT-5.5-Cyber e, più di recente, al lancio dell’iniziativa Patch the Planet per aiutare i progetti open source a individuare vulnerabilità. Questi strumenti sono stati presentati come una risposta all’evoluzione delle minacce dell’intelligenza artificiale. Con lo stop ad Astra, invece, le cose cambiano.

Segui TuttoTech.net su Google Discover

Pubblicità-23%Apple Watch SE 3 GPS, 44mm
Amazon
Apple Watch SE 3 GPS, 44mm
239€309€
Vai all'offerta

Cosa è successo con Astra

Astra è uno dei modelli che OpenAI sta sviluppando internamente e di cui ha dato qualche anticipazione delle potenzialità rivelando di aver risolto 10 problemi matematici e informatici. Secondo quanto dichiarato dall’azienda, le valutazioni interne condotte nei giorni scorsi hanno mostrato progressi significativi nella programmazione agentica e nelle capacità legate alla sicurezza informatica. Sulla base di questi risultati, unitamente a valutazioni di esperti esterni, OpenAI ha concluso di non poter escludere che Astra abbia raggiunto la soglia “Critical” prevista dal proprio Preparedness Framework, il documento interno che definisce le procedure di sicurezza da adottare al crescere delle capacità dei modelli.

Per capire la portata della notizia bisogna guardare alla definizione stessa che OpenAI dà della soglia “Critical”. Un modello raggiunge questo livello quando è in grado di identificare e sviluppare autonomamente exploit zero-day contro sistemi critici reali ben protetti, oppure quando può ideare ed eseguire da solo intere strategie di attacco informatico contro obiettivi blindati, partendo semplicemente da un obiettivo generico. Fino a questo momento, nessun modello di OpenAI aveva mai raggiunto questa soglia. Anche GPT-5.6-Sol, il più recente modello di punta dell’azienda, era stato classificato al livello “High”, quello immediatamente inferiore.

Le misure di sicurezza adottate

Come conseguenza diretta di questa valutazione, OpenAI ha annunciato la sospensione di tutte le attività interne legate ad Astra che non rispettano ancora i nuovi requisiti di sicurezza. Tra le misure introdotte ci sono ambienti di test isolati dal resto dei sistemi, un accesso più limitato a rete e strumenti esterni, una protezione rafforzata (con crittografia) dei parametri interni del modello, oltre a nuovi sistemi per monitorare e individuare eventuali comportamenti a rischio.

È stato inoltre attivato un sistema di monitoraggio universale che analizza il ragionamento del modello (il cosiddetto Chain of Thought) per individuare e interrompere in tempo reale eventuali azioni ad alto rischio, sia in fase di addestramento sia di valutazione.

OpenAI ha inoltre specificato che Astra non è stato in alcun modo coinvolto nell’incidente di sicurezza che ha coinvolto Hugging Face (per il quale OpenAI ha impiegato diverso tempo prima di individuare la causa). L’azienda ha comunque scelto di collaborare con agenzie governative e organizzazioni indipendenti specializzate in sicurezza AI per testare ulteriormente le capacità del modello prima di qualsiasi rilascio pubblico, che al momento resta senza una data definita.

Un caso senza precedenti

Secondo quanto riportato da Axios, che ha ricevuto la notizia in anteprima, questo potrebbe essere il primo caso in cui un laboratorio di intelligenza artificiale rallenta volontariamente lo sviluppo di un proprio modello per motivi legati alla sicurezza informatica. La Casa Bianca, tramite un funzionario, ha confermato che OpenAI ha informato volontariamente l’amministrazione statunitense dei propri piani di rinvio. Una decisione che si inserisce in un contesto più ampio in cui il governo americano sta lavorando a un processo strutturato di valutazione dei modelli IA prima del loro rilascio.

Il caso Astra arriva pochi giorni dopo che, alla conferenza di sicurezza informatica Black Hat, alcuni membri dello staff tecnico di OpenAI avevano già anticipato che l’azienda stava rallentando consapevolmente le proprie attività di test per rafforzare le pratiche di sicurezza. Un segnale che conferma come il settore dell’intelligenza artificiale si trovi ora a fare i conti con capacità che, secondo le stesse aziende che le sviluppano, corrono più veloci della regolamentazione chiamata a governarle. E, anche senza voler essere necessariamente complottisti o apocalittici, la questione è decisamente seria.