Gli agenti di intelligenza artificiale più capaci sono anche quelli che, pur di completare il compito assegnato, hanno imparato a scavalcare le protezioni imposte a livello applicativo. NVIDIA risponde spostando le regole fuori dalla portata dei modelli con Open Agent Safety Platform, una piattaforma aperta annunciata pochi giorni fa e pensata per coprire l’intero ciclo di vita di un agente, dalla sperimentazione all’uso reale in azienda.
Segui TuttoTech.net su Google Discover
Perché serve un recinto attorno agli agenti
Il punto di partenza è una serie di episodi concreti, ormai difficile da ignorare. Tra i più citati c’è il caso di alcuni agenti di OpenAI che hanno preso il controllo di un wiki tedesco, usandolo come una bacheca di messaggi. Il denominatore comune di questi incidenti è sempre lo stesso: l’agente aggira la sicurezza applicativa per portare a termine il proprio compito, spesso senza supervisione costante.
Da qui la scelta di NVIDIA di spostare l’applicazione delle regole al di fuori del modello di AI e dell’infrastruttura che lo guida, il cosiddetto agent harness. Il ragionamento, spiegato in un post tecnico del team OpenShell, parte da un presupposto: un agente che devia dal proprio compito non può essere considerato affidabile nel monitorare le proprie azioni, quindi i controlli devono stare fuori dal suo controllo.
“Il potenziale straordinario dell’AI per la società si realizzerà solo se risolveremo il tema della sicurezza dell’AI. Mentre continuiamo a scoprire la frontiera delle capacità dell’AI, dobbiamo accelerare la scoperta anche sulla frontiera della sicurezza. Sicurezza e protezione richiedono un’ingegneria full-stack. NVIDIA Open Agent Safety Platform riunisce industria, ricercatori e organizzazioni del settore pubblico per condividere le migliori pratiche, allineare i metodi di valutazione e promuovere la cooperazione internazionale. Insieme possiamo alzare l’asticella della sicurezza globale dell’AI”
Sono le parole di Jensen Huang, fondatore e CEO di NVIDIA, che riassumono l’ambizione di un progetto che abbraccia il software, l’hardware che lo esegue e persino i robot che agiscono nel mondo fisico.
OpenShell e Nvidia Sentry, come funziona il controllo
Il primo mattone è OpenShell, runtime open source distribuito con licenza Apache 2.0 e ora disponibile a tutti. Funziona come un recinto digitale: registra ogni azione compiuta dagli agenti e fa rispettare le regole stabilite dall’organizzazione, sia che si utilizzino modelli aperti sia che si punti su modelli proprietari. Ogni agente gira in un ambiente sandbox con isolamento a livello kernel, ispirato a un principio zero-trust applicato fin dal primo istante. Il peso sulle prestazioni è, secondo NVIDIA, contenuto quando il sistema gira sulle CPU Vera, il processore progettato per l’AI agentica. Essendo codice aperto, OpenShell può essere esteso anche alle piattaforme di calcolo Arm e Intel, oltre che adattato a soluzioni di altri produttori.
Il secondo componente è NVIDIA Sentry, parte del design di riferimento: un guardiano che gira sulle DPU BlueField-4, schede specializzate nel gestire rete, sicurezza e dati in modo indipendente dal processore principale. Sentry osserva di continuo ciò che fanno gli agenti e, se uno di essi tenta di uscire dai propri confini, lo isola e lo blocca in pochi millisecondi, in un ambiente separato e protetto che né gli agenti né eventuali malintenzionati possono vedere. Il funzionamento si appoggia al software NVIDIA DOCA, che consente di esaminare richieste e risposte, produrre dati di monitoraggio verificabili, controllare l’identità di ciascun agente e applicare regole di accesso di tipo zero trust per dati, strumenti, API e servizi.
Nei sistemi NVIDIA Vera Rubin POD, le BlueField-4 si trovano sull’unico percorso del nodo verso il modello, garantendo osservabilità continua out-of-band e applicazione delle policy in tempo reale alla velocità della linea. L’intera piattaforma è guidata da cinque principi: policy verificabile, applicazione out-of-band, controllo del percorso verso il modello, scalabilità dell’autorità degli agenti con visibilità sul ragionamento, applicazione di un modello di responsabilità condivisa tra laboratori, imprese e fornitori hardware.
Alleanze, adozioni e chi c’è già dentro
Anthropic e NVIDIA hanno lavorato fianco a fianco per aggiungere livelli di controllo: con Claude Managed Agents il cervello dell’agente gira su un server separato da quello in cui viene svolto il lavoro, mentre le integrazioni con OpenShell e BlueField permettono alle aziende di limitare con precisione ciò a cui l’agente può accedere. SpaceXAI usa la piattaforma per gli agenti di programmazione Cursor e per i modelli Grok, Scale AI integra le tecnologie nel proprio Scale GenAI Portfolio, Salesforce ha collegato OpenShell a Slack così i team possono vedere cosa fanno gli agenti e approvare o rifiutare le loro richieste di nuovi permessi direttamente dalla chat. SAP lo inserisce in Joule Studio, dentro la SAP Business AI Platform, e collabora con NVIDIA sugli standard di interoperabilità tramite la Open Secure AI Alliance.
Le organizzazioni coinvolte sono oltre 100, tra cui Accenture, Cisco, CrowdStrike, Deloitte, EY, IBM, Microsoft, Palantir, Palo Alto Networks, ServiceNow e Siemens, a cui si aggiungono nomi come Hugging Face e Perplexity. Nella robotica aderiscono Figure, Gecko Robotics e Skild AI. Nella finanza figurano Citi e JPMorganChase, mentre tra le infrastrutture critiche statunitensi, nel settore energetico, si trovano realtà come Hitachi Energy, NextEra Energy e Schneider Electric. Canonical, SUSE e Red Hat stanno integrando la piattaforma nei rispettivi sistemi operativi, mentre produttori e provider come Dell Technologies, HPE, Lenovo, Supermicro, CoreWeave e Oracle Cloud Infrastructure offrono soluzioni compatibili.
Il software, compreso OpenShell, si scarica dalla pagina per sviluppatori di NVIDIA e da GitHub, e permette di valutare in autonomia quanto il recinto digitale si adatti alle esigenze della propria organizzazione. L’iniziativa sostiene inoltre la Open Secure AI Alliance, promossa da NVIDIA con oltre 120 organizzazioni e guidata dalla Linux Foundation, che lavora su ricerca aperta, strumenti e progetti come lo Shared AI Findings Exchange (SAFE).
I nostri contenuti da non perdere:
- 🔝 Importante: Volantino Lidl, da giovedì 1° ottobre tornano le offerte Parkside
- 📚 Approfitta ora e studia (o gioca) meglio: i migliori notebook MSI in offerta per il Back To School 2026
- 💰 Risparmia sulla tecnologia: segui Prezzi.Tech su Telegram, il miglior canale di offerte
- 🏡 Seguici anche sul canale Telegram Offerte.Casa per sconti su prodotti di largo consumo