NVIDIA lancia l’Open Secure AI Alliance: i big della tecnologia uniti per rendere l’IA più sicura

L’intelligenza artificiale sta diventando sempre più centrale anche nel settore della sicurezza informatica, ma proprio la sua crescente diffusione sta aprendo nuove sfide per aziende, governi e ricercatori; per questo motivo NVIDIA ha annunciato la nascita dell’Open Secure AI Alliance, una nuova iniziativa che riunisce aziende tecnologiche, realtà del settore della cybersecurity, fondazioni open source e organizzazioni impegnate nella ricerca sull’intelligenza artificiale con un obbiettivo preciso, ossia sviluppare e condividere strumenti open source capaci di migliorare la sicurezza dell’IA e delle infrastrutture che la utilizzano.

Tra i membri fondatori figurano NVIDIA, Microsoft, Dell Technologies, Cisco, IBM, HPE, Hugging Face, Cloudflare, CrowdStrike, Red Hat, Palo Alto Networks, Palantir, Salesforce, SAP, Siemens, Snowflake, la Linux Foundation e diverse altre realtà. L’iniziativa nasce basandosi anche sul lavoro dell’iniziativa Akrites della Linux Foundation e della comunità OpenSSF, con l’intenzione di applicare i principi dell’open source alla sicurezza dei sistemi di intelligenza artificiale.

Secondo NVIDIA infatti, il software open source rappresenta già una componente fondamentale dell’economia globale ed è alla base di settori come cloud computing, servizi finanziari, telecomunicazioni, produzione e pubblica amministrazione; lo stesso approccio potrebbe quindi diventare determinante per la sicurezza dell’IA, permettendo a un numero molto più ampio di esperti di analizzare, verificare e migliorare gli strumenti utilizzati per proteggere sistemi sempre più complessi.

Segui TuttoTech.net su Google Discover

Open source e IA, perché NVIDIA vuole coinvolgere i difensori

La filosofia alla base dell’Open Secure AI Alliance parte da un concetto abbastanza semplice: per proteggere adeguatamente l’intelligenza artificiale non dovrebbe essere necessario affidarsi esclusivamente a sistemi chiusi o difficilmente verificabili. NVIDIA sostiene infatti che il mondo abbia bisogno sia di modelli proprietari sia di modelli aperti, soprattutto quando si parla di cybersecurity.

I modelli open source e open-weight possono offrire ai professionisti della sicurezza una maggiore possibilità di controllo, consentendo loro di eseguire l’IA direttamente sulla propria infrastruttura, adattarla alle proprie esigenze e analizzarne il comportamento senza dover necessariamente dipendere da un singolo fornitore; in questo modo diventa inoltre possibile proteggere più efficacemente dati sensibili e infrastrutture critiche, evitando che un eventuale problema in un singolo sistema o servizio possa trasformarsi in un punto di vulnerabilità per un’intera organizzazione.

NVIDIA riconosce naturalmente che anche i modelli aperti possono essere utilizzati impropriamente, per esempio per cercare di aggirare i sistemi di sicurezza o sviluppare strumenti destinati ad attacchi informatici. L’azienda ritiene però che questo rischio non sia sufficiente a giustificare un approccio basato esclusivamente sulla chiusura dei modelli, visto che anche i sistemi proprietari possono essere studiati e sfruttati da soggetti malintenzionati.

A sostegno della propria posizione, NVIDIA cita il recente attacco che ha coinvolto Hugging Face. Durante l’incidente, alcuni strumenti IA proprietari utilizzati inizialmente per l’analisi avrebbero bloccato le richieste perché incapaci di distinguere adeguatamente l’attività dei difensori da quella degli aggressori. Hugging Face ha quindi utilizzato sulla propria infrastruttura il modello GLM 5.2 open-weight, riuscendo ad analizzare più di 17.000 azioni e a contenere l’intrusione.

L’episodio, secondo NVIDIA, dimostra quanto possa essere importante avere a disposizione modelli che i responsabili della sicurezza possano eseguire e controllare direttamente; in una situazione di emergenza infatti, dipendere esclusivamente dai sistemi di un fornitore esterno potrebbe limitare proprio quella capacità di intervento rapido che risulta fondamentale durante un attacco.

L’Open Secure AI Alliance vuole quindi costruire un ecosistema nel quale strumenti aperti e modelli proprietari possano convivere, lasciando ai professionisti della sicurezza la possibilità di scegliere di volta in volta la soluzione più adatta.

Dalla sicurezza degli utenti ai nuovi strumenti open source

Uno degli aspetti più interessanti dell’iniziativa riguarda il fatto che la sicurezza dell’intelligenza artificiale non viene considerata esclusivamente una questione legata ai pesi del modello, un agente IA moderno è infatti un sistema molto più complesso, composto da modello, strumenti esterni, identità, autorizzazioni, sistemi di controllo, meccanismi di protezione, registri e procedure di valutazione.

Proprio per questo motivo, secondo NVIDIA, la sicurezza deve essere affrontata considerando l’intera architettura dell’agente. Gli strumenti open source possono contribuire a rendere questi elementi più facilmente ispezionabili, verificabili e migliorabili da parte della comunità di esperti.

NVIDIA stessa contribuirà all’alleanza mettendo a disposizione modelli aperti, pesi dei modelli, dati e nuove ricerche dedicate all’utilizzo degli agenti per la cybersecurity. Tra i progetti presentati c’è anche NVIDIA Labs Object-Oriented Agent (NOOA), un framework di ricerca open source disponibile su GitHub che punta a facilitare l’integrazione tra framework per agenti e modelli di IA, rendendo più semplice testare, tracciare, verificare e governare il comportamento degli agenti.

Anche gli altri membri dell’alleanza stanno mettendo a disposizione tecnologie differenti, HPE contribuisce a SPIFFE/SPIRE, un framework zero-trust pensato per verificare crittograficamente agenti e servizi, mentre Hugging Face ha messo a disposizione PyTorch Foundation Safetensors, formato progettato per archiviare in modo sicuro i pesi dei modelli evitando l’esecuzione di codice remoto.

IMB e Red Hat contribuiscono invece con Lightwell, una soluzione che punta a rafforzare la sicurezza della catena di fornitura open source attraverso patch firmate digitalmente. Microsoft ha sviluppato MDASH, un sistema di scansione multi modello basato su agenti specializzati per individuare, analizzare e dimostrare la presenza di bug sfruttabili.

Anche SpaceXAI partecipa all’iniziativa, avendo reso open source Grok Build, un agente di programmazione IA basato su terminale. L’organizzazione ha inoltre anticipato l’intenzione di rendere disponibili in futuro anche i pesi dei modelli della linea Grok, con l’obbiettivo dichiarato di favorire ricerca, sviluppo e trasparenza.

L’obbiettivo complessivo è quindi quello di creare una sorta di piattaforma di difesa aperta per gli agenti di intelligenza artificiale, che comprenda strumenti per l’identificazione e l’isolamento delle minacce, formati sicuri per i modelli, sistemi di scansione multi modello e procedure per lo sviluppo di software più sicuro.

NVIDIA chiede ai governi di non ostacolare l’IA open source

L’annuncio dell’Open Secure AI Alliance arriva inoltre in un momento nel quale il ruolo dei modelli open source è al centro di un acceso dibattito politico e regolamentare. NVIDIA sostiene che governi e autorità dovrebbero considerare modelli, infrastrutture e strumenti open source come risorse difensive, anziché considerarli automaticamente un rischio.

Secondo l’azienda, restrizioni generalizzate nei confronti dei sistemi di IA aperti potrebbero infatti ridurre la capacità dei professionisti della cybersecurity di difendere infrastrutture critiche e, allo stesso tempo, aumentare la concentrazione del potere nelle mani di pochi fornitori di sistemi proprietari.

L’alleanza invita quindi aziende e governi a investire in infrastrutture condivise dedicate alla sicurezza dell’IA, comprendendo dataset, framework di valutazione, simulatori di attacchi e strumenti di red teaming. L’idea è simile a quella che negli anni ha permesso all’open source di diventare una componente fondamentale dell’infrastruttura tecnologica mondiale.

La posizione assume particolare rilevanza anche considerando le indiscrezioni secondo cui l’amministrazione Trump starebbe valutando restrizioni sui modelli di IA open source sviluppati in Cina, che stanno guadagnando terreno grazie a costi inferiori e maggiore libertà di utilizzo rispetto a molte soluzioni proprietarie.

È inoltre interessante notare che alcune delle principali aziende statunitensi impegnate nello sviluppo di modelli commerciali di IA, tra cui OpenAI, Anthropic, Google e Meta, non figurano tra i membri fondatori dell’Open Secure AI Alliance.

NVIDIA, in ogni caso, non propone di sostituire i modelli chiusi con quelli aperti, la visione dell’azienda è piuttosto quella di creare un ecosistema nel quale modelli open e closed possano operare insieme, permettendo ai difensori di scegliere la tecnologia più appropriata in base alla situazione e mantenendo al tempo stesso trasparenza, possibilità di personalizzazione e controllo sull’infrastruttura.

Il futuro dell’IA, secondo l’Open Secure AI Alliance, dovrà quindi essere costruito non sulla convinzione che la segretezza equivalga automaticamente alla sicurezza, ma sulla possibilità di sottoporre i sistemi a controlli approfonditi, correggerli rapidamente quando emergono problemi e coinvolgere il maggior numero possibile di esperti.

Con l’intelligenza artificiale sempre più integrata in infrastrutture, aziende e servizi essenziali, la cybersecurity potrebbe diventare uno dei principali terreni nei quali si confronteranno modelli aperti e proprietari. L’iniziativa di NVIDIA punta proprio a fare in modo che, almeno sul fronte della difesa, l’accesso a strumenti avanzati non rimanga nelle mani di pochi fornitori, ma possa essere condiviso con una comunità molto più ampia di ricercatori, sviluppatori e professionisti della sicurezza.