NVIDIA punta a sviluppare un LLM open source da oltre mille miliardi di parametri

NVIDIA ha pubblicato Nemotron 3.5 Lightning, un modello linguistico a pesi aperti pensato per far girare agenti IA ad alte prestazioni sia su hardware locale sia su data center, rilasciato sotto licenza OpenMDW 1.1 con un’architettura Mixture-of-Experts da 30 miliardi di parametri totali.

Di questi però solo 3 miliardi sono attivi per ciascun token generato, ottimizzati per compiti come la revisione del codice, il monitoraggio degli allarmi di sicurezza, la gestione dei ticket commerciali e l’interazione con strumenti esterni.

Ma se la variante 3.5 Lightning risponde alla domanda di efficienza distribuita, le indiscrezioni raccolte da The Information confermano che l’azienda di Santa Clara starebbe già lavorando alla generazione successiva, chiamata Nemotron 4, il quale dovrebbe essere un modello di punta che davvero sembra voler ridefinire cosa significhi “grande” nel mondo dei modelli aperti.

Segui TuttoTech.net su Google Discover

Verso Nemotron 4 e la sfida dei modelli aperti da 1.000 miliardi di parametri

Stando proprio a quanto riportato da The Information, il modello flagship della nuova famiglia dovrebbe contare almeno 1.000 miliardi di parametri, superando nettamente i 550 miliardi dell’attuale Nemotron 3 Ultra e posizionandosi come una delle architetture a pesi aperti più imponenti mai realizzate.

Attualmente in fase avanzata di addestramento, il modello potrebbe debuttare già verso la fine dell’autunno 2026, anche se NVIDIA non ha ancora confermato ufficialmente né il conteggio definitivo dei parametri né le tempistiche esatte del lancio.

L’impegno strategico sul fronte open source è stato ribadito da Kari Briski, Vicepresidente per l’IA generativa di NVIDIA, che ha spiegato la visione dell’azienda con parole piuttosto nette:

“NVIDIA sta investendo su Nemotron perché crediamo che ogni azienda e ogni Paese necessiti di modelli aperti di frontiera accessibili per rafforzare la sicurezza, accelerare l’innovazione e fornire una base solida su cui fare affidamento di generazione in generazione”.

Dataset e compatibilità con tutti i framework principali

Per sostenere questa visione, NVIDIA sta mettendo a disposizione risorse di addestramento davvero notevoli come dataset aperti contenenti oltre 10.000 miliardi di token e più di 40 milioni di campioni post-training, corredati da ricette di fine-tuning e report tecnici completi.

Sul fronte della compatibilità, la famiglia Nemotron continuerà a supportare i principali runtime e framework di inferenza, tra cui vLLM, SGLang, Ollama e llama.cpp, garantendo uno rilascio flessibile su cloud, data center, workstation locali e cosiddetti edge device.

Ovviamente, va da sé che la strategia sui modelli linguistici procede in parallelo con la posizione dell’azienda come fornitore neutrale di infrastrutture per il resto del settore, un ruolo che sta assumendo sempre più peso a mano a mano che il mercato dell’IA si consolida attorno a poche piattaforme hardware dominanti.

Ne è un esempio l’accordo pluriennale da 240 milioni di dollari siglato tra IBM e Together AI per la realizzazione di un cluster di inferenza su IBM Cloud, un’infrastruttura che impiegherà circa 2.000 chip Blackwell 300 su sistemi NVIDIA HGX B300 con networking Spectrum-X Ethernet, ma che verrà utilizzata da Together AI per eseguire modelli open source sviluppati da terzi, tra cui DeepSeek, MiniMax e Kimi, segno di come NVIDIA punti a restare centrale nell’infrastruttura anche quando i modelli in esecuzione non portano il proprio marchio.

Il pressing sul Congresso e la sicurezza come priorità

Parallelamente allo sviluppo tecnologico, NVIDIA sta sostenendo la causa dell’open source anche nelle sedi istituzionali. L’azienda si è unita a Microsoft, Meta e IBM per chiedere al Congresso degli Stati Uniti di evitare regolamentazioni e limitazioni eccessive sui modelli a pesi aperti. “Dovremmo evitare restrizioni premature sui modelli aperti che soffocano la concorrenza o spingono l’innovazione all’estero“, ha sottolineato il CEO Jensen Huang.

Secondo i piani alti dell’azienda, i modelli a pesi aperti consentono a ricercatori e sviluppatori indipendenti di esaminare i comportamenti dell’IA, identificare tempestivamente le vulnerabilità e progettare contromisure adeguate, un discorso che si lega direttamente alla nascita, poche settimane fa, della Open Secure AI Alliance, la coalizione industriale promossa da NVIDIA proprio per sviluppare e condividere strumenti open source dedicati alla cybersecurity dei sistemi di intelligenza artificiale.