Le memorie HBM sono il futuro: sulle GPU next-gen avremo oltre 6 TB di VRAM

Le memorie HBM, o High Bandwidth Memory, sono delle memorie ad alte prestazioni che probabilmente non dicono molto all’utente medio, ma in realtà circolano sul mercato PC da oltre un decennio. Per essere precisi, il consorzio JEDEC ha adottato le memorie HBM come standard già a partire dal 2013; nel corso di questi anni hanno fatto qualche fugace comparsa su alcune schede grafiche consumer AMD (vedi le GPU Fiji), salvo poi essere relegate al segmento server o comunque alle GPU pensate per il mondo dei datacenter, cloud, senza contare l’esplosione dell’Intelligenza Artificiale a cui stiamo assistendo negli ultimi anni.

Attualmente le High Bandwidth Memory sono relegate solo ai prodotti professionali o come detto per server / workstation, settori in continua evoluzione se guardiamo alle tecnologie messe in campo per ambiti come CPU, GPU e rete, ma che devono viaggiare di pari passo a un sottosistema memoria di livello, anzi potremmo dire un gradino sopra per gestire al meglio la mole di dati che gli applicativi moderni richiedono per i calcoli in tempo reale.

Non sappiamo se ci sarà un ritorno delle HBM sui prodotti consumer; visti i costi al momento pensiamo di no, tuttavia lo sviluppo continua e a quanto pare esistono già le basi per quelle che saranno le prossime revisioni dello standard HBM, da qui fino al 2035-2038. Ma vediamo tutto nel dettaglio.

TV LG OLED AI B5 48''

Amazon 🛒

Memorie HBM: dalle HBM4 alle HBM8, ecco come potrebbero essere

Iniziamo dicendo che il consorzio JEDEC al momento è “fermo” allo standard HBM4, in attesa di varare le specifiche definitive di HBM5; le HBM4 stanno muovendo i primi passi e arriveranno ufficialmente nel 2026, mentre per le HBM5 si parla di 2028/2029, con tempistiche dilatate come da tradizione ogni tre anni.

I dettagli sulle prossime varianti delle memorie HBM ci giungono da un documento condiviso dalle istituzioni sudcoreane KAIST e TERA tramite i colleghi di Wccftech, un’ampia panoramica su quella che sarà l’evoluzione (almeno sulla carta) delle High Bandwidth Memory; non è detto che tutti i dati condivisi nelle slide corrispondano alle specifiche definitive dei prodotti, ma possiamo dire che rappresenta una buona base da cui partire, soprattutto perché vengono abbinati dettagli importanti sulle GPU Next-Gen NVIDIA.

Cercando di semplificare il tutto, partiamo dalle basi e dalle imminenti HBM4, soluzioni che garantiranno un data-rate di 8 Gbps per pin su un’interfaccia a 2.048 bit; un singolo stack HBM potrà avere 36 o 48 GB di capacità, con una larghezza di banda pari a 2 TB/s e un consumo di 75 watt.

Le HBM4 troveranno posto sulle future GPU NVIDIA Rubin e sugli acceleratori AMD Instinct MI400, mentre con le HBM5 ci sarà già un netto salto di qualità, sia per capacità che per larghezza di banda complessiva. Le memorie HBM5, attese non prima del 2028/2029, avranno ancora un data-rate a 8 Gbps, tuttavia grazie all’interfaccia a 4.096 bit e a chip da 24 Gb porteranno a stack HBM5 con capacità di 80 GB e una larghezza di banda pari a 4 TB/s. Il consumo rispetto alle HBM4 sale del 25%, ovvero 100 watt, mentre le prossime soluzioni NVIDIA e AMD con HBM5 potrebbero supportare fino a 400-500 GB di memoria HBM5.

Una svolta sostanziale arriverà poi con le HBM6, riviste a livello di pin per garantire un data-rate di 16 Gbps su un’interfaccia a 4.096 bit; questo porterà a un raddoppio della larghezza di banda (fino a 8 TB/s), abbinato anche a un incremento della densità fino al 50% e la possibilità di realizzare stack HBM6 da 96-120 GB. Le HBM6 daranno vita a schede grafiche con capacità fino a 1.536-1.920 GB, portando al contempo i consumi da 100 a 120 watt per stack (il tutto raffreddato a immersione).

Andando ancora oltre, più o meno tra un decennio (ma tante cose possono cambiare), le prime HBM7 si dovrebbero fare strada rendendo a dir poco obsolete le già velocissime HBM6. Il data-rate sarà portato a 24 Gbps su bus a 8.092 bit per una larghezza di banda impressionante, 24 TB/s. Anche la capacità dei chip sarà incrementato, si parla di 64 Gb e una capacità per singolo stack HBM7 di ben 160-192 GB. Le GPU next-gen che sposeranno le HBM7 saranno a dir poco potentissime ed energivore (almeno 1.20 watt solo la GPU), ma offriranno configurazioni con 5-6 TB di memoria, perdendo qualcosa in fatto di consumi visto che saliranno ancora fino a 160 watt per stack.

Con le memorie HBM8, i dati forniti dalla fonte vanno secondo noi troppo oltre quella che può essere una timeline prevedibile, questo perché il mondo tech viaggia molto velocemente e non possiamo escludere che fino al 2035-2038 verrà ideata una memoria magari più veloce ed efficiente dell’attuale HBM.

Per chiudere il cerchio però, la HBM8 daranno un’ulteriore svolta prestazionale al mercato, anche se non sappiamo a quali GPU potrebbero essere abbinate. I ricercatori propongono ancora una volta un netto incremento della densità e della velocità; il data-rate per pin potrebbe arrivare a 32 Gbps su interfaccia a 16.384 bit (spaventosa) per una larghezza di banda pazzesca, 64 GB/s per stack a fronte di una capacità di 200-240 GB e un consumo di 180 watt (con embedded cooling).