Server AI con raffreddamento a diamante: meno calore e più prestazioni per i datacenter

L’esplosione e successivamente la crescita esponenziale dell’Intelligenza Artificiale sta portando i datacenter a confrontarsi con un problema sempre più spinoso, dissipare il calore generato da acceleratori e componentistica sempre più potenti. GPU progettate per addestrare modelli AI complessi possono assorbire centinaia di watt, e mantenere temperature sotto controllo è diventato uno degli aspetti più critici nella progettazione delle infrastrutture AI di nuova generazione.

In questo contesto si inserisce l’annuncio di Akash Systems, che ha presentato quelli che definisce i primi server AI al mondo dotati di raffreddamento basato su diamante sintetico. I sistemi Akash integrano acceleratori AMD Instinct MI350X e sono realizzati in collaborazione con MiTAC Computing, puntando a migliorare l’efficienza energetica e la gestione termica nei carichi di lavoro legati al mondo AI.

Il cuore della soluzione è la tecnologia Diamond Cooling, che sfrutta la straordinaria conducibilità termica del diamante per trasferire il calore lontano dai componenti critici molto più rapidamente rispetto ai materiali tradizionali come rame o alluminio. Ma cerchiamo di capirci qualcosina in più.

Segui TuttoTech.net su Google Discover

Diamond Cooling: perché usare il diamante nei server

Il diamante è noto a tutti per la sua “durezza” e allo stesso modo (probabilmente di più) per il suo utilizzo in gioielleria; tuttavia, dal punto di vista fisico possiede proprietà estremamente interessanti per l’elettronica. È infatti uno dei migliori conduttori termici esistenti e riesce a dissipare il calore con un’efficienza superiore rispetto ai metalli comunemente utilizzati nei dissipatori, per intenderci anche più del rame.

Andando nel dettaglio, Akash Systems ci dice che la sua tecnologia prevede l’impiego di sottili strati di diamante sintetico integrati nel sistema di raffreddamento dei server; tale approccio permette di trasferire il calore generato dalle GPU in modo più rapido, riducendo i picchi termici e migliorando l’efficienza complessiva del sistema.

Secondo le informazioni diffuse dall’azienda, la tecnologia può portare a diversi vantaggi operativi nei datacenter:

• Riduzione della temperatura delle GPU fino a circa 10 °C
• Incremento delle prestazioni per watt fino al 22%
• Aumento del throughput nei carichi AI fino al 15% in ambienti ad alta temperatura
• Minore consumo energetico legato ai sistemi di raffreddamento

Si tratta di miglioramenti a dir poco notevoli in ambito server che, se confermati nell’utilizzo reale, potrebbero avere un impatto significativo soprattutto nei grandi data center dedicati all’addestramento di modelli AI, ormai sparsi per tutto il globo.

L’interesse verso tecnologie di raffreddamento più avanzate è legato come detto alla rapida crescita della domanda di potenza di calcolo per l’intelligenza artificiale. Modelli sempre più grandi richiedono cluster con migliaia di acceleratori, di conseguenza il consumo energetico associato alla gestione termica rappresenta ormai una parte significativa dei costi operativi, nonchè della bontà del progetto.

Secondo quanto dichiarato da Akash Systems, i nuovi server avrebbero già attirato l’interesse di alcuni operatori del settore, con un primo ordine dal valore complessivo di circa 300 milioni di dollari. Se il raffreddamento basato su diamante dovesse dimostrarsi efficace su larga scala, potrebbe aprire la strada a una nuova generazione di infrastrutture AI più efficienti dal punto di vista energetico e capaci di sostenere carichi di lavoro sempre più intensi.

L’hardware dei nuovi server AI Akash con raffreddamento a diamante

I sistemi annunciati da Akash Systems sono pensati come detto per carichi di lavoro di Intelligenza Artificiale, ma anche e soprattutto per il calcolo ad alte prestazioni; oltre alle GPU AMD Instinct di nuova generazione, l’architettura integra componenti progettati per massimizzare la capacità di elaborazione e la velocità di interconnessione tra i nodi.

Per farvi un’idea di cosa stiamo parlando, a seguire vi proponiamo le caratteristiche tecniche principali di questi server:

• GPU: AMD Instinct MI350X
• CPU: 2× AMD EPYC 9005 di quinta generazione
• Networking: AMD Pensando Pollara 400
• Stack software: AMD ROCm
• Sistema di raffreddamento: tecnologia proprietaria Diamond Cooling
• Piattaforma server sviluppata da MiTAC Computing