Con un comunicato ufficiale, che sinceramente ha lasciato spiazzato più di un addetto ai lavori, Qualcomm nelle scorse ore ha annunciato il debutto di AI200 e AI250, due acceleratori per data center destinati all’Intelligenza Artificiale che rappresentano senza dubbio un guanto di sfida a big del settore come AMD e NVIDIA. Il colosso statunitense, finora protagonista soprattutto nel settore mobile con i chip Snapdragon, si presenta al pubblico con un progetto a dir poco ambizioso ma allo stesso tempo attuale visto il boom dell’AI Generativa e relativi servizi.

Dopo il successo ottenuto sugli smartphone quindi, Qualcomm punta a inserirsi nel settore dell’inferenza generativa, proponendo una combinazione di memoria massiva, efficienza energetica e supporto software completo. Le soluzioni sono pensate su scala rack, con raffreddamento a liquido diretto, interconnessioni PCI-E ed Ethernet, oltre a un’architettura che integra modalità di calcolo avanzate e memoria “near-memory”.

C’è da precisare subito che il produttore ha fissato il debutto commerciale dell’AI200 e dell’AI250 rispettivamente per il 2026 e per il 2027, seguendo in questo modo una roadmap annuale per mantenere il passo con l’evoluzione delle esigenze del mercato compute. In ballo non c’è solo l’hardware in quanto Qualcomm propone al contempo un ecosistema software completo che copre tutto il percorso, dall’ottimizzazione dei modelli all’implementazione, fino alla sicurezza e scalabilità enterprise.

Qualcomm AI200 e AI 250: architettura, memoria e approccio innovativo

qualcomm 2

Iniziamo senza ulteriori fronzoli dicendovi che alla base delle soluzioni Qualcomm AI200 e AI250 c’è un’evoluzione delle NPU Hexagon, già impiegate da Qualcomm nei SoC mobili ma qui potenziate per carichi da data center. Ogni acceleratore integra unità scalar, vector e tensor in configurazione 12+8+1, con supporto a formati a bassa precisione come INT2, INT4, INT8 e FP8, tecniche di inferencing a micro-tile per ridurre il traffico di memoria, e supporto al confidential computing oltre che alla virtualizzazione dei modelli.

La memoria probabilmente è uno dei punti critici, questo perché Qualcomm adotta LPDDR anziché HBM, il tutto per contenere costi, densità e consumi, risultando però prestazionalmente inferiore alle più recenti HBM. Stando a quanto dichiarato nelle note ufficiali, ogni acceleratore AI200 può supportare 768 GB di LPDDR, un valore molto elevato per un acceleratore. AI250 invece introduce una memoria near-memory computing che, secondo Qualcomm, permette una larghezza di banda effettiva superiore di oltre 10× rispetto a soluzioni tradizionali (oltre a un’efficienza energetica migliore).

Entrambi i modelli sono ottimizzati per soluzioni “rack-scale”, le schede sono integrate in rack completi con raffreddamento a liquido diretto, l’architettura supporta interconnessioni via PCI-E (per scale-up) ed Ethernet (per scale-out), mentre il consumo per rack è indicato in 160 kW.

In termini di software e compatibilità, Qualcomm sviluppa un ecosistema end-to-end con supporto per framework come PyTorch, ONNX, vLLM, LangChain e CrewAI, librerie come Efficient Transformers e deploy con un clic dei modelli Hugging Face; sempre stando alle specifiche ufficiali, il sistema supporta inferenza disaggregata (disaggregated serving) e sicurezza per esecuzioni protette.

Dove e come si piazza Qualcomm con i nuovi acceleratori AI?

qualcomm logo

Nel mercato dell’accelerazione AI, NVIDIA è attualmente il punto di riferimento, con ecosistemi consolidati, benchmark dominanti e grande penetrazione nei cloud provider; un terreno non proprio fertile per Qualcomm in quanto migrazione e fiducia sono elementi chiave per i clienti.

Qualcomm dovrebbe (anzi lo farà) focalizzarsi esclusivamente sull’inferenza, un piccolo vantaggio perché eviterà di competere anche nel training, ovvero dove i costi sono maggiori, puntando tra le altre cose su elementi come efficienza e latenza. I punti deboli non mancano, in primis le memorie LPDDR, nettamente inferiori per larghezza di banda alle HBM che invece ritroviamo sulle proposte dei competitor; riguardo la “near-memory” invece, servono test sul campo con workflow misti o comunque di un certo peso.

Rimanendo nel contesto, bisognerà anche considerare con quali processori verranno gestiti i rack con gli acceleratori Qualcomm; potrebbero essere impiegate CPU Arm o x86 (non proprietarie), ma anche in questo caso lo scenario di utilizzo reale sarà il miglior benchmark possibile.

Caratteristiche dei nuovi acceleratori Qualcomm AI

  • Unità di calcolo: NPU Hexagon con acceleratori scalar, vector, tensor (configurazione 12+8+1)
  • Formati supportati: INT2, INT4, INT8, INT16, FP8, micro-tile inferencing
  • Memoria AI200: 768 GB LPDDR
  • Memoria AI250: near-memory computing
  • Interconnessione: PCI-E (scale-up) e Ethernet (scale-out)
  • Dissipazione: raffreddamento a liquido diretto
  • Consumo per rack: 160 kW
  • Sicurezza e funzionalità avanzate: Confidential computing, esecuzione riservata dei modelli
  • Software e compatibilità: PyTorch, ONNX, vLLM, LangChain, deployment “one-click”, Efficient Transformers Library
  • Disponibilità: AI200 nel 2026, AI250 nel 2027
Potrebbero interessarti anche questi articoli: