NVIDIA resmi mengumumkan inovasi arsitektur memori generasi terbarunya bertajuk NVHBM (NVIDIA High-Bandwidth Memory). Berbeda dari memori HBM konvensional, teknologi kustom ini memindahkan pengendali memori (memory controller) langsung ke dalam base die tumpukan 3D HBM alih-alih meletakkannya di atas cetakan silikon komputasi (compute die).
Pendekatan ini tidak hanya disiapkan untuk lini GPU NVIDIA masa depan, tetapi juga dibuka bagi pelanggan akselerator pihak ketiga (XPU) melalui ekosistem NVLink Fusion.
Peningkatan Bandwidth, Efisiensi Daya, dan Penghematan Area Silikon
Dengan memindahkan pengontrol memori ke tumpukan HBM, ruang silikon pada die utama dapat dimanfaatkan sepenuhnya untuk unit pemrosesan:
- Bandwidth 30% Lebih Tinggi: NVHBM menawarkan peningkatan bandwidth hingga 30% dibanding standar JEDEC HBM4E. Dengan basis kecepatan HBM4E Samsung (16 Gbps / 4 TB/s per tumpukan), satu modul NVHBM secara teoritis mampu menembus kecepatan transfer hingga 5,2 TB/s.
- Pengurangan Konsumsi Daya 15%: Menurunkan konsumsi daya HBM sebesar 15%, memberikan ruang pendinginan (thermal headroom) ekstra bagi unit komputasi. Pada skala pusat data berkapasitas 1 gigawatt dengan unit XPU 2.000 W, efisiensi ini berpotensi membuka ruang daya untuk penambahan hingga 15.000 unit XPU baru.
- Area Silikon Komputasi Bertambah 25%: Menghemat area fisik pada compute die hingga 25% berkat antarmuka fisik kustom (custom PHY) yang mereduksi area I/O hingga 67% dibanding HBM4E standar.
- Penyederhanaan Jalur Interposer: Mempermudah perutean jalur pada lapisan interposer dan membebaskan hingga 80% area silikon yang dapat digunakan pada tata letak paket cip, mempermudah integrasi banyak tumpukan HBM di sekitar cip prosesor berukuran masif.
Validasi Multi-Vendor dan Kemitraan Perdana
NVIDIA menegaskan bahwa teknologi NVHBM akan divalidasi di berbagai produsen memori global guna mempermudah proses kualifikasi pasokan bagi mitra industri. Unit pengembangan semikonduktor Amazon, Annapurna Labs, resmi diumumkan sebagai mitra strategis pertama yang mengadopsi dan berkolaborasi dalam implementasi arsitektur NVHBM.
Sumber: NVIDIA, NVIDIA Developer Blog
