Teknologi Memori Kustom Qualcomm HBC Gen 1 Tembus Bandwidth 133 TB/s Lewat Desain Tumpuk LPDDR 3D

Menyusul pengumuman peta jalan data center teranyar mereka, rincian teknis mengenai arsitektur memori revolusioner milik Qualcomm, High Bandwidth Compute (HBC), mulai terungkap ke publik. Teknologi hibrida memori-komputasi (memory-compute hybrid) ini digadang-gadang siap menjadi penantang serius sekaligus pengganti teknologi memori performa tinggi tradisional, High Bandwidth Memory (HBM).

Melalui pemanfaatan memori hemat daya jenis LPDDR yang ditumpuk secara vertikal, solusi arsitektur baru ini diklaim mampu menyajikan performa kecepatan transfer data radikal dengan tingkat efisiensi daya yang jauh melampaui HBM generasi terbaru.

Rahasia Arsitektur: Tumpukan 3D Vertikal LPDDR dan Melalui Jalur TSV

Berbeda dengan HBM konvensional yang menumpuk modul memori DDR standar dalam lapisan vertikal, teknologi Qualcomm HBC secara cerdik memanfaatkan chip Low-Power DDR (LPDDR).

Mekanisme teknis dari arsitektur memori ini meliputi beberapa poin penting:

• Interkoneksi TSV: Qualcomm sukses menumpuk beberapa lapisan memori LPDDR dalam ruang tiga dimensi (3D vertical space) dan menghubungkannya menggunakan jalur interkoneksi super padat Through-Silicon Vias (TSV).
• Efisiensi Energi Ekstrem: Karakteristik bawaan dari memori LPDDR yang membutuhkan voltase operasi rendah membuat chip HBC mengonsumsi daya jauh lebih sedikit. Qualcomm mengeklaim solusi ini menawarkan peningkatan bandwidth per watt hingga 6x lipat lebih tinggi jika dibandingkan dengan spesifikasi HBM generasi keempat (HBM4) saat ini.
• Compute Die Terintegrasi: Bagian dasar (base die) dari struktur tumpukan HBC ini bukanlah lapisan silikon pasif, melainkan sebuah Compute Die aktif. Komponen ini berfungsi melakukan pemrosesan data jarak dekat (near-memory computation), yang bertugas melakukan pelacakan paket (packet tracing) serta persiapan data sebelum masuk atau keluar dari area memori. Langkah ini secara efektif memangkas beban kerja pemrosesan (offloading) dari prosesor/GPU utama.

Pendekatan ini sekilas mirip dengan rancangan arsitektur memori masa depan HBM4 yang mulai mengadopsi lapisan logika (logic die) di bagian dasar silikonnya. Namun, optimasi Qualcomm pada jalur pergerakan data diklaim jauh lebih efisien untuk kebutuhan beban kerja kecerdasan buatan.

Lompatan Bandwidth Raksasa pada Kartu Akselerator AI250

Implementasi perdana dari teknologi HBC Generasi 1 ini dikonfirmasi akan disematkan pada kartu akselerator pintar Qualcomm AI250. Hasil pengujian internal menunjukkan performa bandwidth yang sangat fantastis, yakni menembus angka 133 Terabyte per detik (TB/s) per kartu.

Angka performa tersebut mencatatkan lonjakan kecepatan hingga 18x lipat dibandingkan dengan teknologi memori LPDDR5X konvensional yang saat ini tertanam pada kartu akselerator generasi terdahulu, Qualcomm AI200. Sesuai dengan peta jalan perusahaan, kartu akselerator AI250 yang dilengkapi memori HBC Gen 1 ini dijadwalkan untuk mulai didistribusikan ke para mitra industri pada pertengahan tahun 2027. Setelah itu, Qualcomm juga telah menyiapkan pengembangan lanjutan berupa HBC Gen 2 yang diproyeksikan membawa lompatan bandwidth yang jauh lebih masif.

Teka-teki Rantai Pasok Produksi dan Fabrikasi Silikon

Meski spesifikasi performanya telah dipaparkan secara gamblang, Qualcomm hingga saat ini masih menutup rapat informasi mengenai detail rantai pasok komponen memori tersebut. Perusahaan belum mengungkap versi spesifik dari LPDDR yang digunakan (apakah varian LPDDR5X, LPDDR6, atau standar kustom baru) serta di mana proses pengemasan tingkat lanjut (advanced packaging) chip 3D ini akan dieksekusi.

Selama ini, Qualcomm dikenal selalu mempercayakan fabrikasi chip prosesor seluler Snapdragon mereka kepada TSMC. Kendati demikian, untuk kasus pembuatan komponen Compute Die di dasar memori HBC ini, Qualcomm harus bermitra erat dengan produsen memori yang memiliki fasilitas pabrik pengolahan silikon terintegrasi.

Para pengamat industri menilai bahwa Samsung Foundry merupakan kandidat mitra yang paling masuk akal dan logis untuk proyek ini. Hal tersebut dikarenakan Samsung memiliki kapasitas penuh untuk memproduksi modul memori LPDDR secara mandiri di dalam ekosistem perusahaan mereka, sekaligus memiliki divisi khusus yang mampu menangani pembuatan komponen logika kustom (custom logic manufacturing) serta teknologi pengemasan chip 3D tingkat lanjut. Namun, kepastian mengenai keterlibatan Samsung atau raksasa memori lain seperti SK hynix dan Micron dalam proyek HBC ini masih harus menunggu konfirmasi resmi lebih lanjut dari pihak Qualcomm.

Sumber: Qualcomm Technical Briefing via GPUOpen