Micron Kembangkan DDR5 RDIMM 512 GB dengan Kecepatan hingga 9.200 MT/s

Micron Technology memperkenalkan terobosan baru untuk memori server dengan berhasil mendemonstrasikan DDR5 RDIMM berkapasitas 512 GB pada beberapa platform server. Modul tersebut dirancang untuk memenuhi kebutuhan data center dan cloud yang semakin berat akibat pertumbuhan artificial intelligence (AI), analytics, in-memory database, hingga workload simulation.

Micron menyebut modul 512 GB ini mampu mencapai kecepatan hingga 9.200 MT/s. Saat ini, AMD dan Intel juga tengah melakukan proses validasi untuk memastikan kompatibilitasnya dengan platform server generasi berikutnya.

Kapasitas yang sangat besar tersebut memungkinkan sebuah server dual-socket dengan 24 slot DIMM menampung hingga 12 TB DDR5 DRAM.

DDR5 RDIMM 512 GB Mengandalkan Vertical Interconnect Packaging

Peningkatan kapasitas hingga 512 GB pada satu modul dapat dicapai melalui teknologi packaging yang dikembangkan Micron.

Modul tersebut menggunakan pendekatan vertical interconnect packaging, dengan beberapa DRAM die ditumpuk secara vertikal dan saling terhubung menggunakan through-silicon vias (TSVs).

Teknologi TSV memungkinkan koneksi antarlapisan DRAM dibuat secara vertikal sehingga kepadatan memory dapat ditingkatkan tanpa harus memperbesar ukuran fisik modul secara drastis.

Pendekatan ini menjadi semakin penting untuk server modern yang membutuhkan kapasitas memory sangat besar tetapi tetap harus mempertahankan bandwidth dan efisiensi dalam form factor server yang tersedia.

Satu Server Bisa Menampung hingga 12 TB RAM

Dengan menggunakan 24 slot memory pada server dual-socket, modul DDR5 RDIMM 512 GB Micron memungkinkan kapasitas total mencapai 12 TB DDR5 DRAM.

Kapasitas sebesar itu dapat memberikan keuntungan pada workload yang membutuhkan dataset berukuran sangat besar dan harus tetap berada di main memory.

Dengan lebih banyak data yang dapat dipertahankan di RAM, server dapat mengurangi ketergantungan terhadap storage tier yang memiliki latency lebih tinggi. Perpindahan data antara storage dan memory juga dapat diminimalkan.

Konfigurasi tersebut terutama relevan untuk AI, database, analytics, virtualization, serta aplikasi enterprise yang menangani dataset dalam skala besar.

AMD dan Intel Melakukan Validasi

Micron tidak mengembangkan modul 512 GB ini secara terisolasi. Perusahaan bekerja sama dengan sejumlah ecosystem partner untuk melakukan validasi pada platform server generasi berikutnya.

AMD dan Intel disebut secara aktif melakukan validasi terhadap DDR5 RDIMM tersebut.

Proses validasi ini penting karena kapasitas memory yang sangat besar dan kecepatan hingga 9.200 MT/s membutuhkan dukungan tidak hanya dari modul memory, tetapi juga memory controller, motherboard, firmware, serta keseluruhan platform server.

Micron menargetkan kompatibilitas yang luas agar modul tersebut dapat digunakan pada berbagai platform data center ketika nantinya memasuki tahap deployment.

Konsumsi Daya Bisa Turun Lebih dari 60 Persen

Selain meningkatkan kapasitas, Micron menyoroti efisiensi penggunaan memory.

Perusahaan menyatakan satu 512 GB RDIMM dapat mengurangi operating power lebih dari 60% dibandingkan menggunakan empat RDIMM 128 GB untuk mencapai kapasitas memory yang sama.

Pengurangan jumlah modul tersebut tidak hanya berdampak pada konsumsi daya memory, tetapi juga dapat membantu mengurangi kompleksitas konfigurasi server.

Bagi data center dengan ribuan server, efisiensi pada level komponen dapat memberikan dampak yang lebih besar terhadap kebutuhan energi dan thermal management secara keseluruhan.

Dirancang untuk AI dan Workload Data-Intensive

Pertumbuhan large language models (LLM), agentic AI, real-time inference, serta CPU dengan jumlah core tinggi mendorong kebutuhan memory server ke tingkat yang lebih tinggi.

Pada workload seperti ini, kapasitas memory dan bandwidth dapat menjadi faktor pembatas performa ketika dataset tidak dapat sepenuhnya ditempatkan di main memory.

DDR5 RDIMM 512 GB memungkinkan lebih banyak data tetap berada di RAM sehingga server dapat mengurangi aktivitas pemindahan data ke storage yang lebih lambat.

Konfigurasi tersebut juga dapat membantu workload yang membutuhkan akses cepat terhadap dataset berukuran besar, terutama pada environment dengan kebutuhan concurrency tinggi.

Performa Analytics hingga 1,4 Kali Lebih Tinggi

Micron menyebut modul 512 GB tersebut dapat memberikan peningkatan performa hingga 1,4 kali dibandingkan konfigurasi DDR5 256 GB pada workload memory-bound tertentu, termasuk Spark Support Vector Machines (SVM)-based data analytics.

Peningkatan tersebut menunjukkan manfaat kapasitas memory yang lebih besar pada aplikasi yang sering mengalami bottleneck akibat keterbatasan RAM.

Selain analytics, Micron juga menyoroti workload database dan caching yang membutuhkan kapasitas memory besar. Platform seperti RocksDB dan Redis dapat memperoleh keuntungan dari kemampuan menampung dataset lebih besar di memory.

Dengan kapasitas yang lebih tinggi, sistem dapat meningkatkan throughput, menangani lebih banyak concurrent workload, serta melakukan scaling dataset dengan lebih efisien.

Menjawab Kebutuhan Server AI Generasi Berikutnya

Kebutuhan terhadap memory berkapasitas besar semakin meningkat seiring berkembangnya AI. Model dengan parameter yang semakin banyak membutuhkan ruang memory yang besar, sementara real-time inference menuntut akses data dengan latency rendah.

Dalam kondisi tersebut, peningkatan kapasitas DRAM bukan hanya masalah menambah jumlah RAM. Server juga perlu mempertahankan bandwidth tinggi dan efisiensi daya agar peningkatan kapasitas tidak menghasilkan overhead operasional yang terlalu besar.

DDR5 RDIMM 512 GB Micron mencoba menjawab kebutuhan tersebut melalui kombinasi kapasitas tinggi, bandwidth hingga 9.200 MT/s, serta penggunaan teknologi packaging dengan kepadatan tinggi.

Produksi Massal Ditargetkan pada Paruh Kedua 2027

Micron memperkirakan 512 GB DDR5 RDIMM akan memasuki volume production pada paruh kedua 2027, menyesuaikan kebutuhan pelanggan.

Jika target tersebut tercapai, teknologi ini akan membuka kemungkinan konfigurasi server dengan kapasitas memory multi-terabyte menggunakan jumlah modul yang lebih sedikit.

Dengan kemampuan hingga 12 TB DDR5 dalam server dual-socket 24-slot, solusi tersebut terutama menyasar data center dan enterprise computing yang membutuhkan kapasitas memory sangat besar untuk AI, database, analytics, virtualization, serta workload data-intensive lainnya.

Sumber: Micron