Marvell Umumkan Structera X Generasi Kedua, Ekspander Memori CXL 3.2 Enam Kanal Pertama di Industri untuk AI Inference

Marvell Technology secara resmi mengumumkan lini pengendali ekspansi memori Compute Express Link (CXL) generasi kedua, yakni Marvell Structera X 3406 dan Marvell Structera X 3506. Perangkat semikonduktor ini dirancang khusus untuk membantu penyedia layanan cloud, enterprise, dan infrastruktur AI dalam membangun sistem yang lebih efisien, berskala luas, serta berkinerja tinggi guna menghadapi era komputasi AI masa depan.

Perkembangan model bahasa besar (Large Language Models / LLM) yang kian masif, peningkatan ukuran context window, serta lonjakan kebutuhan KV-cache telah memicu permintaan memori yang belum pernah terjadi sebelumnya—sebuah tantangan yang tidak lagi mampu diatasi oleh arsitektur server tradisional. Beban kerja AI inference modern, mulai dari LLM serving hingga Deep Learning Recommendation Models (DLRM), sangat bergantung pada kapasitas dan kecepatan memori (memory bound), di mana kapasitas KV-cache secara langsung menentukan Time to First Token (TTFT), throughput, serta tingkat utilisasi XPU.

Untuk mengatasi hambatan kinerja tersebut, Marvell Structera X 3406 dan 3506 hadir dengan membawa sejumlah keunggulan utama di industri:

• Ekspansi memori CXL enam kanal pertama di industri: Mendukung enam kanal memori DDR4 atau DDR5, yang menawarkan peningkatan jumlah kanal sebesar 50% dibandingkan generasi sebelumnya. Hal ini mendongkrak bandwidth dan kapasitas memori agar server AI sanggup mempertahankan model yang lebih besar dan context window lebih panjang—mencakup hingga 18 slot DDR4 RDIMM berkapasitas total 9 TB untuk Structera X 3406, serta 12 slot DDR5 RDIMM berkapasitas hingga 6 TB untuk Structera X 3506.
• Konektivitas empat host pertama di industri: Memungkinkan pembagian kapasitas memori (memory capacity sharing) hingga ke empat host sekaligus dengan bandwidth host mencapai 256 GB/s melalui jalur PCIe 6.0 x16, sehingga meningkatkan efisiensi dan utilisasi memori di seluruh klaster AI.
• Throughput kompresi LZ4 5x lebih tinggi: Menghadirkan kecepatan kompresi dan dekompresi hingga 250 GB/s, yang mampu melipatgandakan kapasitas memori efektif hingga 2 hingga 3 kali lipat bergantung pada jenis beban kerja.
• Keandalan tingkat enterprise StructGuard RAS: Menyediakan fitur koreksi kesalahan tingkat lanjut guna meningkatkan ketahanan dan reabilitas memori terhadap potensi kegagalan perangkat DRAM.
• Keamanan pasca-kuantum (post-quantum security) pertama di industri: Memadukan kriptografi pasca-kuantum, arsitektur Caliptra 2.0, CXL IDE, serta enkripsi memori AES-256 untuk memberikan perlindungan data yang sangat ketat.

Melalui peningkatan arsitektur ini, Structera X mampu memberikan peningkatan kinerja yang signifikan. Untuk beban kerja DLRM, cip ini mampu menghasilkan queries per second (QPS) hingga 2x lebih tinggi serta kapasitas embedding-table efektif 2 hingga 3x lebih besar per pengendali. Sementara untuk LLM serving, Structera X sanggup memangkas waktu TTFT hingga 40–50% lebih cepat pada panjang konteks yang setara, atau memperluas dukungan context window hingga 2x lebih panjang pada tingkat latensi yang sama jika dibandingkan dengan generasi sebelumnya.

Ekosistem Industri dan Jadwal Ketersediaan

Mengandalkan kesuksesan generasi pertamanya (Structera X 2404/2504), lini Structera X 3406/3506 tetap memanfaatkan ekosistem perangkat lunak dan integrasi yang telah teruji guna mempercepat proses adopsi di pasaran. Ekosistem CXL Marvell ini terus berkembang luas berkat kolaborasi erat dengan berbagai produsen CPU dan memori, mitra OEM, ODM, serta sistem integrator global seperti AMD, Arm, Alibaba, Samsung, dan SK hynix.

Pengendali ekspansi memori Marvell Structera X 3406 dan Structera X 3506 CXL dijadwalkan akan mulai memasuki tahap pengiriman sampel (sampling) kepada para mitra pada kuartal pertama tahun 2027 (Q1 2027).

Sumber: Marvell Press Release