d-Matrix Perkenalkan JetStream I/O Accelerator untuk AI Inference Ultra-Rendah Latensi
d-Matrix resmi memperluas portofolio produknya dengan meluncurkan JetStream I/O Accelerator, kartu I/O kustom yang dirancang khusus untuk menghadirkan inferensi AI berskala pusat data dengan latensi sangat rendah. Kehadiran JetStream menjawab kebutuhan industri yang kini beralih fokus dari pelatihan model ke deployment AI multimodal interaktif dengan jutaan pengguna secara bersamaan.
Performa Setara Skala Model 100B+ Parameter
Ketika dipadukan dengan Corsair compute accelerators dan perangkat lunak Aviator, JetStream mampu menjalankan model AI mutakhir dengan lebih dari 100 miliar parameter. Hasilnya:
- 10x lebih cepat dibandingkan solusi berbasis GPU
- 3x lebih hemat biaya
- 3x lebih efisien energi
Dengan kombinasi ini, d-Matrix menjadi salah satu penyedia infrastruktur AI yang menawarkan platform lengkap mencakup komputasi, perangkat lunak, dan jaringan.
Desain JetStream: Transparan, Mudah, dan Efisien
CEO d-Matrix, Sid Sheth, menyebut JetStream hadir pada saat AI memasuki era multimodal, di mana pengguna menuntut interaktivitas dengan kecepatan sangat tinggi. JetStream berfungsi sebagai NIC (Network Interface Card) transparan dan solusi streaming yang dioptimalkan untuk akselerator Corsair.
Kartu ini hadir dalam format standar industri PCIe Gen 5 full-height, kompatibel dengan Ethernet switch komersial sehingga dapat langsung diintegrasikan tanpa perlu mengganti infrastruktur pusat data yang ada.
Spesifikasi Utama JetStream
- Bentuk: PCIe Gen 5 full-height card
- Bandwidth maksimum: 400 Gbps
- Fungsi utama: NIC transparan dan solusi streaming untuk akselerator Corsair
- Kompatibilitas: bekerja dengan switch Ethernet standar, tanpa infrastruktur baru
Ketersediaan
Sampel JetStream sudah tersedia saat ini, dengan produksi penuh dijadwalkan mulai akhir 2025.
Sumber: d-Matrix
