Jakarta — Mesin NVIDIA DGX Spark, yang digadang-gadang sebagai perangkat AI kompak untuk local inference dan rapid prototyping, dilaporkan tidak mencapai level performa dan daya sesuai spesifikasi resmi.
John Carmack — pendiri Keen Technologies dan mantan CTO Oculus VR — menyatakan bahwa hasil benchmark DGX Spark jauh di bawah klaim NVIDIA.
⚡ Konsumsi Daya Hanya 100 W, Performa Turun 50%
Menurut spesifikasi resmi, DGX Spark memiliki konsumsi daya sistem sebesar 240 W, namun Carmack mencatat penggunaan daya hanya sekitar 100 W, yang berarti kinerja aktualnya juga turun sekitar separuh.
Target throughput yang diumumkan NVIDIA adalah:
- 31 TFLOPS (FP32)
- 1.000 TOPS (NVFP4)
- 125 TFLOPS (BF16 dense compute)
Namun hasil pengujian menunjukkan hanya sekitar:
- 480 TFLOPS pada FP4, dan
- 60 TFLOPS pada BF16 — jauh di bawah klaim resmi.
🧊 Kemungkinan Masalah: Firmware, Thermal, atau Power Limit
Setelah mengalami beberapa kali penundaan, DGX Spark akhirnya mulai dikirimkan ke para pengembang. Namun banyak laporan menyebutkan adanya bug perangkat lunak, firmware yang belum stabil, serta potensi masalah termal.
Beberapa pengguna melaporkan bahwa sistem mengalami penurunan frekuensi dan tegangan akibat panas berlebih, bahkan reboot otomatis karena pendinginan yang tidak memadai.
Chip GB10 SoC sendiri memiliki TDP 140 W, ditambah memori LPDDR5X 128 GB yang dapat menambah puluhan watt — sehingga total konsumsi 100 W terlihat tidak realistis.
NVIDIA kemungkinan akan merilis pembaruan firmware atau solusi pendinginan tambahan untuk perangkat seharga US$3.999 ini apabila masalah tersebut berlanjut.
🧮 Faktor “Structured Sparsity” Jadi Biang Perbedaan Klaim
Perbedaan performa juga bisa berasal dari teknik structured sparsity, di mana sistem mengabaikan nilai nol pada jaringan neural untuk mempercepat perhitungan.
NVIDIA mengklaim DGX Spark dapat mencapai 1 PFLOP (FP4) hanya jika fitur sparsity diaktifkan — tetapi pada model AI umum yang tidak memanfaatkan teknik ini, kecepatan aktual hanya sekitar setengahnya, sesuai dengan hasil pengujian terbaru.
🔩 Spesifikasi Teknis DGX Spark
- SoC: NVIDIA GB10, kombinasi CPU Arm dan GPU Blackwell dalam paket 2.5D
- CPU: 20 core Arm v9.2 (dua kluster 10-core, masing-masing dengan 16 MB L3 cache)
- Memori: LPDDR5X-9400 hingga 128 GB pada bus 256-bit (bandwidth ±301 GB/s)
- I/O: NVMe via PCIe, serta NIC ConnectX-7 melalui PCIe Gen5 x8
- Proses manufaktur: TSMC 3 nm
- Performa target: hingga 1 PFLOP (FP4, dengan sparsity)
🔍 Kesimpulan
Masalah pada DGX Spark menunjukkan bahwa bahkan produk AI terkecil NVIDIA pun belum lepas dari tantangan power efficiency dan thermal management.
Dengan spesifikasi tinggi namun performa yang belum stabil, DGX Spark masih membutuhkan pembaruan firmware dan optimalisasi pendinginan sebelum dapat memenuhi klaim sebagai “AI prototyping box terbaik di kelasnya.”