Kinerja luar biasa dari NVIDIA GB300 “Blackwell Ultra” NVL72 memang mengesankan, tetapi di balik performa eksaskala tersebut tersimpan tantangan besar dalam hal pendinginan.
Menurut laporan terbaru dari Morgan Stanley, sistem pendingin cair (liquid cooling) untuk satu rak server NVL72 diperkirakan menelan biaya hampir USD 50.000, menjadikannya salah satu solusi pendingin paling mahal di dunia pusat data.
💧 Pendingin Cair Wajib untuk TDP 1.400 W per GPU
Setiap rak GB300 NVL72 berisi 72 GPU Grace Blackwell Ultra, masing-masing dengan TDP hingga 1.400 W.
Dengan total beban panas lebih dari 100 kW hanya dari GPU, serta tambahan 32 CPU Grace, sistem ini tidak mungkin menggunakan pendinginan udara konvensional.
Morgan Stanley memodelkan satu rak NVL72 berisi:
- 18 compute tray — konsumsi daya ±6,6 kW per tray (pendinginan ±6,2 kW)
- 9 switch tray — tambahan beban panas dari interkoneksi
Totalnya, pendinginan dibutuhkan untuk lebih dari 100 kW panas puncak.
⚙️ Rincian Estimasi Biaya Pendinginan
- Compute tray: sekitar USD 2.260 per unit, total USD 40.680 per rak
- Switch tray: sekitar USD 1.020 per unit, total USD 9.180 per rak
- Total pendinginan cair: ± USD 49.860
Komponen paling mahal berasal dari cold plate berperforma tinggi, yang harganya mencapai ratusan dolar per unit. Cold plate ini digunakan untuk menyalurkan panas secara langsung dari GPU dan CPU ke sistem sirkulasi cairan pendingin.
🔥 Kepadatan Komputasi = Kompleksitas Termal
Laporan Morgan Stanley menyoroti tren yang semakin jelas:
“Semakin tinggi kepadatan komputasi dan daya TDP, semakin besar pula kompleksitas dan biaya sistem pendingin.”
Dengan meningkatnya daya setiap GPU dan interkoneksi berkecepatan tinggi, biaya pendinginan kini menjadi faktor utama dalam total biaya kepemilikan (TCO) infrastruktur AI modern.
🧠 Menuju Generasi Berikutnya: “Vera Rubin” NVL144
Menariknya, laporan tersebut juga menyinggung sistem penerusnya — NVIDIA “Vera Rubin” NVL144.
Konfigurasi ini dikabarkan akan memiliki lebih banyak GPU dan daya lebih besar, sehingga diperkirakan biaya pendinginannya akan naik 17%, mencapai sekitar USD 55.700 per rak.
Kenaikan ini menunjukkan tantangan yang dihadapi industri data center dalam menjaga efisiensi termal seiring meningkatnya performa sistem AI generasi berikutnya.
⚡ Tantangan Besar bagi Infrastruktur AI
Dengan konsumsi daya ratusan kilowatt per rak, operator pusat data kini menghadapi dilema baru: bagaimana menyeimbangkan kinerja AI eksaskala dengan efisiensi energi dan biaya pendinginan.
NVIDIA, melalui solusi Grace Blackwell Ultra Superchip, terus berupaya menekan rasio performa per megawatt, tetapi pendinginan cair tetap menjadi syarat mutlak di era komputasi AI ekstrem.
Sumber: Jukan on X, via Tom’s Hardware
