Microsoft Resmi Luncurkan Prosesor Komputasi AI Maia 300 Berbasis TSMC 2nm untuk Azure Cloud
Microsoft secara resmi meluncurkan prosesor komputasi terbarunya yang dirancang secara internal (in-house) dan menjadi cip terbesar perusahaan hingga saat ini untuk deployment di ekosistem Azure Cloud, yakni Microsoft Azure Maia 300.
Dalam pengumuman peluncuran silikon baru tersebut, CEO Microsoft Satya Nadella mengungkapkan bahwa perusahaannya akan memperluas penggunaan keluarga cip Maia hingga mencapai skala deployment multi-gigawatt. Langkah strategis ini sekaligus menjadikan lini Maia sebagai sistem AI inferencing utama untuk menopang berbagai produk dan layanan internal Microsoft.
Saat ini, Microsoft tengah mengoperasikan generasi pendahulunya, yakni Maia 200, di berbagai pusat data wilayah Amerika Serikat, Eropa, dan Australia. Cip Maia 200 tersebut tercatat mampu menghasilkan efisiensi tokens per Watt hingga 70% lebih tinggi pada layanan Microsoft Copilot dan Microsoft Teams jika dibandingkan dengan penggunaan GPU AI konvensional. Kehadiran generasi terbaru Maia 300 diklaim bakal memberikan peningkatan efisiensi lebih lanjut sebesar 40% dalam metrik tokens per Watt di atas solusi berbasis GPU.
Arsitektur Multi-Chiplet TSMC N2P dan Memori HBM4 288 GB
Dari segi rancang bangun perangkat keras, Microsoft Azure Maia 300 mengusung desain prosesor berbasis multi-chiplet tile. Komponen utamanya terdiri dari main compute die yang diproduksi menggunakan teknologi foundry node mutakhir TSMC N2P (2 nm), yang diapit oleh dua I/O die yang dibangun di atas node generasi sebelumnya.
Untuk mendukung pemrosesan data berskala masif, cip ini mengintegrasikan empat memory tile DDR RDIMM yang berfungsi sebagai main-memory tingkat sistem. Selain itu, akselerator komputasinya dibekali memori generasi terbaru HBM4 berkapasitas 288 GB berkecepatan 9 GT/s yang terbagi ke dalam delapan stack. Konfigurasi memori HBM4 ini sanggup menyajikan bandwidth luar biasa besar hingga mencapai 18 TB/s. Secara keseluruhan, unit System-on-Chip (SoC) raksasa ini beroperasi dengan batas Thermal Design Power (TDP) maksimum sebesar 950 W.
Performa Peta-OPS dan Skalabilitas Jaringan hingga 12.000 Cip
Beralih ke sektor performa komputasi murni, Microsoft Azure Maia 300 sanggup menghasilkan throughput pada presisi FP4 hingga 13,8 peta-OPS (POPS), serta throughput FP8 sebesar 6,9 POPS.
Untuk mendukung komunikasi antar-unit di lingkungan pusat data, silikon ini telah dirancang siap mengakomodasi antarmuka jaringan two-tiered AI Transport Ethernet, lengkap dengan dukungan koneksi inter-chip link berkecepatan 3,2 TB/s.
Dalam hal skalabilitas infrastruktur, arsitektur Maia 300 dapat dikonfigurasikan hingga mencapai 96 cip dalam satu rak server untuk membentuk satu kesatuan unit yang disebut sebagai Maia Pod. Lebih jauh lagi, untuk kebutuhan komputasi skala raksasa, opsi ekspansi scale-out pada sistem ini mendukung penggabungan hingga 12.000 cip Maia di dalam satu scale-up domain terpadu.
Sumber: Microsoft Azure Blog
