Astera Labs Perkenalkan Orion, Arsitektur Rack-Scale Modular yang Fleksibel untuk Infrastruktur AI
Astera Labs secara resmi memperkenalkan Orion, sebuah desain referensi rack-scale modular berbekal konektivitas kelas produksi (production-grade connectivity) yang memberikan kebebasan penuh bagi pelanggan untuk memilih kombinasi GPU maupun CPU mereka sendiri. Ditawarkan melalui jaringan mitra ODM dan OEM milik Astera Labs, desain referensi ini dirancang untuk membantu penyedia layanan neocloud serta kalangan enterprise dalam menggelar infrastruktur kecerdasan buatan (AI) secara lebih cepat dan efisien, sekaligus mengubah rak server berstandar terbuka menjadi pabrik pemrosesan token AI yang optimal.
Dalam menjalankan beban kerja AI inference berskala besar secara ekonomis, penyedia neocloud dan perusahaan dituntut untuk mengamankan kapasitas akselerator dan CPU yang memadai sembari tetap menjaga performa berlatensi rendah yang terprediksi di tengah infrastruktur yang kian kompleks. Namun, keharusan untuk mengunci komitmen investasi kapasitas jauh sebelum mengetahui akselerator mana yang paling tersedia atau terjangkau di pasaran sering kali menimbulkan risiko finansial yang tidak perlu jika hanya terpaku pada satu platform tunggal. Di sisi lain, para produsen ODM dan OEM juga kerap dipaksa menyelesaikan tantangan integrasi, validasi, serta kompatibilitas perangkat lunak secara berulang setiap kali muncul platform akselerator baru—sebuah hambatan yang memperlambat deployment di saat kapasitas inference sedang sangat dibutuhkan.
Pemisahan Desain Rak dari Pemilihan CPU dan Akselerator via PCIe
Orion hadir menjawab tantangan industri tersebut melalui arsitektur referensi kelas produksi yang memisahkan (decouple) desain rack-scale dari pemilihan unit akselerator dan CPU. Dibangun di atas standar terbuka guna mendukung berbagai ekosistem akselerator inference dan prosesor terkemuka di industri, Orion memungkinkan operator pusat data untuk cukup membangun infrastruktur satu kali saja. Selanjutnya, mereka dapat memperluas skala beban kerja inference menggunakan sumber daya komputasi yang paling hemat biaya dan tersedia di pasaran—melalui add-in card berbasis PCIe—tanpa perlu merombak ulang desain rak seiring berkembangnya teknologi maupun dinamika pasar.
Jantung dari arsitektur Orion terletak pada scale-up fabric berkinerja tinggi berbasis standar terbuka yang dirancang untuk menghubungkan hingga 160 akselerator dalam satu pod. Sistem interkoneksi ini sanggup menghadirkan komunikasi berlatensi rendah yang konsisten serta ekspansi kapasitas memori lintas rak dan pod. Selain itu, konektivitas PCIe yang telah dioptimalkan serta konsep composable infrastructure pada Orion turut dirancang untuk membantu unit akselerator mengekstraksi lebih banyak tokens-per-second di berbagai beban kerja AI inference.
Secara teknis, Orion dihadirkan sebagai paket desain referensi rack-scale modular yang utuh, mencakup konfigurasi sistem untuk compute tray, fabric tray, memory tray, link board, hingga compute board. Seluruh komponen perangkat keras tersebut telah terintegrasi langsung dengan perangkat lunak orkestrasi COSMOS Rack Manager dan COSMOS Fabric Manager untuk menangani pengelolaan sistem, telemetri menyeluruh (fleet-wide telemetry), diagnostik, serta kecerdasan pemantauan infrastruktur AI.
Vice President and General Manager AI Platform Solutions Group di Astera Labs, Pravin Patel, menyampaikan bahwa industri saat ini tengah memasuki era baru AI inference, di mana para operator dinilai berdasarkan jumlah token yang sanggup mereka hasilkan per dolar, bukan semata-mata dari merek perangkat keras yang tertanam di dalam rak mereka. Kehadiran Orion diklaim memberikan arsitektur compute-agnostic siap pakai bagi penyedia cloud AI inference agar dapat segera mengaktifkan kapasitas komputasi secara daring, menawarkan skema harga berbasis hasil (outcome-based pricing) kepada pelanggan, serta beradaptasi dengan cepat terhadap evolusi lanskap komputasi.
Jadwal Ketersediaan dan Pameran di OCP Global Summit 2026
Desain referensi rak dan sistem Orion dijadwalkan akan mulai tersedia melalui jajaran mitra OEM dan ODM resmi Astera Labs pada kuartal pertama tahun 2027 (Q1 2027).
Sebagai langkah awal perkenalan ke publik, Astera Labs turut memamerkan unit rak Orion yang beroperasi penuh—lengkap dengan compute tray pra-validasi yang dapat dipertukarkan (interchangeable) menggunakan berbagai konfigurasi CPU dan akselerator berbeda—dalam ajang 2026 Open Compute Project (OCP) Global Summit yang berlangsung pada 12 hingga 15 Oktober 2026 di San Jose, California.
Sumber: Astera Labs
