Axelera Luncurkan Europa AIPU dengan Performa AI hingga 629 TOPS
Axelera AI resmi meluncurkan Europa, arsitektur baru AI Processing Unit (AIPU) yang dirancang untuk menjalankan workload artificial intelligence, khususnya AI inference di edge maupun server.
Europa sebelumnya telah diperkenalkan pada tahun lalu dan kini resmi tersedia dalam tiga bentuk, mulai dari chip untuk desain board khusus hingga kartu PCIe yang dapat langsung dipasang pada sistem edge dan server.
Dengan kemampuan komputasi hingga 629 TOPS pada TDP 45 W, Europa ditujukan untuk menangani berbagai workload AI modern, termasuk agentic AI, vision-language model (VLM), generative AI, dan computer vision.
Arsitektur ini menjadi penerus langsung Axelera Metis, platform AIPU generasi sebelumnya dari perusahaan tersebut.
Europa AIPU Memiliki Delapan Core AI Generasi Kedua
Europa dibangun dengan delapan AI processing core generasi kedua yang dipadukan dengan 16 RISC-V vector processing core.
Chip tersebut juga memiliki 128 MB L2 SRAM dan menyediakan bandwidth DRAM hingga 200 GB/s.
Untuk konektivitas, Europa menggunakan interface PCIe 4.0 x4 serta memiliki onboard video decoder untuk mendukung workload yang berkaitan dengan pemrosesan video dan computer vision.
Dari sisi presisi komputasi, Europa mendukung INT4, INT8, dan INT16. Pada konfigurasi maksimal, AIPU ini dapat mencapai performa hingga 629 TOPS dengan konsumsi daya 45 W.
Kombinasi performa dan efisiensi tersebut dirancang agar Europa dapat digunakan pada sistem AI yang membutuhkan kemampuan inference tinggi tetapi tetap memiliki batas konsumsi daya yang ketat.
Tersedia dalam Tiga Form Factor
Axelera menyediakan Europa dalam tiga bentuk implementasi.
Pertama adalah chip standalone yang ditujukan bagi produsen perangkat keras yang ingin mengintegrasikan AIPU ke dalam custom board.
Kedua adalah Edge 232p, kartu PCIe berukuran half-height, half-length (HHHL) yang menggunakan satu chip Europa.
Ketiga adalah Server 250p, kartu PCIe berukuran full-height, full-length (FHFL) yang dapat mengintegrasikan hingga empat Europa AIPU.
Pembagian tersebut memungkinkan Europa digunakan dalam berbagai skenario, mulai dari perangkat edge berukuran ringkas hingga server dengan kebutuhan akselerasi AI yang jauh lebih tinggi.
Edge 232p Capai 629 TOPS
Edge 232p menggunakan satu Europa AIPU dan mampu mencapai performa hingga 629 TOPS.
Axelera menyebut kartu tersebut dapat mencapai 83,4 token per detik ketika menjalankan model Qwen 30B.
Edge 232p juga telah tersedia dalam konfigurasi sistem yang tervalidasi pada beberapa platform server, termasuk Dell XE5 dan Supermicro 111AD.
Dengan form factor HHHL, kartu tersebut dapat digunakan pada sistem edge maupun server yang memiliki ruang terbatas tetapi membutuhkan akselerasi inference AI tambahan.
Server 250p Gabungkan Empat AIPU Europa
Untuk kebutuhan yang lebih besar, Axelera menawarkan Server 250p.
Kartu ini dapat mengintegrasikan hingga empat Europa AIPU, menghasilkan performa gabungan lebih dari 2.500 TOPS.
Dalam pengujian yang disebut Axelera, konfigurasi tersebut mampu mencapai hingga 4.205 token per detik ketika menjalankan Qwen3 8B.
Efisiensinya disebut dapat mencapai hingga 32,1 token per detik per watt.
Konfigurasi multi-AIPU ini memungkinkan satu kartu PCIe menangani workload inference yang lebih berat tanpa harus menggunakan beberapa kartu accelerator terpisah.
Fokus pada AI Inference
Europa dirancang terutama untuk kebutuhan inference, bukan sekadar mengejar performa komputasi mentah.
Workload yang menjadi target mencakup sistem berbasis AI agent, vision-language model, generative AI, dan computer vision.
AI inference semakin banyak dilakukan di edge karena berbagai aplikasi membutuhkan respons cepat dan pemrosesan data secara lokal. Computer vision di lingkungan industri, misalnya, dapat memproses video dari kamera tanpa harus mengirim seluruh data mentah ke cloud.
Demikian pula AI agent dan generative AI dapat membutuhkan akselerator yang mampu menjalankan model secara efisien pada perangkat maupun server lokal.
Dengan dukungan berbagai precision seperti INT4, INT8, dan INT16, Europa dapat menyesuaikan karakteristik komputasi dengan model dan workload yang dijalankan.
Axelera Klaim Pipeline Penjualan Lebih dari US$1,5 Miliar
Dalam pengumumannya, Axelera AI menyatakan perusahaan memiliki sales pipeline lebih dari US$1,5 miliar serta lebih dari 600 pelanggan di seluruh dunia.
Angka tersebut menunjukkan fokus perusahaan untuk memperluas penggunaan akselerator AI di luar solusi GPU tradisional.
Axelera juga terus mengembangkan produk generasi berikutnya. Perusahaan saat ini mengerjakan chiplet pertamanya yang diberi nama Titania.
Titania dirancang untuk kebutuhan yang lebih besar, termasuk rack-mount server dan supercomputer.
Titania Disiapkan untuk Sistem AI Skala Besar
Jika Europa menyasar AI inference pada edge dan server, Titania akan membawa pendekatan Axelera ke kelas sistem yang lebih besar.
Penggunaan chiplet memungkinkan perusahaan mengembangkan arsitektur komputasi dengan skalabilitas yang lebih tinggi. Namun, detail teknis mengenai Titania, termasuk konfigurasi, performa, konsumsi daya, serta jadwal peluncurannya, belum banyak diungkapkan.
Pengembangan tersebut menunjukkan bahwa Axelera tidak hanya menargetkan perangkat edge, tetapi juga ingin memperluas portofolionya ke infrastruktur AI skala data center.
Europa Menjadi Generasi Berikutnya setelah Metis
Europa merupakan penerus langsung dari Metis, AIPU generasi sebelumnya dari Axelera AI.
Dengan performa hingga 629 TOPS, bandwidth DRAM 200 GB/s, 128 MB L2 SRAM, dukungan beberapa precision, serta pilihan implementasi mulai dari chip hingga kartu server empat-AIPU, Europa menawarkan pendekatan yang lebih luas untuk kebutuhan AI inference.
Ketersediaan Edge 232p dan Server 250p juga membuat teknologi tersebut lebih mudah diintegrasikan ke sistem yang sudah menggunakan standar PCIe.
Dengan semakin banyak aplikasi AI yang membutuhkan inference secara lokal, akselerator seperti Europa dapat menjadi salah satu alternatif untuk menangani workload AI tanpa sepenuhnya bergantung pada GPU kelas data center.
Sumber: Axelera AI
