LattePanda Mu Ultra Hadir sebagai Compute Module x86 Mini untuk AI On-Device hingga 115 TOPS
LattePanda resmi meluncurkan LattePanda Mu Ultra, sebuah compute module x86 berukuran sangat ringkas yang dirancang khusus untuk menjalankan AI secara langsung di perangkat (on-device AI).
Modul ini menggunakan prosesor Intel Core Ultra 5 226V atau Core Ultra 7 256V dan menawarkan performa AI hingga 115 TOPS INT8, termasuk hingga 47 TOPS dari NPU khusus. Dengan dimensi hanya 69,6 x 60 mm, Mu Ultra ditujukan untuk berbagai perangkat dengan keterbatasan ruang seperti robot, kamera pintar, instrumen portable, perangkat industri, dan sistem edge AI.
Hingga 115 TOPS dalam Modul Berukuran 69,6 x 60 mm
LattePanda Mu Ultra menggabungkan kemampuan CPU, GPU, dan NPU dari prosesor Intel Core Ultra untuk menghasilkan performa AI hingga 115 TOPS INT8.
Dari angka tersebut, NPU khususnya mampu memberikan hingga 47 TOPS INT8, sementara GPU menggunakan Intel Arc Graphics dengan hingga 8 Xe Cores.
Ukuran modul yang hanya 69,6 x 60 mm memungkinkan kemampuan komputasi x86 tersebut digunakan pada perangkat yang memiliki ruang internal terbatas.
LattePanda menargetkan modul ini untuk engineer, system integrator, dan OEM yang membutuhkan kemampuan AI lokal tanpa harus menggunakan komputer berukuran besar.
AI Berjalan Langsung di Perangkat
Salah satu tujuan utama Mu Ultra adalah memungkinkan workload AI diproses langsung pada perangkat. Pendekatan ini dapat mengurangi ketergantungan terhadap cloud sekaligus memberikan latensi lebih rendah dan membantu menjaga data sensitif tetap berada di perangkat.
Dalam pengujian yang disampaikan LattePanda, Mu Ultra mampu menghasilkan kecepatan 18 token/detik menggunakan Qwen3.5-9B dan 55 token/detik dengan Qwen3.5-2B.
Pengujian tersebut menggunakan INT4 quantization, OpenVINO GenAI, dan Intel iGPU.
Kemampuan tersebut dapat dimanfaatkan untuk berbagai aplikasi seperti voice assistant lokal, pemrosesan dokumen secara offline, serta private knowledge retrieval.
Memori LPDDR5X hingga 11,6 GB untuk GPU
LattePanda Mu Ultra dilengkapi 16 GB LPDDR5X-8533.
Dari kapasitas tersebut, hingga 11,6 GB dapat dialokasikan sebagai video memory, memberikan ruang yang lebih besar untuk menjalankan workload AI seperti LLM dan menyimpan KV Cache.
Bandwidth memori yang tinggi ditujukan untuk mendukung workload yang menggunakan CPU, GPU, maupun NPU secara bersamaan.
Modul ini juga memiliki konsumsi daya idle serendah 2,5 W, sehingga cocok untuk perangkat portable maupun sistem yang harus aktif sepanjang waktu.
Tetap Kompatibel dengan Ekosistem x86
LattePanda tidak hanya mengejar performa AI, tetapi juga mempertahankan kompatibilitas dengan ekosistem software x86 yang sudah ada.
Mu Ultra mendukung Windows dan Linux, sehingga engineer maupun OEM dapat menggunakan aplikasi dan workflow pengembangan x86 yang sudah tersedia tanpa harus membangun ulang seluruh software stack.
Untuk pengembangan AI, modul ini mendukung sejumlah tool dan framework populer seperti Intel OpenVINO, llama.cpp, dan Ollama.
Hal tersebut dapat mempermudah proses menambahkan kemampuan AI ke perangkat x86 yang sudah ada.
Bisa Digunakan pada Carrier Board yang Sudah Ada
LattePanda Mu Ultra mempertahankan form factor dan konektor standar keluarga LattePanda Mu, sehingga sebagian besar carrier board yang sudah tersedia dapat digunakan kembali.
LattePanda menyebut Mu Ultra dapat dipasangkan dengan 3.5-inch Lite Carrier Board, Mini Carrier, maupun M.2 M Key Carrier Board.
Pendekatan modular ini memungkinkan pengembang melakukan upgrade sistem tanpa harus mendesain ulang seluruh carrier board.
Untuk konektivitas, modul menyediakan berbagai interface seperti:
- PCIe 4.0
- USB 3.2 Gen 2
- USB 2.0
- HDMI / DisplayPort
- eDP
- GPIO
- UART
- I2C
Dengan pilihan interface tersebut, Mu Ultra dapat digunakan mulai dari tahap prototyping dan pengembangan small-batch hingga produksi dalam jumlah besar.
Lima Target Penggunaan On-Device AI
LattePanda melihat sejumlah skenario penggunaan utama untuk Mu Ultra.
Intelligent AI Terminal
Modul dapat menjalankan LLM secara lokal untuk perangkat penerjemah, voice assistant, serta aplikasi knowledge base yang membutuhkan latensi rendah dan privasi data.
Portable Instruments
Komputasi x86 berperforma tinggi dapat dimasukkan ke perangkat portable seperti spectrum analyzer dan peralatan diagnostik untuk membantu analisis real-time berbasis AI.
Autonomous Mobile Robots
Mu Ultra dapat digunakan untuk sensor fusion, SLAM, dan autonomous navigation pada robot mobile yang memiliki keterbatasan ruang.
Service Robots
Kemampuan CPU, GPU, dan NPU memungkinkan perangkat menjalankan workload vision, voice, serta multimodal AI pada satu modul komputasi.
On-Device Vision AI
Untuk smart camera dan sistem robotic inspection, pemrosesan video beresolusi tinggi dapat dilakukan secara lokal. Hal ini dapat membantu mengurangi latensi deteksi sekaligus mengurangi kebutuhan mengirim data ke cloud.
Spesifikasi LattePanda Mu Ultra
Berikut konfigurasi utama yang ditawarkan:
| Komponen | Spesifikasi |
|---|---|
| Prosesor | Intel Core Ultra 5 226V / Core Ultra 7 256V |
| AI Performance | Hingga 115 TOPS INT8 |
| NPU | Hingga 47 TOPS INT8 |
| GPU | Intel Arc Graphics, hingga 8 Xe Cores |
| Memori | 16 GB LPDDR5X-8533 |
| Allocatable VRAM | Hingga 11,6 GB |
| Display | Hingga 3x HDMI/DisplayPort + 1x eDP |
| OS | Windows dan Linux |
| Dimensi | 69,6 x 60 mm |
Harga Mulai US$599
LattePanda Mu Ultra kini telah tersedia melalui toko online resmi LattePanda dengan harga mulai US$599.
Dengan ukuran yang sangat kecil, performa AI hingga 115 TOPS, NPU 47 TOPS, memori LPDDR5X berkecepatan tinggi, konsumsi daya idle rendah, serta kompatibilitas Windows dan Linux, Mu Ultra ditujukan untuk membawa kemampuan AI lokal ke perangkat yang sebelumnya terlalu kecil atau terbatas untuk menggunakan sistem x86 berperforma tinggi.
Sumber: LattePanda
