AMDHubs

AMD Perkenalkan Ryzen AI Software 1.7 dengan Dukungan Model Baru dan Performa Lebih Konsisten

AMD AI Group resmi merilis Ryzen AI Software 1.7, sebuah pembaruan besar yang difokuskan pada perluasan dukungan model, penyederhanaan alur pengembangan AI lokal, serta peningkatan performa yang lebih konsisten pada Application Processing Unit (APU) AMD yang mengombinasikan NPU dan iGPU. Rilis ini ditujukan untuk mengurangi hambatan teknis dalam pengembangan sehari-hari sekaligus memperkuat kapabilitas AI on-device.

Salah satu peningkatan utama pada Ryzen AI Software 1.7 adalah penambahan dukungan arsitektur model baru. AMD kini mendukung model GPT-OSS berbasis Mixture-of-Experts (MoE) serta Gemma-3 4B Vision-Language Model (VLM). Pendekatan MoE memungkinkan token dialirkan ke jaringan “expert” tertentu, sehingga model dengan kemampuan lebih besar dapat dijalankan tanpa biaya komputasi penuh seperti pada arsitektur dense. Hasilnya, pengembang dapat memperoleh throughput lebih baik dan pipeline LLM yang lebih responsif secara lokal.

Dukungan terhadap VLM juga membuka peluang baru untuk tugas multimodal, termasuk penalaran berbasis gambar, pembuatan caption, pencarian visual ringan, hingga komponen agen multimodal. Dengan hadirnya arsitektur dense, MoE, dan VLM dalam satu platform, pengembang kini dapat membandingkan berbagai pendekatan model di bawah batasan NPU yang sama sebelum masuk ke tahap produksi.

Ryzen AI Software 1.7 juga membawa perubahan signifikan dari sisi tooling dengan mengintegrasikan Stable Diffusion langsung ke dalam installer utama. Sebelumnya, pengembang harus mengelola lingkungan Python dan dependensi terpisah untuk menjalankan workflow generatif berbasis gambar. Kini, seluruh alur kerja LLM, VLM, dan Stable Diffusion berada dalam satu toolchain terpadu, sehingga setup menjadi lebih prediktif dan iterasi pengembangan dapat dilakukan jauh lebih cepat.

Dari sisi kemampuan model bahasa, AMD memperluas dukungan panjang konteks hingga 16K token untuk sebagian besar LLM yang dijalankan secara hybrid pada iGPU dan NPU. Peningkatan ini memungkinkan aplikasi dengan penalaran jangka panjang, percakapan multi-turn yang lebih kompleks, serta implementasi retrieval-augmented generation (RAG) lokal yang lebih efektif. Dengan konteks lebih panjang, risiko pemotongan data berkurang dan grounding model menjadi lebih baik.

Performa inferensi juga mendapat peningkatan signifikan melalui optimalisasi pipeline BF16. Pada Ryzen AI Software 1.7, latensi BF16 diklaim turun hingga sekitar dua kali lebih rendah dibandingkan versi 1.6. Dampaknya terasa langsung pada aplikasi interaktif, di mana waktu respons token menjadi lebih cepat, serta memberikan baseline yang lebih baik bagi model yang telah di-fine-tune, baik dari sisi time-to-first-token maupun durasi inferensi keseluruhan.

Secara keseluruhan, Ryzen AI Software 1.7 berfokus pada aspek-aspek praktis yang memperlancar pengembangan AI harian. Dengan pilihan model yang lebih luas, installer terpadu yang mencakup Stable Diffusion, dukungan konteks LLM yang lebih panjang, serta peningkatan latensi BF16 yang signifikan, AMD menargetkan pengalaman pengembangan AI lokal yang lebih efisien dan siap digunakan untuk menghadirkan fitur LLM dan VLM ke produk akhir.


Sumber: AMD Developer Resources

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button