Sebuah terobosan besar dalam dunia edge AI berhasil dicapai oleh tim ilmuwan Prancis yang dipimpin oleh CEA-Leti. Mereka mengembangkan teknologi memori hibrida pertama yang memungkinkan pelatihan (training) dan inferensi jaringan saraf buatan dilakukan langsung di dalam chip dengan konsumsi energi efisien.
Latar Belakang: Tantangan Edge AI
Sistem AI di perangkat tepi (edge) seperti kendaraan otonom, sensor medis, dan monitor industri membutuhkan kemampuan untuk:
- Inferensi: membaca data untuk mengambil keputusan.
- Pembelajaran: memperbarui model berdasarkan data baru.
Namun, hingga kini, teknologi memori hanya bisa unggul di salah satu fungsi:
- Memristor (RRAM) efisien untuk inferensi dengan menyimpan bobot analog, tetapi kurang presisi untuk pelatihan.
- Ferroelectric capacitors (FeCAPs) memungkinkan pembaruan cepat dengan energi rendah, tetapi pembacaannya bersifat destruktif, sehingga tidak cocok untuk inferensi.
Akibatnya, pelatihan sering harus dialihkan ke cloud, yang menambah biaya, latensi, dan kompleksitas.
Solusi: Memori Hibrida Ferroelectric-Memristor
Dalam makalah bertajuk “A Ferroelectric-Memristor Memory for Both Training and Inference” di Nature Electronics, tim ini memperkenalkan arsitektur memori tumpuk (stack) baru yang menggabungkan FeCAP dan memristor dalam satu unit.
- Memristor dipakai untuk menyimpan bobot analog dengan efisiensi tinggi saat inferensi.
- FeCAP dipakai untuk pembaruan bobot presisi tinggi selama proses pelatihan.
- Bobot di FeCAP secara berkala ditransfer ke memristor menggunakan metode digital-ke-analog tanpa DAC formal.
Material yang digunakan adalah hafnium oxide terdoping silikon dengan lapisan titanium scavenging, memungkinkan perangkat bekerja ganda sebagai FeCAP maupun memristor, tergantung formasi listriknya.
Hasil Pengujian
Prototipe diuji pada 18.432 unit memori dengan teknologi CMOS 130 nm standar. Hasilnya menunjukkan bahwa:
- Proses pelatihan dapat dilakukan on-chip dengan akurasi kompetitif.
- Inferensi tetap efisien tanpa mengorbankan daya tahan perangkat.
- Model AI dapat beradaptasi dengan data baru secara langsung di perangkat, mengurangi kebutuhan pembaruan eksternal.
Dampak Besar untuk Edge AI
Inovasi ini membuka jalan bagi perangkat AI tepi yang benar-benar otonom, hemat energi, dan tangguh. Dengan memori hibrida ini, perangkat tidak hanya bisa membuat keputusan cepat, tetapi juga belajar dari lingkungan secara real-time tanpa bergantung penuh pada infrastruktur cloud.
Selain CEA-Leti, kolaborasi ini melibatkan peneliti dari Université Grenoble Alpes, CEA-List, CNRS, University of Bordeaux, Bordeaux INP, IMS France, Université Paris-Saclay, serta Center for Nanosciences and Nanotechnologies (C2N).
Sumber: CEA-Leti