Anthropic Peringatkan Risiko AI yang Dapat Mereplikasi Diri ke Perangkat Pintar IoT

Perusahaan riset kecerdasan buatan Anthropic baru saja mengeluarkan peringatan serius terkait potensi ancaman siber di masa depan. Mereka memprediksi bahwa model AI berukuran kecil (small AI models) dalam waktu dekat mungkin memiliki kemampuan untuk mereplikasi diri (self-replicate) secara mandiri ke berbagai perangkat Internet of Things (IoT) konsumen, mulai dari Android TV box hingga oven pintar. Fenomena ini dikhawatirkan dapat menciptakan jaringan botnet terdistribusi yang sanggup menjalankan beban kerja (workload) AI tanpa harus bergantung pada infrastruktur pusat data (data center) terpusat.

Dalam serangkaian eksperimen yang dilakukan oleh tim peneliti perusahaan tersebut, terbukti bahwa model AI mampu mengenali perangkat asing yang belum pernah ditemui sebelumnya, menghubungkannya ke dalam sebuah jaringan, serta menyiapkan perangkat tersebut agar dapat menjalankan sebuah model AI.

Meskipun para peneliti berhasil mendistribusikan model Gemma4-26B-A4B besutan Google DeepMind ke dalam 15 unit Android TV box generik (off-brand), eksperimen tersebut memang belum mendemonstrasikan keberadaan worm AI yang sepenuhnya otonom dan mampu mereplikasi diri secara utuh pada perangkat keras IoT sesungguhnya. Kendati demikian, mereka mengestimasi bahwa model AI berukuran kecil dapat mencapai kapabilitas self-replication tersebut pada akhir tahun ini apabila tren peningkatan kemampuannya terus melaju sesuai kecepatan historis.

Tim peneliti Anthropic memperingatkan bahwa model AI kecil mungkin hanya tinggal menghitung bulan sebelum cukup kapabel untuk menggandakan diri pada perangkat IoT komersial. Replikator semacam ini dinilai akan sangat sulit untuk dihentikan karena tidak memiliki titik kendali terpusat (centralized point) yang bisa langsung dimatikan, meskipun laju penyebarannya mungkin tergolong lambat dengan waktu penggandaan (doubling time) yang memakan waktu hingga berhari-hari.

Rincian Eksperimen Replikasi pada Perangkat Android TV Box

Untuk menguji hipotesis ini, Anthropic menjalankan eksperimen replikasi menggunakan perangkat Android TV box berharga murah serta melibatkan beberapa model AI sekaligus, yakni Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8, dan GLM-5.2, di mana masing-masing model diberikan peran yang berbeda.

Dalam pengujian tersebut, model Qwen3.5-9B dan GLM-5.2 ditugaskan sebagai AI agent yang bertanggung jawab melakukan pengaturan awal dan menyebarkan (propagating) model Llama3.1-8B untuk kebutuhan inference. Di sisi lain, Gemma4-26B-A4B digunakan untuk membuktikan bahwa sebuah model AI dapat dijalankan secara terdistribusi di 15 perangkat Android TV box sekaligus, sementara Opus 4.8 diuji secara terpisah sebagai penasihat (advisor) bagi Qwen. Pengujian ini dilakukan dalam lingkungan yang telah disederhanakan, di mana perangkat target diatur agar mengekspos akses Android Debug Bridge (ADB) tanpa autentikasi.

Hasil eksperimen menunjukkan bahwa Qwen3.5-9B berhasil memasang dan mengonfigurasi perangkat lunak yang dibutuhkan untuk menjalankan Llama3.1-8B pada delapan dari sembilan jenis perangkat keras yang diuji. Sementara itu, GLM-5.2 sukses menjangkau kedelapan node di dalam jaringan emulasi terkontrol pada empat dari lima kali percobaan, sedangkan model-model lainnya gagal menyelesaikan keseluruhan proses secara konsisten.

Menariknya, Anthropic mengamati adanya lonjakan tingkat keberhasilan yang signifikan ketika model diizinkan menyimpan data pembelajaran dari percobaan-percobaan sebelumnya. Tingkat keberhasilan Qwen3.5-9B tercatat melonjak dari angka 45% pada percobaan awal menjadi 84% pada iterasi generasi berikutnya. Sebaliknya, penggunaan model Opus 4.8 yang lebih canggih untuk membantu Qwen dalam proses inference justru tidak menghasilkan peningkatan performa yang terukur.

Estimasi Waktu Penyebaran dan Langkah Pertahanan Infrastruktur

Berdasarkan hasil pengujian dan proyeksi data historis, Anthropic memprediksi bahwa model AI dengan jumlah parameter 30 miliar ke bawah dapat mencapai level kapabilitas yang dibutuhkan untuk melakukan replikasi mandiri pada akhir tahun 2026.

Pada perangkat keras yang diteliti saat ini, proses konfigurasi inference tersebut masih berjalan cukup lambat. Model Qwen3.5-9B membutuhkan waktu antara 28 hingga 51 jam, sedangkan Gemma4-26B-A4B memerlukan waktu sekitar 71 hingga 150 jam. Jeda waktu yang panjang ini setidaknya memberikan ruang yang cukup bagi tim keamanan siber untuk mendeteksi anomali dan merespons ancaman sebelum penyebaran meluas.

Namun, durasi eksekusi tersebut dipastikan dapat menyusut drastis seiring hadirnya model-model generasi mendatang yang lebih efisien, sehingga penerapan standar keamanan yang lebih ketat pada perangkat IoT harus segera menjadi prioritas. Beberapa langkah pertahanan yang diusulkan meliputi deteksi transfer model berukuran besar serta lalu lintas jaringan tidak wajar antar-perangkat (device-to-device traffic), pemanfaatan honeypot untuk menginspeksi payload, karantina terhadap jaringan pelanggan yang terinfeksi, hingga peningkatan konfigurasi keamanan default pada produk IoT sejak dari pabrik.

Meskipun peringatan dari Anthropic ini belum didasarkan pada ancaman nyata yang sudah siap menyerang saat ini—mengingat eksperimen mereka sendiri belum berhasil membuktikan kemampuan pembuatan worm secara end-to-end bahkan pada kondisi pengaturan keamanan yang telah dilonggarkan—pesan urgensi untuk segera memperkuat keamanan ekosistem perangkat pintar tetap menjadi hal yang tidak bisa diabaikan.

Sumber: Anthropic Research