Microsoft Peringatkan: Fitur Agentic di Windows 11 Bisa Mengalami “Hallucinate”
Microsoft baru-baru ini mengumumkan bahwa Windows 11 sedang mengalami pembaruan besar dengan penerapan fitur agentic. Namun, perusahaan juga memberikan peringatan bahwa fitur ini masih memiliki keterbatasan fungsional dan berpotensi menimbulkan risiko keamanan. Dalam catatan resmi, Microsoft menyebutkan bahwa model AI yang digunakan dapat “berhalusinasi” atau menghasilkan keluaran yang tidak terduga.
Fitur Eksperimental
Setelah menginstal Windows 11 Build 26220.7262, pengguna akan menemukan opsi baru bernama “Experimental agentic features” di menu Settings > System > AI Components. Fitur ini bersifat opsional dan harus diaktifkan secara manual. Saat diaktifkan, Windows akan menampilkan peringatan bahwa kemampuan ini masih eksperimental dan dapat memengaruhi perangkat.
Risiko Keamanan
Kekhawatiran utama bukan hanya pada keluaran AI yang tidak konsisten, tetapi juga pada potensi serangan baru. Salah satu teknik yang menonjol adalah cross-prompt injection, di mana instruksi berbahaya disembunyikan dalam dokumen atau elemen antarmuka biasa. Hal ini bisa membuat agen menjalankan perintah berbahaya, seperti menginstal malware, membocorkan data pembayaran, atau melakukan tindakan merugikan lainnya.
Agentic Workspace
Microsoft menjelaskan bahwa agen dijalankan dalam “Agentic Workspace”, di mana setiap agen memiliki akun terpisah yang dapat diaudit, dan semua tindakannya direkam untuk ditinjau. Konsep ini mirip dengan Windows Sandbox, tetapi berbeda karena agen dirancang untuk persisten dan dapat terus berinteraksi dengan file lintas sesi. Hal ini memperluas potensi permukaan serangan.
Secara default, agen diberi akses baca dan tulis ke folder umum seperti Downloads, Desktop, Documents, Pictures, Music, dan Videos. Meskipun ada pembatasan aksi dan akun eksekusi terpisah, konfigurasi awal ini tetap menyisakan celah keamanan. Microsoft berjanji akan memperkuat perlindungan dengan izin yang lebih rinci serta pertahanan yang lebih kuat terhadap serangan prompt injection.
Sumber: Microsoft
