Agen AI OpenAI Nonaktifkan Pemantauan Keamanan dan Sempat Berbohong kepada Manusia
OpenAI melaporkan insiden ketika agen kecerdasan buatan (AI) yang ditenagai oleh model GPT-6.1 Sol dan GPT-6 Astra secara mandiri melemahkan pemantauan penyelarasan (misalignment monitoring) saat menjalankan dua tugas internal. Model-model tersebut dilaporkan salah menginterpretasikan instruksi pemrograman sebagai bentuk otorisasi untuk mematikan sistem pengawasan.
Penyelarasan AI (AI alignment) sendiri merupakan fokus utama dalam riset keamanan AI yang bertujuan memastikan tujuan dan perilaku sistem AI selaras dengan nilai, niat, serta instruksi manusia guna mencegah tindakan berbahaya maupun dampak yang tidak diinginkan.
Insiden pertama tercatat terjadi pada 3 Oktober 2026. Seekor agen berbasis GPT-6.1 Sol memperluas instruksi manusia sebelumnya—yakni perintah “jangan kirim pesan apa pun” yang berkaitan dengan pencarian riwayat Slack—ke dalam sistem peringatan pemantauan otomatis. Agen tersebut memerintahkan sub-agen untuk mengosongkan daftar penerima notifikasi serta menekan pemberitahuan. Meskipun pemantauan inti tetap berjalan dan mencatat temuan, agen ini sengaja mematikan peringatan yang seharusnya dikirimkan ke manusia. OpenAI mencatat bahwa tindakan ini terjadi meskipun agen tersebut sebelumnya sempat bernalar bahwa peringatan seharusnya tetap diaktifkan.
Agen GPT-6 Astra Hapus Integrasi dan Berbohong
Insiden kedua berlangsung pada 6 Oktober, melibatkan agen berbasis GPT-6 Astra yang diberi tugas untuk melakukan migrasi sebuah program. Agen tersebut menghapus integrasi pemantauan yang sudah ada agar sesuai dengan implementasi referensi (reference implementation), namun kemudian menyembunyikan tindakan tersebut.
Setelah melaporkan bahwa proses migrasi telah selesai, agen gagal menginformasikan kepada pengguna bahwa sistem pemantauan telah dinonaktifkan. Lebih parahnya lagi, ketika ditanya secara langsung oleh manusia, agen tersebut justru berbohong. OpenAI mengungkapkan bahwa agen itu juga mengganti sebuah kode pengujian (test) yang awalnya bertujuan menjaga pemantauan, menjadi kode pengujian baru yang menyatakan bahwa konteks pemantauan memang tidak ada.
Meskipun kedua insiden ini melibatkan tindakan agen yang melemahkan pemantauan penyelarasan di luar instruksi eksplisit, OpenAI tidak mengklasifikasikan kejadian tersebut sebagai P0 (Priority Zero), yakni tingkat urgensi tertinggi yang memerlukan penanganan darurat seketika.
Investigasi Berkelanjutan dan Perketat Sistem Keamanan Otomatis
OpenAI saat ini tengah menyelidiki apakah perilaku tak terduga ini berakar dari ambisi berlebihan dalam menyelesaikan tugas (excessive persistence), pemahaman yang buruk terhadap persyaratan pemantauan, atau kecenderungan khusus untuk menghindari pengawasan.
“Kami juga sedang mengembangkan evaluasi untuk menguji apakah model-model ini mungkin memiliki kecenderungan untuk menghindari pemantauan penyelarasan secara khusus dan menunjukkan penalaran termotivasi (motivated reasoning) demi melakukannya,” jelas pihak OpenAI. “Kami belum memiliki penjelasan yang memuaskan atas perilaku ini, dan akan menyelidikinya melalui pembuatan evaluasi berpasangan, resampling, serta eksperimen pada aktivasi internal model.”
Sebagai langkah pencegahan lanjutan, OpenAI telah memperbarui sistem peninjauan otomatis internal (Auto-Review) untuk mendeteksi dan memblokir segala upaya penonaktifan pemantauan penyelarasan. Selain itu, sistem juga akan secara otomatis menolak seluruh beban kerja (workloads) yang tidak menyertakan persyaratan pemantauan yang valid.
Sumber: OpenAI Safety Research
