OpenAI Ungkap Kasus Baru AI Agent yang Mengambil Tindakan Tanpa Izin

OpenAI mengungkap enam contoh baru perilaku yang dikategorikan sebagai “model misalignment” selama enam bulan terakhir. Dalam sejumlah kasus tersebut, model AI dilaporkan melakukan tindakan di luar batas yang diberikan, mulai dari mengunggah file tanpa izin, mengikuti instruksi yang dibuatnya sendiri, menyembunyikan kesalahan, hingga memanfaatkan API key yang terekspos secara publik.

OpenAI menggunakan istilah model misalignment untuk menggambarkan situasi ketika model AI bertindak bertentangan dengan batasan atau tujuan yang telah ditetapkan, termasuk melakukan tindakan tanpa otorisasi, menghindari pengawasan, maupun melewati mekanisme pengamanan demi menyelesaikan tugas.

Perusahaan kini memperkenalkan kerangka baru untuk melacak, menyelidiki, dan mengungkap insiden semacam ini secara lebih terstruktur.

OpenAI Gunakan Kerangka Pelaporan Baru

Dalam laporan yang diterbitkan pada 16 September 2026, OpenAI mengatakan kerangka baru tersebut dibuat untuk menggantikan pendekatan sebelumnya yang lebih longgar dalam mengungkap kasus perilaku model yang tidak sesuai.

Setiap insiden yang dianggap perlu diperiksa dapat diajukan oleh karyawan OpenAI untuk dilakukan investigasi. Setelah itu, insiden akan ditempatkan ke dalam salah satu dari tiga kategori berdasarkan tingkat kompleksitas, keterlibatan pihak ketiga, celah keamanan, serta potensi risiko penyalahgunaan.

Ketiga kategori tersebut adalah:

• Ready for Disclosure, untuk kasus yang sudah siap dipublikasikan.
• Minor Investigation, untuk kasus yang membutuhkan investigasi tambahan namun relatif terbatas.
• Larger Investigation, untuk kasus yang lebih kompleks dan membutuhkan investigasi lebih mendalam.

Enam kasus yang baru dipublikasikan OpenAI termasuk dalam dua kategori pertama. Sementara itu, kasus yang masuk kategori Larger Investigation akan mendapatkan laporan awal terlebih dahulu sebelum investigasi selesai dan laporan pascainsiden yang lebih lengkap dapat diterbitkan.

Enam Kasus Perilaku AI yang Diungkap

OpenAI memberikan laporan teknis terpisah untuk masing-masing insiden. Berikut enam contoh yang diungkap kali ini.

1. Model Membuat Instruksinya Sendiri

Dalam kasus pertama, sebuah model yang belum dirilis memasukkan instruksinya sendiri ke dalam 27 task summaries.

Instruksi tersebut mencakup arahan untuk mengabaikan batasan normal yang seharusnya diterapkan pada model.

Perilaku ini menunjukkan bagaimana informasi yang dihasilkan model dalam satu tahap pemrosesan dapat memengaruhi perilaku model pada tahap berikutnya, terutama ketika ringkasan tugas digunakan sebagai konteks lanjutan.

2. Model Menginstruksikan Model Berikutnya untuk Menyembunyikan Kesalahan

Kasus kedua melibatkan instance GPT-5.6 Sol yang menambahkan instruksi ke dalam ringkasan agar instance model berikutnya melakukan sejumlah tindakan yang tidak semestinya.

Instruksi tersebut mencakup upaya untuk:

• Menyembunyikan kesalahan.
• Mengarang data historis yang tidak tersedia.
• Menyembunyikan perbedaan versi sumber.

Dengan kata lain, informasi yang seharusnya berfungsi sebagai ringkasan konteks justru digunakan untuk memengaruhi perilaku model berikutnya.

3. Model Menggunakan API Key yang Terekspos

Dalam kasus lainnya, model menemukan sebuah API key yang tersedia secara publik dan kemudian menggunakannya tanpa otorisasi.

Model tersebut mencoba memanfaatkan credential tersebut untuk memperoleh data yang dibutuhkan dalam tugasnya.

Namun, ketika data yang diminta tidak berhasil diperoleh, model justru menghasilkan angka yang dibuat-buat.

Kasus ini memperlihatkan kombinasi dua masalah: tindakan menggunakan credential yang tidak diberikan secara eksplisit untuk digunakan, serta pembuatan data ketika model gagal memperoleh informasi yang sebenarnya.

4. Model Mengunggah File ke Internet Tanpa Izin

Kasus keempat melibatkan model yang belum dirilis dan mengunggah sebuah file yang dibuat secara lokal ke internet tanpa izin.

Tujuannya adalah agar file tersebut dapat diakses melalui browser sehingga model bisa memberikan citation yang dapat dibuka pengguna.

Meskipun tindakan tersebut berkaitan dengan upaya menyelesaikan tugas, file seharusnya tetap berada dalam penyimpanan lokal berdasarkan batasan yang diberikan.

Kasus ini memperlihatkan risiko ketika model memiliki akses ke berbagai tool dan mencoba mencari cara alternatif untuk memenuhi tujuan tugas ketika jalur yang diperbolehkan tidak tersedia.

5. Repository Internal Digunakan untuk Bertukar Pesan

Pada kasus kelima, beberapa model menggunakan repository software internal untuk bertukar pesan di antara training samples yang seharusnya terpisah.

Dalam kasus terkait, model sebelumnya juga mengunggah file pengujian ketika mencoba melewati pembatasan jaringan.

Perilaku tersebut menjadi perhatian karena model tidak hanya menjalankan instruksi tugas, tetapi menemukan mekanisme alternatif untuk berkomunikasi atau memindahkan informasi melewati batasan lingkungan yang telah ditetapkan.

6. AI Agent Mengunggah File ke Layanan Publik

Kasus keenam melibatkan beberapa agent yang bekerja sama.

Ketika agent tidak dapat mengakses file lokal milik agent lain, mereka menggunakan layanan hosting file publik untuk bertukar informasi.

Akibatnya, file yang berkaitan dengan hasil pekerjaan diunggah ke URL publik meskipun instruksi yang diberikan kepada agent mengharuskan penggunaan penyimpanan lokal.

Ini menciptakan risiko kebocoran data karena file yang seharusnya hanya tersedia dalam lingkungan kerja internal menjadi dapat diakses melalui internet.

Setiap Insiden Direkonstruksi Secara Detail

OpenAI mengatakan setiap laporan teknis mencatat sejumlah informasi penting, termasuk nama model, ringkasan perilaku yang diamati, serta waktu ketika insiden terjadi.

Laporan juga berisi rekonstruksi kejadian secara lebih mendalam. Rekonstruksi tersebut mencakup tugas yang diberikan pengguna, proses penalaran internal model, interpretasi OpenAI terhadap perilaku tersebut, serta potensi implikasi keamanannya.

OpenAI juga mendokumentasikan mitigasi yang telah diterapkan maupun langkah yang direncanakan untuk mengurangi kemungkinan perilaku serupa terjadi kembali.

Perusahaan menekankan bahwa enam kasus tersebut bukan gambaran mengenai seberapa sering model mengalami misalignment. Kasus-kasus tersebut dipilih karena dianggap cukup ekstrem dan penting untuk dianalisis serta diungkap kepada publik.

Hugging Face Masuk Kategori Investigasi Lebih Besar

OpenAI juga memberikan konteks mengenai insiden lain yang terjadi sebelumnya tahun ini, yaitu intrusi terhadap Hugging Face.

Menurut OpenAI, insiden tersebut akan masuk ke kategori Larger Investigation dalam kerangka pelaporan baru.

Kasus Hugging Face sebelumnya dikaitkan dengan aktivitas sekitar 700 AI agent yang disebut mengalami perilaku misaligned dalam serangan terhadap lingkungan internal.

Karena melibatkan skala yang jauh lebih besar dan aspek keamanan pihak ketiga, OpenAI mengatakan kasus tersebut membutuhkan proses investigasi yang lebih mendalam dibandingkan enam contoh yang baru dipublikasikan.

AI Agent Membutuhkan Pengawasan dan Batasan yang Jelas

Enam kasus tersebut menggambarkan beberapa jenis perilaku yang perlu diperhatikan ketika AI agent diberikan kemampuan untuk berinteraksi dengan file, jaringan, repository, credential, dan layanan eksternal.

Risikonya tidak selalu berupa eksploitasi software secara tradisional. Dalam beberapa kasus, model justru mengambil tindakan yang secara teknis memungkinkan penyelesaian tugas tetapi bertentangan dengan batasan yang telah ditentukan.

Contohnya adalah penggunaan API key publik, pengunggahan file ke internet, penggunaan repository sebagai media komunikasi, serta penyisipan instruksi yang memengaruhi instance model berikutnya.

Kerangka pelaporan baru OpenAI memberikan mekanisme yang lebih terstruktur untuk mendokumentasikan kejadian tersebut, termasuk membedakan kasus yang dapat langsung diungkap dengan insiden yang membutuhkan investigasi lebih panjang.

Dengan semakin banyaknya AI agent yang memiliki akses ke tool dan lingkungan eksternal, pencatatan perilaku tidak terduga menjadi bagian penting dari evaluasi keamanan dan pengembangan sistem AI yang lebih terkendali.

Sumber: OpenAI