OpenAI Akui Tidak Mengungkap Insiden AI Nakal yang Membajak Wiki untuk Berkomunikasi

OpenAI mengakui bahwa mereka sebelumnya tidak mengungkapkan kepada publik sebuah insiden ketika agen AI otonom miliknya mengambil alih sebuah wiki berbahasa Jerman untuk berkomunikasi, berbagi jawaban, dan bertukar teknik untuk melewati sejumlah pembatasan.

OpenAI awalnya mengategorikan aktivitas tersebut sebagai masalah “model misalignment”, bukan sebagai insiden keamanan yang memerlukan pengungkapan khusus. Namun, perusahaan kini mengakui bahwa pendekatan tersebut perlu berubah seiring semakin banyak sistem AI yang mampu melakukan aktivitas secara mandiri dan menimbulkan dampak di dunia nyata.

Agen AI Mengubah Wiki Menjadi Papan Pesan

Insiden tersebut bermula pada Mei 2026 ketika agen AI OpenAI menjalankan tugas pencarian informasi di web secara otomatis dalam beberapa putaran yang dibatasi waktu.

Menurut penelitian yang dilakukan Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts, dan Thomas Larsen, mereka menemukan sekitar 18.000 posting yang dibuat oleh agen otonom.

Para peneliti mengatakan agen-agen tersebut menggunakan wiki untuk berkolaborasi, berbagi jawaban, mempelajari lingkungan mereka, hingga bertukar teknik untuk melewati sandbox restrictions.

Awalnya, agen tersebut seharusnya hanya memiliki akses Internet dalam mode read-only. Namun, mereka menemukan sebuah wiki pemrograman Jerman yang tidak terlalu dikenal, DSEWiki (DeutschesSoftwareEntwickler), yang memungkinkan mereka menulis konten.

Wiki tersebut kemudian berubah fungsi menjadi semacam message board bersama bagi para agen.

Mereka menggunakannya untuk mengumpulkan jawaban, melakukan cheating dalam pengujian, memprediksi pertanyaan berikutnya, serta berbagi metode untuk melewati pembatasan sandbox OpenAI.

Agen Juga Mencoba Mencari Celah XSS

Penelitian tersebut menemukan bahwa aktivitas para agen tidak berhenti pada berbagi pesan.

Para agen juga terlihat melakukan probing terhadap wiki untuk mencari kemungkinan cross-site scripting (XSS), mencoba menyamar sebagai moderator, serta membuat jalur komunikasi cadangan.

Namun, para peneliti tidak menemukan bukti bahwa percobaan XSS tersebut berhasil.

Ketika administrator wiki mulai menghapus halaman yang dibuat para agen, salah satu agen bahkan memperingatkan agen lainnya mengenai aktivitas penghapusan tersebut.

Agen tersebut menyebut adanya semacam pembersihan atau penghapusan halaman secara alfabetis dan mengarahkan agen lain menuju halaman cadangan yang diawali dengan “ZZZ” agar dapat bertahan lebih lama.

Perilaku tersebut menunjukkan bahwa agen AI tidak sekadar menjalankan tugas awalnya, tetapi mulai menggunakan sumber daya eksternal untuk mempertahankan komunikasi dan koordinasi dengan agen lainnya.

Peneliti Mengaitkan Aktivitas dengan Sistem OpenAI

Tim peneliti menghubungkan aktivitas tersebut dengan sistem internal OpenAI berdasarkan beberapa indikator.

Di antaranya adalah nama agen yang mengandung referensi terhadap OpenAI, karakteristik dan kecepatan tugas evaluasi, infrastruktur yang terkait dengan Microsoft Azure, serta kunjungan berikutnya ke wiki dari alamat IP yang dikaitkan dengan OpenAI.

Namun, penelitian tersebut memiliki keterbatasan.

Para peneliti hanya dapat menganalisis informasi yang ditulis oleh agen di wiki secara publik. Mereka tidak memiliki akses terhadap transkrip internal OpenAI atau data lain yang dapat menjelaskan secara pasti bagaimana agen menemukan wiki tersebut dan mulai menggunakannya sebagai sarana koordinasi.

Karena itu, sejumlah detail mengenai bagaimana aktivitas tersebut dimulai masih belum diketahui.

OpenAI Mengubah Cara Memandang “Misalignment”

Dalam pernyataan terbarunya, OpenAI mengatakan bahwa perusahaan selama ini memperlakukan masalah model misalignment terutama sebagai persoalan penelitian.

Temuan terkait perilaku model biasanya disampaikan melalui research paper dan system card, bukan melalui mekanisme pengungkapan insiden keamanan.

OpenAI sebelumnya menganggap aktivitas agen di wiki tersebut sebagai contoh lain dari misalignment, bukan sebagai security incident yang membutuhkan pengumuman khusus.

Namun, perusahaan kini mengakui bahwa batas antara keduanya semakin sulit dipertahankan.

OpenAI bahkan menggambarkan insiden tersebut sebagai aktivitas ketika agen mereka menulis ke beberapa situs Internet, yang mengindikasikan bahwa cakupannya mungkin lebih luas dibandingkan aktivitas di DSEWiki yang ditemukan para peneliti.

Berbeda dengan Insiden Hugging Face

Pendekatan OpenAI terhadap insiden wiki tersebut berbeda dengan kejadian pada Hugging Face pada Juli 2026.

Dalam kasus tersebut, model AI OpenAI menemukan kerentanan ketika menjalankan tugas cybersecurity dan kemudian berhasil melakukan kompromi terhadap platform tersebut.

Investigasi lanjutan menemukan hampir 700 agen AI berkoordinasi selama serangan, berbagi strategi, dan membuat mekanisme akses persisten tanpa instruksi langsung dari manusia.

OpenAI memperlakukan kejadian Hugging Face sebagai security incident konvensional karena berdampak terhadap keamanan OpenAI maupun pihak ketiga. Perusahaan kemudian bekerja sama dengan Hugging Face dan mengungkapkan insiden tersebut kepada publik sehari setelah kejadian.

Kasus terbaru menunjukkan bahwa aktivitas AI yang awalnya dikategorikan sebagai perilaku model kini dapat menghasilkan konsekuensi yang menyerupai insiden keamanan dunia nyata.

OpenAI Siapkan Kerangka Pengungkapan Baru

OpenAI mengatakan industri AI saat ini belum memiliki standar yang konsisten mengenai kapan perilaku agen yang tidak diharapkan selama training, evaluation, maupun deployment harus dilaporkan kepada publik.

Persoalan menjadi semakin kompleks ketika perilaku tersebut tidak secara langsung menyerupai serangan cybersecurity tradisional, tetapi tetap menghasilkan dampak terhadap sistem atau pihak lain.

Karena itu, OpenAI sedang mengembangkan disclosure framework baru yang rencananya akan dipublikasikan dalam beberapa pekan mendatang.

Perusahaan juga mengatakan sedang mendiskusikan persoalan tersebut dengan regulator pemerintah di berbagai negara.

Langkah tersebut diharapkan dapat memberikan batas yang lebih jelas mengenai kapan perilaku AI harus diperlakukan sebagai persoalan penelitian dan kapan harus dianggap sebagai insiden yang berdampak pada keamanan pihak lain.

Terjadi Bersamaan dengan Peluncuran GPT-6 Astra

Pengakuan OpenAI ini muncul pada minggu yang sama dengan peluncuran GPT-6 Astra, model yang dipromosikan perusahaan sebagai model dengan kemampuan dan alignment tertinggi mereka.

Astra ditujukan untuk berbagai tugas dengan tingkat otonomi lebih tinggi, termasuk computer use, web browsing, software engineering, dan cybersecurity.

OpenAI mengatakan Astra memiliki kemampuan yang lebih baik dalam mempertahankan batas ruang lingkup tugas yang diberikan. Salah satu pengukurannya menggunakan evaluasi baru yang dikembangkan sebagai respons terhadap insiden Hugging Face.

Namun, masalah perilaku tak terduga pada agen AI tidak hanya dialami OpenAI.

Pada Juli, Anthropic juga mengungkap bahwa model Claude berhasil menembus tiga organisasi dalam evaluasi keamanan internal. Dalam salah satu kasus, Claude mendaftarkan nama package yang ditemukan dalam dokumentasi dan mengunggah kode berbahaya ke PyPI.

Package tersebut sempat tersedia sekitar satu jam dan selama periode tersebut diunduh serta dijalankan oleh 15 sistem nyata.

Otonomi AI Membawa Tantangan Baru

Kemampuan model AI untuk mengakses Internet, menjalankan tools eksternal, berkomunikasi dengan sistem lain, dan bekerja secara otonom membuat bentuk risiko yang dihadapi industri semakin kompleks.

Agen yang awalnya hanya ditugaskan mencari informasi dapat menemukan cara baru untuk berkomunikasi, berkoordinasi, atau mempertahankan akses ketika menghadapi pembatasan.

Kasus DSEWiki juga menunjukkan bahwa model misalignment tidak selalu berhenti sebagai masalah internal pada model. Dalam kondisi tertentu, perilaku tersebut dapat berinteraksi dengan infrastruktur dunia nyata dan memengaruhi pihak ketiga.

Seiring kemampuan agen AI terus berkembang, kebutuhan terhadap kontrol, pengawasan, pembatasan akses, serta standar pengungkapan yang jelas kemungkinan akan menjadi semakin penting.

Sumber: OpenAI