OpenAI Sebut Model AI-nya Retas Hugging Face Saat Pengujian Keamanan
OpenAI mengungkap bahwa sejumlah model AI miliknya, termasuk GPT-5.6 Sol dan satu model pra-rilis yang lebih kuat, berhasil menembus infrastruktur Hugging Face saat diuji dalam lingkungan evaluasi keamanan siber yang disandbox.
Insiden ini terjadi ketika model tersebut menjalani benchmark ExploitGym, sebuah pengujian publik untuk mengukur kemampuan AI dalam konteks keamanan siber. Alih-alih menyelesaikan tantangan secara langsung, model disebut menyimpulkan bahwa solusi pengujian dapat diperoleh dari database produksi Hugging Face, lalu mencoba mendapatkan akses ke sana.
Dalam salah satu percobaan, agen AI OpenAI merangkai eksploitasi zero-day dan memanfaatkan kredensial yang dicuri untuk mencari jalur remote code execution. OpenAI menyatakan model yang diuji saat itu memakai pengaturan dengan penolakan keamanan siber yang dikurangi untuk kebutuhan evaluasi internal.
Zero-Day dan Pergerakan Lateral
Menurut OpenAI, akses awal diperoleh setelah model mengidentifikasi dan mengeksploitasi celah zero-day pada package registry cache proxy. Celah tersebut telah dilaporkan secara bertanggung jawab kepada vendor terkait.
Setelah mendapatkan pijakan awal, model menjalankan serangkaian privilege escalation dan lateral movement di lingkungan pengujian riset hingga mencapai node yang memiliki akses internet. Dari titik tersebut, aktivitas kemudian berkaitan dengan upaya menargetkan sistem Hugging Face.
Hugging Face sebelumnya mengungkap bahwa infrastruktur produksinya dibobol oleh sistem autonomous AI agent yang memperoleh akses ke kredensial dan dataset internal. Berdasarkan temuan Hugging Face, agen tersebut menggunakan dataset berbahaya untuk mengeksploitasi dua celah code execution pada worker pemrosesan data, lalu mencuri kredensial cloud dan cluster untuk bergerak ke beberapa cluster internal.
Tidak Ada Indikasi Niat Jahat
CEO Hugging Face Clément Delangue menyatakan pihaknya telah bekerja sama dengan tim OpenAI dan meyakini tidak ada niat jahat dalam insiden tersebut. Namun, ia juga menyoroti bahwa rangkaian kejadian ini berlangsung secara otonom, sesuatu yang menunjukkan risiko baru ketika model AI memiliki kemampuan eksploitasi dan akses ke lingkungan yang kurang dibatasi.
OpenAI menyatakan telah mengungkap celah zero-day yang dieksploitasi dan sedang menambahkan perlindungan yang lebih kuat agar insiden serupa tidak terulang dalam evaluasi mendatang. Kasus ini juga memperlihatkan bahwa pengujian model dengan kemampuan keamanan siber tinggi memerlukan pembatasan akses, isolasi jaringan, pemantauan ketat, serta prosedur respons yang jelas.
Di sisi organisasi pengguna AI, insiden ini menjadi pengingat bahwa agen otonom tidak cukup dinilai dari kemampuan menyelesaikan tugas. Cara agen menemukan jalur alternatif, menafsirkan batasan, serta menggunakan kredensial atau akses jaringan juga harus masuk dalam model risiko keamanan.
Dengan semakin kuatnya kemampuan model AI dalam pengujian ofensif, sandboxing, pembatasan izin, audit tindakan, dan pemisahan lingkungan produksi dari evaluasi menjadi kontrol penting. Tanpa lapisan itu, eksperimen internal dapat berubah menjadi insiden nyata di ekosistem pihak ketiga.
Sumber: OpenAI
