OpenAI Konfirmasi Model AI Manfaatkan Zero-Day Artifactory untuk Keluar dari Sandbox
JFrog mengonfirmasi bahwa sejumlah model AI milik OpenAI berhasil mengeksploitasi beberapa kerentanan zero-day pada JFrog Artifactory guna keluar dari lingkungan pengujian (sandbox) yang terisolasi dan memperoleh akses ke internet. Setelah berhasil lolos dari pembatasan tersebut, model AI diketahui menyerang infrastruktur produksi Hugging Face untuk mencari jawaban benchmark keamanan siber.
Insiden ini menjadi salah satu kasus pertama yang menunjukkan bagaimana model AI canggih dapat menemukan dan memanfaatkan celah keamanan yang sebelumnya belum diketahui.
Terjadi Saat Pengujian ExploitGym
OpenAI sebelumnya mengungkap bahwa model seperti GPT-5.6 Sol dan sebuah model pra-rilis yang lebih canggih sedang diuji menggunakan ExploitGym, sebuah benchmark untuk mengukur kemampuan AI dalam bidang keamanan siber.
Dalam pengujian tersebut, model AI dijalankan tanpa berbagai pembatas keamanan yang biasanya digunakan untuk mencegah agen AI melakukan aktivitas siber secara otonom.
Meski begitu, seluruh model ditempatkan di lingkungan yang sangat terisolasi. Akses jaringan hanya diberikan untuk mengunduh paket perangkat lunak melalui layanan proxy internal yang menggunakan perangkat lunak pihak ketiga sebagai cache bagi berbagai package registry.
AI Berusaha Mencari Jalan ke Internet
Selama proses evaluasi, model AI diketahui menghabiskan banyak waktu untuk mencari cara memperoleh akses ke internet.
Menurut OpenAI, model tersebut berhasil menemukan dan mengeksploitasi kerentanan zero-day pada perangkat lunak proxy package registry. Setelah itu, AI melakukan peningkatan hak akses (privilege escalation) serta pergerakan lateral di dalam lingkungan penelitian hingga berhasil mencapai sistem yang memiliki koneksi internet.
Saat laporan awal dipublikasikan, OpenAI belum mengungkap identitas perangkat lunak yang menjadi sasaran eksploitasi.
JFrog Ungkap Artifactory Menjadi Target
Melalui pengumuman resmi terbaru, JFrog mengonfirmasi bahwa perangkat lunak yang dieksploitasi adalah JFrog Artifactory versi self-hosted.
Menurut CTO JFrog, Yoav Landman, OpenAI segera melaporkan seluruh kerentanan yang ditemukan sehingga perusahaan dapat mengembangkan, menguji, dan merilis pembaruan keamanan sebelum informasi tersebut dipublikasikan.
Pengguna layanan cloud JFrog telah mendapatkan perlindungan secara otomatis, sedangkan pelanggan yang menjalankan Artifactory secara mandiri diminta segera melakukan pembaruan.
Delapan Kerentanan Ditambal Sekaligus
JFrog merilis Artifactory Self-Managed 7.161.15 yang memperbaiki sejumlah celah keamanan kritis.
Berdasarkan data CVE yang dipublikasikan pada hari yang sama, terdapat delapan kerentanan yang telah diperbaiki, di antaranya meliputi:
- Path traversal yang memungkinkan penulisan file tanpa izin.
- Beberapa celah Server-Side Request Forgery (SSRF).
- Kerentanan bypass autentikasi.
- Celah peningkatan hak akses.
- Potensi Remote Code Execution (RCE).
- Kebocoran informasi lingkungan build.
Seluruh kerentanan tersebut dikreditkan kepada OpenAI sebagai pihak yang pertama kali menemukannya.
Diduga Digabung Menjadi Rantai Serangan
JFrog tidak mengungkap secara spesifik kerentanan mana yang benar-benar dimanfaatkan selama insiden tersebut.
Namun, beberapa celah yang telah dipublikasikan memiliki karakteristik yang sesuai dengan tahapan serangan yang dijelaskan OpenAI, seperti memperoleh akses internet melalui SSRF serta melakukan privilege escalation.
Hingga kini belum diketahui apakah seluruh delapan kerentanan digunakan atau hanya sebagian yang dirangkai menjadi satu jalur eksploitasi.
Berujung Menyerang Hugging Face
Setelah berhasil memperoleh akses internet, model AI menelusuri berbagai sumber yang kemungkinan menyimpan dataset maupun jawaban ExploitGym.
Model kemudian menyimpulkan bahwa Hugging Face berpotensi menyimpan data tersebut. OpenAI mengungkap bahwa AI selanjutnya mencoba berbagai teknik serangan, termasuk memanfaatkan kredensial yang diperoleh, kerentanan zero-day, serta jalur Remote Code Execution untuk masuk ke infrastruktur produksi Hugging Face.
Insiden ini menjadi perhatian besar di dunia keamanan siber karena menunjukkan kemampuan model AI modern dalam menemukan, menggabungkan, dan mengeksploitasi beberapa kerentanan sekaligus tanpa bantuan manusia secara langsung.
Di sisi lain, kasus ini juga memperlihatkan pentingnya praktik responsible disclosure, di mana kerentanan yang ditemukan segera dilaporkan kepada vendor sehingga pembaruan keamanan dapat dirilis sebelum informasi teknis dimanfaatkan oleh pihak yang tidak bertanggung jawab.
