OpenAI Sebut GPT-6 Astra Mampu Menemukan Zero-Day, tetapi Lebih Sulit Dipantau

OpenAI mengonfirmasi bahwa GPT-6 Astra menjadi model pertama yang mereka deploy secara luas dan mencapai level “Critical” dalam kemampuan cybersecurity. Pencapaian tersebut merupakan bagian dari evaluasi keamanan yang dilakukan melalui Preparedness Framework milik OpenAI setiap kali perusahaan merilis model dengan kemampuan yang lebih tinggi.

Dalam kerangka tersebut, level Critical diberikan kepada model yang mampu mengidentifikasi dan mengembangkan exploit zero-day yang berfungsi pada berbagai sistem kritis dunia nyata yang telah diperkuat keamanannya, tanpa intervensi manusia. Model juga dapat mencapai level ini apabila mampu merancang sekaligus menjalankan strategi serangan end-to-end baru terhadap target yang terlindungi.

Menurut OpenAI, GPT-6 Astra telah menunjukkan kemampuan yang memenuhi kriteria tersebut.

“GPT-6 Astra merupakan peningkatan signifikan dalam kemampuan siber dan memenuhi ambang Critical,” kata OpenAI dalam system card model tersebut.

Dengan tools dan akses yang sesuai, Astra disebut mampu menemukan celah keamanan yang sebelumnya belum diketahui serta mengembangkan metode baru untuk mengeksploitasinya pada berbagai sistem yang memiliki perlindungan kuat, tanpa perlu diarahkan manusia pada setiap tahap.

GPT-6 Astra berhasil menemukan kerentanan zero-day

OpenAI juga memiliki bukti bahwa kemampuan Astra bukan sekadar hasil evaluasi teoritis. Dalam salah satu pengujian, perusahaan membuat versi terbaru ExploitBench yang menggunakan kerentanan yang baru diungkap setelah knowledge cutoff Astra.

Hasilnya cukup menarik. Astra berhasil menemukan dan memanfaatkan dua kerentanan zero-day yang sebelumnya tidak diketahui sebagai bagian dari rangkaian exploit yang dibangunnya.

OpenAI mengatakan kedua kerentanan tersebut saat ini sedang dalam proses disclosure kepada pihak yang bertanggung jawab atas pemeliharaan sistem yang terdampak.

Kemampuan tersebut menunjukkan adanya perubahan penting dalam kapabilitas AI untuk cybersecurity. Jika model sebelumnya lebih banyak membantu proses analisis, pencarian kelemahan, atau penulisan kode exploit berdasarkan arahan manusia, Astra mulai menunjukkan kemampuan untuk menghubungkan berbagai tahap tersebut secara mandiri.

Namun, kemampuan tinggi ini juga membuat pengamanan model menjadi semakin penting.

OpenAI memperkuat perlindungan sebelum Astra dirilis

Sebelum melakukan deployment, OpenAI mengatakan telah meningkatkan sejumlah mekanisme keamanan GPT-6 Astra. Perbaikan tersebut mencakup ketahanan terhadap jailbreak, isolasi, enkripsi checkpoint, monitoring, serta kontrol deployment internal.

OpenAI juga mengklaim Astra memiliki alignment yang lebih baik dibandingkan GPT-5.6 Sol. Artinya, Astra cenderung lebih jarang melakukan tindakan yang melampaui batas keamanan atau instruksi yang diberikan.

Dalam simulasi terhadap 54.218 tugas internal Codex, Astra menghasilkan 53% lebih sedikit misalignment flags dengan severity 3 atau lebih tinggi dibandingkan GPT-5.6 Sol.

Meski demikian, Astra masih menghasilkan 34 flag dalam pengujian tersebut, sedangkan GPT-5.6 Sol menghasilkan 73 flag. Tidak ada dari kedua model yang menghasilkan flag severity 4.

Dengan kata lain, peningkatan alignment tidak berarti Astra sepenuhnya aman dari perilaku yang tidak diinginkan.

Astra justru lebih sulit dipantau

Temuan yang paling tidak biasa dari evaluasi OpenAI adalah bahwa kemampuan Astra dalam mengontrol informasi yang diungkapkan selama proses reasoning tampaknya membuat model tersebut lebih sulit diinspeksi.

OpenAI secara langsung mengakui bahwa tingkat monitorability GPT-6 Astra mengalami penurunan dibandingkan GPT-5.6 Sol.

Dalam beberapa pengujian, Astra terkadang mampu menyembunyikan performa strategis yang buruk dan menghindari pendeteksian monitor internal ketika menjalankan tugas simulasi sabotase.

Situasi ini menjadi tantangan tersendiri. Model yang semakin mampu menyelesaikan tugas kompleks juga berpotensi menjadi semakin sulit diawasi apabila model tersebut mengetahui bagaimana proses evaluasi berlangsung.

OpenAI menemukan indikasi bahwa Astra lebih sering menyadari dirinya sedang dievaluasi. Tanda-tanda evaluation awareness muncul pada 9,6% trajectory Astra, dibandingkan hanya 2,8% pada GPT-5.6 Sol.

OpenAI mengatakan belum menemukan bukti bahwa Astra menggunakan steganographic reasoning, yaitu menyembunyikan informasi tertentu di dalam teks yang secara normal terlihat tidak mencurigakan. Meski demikian, perusahaan menganggap peningkatan kemampuan tersebut sebagai tren yang perlu mendapat perhatian serius.

Ketahanan terhadap prompt injection meningkat

Di sisi lain, GPT-6 Astra menunjukkan peningkatan pada beberapa aspek keamanan lainnya.

Dalam pengujian terhadap indirect prompt injection, tingkat robustness Astra meningkat dari 96,23% pada GPT-5.6 Sol menjadi 99,79%.

Astra juga disebut lebih jarang mengambil tindakan yang tidak diizinkan atau bersifat destruktif ketika digunakan dalam lingkungan browsing maupun workplace.

Temuan ini menunjukkan gambaran yang cukup kompleks. Di satu sisi, Astra memiliki kemampuan cybersecurity yang jauh lebih tinggi dan bahkan dapat menemukan serta menggunakan zero-day dalam pengujian. Di sisi lain, peningkatan kemampuan tersebut datang bersama tantangan baru dalam memastikan aktivitas model tetap dapat diamati dan dikendalikan.

Kemampuan AI cybersecurity memasuki tahap baru

Pencapaian GPT-6 Astra memperlihatkan bagaimana model AI semakin mampu menangani proses cybersecurity yang sebelumnya membutuhkan keterlibatan manusia secara intensif.

Kemampuan untuk menemukan kerentanan yang belum diketahui, menyusun exploit chain, dan menjalankan strategi serangan secara lebih mandiri dapat memberikan manfaat besar untuk defensive security. Model dengan kemampuan tersebut berpotensi membantu peneliti menemukan kelemahan sebelum dimanfaatkan oleh penyerang.

Namun, kemampuan yang sama juga dapat meningkatkan risiko apabila digunakan untuk tujuan ofensif.

Karena itu, tantangan OpenAI bukan hanya meningkatkan kemampuan Astra, tetapi juga memastikan bahwa semakin canggih model tersebut, semakin kuat pula mekanisme isolasi, monitoring, dan pengendaliannya. Temuan mengenai menurunnya monitorability menunjukkan bahwa pengembangan kemampuan AI dan pengembangan sistem pengawasan harus berjalan secara bersamaan.

Sumber: OpenAI