Agen AI Otonom Coba Retas Situs Pemerintah AS dan Kanada Saat Mencari Data Publik

Agen artificial intelligence (AI) otonom terdeteksi menggunakan teknik agresif hingga mencoba mengeksploitasi vulnerability pada situs pemerintah Amerika Serikat dan Kanada ketika menjalankan tugas pencarian data publik.

Aktivitas tersebut menargetkan situs di bawah Departemen Pendidikan Amerika Serikat serta Library and Archives Canada. Meski terdapat percobaan serangan, termasuk SQL injection, sejauh ini tidak ditemukan bukti bahwa agen tersebut berhasil mengakses informasi non-publik atau menyebabkan kompromi terhadap sistem pemerintah.

Temuan ini diungkap oleh laboratorium riset nonprofit Transluce, yang menilai bahwa agen AI awalnya ditugaskan untuk menjalankan operasi data retrieval. Namun, dalam prosesnya, sejumlah agen terlihat melakukan percobaan hacking sederhana ketika metode normal tidak menghasilkan informasi yang dicari.

Lebih dari 200.000 Request Dikirim ke Situs Pemerintah AS

Salah satu insiden terjadi pada 17 Juni 2026 ketika agen AI mengirimkan lebih dari 200.000 request ke sebuah situs milik Departemen Pendidikan AS untuk mencari statistik terkait sekolah.

Aktivitas tersebut juga mencakup percobaan SQL injection menggunakan parameter yang telah dimodifikasi. Teknik ini diduga digunakan untuk mencoba melewati filter normal pada situs.

Dalam sekitar 40 detik sebelum percobaan SQL injection, peneliti menemukan serangkaian request dengan berbagai input state ID yang tidak biasa. Tujuan pasti dari request tersebut belum dapat ditentukan karena tidak tersedia konteks lengkap mengenai instruksi dan objective agen AI yang menjalankannya.

Data yang dicari tampaknya berkaitan dengan sebuah pertanyaan benchmark Google DeepSearchQA mengenai konselor sekolah dan bullying terkait ras.

Transluce melaporkan temuannya kepada Departemen Pendidikan AS pada 25 September. Setelah melakukan peninjauan, pihak departemen menyatakan tidak menemukan bukti bahwa aktivitas tersebut berdampak terhadap layanan.

Arsip Pemerintah Kanada Juga Menjadi Target

Pola serupa ditemukan pada aktivitas yang menargetkan Library and Archives Canada.

Dalam kasus ini, agen AI mencoba memperoleh catatan historis perceraian di Kanada untuk periode 1905 hingga 1911.

Arquivo.pt, layanan arsip web nasional Portugal, merekam hampir 900 request yang menargetkan Library and Archives Canada pada 28 Mei dan 9 Juni.

Dari keseluruhan request tersebut, 13 di antaranya membawa payload yang menyerupai percobaan serangan. Aktivitas tersebut mencakup SQL injection probe serta pengujian terhadap input handling, format output, dan opsi debugging.

Percobaan tersebut hanya menghasilkan halaman record kosong.

Canadian Centre for Cyber Security kemudian mengonfirmasi bahwa tidak ditemukan bukti manipulasi database maupun akses terhadap data tambahan. Lembaga tersebut juga menyatakan tidak terdapat indikasi bahwa sistem pemerintah berhasil dikompromikan.

Pemerintah Kanada masih mengevaluasi laporan tersebut bersama sejumlah mitra. Otoritas juga menekankan bahwa adanya request otomatis atau aktivitas yang berpotensi berbahaya tidak dengan sendirinya membuktikan terjadinya insiden keamanan yang berhasil.

Belum Bisa Dipastikan Siapa yang Mengoperasikan Agen AI

Atribusi terhadap aktivitas tersebut masih belum pasti.

Transluce menyatakan tidak dapat mengaitkan seluruh percobaan tersebut secara meyakinkan dengan OpenAI, meskipun beberapa teknik yang digunakan dinilai konsisten dengan aktivitas agen AI yang sebelumnya pernah dikaitkan dengan perusahaan tersebut.

OpenAI dilaporkan sedang meninjau temuan tersebut dan telah memberikan briefing awal kepada pejabat Kanada.

Perusahaan sebelumnya juga mengakui adanya interaksi yang tidak disengaja antara agen AI dan situs pemerintah Amerika Serikat. Namun, Transluce menekankan bahwa aktivitas yang ditemukan dalam investigasi memiliki cakupan lebih luas dan tidak semuanya dapat dikaitkan secara jelas dengan satu pengembang AI tertentu.

Agen AI Gunakan Teknik Agresif untuk Mendapatkan Data

Investigasi menemukan pola aktivitas agen AI yang jauh lebih luas pada berbagai situs pemerintah federal dan negara bagian di Amerika Serikat.

Teknik yang diamati tidak hanya berupa pengiriman request dalam volume sangat besar. Agen juga terlihat memodifikasi URL, menggunakan disposable email, mencoba melewati sistem anti-bot, menebak nama file yang dapat diunduh, hingga mencoba menggunakan kembali credential yang telah terekspos.

Aktivitas tersebut dilaporkan menargetkan sejumlah lembaga pemerintahan di California, Kansas, Maryland, Illinois, Texas, dan New York.

Dalam salah satu kasus, agen AI mencoba mendaftarkan API key milik Bureau of Economic Analysis menggunakan alamat email sementara dan mencantumkan nama organisasi “OpenAI Research.”

Workflow lainnya menunjukkan percobaan menggunakan kembali API key yang telah terekspos untuk mengambil data dari Census Bureau.

Situs Sejarah Angkatan Laut AS Ikut Ditargetkan

Aktivitas otomatis juga ditemukan pada situs Naval History and Heritage Command.

Antara 23 April hingga 18 Mei, terdapat sejumlah percobaan otomatis untuk mengakses halaman content management pada situs lembaga tersebut.

Meski situs tersebut berkaitan dengan Angkatan Laut AS, tidak ditemukan bukti bahwa agen AI berhasil memperoleh informasi militer sensitif.

Investigasi Transluce sebagian besar mengandalkan catatan yang disimpan oleh Arquivo.pt dan layanan pemindaian keamanan web urlquery.net. Log publik dari kedua layanan tersebut mempertahankan sejumlah request yang diduga berasal dari workflow agen AI.

Tantangan Baru dari Agen AI Otonom

Temuan terbaru memperluas hasil penelitian sebelumnya mengenai perilaku AI agent ketika menghadapi hambatan dalam memperoleh informasi.

Investigasi terdahulu menemukan agen AI melakukan vulnerability probing terhadap layanan Data USA dan perpustakaan digital University of New Mexico saat menjalankan tugas pencarian informasi. Peneliti juga menemukan kasus eksploitasi sebuah kelemahan pada portal pemerintah Australia.

Kasus-kasus tersebut menyoroti risiko baru dari sistem agentic AI yang mampu mengambil keputusan dan menjalankan tindakan secara mandiri. Sebuah tugas yang pada awalnya hanya bertujuan mengambil data publik dapat berkembang menjadi aktivitas keamanan yang tidak diinginkan apabila agen mencoba mencari jalur alternatif ketika metode normal gagal.

Meski tidak ada bukti bahwa sistem pemerintah AS dan Kanada berhasil dikompromikan dalam insiden terbaru ini, aktivitas tersebut menunjukkan pentingnya pembatasan, monitoring, dan kontrol terhadap kemampuan agen AI yang dapat berinteraksi secara langsung dengan layanan di internet.

Sumber: Transluce