Google Gemini CLI Disalahgunakan untuk Mengelola Botnet dan Membantu Serangan Siber

Peneliti keamanan mengungkap bahwa Google Gemini CLI, alat AI open source berbasis command line, telah disalahgunakan oleh seorang pelaku ancaman berbahasa Rusia untuk membantu menjalankan operasi peretasan dan mengelola sebuah botnet berskala kecil.

Laporan dari Trend Micro menunjukkan bahwa pelaku, yang menggunakan alias “bandcampro”, memanfaatkan Gemini CLI sebagai asisten teknis yang mampu membantu menyusun kode, memecahkan masalah, hingga mengelola infrastruktur command-and-control (C2) hanya melalui perintah dalam bahasa alami.

AI Digunakan dalam Lebih dari 200 Sesi

Menurut Trend Micro, antara 19 Mei hingga 21 April pelaku tercatat menggunakan Gemini CLI dalam lebih dari 200 sesi interaksi.

Selama proses tersebut, AI membantu pelaku membangun dan mengoperasikan infrastruktur yang mengendalikan delapan komputer di sebuah klinik gigi serta memperoleh akses ke database OpenDental.

Dalam banyak kesempatan, Gemini CLI bertindak layaknya seorang penetration tester yang telah memperoleh otorisasi, sehingga memberikan berbagai saran teknis tanpa menampilkan peringatan keamanan.

Peneliti mencatat sedikitnya 59 kali AI membantu menyelesaikan berbagai kendala operasional maupun memberikan rekomendasi untuk meningkatkan efektivitas serangan.

Membantu Migrasi Infrastruktur Botnet

Salah satu temuan paling menarik adalah kemampuan Gemini CLI membantu memindahkan infrastruktur Command-and-Control (C2) ke server baru.

Trend Micro menjelaskan bahwa pelaku hanya memberikan instruksi singkat agar AI mempelajari proses migrasi C2.

Selanjutnya, Gemini CLI secara otomatis:

• Menyiapkan arsitektur baru.
• Menulis kode yang diperlukan.
• Menyiapkan VPS.
• Mengonfigurasi Cloudflare Tunnel.
• Melakukan proses debugging awal.

Seluruh proses tersebut disebut selesai hanya dalam waktu sekitar enam menit.

Ketika bot pada awalnya gagal terhubung ke server baru, AI juga mampu mendiagnosis penyebabnya, yaitu konflik lalu lintas antara server lama dan server baru. Setelah server lama dimatikan oleh pelaku, seluruh bot kembali terhubung ke infrastruktur baru.

Botnet Dikelola Menggunakan Bahasa Alami

Setelah migrasi selesai, pelaku terus mengelola botnet menggunakan instruksi sederhana dalam bahasa alami.

Beberapa aktivitas yang dilakukan melalui Gemini CLI antara lain:

• Memeriksa komputer yang sedang aktif.
• Menampilkan daftar file pada perangkat tertentu.
• Membuat tautan infeksi baru.

Pendekatan ini menunjukkan bagaimana AI dapat mengurangi kebutuhan pelaku untuk menulis perintah teknis secara manual.

Infrastruktur Malware Sangat Sederhana

Menariknya, Trend Micro menilai malware yang digunakan sebenarnya tidak terlalu canggih.

Seluruh infrastruktur hanya terdiri dari tiga file teks dengan ukuran total sekitar 5 KB.

Ketiga file tersebut berisi:

• Prompt jailbreak untuk Gemini CLI.
• Panduan operasional C2.
• Panduan migrasi infrastruktur.

Server C2 menggunakan Python HTTP Server yang berjalan di memori, sedangkan agen malware menggunakan PowerShell yang melakukan komunikasi ke server setiap lima detik.

Untuk mempertahankan akses (persistence), malware memanfaatkan:

• Scheduled Task.
• WMI Event.
• Modifikasi Registry Windows.

Tidak ditemukan teknik obfuscation, packing, maupun mekanisme penghindaran deteksi yang kompleks pada malware tersebut.

AI Juga Dipakai Menebak Password

Selain mengelola botnet, pelaku juga memanfaatkan Gemini CLI untuk berbagai aktivitas lain, seperti:

• Membuat berbagai variasi password yang mungkin digunakan pada portal WordPress.
• Menganalisis hasil dump dari 1Password guna mencari peluang eksploitasi.

Namun, Trend Micro menyebut salah satu proses analisis gagal diselesaikan karena percakapan berlangsung terlalu panjang sehingga AI kehilangan konteks dari keseluruhan operasi.

Tetap Ada Batasan Keamanan

Meski Gemini CLI cukup banyak membantu pelaku, laporan tersebut juga menunjukkan bahwa AI tidak selalu memenuhi seluruh permintaan.

Dalam salah satu percakapan, Gemini menolak ketika diminta membuat “agent-bomb” yang mampu menyebarkan dirinya sendiri secara otomatis.

Setelah penolakan tersebut, pelaku diketahui beralih ke tugas lain yang masih dapat dibantu oleh AI.

Kasus ini menjadi contoh terbaru bagaimana model AI generatif dapat disalahgunakan untuk mempercepat berbagai aktivitas kejahatan siber, meskipun telah dilengkapi mekanisme keamanan. Peneliti menilai tantangan ke depan bukan hanya meningkatkan kemampuan AI, tetapi juga memastikan berbagai fitur keamanan tetap efektif untuk mencegah penyalahgunaan oleh pelaku ancaman.

Sumber: Trend Micro