Hacker Mulai Bangun Framework AI untuk Mencuri Kredensial dalam Skala Besar

Kelompok hacker semakin meningkatkan pemanfaatan Artificial Intelligence (AI) untuk mengotomatisasi serangan siber. Jika sebelumnya AI lebih banyak digunakan sebagai coding assistant, pelaku ancaman kini mulai membangun multi-agent framework yang mampu mengotomatiskan berbagai tahapan serangan dengan campur tangan manusia yang jauh lebih sedikit.

Temuan tersebut diungkap Google Threat Intelligence Group (GTIG) berdasarkan telemetry dari aktivitas incident response Mandiant, pelacakan kelompok ancaman, serta sistem pertahanan terhadap serangan yang berlangsung secara langsung.

Menurut GTIG, pelaku ancaman selama kuartal terakhir mulai beralih dari sekadar memberikan prompt kepada Large Language Model (LLM) menuju integrasi kemampuan AI ke berbagai tahapan attack lifecycle.

AI agent bahkan mulai digunakan untuk melakukan koordinasi tugas, menangani kegagalan, serta menyesuaikan tindakan berdasarkan kondisi yang ditemukan selama serangan.

Serangan Pencurian Kredensial Dibangun dalam Waktu Kurang dari Enam Jam

Dalam salah satu insiden yang dianalisis GTIG, seorang pelaku ancaman bermotif finansial terlebih dahulu berhasil mengkompromikan infrastruktur cloud milik sebuah organisasi.

Setelah memperoleh akses tersebut, pelaku kemudian memasang sebuah autonomous multi-agent framework untuk menjalankan operasi serangan.

Google mengatakan bahwa dalam waktu kurang dari enam jam, pelaku berhasil merencanakan, membangun, dan menjalankan kampanye massal untuk mencuri kredensial.

Yang digunakan untuk membangun operasi tersebut bukanlah perangkat khusus yang kompleks, melainkan AI coding chatbot, sebuah prompt, serta instruksi agent berbasis Markdown.

Namun setelah framework tersebut aktif, AI agent dapat mengambil alih berbagai pekerjaan yang sebelumnya membutuhkan intervensi operator secara terus-menerus.

AI Agent Mengotomatisasi Berbagai Tahapan Serangan

Framework yang digunakan dalam insiden tersebut mampu menangani berbagai tugas secara otomatis.

AI agent mengelola pipeline vulnerability scanning, mengumpulkan ribuan kredensial pihak ketiga, serta melakukan troubleshooting secara real-time ketika menghadapi masalah.

Sistem tersebut juga mampu melakukan rotasi alamat IP dan mengarahkan traffic serangan melalui lingkungan cloud yang sah tetapi telah dikompromikan.

Teknik tersebut dapat membantu menyamarkan sumber traffic dan mengurangi kemungkinan aktivitas berbahaya terdeteksi oleh sistem pertahanan.

Kemampuan AI untuk mengambil keputusan secara dinamis juga memangkas waktu yang sebelumnya diperlukan untuk menunggu instruksi operator manusia.

Dengan kata lain, pelaku tidak lagi harus mengawasi setiap langkah serangan secara manual. Framework dapat melakukan pekerjaan, mengevaluasi hasilnya, kemudian menyesuaikan langkah berikutnya berdasarkan kondisi yang ditemukan.

Framework “Recon” Mengelola Lebih dari 23.800 Secret

GTIG juga menemukan contoh lain berupa server command-and-control (C2) yang terekspos dan menjalankan framework otomatis untuk reconnaissance serta pengelolaan kredensial bernama “Recon”.

File-file yang ditemukan di server tersebut mencakup instruksi untuk AI agent, knowledge files, serta artefak OpenClaw yang berkaitan dengan framework tersebut.

Sistem Recon diketahui mengelola secara real-time lebih dari 23.800 secret yang telah dikumpulkan, termasuk API key.

Temuan ini menunjukkan bahwa penggunaan AI tidak hanya terbatas pada proses awal seperti reconnaissance atau pembuatan script. AI juga mulai dimasukkan ke dalam sistem yang menangani data hasil serangan dan mengelolanya secara berkelanjutan.

Kelompok China Mulai Bereksperimen dengan AI untuk Exploitation

Menurut GTIG, tren tersebut juga mulai terlihat pada kelompok cyberespionage yang terkait dengan China.

Para peneliti menemukan eksperimen yang memanfaatkan AI-powered development tools untuk membangun AI-assisted automated exploitation dan post-exploitation pipeline.

Artinya, AI mulai digunakan untuk membantu proses setelah akses awal diperoleh, termasuk menjalankan berbagai aktivitas lanjutan dalam lingkungan target.

Kelompok lain juga memanfaatkan AI untuk tugas yang lebih spesifik. Salah satunya adalah UNC5792, kelompok espionage yang berbasis di Rusia, yang mengintegrasikan model AI untuk mengotomatisasi pemantauan bot yang mencari informasi tertentu di channel Telegram.

Belum Menjadi Hacking yang Sepenuhnya Otonom

Meski perkembangan tersebut mengkhawatirkan, GTIG menekankan bahwa fully autonomous hacking belum menjadi praktik yang tersebar luas.

Para peneliti belum mengamati pelaku ancaman yang menjalankan pipeline sepenuhnya otonom untuk menemukan zero-day sekaligus melakukan eksploitasi jaringan terhadap target dunia nyata tanpa keterlibatan manusia.

Dengan demikian, kondisi saat ini lebih tepat digambarkan sebagai peningkatan otomatisasi dan pengurangan human-in-the-loop latency, bukan penggantian total operator manusia oleh AI.

Pelaku masih menggunakan manusia untuk sejumlah keputusan penting, sementara AI agent mengambil alih semakin banyak pekerjaan teknis dan operasional di antara keputusan tersebut.

Gemini Berhasil Mendeteksi Sejumlah Penyalahgunaan

Google juga mengatakan bahwa model AI mereka, Gemini, berhasil mendeteksi banyak aktivitas penyalahgunaan tersebut sejak tahap awal.

Dalam berbagai kasus, Gemini merespons sesuai dengan protokol keamanan yang diterapkan Google. Informasi yang diperoleh dari deteksi tersebut kemudian memungkinkan Google mengambil tindakan tambahan, termasuk mengganggu kampanye serangan dan memblokir akun yang terkait.

Namun, penyalahgunaan AI terhadap sistem keamanan bukanlah fenomena baru.

Google sebelumnya juga mengamati penggunaan AI dalam supply-chain attack yang dikaitkan dengan UNC6780 atau TeamPCP, operasi distillation terhadap model Gemini yang melibatkan sekitar 100 juta prompt, serta meningkatnya pasar untuk kredensial akun AI dan API key hasil curian.

AI Kini Digunakan di Hampir Seluruh Siklus Serangan

GTIG juga mencatat bahwa kelompok yang didukung negara terus mengeksplorasi AI untuk berbagai aktivitas keamanan ofensif.

Penggunaannya mencakup reconnaissance, phishing, pengembangan malware, exploitation, post-exploitation, pemrosesan data, hingga pembuatan propaganda.

Perubahan ini menunjukkan bahwa ancaman utama bukan hanya kemampuan AI untuk menghasilkan malware atau script secara otomatis. Yang lebih signifikan adalah kemampuan AI untuk menghubungkan berbagai tool dan proses menjadi sebuah workflow serangan yang semakin otomatis.

Jika tren ini terus berkembang, operator manusia dapat menghabiskan lebih sedikit waktu untuk menjalankan tugas teknis satu per satu dan lebih banyak berperan dalam menentukan tujuan serangan.

Untuk saat ini, GTIG menilai hacking yang benar-benar sepenuhnya otonom belum menjadi hal yang umum. Namun, kemampuan multi-agent framework untuk menjalankan, memantau, memperbaiki, dan menyesuaikan aktivitas serangan menunjukkan bahwa batas antara AI-assisted attack dan serangan yang semakin otonom mulai semakin tipis.

Sumber: Google Threat Intelligence Group