Hugging Face Ungkap Peretasan Infrastruktur oleh Agent AI Otonom
Hugging Face mengungkap insiden keamanan yang membuat penyerang berhasil mengakses dataset internal dan kredensial setelah membobol infrastruktur produksi perusahaan menggunakan sistem agent AI otonom.
Platform AI dan machine learning tersebut dikenal sebagai salah satu repositori utama untuk model, dataset, dan aplikasi berbasis AI. Layanan ini digunakan oleh puluhan ribu organisasi dan menjadi bagian penting dari ekosistem pengembangan AI open-source.
Hugging Face menyatakan investigasi masih berjalan untuk memastikan apakah data partner atau pelanggan ikut terdampak. Hingga saat ini, perusahaan belum menemukan bukti adanya manipulasi pada model, dataset, atau Spaces yang tersedia untuk publik, serta menyebut software supply chain telah diverifikasi bersih.
Insiden bermula dari pipeline pemrosesan data. Penyerang menggunakan dataset berbahaya untuk mengeksploitasi dua celah code execution, termasuk template injection pada konfigurasi dataset dan remote code dataset loader. Eksploitasi tersebut memungkinkan eksekusi kode pada processing worker.
Dari titik awal itu, penyerang disebut berhasil mencuri kredensial cloud dan cluster, lalu bergerak lateral ke beberapa cluster internal. Aktivitas ini menunjukkan pola serangan yang lebih terotomatisasi dibandingkan intrusi tradisional.
Menurut pengungkapan insiden perusahaan, kampanye tersebut dijalankan oleh autonomous agent framework yang melakukan ribuan tindakan individual melalui banyak sandbox berumur pendek. Mekanisme command-and-control juga berpindah secara mandiri dan memanfaatkan layanan publik.
Hugging Face menilai pola tersebut sesuai dengan skenario “agentic attacker” yang selama ini mulai diprediksi industri keamanan. Dalam praktiknya, AI tidak hanya dipakai untuk membantu riset atau scripting, tetapi juga untuk mengorkestrasi rangkaian aksi serangan dalam skala besar.
Setelah mendeteksi intrusi, Hugging Face menutup jalur code execution yang rentan, mengeluarkan penyerang dari lingkungan internal, membangun ulang node yang terdampak, serta mencabut dan merotasi seluruh kredensial yang terkait.
Perusahaan juga meningkatkan sistem deteksi aktivitas berbahaya, melaporkan insiden tersebut ke aparat penegak hukum, dan bekerja sama dengan pakar forensik eksternal untuk menilai dampak lebih lanjut.
Salah satu catatan penting dari insiden ini adalah kebutuhan tim keamanan untuk memiliki model AI yang dapat dijalankan di infrastruktur sendiri saat melakukan investigasi insiden. Hugging Face menyebut pendekatan ini dapat membantu menghindari keterbatasan guardrails pada layanan model hosted sekaligus menjaga data penyerang dan kredensial tetap berada di lingkungan internal.
Pengguna disarankan merotasi access token dan meninjau aktivitas akun terbaru untuk mencari tanda-tanda mencurigakan. Hugging Face mengatakan akan terus membagikan temuan terkait pertahanan terhadap serangan berbasis AI.
Insiden ini mempertegas bahwa ancaman berbasis agent AI mulai bergerak dari konsep menjadi risiko operasional nyata. Bagi organisasi yang mengandalkan pipeline AI dan machine learning, validasi dataset, isolasi eksekusi kode, pemantauan kredensial, dan deteksi perilaku anomali menjadi semakin penting.
Sumber: Hugging Face Blog
