Aktor Ancaman Manfaatkan Grok AI di X untuk Sebarkan Link Berbahaya
Peneliti keamanan menemukan bahwa aktor ancaman kini menyalahgunakan Grok, asisten AI bawaan platform X (Twitter), untuk melewati pembatasan link berbahaya yang sebelumnya diterapkan perusahaan. Teknik ini memungkinkan iklan berisi konten berisiko tersebar luas dengan dukungan tidak langsung dari sistem AI X.
Cara Kerja Teknik “Grokking”
Menurut temuan Guardio Labs, pengiklan berbahaya (mavertisers) biasanya menayangkan video iklan dengan umpan konten dewasa. Untuk menghindari pemblokiran, mereka tidak menyematkan link langsung di dalam konten utama, melainkan menyembunyikannya di kolom kecil “From:” pada kartu video—bidang metadata yang tampaknya tidak dipindai oleh sistem X.
Setelah itu, akun tertentu akan menanyakan sesuatu kepada Grok melalui balasan, misalnya “dari mana video ini” atau “apa link video ini.” Grok kemudian membaca kolom tersembunyi tersebut dan menjawab dengan menampilkan link penuh dalam format yang dapat diklik.
Karena Grok adalah akun sistem tepercaya, jawaban ini otomatis meningkatkan kredibilitas dan jangkauan link berbahaya tersebut. Hasilnya, link yang seharusnya diblokir justru dipromosikan ke lebih banyak pengguna.
Dampak dan Risiko
Banyak link yang didistribusikan dengan cara ini mengarah ke jaringan iklan tidak sah yang kemudian menyalurkan korban ke situs scam, tes CAPTCHA palsu, hingga malware pencuri data. Dalam sejumlah kasus, teknik ini berhasil membuat iklan berbahaya mencapai jutaan impresi.
Peneliti menyebut metode ini dengan istilah “Grokking”, menyoroti efektivitasnya dalam memperluas jangkauan kampanye berbahaya.
Upaya Mitigasi
Solusi potensial untuk menghentikan penyalahgunaan ini antara lain:
- Memindai seluruh bidang metadata, termasuk “From:”.
- Memblokir link tersembunyi yang tidak relevan.
- Menambahkan filter konteks pada Grok agar tidak secara otomatis menyalin dan menayangkan link, melainkan melakukan validasi terlebih dahulu terhadap daftar blokir.
Peneliti Guardio Labs, Nati Tal, mengonfirmasi bahwa ia sudah melaporkan celah ini ke pihak X, dan insinyur Grok dikabarkan telah menerima laporan tersebut. Namun hingga berita ini dipublikasikan, belum ada tanggapan resmi dari X terkait rencana mitigasi.
