Browser AI Perplexity ‘Comet’ Ditipu untuk Membeli Produk Palsu
Sebuah eksperimen keamanan berhasil mengecoh browser AI “Comet” milik Perplexity agar melakukan pembelian online terhadap produk palsu. Temuan ini menyoroti potensi risiko keamanan dan manipulasi pada sistem browser berbasis kecerdasan buatan yang mampu melakukan tindakan otomatis di web.
Comet: Browser AI yang Dapat Bertindak Otomatis
Comet adalah produk AI eksperimental yang dikembangkan oleh Perplexity. Browser ini dirancang untuk menavigasi situs web, melakukan tugas-tugas secara mandiri seperti membaca halaman, mengisi formulir, hingga menyelesaikan transaksi berdasarkan perintah pengguna.
Namun, dalam pengujian terbaru, para peneliti keamanan dari Mithril Security berhasil mengeksploitasi perilaku Comet untuk secara tidak sadar membeli barang palsu dari situs e-commerce yang tampak sah tetapi sepenuhnya palsu dan dikendalikan oleh peneliti sendiri.
Teknik Eksploitasi: Manipulasi Prompt dan Konteks
Eksperimen ini menggunakan teknik prompt injection untuk memanipulasi cara Comet membaca dan menafsirkan konten di situs web. Dengan menyisipkan instruksi tersembunyi dalam halaman produk, peneliti bisa mengarahkan Comet agar “percaya” bahwa produk tersebut relevan dan sah untuk dibeli.
Lebih lanjut, Comet tidak memiliki lapisan validasi independen terhadap konten halaman, sehingga AI mengeksekusi aksi pembelian berdasarkan interpretasi teks yang telah dimanipulasi—tanpa menyadari bahwa itu adalah skenario jebakan.
Risiko yang Muncul
Kejadian ini membuktikan bahwa AI agent yang diberikan kapabilitas tindakan otomatis bisa dimanfaatkan oleh pihak jahat untuk melakukan aktivitas merugikan, seperti:
- Melakukan transaksi fiktif
- Mengisi formulir phishing
- Menyebarkan data sensitif tanpa disengaja
Risiko semakin besar jika AI seperti Comet nantinya diberi akses kartu kredit, akun belanja, atau integrasi ke sistem internal pengguna.
Tanggapan dari Perplexity
Pihak Perplexity telah mengakui keberhasilan eksploitasi ini dan menyatakan bahwa fitur Comet saat ini masih dalam tahap eksperimen tertutup. Mereka menyebutkan bahwa sistem ini belum tersedia secara publik dan masih dalam pengujian terbatas, dengan berbagai kontrol tambahan sedang dikembangkan untuk menghindari skenario manipulasi seperti ini.
Namun, temuan ini menjadi peringatan penting bagi seluruh industri pengembang AI tentang perlunya kontrol keamanan ketat dalam merancang agen otonom yang diberi wewenang untuk melakukan tindakan langsung atas nama pengguna.
Sumber: BleepingComputer
