Situs ChatGPT dan Gemini Palsu Curi Akun Iklan hingga Kode MFA lewat Browser-in-the-Browser

Campaign phishing baru ditemukan menggunakan situs palsu yang menyamar sebagai layanan AI populer seperti ChatGPT, Gemini, Claude, dan Perplexity untuk mencuri credential, account periklanan, hingga kode multi-factor authentication (MFA).

Serangan tersebut secara khusus menyasar agency staff, media buyer, dan administrator yang mengelola advertising account. Target seperti ini bernilai tinggi karena satu account dapat memiliki akses ke banyak client sekaligus serta memungkinkan attacker menggunakan saldo iklan untuk fraudulent campaign atau menjual kembali compromised account kepada cybercriminal lainnya.

Menurut peneliti browser security Island, campaign memanfaatkan teknik Browser-in-the-Browser (BitB). Korban diperlihatkan jendela login Google palsu yang terlihat seperti OAuth popup asli, lengkap dengan address bar yang menampilkan accounts.google.com.

Di balik interface tersebut, attacker dapat mencuri password, meminta SMS atau authenticator code, menampilkan MFA approval prompt, hingga mengontrol phishing flow secara real-time.

ChatGPT, Gemini, Claude, dan Perplexity Dijadikan Umpan

Pelaku membuat sejumlah website yang meniru branding AI product populer.

Nama ChatGPT, Gemini, Claude, dan Perplexity digunakan untuk memberikan kesan bahwa layanan tersebut merupakan legitimate AI tool yang dirancang membantu advertiser.

Fake AI product menawarkan berbagai kemampuan seperti membantu advertiser menemukan calon pembeli, memperoleh advertising brief, merencanakan campaign, serta melakukan audit terhadap advertising campaign dan spending.

Untuk menggunakan fitur tersebut, korban diminta menghubungkan account miliknya melalui tombol Connect.

Tombol inilah yang membawa pengguna menuju tahap credential theft.

Peluncuran Muse AI Ikut Dimanfaatkan

Peneliti menemukan campaign juga memanfaatkan momentum peluncuran Muse AI agent dari Meta.

Muse diposisikan sebagai assistant untuk berbagai personal task.

Threat actor memanfaatkan meningkatnya perhatian terhadap AI agent untuk membuat fake service yang terlihat relevan dan aktual.

Strategi seperti ini umum dalam phishing campaign.

Attacker sering mengikuti peluncuran produk, tren teknologi, atau perubahan platform yang sedang ramai dibicarakan karena pengguna lebih mungkin percaya terhadap layanan baru yang belum mereka kenal secara mendalam.

Popularitas generative AI memberikan ruang besar untuk pendekatan tersebut karena banyak AI tool baru bermunculan dalam waktu singkat.

Target Utamanya Pengelola Advertising Account

Campaign ini tidak sekadar mencoba mencuri consumer account secara acak.

Target utamanya adalah individu yang memiliki akses terhadap advertising infrastructure.

Agency employee dan media buyer dapat mengelola campaign untuk banyak client dari satu account atau business environment.

Administrator juga dapat memiliki privilege tinggi untuk menambahkan user, mengubah payment method, membuat campaign, atau mengakses advertising asset lainnya.

Apabila satu privileged advertising account berhasil diambil alih, attacker berpotensi mendapatkan akses ke beberapa downstream client sekaligus.

Nilai sebuah credential dengan access seperti ini jauh lebih tinggi dibandingkan account pengguna biasa.

Saldo Iklan Bisa Digunakan untuk Campaign Penipuan

Setelah memperoleh advertising account, cybercriminal dapat menyalahgunakannya dengan berbagai cara.

Salah satunya adalah menjalankan fraudulent advertising campaign menggunakan available balance atau payment method yang sudah terhubung.

Compromised advertising account juga dapat dijual kepada criminal lain.

Account dengan history yang legitimate dapat bernilai tinggi karena berpotensi memiliki spending limit lebih besar atau reputation yang lebih baik dibandingkan account baru.

Attacker juga dapat memanfaatkan advertising infrastructure tersebut untuk mendistribusikan scam, phishing, malware, atau campaign lain.

Dengan demikian, satu successful account takeover dapat menjadi pintu menuju serangan berikutnya.

Tombol Connect Membuka Jendela Google Palsu

Salah satu bagian paling meyakinkan dari campaign adalah fake authentication flow.

Ketika korban menekan tombol Connect pada situs AI palsu, halaman menampilkan sebuah window yang terlihat seperti Google login popup.

Window tersebut memiliki visual seperti browser asli.

Bahkan terdapat address bar yang menampilkan accounts.google.com, sehingga pengguna dapat mengira authentication benar-benar dilakukan melalui Google.

Namun, window tersebut bukan browser popup sesungguhnya.

Interface dibuat di dalam halaman yang sudah dibuka korban.

Teknik inilah yang dikenal sebagai Browser-in-the-Browser.

Apa Itu Browser-in-the-Browser?

Browser-in-the-Browser atau BitB merupakan phishing technique yang diperkenalkan secara luas oleh security researcher mr.d0x pada 2022.

Konsepnya adalah membuat browser window palsu di dalam browser window asli.

Website attacker dapat membangun interface yang menyerupai OAuth atau authentication popup dari Google, Microsoft, Steam, maupun identity provider lainnya.

Fake popup dapat memiliki title bar, browser control, icon, dan URL yang tampak legitimate.

Korban kemudian memasukkan credential karena melihat domain yang mereka kenal pada fake address bar.

Padahal, seluruh interface tersebut hanyalah bagian dari malicious webpage dan data yang dimasukkan dikirim kepada attacker.

Address Bar accounts.google.com Juga Palsu

Salah satu keuntungan BitB bagi attacker adalah kemampuan menampilkan URL legitimate secara visual.

Pada phishing konvensional, pengguna dapat memeriksa address bar browser untuk melihat apakah domain benar-benar milik Google.

Dalam BitB, attacker membuat address bar kedua di dalam webpage.

Karena itu, teks accounts.google.com yang terlihat pada popup bukan URL browser sebenarnya.

Ia hanyalah elemen visual yang dibuat menggunakan HTML dan komponen web lainnya.

Pengguna yang hanya melihat alamat tersebut tanpa memeriksa karakteristik window dapat terkecoh.

Hal ini membuat BitB lebih meyakinkan dibandingkan login page palsu sederhana.

Phishing Kit Menyesuaikan Tampilan dengan Perangkat Korban

Island menemukan phishing kit yang digunakan campaign mampu menyesuaikan interface berdasarkan environment korban.

Platform mendukung tampilan yang meniru pengalaman login pada Windows, macOS, iOS, dan Android.

Browser styling juga dapat disesuaikan.

Bahkan dark mode turut didukung sehingga fake authentication interface terlihat konsisten dengan konfigurasi perangkat korban.

Detail seperti ini penting dalam social engineering.

Popup dengan visual Windows yang muncul pada Mac atau interface desktop yang tampil di smartphone dapat menimbulkan kecurigaan.

Dengan menyesuaikan UI secara otomatis, attacker berusaha menghilangkan visual inconsistency yang dapat membocorkan serangan.

Human Operator Mengontrol Serangan secara Real-Time

Campaign ini tidak sepenuhnya berjalan secara otomatis.

Setelah korban memasuki BitB flow, human operator dapat mengambil alih proses dan menentukan langkah berikutnya.

Kemampuan tersebut membuat phishing jauh lebih fleksibel.

Operator dapat menyesuaikan permintaan berdasarkan credential dan authentication method yang digunakan korban.

Jika password yang dikirim dianggap salah, attacker dapat meminta korban memasukkannya kembali.

Menurut Island, password dapat diminta hingga tiga kali.

Attacker juga dapat mengubah authentication prompt sesuai kebutuhan untuk melewati security layer berikutnya.

Kode SMS dan Authenticator Juga Bisa Dicuri

Setelah memperoleh username dan password, operator dapat meminta korban memasukkan MFA code.

Kode tersebut dapat berasal dari SMS maupun authenticator application.

Jika attacker menggunakan credential secara real-time, kode MFA yang baru dimasukkan korban dapat langsung digunakan untuk menyelesaikan login legitimate sebelum code expired.

Teknik tersebut membuat traditional MFA berbasis OTP tetap rentan terhadap real-time phishing.

MFA masih memberikan perlindungan jauh lebih baik dibandingkan password saja, tetapi tidak semua metode MFA memiliki tingkat resistance yang sama terhadap phishing.

Okta Push dan Google Approval Prompt Juga Didukung

Phishing platform memiliki dukungan lebih luas daripada sekadar username, password, dan OTP.

Operator dapat menampilkan Okta push request kepada korban.

Google approval prompt juga dapat digunakan dalam phishing flow.

Selain itu, attacker dapat menampilkan QR code apabila authentication process membutuhkannya.

Kemampuan untuk mengubah prompt secara dinamis membuat platform dapat menangani berbagai authentication scenario.

Operator tidak harus membuat phishing page berbeda untuk setiap korban karena interface dapat disesuaikan berdasarkan kondisi yang muncul selama serangan.

Attacker Bisa Sengaja Menolak Kode MFA

Salah satu kemampuan menarik dari platform adalah operator dapat menolak code yang sebenarnya sudah dikirim korban.

Korban kemudian dapat diminta mencoba kembali.

Taktik tersebut memungkinkan attacker memperoleh multiple authentication code atau menyesuaikan timing dengan login session yang sedang mereka lakukan.

Operator juga dapat menempatkan korban pada waiting screen.

Dengan cara ini, attacker memiliki waktu untuk mencoba credential pada legitimate service sementara korban mengira authentication masih diproses.

Phishing flow dapat dihentikan, dilanjutkan, atau disembunyikan kapan saja oleh operator.

Google, Meta, TikTok, dan Okta Didukung

Island menemukan platform phishing tersebut mendukung authentication workflow untuk beberapa major provider.

Target yang teridentifikasi mencakup:

• Google
• Meta
• TikTok
• Okta

Dukungan tersebut sesuai dengan fokus campaign terhadap advertising account dan enterprise identity.

Google dan Okta banyak digunakan untuk authentication, sementara Meta dan TikTok memiliki advertising platform yang bernilai bagi media buyer dan digital agency.

Satu agency employee juga dapat memiliki account pada beberapa platform sekaligus sehingga memberikan peluang lebih besar bagi attacker.

Socket.IO Digunakan untuk Mengendalikan Phishing Flow

Analisis technical infrastructure menunjukkan command antara phishing platform dan operator dikirim menggunakan Socket.IO event.

Socket.IO memungkinkan komunikasi real-time antara browser dan backend.

Dalam konteks legitimate application, teknologi tersebut banyak digunakan untuk chat, live notification, collaborative application, dan berbagai interactive service.

Dalam campaign ini, komunikasi real-time memungkinkan operator mengubah apa yang terlihat oleh korban tanpa harus membuat pengguna membuka halaman baru.

Misalnya, operator dapat meminta password, kemudian menampilkan MFA prompt, lalu waiting screen berdasarkan hasil login yang dilakukan di sisi attacker.

Bukan Transparent Reverse-Proxy Phishing Kit

Island mencatat platform ini berbeda dari phishing kit berbasis transparent reverse proxy.

Reverse-proxy phishing biasanya meneruskan traffic korban menuju legitimate authentication service sambil mengintersepsi credential dan session token.

Campaign ini menggunakan pendekatan berbeda.

Visible platform membangun kembali provider interface secara lokal.

Credential dan MFA state kemudian dikumpulkan melalui API milik phishing infrastructure sendiri.

Dengan demikian, traffic yang terlihat dapat menyerupai komunikasi antara sebuah AI product dan application backend yang tidak berkaitan langsung dengan identity provider.

Pendekatan tersebut dapat membantu menyamarkan aktivitas malicious.

Infrastructure Menggunakan Next.js, Vercel, Railway, dan Render

Peneliti Island menemukan banyak halaman dalam campaign menggunakan technology stack yang sama.

Infrastructure tersebut memanfaatkan Next.js dan Socket.IO.

Banyak frontend di-host menggunakan Vercel.

Backend ditemukan menggunakan service seperti Railway atau Render.

Penggunaan legitimate cloud development platform bukan sesuatu yang aneh bagi cybercriminal.

Service tersebut memungkinkan website dan application dibuat serta dipublikasikan dengan cepat tanpa attacker harus mengoperasikan seluruh server infrastructure sendiri.

Hal ini juga dapat membuat malicious page terlihat seperti modern web application biasa.

Campaign Lebih Besar dari Sekadar AI Palsu

Investigasi menunjukkan fake ChatGPT, Gemini, Claude, Perplexity, dan Muse bukan satu-satunya lure.

Infrastructure yang sama digunakan untuk berbagai jenis phishing campaign.

Peneliti menemukan halaman yang menyamar sebagai recruitment opportunity dan refund page.

Kesamaan technology stack, API endpoint, serta backend infrastructure memungkinkan Island menghubungkan berbagai lure tersebut dengan operation yang lebih besar.

Hal ini menunjukkan attacker menggunakan reusable phishing platform.

Tema social engineering dapat diganti sesuai target, sementara underlying infrastructure tetap sama.

Repository GitHub yang Salah Konfigurasi Membocorkan Operasi

Peneliti dapat menelusuri aktivitas campaign lebih jauh setelah menemukan misconfigured public GitHub repositories milik attacker.

Repository tersebut mengekspos older source code yang seharusnya tidak tersedia secara publik.

Source code membantu researcher memahami hubungan antara berbagai website dan infrastructure yang digunakan.

Berdasarkan artifact tersebut, aktivitas dapat ditelusuri setidaknya hingga Maret 2026.

Operational security mistake seperti public repository sering menjadi sumber informasi penting bagi security researcher.

Code, configuration, endpoint, token reference, atau development history dapat mengungkap hubungan antara infrastructure yang sebelumnya terlihat tidak berkaitan.

Telegram Channel Menerima Ratusan Submission Korban

Island juga menemukan Telegram control channel yang digunakan dalam operasi tersebut.

Channel itu dilaporkan menerima ratusan victim submission.

Namun, angka tersebut tidak boleh langsung dianggap sebagai jumlah successful account compromise.

Submission dapat mencakup incomplete credential, failed authentication, duplicate attempt, atau data dari korban yang tidak berhasil diambil alih.

Meski demikian, volume tersebut menunjukkan phishing infrastructure telah menerima interaksi dari banyak target.

Tidak diketahui berapa banyak advertising account yang benar-benar berhasil dikompromikan.

BitB Bisa Dideteksi dengan Mencoba Memindahkan Window

Walaupun secara visual sangat meyakinkan, Browser-in-the-Browser memiliki kelemahan mendasar.

Fake popup sebenarnya berada di dalam webpage.

Karena itu, window tersebut tidak dapat dipindahkan keluar dari batas browser window utama.

Pengguna dapat mencoba melakukan drag pada authentication popup.

Jika popup tidak dapat melewati batas browser, hal tersebut menjadi indikator kuat bahwa window bukan native browser window.

Legitimate OAuth popup merupakan window terpisah dan dapat dipindahkan secara independen.

Resize Window Juga Bisa Membongkar Phishing

Tes sederhana lainnya adalah mencoba melakukan resize terhadap popup.

Real browser window umumnya dapat diubah ukurannya sesuai behavior operating system.

Fake BitB window dibatasi oleh webpage tempat ia dibuat.

Meskipun attacker dapat mensimulasikan beberapa visual behavior, fake window tetap tidak memiliki karakteristik penuh dari native browser window.

Pengguna juga dapat memeriksa taskbar atau window switcher untuk memastikan authentication popup benar-benar muncul sebagai browser window terpisah.

Teknik sederhana seperti ini dapat membantu membedakan legitimate OAuth flow dengan BitB phishing.

Password Manager Bisa Menjadi Lapisan Pertahanan Tambahan

Password manager juga dapat membantu menghadapi phishing domain.

Credential manager biasanya mengasosiasikan password dengan actual domain.

Jika halaman palsu hanya menampilkan accounts.google.com sebagai visual element tetapi browser sebenarnya berada pada domain attacker, password manager seharusnya tidak otomatis menawarkan credential Google untuk halaman tersebut.

Hal ini dapat menjadi warning tambahan bagi pengguna.

Namun, user tetap perlu berhati-hati karena phishing campaign terus mengembangkan berbagai metode untuk membuat authentication flow terlihat legitimate.

Mengandalkan satu indikator saja tidak cukup untuk seluruh jenis serangan.

Phishing-Resistant MFA Lebih Sulit Dibypass

Campaign ini kembali memperlihatkan kelemahan MFA berbasis SMS atau one-time code terhadap real-time phishing.

Metode authentication berbasis FIDO2 security key dan passkey memiliki resistance lebih kuat karena authentication terikat pada legitimate domain.

Credential tidak dapat digunakan begitu saja pada phishing domain meskipun interface terlihat identik.

Bagi advertising agency atau organization dengan account bernilai tinggi, phishing-resistant authentication dapat memberikan perlindungan signifikan terhadap BitB maupun adversary-in-the-middle phishing.

Privileged account yang mengelola banyak client sebaiknya mendapatkan security control lebih ketat dibandingkan standard user.

Popularitas AI Menjadi Senjata Social Engineering

Campaign ini juga menunjukkan bagaimana popularitas generative AI dimanfaatkan cybercriminal.

ChatGPT, Gemini, Claude, dan Perplexity merupakan nama yang sudah dikenal luas.

Pada saat yang sama, pasar AI bergerak sangat cepat sehingga kemunculan produk atau integration baru tidak terasa aneh bagi pengguna.

Kombinasi tersebut ideal untuk phishing.

Korban mengenali brand tetapi belum tentu mengetahui seperti apa legitimate product, domain, atau integration flow yang sebenarnya.

Attacker kemudian menambahkan value proposition yang relevan, seperti AI untuk advertising planning atau campaign auditing, agar target memiliki alasan menekan tombol Connect.

Agency dan Media Buyer Perlu Lebih Waspada

Digital agency menjadi target menarik karena account mereka dapat menjadi gateway menuju banyak perusahaan.

Satu media buyer mungkin mengelola puluhan advertising campaign.

Satu administrator dapat memiliki access terhadap banyak client business account.

Karena itu, compromise terhadap satu identity dapat menghasilkan multiplier effect.

Agency sebaiknya menerapkan least privilege, memisahkan administrator account dari daily-use account, menggunakan phishing-resistant MFA, dan melakukan review terhadap active session serta connected application.

Login yang muncul setelah pengguna mengakses AI tool baru juga perlu diperiksa secara lebih hati-hati.

Fake AI Site Menjadi Ancaman Baru bagi Advertising Account

Campaign yang dianalisis Island menunjukkan phishing modern tidak lagi selalu berupa halaman login sederhana.

Attacker membangun fake AI application dengan branding yang relevan, menawarkan fitur yang masuk akal, lalu menggunakan Browser-in-the-Browser untuk mensimulasikan legitimate authentication flow.

Platform bahkan memungkinkan human operator mengontrol proses secara real-time, meminta password hingga beberapa kali, mencuri MFA code, menampilkan Okta atau Google approval prompt, dan menahan korban di waiting screen.

Infrastructure yang sama juga digunakan untuk recruitment dan refund phishing, dengan aktivitas yang dapat ditelusuri setidaknya sejak Maret 2026.

Bagi pengguna, keberadaan logo ChatGPT, Gemini, Claude, Perplexity, Google, atau provider lainnya tidak dapat dijadikan bukti bahwa sebuah website legitimate.

Authentication popup yang terlihat benar pun perlu diverifikasi.

Mencoba memindahkan window keluar dari browser, memeriksa actual domain, menggunakan password manager, dan beralih ke phishing-resistant MFA dapat membantu mengurangi risiko menjadi korban teknik Browser-in-the-Browser.

Sumber: Island