Peneliti Bongkar Kelemahan Browser AI Comet Perplexity dalam Penipuan Phishing dalam 4 Menit

Peneliti berhasil menipu browser AI Comet Perplexity dalam serangan phishing hanya dalam waktu kurang dari empat menit. Temuan ini mengungkapkan adanya permukaan serangan baru yang menargetkan kemampuan kecerdasan buatan (AI) pada browser agentik yang semakin banyak digunakan saat ini.

Serangan Phishing Berbasis AI: Ancaman Baru pada Browser Agentik

Browser agentik yang mengandalkan kemampuan AI untuk secara otomatis mengeksekusi tindakan di berbagai situs web atas nama pengguna, ternyata dapat dilatih dan dipermainkan agar jatuh ke dalam perangkap phishing dan penipuan.

Serangan ini memanfaatkan kecenderungan browser AI untuk melakukan penalaran dan pengambilan keputusan secara mandiri. Menurut Guardio, dalam laporan yang dibagikan kepada The Hacker News, penyerang memanfaatkan proses penalaran ini untuk menurunkan tingkat pengamanan browser AI.

“AI sekarang beroperasi secara real-time di dalam halaman yang penuh dinamika dan kompleks, sambil terus meminta informasi, membuat keputusan, dan menceritakan tindakannya secara berlebihan,” ujar peneliti keamanan Shaked Chen.

“Kami menyebut fenomena ini sebagai Agentic Blabbering: browser AI yang membuka semua apa yang dilihatnya, apa yang dipercayainya, rencana tindakan berikutnya, dan sinyal apa yang dianggap mencurigakan atau aman.”

Metode Pelatihan Ulang dengan GAN untuk Memperdaya Browser AI

Dengan cara mengintersepsi lalu lintas data antara browser dan layanan AI yang berjalan di server vendor, lalu memberikan data ini sebagai input ke Generative Adversarial Network (GAN), Guardio mampu membuat browser AI Comet Perplexity terperangkap dalam skema phishing dalam waktu kurang dari empat menit.

Penelitian ini mengembangkan teknik sebelumnya seperti VibeScamming dan Scamlexity yang menemukan bahwa platform berbasis kode getaran (vibe-coding) dan browser AI dapat diarahkan untuk menghasilkan halaman scam atau melakukan aksi berbahaya melalui injeksi prompt tersembunyi.

Singkatnya, dengan AI yang menangani tugas tanpa pengawasan manusia secara terus-menerus, terjadi pergeseran target serangan dari manusia ke model AI itu sendiri.

“Jika Anda bisa mengamati apa yang dianggap mencurigakan oleh agen, apa yang membuatnya ragu, dan yang terpenting, apa yang dipikirkan dan diomongkannya tentang halaman tersebut, Anda bisa menggunakan itu sebagai sinyal pelatihan,” jelas Chen. “Penipuan ini terus berkembang hingga browser AI secara konsisten berjalan ke dalam jebakan yang disiapkan oleh AI lain.”

Konsep intinya adalah membangun "mesin penipuan" yang mengoptimalkan dan meregenerasi halaman phishing secara iteratif hingga browser AI berhenti memberikan peringatan dan menjalankan perintah pelaku, misalnya memasukkan kredensial korban pada halaman palsu yang digunakan untuk skema refund.

Bahaya Serangan Ini bagi Pengguna dan Masa Depan Browser AI

Apa yang membuat serangan ini sangat berbahaya adalah, setelah penipu berhasil mengiterasi halaman hingga berhasil mengecoh satu browser AI tertentu, halaman tersebut efektif menipu semua pengguna yang menggunakan browser agentik yang sama.

Dengan kata lain, sasaran telah bergeser dari pengguna manusia langsung menjadi browser AI yang digunakan jutaan orang.

“Ini menyingkap masa depan yang kurang menguntungkan yang akan kita hadapi: penipuan tidak hanya akan diluncurkan dan disesuaikan di dunia nyata, tetapi juga akan dilatih secara offline terhadap model yang sama yang digunakan jutaan orang, sampai mereka bekerja dengan sempurna saat kontak pertama,” kata Guardio.

“Karena ketika browser AI Anda menjelaskan mengapa ia berhenti, ia secara tidak langsung mengajarkan pelaku cara melewatinya.”

Konteks dan Serangan Terkait pada Browser Comet

Temuan ini muncul berbarengan dengan demonstrasi oleh Trail of Bits yang memperlihatkan empat teknik injeksi prompt terhadap browser Comet untuk mengekstraksi informasi pribadi pengguna dari layanan seperti Gmail. Teknik ini memanfaatkan asisten AI browser untuk menyaring data dan mengirimkannya ke server penyerang ketika pengguna meminta rangkuman halaman web yang dikendalikan penyerang.

Selain itu, Zenity Labs juga mengungkap dua serangan zero-click yang memanfaatkan injeksi prompt tidak langsung melalui undangan rapat untuk mengambil file lokal pengguna atau membajak akun 1Password jika ekstensi pengelola kata sandi terpasang dan terbuka. Isu-isu ini, yang dinamai PerplexedBrowser, telah diperbaiki oleh perusahaan AI terkait.

Serangan ini menggunakan teknik injeksi prompt yang disebut intent collision, terjadi ketika agen menggabungkan permintaan pengguna yang tampaknya aman dengan instruksi berbahaya dari data web yang tidak terpercaya menjadi satu rencana eksekusi, tanpa cara andal untuk membedakan keduanya, menurut peneliti keamanan Stav Cohen.

Tantangan Keamanan yang Masih Berlanjut pada Browser AI

Injeksi prompt merupakan tantangan keamanan mendasar bagi model bahasa besar (LLM) dan integrasinya ke dalam alur kerja organisasi. Menghilangkan kerentanan ini sepenuhnya mungkin tidak realistis.

Pada Desember 2025, OpenAI mencatat bahwa kelemahan ini “kemungkinan tidak akan pernah” bisa diselesaikan sepenuhnya pada browser agentik, walaupun risiko bisa dikurangi melalui penemuan serangan otomatis, pelatihan adversarial, dan pengamanan tingkat sistem yang baru.

Analisis Redaksi

Menurut pandangan redaksi, temuan ini menjadi alarm penting bagi industri AI dan keamanan siber. Perkembangan browser AI agentik yang mampu beroperasi secara otomatis membuka peluang baru bagi penyerang yang dapat memanfaatkan mekanisme internal AI itu sendiri. Dengan semakin banyaknya pekerjaan dan aktivitas digital yang diotomatisasi oleh AI, serangan yang menargetkan AI sebagai "manusia pengambil keputusan" ini akan menjadi ancaman yang semakin nyata dan serius.

Lebih jauh, risiko ini tidak hanya berdampak pada individu pengguna, tapi juga menciptakan potensi serangan skala besar yang bisa mengeksploitasi jutaan pengguna secara simultan jika model AI yang sama digunakan secara luas. Ini menuntut produsen browser AI dan pengembang model bahasa untuk segera mengadopsi langkah-langkah proteksi yang lebih kuat, termasuk pengujian keamanan menyeluruh, pelatihan adversarial, dan pembaruan sistem yang responsif.

Kedepannya, publik juga harus mewaspadai bahwa ancaman penipuan tidak lagi hanya datang dari manusia, tapi juga dari sistem otomatis yang belajar dan beradaptasi. Masyarakat dan regulator perlu menyiapkan kerangka pengawasan dan edukasi yang tepat agar penggunaan AI dalam aktivitas sehari-hari tetap aman dan terlindungi.

Terus ikuti perkembangan terbaru seputar keamanan browser AI dan serangan siber melalui kanal resmi kami agar Anda selalu mendapat informasi terkini dan insight mendalam.