Malware Gaslight macOS Baru Gunakan Prompt Injection untuk Ganggu Analisis AI

Baru-baru ini ditemukan sebuah malware macOS berbasis Rust yang belum pernah terdeteksi sebelumnya, bernama Gaslight, yang dirancang khusus untuk mengganggu proses analisis yang dibantu kecerdasan buatan (AI). Malware ini menggunakan teknik prompt injection untuk menipu alat AI milik analis malware agar menghentikan atau menolak analisis terhadap artefak berbahaya tersebut.

Gaslight diberi nama demikian karena sifatnya yang menipu (gaslighting), dan diyakini dengan sangat yakin sebagai alat yang dikembangkan oleh aktor ancaman yang terkait dengan Korea Utara.

Karakteristik Malware Gaslight dan Cara Kerjanya

Peneliti dari SentinelOne, Phil Stokes, menjelaskan dalam laporan teknisnya bahwa fitur paling mencolok dari malware ini adalah adanya rangkaian pesan kegagalan sistem palsu yang bertujuan membuat agen triase berbasis LLM (Large Language Model) meragukan sesi analisanya sendiri.

"Fitur paling menonjolnya adalah sebuah kaskade pesan kegagalan sistem palsu yang dirancang untuk membuat agen triase berbasis LLM meragukan sesi mereka sendiri," ujar Stokes. "Malware ini menyerang persepsi agen tersebut, bukan lingkungan sandbox tempat ia berjalan."

Gaslight mengandalkan sebuah saluran command-and-control (C2) berbasis Telegram bot API yang terus melakukan polling untuk menerima instruksi dari operator. Operator dapat mengirim perintah melalui shell interaktif dan menerima hasil eksekusinya secara real time.

Jika terdapat dua instance bot dengan token yang sama melakukan polling bersamaan, sistem akan mengeluarkan respons "Conflict" yang menyebabkan instance kedua berhenti secara otomatis. Shell ini mendukung enam perintah utama yang memungkinkan pengendalian penuh atas komputer korban:

• help: menampilkan bantuan perintah
• id: mengidentifikasi implant pada korban
• shell: menjalankan perintah shell melalui execvp
• kill: menghentikan proses target berdasarkan PID
• upload: mengirimkan file melalui mekanisme "attach://" Telegram
• stop: menghentikan eksekusi implant

SentinelOne juga menemukan indikasi adanya perintah ketujuh bernama focus, namun fungsi dari perintah ini masih belum diketahui.

Teknik Pengumpulan Data dan Persistensi

Untuk mempertahankan kehadirannya, Gaslight menggunakan LaunchAgent dengan label com.apple.system.services.activity pada file .plist, sehingga dapat berjalan otomatis saat sistem macOS dinyalakan.

Selain itu, malware ini menyisipkan skrip Python berukuran 6,6 KB dalam format Base64 yang berfungsi sebagai suite pengumpulan informasi. Skrip ini mengumpulkan berbagai data penting seperti:

• Riwayat perintah Terminal
• Daftar aplikasi yang terpasang
• Snapshot proses yang berjalan
• Profil perangkat keras dan perangkat lunak sistem
• Database macOS Keychain
• Data dari browser Chrome, Brave, Firefox, dan Safari

Data yang dikumpulkan kemudian dikompres menjadi arsip ZIP bernama "temp/collected_data.zip" dan dikirimkan melalui Telegram. Skrip Python ini dijalankan menggunakan interpreter cpython-3.10.18 yang diinstal melalui bash installer Base64 yang terpisah.

Menariknya, keberadaan emoji dan komentar panjang pada skrip ini mengindikasikan bahwa skrip tersebut kemungkinan besar dibuat dengan bantuan model bahasa besar (LLM), menunjukkan penggunaan AI oleh pembuat malware.

Strategi Pengelakan dan Serangan Prompt Injection

Uniknya, konfigurasi sensitif seperti token bot Telegram, chat ID (tg_room_id), dan parameter operator lain tidak disematkan secara permanen dalam kode malware, melainkan diberikan saat runtime. Hal ini membuat analisis dan pelacakan menjadi lebih sulit. Selain itu, implant ini secara otomatis menghapus token bot Telegram dari output runtime untuk mencegah kebocoran data jika terjadi pencatatan log atau kegagalan sistem.

Salah satu aspek paling canggih dari Gaslight adalah teknik prompt injection yang digunakan untuk mengelabui sistem deteksi berbasis AI. Malware ini menyisipkan blok Markdown berisi 38 pesan sistem palsu yang mencakup:

• Peringatan kadaluarsa token
• Kegagalan operasi berulang
• Penghentian proses akibat kekurangan memori
• Pemberitahuan kehabisan ruang disk
• Warning palsu tentang kerentanan injeksi dan flag analisis statik

Tujuan dari pesan-pesan ini adalah agar agen keamanan berbasis LLM menghentikan, memotong, atau menolak melanjutkan analisis terhadap malware tersebut.

Menurut SentinelOne, ini merupakan "upaya untuk mengubah jalur triase berbantuan LLM yang semakin banyak digunakan dalam proses rekayasa balik menjadi senjata yang berbahaya."

Analisis Redaksi

Menurut pandangan redaksi, kemunculan malware seperti Gaslight menunjukkan evolusi canggih dari strategi serangan siber yang kini tidak hanya mengincar sistem korban, tetapi juga alat dan proses analisis keamanan itu sendiri. Penggunaan prompt injection untuk mengelabui AI adalah langkah inovatif dan berbahaya yang menandai babak baru dalam peperangan digital.

Ini menjadi peringatan bagi perusahaan keamanan dan pengembang AI untuk terus meningkatkan ketahanan sistem AI terhadap manipulasi data input dan skenario serangan baru yang mengincar pemrosesan AI. Selain itu, pengawasan terhadap aktor ancaman yang berafiliasi dengan negara seperti Korea Utara harus diperketat karena mereka mampu memanfaatkan teknologi terbaru untuk mengembangkan malware yang lebih canggih dan sulit dideteksi.

Kedepannya, penting bagi komunitas keamanan siber untuk mengadopsi pendekatan hybrid yang menggabungkan kemampuan AI dengan metode analisis manual yang mendalam agar terhindar dari jebakan teknik seperti yang digunakan Gaslight.

Untuk informasi lebih lanjut dan update terkini tentang malware serta ancaman siber lainnya, Anda dapat mengikuti beritanya langsung di The Hacker News dan sumber terpercaya lain seperti Kompas.