Serangan MemGhost: Tanam Memori Palsu Permanen di AI Hanya Lewat Satu Email

Pemberian memori pada asisten AI yang memiliki akses ke email bisa menjadi celah besar bagi penyerang untuk mengubah informasi yang diketahui AI tentang penggunanya. Dengan satu email yang dirancang khusus, penyerang dapat menanamkan memori palsu yang bertahan lama pada asisten AI seperti OpenClaw, menyembunyikan perubahan tersebut dari pengguna, dan mengarahkan jawaban AI di sesi berikutnya tanpa terdeteksi.

Apa Itu MemGhost dan Bagaimana Cara Kerjanya?

Para peneliti baru-baru ini memperkenalkan sebuah metode serangan yang mereka namakan stealth memory injection, yang menggunakan alat otomatis bernama MemGhost untuk menulis email berbahaya. Studi berjudul "When Claws Remember but Do Not Tell" yang dipublikasikan di arXiv pada 6 Juli 2026 menjelaskan bagaimana satu email dapat mengelabui asisten AI agar menyimpan informasi palsu dalam memori permanennya.

Asisten AI pribadi seperti OpenClaw menyimpan catatan pribadi pengguna—seperti preferensi, kontak, dan instruksi—dalam file teks biasa yang dibaca pada awal setiap sesi. Dengan kemampuan ini, AI terasa seperti mengenal penggunanya secara personal dan dapat menjalankan tugas otomatis seperti memeriksa email, kalender, dan menjalankan pekerjaan kecil secara terjadwal.

MemGhost memanfaatkan kemampuan ini dengan mengirimkan email yang mengandung perintah tersembunyi. Jika asisten AI yang terhubung dengan kotak masuk pengguna memproses email tersebut, tiga hal terjadi secara berurutan:

• AI menulis informasi palsu ke memori permanennya menggunakan alat internalnya sendiri.
• Balasan AI kepada pengguna tetap terlihat biasa dan tidak mengindikasikan perubahan apapun.
• Di sesi berikutnya, informasi palsu tersebut memengaruhi jawaban dan tindakan AI.

Salah satu contoh dalam studi adalah penanaman kebohongan bahwa batas pengiriman harian Zelle pengguna dinaikkan menjadi $10.000. Pengguna tidak menyadari perubahan ini karena aktivitas pengeditan tersembunyi dan file memori yang jarang diperiksa secara langsung.

Efektivitas dan Cakupan Serangan MemGhost

Dalam pengujian terhadap 56 kasus baru, MemGhost berhasil menanam memori palsu dan mengubah perilaku AI dengan tingkat keberhasilan 87,5% pada OpenClaw yang menggunakan GPT-5.4, dan 71,4% pada agen Claude Code SDK berbasis Sonnet 4.6.

Serangan ini paling efektif ketika AI berjalan di mode latar belakang tanpa interaksi langsung pengguna, karena balasan AI sering kali tidak muncul sehingga tidak menimbulkan kecurigaan. Bahkan, filter input yang dirancang untuk menangkal email berbahaya gagal mendeteksi pesan MemGhost lebih dari 90% waktu, dan model AI yang diperkuat untuk menolak instruksi lewat email masih mengikuti perintah palsu sekitar setengahnya.

Menurut para peneliti, tidak ada perbaikan cepat karena teknik ini menggunakan alat tulis memori internal AI tanpa melanggar kebijakan keamanan seperti otorisasi atau batas sandbox. Mereka menyarankan solusi jangka panjang harus melibatkan:

• Penandaan asal-usul setiap informasi yang dimasukkan ke memori AI.
• Meminta konfirmasi pengguna sebelum menyimpan informasi ke memori permanen.
• Membuat log audit untuk setiap penulisan data memori.

Jika tidak, serangan melalui email yang tidak tepercaya yang dapat menulis ke memori internal AI masih akan terus menjadi risiko besar.

Respons OpenClaw dan Implikasi Keamanan AI

OpenClaw memberikan klarifikasi kepada The Hacker News bahwa praktik keamanan mereka menyarankan agar email yang tidak tepercaya diproses oleh agen pembaca terpisah yang tidak memiliki akses ke memori atau alat tulis file. Hanya ringkasan yang diteruskan ke agen utama yang memiliki memori.

Mereka juga menegaskan bahwa model AI yang digunakan berperan penting. Studi ini menggunakan GPT-5.4 yang merupakan model terdepan, sementara model lain seperti Claude Opus 4.6 yang diuji pada platform HackMyClaw menunjukkan ketahanan lebih baik terhadap injeksi email, meskipun uji tersebut fokus pada pencurian data, bukan penanaman memori palsu.

OpenClaw sedang mempertimbangkan langkah-langkah pengendalian penulisan memori eksternal, termasuk verifikasi sumber, pencatatan audit, dan permintaan konfirmasi, sesuai rekomendasi studi.

Sejarah dan Perkembangan Serangan Memori Palsu

Serangan manual serupa pernah dilakukan oleh peneliti Johann Rehberger pada 2024, yang menanam instruksi palsu dalam memori jangka panjang ChatGPT melalui konten web beracun, yang dia sebut SpAIware. Meskipun OpenAI menutup jalur kebocoran data tersebut, kemampuan menulis memori dari konten tidak tepercaya tetap ada.

Pada 2025, kasus EchoLeak (CVE-2025-32711) menggunakan email tersembunyi untuk membuat Microsoft 365 Copilot mengungkap data internal perusahaan saat ditanya, yang kemudian ditambal oleh Microsoft.

MemGhost membawa ancaman ini ke tingkat berikutnya dengan memori palsu yang permanen dan tersembunyi, yang dapat mengubah perilaku AI di banyak sesi tanpa jejak langsung.

Analisis Redaksi

Menurut pandangan redaksi, serangan MemGhost menunjukkan bahwa kemajuan AI dengan kemampuan memori jangka panjang membawa risiko baru yang belum sepenuhnya diantisipasi. Kerentanan ini bukan hanya soal data bocor sesaat, melainkan bagaimana AI bisa diprogram ulang secara diam-diam untuk salah memahami penggunanya dalam jangka panjang.

Hal ini berpotensi mengganggu kepercayaan pengguna pada asisten AI pribadi, khususnya yang mengelola informasi sensitif seperti keuangan, kesehatan, atau komunikasi penting. Penyerang dapat memanipulasi AI untuk memberikan informasi palsu atau melakukan tindakan yang merugikan secara tersembunyi.

Ke depan, pengembang AI harus mengintegrasikan kontrol asal-usul data dan mekanisme verifikasi yang ketat sebelum menyimpan apapun ke memori permanen. Pengguna juga harus mendapat transparansi lebih besar tentang apa yang disimpan AI dan bagaimana data itu diperlakukan.

Sementara itu, pemisahan tugas antara memeriksa email dengan menulis memori AI adalah langkah mitigasi penting yang harus segera diimplementasikan untuk mencegah eksploitasi serupa.

Kesimpulan

Serangan MemGhost menjadi peringatan penting bagi industri AI dan pengguna pribadi bahwa kecanggihan teknologi harus diimbangi dengan keamanan yang matang. Dengan semakin banyak AI yang diintegrasikan dalam kehidupan sehari-hari, ancaman manipulasi memori AI melalui saluran komunikasi biasa seperti email tidak bisa dianggap remeh.

Pembaruan keamanan dan kesadaran pengguna harus terus ditingkatkan agar serangan semacam ini dapat dicegah dan diatasi sebelum menimbulkan kerugian besar.

Ikuti terus perkembangan berita keamanan AI terbaru untuk mengetahui langkah-langkah perlindungan dan mitigasi terkini.