Celah API OpenAI, Anthropic, dan Google: Model AI Lemah Bisa Bongkar Alasan Model AI Kuat

Celah keamanan pada API OpenAI, Anthropic, dan Google baru-baru ini terungkap memungkinkan model AI yang lebih lemah memecahkan reasoning yang dilakukan oleh model AI yang lebih kuat. Hal ini berujung pada potensi pencurian data sensitif seperti kunci API dan password yang tersimpan dalam log sesi publik.

Peneliti menemukan bahwa reasoning blocks atau blok reasoning yang dienkripsi dan digunakan dalam API reasoning masing-masing penyedia dapat diputar ulang (replayed) antar sesi, bahkan dapat diberikan kepada model AI yang lebih lemah dalam keluarga model yang sama sehingga model lemah tersebut mampu mengungkap isi tersembunyi dalam blok reasoning tersebut.

Konteks dan Mekanisme Celah

API reasoning dari OpenAI, Anthropic, dan Google mengirimkan objek reasoning terenkripsi yang bertujuan mempertahankan pemikiran internal model tanpa mengekspos isi plaintext langsung ke klien. Misalnya, OpenAI mengembalikan item reasoning terenkripsi yang diputar ulang dalam sesi yang dikelola secara manual, Anthropic menggunakan signature terenkripsi penuh untuk reasoning, dan Google memakai signature berpikir terenkripsi.

Namun, enkripsi ini sendiri tidak dipecahkan. Celah terjadi karena blok reasoning yang utuh dan tersembunyi dapat diterima dan diproses oleh penyedia saat diputar ulang pada sesi berbeda, pengguna berbeda, dan model berbeda. Ini memungkinkan model AI lemah berfungsi sebagai "decoder fuzzy" untuk menerjemahkan reasoning model AI kuat.

• Model Claude Haiku 4.5 dapat mendekode reasoning Claude yang lebih kuat.
• GPT-5.6 Luna digunakan untuk decoding reasoning GPT.
• Gemini Robotics ER-1.6 mampu memecahkan reasoning Gemini.

Potensi Dampak Keamanan dan Privasi

Dalam penelitian yang memindai 6.708 jalur agen publik, tim berhasil mendekode 315.320 blok thinking. Setelah mengeluarkan data benchmark, ditemukan 704 artefak privasi nyata dari sesi pengguna termasuk:

• 62 kunci API
• 33 password
• 24 token akses
• 7 kunci privat

Sebanyak 64 artefak hanya muncul dalam reasoning tersembunyi dan tidak ada di teks yang terlihat. Ini berarti menyaring percakapan yang dapat dibaca tidak cukup untuk menghilangkan rahasia yang tersimpan dalam blok reasoning.

Serangan lintas pengguna ini tidak memberikan akses sembarangan ke obrolan privat. Namun, pelaku harus mendapatkan blok reasoning terenkripsi dari sumber publik dan memiliki akses API ke model yang kompatibel di penyedia yang sama.

Serangan Prompt Injection Tersembunyi

Penelitian juga memperlihatkan bukti konsep prompt injection tersembunyi dengan membuat blok reasoning yang membawa instruksi berbahaya. Ketika blok ini diputar ulang di tugas lain, model yang menerima dapat menjalankan aksi berbahaya seperti mengunggah file sesuai arahan penyerang tanpa instruksi tersebut pernah muncul di teks yang terlihat.

Respons dan Mitigasi Penyedia Layanan

Temuan ini sudah dilaporkan kepada Microsoft dan Hugging Face sebagai penyedia model terkait. Peneliti menyatakan serangan yang mereka demonstrasikan telah dihentikan setelah mitigasi diterapkan pada Agustus 2026.

Meski demikian, hingga kini belum ada pengakuan resmi dari OpenAI, Anthropic, maupun Google terkait celah ini. Dokumentasi terbaru mereka juga belum secara eksplisit mengaitkan perubahan kebijakan dengan penelitian ini, sehingga klaim mitigasi hanya berasal dari pernyataan reproducibility peneliti.

Beberapa perubahan yang terlihat adalah:

• OpenAI masih menyarankan pengembang untuk memutar ulang item reasoning terenkripsi saat mengelola histori secara manual.
• Google kini mengelola kompatibilitas reasoning di backend ketika sesi berganti model.
• Anthropic mengimbau agar blok pemikiran dihapus saat beralih model karena model lain mengabaikan blok tersebut.

Langkah Keamanan untuk Pengembang

Peneliti menyarankan agar pengembang:

1. Memastikan blok reasoning dan kolom reasoning yang tersembunyi dihapus dari jejak yang dibagikan publik.
2. Menghindari menyimpan transkrip API mentah meski teks yang terlihat sudah disanitasi.

Hal ini penting untuk mencegah kebocoran data sensitif yang tidak terlihat oleh pengguna biasa.

Analisis Redaksi

Menurut pandangan redaksi, cahaya yang disorot pada celah reasoning API ini membuka dimensi baru dalam risiko keamanan AI yang selama ini kurang diperhatikan. Tidak hanya kebocoran data pribadi dan kredensial, tetapi juga potensi penyisipan instruksi berbahaya tanpa terdeteksi secara langsung menimbulkan ancaman serius.

Serangan yang memanfaatkan pemutaran ulang reasoning lintas model dan pengguna mengindikasikan bahwa desain API yang mengandalkan reasoning terenkripsi perlu ditinjau ulang. Keamanan model AI tidak boleh bergantung hanya pada enkripsi, tapi juga bagaimana reasoning disimpan dan diproses antar sesi dan pengguna.

Publik dan pengembang harus waspada terhadap jejak reasoning yang tersebar di repositori publik dan mengadopsi kebijakan sanitasi yang ketat. Di sisi lain, penyedia layanan harus memberikan transparansi lebih dan konfirmasi resmi atas mitigasi yang mereka lakukan agar kepercayaan pengguna tetap terjaga.

Kedepannya, kita harus mengawasi perkembangan standar keamanan API AI dan bagaimana vendor menanggapi celah serupa yang mungkin muncul seiring kompleksitas model dan interaksi pengguna yang bertambah.

Untuk informasi lebih lengkap dan pembaruan terkini, kunjungi artikel asli di The Hacker News dan pantau juga berita dari sumber terpercaya lainnya.