OpenAI GPT-Red Otomatisasi Pengujian Prompt Injection untuk Perkuat GPT-5.6 Sol

OpenAI baru-baru ini mengungkapkan GPT-Red, sebuah model internal otomatis yang berfungsi sebagai red-teamer untuk menguji dan menemukan kerentanan prompt injection pada model bahasa besar sebelum digunakan secara luas. GPT-Red dirancang untuk memperkuat ketahanan model GPT, khususnya model terbarunya, GPT-5.6 Sol, yang berhasil mencatat enam kali lebih sedikit kegagalan injection langsung dibandingkan dengan pendahulunya, GPT-5.5.

Automasi Pengujian Prompt Injection dengan GPT-Red

Menurut OpenAI, GPT-Red bekerja layaknya red-teamer manusia dengan mengirimkan prompt, memantau respons model GPT, lalu mengulangi proses tersebut untuk mencapai tujuan berbahaya, seperti mengunggah data sensitif ke server eksternal. "GPT-Red adalah red-teamer yang kuat, dan model-model kami sebelumnya sangat rentan terhadap serangan prompt injection dari GPT-Red," ujar OpenAI.

Prompt injection sendiri merupakan teknik di mana model bahasa besar bisa diperdaya menjalankan instruksi berbahaya yang disisipkan dalam input yang terlihat tidak berbahaya, seperti email, halaman web, atau kode perangkat lunak. Fenomena ini menjadi masalah serius karena sistem berbasis AI kini semakin terhubung dengan sumber data pihak ketiga, memperluas permukaan serangan dan membuka celah bagi aktor jahat.

Manfaat dan Dampak GPT-Red dalam Pelatihan Model

GPT-Red dipakai oleh OpenAI dalam pelatihan GPT-5.6 Sol untuk membuat model ini lebih tahan terhadap prompt injection. Dengan integrasi langsung GPT-Red dalam proses pelatihan, model terbaru ini menunjukkan tingkat kegagalan hanya seperenam dari model sebelumnya dalam uji benchmark prompt injection langsung.

Beberapa contoh percakapan yang diuji dengan prompt injection meliputi:

• Eksfiltrasi direktori internal
• Instruksi pembayaran palsu
• Pencurian kredensial Amazon Web Services (AWS)
• Menonaktifkan otentikasi dua faktor (2FA)
• Pengunggahan file kredensial
• Injeksi skrip eksternal
• Penerusan kunci API
• Skrip pengikis berbahaya

OpenAI menjelaskan, "GPT-Red dilatih menggunakan pembelajaran penguatan self-play, di mana model ini dan sejumlah model defender LLM yang beragam dilatih secara simultan dengan berbagai skenario red-teaming." Model ini diberi penghargaan ketika berhasil menemukan kegagalan valid, sementara model defender dihargai ketika berhasil menangkis serangan dan menyelesaikan tugas aslinya.

Perlindungan, Studi Kasus, dan Perkembangan Terbaru

GPT-Red tetap dijaga terpisah dari model lain agar kemampuan berbahaya yang dimilikinya tidak disalahgunakan oleh pihak yang berniat jahat. Dalam uji nyata, GPT-Red berhasil melakukan serangan pada mesin vending berbasis AI dari Andon Labs, berhasil menurunkan harga barang mahal ke harga minimum, memesan barang senilai $100 dengan harga murah, dan membatalkan pesanan pelanggan lain.

Selain itu, GPT-Red juga digunakan untuk menyerang agen baris perintah Codex berbasis GPT-5.4 mini dalam 10 tugas eksfiltrasi data, yang menghasilkan transmisi data sensitif lebih banyak dibandingkan baseline GPT-5.5.

Model ini juga mengungkap serangan prompt injection baru yang disebut Fake Chain-of-Thought (CoT), dengan keberhasilan lebih dari 95% pada GPT-5.1, namun angka ini turun drastis menjadi di bawah 10% pada GPT-5.6 Sol. "Beberapa benchmark prompt injection tidak langsung pada alat pengembang dan browsing juga telah diatasi oleh model terbaru kami dengan akurasi di atas 97%."

OpenAI menegaskan, "Ketahanan terhadap GPT-Red sendiri juga meningkat secara signifikan. Pada berbagai lingkungan pengujian, tingkat keberhasilan serangan GPT-Red terus menurun. GPT-5.6 Sol saat ini gagal hanya pada 0,05% dari serangan prompt injection langsung GPT-Red."

Konteks dan Implikasi Audit SWE-Bench

Pengumuman ini disampaikan bersamaan dengan laporan audit terhadap SWE-Bench Pro, yang menemukan sekitar 30% tugas dalam benchmark tersebut bermasalah. OpenAI pun menarik rekomendasi penggunaan benchmark ini untuk mengukur kemampuan pengkodean model frontier setelah menemukan isu desain dan kontaminasi data mendasar.

"Kami menemukan masalah serius dalam sejumlah besar data, dengan analisis kami menandai 27,4% tugas rusak dan anotasi manusia menyatakan 34,1%. Eval harus memberikan sinyal bermakna melalui benchmark yang sulit dimanipulasi, mudah dipercaya, dan benar-benar mencerminkan kemampuan atau keselarasan model," kata OpenAI.

Analisis Redaksi

Menurut pandangan redaksi, GPT-Red merupakan terobosan penting dalam upaya memperkuat keamanan model bahasa besar terhadap serangan prompt injection yang semakin canggih. Automasi red-teaming memungkinkan pengujian yang lebih luas dan mendalam dibandingkan metode manual, sehingga potensi celah keamanan dapat ditemukan dan diperbaiki lebih awal sebelum model diluncurkan ke publik.

Namun, tantangan terbesar tetap berlanjut karena serangan yang dilakukan GPT-Red sendiri terus berkembang mengikuti peningkatan ketahanan model defender. Hal ini mencerminkan perlombaan senjata antara pembuat serangan dan pembuat pertahanan dalam ranah keamanan AI yang dinamis. Pembaca perlu waspada terhadap potensi eksploitasi baru yang mungkin muncul dan mendorong transparansi serta kolaborasi terbuka dalam riset keamanan AI.

Ke depan, implementasi GPT-Red dan teknologi serupa berpotensi menjadi standar industri untuk memastikan penggunaan AI yang aman dan bertanggung jawab, khususnya saat model semakin terintegrasi dalam aplikasi sehari-hari yang rentan terhadap manipulasi berbahaya.

Untuk informasi lebih lengkap dan update terkini seputar keamanan AI dan teknologi OpenAI, kunjungi sumber asli artikel ini serta portal berita teknologi terpercaya seperti Kompas.