Mengupas Platform Keamanan AI Lasso: Solusi Lengkap Deteksi Perilaku Agen AI

Keamanan sistem AI adalah tentang memahami apa yang seharusnya dilakukan sebuah sistem, lalu menangkap ketika sistem tersebut melakukan hal berbeda. Untuk perangkat lunak dengan jalur eksekusi deterministik, hal ini cukup mudah. Namun, bagi agen AI, tantangannya jauh lebih kompleks.

Agen AI tidak mengikuti jalur kode yang tetap. Mereka beralasan untuk mencapai tujuan, memilih alat berdasarkan alasan tersebut, dan menyesuaikan tindakan berikutnya berdasarkan hasil yang diberikan alat tersebut. Input yang sama bisa menghasilkan rangkaian tindakan berbeda bergantung pada konteks, riwayat sesi, dan hasil dari alat eksternal. Perilaku adalah permukaan serangan, dan perilaku ini selalu berubah.

Proxy tradisional dan firewall AI dirancang untuk memeriksa konten: apa yang dikirim pengguna dan apa yang dikembalikan model. Namun, keamanan intent bertanya hal berbeda: apakah agen ini melakukan apa yang seharusnya dilakukan dalam konteks dan waktu tertentu untuk pengguna tersebut? Menjawab pertanyaan ini membutuhkan pembangunan baseline perilaku untuk setiap agen dan mengukur penyimpangan secara berkelanjutan.

Filosofi: Siklus Tertutup Pertahanan dan Serangan

Lasso didirikan untuk menyelesaikan masalah ini. Sebagian besar organisasi yang serius dalam keamanan AI saat ini menggunakan beberapa solusi terpisah: scanner postur, alat red teaming pra-peluncuran, dan pencatatan runtime. Namun, semuanya bekerja terpisah tanpa integrasi. Temuan postur tidak mempengaruhi apa yang diuji, dan hasil pengujian tidak otomatis memperbarui kebijakan runtime. Akibatnya, risiko menumpuk pada titik perpindahan.

Lasso membangun arsitektur yang menutup celah tersebut dengan menghubungkan setiap tahap secara otomatis. Penemuan agen langsung memicu analisis postur, hasil postur menentukan target red teaming, dan temuan red team secara otomatis menghasilkan pembaruan guardrail untuk diterapkan saat runtime. Siklus ini terus berjalan, membuat setiap tahap semakin akurat dengan lapisan intelijen yang berfokus pada intent, belajar dan memperbaiki baseline perilaku agen.

Penemuan dan Inventarisasi Agen AI

Penemuan agen AI adalah tantangan terbesar yang dilaporkan tim keamanan, apalagi saat organisasi beralih dari menggunakan tool AI pihak ketiga ke membangun agen mereka sendiri. Menggunakan tool pihak ketiga berarti menerima model keamanan orang lain, sementara membangun agen sendiri berarti mengelola pemilihan model, prompt sistem, akses alat, guardrail, dan perilaku runtime.

Agen hari ini tidak hanya dibangun oleh tim engineering yang menulis kode. Tim kepatuhan bisa membangun agen internal menggunakan Microsoft Copilot Studio untuk mengakses data HR dan merangkum kebijakan, sementara tim engineering bisa membuat agen layanan pelanggan dengan AWS Bedrock yang terhubung ke database produksi. Setiap agen memiliki model, alat, izin, dan profil risiko berbeda, tersebar di berbagai platform cloud tanpa satu pun platform yang dapat memberikan visibilitas lintas lingkungan.

Lasso mengatasi masalah ini dengan menghubungkan tiga sumber utama:

• Pembangun agen low-code dan no-code: Lasso terkoneksi secara native ke AWS Bedrock, Microsoft Azure AI Foundry, Microsoft Copilot Studio, Google Vertex AI, Salesforce Agentforce, Anthropic Managed Agents, dan lainnya, mencatat semua agen yang dibangun di platform tersebut ke dalam inventaris keamanan tunggal.
• Lingkungan cloud: Lasso terhubung ke lingkungan cloud seperti AWS, Google Cloud, dan Azure untuk menemukan agen dan aplikasi AI yang dibangun di infrastruktur tersebut tanpa layanan AI terkelola.
• Pipeline CI/CD dan repositori kode: Lasso memindai repositori dan pipeline CI/CD untuk menemukan agen buatan sendiri sejak tahap pengembangan sebelum produksi, dan menggabungkannya dengan yang ditemukan di lingkungan lain.

Hasil akhirnya adalah AI Bill of Materials (AIBOM): catatan lengkap dan terus diperbarui tentang setiap agen dan aplikasi AI dalam organisasi dengan profil model, prompt sistem, alat, guardrail, kebijakan, dan konfigurasi. Ini menjadi fondasi bagi semua tahap berikutnya.

Manajemen Postur Keamanan AI (AI-SPM)

Setelah inventaris lengkap, Lasso membangun graf keamanan yang memetakan setiap aplikasi beserta agen, LLM, database, dan API yang terhubung. Visualisasi ini memperlihatkan jalan serangan potensial sehingga ancaman dapat diantisipasi sebelum terjadi.

AI-SPM melakukan analisis statis konfigurasi aplikasi, menghubungkan temuan dengan kerangka kerja seperti NIST, OWASP, dan MITRE. Kesalahan konfigurasi termasuk prompt sistem yang salah, akses alat berlebihan, dan guardrail yang tidak diuji, diidentifikasi secara otomatis sehingga tim keamanan dan pengembang dapat langsung memperbaikinya.

Red Teaming AI Otomatis

Pengujian aplikasi agen AI berbeda dengan API tradisional karena sifat non-deterministiknya. Agen AI menyimpan memori, memanggil alat secara berantai, dan merespons berbeda berdasarkan konteks. Pengujian satu kali dengan payload statis tidak cukup.

Lasso membangun red teaming otomatis dengan pendekatan khusus:

1. Serangan statis: Memanfaatkan perpustakaan lebih dari 300.000 payload yang diperbarui terus-menerus, meliputi jailbreak, bypass moderasi konten, dan teknik obfuscation.
2. Serangan dinamis: Melakukan probing multi-turn untuk mendeteksi titik rentan yang muncul di interaksi berkelanjutan.
3. Serangan dengan agen otonom: Menempatkan adversary dengan peran khusus yang menjalankan serangan multi-turn yang menyesuaikan dengan desain aplikasi, mengeksploitasi konteks dan memori agen.

Setiap temuan terhubung langsung ke langkah perbaikan yang disarankan, termasuk pembaruan guardrail yang otomatis diterapkan tanpa perlu intervensi manual. Integrasi dengan pipeline CI/CD memungkinkan red teaming berjalan secara native di setiap deploy sehingga build berisiko bisa diblokir lebih awal.

Perlindungan Runtime dengan Guardrail Inline

Lasso menerapkan guardrail secara inline di lapisan proxy, API, atau AI Gateway dengan pemblokiran real-time dalam waktu kurang dari 50ms tanpa perlu modifikasi kode atau akses ke kode sumber.

Guardrail ini lebih dalam dari alat dasar karena menjalankan ribuan classifier untuk deteksi ancaman seperti:

• Serangan OWASP LLM dan Agentic Top 10
• Eksposur data sensitif dan pencegahan kebocoran data
• Serangan prompt injection dan jailbreak

Untuk kasus yang memerlukan pemahaman semantik, LLM-as-a-judge menilai inline apakah respons sesuai dengan ruang lingkup aplikasi, bukan hanya mencocokkan pola buruk yang dikenal.

Kebijakan dapat digunakan langsung atau dibuat khusus untuk setiap aplikasi dan dihubungkan dengan kontrol OWASP, NIST, dan MITRE sehingga setiap keputusan enforcement memiliki referensi kerangka kerja.

Continuous Purple Teaming untuk Pembaruan Guardrail Otomatis

Siklus tertutup antara serangan dan pertahanan membuat platform ini self-reinforcing. Temuan red team otomatis menghasilkan pembaruan guardrail, menutup celah antara pengujian dan pengamanan tanpa memerlukan intervensi manual. Tim keamanan dapat meninjau dan menyetujui pembaruan, sementara sistem bergerak ke arah penyempurnaan kebijakan yang semakin otonom.

Keamanan Intent: Mengatur Apa yang Dilakukan Agen, Bukan Sekadar Apa yang Dikatakan

Filter konten dan model izin penting tapi tidak cukup dalam lingkungan agen. Agen yang sama, dengan izin sama, dalam sesi yang sama bisa berperilaku normal atau mengalami penyusupan tergantung konteks. Pemeriksaan konten saja tidak dapat membedakan.

Inti platform Lasso adalah Intent Security Engine, lapisan intelijen yang berjalan di semua tahap. Ia membangun baseline perilaku dari seluruh riwayat interaksi dan mengukur penyimpangan secara berkelanjutan.

Dua sinyal utama digunakan untuk deteksi:

• Ketidaksesuaian intent dalam rantai: Mengevaluasi apakah permintaan pengguna, prompt sistem, alasan agen, dan aksi alat sejalan dalam satu eksekusi. Penyimpangan sekecil apa pun dianggap kompromi intent dan diproses dengan respons bertingkat (alert, blok, atau mask) secara real-time.
• Anomali perilaku intent: Mendeteksi penyimpangan dari pola historis meski rantai internal konsisten, misal agen yang biasanya memanggil satu alat tiba-tiba memanggil lima alat.

Mesin ini menganalisis sesi dalam waktu kurang dari 5 detik dan berjalan 570 kali lebih cepat dari metode lama, sehingga bisa mengatur perilaku agen secara langsung tanpa menunggu analisis setelah kejadian.

Hasilnya adalah akurasi deteksi 98,6% dengan tingkat false positive hanya 1,4%, cukup presisi untuk penerapan produksi tanpa mengganggu tim keamanan dengan alarm palsu berlebihan.

Kepatuhan dan Pelaporan

Temuan keamanan Lasso terhubung dengan kerangka kerja OWASP LLM Top 10, NIST, dan MITRE ATLAS. Ini memudahkan tim keamanan dan kepatuhan bekerja dengan data yang sama untuk audit dan pelaporan.

Dashboard audit-ready memberikan gambaran lengkap siklus hidup keamanan: penemuan, celah postur, pengujian, hasil temuan, perbaikan, dan risiko residual. Ekspor data terstruktur untuk laporan dewan dan pengajuan regulasi.

Untuk industri teregulasi seperti layanan keuangan, kesehatan, dan pemerintahan, Lasso dapat di-deploy on-premise atau di VPC untuk menjaga data sensitif dan model tetap aman tanpa akses kode sumber.

Platform yang Siap untuk Masa Depan Keamanan AI

Organisasi yang mengadopsi aplikasi AI skala besar tidak menunggu alat keamanan menyusul. Mereka sadar observabilitas saja tidak cukup, pengujian harus kontinu, dan perlindungan runtime harus mengatur perilaku agen, bukan hanya mencatatnya.

Platform Keamanan AI Lasso mencakup seluruh siklus ini secara terintegrasi dari prompt pertama hingga interaksi produksi, dalam siklus tertutup yang berkelanjutan.

Untuk informasi lebih lanjut tentang platform Lasso, kunjungi sumber aslinya.

Analisis Redaksi

Menurut pandangan redaksi, Lasso membawa paradigma baru dalam keamanan AI dengan mengintegrasikan seluruh siklus pengamanan secara otomatis dan berkelanjutan. Pendekatan ini sangat penting mengingat sifat dinamis dan adaptif agen AI yang sulit diprediksi dengan metode keamanan tradisional.

Keunggulan utama Lasso adalah penekanan pada intent security yang tidak hanya memeriksa apa yang dikirim atau diterima, tetapi juga memastikan perilaku agen tetap sesuai tujuan desainnya secara real-time. Ini adalah lompatan besar dari pendekatan firewall dan filter konten konvensional yang mudah dibobol oleh manipulasi konteks.

Yang perlu diwaspadai adalah bagaimana organisasi akan mengelola dan menyempurnakan baseline perilaku seiring berkembangnya agen dan kasus penggunaan yang semakin kompleks. Juga, adopsi sistem otomatis seperti ini menuntut kepercayaan tinggi terhadap ketepatan analisis agar tidak mengganggu operasi normal.

Kedepannya, pengembangan platform seperti Lasso akan menjadi standar keamanan bagi perusahaan yang mengandalkan AI agent, terutama di sektor yang sensitif seperti keuangan dan kesehatan. Pembaca disarankan untuk mengikuti perkembangan teknologi ini demi kesiapan menghadapi risiko keamanan AI yang terus berkembang.