Otonomi AI di SOC: 60% CISO Siap Percayakan Agen AI dalam 12 Bulan
Survei a16z terhadap CISO di organisasi besar mengungkap 60% responden memperkirakan dalam 12 bulan akan nyaman membiarkan agen AI bertindak otonom pada aksi keamanan berisiko rendah, naik dari 36% saat ini. Namun hanya 1% yang berani memberi otonomi penuh untuk sebagian besar tindakan.
Kronologi dan Temuan Survei a16z
Survei yang dilakukan a16z terhadap para CISO di organisasi dengan lebih dari 1.000 karyawan menunjukkan pergeseran signifikan dalam cara pandang terhadap otonomi AI di Security Operations Center (SOC). Saat ini, 36% responden mengaku nyaman membiarkan agen AI bertindak mandiri untuk tugas-tugas berisiko rendah. Dalam 12 bulan ke depan, angka itu diproyeksikan melonjak menjadi 60%.
Menariknya, AI SOC menjadi inisiatif dengan peringkat tertinggi untuk tahun 2027. Ini menandakan bahwa adopsi agen AI di pusat operasi keamanan bukan lagi sekadar wacana, melainkan prioritas utama bagi banyak organisasi.
Namun, di sisi lain, para CISO tetap berhati-hati untuk tindakan berisiko tinggi. Hanya 1% yang saat ini nyaman membiarkan agen AI bertindak otonom pada sebagian besar tindakan, dan hanya 7% yang memperkirakan akan nyaman dalam setahun mendatang. Artinya, meskipun kepercayaan meningkat untuk tugas berisiko rendah, otonomi penuh masih jauh dari harapan.
Survei ini juga mengungkap kekhawatiran utama para CISO: 55% responden memilih serangan yang dipercepat AI yang melampaui kemampuan tim untuk merespons sebagai momok terbesar. Waktu analis adalah sumber daya paling langka di SOC, dan setiap peringatan masih berarti mengumpulkan bukti dari berbagai sistem, merekonstruksi apa yang terjadi, dan memutuskan apakah itu penting.
Pihak yang Terlibat dan Pernyataan Mereka
Meskipun survei ini tidak menyebut nama individu secara spesifik, temuan a16z ini mencerminkan suara para CISO di organisasi besar. Mereka adalah pembuat keputusan yang mengelola tim keamanan dan anggaran teknologi.
Dalam laporan a16z, disebutkan bahwa "mengumpulkan log berbeda dari mengubah sistem produksi." Pernyataan ini menegaskan pentingnya membedakan tingkat otonomi berdasarkan tahapan kerja dan jenis tindakan.
Selain itu, para peneliti dari University of Washington yang mengembangkan kerangka lima tingkat otonomi agen menekankan bahwa "otonomi adalah pilihan desain yang disengaja, terpisah dari seberapa mampu agen tersebut." Agen yang sangat canggih tetap bisa dijalankan pada tingkat L2 jika risikonya menuntut demikian.
Zev Schonberg, PMM di Intezer, dalam artikel kontribusinya untuk The Hacker News, menyoroti pentingnya bukti forensik untuk menentukan ambang kepercayaan. "Agen yang dapat menunjukkan apa yang sebenarnya dieksekusi, dari mana asalnya, dan apa yang dilakukannya, memberikan manusia sesuatu yang nyata untuk diverifikasi," tulisnya.
Latar Belakang dan Konteks: Mengapa Otonomi AI di SOC Menjadi Tren
Tekanan di balik pergeseran ini mudah dilihat. Serangan siber yang dipercepat AI semakin sering terjadi, sementara tim keamanan kekurangan tenaga dan waktu. Analis SOC kewalahan dengan banyaknya peringatan yang harus diselidiki secara manual.
Otonomi AI di SOC menawarkan solusi: agen AI dapat mengambil alih tugas-tugas rutin seperti pengumpulan bukti, analisis awal, dan bahkan eksekusi respons tertentu. Ini memungkinkan analis manusia untuk fokus pada tugas yang lebih kompleks dan strategis.
Namun, otonomi bukanlah konsep yang sederhana. Diskusi saat ini sering membingkainya sebagai satu slider dari "AI menyarankan" hingga "AI bertindak," dan kerangka itulah yang membuat banyak program mandek. Otonomi sebenarnya adalah serangkaian keputusan yang dibuat per tahap alur kerja dan per tindakan.
Para peneliti telah lama mengembangkan kerangka otonomi. Dalam makalah tahun 2000 yang banyak dikutip, Parasuraman, Sheridan, dan Wickens mengusulkan bahwa otomasi berlaku untuk empat fungsi: akuisisi informasi, analisis informasi, pemilihan keputusan dan tindakan, serta implementasi tindakan. Setiap fungsi dapat berada pada tingkat otomasi yang berbeda.
Dalam konteks SOC, empat tahap itu adalah: pengumpulan bukti (query SIEM/EDR, tarik process tree, enrich indicator), analisis dan verdict (korelasi, rekonstruksi, putuskan apakah ancaman nyata), rekomendasi respons (usulkan containment, reset kredensial), dan eksekusi respons (benar-benar mengubah lingkungan).
Dengan pemisahan ini, tim dapat mengotomasi tahap pertama dan kedua secara agresif karena di situlah jam analis paling banyak habis dan kesalahan paling mudah ditangkap. Sementara untuk tahap keempat, tim bisa tetap konservatif karena kesalahan dapat mengganggu bisnis.
Dampak dan Reaksi: Tantangan Pengawasan Manusia
Survei a16z juga mengungkap bahwa 52% CISO ingin agen hanya bertindak dengan persetujuan manusia. Ini terdengar seperti pilihan aman, dan dalam banyak kasus memang demikian. Namun, ada mode kegagalan yang jarang dibahas: persetujuan manusia hanya sebaik konteks yang diterima peninjau.
Ketika langkah persetujuan datang tanpa bukti atau kriteria yang jelas, peninjau mulai mengklik permintaan untuk menjaga antrean tetap berjalan, dan pengawasan diam-diam menghilang. Jika AI membentuk bagaimana setiap penyelidikan dibingkai, manusia yang menyetujui tindakan akhir sebenarnya menyetujui kesimpulan yang tidak pernah mereka lihat prosesnya.
Hanya ketika peninjau dapat benar-benar memeriksa logika AI dan bekerja dengan bukti forensik yang kuat, persetujuan itu bernilai. Dalam praktiknya, setiap permintaan persetujuan harus menunjukkan tiga hal: bukti yang dikumpulkan agen dan sumbernya, penalaran yang menghubungkan bukti dengan verdict, serta apa yang diperiksa dan dikesampingkan agen.
Uji berguna untuk memastikan ini berfungsi adalah waktu yang dihabiskan. Jika peninjau tidak dapat memverifikasi verdict dalam satu atau dua menit, langkah persetujuan itu bersifat seremonial dan tim membayar untuk human-in-the-loop tanpa mendapatkannya.
Selain itu, otonomi juga meningkatkan risiko jika agen salah, dimanipulasi, atau disusupi. Survei a16z menunjukkan 46% CISO memasukkan agen AI yang bertindak di luar izin yang dimaksudkan atau agen yang disusupi ke dalam lima kekhawatiran terbesar mereka. Sementara 29% menyebut prompt injection atau kebocoran data melalui aplikasi AI. Sebanyak 55% sudah menjalankan server MCP atau integrasi agen-ke-aplikasi lain di produksi, dan 34% menjalankan agen otonom dengan akses alat atau izin tulis.
Pelajaran bagi SOC adalah bahwa otonomi itu sendiri merupakan faktor risiko, yang dinilai bersama kerentanan. Perlakukan agen AI SOC seperti identitas istimewa baru: beri identitas sendiri, batasi izinnya, catat setiap panggilan alat, dan awasi dengan deteksi yang sama seperti akun admin baru.
Langkah Selanjutnya: Peta Jalan Menuju Otonomi yang Diperoleh
Peralihan dari 36% ke 60% akan terjadi dengan atau tanpa rencana. Pemimpin keamanan yang ingin mendapatkan keuntungan kapasitas tanpa insiden yang membuat program AI mereka mundur setahun dapat memulai dengan lima langkah.
- Inventarisasi setiap tindakan: daftar semua yang dapat dilakukan agen AI SOC saat ini, dari query read-only hingga tindakan respons, dan tempatkan masing-masing pada rubrik reversibilitas, blast radius, dan bukti.
- Otomasi investigasi secara agresif: pengumpulan bukti dan analisis menghabiskan sebagian besar jam analis dan membawa risiko paling kecil. Di sinilah otonomi penuh pertama kali membayar.
- Gerbang respons yang mengganggu dengan bukti nyata: pertahankan persetujuan pada tindakan berdampak tinggi, dan pastikan setiap permintaan persetujuan membawa bukti yang dapat diverifikasi peninjau dengan cepat.
- Tulis kriteria kelulusan dan demosi sekarang: sepakati ambang akurasi, periode pengujian, dan jalur rollback sebelum pilot dimulai, sehingga otonomi berkembang berdasarkan data.
- Kelola agen seperti identitas istimewa: batasi, catat, dan pantau, karena otonominya juga merupakan blast radius-nya.
Selain itu, otonomi harus bisa turun. Penurunan tingkat kesepakatan, perubahan besar dalam lingkungan seperti EDR baru atau migrasi cloud, atau satu kegagalan serius harus memicu demosi hingga kriteria terpenuhi lagi. Tim yang hanya menaikkan otonomi tanpa pernah menurunkannya sedang membangun risiko yang tidak terlihat.
OWASP Top 10 for Agentic Applications memberi nama pendekatan ini: least agency, memperluas least privilege menjadi otonomi minimum yang diperlukan untuk tugas-tugas aman dan terbatas, dan membiarkan otonomi itu tumbuh saat diperoleh. Untuk naik satu tingkat, diperlukan kriteria yang ditetapkan sebelum pilot dimulai, seperti kesepakatan terukur, dry run, jejak bukti lengkap, dan jalur rollback.
Analisis Redaksi
Survei a16z ini menangkap momen penting dalam adopsi AI di SOC: kepercayaan sedang tumbuh, tetapi belum merata. Angka 60% dalam 12 bulan menunjukkan optimisme, tetapi juga tekanan. Para CISO berada di antara dua tuntutan: meningkatkan efisiensi tim yang kewalahan dan menjaga risiko tetap terkendali. Otonomi bertahap adalah jawabannya, bukan otonomi penuh.
Yang sering terlewat adalah bahwa otonomi bukanlah tombol on/off. Ini adalah spektrum yang harus dikelola per tindakan. Kerangka seperti empat fungsi otomasi dan lima tingkat otonomi agen memberikan kosakata yang berguna. Namun, implementasinya menuntut disiplin: menetapkan kriteria kelulusan dan demosi sebelum pilot, memastikan setiap persetujuan manusia didasarkan pada bukti forensik yang dapat diverifikasi, dan memperlakukan agen AI sebagai identitas istimewa yang diawasi ketat.
Risiko terbesar bukanlah agen AI yang terlalu otonom, melainkan agen yang diberi otonomi tanpa pengawasan yang memadai. Persetujuan manusia yang menjadi stempel karet adalah ilusi keamanan. Jika peninjau tidak punya waktu atau konteks untuk memverifikasi, human-in-the-loop hanyalah formalitas. Organisasi perlu mengukur waktu verifikasi dan memastikan bahwa setiap keputusan dapat diaudit.
Ke depan, pemenangnya adalah mereka yang memperlakukan otonomi sebagai sesuatu yang diperoleh melalui bukti, bukan diberikan berdasarkan janji vendor. Dengan pendekatan ini, SOC dapat memanfaatkan AI untuk mempercepat respons tanpa kehilangan kendali. Seperti kata Schonberg, "Otonomi yang diperoleh berarti agen mendapatkan lebih banyak otoritas satu kelas tindakan pada satu waktu, setiap langkah didukung oleh bukti yang dapat diperiksa tim, dan setiap langkah dapat dibalik jika bukti tidak lagi berlaku."
Sumber: thehackernews.com, owasp.org
What's Your Reaction?
Like
0
Dislike
0
Love
0
Funny
0
Angry
0
Sad
0
Wow
0