Peringatan Engineer Anthropic soal Claude Code: Kenapa Outage Teknologi Bisa Makin Parah
Seorang engineer Anthropic, Addy Osmani, memperingatkan bahwa Claude Code mampu menulis kode jauh lebih cepat daripada kemampuan manusia mereviewnya. Kondisi ini menciptakan comprehension debt yang membuat perusahaan kehilangan kendali atas sistem mereka, dan berpotensi memperburuk gelombang outage teknologi yang belakangan marak terjadi.
Peringatan itu bukan soal kelemahan teknis Claude Code, melainkan soal cara perusahaan dan tim engineering memakainya. Osmani, anggota technical staff di Anthropic yang juga mantan engineer Google, menulis esai soal comprehension debt pada Maret 2026. Esai itu sempat ramai di komunitas software engineering, dan menurut Yahoo Finance, isinya justru makin relevan sekarang.
Inti masalahnya sederhana: AI bisa menulis kode lebih cepat daripada kemampuan manusia memeriksanya. Kecepatan itu menguntungkan, tapi sekaligus jadi kutukan. Banyak perusahaan kini beralih dari menulis kode sendiri menjadi mengawasi pasukan agen AI yang tidak pernah mengeluh dan menulis lebih banyak kode.
Kronologi dan Konteks Gelombang Outage Teknologi
Belakangan ini, layanan teknologi besar silih berganti mengalami gangguan. Dampaknya bukan lagi sekadar keluhan di media sosial, tapi sudah masuk ke ruang publik yang lebih serius.
Menurut laporan Yahoo Finance, outage telah membuat Wakil Presiden Amerika Serikat JD Vance batal menghadiri sejumlah acara di New York. Gangguan yang sama juga berbuntut pada mundurnya kepala keamanan siber Gedung Putih. Acara "Saturday Night Live" ikut terkena imbas, dan topik ini menjadi bahan meme serta komedi TikTok. Salah satu lelucon yang beredar: "LinkedIn dan Tinder pasti sedang down, karena aku tidak dapat balasan apa pun!"
Yahoo Finance mencatat bahwa masalahnya jauh lebih besar dari sekadar keamanan siber. Infrastruktur menua. Perawatan ditunda. Tim IT yang kelelahan dan berukuran terlalu kecil tidak sanggup menghadapi kekacauan sebesar ini.
Namun ada penjelasan lain yang kurang diperhatikan: sisi buruk Claude Code, produk andalan yang mengantar Anthropic ke valuasi triliunan dolar. Produk ini menjadi simbol bagaimana AI generatif kini menjadi tulang punggung produksi perangkat lunak di banyak perusahaan.
Osmani bukan nama baru di dunia rekayasa perangkat lunak. Ia dikenal sebagai engineer yang rajin menulis soal praktik pengembangan web dan produktivitas developer. Posisinya di Anthropic, perusahaan di balik Claude, membuat peringatannya sulit diabaikan begitu saja.
Pihak yang Terlibat dan Pernyataan Mereka
Selain Osmani, CEO Microsoft Satya Nadella ikut memberi gambaran soal pergeseran cara kerja tim engineering. Dalam pernyataannya pekan ini, Nadella mengatakan para engineer Microsoft kini "membangun pabrik perangkat lunak yang membangun produk. Mereka tidak membangun produknya."
Kalimat itu menggambarkan perubahan besar: manusia tidak lagi menulis baris kode, tapi mengawasi sistem yang memproduksi kode. Model kerja seperti ini memang menaikkan kecepatan, tetapi mengurangi jumlah mata manusia yang memeriksa hasilnya.
Osmani menjelaskan bahwa proses memeriksa kode orang lain selama ini adalah cara engineer memahami mengapa sebuah sistem dirancang seperti itu. Dari situ mereka tahu mengapa keputusan di awal proyek masih relevan hari ini. Ketika lapisan verifikasi itu hilang, pemahaman ikut menguap.
"Ketika kode yang dihasilkan AI berjalan di sistem kesehatan, infrastruktur keuangan, dan layanan pemerintah," tulis Osmani, alasan bahwa AI yang menulis kode buruk dan kita tidak mereviewnya sepenuhnya "tidak akan bertahan dalam laporan pasca-insiden ketika nyawa atau aset signifikan dipertaruhkan."
Pernyataan itu menegaskan satu hal: tanggung jawab tetap ada di tangan manusia, bukan di tangan model AI. Perusahaan tidak bisa berlindung di balik argumen bahwa kode dibuat oleh mesin.
Mengapa Review Kode AI Semakin Sulit Dilakukan
Secara teori, solusinya terdengar mudah: periksa semua kode yang dihasilkan AI. Kenyataannya tidak. Volume kode yang diproduksi sekarang jauh melampaui kapasitas tim review manusia.
Osmani menyebut beberapa pendekatan yang dipakai perusahaan, seperti pengujian otomatis, review oleh AI, dan pengurangan waktu review manusia. Cara-cara itu memang bisa efektif menahan laju kesalahan. Tapi semuanya menghapus lapisan verifikasi, dan pada akhirnya menghapus pemahaman.
Akibatnya, kode menumpuk lebih cepat daripada kemampuan manusia memeriksanya. Perusahaan bisa kehilangan kendali atas sistem mereka dengan cara yang jauh lebih membosankan daripada skenario fiksi ilmiah soal AI sadar diri atau Skynet.
Bayangkan beberapa baris kode yang tampak biasa. Bisa jadi itu adalah tambalan penting, dinding penahan beban, atau pemicu yang menjalankan kontingensi lain. Tanpa pemahaman, tidak ada yang tahu. Setiap tambalan atau upaya perbaikan bisa merusak lebih banyak hal.
- Kecepatan produksi kode meningkat drastis karena AI bisa menulis dalam hitungan detik.
- Kapasitas review manusia tetap terbatas pada jumlah jam kerja dan jumlah engineer.
- Lapisan verifikasi berkurang ketika perusahaan mengandalkan tes otomatis dan review AI.
- Pemahaman sistem menurun karena engineer tidak lagi membaca dan mencerna setiap perubahan.
- Risiko outage naik ketika kode yang tidak dipahami sepenuhnya mengalami kegagalan.
Dampak pada Industri dan Tanggung Jawab Hukum
Selama ini, raksasa teknologi yang perangkat lunaknya "memakan dunia" dan menyita perhatian publik sebagian besar lolos dari akuntabilitas yang berarti. Kegagalan perangkat lunak mereka memalukan. Pilihan desain mereka memicu tuduhan soal kecanduan, perilaku antisosial, dan eksploitasi ekonomi. Tapi secara umum, mereka lolos dari regulasi yang ketat.
AI mengubah perhitungan itu. Masa di mana perusahaan mengawasi diri sendiri dengan sistem kepercayaan bisa segera berakhir. Ketika kode hasil AI menjalankan sistem kesehatan, infrastruktur keuangan, dan layanan pemerintah, alasan "AI yang salah, kami tidak sempat mereview" tidak lagi bisa diterima.
Outage siber sering kali hanya mengganggu. Sepanjang sejarahnya, gangguan semacam ini belum pernah memicu korban massal atau krisis ekonomi berkepanjangan. Tapi di dunia di mana AI menghasilkan kode lebih cepat dari kemampuan siapa pun mengikutinya, bukan tidak mungkin hal itu berubah.
Bagi perusahaan, tekanannya bukan cuma soal reputasi. Ada risiko hukum, tuntutan ganti rugi, dan pengawasan regulator yang bisa datang lebih cepat dari perkiraan. Beberapa skandal dan gugatan berprofil tinggi sudah muncul, meski belum ada perubahan regulasi yang signifikan.
Di sisi lain, engineer berada di posisi sulit. Mereka dituntut memakai AI untuk mengejar target, tapi juga diminta bertanggung jawab ketika sistem gagal. Pemahaman yang dulu dibangun lewat proses review perlahan terkikis oleh tuntutan kecepatan.
Langkah Selanjutnya: Menjaga Pemahaman di Tengah Otomasi
Tidak ada seruan untuk berhenti memakai AI dalam pengembangan perangkat lunak. Osmani sendiri bekerja di Anthropic, perusahaan yang menjual alat tersebut. Yang ia soroti adalah cara pakainya.
Beberapa langkah yang bisa diambil tim engineering adalah memperkuat budaya membaca kode, bukan sekadar menyetujui perubahan. Lalu, mempertahankan sebagian review manusia untuk bagian sistem yang paling kritis. Pengujian otomatis tetap penting, tapi tidak bisa menjadi satu-satunya penjaga.
Perusahaan juga perlu mendokumentasikan keputusan desain secara eksplisit. Ketika AI menulis kode, catatan soal mengapa sebuah pendekatan dipilih menjadi semakin berharga. Tanpa itu, pengetahuan tentang sistem hanya menempel di kepala segelintir orang, dan ikut hilang saat mereka pergi.
Yang paling mendesak adalah mengakui bahwa kecepatan bukan satu-satunya ukuran keberhasilan. Tim yang menghasilkan kode lebih banyak dalam waktu lebih singkat belum tentu tim yang sistemnya lebih stabil. Dalam jangka panjang, pemahaman tentang sistem adalah aset yang tidak bisa digantikan oleh model bahasa apa pun.
Osmani menutup dengan peringatan yang jelas: ketika nyawa atau aset signifikan dipertaruhkan, alasan bahwa kode dibuat AI tidak akan menyelamatkan siapa pun dalam laporan pasca-insiden. Pertanyaannya sekarang, apakah industri akan menunggu insiden besar itu terjadi sebelum berubah?
Analisis Redaksi
Peringatan Osmani layak dibaca sebagai kritik internal, bukan sekadar komentar seorang engineer. Ia bekerja di Anthropic, perusahaan yang meraup keuntungan dari kecepatan produksi kode. Justru karena itu, ucapannya soal comprehension debt punya bobot yang berbeda. Ini bukan suara dari luar yang menolak AI, melainkan suara dari dalam yang melihat risikonya dari dekat.
Yang paling mengganggu dari penjelasan itu adalah betapa biasa dan membosankannya skenario kegagalan yang dibayangkan. Tidak ada AI sadar diri, tidak ada robot pembunuh. Yang ada hanya tumpukan kode yang tidak dipahami siapa pun, tambalan yang menutupi tambalan, dan tim yang terlalu kecil untuk memeriksa semuanya. Outage datang bukan karena kejahatan, tapi karena kelalaian yang terstruktur.
Industri teknologi sudah lama menikmati keuntungan dari sistem pengawasan diri sendiri. Selama kegagalan hanya berupa gangguan sehari, tekanan untuk berubah memang kecil. Tapi ketika kode AI mulai menjalankan sistem kesehatan dan infrastruktur keuangan, standar tanggung jawabnya harus naik. Pertanyaannya bukan apakah regulasi akan datang, melainkan seberapa besar kerusakan yang terjadi sebelum itu.
Sumber: anthropic.com
What's Your Reaction?
Like
0
Dislike
0
Love
0
Funny
0
Angry
0
Sad
0
Wow
0