Bahaya Kode AI: Mengungkap Risiko Serius dalam Eksperimen Perusahaan

Hype besar seputar pemrograman berbasis AI tampaknya belum mereda. Pada bulan lalu, Anthropic meluncurkan serangkaian plug-in spesifik industri untuk agen AI mereka, Claude Cowork, yang memicu kepanikan di kalangan investor. Mereka khawatir bahwa perusahaan perangkat lunak tradisional berbasis layanan (Software-as-a-Service) bisa segera tergantikan. Pengumuman ini bahkan memicu aksi jual saham bernilai triliunan dolar, dengan banyak perusahaan teknologi mengalami penurunan harga saham yang tajam.

Langkah ini juga tampaknya menggugah OpenAI pimpinan Sam Altman, yang kemudian memutuskan untuk menghentikan banyak proyek sampingan dan fokus pada pengembangan alat AI khusus untuk pemrograman dan keperluan bisnis.

Namun, di balik gegap gempita itu, masih banyak pertanyaan serius tentang kelayakan jangka panjang pemrograman AI. Beberapa pihak memperingatkan bahwa kode AI yang rawan kesalahan dan belum terverifikasi dapat menjadi bencana bagi perusahaan yang terlalu cepat mengadopsinya.

Risiko Kesalahan Kode AI dan Implikasinya

Berbeda dengan klaim optimistis, penelitian berulang kali menunjukkan bahwa kode yang dihasilkan AI seringkali penuh bug, membuat programmer harus memperbaiki dan menyusun ulang hasilnya.

"Saat ini tidak ada yang tahu arsitektur referensi atau kasus penggunaan yang tepat untuk institusi mereka," ujar Dorian Smiley, CTO sekaligus pendiri perusahaan rekayasa perangkat lunak AI, Codestrap, kepada The Register.

"Dari perspektif model bahasa besar, orang-orang belum benar-benar mengatasi masalah kesalahan mendasar dalam teks yang dihasilkan," tambah CEO Connor Deeks.

Dengan tekanan yang terus meningkat agar para insinyur perangkat lunak menggunakan AI dalam pekerjaan mereka — jika tidak, risiko kehilangan pekerjaan mengintai — banyak kesalahan bisa saja terlewat dan menimbulkan masalah serius.

"Bahkan dalam pemrograman, AI belum bekerja dengan baik. Kode bisa tampak benar dan lolos uji unit, tapi tetap salah," ujar Smiley.

Smiley mengungkapkan bahwa standar pengujian kode saat ini belum mampu mengikuti perkembangan penggunaan AI, sehingga perusahaan yang menggunakan AI untuk memverifikasi kode AI berisiko menciptakan lingkaran umpan balik yang berbahaya.

Dia menekankan perlunya metrik baru untuk mengukur bagaimana kode AI memengaruhi perangkat lunak dan kinerja organisasi secara menyeluruh.

Selain itu, banyak upaya memaksakan AI dalam pengembangan perangkat lunak justru menghasilkan kode yang membengkak dan tidak efisien.

"Pemrograman bisa berhasil jika ukuran keberhasilannya dilihat dari jumlah baris kode dan permintaan tarik yang diterima. Namun, itu tidak berlaku jika yang diukur adalah kualitas dan kinerja tim. Tidak ada bukti positif bahwa hal itu membaik," kata Smiley.

Masalah Mendasar AI dalam Pemrograman

Smiley juga menyoroti keterbatasan AI dalam hal kemampuan penalaran induktif, pengambilan fakta yang andal, dan proses internal untuk mengevaluasi jawaban yang diberikan.

"AI tidak tahu apakah jawabannya benar atau salah. Ini adalah masalah mendasar yang belum terpecahkan dalam teknologi model bahasa besar. Dan tentu saja masalah ini akan muncul dalam kualitas kode," jelasnya.

Masalah ini mulai terlihat nyata di lapangan. Awal bulan ini, Amazon harus mengumpulkan tim insinyur besar-besaran setelah mengalami gangguan besar di bisnis ritel onlinenya. Laporan Financial Times menyebut, perubahan kode yang dibantu AI generasi baru mungkin menjadi salah satu penyebab gangguan tersebut.

"Seperti yang Anda ketahui, ketersediaan situs dan infrastruktur terkait belum stabil akhir-akhir ini," kata Dave Treadwell, Wakil Presiden Senior eCommerce Services Amazon, kepada para insinyur.

Akibatnya, insinyur tingkat junior dan menengah kini diwajibkan melaporkan setiap perubahan kode yang dibantu AI dan harus mendapatkan persetujuan dari insinyur senior, yang ironisnya mengurangi efisiensi yang dijanjikan oleh penggunaan AI.

Masalah serius akibat kesalahan kode AI bisa saja menjadi bencana besar bagi perusahaan lain di masa mendatang. Bahkan perusahaan asuransi pun mulai enggan menangani risiko ini, seperti yang dikatakan oleh Deeks.

"Tekanan untuk mengadopsi AI dan membuat keputusan terkait AI akan terus meningkat. Orang-orang akan mulai memasukkan AI ke dalam produksi, baik di alur kerja bisnis maupun di tim rekayasa. Dan keruntuhan yang dipercepat ini akan merugikan banyak orang dan berujung pada pemutusan hubungan kerja," ujarnya.

Analisis Redaksi

Menurut pandangan redaksi, fenomena ini menunjukkan bahwa kegembiraan terhadap pemrograman berbasis AI masih terlalu dini jika tidak diiringi dengan pengawasan dan pengujian yang ketat. Kode AI yang belum matang berisiko menimbulkan "utang teknis" yang besar dan mengganggu stabilitas sistem perusahaan.

Selain itu, ketergantungan perusahaan pada AI tanpa memahami keterbatasannya dapat mengakibatkan kerugian finansial dan reputasi yang signifikan. Hal ini juga memperlihatkan perlunya pengembangan standar baru dalam evaluasi kode AI, serta pelatihan bagi insinyur untuk mengelola teknologi ini dengan bijaksana.

Ke depan, pembaca dan pelaku industri harus mengawasi perkembangan regulasi dan inovasi di bidang pengujian kode AI. Kesiapan organisasi dalam menghadapi risiko AI bukan hanya soal adopsi teknologi, tetapi juga soal manajemen risiko dan kualitas yang menyeluruh.

Dengan semakin meluasnya penggunaan AI di bidang perangkat lunak, penting untuk tidak hanya terpaku pada janji efisiensi, tetapi juga waspada terhadap potensi masalah yang bisa muncul dari teknologi ini.