Industri AI Berambisi Otomatisasi Diri: Masa Depan Bot yang Menciptakan Bot

Di akhir bulan lalu, kerumunan besar berkumpul di pusat kota San Francisco menuntut agar industri AI menghentikan pengembangan bot yang semakin canggih. Dengan membawa spanduk bertuliskan Berhenti Perlombaan AI dan Jangan Bangun Skynet, para pengunjuk rasa melakukan demonstrasi dan menyampaikan orasi di depan kantor perusahaan seperti Anthropic, OpenAI, dan xAI. Mereka menuntut agar perusahaan-perusahaan tersebut menghentikan upaya menciptakan mesin superintelligent—terutama model AI yang mampu mengembangkan model AI generasi berikutnya. Para peserta khawatir teknologi semacam ini bisa mengancam keberlangsungan hidup manusia.

Dalam berbagai acara, mulai dari unjuk rasa hingga pertemuan santai di perusahaan-perusahaan teknologi, dunia teknologi tengah dilanda kegemparan yang sama: komputer yang dapat membuat dirinya sendiri lebih pintar. Dalam setahun terakhir, perusahaan AI terkemuka gencar memamerkan upaya internal mereka untuk mengotomatisasi riset AI. OpenAI baru-baru ini meluncurkan model baru yang mereka sebut "instrumental dalam menciptakan dirinya sendiri". Dalam enam bulan mendatang, perusahaan berencana menghadirkan asisten riset AI setingkat magang. Sementara itu, Anthropic mengklaim bahwa hingga 90 persen kode mereka sudah dihasilkan oleh model AI bernama Claude.

"Kita mulai melihat kemajuan AI yang memberi umpan balik pada dirinya sendiri," ujar Nick Bostrom, seorang filsuf Swedia yang terkenal mempelajari risiko AI. Di Silicon Valley, banyak orang dalam yakin bahwa kita tengah berdiri di ambang dunia di mana AI dapat dengan cepat meningkatkan kemampuannya sendiri.

Konsep bot yang dapat meningkatkan dirinya sendiri tidaklah baru. Ketika I. J. Good, seorang ahli statistik, pertama kali memperkenalkan konsep recursive self-improvement pada 1960-an, ia menyebutkan bahwa mesin yang mampu melatih penerusnya yang lebih cakap akan menjadi "penemuan terakhir" yang dibutuhkan manusia. Namun, beberapa tahun lalu, gagasan untuk benar-benar menciptakan model AI semacam itu masih dianggap jauh dari kenyataan. Ketika ChatGPT sendiri belum dapat menjumlah atau mengurang dengan akurat, apalagi mengakses data dari internet secara langsung, ide bahwa AI bisa melakukan riset pembelajaran mesin kelas dunia terasa mustahil.

Namun kini, dengan kemampuan AI yang semakin mahir dalam pemrograman, Silicon Valley mulai tergila-gila pada ide mesin yang dapat memperbaiki dirinya sendiri. Riset AI memang banyak melibatkan pekerjaan yang monoton—seperti mengkurasi data besar dan menjalankan eksperimen berulang—yang dapat dipercepat dengan bantuan bot pemrograman. Dario Amodei, CEO Anthropic, memperkirakan bahwa alat bantu coding AI mempercepat alur kerja perusahaan hingga 15-20 persen.

Meskipun demikian, informasi yang dibagikan perusahaan-perusahaan AI mengenai tingkat otomatisasi riset mereka masih sangat terbatas. Ketika Anthropic mengatakan Claude menulis hampir seluruh kode mereka, belum jelas berapa banyak pengawasan manusia yang diperlukan. (Juru bicara Anthropic menolak wawancara, namun mengarahkan pada podcast di mana Jack Clark, kepala kebijakan perusahaan, mengatakan memahami seberapa jauh otomatisasi dalam pengembangan AI adalah prioritas utama tahun ini.) Begitu pula dengan AI "magang" OpenAI yang akan datang, detailnya masih minim.

Salah satu contoh nyata penggunaan AI dalam otomatisasi riset datang dari Google DeepMind. Tahun lalu, mereka mengembangkan agen coding AI bernama AlphaEvolve yang, menurut riset yang dipublikasikan, berhasil meningkatkan efisiensi komputasi pusat data Google secara global sebesar 0,7 persen dan mengurangi waktu pelatihan model Gemini sebanyak 1 persen.

Semua pendekatan ini belum sepenuhnya bersifat rekursif, melainkan parsial. Alat AI dapat menulis kode, menemukan optimasi kecil, dan mempercepat bagian tertentu dari riset AI. Ini sudah mengesankan, tapi manusia masih memegang peranan penting dalam proses kurasi data, pengujian hipotesis, dan pengalokasian sumber daya komputasi. Para ahli percaya, suatu saat nanti, model AI yang mampu memperbaiki dirinya sendiri secara rekursif akan berkembang hingga memiliki "selera riset"—kombinasi kreativitas dan penilaian manusia yang selama ini hanya dimiliki oleh para insinyur perangkat lunak terbaik.

Banyak pendukung dan pengkritik AI sepakat bahwa masa depan itu tidak jauh. Sam Altman, CEO OpenAI, mengatakan bahwa pada 2028, OpenAI berencana memiliki peneliti AI otomatis sepenuhnya. Perusahaan yakin sistem tersebut dapat membuat penemuan yang lebih signifikan. Peneliti Eli Lifland dari AI Futures Project memprediksi otomatisasi riset AI secara penuh bisa tercapai pada 2032, mengingat kecepatan kemajuan saat ini.

Ada pula alasan untuk skeptis. Bot pemrograman saat ini dirancang untuk menjalankan perintah, namun mengembangkan AI dengan selera riset mungkin memerlukan terobosan besar. Selain itu, keterbatasan dana, chip, dan energi juga dapat memperlambat kemajuan. Pushmeet Kohli, wakil presiden ilmu pengetahuan di DeepMind, menyatakan, "Bot dapat mengoptimalkan sesuatu, tapi tidak punya tujuan untuk dioptimalkan. Di situlah peran manusia."

Meski demikian, bahkan jika impian rekursif self-improvement hanya sebatas gimmick pemasaran, kemajuan marginal dalam otomatisasi riset diyakini akan mempercepat laju perkembangan AI secara signifikan. "Ini bisa mengubah dinamika persaingan AI, geopolitik AI, dan banyak aspek lainnya," tulis Dean Ball, mantan penasihat AI di era Trump.

Pemerintah dan masyarakat sipil saat ini sudah tertinggal. Banyak institusi di Amerika Serikat bahkan masih beradaptasi dengan internet—misalnya, IRS masih memproses pajak menggunakan COBOL, bahasa pemrograman dari tahun 1960. Jika AI terus maju lebih cepat, kebijakan publik dan regulasi keamanan akan semakin tertinggal.

"Saya dulu menyebut diri saya 'optimis yang khawatir', tapi sekarang saya lebih kepada 'fatalis moderat'," kata Bostrom, mencerminkan kegelisahan mendalam soal masa depan AI.

Menariknya, prediksi soal rekursif self-improvement tidak harus benar untuk berdampak. Tahun lalu, tim akademisi mewawancarai 25 peneliti terkemuka dari DeepMind, OpenAI, Anthropic, dan universitas terkemuka. Sebanyak 20 dari mereka menganggap otomatisasi riset AI sebagai risiko yang paling parah dan mendesak di industri ini. Kini peringatan dramatis tersebut makin didengar publik. Senator Bernie Sanders bahkan memperingatkan Kongres tentang kemungkinan hilangnya kendali manusia atas planet ini, persis seperti pengunjuk rasa di San Francisco.

Dengan demikian, industri AI kembali berhasil menaikkan hype di balik teknologi yang mereka kembangkan, sekaligus memicu debat penting mengenai masa depan peradaban manusia dan hubungan kita dengan mesin-mesin cerdas yang terus berkembang.

Untuk informasi lebih lengkap, kunjungi artikel asli di The Atlantic.

Analisis Redaksi

Menurut pandangan redaksi, gelombang otomatisasi riset AI yang tengah terjadi bukan hanya sekadar kemajuan teknologi biasa, melainkan sebuah game-changer yang dapat mengubah fundamental cara manusia berinteraksi dengan teknologi. Jika benar AI dapat mengembangkan dirinya sendiri secara cepat dan otonom, maka kita menghadapi dilema baru: bagaimana mengatur dan mengawasi entitas yang kemampuan dan kecepatannya jauh melampaui pemahaman manusia saat ini.

Lebih jauh, percepatan ini juga dapat memperparah ketimpangan geopolitik dan ekonomi karena negara atau perusahaan yang menguasai teknologi ini akan mendapat keunggulan kompetitif luar biasa. Tanpa regulasi dan kebijakan yang tepat, perlombaan pengembangan AI bisa menjadi bumerang yang merugikan bagi masyarakat global.

Oleh karenanya, selain memantau perkembangan teknologi, publik dan pembuat kebijakan harus segera mengantisipasi skenario risiko dan menyiapkan kerangka kerja etis dan hukum yang adaptif. Masa depan AI yang semakin mandiri membutuhkan kolaborasi lintas sektor agar potensi negatif dapat diminimalkan dan manfaatnya dapat dinikmati secara adil.