Demis Hassabis dan Upaya Menjaga Keamanan AI Superinteligensi

Pada pandangan pertama, Demis Hassabis, salah satu pendiri laboratorium AI DeepMind, tampak seperti sosok yang familiar: seorang pengusaha misionaris dan ilmuwan kreatif yang muncul tepat pada saat teknologi, perangkat keras, dan data bersatu untuk mewujudkan superinteligensi. Namun, Hassabis bukanlah figur konvensional. Ia mengabdikan hidupnya untuk menciptakan teknologi yang menurutnya memiliki potensi untuk menghancurkan dunia.

Hassabis bersedia berbicara mengenai pencariannya ini karena ia percaya masyarakat tidak akan pernah mempercayai para penemu kecuali mereka memahami motivasi di baliknya. Selama hampir tiga tahun, saat penulis Sebastian Mallaby mengerjakan buku The Infinity Machine, mereka sering bertemu di sebuah pub dekat rumah Hassabis di North London. Mereka naik ke lantai dua yang sederhana dan duduk di bawah lampu gantung yang dulu megah, sambil menikmati cappuccino dan berdiskusi selama dua jam tentang topik-topik luas seperti kecerdasan, ilmu komputer, neurosains, filosofi, dan film. Di setiap percakapan, pertanyaan motivasi selalu mengambang seperti bayangan awan jamur di atas Los Alamos.

Kesadaran akan Risiko AI dan Kontrol Ketat

Hassabis memahami betul berbagai skenario kehancuran akibat AI. Ia bertemu salah satu pendiri DeepMind lainnya, Shane Legg, di sebuah kuliah tentang keselamatan AI, bahkan pernah mengganggu Peter Thiel, pendana awalnya, di sebuah konferensi Singularity yang membahas mesin yang bisa mengungguli manusia. Pernah juga Hassabis meyakinkan Elon Musk bahwa kolonisasi luar angkasa bukanlah jaminan keselamatan manusia, karena sistem superinteligensi bisa saja membangun roket dan jika berbahaya, koloni di Mars juga tidak akan menjamin perlindungan.

Pada tahun 2014, saat Google mengakuisisi DeepMind, Hassabis memaksakan syarat ketat untuk menjaga kontrol teknologi AI tersebut. Ia menolak agar perusahaan profit memiliki wewenang penuh atas peluncuran AI. Ia menuntut pembentukan dewan pengawas independen dan melarang aplikasi militer AI. Sejak remaja, Hassabis bertekad membangun AI yang kuat, namun hanya jika ia bisa memastikan keamanannya.

Negotiator Google belum pernah menemui tuntutan seperti itu sebelumnya. Sebuah startup kecil di London meminta Google membayar ratusan juta dolar namun dengan kontrol terbatas. Namun karena Hassabis telah mengumpulkan tim jenius AI terbaik di dunia, Google menyetujui syarat-syarat tersebut.

Visi Bunker Rahasia dan Skema Singleton

Hassabis juga membayangkan tempat rahasia untuk mengembangkan superinteligensi: sebuah bunker tersembunyi jauh dari gangguan dan bahaya eksternal, di mana para ilmuwan dan filsuf terkemuka bekerja bersama demi kemanusiaan. Visi ini mengarah pada konsep "singleton" — sebuah entitas tunggal yang mengontrol dan memastikan keamanan superinteligensi.

Salah satu peneliti DeepMind menyampaikan bahwa saat wawancara akhir, Hassabis memperingatkan bahwa kalau diperlukan, mereka harus siap untuk dikirim ke bunker rahasia, bahkan mungkin di Maroko, tempat yang dipilih karena gurunnya mengingatkan pada lokasi Proyek Manhattan.

Gagalnya Visi Pengawasan dan Persaingan AI

Pada 2015, untuk mewujudkan janji Google soal dewan pengawas AI, DeepMind menggelar pertemuan rahasia di markas Elon Musk di Hawthorne, California, mengundang para filsuf dan teknolog. Namun langkah ini justru membuka babak baru persaingan keras. Musk kemudian membentuk OpenAI bersama Sam Altman sebagai saingan DeepMind dan Google, menandai "kejatuhan" visi singleton Hassabis.

Manusia tidak mudah bersatu atas teknologi yang sangat berbahaya. Persaingan, kecemburuan, dan tribalistik membuat upaya kolaborasi tunggal mustahil. Google menolak mengadakan pertemuan pengawasan kedua, dan Hassabis pun meningkatkan kecepatan inovasi.

Pada 2016, DeepMind mengembangkan sistem yang mengalahkan pemain Go terbaik dunia, memperpendek garis waktu dominasi mesin. Bersama Mustafa Suleyman, Hassabis berusaha mengatur tata kelola AI yang lebih baik melalui "Project Mario" dengan dukungan dana $1 miliar dari Reid Hoffman. Proyek lain untuk membantu layanan kesehatan nasional Inggris dengan AI juga diluncurkan, namun keduanya menemui hambatan besar dan akhirnya gagal. Suleyman pun keluar dari perusahaan.

Keberhasilan Ilmiah dan Tantangan Moral di Era ChatGPT

Di sisi positif, pada 2020 DeepMind berhasil memetakan bentuk protein dengan AI, sebuah pencapaian besar yang membawa Hassabis dan koleganya mendapatkan hadiah Nobel Kimia. Prestasi ini menunjukkan sisi baik AI sekaligus mengingatkan bahaya yang tetap ada.

Pada 2022, OpenAI merilis ChatGPT, chatbot yang menjadi viral dan menandai babak baru persaingan AI. Hassabis, yang dikenal sangat kompetitif, tidak mau kalah dan menyebut situasi ini sebagai "perang." Saat ini, sistem Gemini buatan DeepMind bersaing ketat dengan ChatGPT dan produk lain, didukung oleh ratusan miliar dolar dan tanpa regulasi memadai untuk mencegah perlombaan berbahaya.

Sikap Google juga berubah drastis, kini malah bersemangat menawarkan AI untuk keperluan militer AS, berlawanan dengan visi awal Hassabis.

Analisis Redaksi

Menurut pandangan redaksi, kisah Demis Hassabis mencerminkan dilema besar pengembangan teknologi superinteligensi yang sangat berpotensi mengubah dunia secara fundamental. Meskipun awalnya ia berambisi mengendalikan dan mengamankan AI, realita persaingan global memaksa perubahan strategi dari idealisme ke pragmatisme. Hal ini menandakan bahwa kontrol tunggal atas AI hampir mustahil, apalagi dengan banyaknya aktor dan kepentingan yang terlibat.

Keruntuhan visi singleton dan munculnya persaingan sengit seperti yang dipicu oleh OpenAI menunjukkan bagaimana teknologi canggih bisa menjadi senjata sekaligus peluang. Upaya membangun tata kelola yang efektif juga mengalami kegagalan, menandakan bahwa pemerintah dan lembaga internasional harus segera turun tangan mengatur perlombaan AI agar risiko yang mengancam kemanusiaan dapat diminimalkan.

Meskipun demikian, posisi Hassabis kini yang berupaya mendapatkan "kursi di meja pengambilan keputusan" menandakan pentingnya kehadiran individu berintegritas di tengah kekacauan pengembangan AI. Namun, ini hanyalah solusi sementara. Masa depan AI yang aman memerlukan kerjasama global yang lebih serius dan regulasi yang jelas untuk mencegah perlombaan yang berbahaya dan tidak terkendali.

Untuk pembaca yang ingin mendalami lebih jauh, artikel ini diadaptasi dari buku terbaru Sebastian Mallaby, The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence. Informasi ini memberikan gambaran mendalam tentang kompleksitas dan risiko teknologi AI superinteligensi di era modern (sumber asli).

Dalam waktu dekat, perkembangan AI akan terus menjadi pusat perhatian, terutama bagaimana negara dan korporasi mengelola teknologi ini. Pembaca disarankan untuk terus mengikuti perkembangan regulasi dan inovasi AI yang dapat berdampak besar pada masa depan umat manusia.