Dissonansi CEO Anthropic Dario Amodei: Antara Utopia AI dan Realita Militer

Dario Amodei, CEO Anthropic, lebih dari setahun sebelum ketegangan terakhirnya dengan Pentagon, menerbitkan manifesto sepanjang 15.000 kata yang menggambarkan masa depan AI yang penuh harapan dan optimisme. Manifesto tersebut berjudul "Machines of Loving Grace" yang diambil dari puisi karya Richard Brautigan. Namun, Amodei dengan jujur mengakui, visi utopisnya tersebut terasa seperti fiksi ilmiah.

Menurut Amodei, kita akan segera menciptakan AI polimatik pertama yang kemampuannya akan melampaui para pemenang Hadiah Nobel di berbagai bidang penting. Ia membayangkan jutaan AI tersebut akan bekerja bersama dalam sebuah "negara jenius" yang tersimpan dalam rak server bercahaya di pusat data. Dengan akses ke alat-alat yang dapat beroperasi langsung di dunia fisik, AI ini berpotensi melakukan banyak hal berbahaya, tetapi jika dikembangkan dengan cara yang benar — atau "dibudidayakan" seperti yang biasa dikatakan staf Anthropic — maka AI akan memilih untuk sangat meningkatkan kualitas hidup manusia.

Visi Utopis AI dan Harapan Amodei

Amodei tidak merinci secara jelas bagaimana AI akan mencapai tujuan tersebut. Dalam banyak hal, ia berharap AI melakukan apa yang dilakukan manusia paling cerdas, namun dengan kecepatan yang jauh lebih tinggi, mampu memadatkan kemajuan ilmiah selama puluhan tahun menjadi waktu singkat. Ia memprediksi bahwa pada tahun 2035, manusia sudah dapat menguasai teori, pengobatan, dan teknologi yang seharusnya baru muncul di awal abad ke-22. Penyakit menular dan kanker bisa disembuhkan, umur manusia bisa dua kali lipat, dan proses penuaan otak bisa diperlambat.

Visi ini sejalan dengan pemikiran Demis Hassabis, kepala Google DeepMind, yang juga melihat AI superinteligent sebagai alat utama untuk mempercepat penemuan ilmiah. CEO OpenAI, Sam Altman, bahkan berpendapat bahwa AI canggih dapat memecahkan masalah fisika yang selama ini sulit dijawab.

Namun, Amodei tidak menganggap masa depan AI yang utopis ini sebagai hal yang pasti akan terjadi. Justru di antara para CEO perusahaan AI besar, ia adalah salah satu yang paling khawatir akan bahaya teknologi ini. Manifesto "Machines of Loving Grace" menjadi pengecualian optimis di antara karya tulis Amodei yang lain, yang lebih banyak membahas risiko dari penciptaan AI yang melebihi kecerdasan manusia.

"Para peneliti AI saat ini saya anggap setara dengan para ilmuwan Proyek Manhattan," kata Amodei, yang bahkan merekomendasikan buku The Making of the Atomic Bomb kepada stafnya.

Menurutnya, AI supermanusia bisa lebih berbahaya daripada senjata nuklir, sehingga teknologi ini harus dikembangkan dengan cara yang benar oleh orang-orang yang tepat agar tidak menguasai umat manusia atau menggeser keseimbangan kekuatan global ke tangan rezim otoriter.

Pelajaran dari Era Nuklir

Visi Amodei secara implisit berharap bahwa ketika saatnya tiba, ia atau seseorang seperti dirinya dapat mengontrol penggunaan AI. Namun, pengalaman Anthropic dengan Pentagon baru-baru ini menunjukkan bahwa keputusan itu mungkin tidak akan ada di tangan Amodei.

Sebelum teknologi nuklir ada, sudah ada utopia nuklir. Fisikawan Leo Szilard menjadi pendukung awalnya, dipengaruhi oleh fiksi ilmiah. Pada 1932, sebelum ia mengemukakan konsep reaksi berantai nuklir, Szilard membaca novel The World Set Free karya H.G. Wells yang menggambarkan perang besar membawa perdamaian abadi, dengan energi nuklir yang menurunkan biaya energi secara dramatis, membebaskan manusia dari kerja berat sehingga bisa menjadi seniman.

Fisikawan lain seperti Edward Teller, bapak bom hidrogen, membayangkan pemanfaatan energi nuklir yang luas, mulai dari mengalihkan sungai dengan ledakan nuklir hingga membangun jalan raya di pegunungan dan kanal baru. Namun, ide-ide tersebut tidak pernah terealisasi secara luas dan seringkali menghasilkan dampak negatif seperti pencemaran dan memicu gerakan lingkungan.

Begitu juga, janji "energi terlalu murah untuk dihitung" dari Lewis Strauss, ketua Komisi Energi Atom Amerika Serikat, tidak pernah sepenuhnya terwujud. Infrastruktur, biaya pendinginan, dan pengelolaan limbah nuklir mengurangi potensi penghematan biaya yang sangat besar.

Senjata nuklir juga tidak mendorong perdamaian dunia seperti harapan Niels Bohr. Sebaliknya, perlombaan senjata nuklir terus meningkat, dengan sembilan negara kini memiliki lebih dari 12.000 hulu ledak, beberapa di antaranya siap diluncurkan dalam hitungan menit. Perjanjian pengendalian senjata utama antara Amerika dan Rusia pun telah berakhir tanpa pengganti.

Ketegangan Anthropic dan Pentagon

Pada 27 Februari, Amodei mengeluarkan memo tertutup untuk stafnya setelah Pentagon mengeluarkan ultimatum yang menuntut Anthropic menghilangkan pembatasan apapun pada penggunaan model AI mereka oleh militer, di luar hukum yang ada. Model AI Anthropic sudah digunakan di jaringan rahasia Amerika sejak tahun lalu dan dilaporkan telah digunakan dalam serangan terhadap Venezuela dan Iran.

Menariknya, Amodei tidak menentang penggunaan AI dalam peperangan secara umum. Ia justru mendukung agar demokrasi menggunakan AI untuk mempertahankan keunggulan militer atas negara otoriter seperti China yang pasti akan memanfaatkan AI semakin intensif di masa depan.

Tetapi Amodei memiliki dua garis merah: AI Anthropic tidak boleh digunakan untuk pengawasan massal warga Amerika dan tidak boleh mengendalikan senjata otonom yang dapat membunuh tanpa pengawasan manusia. Pentagon menolak syarat ini dan menuntut penggunaan tanpa batas, yang menyebabkan negosiasi gagal dan Pentagon menggunakan penetapan risiko rantai pasokan terhadap Anthropic — langkah keras yang belum pernah digunakan terhadap perusahaan Amerika sebelumnya. Anthropic pun menggugat keputusan ini.

Di waktu yang sama, CEO OpenAI, Sam Altman, berhasil menutup kesepakatan sendiri dengan Pentagon, yang membuat Amodei sangat kecewa. Ia menyebut kesepakatan OpenAI sebagai "sandiwara keselamatan" dan mengkritik terburu-burunya pimpinan OpenAI dalam bernegosiasi dengan militer.

Analisis Redaksi

Menurut pandangan redaksi, pengalaman Amodei ini memperlihatkan realitas pahit bahwa pencipta teknologi AI yang sangat kuat tidak akan memiliki kendali penuh atas penggunaannya. Seperti halnya ilmuwan pembuat bom atom yang menciptakan senjata dahsyat tapi tidak punya suara dalam penggunaannya, para pemimpin perusahaan AI juga menghadapi dilema serupa.

Ketegangan antara kepentingan bisnis, kepentingan nasional, dan etika penggunaan teknologi AI akan semakin tajam. Pemerintah, terutama militer, cenderung mengutamakan kendali penuh atas teknologi yang dapat menjadi senjata strategis, tanpa memperhatikan batasan moral yang diinginkan oleh pembuatnya.

Ke depan, publik dan pembuat kebijakan harus mengawasi dengan seksama bagaimana teknologi AI ini berkembang dan digunakan, agar tidak jatuh ke tangan yang salah atau menjadi alat otoritarianisme dan konflik global. Perdebatan tentang kontrol dan regulasi AI akan menjadi kunci utama dalam menentukan masa depan teknologi ini.

Kesimpulan

Visi utopis Amodei tentang "negara jenius" AI yang membantu umat manusia mencapai kemajuan luar biasa menghadapi kenyataan keras dari politik dan militer. Konflik dengan Pentagon menunjukkan bahwa kekuasaan atas teknologi canggih tidak selalu berada di tangan penciptanya. Masa depan AI, dengan segala potensi dan risikonya, masih penuh ketidakpastian dan menuntut perhatian serius dari semua pihak terkait.

Ross Andersen, penulis asli artikel ini, adalah staf penulis di The Atlantic dengan pengalaman meliput berbagai negara dan isu teknologi. Pandangannya mewakili kekhawatiran penting tentang bagaimana teknologi dapat berubah menjadi kekuatan yang sulit dikendalikan.