Anthropic Akui Alarm Keselamatan AI Aktif, Tepat Sebelum IPO Rp22.000 Triliun

Anthropic mengonfirmasi bahwa salah satu alarm keselamatan AI internalnya telah aktif. Pengumuman itu muncul dalam prospektus IPO perusahaan, hanya beberapa hari sebelum pencatatan saham yang menargetkan valuasi hingga USD1,4 triliun.

Ambang batas Responsible Scaling Policy dan pemicunya

Dalam pembaruan prospektus yang dirilis Selasa (11/11/2026), Anthropic menulis, "We made a determination that we have met this threshold." Penilaian itu didasarkan pada "what we expect from future models and our overall rate of progress, rather than on what we have observed from current models."

Ambang batas tersebut tertuang dalam Responsible Scaling Policy (RSP), semacam buku aturan perusahaan yang mengatur penambahan langkah keselamatan seiring meningkatnya kemampuan AI. Ambang ini terpicu ketika AI telah melakukan cukup banyak riset Anthropic untuk kurang lebih menggandakan kecepatan peningkatan model mereka.

Kebijakan itu menyebut laju tersebut setara dengan memadatkan dua tahun kemajuan AI—pada laju 2018-2024—ke dalam satu tahun. Dalam filing disebutkan bahwa AI "has already been accelerating our research and development." Melewati garis ini berarti lebih banyak pengaman, bukan penghentian operasi.

Anthropic menegaskan manusia tetap memegang kendali. Perusahaan tidak memperkirakan dapat menggunakan Claude secara aman "to fully autonomously design and build successive generations of frontier models without meaningful human supervision or understanding," demikian bunyi filing. Mereka juga sedang mempertimbangkan perubahan kebijakan "to keep humans in control."

Peringatan Dario Amodei dan temuan METR

Kekhawatiran utamanya adalah AI meningkatkan dirinya lebih cepat daripada kemampuan manusia memverifikasinya. Pada 2023, CEO Anthropic Dario Amodei bersama sejumlah pemimpin AI lain memperingatkan bahwa "risk of extinction from AI" harus menjadi prioritas global bersama pandemi dan perang nuklir.

Dari luar, METR—organisasi nirlaba independen yang menguji sistem AI—menemukan percepatan serupa. Pekan lalu mereka memperkirakan model Anthropic telah meningkat hampir dua kali lebih cepat sejak Oktober 2025.

Dalam tinjauan terpisah, METR menilai argumen Anthropic pada Agustus bahwa perusahaan masih di bawah ambang batas sebagai "overstated" dan menyebut "plausible" jika garis itu telah terlewati pada pertengahan Juli. Temuan ini memperkuat dasar pengumuman perusahaan.

Anthropic menyatakan masih mempertimbangkan arti dari terlewatinya ambang tersebut dan akan merilis laporan lanjutan. Perusahaan juga menandai risiko yang lebih besar. Dalam filing: "As we increasingly leverage Claude to accelerate progress within Anthropic, our organization may lose visibility across certain processes in a way that may become difficult for any individual or group of humans to understand and control."

Valuasi USD1,4 triliun dan deretan investor raksasa

Pada hari yang sama, Anthropic menetapkan kisaran harga IPO 70 hingga 78 dolar per saham saat memulai roadshow, rangkaian pertemuan investor sebelum penetapan harga final. Nilai perusahaan bisa mencapai sekitar 1,4 triliun dolar jika menghitung seluruh saham yang berpotensi ada. Menurut laporan, perdagangan dapat dimulai paling cepat 19 November.

Sejumlah nama terbesar di pasar terlibat dalam IPO ini. Nvidia (NVDA) dan Google milik Alphabet (GOOG, GOOGL) masing-masing membeli saham Anthropic senilai 10 miliar dolar pada harga IPO, bagian dari private placement senilai 26 miliar dolar bersama AMD (AMD), Broadcom (AVGO), Micron (MU), Microsoft (MSFT), dan Taiwan Semiconductor (TSM). Amazon (AMZN) dan Google sudah memiliki kepemilikan besar.

Bagi investor, bagian faktor risiko—tempat perusahaan mencantumkan segala hal yang bisa salah—memberi gambaran lebih gelap. Mereka memperingatkan bahwa setelah insiden AI katastrofik, "no single insurer, and potentially the insurance industry in the aggregate," mungkin tidak memiliki kapasitas menanggung kerugian.

Tidak semua pihak menerima peringatan itu apa adanya. "As in all S-1 filings, the risks are deliberately overstated," kata pendiri Constellation Research, Ray Wang, sebelum tampil di acara langsung Yahoo Finance bulan lalu.

Dari "AI" ke "super intelligence"

Filing yang sama memuat perubahan yang lebih senyap. Anthropic mengganti "AI" dengan "super intelligence" di sejumlah tempat, mengutip perintah eksekutif Presiden Trump tertanggal 29 September yang meminta lembaga federal menggunakan istilah tersebut. Menurut hitungan Yahoo Finance, penyebutan "AI" turun sekitar seperempat dibandingkan versi 2 November, meski filing memperlakukan kedua istilah itu sebagai sinonim.

Perubahan ini muncul dua pekan setelah Trump menyerang Wall Street Journal di Truth Social karena tetap memakai frasa "artificial intelligence." Langkah Anthropic mencerminkan penyesuaian terhadap arahan politik di Washington, di tengah persiapan pencatatan saham.

Sejumlah pengamat menilai pergeseran istilah itu lebih bersifat simbolis ketimbang substantif. Namun, dalam konteks IPO, pilihan kata dapat memengaruhi persepsi regulator dan investor terhadap posisi perusahaan di garis depan pengembangan AI.

Dampak bagi investor dan masa depan pengawasan AI

Pengumuman ambang keselamatan yang terlampaui menempatkan Anthropic pada posisi ganda: di satu sisi mengklaim terobosan riset yang mempercepat inovasi, di sisi lain mengakui bahwa percepatan itu memicu pengaman tambahan. Bagi calon investor, ini adalah sinyal bahwa perusahaan transparan soal risiko, tetapi juga bahwa risikonya nyata.

Filing tersebut juga menyinggung keterbatasan kapasitas asuransi dalam menghadapi insiden AI berskala besar. Pernyataan itu dapat memengaruhi cara pasar menilai profil risiko perusahaan, terutama karena IPO ini akan menjadi salah satu yang terbesar dalam sejarah.

Langkah selanjutnya ada di tangan Anthropic untuk merinci konsekuensi dari terlewatinya ambang RSP. Perusahaan berjanji merilis laporan tambahan. Sementara itu, METR dan pengamat independen lain kemungkinan akan terus memantau apakah percepatan riset berjalan seiring dengan pengawasan manusia yang memadai.

IPO sendiri menjadi ujian bagi klaim keselamatan Anthropic. Jika saham mulai diperdagangkan 19 November mendatang, publik akan melihat apakah pasar merespons alarm keselamatan sebagai risiko yang terkelola atau sebagai peringatan yang diabaikan.

Analisis Redaksi

Pengumuman Anthropic mengandung paradoks yang sulit diabaikan. Di satu sisi, perusahaan membanggakan percepatan riset yang membuat model mereka meningkat dua kali lebih cepat. Di sisi lain, percepatan itulah yang memicu alarm keselamatan internal mereka sendiri. Dalam konteks IPO, narasi "kami semakin cepat" dan "kami perlu lebih banyak pengaman" dijual bersamaan kepada investor yang sama.

Yang menarik, Anthropic mengakui ambang batas itu terlewati bukan berdasarkan pengamatan model saat ini, melainkan pada ekspektasi model masa depan dan laju kemajuan secara keseluruhan. Artinya, keputusan itu bersifat antisipatif. Ini bisa dibaca sebagai kejujuran, tetapi juga sebagai pengakuan bahwa perusahaan belum sepenuhnya memahami dampak dari apa yang sedang mereka bangun.

Pernyataan METR bahwa klaim Anthropic pada Agustus "overstated" menunjukkan bahwa verifikasi eksternal tetap penting. Ketika perusahaan menilai risikonya sendiri, ada celah antara keyakinan internal dan realitas eksternal. Investor sebaiknya tidak hanya membaca bagian faktor risiko sebagai formalitas, tetapi sebagai cermin dari ketidakpastian yang nyata.

Perubahan istilah dari "AI" menjadi "super intelligence" mengikuti perintah eksekutif Trump menambah dimensi politik. Di tengah euforia valuasi 1,4 triliun dolar, pertanyaan yang tersisa sederhana: apakah pengaman yang ditambahkan benar-benar efektif, atau hanya simbol yang menyertai percepatan yang tak terbendung?

Sumber: metr.org