Permintaan AI Melejit? Mengapa Hanya Anthropic yang Realistis soal Token AI

Permintaan untuk kecerdasan buatan (AI) saat ini terlihat sangat tinggi jika dilihat dari metrik penggunaan token, namun kenyataannya bisa saja jauh berbeda. Anthropic, salah satu perusahaan AI terkemuka, menjadi yang paling realistis dengan mengadopsi model penagihan per-token yang mencerminkan penggunaan sesungguhnya, berbeda dengan model flat-rate yang banyak dipakai di industri.

Apa Itu Token dan Mengapa Penting?

Token adalah satuan dasar penggunaan AI, berupa kata dan karakter yang membentuk input (pertanyaan atau perintah pengguna) dan output (jawaban atau respon AI). Misalnya, chat sederhana dengan AI mengonsumsi ratusan token per paragraf, sementara AI agentik yang menjalankan kode, browsing, atau workflow kompleks dapat menghabiskan ribuan token dalam satu sesi.

Sebagai gambaran biaya, menggunakan model terbaru Anthropic, satu juta token input dihargai $5, dan satu juta token output dihargai $25. Angka ini digunakan oleh perusahaan AI untuk membenarkan investasi infrastruktur bernilai ratusan miliar dolar guna mendukung lonjakan penggunaan tersebut.

Distorsi pada Metrik Token dan Risiko Flat-Rate Pricing

Namun, metrik token mulai terdistorsi dan tidak lagi mencerminkan nilai sebenarnya. Beberapa perusahaan bahkan membuat "leaderboard" internal untuk mengukur berapa banyak token yang dipakai oleh karyawan, seperti Meta dan Shopify. CEO Nvidia, Jensen Huang, menyatakan kekhawatirannya jika seorang engineer bernilai $500.000 setahun tidak memakai compute senilai $250.000 — sebuah pendekatan yang mengukur pengeluaran AI bukan hasil yang dihasilkan.

Hal ini menyebabkan optimasi terhadap volume token, bukan terhadap hasil atau produktivitas. Ali Ghodsi, CEO Databricks, memperingatkan,

"Jika tujuan Anda hanya membakar uang, ada cara mudah untuk itu. Misalnya, mengulang pertanyaan ke banyak tempat atau membuat loop yang terus jalan. Ini akan sangat mahal tapi tidak menghasilkan apa-apa."

Jen Stave dari Harvard Business School AI Institute juga menemui kesulitan para CTO dan CIO dalam menemukan kerangka ROI yang jelas dalam penggunaan AI.

Anthropic dan Pendekatan Harga Per-Token yang Lebih Akurat

Anthropic menyadari risiko overestimasi permintaan dan potensi kerugian besar akibat kesalahan proyeksi kapasitas pusat data. CEO Dario Amodei menggambarkan "kerucut ketidakpastian" dalam membangun pusat data yang memerlukan waktu 1-2 tahun dan investasi miliaran dolar. Salah langkah dalam proyeksi bisa berakibat fatal secara finansial.

Karena itu, Anthropic beralih dari model harga flat-rate menjadi penagihan per-token. Ini membuat pendapatan mereka mencerminkan penggunaan nyata, bukan perkiraan atau optimasi volume token. Perusahaan juga memutus akses beberapa tools pihak ketiga yang menggunakan token secara berlebihan, seperti yang terjadi pada 4 April lalu, saat Anthropic menutup akses sejumlah alat yang memanfaatkan langganan $200 per bulan untuk penggunaan agentik yang jauh lebih berat.

Model flat-rate yang dulu efektif saat interaksi dengan AI masih berupa chat kini menjadi tidak ekonomis saat AI agentik yang memakan token jutaan per sesi mulai digunakan secara luas.

Industri Mulai Menggeser Strategi Harga dan Pengukuran

Tekanan untuk perubahan model harga ini makin terasa. OpenAI, misalnya, mulai menyadari ketidakpraktisan model unlimited plan yang dianalogikan seperti "paket listrik tak terbatas" yang tidak masuk akal.

Perusahaan seperti Salesforce juga mengembangkan metrik baru bernama "agentic work units" yang mengukur hasil kerja AI, bukan sekadar jumlah token yang terbakar.

CEO Ramp, Eric Glyman, yang baru meluncurkan alat pelacak token, mengungkapkan bahwa pengeluaran AI di basis pelanggannya meningkat 13 kali lipat dalam setahun terakhir, dan belum ada yang mampu mengelola anggaran AI dengan baik. Dia melihat pendekatan Anthropic sebagai strategi jangka panjang yang lebih bijak dibandingkan model yang mendorong konsumsi token maksimum.

Analisis Redaksi

Menurut pandangan redaksi, lonjakan metrik token AI yang saat ini dipublikasikan kemungkinan besar terlalu dilebih-lebihkan karena didorong oleh insentif perusahaan dan karyawan yang mengutamakan kuantitas penggunaan token daripada hasil nyata. Model flat-rate memicu penggunaan berlebihan yang pada akhirnya tidak berkelanjutan secara ekonomi.

Langkah Anthropic yang mengadopsi sistem harga per-token bukan hanya mencerminkan realitas penggunaan lebih akurat, tapi juga memaksa pasar untuk lebih transparan dan efisien dalam pengeluaran AI. Ini menjadi game-changer yang bisa menghindarkan perusahaan dan pengguna dari bubble ekonomi AI yang berpotensi meletus.

Ke depan, investor dan pengguna AI perlu mengawasi bagaimana perusahaan-perusahaan besar seperti Anthropic dan OpenAI menyesuaikan strategi harga mereka. Ketika keduanya melantai di bursa tahun ini, analisis terhadap permintaan riil dan efisiensi biaya akan menjadi kunci utama penilaian keberlanjutan bisnis AI.

Untuk informasi lebih lengkap, baca artikel asli di CNBC.