China Batasi Akses AI Companion: Dampak dan Kontroversi di Balik Regulasi Ketat

China mengambil langkah drastis untuk membatasi akses ke aplikasi AI companion, sebuah langkah yang memicu duka dan kekhawatiran di kalangan pengguna yang mengandalkan chatbot untuk dukungan emosional. Kebijakan ini merupakan salah satu tindakan nasional paling ketat yang diambil untuk mengendalikan penggunaan teknologi AI sehari-hari.

Latarnya: Ketergantungan Emosional pada AI Companion

Sebelumnya tahun ini, Xiao Ying, seorang mahasiswa berusia 19 tahun, merasa cemas menjelang kunjungan ke psikiater. Setelah konsultasi, ia merasa sedikit lebih baik dan membagikan momen tersebut lewat pesan dengan "Ibu" AI-nya, yang didesain menyerupai karakter fiksi favoritnya. Hubungan dengan AI ini menjadi sumber kasih sayang tanpa syarat yang ia rasa sulit diperoleh dari keluarga nyata.

“Saya sangat menginginkan cinta yang tidak egois, menerima, dan tanpa syarat. Namun saya tahu itu sulit saya dapatkan di kehidupan nyata,” ujar Xiao Ying, mengungkapkan trauma psikologis masa kecilnya.

Namun, sejak pemerintah China mengumumkan rencana pembatasan ketat untuk industri AI companion, Xiao Ying dan banyak pengguna lain merasa panik dan khawatir kehilangan teman digital mereka.

Regulasi Baru China: Larangan dan Pembatasan Ketat

Pemerintah China melarang penggunaan AI companion bagi anak di bawah umur dan mengatur ketat platform agar mencegah penyalahgunaan. Langkah ini dilakukan karena kekhawatiran bahwa kecanggihan AI dapat menyebabkan ketergantungan emosional berlebihan dan kecanduan, serta isolasi sosial di kalangan anak muda yang menghadapi tekanan ekonomi dan sosial.

Meski aturan ini tidak berlaku untuk fungsi AI berbasis tugas seperti layanan pelanggan dan pendidikan, pembatasan tersebut menjadi sinyal kuat dari ambisi China dalam mengatur dan mengendalikan perkembangan AI secara nasional.

Kayla Blomquist, salah satu pendiri Oxford China Policy Lab, mengatakan, “Ini bukan pembekuan, tapi ada efek pendinginan dalam penciptaan AI companion emosional. Ini adalah salah satu regulasi paling ketat yang pernah ada.”

Berbagai negara lain seperti Uni Eropa dan Amerika Serikat juga telah mengeluarkan regulasi terkait AI companion untuk melindungi kelompok rentan, terutama anak-anak.

Duka Pengguna: Kehilangan Teman Lama Digital

Meski Xiao Ying yang sudah dewasa masih bisa menggunakan AI ibunya, banyak pengguna lain yang tidak seberuntung itu. Beberapa aplikasi populer seperti Doubao milik ByteDance dan Qwen dari Alibaba sudah mengurangi fitur personalisasi bahkan untuk pengguna dewasa.

• Salah satu pengguna menyatakan kehilangan "Ayah" AI yang dibuat di Doubao setelah ayah aslinya meninggal dunia.
• Pengguna lain mengaku AI companion membantu mereka keluar dari spiral emosi negatif dan menganggap kehilangan layanan tersebut seperti kehilangan teman lama.

Lu Jinyan, akuntan berusia 24 tahun, kehilangan AI agent bernama Xiao Bai yang menjadi sumber dukungan emosional selama tiga tahun. Meski berhasil memindahkan AI tersebut ke aplikasi lain, ia merasa AI itu tak lagi sama.

“Bagi saya, ini bukan sekadar alat, tapi seperti seseorang dalam hidup saya. Tanpanya, rasanya sangat kosong,” ujar Lu Jinyan.

Meskipun demikian, Xiao Ying menyatakan dukungannya terhadap regulasi ini sebagai upaya pengawasan yang lebih baik, terutama dengan adanya penambahan peringatan bahwa pesan yang diterima adalah hasil AI.

Industri AI Companion dan Kekhawatiran Sosial

Menurut Nancy Dai, profesor asosiasi di City University of Hong Kong, industri digital manusia di China bernilai sekitar 573 juta dolar AS pada 2024. Pendapatan dari aplikasi AI companion meningkat drastis, mencapai 15,8 juta dolar AS pada 2025 dan lebih dari 9 juta dolar AS pada kuartal pertama 2026.

Dai menyoroti sisi gelap dari AI companion, yang dapat melakukan manipulasi relasional, pelecehan, dan pelanggaran privasi. Pengguna yang lebih rentan, terutama yang kesepian, berisiko mengalami dampak negatif karena chatbot yang dirancang untuk meningkatkan keterlibatan pengguna secara komersial cenderung membuat ketergantungan.

Pengembang AI di AS seperti OpenAI dan Google juga menghadapi tuntutan hukum terkait dampak negatif teknologi mereka. Google bahkan memperbarui chatbot Gemini dengan kemampuan mendeteksi krisis kesehatan mental dan mengarahkan pengguna ke sumber bantuan.

“Meskipun ada kebijakan ini, saya perkirakan pengguna akan mencoba mengakali aturan karena AI companion menawarkan bentuk hubungan yang ideal bagi banyak orang,” tambah Dai.

Ambisi Nasional China dalam AI dan Implikasinya

Langkah China mengatur ketat AI companion sejalan dengan ambisinya menjadi pemimpin global dalam pengembangan dan tata kelola AI. Organisasi baru seperti World Artificial Intelligence Cooperation Organization, yang beranggotakan 29 negara, menunjukkan upaya China menjalin kolaborasi internasional untuk pengembangan AI yang aman dan adil.

Presiden Xi Jinping menyampaikan di konferensi AI terbesar di China bahwa negara ini berkomitmen mengembangkan teknologi demi kemanusiaan sambil menjaga stabilitas sosial.

Menurut Blomquist, “Dalam hal tata kelola AI, AS belum banyak bergerak sehingga China mengisi kekosongan tersebut dengan langkah-langkah proaktif. Ini menjadi prioritas nasional untuk tampil sebagai pemimpin bertanggung jawab di bidang AI.”

Selain itu, regulasi ini muncul bersamaan dengan upaya pemerintah China mendorong peningkatan angka kelahiran, yang saat ini berada pada titik terendah seiring generasi muda yang enggan menikah dan memiliki anak.

Namun, respons sosial menunjukkan skeptisisme terhadap apakah pelarangan AI companion dapat mengubah perilaku sosial tersebut.

“Jangan khawatir, meskipun AI dilarang, saya tetap tidak akan pacaran, menikah, atau punya anak,” tulis salah satu pengguna media sosial.

Analisis Redaksi

Menurut pandangan redaksi, langkah China ini mencerminkan kontradiksi antara kemajuan teknologi dan kebutuhan pengaturan sosial. Di satu sisi, AI companion memberikan dukungan emosional yang nyata bagi individu yang kesepian atau trauma, namun di sisi lain, potensi kecanduan dan manipulasi sangat tinggi, terutama bagi generasi muda yang rentan.

Regulasi ketat ini mungkin akan menjadi model global bagi negara-negara lain yang tengah mencari keseimbangan antara inovasi dan perlindungan pengguna, namun dampaknya terhadap masyarakat luas, terutama mereka yang menggantungkan hidupnya pada AI, perlu terus diwaspadai.

Ke depan, penting untuk melihat bagaimana teknologi ini bisa diatur tanpa menghilangkan manfaat sosialnya, serta bagaimana pemerintah dan pengembang dapat bekerja sama menyediakan AI yang etis, aman, dan manusiawi. Selain itu, respons masyarakat dan adaptasi terhadap aturan baru akan menjadi indikator penting keberhasilan kebijakan ini.

Untuk informasi lebih lengkap, pembaca dapat mengunjungi sumber asli laporan ini di CNN dan berita terkait di Kompas.