Pengadilan Belanda Larang Grok Elon Musk Buat Gambar AI Telanjang Non-Konsensual

Pengadilan Distrik Amsterdam mengeluarkan perintah hukum pada hari Kamis yang melarang chatbot Grok milik Elon Musk untuk membuat dan menyebarkan gambar AI yang menampilkan orang dewasa maupun anak-anak dalam kondisi telanjang tanpa izin eksplisit. Langkah ini menambah tekanan hukum yang semakin besar terhadap perusahaan xAI yang mengembangkan Grok.

Menurut terjemahan resmi dari pernyataan pengadilan, xAI dilarang menghasilkan dan menyebarkan gambar seksual yang "memperlihatkan orang yang sebagian atau seluruhnya telanjang tanpa izin eksplisit". Perintah ini juga melarang platform X, yang sebelumnya dikenal sebagai Twitter, menawarkan fungsi Grok di wilayah Uni Eropa.

Jika gagal mematuhi perintah pengadilan, xAI akan dikenakan denda sebesar 100.000 euro (setara $115.000) setiap hari, dengan total maksimum denda mencapai 10 juta euro. Selain itu, xAI wajib membayar biaya hukum sebesar 2,2 juta euro kepada organisasi nirlaba Belanda Offlimits dalam waktu 14 hari.

Kasus Pertama Melawan Grok di Eropa dan Dampak Hukum

Kasus ini diajukan oleh Offlimits, sebuah lembaga yang fokus memerangi pelecehan seksual daring, khususnya terhadap anak-anak dan remaja. Robbert Hoving, Direktur Offlimits, menegaskan:

"Hakim sudah memberikan batasan yang jelas kemarin: teknologi bukan lisensi untuk melanggar hak asasi manusia secara online. Ini juga kemenangan ganda karena di Eropa baru saja ada pemungutan suara untuk melarang alat Nudify. Semua orang harus menikmati hak yang sama di dunia maya di setiap negara Eropa."

Menurut laporan CNBC, diperkirakan Grok menghasilkan sekitar tiga juta gambar seksual dari 29 Desember 2025 hingga 9 Januari 2026, di mana lebih dari 23.000 gambar diduga menampilkan anak-anak.

Sebelumnya, xAI telah membatasi kemampuan Grok untuk membuat gambar seksual terhadap individu nyata di platform X, termasuk untuk pengguna berbayar. Namun, Offlimits menemukan bahwa pembatasan ini mudah diakali, dan hakim menilai langkah tersebut tidak cukup melindungi pengguna.

Tekanan Hukum yang Kian Meningkat terhadap xAI

Selain vonis di Belanda, xAI menghadapi sejumlah tuntutan hukum dan investigasi di berbagai negara:

• Baltimore menjadi kota AS pertama yang menggugat xAI karena melanggar undang-undang perlindungan konsumen dan memasarkan Grok serta X sebagai platform yang aman, padahal tidak.
• Tiga remaja di Tennessee menggugat xAI karena Grok membuat konten yang menunjukkan mereka dalam pose dan skenario seksual eksplisit tanpa izin.
• Komisi Eropa memulai investigasi terhadap xAI berdasarkan Digital Services Act atas penyebaran materi seksual anak dan individu tanpa persetujuan.
• Regulator keamanan daring Inggris, Ofcom dan Information Commissioner's Office, juga menyelidiki X terkait distribusi gambar seksual non-konsensual.
• Negara-negara Asia Tenggara seperti Malaysia dan Indonesia memblokir akses Grok sejak Januari akibat kegagalan X Corp mengatasi risiko konten seksual AI tanpa izin.

Dalam salah satu tren viral, Grok digunakan untuk membuat gambar "nudifikasi" atau mengubah foto seseorang menjadi telanjang, yang bahkan Elon Musk sendiri ikut membagikan versi editannya dalam bentuk gambar dirinya mengenakan bikini string yang dibuat oleh Grok.

Analisis Redaksi

Menurut pandangan redaksi, putusan pengadilan Belanda ini menjadi tanda penting bahwa regulasi teknologi AI kini mulai berani menegakkan perlindungan hak asasi manusia secara tegas, terutama dalam hal privasi dan keamanan digital. Kasus Grok membuka babak baru dalam pengawasan AI yang mampu menghasilkan konten sensitif tanpa kontrol ketat.

Selain itu, denda besar yang diberlakukan menunjukkan bahwa para regulator tidak akan segan-segan memberikan sanksi berat kepada perusahaan yang mengabaikan risiko sosial dan hukum. Ini juga menjadi peringatan bagi perusahaan teknologi lain yang mengembangkan AI serupa agar meningkatkan sistem keamanan dan etika mereka.

Kedepannya, publik dan pembuat kebijakan harus mengawasi ketat bagaimana xAI dan platform terkait menyesuaikan diri dengan regulasi yang semakin ketat ini. Jika tidak, bukan hanya denda yang mengancam, tetapi juga potensi larangan operasional yang bisa meluas ke wilayah lain di dunia.

Untuk perkembangan lebih lanjut mengenai regulasi AI dan dampaknya, pembaca bisa mengunjungi situs resmi regulator Uni Eropa dan berita terpercaya seperti BBC Indonesia.