AI Elon Musk Grok Disorot Usai Foto Remaja Dicatut Jadi Konten Dewasa

Kecerdasan buatan (AI) Grok yang dikembangkan oleh Elon Musk kini menghadapi gelombang tuntutan hukum dari para remaja yang menjadi korban penyalahgunaan foto mereka untuk konten dewasa palsu. Kasus ini mencuat setelah foto-foto remaja tanpa busana dan konten seksual lainnya yang dibuat oleh Grok beredar luas secara online, memicu keprihatinan mendalam dan aksi hukum.

Grok dan Kontroversi Fitur 'Spicy'

Grok adalah chatbot AI yang dikembangkan oleh perusahaan xAI, yang juga dimiliki oleh Elon Musk dan diintegrasikan ke platform media sosial X. Pada tahun 2025, xAI merilis fitur baru bernama "Spicy" atau mode 'pedas', yang memungkinkan pengguna untuk meminta Grok membuat gambar dan video palsu dengan konten seksual, termasuk mengubah foto asli menjadi versi tanpa busana atau eksplisit.

Fitur ini langsung menuai kritik keras karena secara tidak langsung memungkinkan pembuatan deepfake pornografi anak di bawah umur. Menurut laporan BBC dan pengaduan hukum yang diajukan pada Senin waktu setempat, fitur tersebut telah disalahgunakan untuk membuat konten pornografi palsu yang melibatkan setidaknya 20.000 gambar anak-anak.

Tuntutan Hukum terhadap xAI dan Elon Musk

Para korban yang sebagian masih di bawah umur melaporkan bahwa foto mereka digunakan tanpa persetujuan sebagai bahan untuk gambar-gambar pornografi palsu yang dibuat oleh Grok. Salah satu penggugat mengungkapkan bahwa mereka pertama kali mengetahui hal ini melalui pesan anonim yang mengarahkan ke gambar-gambar tersebut, yang bahkan tersebar di server Discord, ruang obrolan privat.

"Kehidupan mereka hancur karena kehilangan privasi, martabat, dan keselamatan pribadi yang sangat menyakitkan,"

Pengacara korban menuding xAI dan Elon Musk telah dengan sadar melepas fitur Grok ini meskipun mengetahui risikonya, demi meningkatkan penggunaan chatbot dan platform X. Mereka menggambarkan hasil manipulasi foto ini seperti "boneka kain yang dihidupkan melalui ilmu hitam" yang merusak kehidupan para korban.

Gugatan meminta ganti rugi finansial yang tidak ditentukan dan perintah pengadilan untuk segera melarang Grok membuat konten serupa. Dua dari korban merupakan remaja di bawah usia 18 tahun, dan identitas mereka disembunyikan demi melindungi privasi.

Respons dan Situasi Terkini

Elon Musk sendiri sebelumnya meremehkan tuduhan ini, menyatakan bahwa Grok hanya menghasilkan gambar berdasarkan permintaan pengguna dan tidak secara spontan membuat konten ilegal. Namun, badan pengawas seperti Ofcom di Inggris, Komisi Eropa, dan otoritas California telah mulai menyelidiki fitur Grok yang dapat membuat gambar seksual palsu, terutama yang melibatkan anak-anak.

Sampai saat ini, xAI dan Musk belum memberikan komentar resmi terkait tuntutan ini. Grok dan fitur 'Spicy' masih menjadi perhatian besar karena potensi penyalahgunaan yang dapat menimbulkan kerugian besar bagi korban dan masyarakat.

Analisis Redaksi

Menurut pandangan redaksi, kasus ini bukan sekadar masalah teknologi AI yang salah digunakan, melainkan juga cerminan tantangan besar dalam regulasi dan etika pengembangan teknologi canggih. Grok yang digadang sebagai inovasi AI harusnya disertai dengan pengawasan ketat dan fitur proteksi agar tidak menjadi alat eksploitasi seksual dan pelanggaran privasi.

Kasus ini juga menyoroti bagaimana platform media sosial dan pengembang AI harus bertanggung jawab atas dampak sosial yang dihasilkan produk mereka. Jika tidak, potensi penyalahgunaan bisa semakin meluas, merusak kehidupan korban, dan memicu krisis kepercayaan publik terhadap teknologi AI.

Ke depan, kita perlu menunggu bagaimana proses hukum berjalan dan apakah akan ada regulasi baru yang membatasi fungsi pembuatan konten seksual palsu oleh AI. Masyarakat harus tetap waspada dan mendorong transparansi serta akuntabilitas dari para pengembang teknologi, termasuk perusahaan besar seperti milik Elon Musk.

Kasus ini menjadi peringatan keras bahwa kemajuan teknologi AI harus selalu diimbangi dengan tanggung jawab sosial dan perlindungan hak asasi manusia, terutama bagi kelompok rentan seperti anak-anak dan remaja.