Remaja Gugat xAI Elon Musk atas Konten Pornografi Palsu dari Grok

Perusahaan kecerdasan buatan (AI) Elon Musk, xAI, kini menghadapi gugatan hukum dari sejumlah remaja yang menuduh perusahaan tersebut memfasilitasi pembuatan konten pornografi anak melalui chatbot AI mereka, Grok. Gugatan ini diajukan pada Senin lalu di pengadilan federal California oleh tiga perempuan muda yang mengaku foto dan video mereka dipalsukan tanpa izin untuk menampilkan mereka dalam keadaan telanjang atau adegan seksual eksplisit.

Fitur 'Spicy Mode' Grok dan Kontroversi Gambar Seksual Palsu

Grok adalah chatbot yang dikembangkan oleh xAI dan dioperasikan di platform media sosial milik Elon Musk, X (sebelumnya Twitter). Perusahaan xAI belum memberikan komentar terkait gugatan ini melalui induk perusahaannya.

Gugatan ini merupakan dampak dari peluncuran fitur baru Grok yang disebut "spicy mode" pada tahun lalu, yang memungkinkan pengguna membuat gambar dan video yang dimodifikasi secara seksual. Menurut kuasa hukum para penggugat, kemampuan Grok untuk mengubah gambar dan video ini sengaja dikembangkan dan dirilis oleh xAI semata-mata untuk meningkatkan penggunaan chatbot dan platform X.

"xAI dan pendirinya, Elon Musk, melihat peluang bisnis. Mereka tahu Grok bisa menghasilkan gambar seperti itu, termasuk menggunakan gambar dan video anak-anak, dan tetap merilisnya secara publik," tulis gugatan tersebut.

Para remaja yang menggugat menuntut ganti rugi yang belum ditentukan serta perintah pengadilan untuk melarang Grok menghasilkan gambar serupa di masa depan.

Kuasa hukum menyatakan, "Kehidupan mereka hancur akibat hilangnya privasi, martabat, dan keamanan pribadi yang sangat merugikan." Dua dari tiga penggugat masih di bawah umur, dan mereka menyembunyikan identitas demi perlindungan privasi.

Modus Penyebaran dan Dampak Gambar Palsu

Salah satu penggugat mengaku mengetahui adanya gambar tersebut setelah menerima pesan anonim di Instagram yang mengarah ke gambar dan video palsu, termasuk foto buku tahunan sekolah yang sudah dimanipulasi menampilkan dirinya dalam pose seksual dan tanpa busana.

Gambar-gambar ini beredar di sebuah server Discord yang bersifat privat, bersama dengan konten serupa yang juga dibuat menggunakan Grok terhadap minimal 18 perempuan lainnya yang masih di bawah umur, menurut isi gugatan.

Dua penggugat lainnya juga menemukan gambar pornografi palsu mereka beredar secara online yang terdeteksi dibuat lewat Grok.

Latar Belakang xAI, Grok, dan Respon Elon Musk

Grok diluncurkan pada tahun 2023 oleh perusahaan xAI milik Elon Musk. Saat ini, xAI dan platform X berada di bawah naungan perusahaan SpaceX milik Musk yang mengambil alih xAI bulan lalu.

Pada tahun lalu, xAI memperkenalkan fitur Grok Imagine atau "spicy mode," yang memungkinkan pengguna membuat gambar palsu bernuansa seksual, termasuk menghilangkan pakaian orang nyata menggunakan foto mereka.

Dalam waktu kurang dari dua minggu, Grok telah membuat jutaan gambar seksual palsu, termasuk lebih dari 20.000 gambar anak di bawah umur, menurut penelitian sampel oleh Center for Countering Digital Hate.

"Saya tidak mengetahui adanya gambar anak di bawah umur telanjang yang dibuat oleh Grok. Sama sekali nol," kata Elon Musk pada Januari lalu, mengalihkan tanggung jawab ke pengguna fitur tersebut.

Namun, penyalahgunaan ini terus berlanjut hingga tahun ini, mendorong pengawas di Inggris (Ofcom), Komisi Eropa, dan California melakukan penyelidikan atas kemampuan Grok membuat gambar seksual palsu terutama yang melibatkan anak-anak.

Pada pertengahan Januari, X mengumumkan akan menerapkan "langkah teknologi" untuk mencegah Grok menghilangkan pakaian dalam foto.

Pelaku yang menjalankan server Discord yang menjadi pusat penyebaran gambar dalam gugatan ini telah ditangkap. Ia tidak disebutkan namanya dalam gugatan dan sedang menjalani penyelidikan terpisah. Investigasi menemukan pelaku menyimpan ratusan gambar pelecehan anak yang dihasilkan AI dan dimodifikasi, yang diperjualbelikan melalui Telegram dan Mega.

Analisis Redaksi

Menurut pandangan redaksi, kasus gugatan ini menyoroti risiko serius dari teknologi AI yang tidak diatur dengan ketat, terutama dalam hal perlindungan anak dan privasi digital. Fitur yang memungkinkan manipulasi gambar secara seksual tanpa persetujuan menjadi pintu masuk eksploitasi yang luas, memperlihatkan kegagalan perusahaan teknologi dalam menyeimbangkan inovasi dan etika.

Selain itu, tanggapan awal Elon Musk yang meremehkan masalah ini memperparah kerusakan reputasi dan kepercayaan publik terhadap xAI dan platform X. Ini menjadi peringatan penting bahwa perusahaan teknologi harus bertanggung jawab penuh atas potensi penyalahgunaan produk mereka.

Ke depan, masyarakat dan regulator harus mengawasi ketat pengembangan AI untuk mencegah kasus serupa. Gugatan ini juga bisa menjadi preseden hukum penting dalam perlindungan korban penyalahgunaan teknologi AI.

Kasus ini masih berkembang dan perlu terus dipantau karena berpotensi memengaruhi regulasi AI serta praktik keamanan siber global.