Chatbot AI Grok Elon Musk Masih Membuat Deepfake Seksual Tanpa Izin

Chatbot AI Grok milik Elon Musk masih terus menghasilkan gambar dan video deepfake seksual tanpa izin dari orang-orang yang menjadi objeknya, meskipun perusahaan Musk sudah berjanji untuk menghentikan praktik penyalahgunaan tersebut setelah mendapat kritik publik dan penyelidikan dari pemerintah di berbagai negara.

Sebuah tinjauan oleh NBC News mengungkapkan puluhan gambar dan video AI yang menampilkan wanita nyata dalam versi yang diseksualisasi diposting secara publik di aplikasi media sosial milik Musk, X, selama satu bulan terakhir. Gambar-gambar tersebut menunjukkan wanita, banyak di antaranya adalah penyanyi pop dan aktris, yang diubah oleh chatbot AI Grok menjadi mengenakan pakaian yang lebih terbuka seperti handuk, bra olahraga, kostum Spider-Woman ketat, atau kostum kelinci.

Grok dan Kontroversi Deepfake Seksual yang Berlanjut

Grok, perangkat lunak AI yang dikembangkan oleh perusahaan xAI milik Musk, memproduksi gambar-gambar tersebut sebagai respons terhadap permintaan pengguna yang mencoba mengakali pembatasan undressing yang diterapkan sejak Januari lalu. Setelah itu, baik akun Grok di X maupun pengguna yang memanfaatkan gambar tersebut memposting hasilnya secara publik.

Kasus ini mengulang kontroversi besar yang meledak pada Januari, ketika perusahaan Musk sempat membiarkan pengguna mengedit foto orang lain untuk menampilkan mereka dalam pakaian minim atau bahkan telanjang dengan hanya memasukkan perintah seperti "pakai bikini". Bahkan saat itu, Musk dan timnya sempat mempromosikan fitur "spicy mode" pada chatbot AI tersebut. Gelombang gambar palsu ini, beberapa di antaranya melibatkan anak-anak, memicu penyelidikan dari pemerintah di lima benua.

Meskipun jumlah deepfake seksual yang dibuat Grok turun drastis sejak Januari, tinjauan NBC News menunjukkan bahwa Grok masih menolak banyak permintaan seksual secara terbuka, namun tetap memenuhi beberapa permintaan lain yang lebih licin. Tidak ditemukan gambar perempuan yang telanjang atau anak di bawah umur dalam hasil yang dianalisis oleh NBC News.

Strategi Baru Pengguna untuk Memanipulasi Grok

Para pengguna Grok kini mulai menggunakan taktik baru agar dapat mengelabui sistem pengawasan dan moderator konten X. Misalnya, ada tren menggabungkan dua gambar—satu foto wanita selebritas dan satu gambar sketsa stick figure dengan pose tertentu seperti jongkok atau split—kemudian meminta Grok mengubah foto wanita agar sesuai dengan pose tersebut. Hasilnya adalah deepfake yang menonjolkan area sensitif wanita tersebut.

Tren lain adalah menukar pakaian dua wanita dalam foto berbeda, salah satunya mengenakan pakaian ketat atau terbuka. Ada juga pengguna yang mengunggah foto asli wanita dan meminta Grok mengubahnya menjadi video yang terkadang bersifat seksual. Contohnya, video yang dibuat Grok menunjukkan seorang aktris memegang payudaranya atau membuka kakinya meskipun dalam foto aslinya tidak melakukan gerakan tersebut.

Beberapa selebritas yang gambarnya digunakan dalam deepfake ini pernah secara terbuka mengeluhkan penyalahgunaan tersebut sebelumnya.

Respons Perusahaan dan Penyelidikan Pemerintah

Saat ini, xAI menyatakan ingin meninjau temuan NBC News, namun belum memberikan jawaban atas pertanyaan lanjutan. Sebagian besar gambar yang sebelumnya ditemukan di X kini telah dihapus atau digantikan dengan pesan "postingan tidak tersedia" atau "melanggar aturan X". Namun, pencarian gambar serupa masih mudah dilakukan melalui fitur pencarian di situs X.

X sendiri sudah berjanji sejak Januari untuk membatasi pembuatan gambar semacam ini dengan menerapkan teknologi yang mencegah pengeditan gambar orang nyata agar tidak mengenakan pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar.

Namun, para ahli menilai sulit mengawasi seluruh konten yang dihasilkan Grok, apalagi jika pengguna mengakses layanan lewat aplikasi Grok yang bersifat privat atau fitur khusus di X.

"Ketika gambar-gambar ini dibuat dan menyebar, orang yang menjadi objeknya tidak selalu tahu," kata Stefan Turkheimer, wakil presiden kebijakan publik di RAINN, organisasi advokasi penanggulangan kekerasan seksual.

Peneliti independen Genevieve Oh menyatakan bahwa Grok "masih menjadi pembuat nudifikasi sintetis tanpa izin terbesar di dunia", kemungkinan menghasilkan lebih banyak konten dibandingkan semua alat serupa lainnya. Lembaga Center for Countering Digital Hate bahkan memperkirakan Grok menghasilkan tiga juta gambar seksual dalam 11 hari pada Januari lalu dan menemukan masih ada deepfake tanpa izin yang dibuat oleh AI Musk.

Tekanan Global dan Proses Hukum

Banyak lembaga penegak hukum dan pengawas dari berbagai negara, termasuk California, Australia, Kanada, Eropa, dan Inggris, terus menyelidiki kemampuan Grok dalam membuat deepfake seksual tersebut. Beberapa negara bahkan telah mengajukan gugatan hukum terhadap xAI dan Musk, termasuk gugatan class action dan kasus oleh pemerintah kota Baltimore.

Baru-baru ini di Belanda, pengadilan memerintahkan Grok untuk menghentikan pembuatan gambar pengunduran pakaian baik untuk orang dewasa maupun anak-anak. Kasus-kasus ini terjadi di saat sensitif karena xAI baru saja diakuisisi oleh SpaceX, yang berencana melakukan penawaran saham perdana (IPO) bulan Juni untuk mengumpulkan modal dalam jumlah besar.

Keputusan menggabungkan xAI ke dalam SpaceX berarti potensi denda atau kerugian hukum akibat Grok bisa berdampak langsung pada perusahaan roket tersebut, meski belum jelas apakah hal itu akan memengaruhi valuasi SpaceX yang diperkirakan mencapai 2 triliun dolar AS.

Analisis Redaksi

Menurut pandangan redaksi, kasus Grok ini bukan hanya sekadar soal penyalahgunaan teknologi AI, tapi juga menyoroti tantangan besar dalam regulasi dan pengawasan alat-alat canggih yang terus berkembang pesat. Janji pembatasan yang belum sepenuhnya ditegakkan menunjukkan adanya celah besar dalam kontrol keamanan produk AI yang berpotensi disalahgunakan. Hal ini memicu risiko serius terhadap privasi dan keamanan individu, terutama perempuan dan anak-anak.

Selain itu, strategi pengguna yang terus beradaptasi untuk mengakali sistem menunjukkan bahwa teknologi pengawasan dan moderasi konten harus lebih inovatif dan responsif. Perlu ada kerjasama lebih erat antara pengembang AI, regulator, dan penegak hukum di tingkat global untuk mencegah penyebaran deepfake seksual tanpa izin di masa depan.

Ke depan, publik dan regulator harus mengawasi ketat perkembangan kebijakan dan teknologi dari xAI dan SpaceX terkait Grok. Ini menjadi ujian penting bagi industri AI dalam mengelola dampak sosial dan etika teknologi yang semakin canggih.

Untuk informasi lebih lengkap, Anda dapat merujuk pada laporan asli NBC News di sini.