Baltimore Gugat xAI karena Grok Deepfake Porno, Tekanan Hukum Meningkat

Baltimore menjadi kota utama pertama di Amerika Serikat yang melayangkan gugatan hukum terhadap perusahaan xAI milik Elon Musk terkait dengan chatbot dan image generator mereka, Grok, yang memungkinkan produksi massal deepfake porn berbasis gambar wanita dan anak-anak tanpa persetujuan. Gugatan ini menuduh xAI melanggar hukum perlindungan konsumen dan praktik perdagangan curang dengan memasarkan Grok sebagai teknologi yang aman untuk digunakan.

Latar Belakang Gugatan dan Isu Grok Deepfake Porn

Gugatan yang diajukan pada 24 Maret di pengadilan sirkuit Baltimore menyoroti dampak traumatis jangka panjang dari penggunaan Grok untuk menghasilkan gambar-gambar seksual yang tidak diinginkan terhadap korban. Walikota Baltimore, Brandon Scott, dalam pernyataan resmi kepada CNBC menyatakan,

"Kami berbicara tentang perusahaan teknologi yang memungkinkan eksploitasi seksual terhadap anak-anak. Kota kami tidak akan membiarkan hal ini terus berlangsung; ini adalah ancaman terhadap privasi, martabat, dan keselamatan publik, dan pihak yang bertanggung jawab harus diadili."

Grok, yang kini menjadi bagian dari SpaceX setelah merger bulan lalu, menghadapi penyelidikan regulasi di beberapa negara. Selain gugatan Baltimore, sebelumnya tiga remaja di Tennessee juga mengajukan gugatan class-action yang menuntut xAI setelah Grok menghasilkan gambar yang menggambarkan mereka dalam skenario yang seksual dan merendahkan.

Tuduhan Praktik Curang dan Peran Elon Musk

Dalam gugatan Baltimore, xAI dituduh melakukan praktik perdagangan yang menipu dengan mengiklankan Grok dan platform X (dulu Twitter) sebagai aman, padahal fitur Grok digunakan secara luas untuk membuat gambar non-konsensual, termasuk tren "put her in a bikini" yang mendorong pengguna untuk mengambil foto orang lain dan mengubahnya menjadi gambar telanjang.

Elon Musk sendiri pernah ikut serta dalam tren tersebut dengan membagikan gambar dirinya yang diedit memakai bikini string menggunakan Grok. Gugatan tersebut menulis,

"Unggahan Musk berfungsi sebagai dukungan publik atas kemampuan Grok untuk menghasilkan editan seksual atau terbuka dari orang nyata, serta memberi sinyal kepada pengguna bahwa penggunaan Grok seperti itu dapat diterima, lucu, dan dianjurkan. Sebagai pemilik dan wajah publik utama dari xAI dan X, unggahan Musk berperan sebagai pemasaran dan promosi untuk kemampuan pengeditan gambar yang digunakan untuk membuat gambar seksual tanpa persetujuan."

Tuntutan dan Implikasi Hukum

Kota Baltimore menuntut penjatuhan denda maksimal sesuai ketentuan hukum, meskipun tidak mencantumkan jumlah spesifik dalam gugatan. Selain itu, mereka meminta pengadilan memerintahkan xAI dan X untuk melakukan perubahan pada platform mereka guna membatasi produksi gambar-gambar yang dikenal sebagai non-consensual intimate images (NCII) dan materi pelecehan seksual anak (child sexual abuse material - CSAM).

Permintaan lain adalah agar xAI dan X menghentikan eksploitasi warga Baltimore, merombak desain platform yang eksploitatif, dan mengubah strategi pemasaran mereka agar lebih bertanggung jawab.

Hingga saat ini, perwakilan dari SpaceX dan xAI belum memberikan tanggapan resmi atas gugatan tersebut.

Data dan Tren Global

Laporan terbaru dari Internet Watch Foundation, sebuah badan amal berbasis di Inggris, mengungkap bahwa sebagian besar korban gambar CSAM yang dihasilkan oleh AI masih didominasi oleh perempuan muda, mencapai 97% dari seluruh gambar ilegal yang dianalisis pada tahun 2025.

Fenomena ini menunjukkan bahwa teknologi AI yang semestinya menjadi alat inovasi justru berpotensi besar digunakan untuk eksploitasi seksual yang serius dan meluas, menimbulkan tantangan besar bagi regulator dan penegak hukum.

Analisis Redaksi

Menurut pandangan redaksi, gugatan Baltimore terhadap xAI bukan hanya soal perlindungan konsumen semata, tetapi menjadi sinyal kuat bahwa publik dan pemerintah mulai menuntut pertanggungjawaban perusahaan teknologi atas dampak sosial negatif dari inovasi mereka. Kasus ini menggarisbawahi bagaimana deepfake dan teknologi AI yang tidak diatur dengan ketat dapat merusak hak privasi dan keamanan individu, terutama yang rentan seperti anak-anak dan perempuan.

Lebih jauh, peran Elon Musk sebagai sosok sentral yang juga mempromosikan teknologi ini menimbulkan pertanyaan etis mengenai tanggung jawab pemilik dan pengelola platform dalam mengawasi penggunaan produk mereka. Gugatan ini dapat membuka preseden hukum baru yang mewajibkan perusahaan teknologi menerapkan filter dan kontrol lebih ketat terhadap konten yang dihasilkan AI.

Ke depan, penting bagi publik dan regulator untuk terus mengawasi perkembangan xAI dan platform terkait, memastikan bahwa kemajuan teknologi tidak mengorbankan nilai kemanusiaan dan keamanan digital. Langkah hukum Baltimore ini mungkin menjadi awal gelombang tuntutan serupa di kota-kota lain di AS dan dunia.