TikTok Hapus Akun Video AI Wanita Kulit Hitam Seksualisasi Setelah Investigasi BBC

TikTok telah menghapus 20 akun yang menggunakan avatar digital wanita kulit hitam hasil kecerdasan buatan (AI) dengan konten yang sangat seksualisasi, setelah investigasi mendalam oleh BBC mengungkap tren yang mengkhawatirkan ini.

Konten ini ditemukan di platform Instagram dan TikTok, di mana akun-akun tersebut menggunakan karakter digital yang menampilkan stereotip rasial, menggunakan bahasa dan gambar yang dianggap rasis, eksploitatif, dan menyesatkan. Akun-akun ini mengarahkan pengguna ke situs pihak ketiga yang menawarkan konten dewasa berbayar.

Penggunaan Avatar AI dan Pelanggaran Kebijakan Platform

Menurut temuan BBC bekerja sama dengan peneliti dari publikasi independen AI, Riddance, puluhan akun di Instagram dan TikTok menggunakan avatar digital wanita kulit hitam dengan penampilan sangat seksualisasi, namun tanpa label yang menunjukkan bahwa konten tersebut dihasilkan oleh AI. Hal ini jelas melanggar pedoman platform.

Akun-akun ini menampilkan avatar dengan pakaian minim seperti baju renang yang sangat terbuka dan bentuk tubuh berlebihan. Beberapa avatar memiliki warna kulit sangat gelap yang telah dimanipulasi secara digital sehingga terlihat tidak alami. Nama akun sering mengandung kata seperti "black", "noir", "dark", dan "ebony". Beberapa bahkan memuat komentar yang melibatkan stereotip rasial, seperti "loves white men" dan "why I need a white guy in my life".

Pencurian Identitas dan Konten yang Menimbulkan Kemarahan

Salah satu akun yang diblokir TikTok mencuri video dari pembuat konten nyata, Riya Ulan, seorang model asal Malaysia. Video asli Riya diubah dengan wajah avatar AI berkulit sangat gelap yang menutupi wajah aslinya, sementara gerakan dan latar belakang tetap sama.

"Saya marah," kata Riya kepada BBC. "Video saya memang tersebar, tapi bukan berarti orang bisa mencuri dan menggunakannya seolah milik mereka."

Video hasil manipulasi ini mendapat lebih dari 35 juta tampilan di TikTok dan 173 juta di Instagram, jauh melampaui jumlah penonton video asli Riya. Meski video yang dicuri tidak bersifat seksual, avatar yang sama pada akun AI tersebut juga muncul dalam pose dan pakaian yang provokatif serta mengarahkan pengguna ke konten dewasa berbayar.

Reaksi dan Dampak Sosial dari Penggunaan Avatar AI

Peneliti Angel Nulani dari Riddance menilai akun-akun ini bersifat rasis karena mengeksploitasi perempuan kulit hitam dengan menggunakan karikatur dan istilah bermuatan rasial serta menampilkan gambaran yang tidak realistis. Ia menyebut ini sebagai bagian dari mesin pornografi online yang mengeksploitasi secara sistematis.

Jeremy Carrasco, kritikus tren AI, menambahkan bahwa teknologi AI memudahkan penciptaan citra dengan warna kulit sangat gelap yang tidak alami dan tanpa konsekuensi sosial, sehingga makin memperparah stereotip dan fetish yang sudah ada sebelumnya.

Sementara itu, Houda Fonone, model dan aktivis asal Maroko, mengkhawatirkan tren ini sebagai bentuk penghapusan representasi autentik perempuan kulit hitam. Menurutnya, standar kecantikan yang dikedepankan avatar ini menekankan rambut halus, tubuh sangat kurus, dan kulit sempurna yang justru memperkuat stereotip dan mengabaikan pengalaman nyata perempuan kulit hitam.

Tanggapan TikTok dan Meta

Setelah BBC menghubungi kedua platform, TikTok menyatakan telah menghapus konten dan memblokir akun yang melanggar aturan mereka. Dalam beberapa hari, 20 akun yang menggunakan avatar AI tersebut resmi diblokir di TikTok.

"TikTok melarang konten AI yang digunakan tanpa izin dan tidak mentolerir konten yang mempromosikan layanan seksual di luar platform," ujar juru bicara TikTok.

Meta, induk Instagram, menyatakan sedang menyelidiki akun-akun yang dilaporkan dan menegaskan pentingnya memberi label pada konten yang dihasilkan AI untuk menjaga transparansi. Namun, beberapa akun yang dilaporkan BBC masih aktif di Instagram saat publikasi.

Analisis Redaksi

Menurut pandangan redaksi, fenomena ini bukan hanya soal pelanggaran kebijakan konten, tapi juga mencerminkan masalah serius terkait eksploitasi rasial dan penyebaran stereotip berbahaya melalui teknologi AI. Dengan kemudahan menghasilkan avatar digital yang tampak nyata, risiko penyalahgunaan dan penipuan semakin meningkat, terutama ketika konten tersebut digunakan untuk mengarahkan pengguna ke industri pornografi berbayar.

Selain itu, pencurian identitas digital seperti kasus Riya Ulan menunjukkan perlunya regulasi dan perlindungan lebih ketat bagi pembuat konten asli. Platform seperti TikTok dan Instagram harus lebih proaktif dalam mendeteksi dan menangani konten yang menggunakan AI untuk tujuan manipulatif dan eksploitasi.

Ke depan, pengguna harus lebih waspada dan kritis terhadap konten yang mereka konsumsi, terutama yang melibatkan avatar digital atau AI. Sementara itu, pengawasan platform terhadap label dan transparansi konten AI menjadi kunci untuk mengurangi penyebaran konten berbahaya dan menyesatkan.

Perkembangan teknologi AI memang membuka peluang kreatif, tetapi juga tantangan etis dan sosial yang harus disikapi dengan serius oleh semua pihak.