Generative AI dan Konten Seksual Remaja: Apa yang Harus Orang Tua Ketahui

Penggunaan generative AI atau kecerdasan buatan generatif semakin meluas dan canggih, hingga kini berdampak signifikan pada remaja, terutama dalam pembuatan dan penyebaran konten seksual eksplisit. Sebuah survei terbaru mengungkapkan bahwa hampir 20% remaja pernah membuat atau mengetahui seseorang yang membuat konten seksual berbasis AI, sebuah fenomena yang mengundang perhatian para ahli dan orang tua.

Data dan Temuan Survei tentang Remaja dan Konten Seksual AI

Penelitian yang dilakukan oleh Common Sense Media terhadap lebih dari 1.300 remaja berusia 13 sampai 17 tahun menunjukkan bahwa hampir 75% remaja pernah melihat pornografi online, dan lebih dari separuh mulai terpapar konten seperti ini sedari usia 12 tahun. Tidak hanya itu, hampir setengah responden melaporkan pernah menemukan konten seksual yang mereka yakini dihasilkan oleh AI.

Konten yang dibuat dengan teknologi AI generatif ini meliputi gambar dan video telanjang palsu, deepfakes, hingga aplikasi nudifikasi yang memungkinkan pengguna menghasilkan gambar palsu yang menampilkan orang dalam keadaan telanjang.

Menurut Dr. Supreet Mann, direktur riset Common Sense Media, perbedaan utama dari konten ini dibandingkan pornografi komersial adalah hilangnya kendali individu atas citra diri mereka. "Ini bukan lagi soal pornografi yang dikurasi, tapi tentang bagaimana teknologi ini menghilangkan agensi dan kendali seseorang atas gambar dirinya," ujarnya.

Penyebaran dan Akses Mudah Konten Seksual Berbasis AI

Remaja seringkali menemukan gambar pornografi AI yang menampilkan selebriti, namun kini aplikasi nudifikasi juga membuat remaja terpapar konten seksual yang melibatkan teman sebaya mereka. Survei mengungkap bahwa hampir 20% remaja pernah membuat atau mengetahui pembuatan konten seksual AI yang melibatkan seseorang yang mereka kenal.

Dr. Mann menggambarkan situasi ini sebagai ruang eksplorasi yang semakin tanpa hambatan yang memungkinkan akses dan eksplorasi konten seksual tanpa filter dan regulasi yang memadai. Aplikasi nudifikasi sangat mudah diakses hanya dengan beberapa klik.

Dari sekitar 44% remaja yang melihat konten seksual AI, 15% mengatakan mereka menemukannya melalui aplikasi AI yang membuat atau memodifikasi foto dan video. Meski ada regulasi di toko aplikasi, beberapa aplikasi ini lolos dengan tidak mengiklankan seluruh kemampuan yang mereka miliki, menurut Riana Pfefferkorn, peneliti kebijakan di Stanford Institute for Human-Centered Artificial Intelligence.

"Penanganan dari toko aplikasi dan platform media sosial seperti permainan 'whack-a-mole', dimana mereka berusaha menghapus konten berbahaya, ternyata belum cukup efektif," jelas Pfefferkorn.

Dampak pada Psikologis dan Sosial Remaja

Mayoritas remaja kini lebih berhati-hati dalam menampilkan diri di media sosial. Hampir 70% remaja khawatir menjadi korban konten seksual AI tanpa persetujuan mereka. Mereka mengambil langkah demi melindungi diri, seperti mengatur privasi akun atau bahkan menghapus akun media sosial mereka.

Namun, Dr. Mann juga mengingatkan bahwa hal ini bisa memicu victim blaming, di mana beban perlindungan jatuh pada remaja, bukan pada pelaku yang menyalahgunakan teknologi.

Eksposur yang mudah dan sering terhadap konten ini juga mengubah persepsi remaja tentang seks, persetujuan (consent), dan citra tubuh. Sekitar 70% remaja merasa konten seksual AI memengaruhi pandangan mereka tentang bagaimana tubuh mereka seharusnya terlihat. Ini sangat mengkhawatirkan mengingat masa remaja adalah periode perubahan fisik yang cepat dan penting.

"Dampaknya sangat besar terhadap cara remaja memahami unsur penting dalam pengalaman masa remaja, seperti consent dan hubungan romantis," tambah Mann.

Peran Orang Tua dan Sekolah dalam Mengatasi Masalah Ini

Lebih dari sepertiga remaja ingin berdiskusi dengan orang dewasa tentang konten seksual AI, tapi mereka tidak tahu harus mulai dari mana. Hal ini menjadi tantangan bagi keluarga yang merasa kurang paham mengenai teknologi ini.

Common Sense Media menyarankan orang tua dan wali untuk memulai pembicaraan dengan topik consent, kesehatan seksual, dan identitas seksual terlebih dahulu sebagai landasan sebelum membahas teknologi AI itu sendiri. Penelitian juga menunjukkan bahwa remaja yang lebih muda cenderung merasa lebih nyaman berbicara dengan orang tua dibandingkan remaja yang lebih tua, sehingga mulai berdiskusi sejak dini sangat dianjurkan.

Dr. Mann menekankan pentingnya percakapan terbuka dan berkelanjutan, bukan hanya satu kali pembicaraan besar. Orang tua juga dianjurkan untuk menunjukkan minat dengan meminta anak menunjukkan aplikasi AI yang mereka gunakan dan mengajukan pertanyaan tentangnya.

Pentingnya peran sekolah juga menjadi sorotan, mengingat banyak kasus remaja yang menghadapi konsekuensi hukum akibat membuat gambar eksplisit palsu dari teman sekelas mereka. Menurut Pfefferkorn, meskipun kejadian ini sering terjadi di luar lingkungan sekolah, interaksi antar siswa memberi sekolah tanggung jawab moral dan institusional.

"Ini bukan hanya masalah anak-anak yang harus dihadapi sendiri, tapi isu masyarakat yang melibatkan sekolah, keluarga, platform teknologi, dan pembuat kebijakan," tambah Pfefferkorn.

Analisis Redaksi

Menurut pandangan redaksi, fenomena generative AI yang digunakan remaja untuk membuat konten seksual menandai tantangan baru yang kompleks dalam era digital. Ini bukan sekadar masalah privasi atau keamanan, melainkan menyangkut hak asasi manusia, khususnya hak remaja untuk melindungi citra diri dan kesehatan mental mereka.

Perkembangan teknologi AI membuka peluang sekaligus risiko besar yang belum sepenuhnya diantisipasi oleh regulasi dan pendidikan saat ini. Gap antara kemajuan teknologi dan kesiapan sosial makin terasa, sehingga diperlukan kolaborasi aktif antara orang tua, sekolah, regulator, dan platform teknologi untuk menciptakan lingkungan digital yang aman dan edukatif.

Ke depan, perhatian harus difokuskan pada edukasi literasi digital yang mengajarkan remaja tidak hanya cara menggunakan teknologi, tapi juga konsekuensi etis dan hukum dari penyalahgunaan teknologi tersebut. Orang tua dan pendidik harus memulai dialog sejak dini agar remaja dapat memahami risiko dan melindungi diri mereka secara efektif.

Untuk informasi lebih lengkap dan update terkini, simak laporan lengkap di CNN Indonesia serta sumber resmi lainnya.