Meta Bayar Ratusan Kontraktor untuk Berpura-pura Jadi Remaja Serang AI Pesaing dengan Konten Mengganggu

Meta baru-baru ini terungkap menjalankan program rahasia bernama "Cannes" yang melibatkan ratusan kontraktor berpura-pura menjadi remaja di bawah umur untuk menyerang model kecerdasan buatan (AI) milik pesaingnya dengan berbagai konten yang sangat mengganggu. Program ini bertujuan menguji batas dan ketahanan AI pesaing seperti ChatGPT dari OpenAI, Gemini dari Google, dan Character.AI.

Strategi Rahasia Meta Menguji AI Pesaing

Menurut laporan Wired via Yahoo News, proyek "Cannes" dijalankan oleh kontraktor Meta bernama Covalen. Kontraktor ini menggunakan akun-akun palsu yang dibuat seolah-olah milik anak-anak dan remaja di bawah umur untuk mengirimkan ribuan prompt yang mengandung tema sensitif seperti bunuh diri, gangguan makan, kekerasan, kanibalisme, dan seks, semuanya ditulis dari sudut pandang seorang anak atau remaja.

Ratusan prompt berfokus pada topik bunuh diri dan penyakitan diri, ratusan lainnya membahas gangguan makan, dan setidaknya 239 prompt mengandung tema seks atau romansa. Contohnya, ada prompt yang bercerita tentang seorang siswa kelas lima yang temannya mengarahkan pistol ke mulutnya, seorang gadis yang berusaha menyembunyikan bulimia dari orang tuanya, hingga pertanyaan apakah membayangkan memakan anak tetangga adalah hal yang "normal".

Data dan Dampak Etis Program 'Cannes'

Program ini tidak main-main. Dalam satu putaran pengujian, kontraktor mencatat lebih dari 45.000 respons chatbot dalam spreadsheet yang sangat rinci. Namun, hingga kini belum jelas bagaimana Meta memanfaatkan data tersebut, yang menimbulkan pertanyaan etis terkait beban psikologis yang harus ditanggung para kontraktor yang mengerjakan konten mengerikan tersebut demi keamanan AI.

Meta sendiri menggambarkan program ini sebagai "benchmarking keamanan AI industri standar" yang menghasilkan "dataset penting untuk perbandingan model dan kepatuhan". Namun, para kontraktor mengaku trauma dan terguncang dengan tugas tersebut. Salah satu kontraktor mengungkapkan, "Saya telah melihat banyak hal yang saya harap tidak pernah saya lihat selama mengerjakan pekerjaan ini. Semua orang yang saya kenal di proyek ini sangat terkejut dengan teks-teks yang diminta untuk kami uji. Kami berpikir, pasti kami akan mendapat masalah karena melakukan ini."

Kontroversi dan Kritik terhadap Metode Meta

Meta membela diri dengan menyebut pengujian seperti ini sebagai praktik standar industri. Namun, Rumman Chowdhury, CEO Humane Intelligence PBC, sebuah organisasi nirlaba yang fokus pada pengembangan AI yang bertanggung jawab, mengkritik metode tersebut.

"Menyusun proyek besar berbulan-bulan yang tampaknya dirancang secara sistematis untuk melanggar aturan melalui akun palsu yang menyamar sebagai anak-anak berada di luar apa yang biasanya disebut evaluasi 'standar industri'."

Chowdhury juga menyoroti bahwa Meta menyimpan rahasia program ini dari pesaingnya dan belum membagikan hasilnya ke publik, yang menurutnya merupakan zona abu-abu tata kelola di mana keamanan menjadi kedok untuk praktik antikompetitif.

Sejarah Beban Psikologis pada Kontraktor Meta

Ini bukan pertama kalinya Meta mengalihkan pekerjaan yang sangat mengganggu kepada kontraktor. Pada 2020, Meta menyelesaikan gugatan hukum dari para moderator konten Facebook yang mengalami trauma akibat harus meninjau video kekerasan ekstrem seperti pembunuhan, penyiksaan, serangan seksual, dan pelecehan anak. Tahun ini, kontraktor lain melaporkan dipaksa menonton rekaman sensitif yang diambil oleh kacamata AI Ray-Ban Meta, termasuk adegan seksual dan rekaman di kamar mandi.

Analisis Redaksi

Menurut pandangan redaksi, program "Cannes" ini memperlihatkan sisi gelap praktik pengembangan AI yang jarang diungkap ke publik. Meta, sebagai raksasa teknologi, tampaknya menggunakan pendekatan agresif yang tidak hanya menguji batas kemampuan AI pesaing, tetapi juga mengorbankan kesejahteraan para kontraktor yang menjadi "tameng" dalam proses tersebut.

Lebih jauh, penggunaan akun palsu yang menyamar sebagai anak-anak untuk menembus batas keamanan chatbot pesaing menimbulkan pertanyaan serius tentang etika dan keadilan dalam persaingan teknologi. Ini bisa jadi preseden buruk bagi industri AI global, dimana perlombaan untuk menjadi yang terdepan mendorong praktik yang meragukan dan bisa mencederai reputasi serta kepercayaan publik.

Ke depan, publik dan regulator perlu mengawasi dengan ketat bagaimana perusahaan teknologi besar seperti Meta mengelola keamanan AI dan perlindungan terhadap pekerja di balik layar. Transparansi dan akuntabilitas harus menjadi prioritas agar inovasi teknologi tidak mengorbankan nilai-nilai kemanusiaan dan etika.

Simak terus perkembangan terbaru mengenai kontroversi di dunia AI dan teknologi hanya di sumber berita terpercaya.