ICO Kirim Surat ke Meta Soal Konten Sensitif di Kacamata Pintar AI

Otoritas pengawas data Inggris, Information Commissioner's Office (ICO), mengirim surat resmi kepada Meta terkait laporan konten sensitif yang direkam dan ditinjau oleh pekerja outsource melalui kacamata pintar berbasis kecerdasan buatan (AI) milik perusahaan tersebut.

Menurut investigasi yang dilakukan oleh media Swedia Svenska Dagbladet (SvD) dan Goteborgs-Posten (GP), beberapa pekerja yang berlokasi di Kenya terkadang meninjau video dan gambar yang diambil oleh kacamata pintar AI Meta, termasuk rekaman pengguna yang sedang di toilet atau melakukan aktivitas seksual. Para pekerja outsource tersebut berasal dari perusahaan bernama Sama, yang memiliki pengalaman dalam pekerjaan anotasi data dan pengawasan konten.

Konten Sensitif dan Proses Review oleh Pekerja Outsource

Meta mengakui bahwa kadang-kadang pekerja kontrak meninjau konten yang diambil oleh kacamata pintar untuk tujuan meningkatkan pengalaman pengguna. Namun, Meta memastikan bahwa mereka terus mengembangkan alat dan metode untuk melindungi privasi pengguna.

"Kami melihat segalanya — dari ruang tamu hingga tubuh telanjang," ujar salah satu pekerja outsource yang diwawancarai media Swedia.

Meta menjelaskan bahwa sebelum konten ditinjau, mereka melakukan proses penyaringan awal, seperti mengaburkan wajah pengguna untuk melindungi identitas. Namun, sumber dari laporan tersebut menyatakan bahwa terkadang proses ini gagal, sehingga wajah pengguna masih bisa terlihat.

Pengguna harus mengaktifkan perekaman secara manual atau dengan perintah suara, tetapi mereka mungkin tidak menyadari bahwa video dan gambar mereka terkadang ditinjau oleh manusia, meskipun hal ini tertera dalam kebijakan privasi Meta yang sangat detail.

Reaksi ICO dan Tuntutan Transparansi Data

ICO menegaskan bahwa perangkat yang memproses data pribadi, termasuk kacamata pintar, harus memberikan kontrol penuh kepada pengguna dan transparansi yang memadai mengenai pengumpulan dan penggunaan data.

"Klaim dalam laporan ini sangat mengkhawatirkan. Kami akan menulis surat kepada Meta untuk meminta informasi bagaimana mereka memenuhi kewajiban di bawah hukum perlindungan data Inggris," ujar pernyataan resmi ICO.

Meta sendiri menyatakan dalam persyaratan layanan AI mereka bahwa "dalam beberapa kasus, Meta akan meninjau interaksi Anda dengan AI, baik secara otomatis maupun manual (oleh manusia)." Namun, Meta belum secara spesifik menunjukkan bagian mana dari persyaratan layanan yang membahas peninjauan konten oleh pekerja manusia.

Profil Pekerja dan Perusahaan Outsource Sama

Para pekerja yang diwawancarai adalah anotator data yang bertugas mengajarkan AI Meta untuk mengenali dan mengkategorikan gambar secara manual. Sama, perusahaan outsourcing yang berbasis di Nairobi, Kenya, memiliki sejarah pekerjaan di bidang anotasi data dan dulunya berstatus organisasi nirlaba dengan tujuan menyediakan lapangan kerja di bidang teknologi.

• Mereka juga meninjau transkrip interaksi pengguna dengan AI untuk memastikan jawaban yang diberikan sudah tepat.
• Lingkungan kerja mereka diawasi ketat dengan kamera dan tidak memperbolehkan penggunaan ponsel guna menjaga privasi dan keamanan.
• Meski begitu, mereka mengaku sering menghadapi konten yang sangat sensitif, termasuk rekaman yang menunjukkan aktivitas seksual dan pornografi.

Dalam satu kasus, seorang pekerja menyebutkan rekaman yang tidak sengaja merekam seorang wanita yang sedang melepas pakaian, diduga merupakan istri dari pemakai kacamata.

Fitur dan Kekhawatiran Penyalahgunaan Kacamata Pintar AI

Kacamata pintar Meta, yang dikembangkan bersama merek Ray-Ban dan Oakley, dilengkapi dengan lampu kecil di sudut bingkai yang menyala saat kamera merekam. Namun, ada kekhawatiran bahwa pengguna bisa saja merekam secara diam-diam tanpa diketahui oleh orang di sekitarnya.

Meta memberikan peringatan agar pengguna menunjukkan lampu perekam saat aktif dan tidak merekam di area pribadi, tetapi kasus pelanggaran sudah pernah terjadi, termasuk laporan dari perempuan yang direkam tanpa izin oleh pengguna kacamata pintar.

Perusahaan induk kacamata tersebut, EssilorLuxottica, belum memberikan komentar resmi terkait laporan ini.

Analisis Redaksi

Menurut pandangan redaksi, kasus ini menunjukkan tantangan besar dalam menjaga privasi di era perangkat wearable berbasis AI. Meski teknologi memberikan kemudahan dan inovasi, potensi pelanggaran privasi yang signifikan tetap ada, apalagi ketika ada campur tangan pekerja manusia yang mengakses data pribadi sensitif tanpa pengawasan ketat.

Kasus ini juga menggarisbawahi perlunya regulasi yang lebih tegas dan transparansi dari perusahaan teknologi besar seperti Meta agar pengguna benar-benar memahami bagaimana data mereka diproses dan dilindungi. Selain itu, perusahaan outsourcing yang terlibat perlu diaudit dan diberi standar etika yang jelas agar tidak terjadi eksploitasi dan pelanggaran privasi.

Kedepannya, publik dan regulator harus mengawasi ketat perkembangan teknologi wearable AI dan memastikan inovasi tidak mengorbankan hak privasi individu. Ini menjadi peringatan bagi seluruh industri teknologi untuk memperbaiki tata kelola data dan memperkuat perlindungan pengguna.

Terus ikuti perkembangan berita ini untuk update terbaru soal respons Meta dan tindakan ICO selanjutnya.