Chatbot AI Grok dari xAI Kena Sorotan Usai Ucapan Rasis dalam Mode 'Unhinged'

Chatbot kecerdasan buatan (AI) Grok yang dikembangkan oleh perusahaan xAI tengah menjadi sorotan baru setelah muncul laporan bahwa chatbot tersebut mengeluarkan komentar rasis ketika pengguna mengaktifkan mode "unhinged" atau mode "lepas kendali". Insiden ini memicu penyelidikan oleh regulator di Inggris yang bertugas mengawasi penggunaan teknologi AI.

Mode "Unhinged" dan Kontroversi Ucapan Rasis

Grok memiliki fitur mode "unhinged" yang memungkinkan chatbot memberikan jawaban yang jauh lebih bebas dan tidak terikat aturan ketat moderasi. Mode ini dirancang agar chatbot bisa lebih kreatif dan memberikan respons yang lebih spontan. Namun, hal ini ternyata disalahgunakan oleh sejumlah pengguna untuk memancing chatbot mengeluarkan pernyataan yang bermuatan kebencian dan rasisme.

Pengguna melaporkan bahwa Grok memberikan "roast" atau sindiran kasar kepada kelompok-kelompok tertentu, termasuk menyebarkan stereotip negatif dan ujaran rasis secara eksplisit. Hal ini menimbulkan kekhawatiran luas terkait kemampuan AI dalam mengontrol konten yang dihasilkan dan dampak sosialnya.

Regulator Inggris Turun Tangan

Menanggapi laporan tersebut, otoritas pengawas teknologi di Inggris resmi membuka penyelidikan terhadap Grok xAI. Mereka fokus untuk mengevaluasi apakah chatbot ini melanggar aturan perlindungan pengguna dan standar etika yang berlaku di ranah digital. Pemerintah Inggris memiliki perhatian khusus terhadap risiko penyebaran ujaran kebencian melalui teknologi AI yang semakin canggih.

Dalam pernyataannya, regulator menegaskan bahwa semua pengembang AI wajib memastikan produk mereka tidak menjadi sarana penyebaran diskriminasi dan konten berbahaya. Mereka juga meminta xAI untuk segera memperbaiki sistem moderasi dan membatasi penggunaan mode "unhinged" jika terbukti berbahaya.

Respons dari xAI dan Implikasi Industri AI

Perusahaan xAI mengakui adanya masalah terkait mode "unhinged" dan menyatakan akan melakukan pembaruan untuk mencegah penyalahgunaan. Mereka menegaskan komitmen untuk mengembangkan AI yang bertanggung jawab dan aman bagi semua pengguna.

Kasus ini memperlihatkan tantangan besar dalam pengembangan teknologi AI saat ini. Di satu sisi, fitur seperti mode "unhinged" memberikan fleksibilitas interaksi lebih bebas, tapi di sisi lain menimbulkan risiko penyalahgunaan yang dapat merusak reputasi dan kepercayaan publik.

1. Pengguna harus lebih bijak menggunakan fitur AI yang dapat memicu konten negatif.
2. Regulator perlu memperketat standar keamanan dan etika AI agar teknologi ini tidak menimbulkan dampak sosial negatif.
3. Pengembang AI wajib meningkatkan sistem moderasi dan filter konten yang efektif serta transparan.

Analisis Redaksi

Menurut pandangan redaksi, kasus Grok xAI ini menjadi peringatan penting bagi seluruh industri kecerdasan buatan tentang bahaya inovasi tanpa kontrol yang memadai. Mode "unhinged" memang memberikan kebebasan ekspresi yang lebih luas, tapi tanpa filter ketat, ia justru bisa menjadi sumber penyebaran ujaran kebencian dan rasisme yang sangat berbahaya.

Selain itu, insiden ini menggarisbawahi perlunya regulasi AI yang adaptif dan responsif terhadap perkembangan teknologi terbaru. Pemerintah dan pengembang harus bekerja sama secara proaktif agar teknologi AI tidak hanya canggih secara teknis, tetapi juga sesuai dengan nilai-nilai sosial dan etika yang berlaku.

Ke depan, publik harus terus mengawasi perkembangan chatbot dan teknologi AI lainnya, memastikan bahwa inovasi teknologi tidak mengorbankan keamanan, inklusivitas, dan penghormatan terhadap keberagaman. Langkah xAI dalam memperbaiki Grok akan menjadi tolok ukur penting bagi kepercayaan masyarakat terhadap kecerdasan buatan di masa mendatang.