Studi Mengejutkan: Kebanyakan Orang Ikuti ChatGPT Meski Jawabannya Salah

Kecerdasan buatan (AI) kini telah menjadi bagian dari kehidupan sehari-hari banyak orang, meskipun sistem chatbot seperti ChatGPT masih sering melakukan kesalahan. Sebuah penelitian terbaru dari Universitas Pennsylvania mengungkap fenomena mengejutkan: kebanyakan pengguna cenderung menerima semua jawaban yang diberikan chatbot, bahkan ketika jawabannya salah.

Kecenderungan Mengikuti Jawaban AI Meski Salah

Dalam penelitian yang dipublikasikan baru-baru ini, peneliti pascadoktoral Steven Shaw dan profesor pemasaran Gideon Nave melakukan serangkaian eksperimen untuk menguji apakah pengguna benar-benar percaya pada jawaban AI tanpa mempertanyakan kebenarannya. Mereka menemukan bahwa lebih dari 50% peserta memilih menggunakan ChatGPT untuk menjawab berbagai pertanyaan penalaran dan pengetahuan, meskipun penggunaan chatbot bersifat opsional.

Dalam eksperimen paling mencolok yang melibatkan 359 peserta, hasilnya menunjukkan bahwa peserta mengikuti saran AI yang benar sebanyak 92,7%, dan yang lebih mengejutkan, 79,8% ikut pada saran AI yang ternyata salah.

"Meskipun tingkat pengabaian lebih tinggi pada percobaan dengan AI yang memberikan jawaban salah, peserta tetap mengikuti rekomendasi AI yang salah sekitar empat dari lima kali saat mereka menggunakan chatbot," tulis para peneliti.

Fenomena Cognitive Surrender dan Dampaknya

Para peneliti menyebut fenomena ini sebagai cognitive surrender atau menyerah secara kognitif, yaitu ketika seseorang mengesampingkan intuisi dan kemampuan berpikir kritisnya demi menerima informasi dari AI. Shaw menjelaskan dalam sebuah podcast universitas bahwa fenomena ini merupakan "ide yang cukup mendalam dan provokatif" karena AI kini sangat melekat dalam proses pengambilan keputusan sehari-hari.

Menurut Shaw, kemampuan "mengalihkan proses berpikir" kepada AI ini belum banyak diteliti sebelumnya dan menandai perubahan besar dalam cara manusia memandang dunia dan membuat keputusan.

"Kami melihat bahwa saat cognitive surrender terjadi, orang tidak hanya menerima jawaban tersebut, mereka juga menjadi lebih yakin dengan jawaban tersebut," ujar Shaw.

Risiko Kehilangan Kemampuan Berpikir Kritis

Selain itu, penelitian ini menimbulkan kekhawatiran bahwa manusia berpotensi kehilangan kemampuan untuk mengkritisi dan memverifikasi informasi yang diberikan AI. Gideon Nave menekankan pentingnya kemampuan berpikir kritis sebagai "otot intelektual" yang harus tetap diasah agar tidak hilang seiring waktu.

"Kemampuan untuk memeriksa apa yang diberikan AI menjadi semakin penting," kata Nave. "Ini adalah kemampuan yang kita harapkan tidak akan hilang."

Shaw menambahkan bahwa saat ini interaksi dengan model bahasa besar (LLM) masih dibatasi oleh perangkat seperti ponsel dan komputer, namun seiring kemajuan teknologi, integrasi AI dalam kehidupan sehari-hari akan semakin kuat dan sulit dihindari.

Masa Depan Ketergantungan pada AI

Para peneliti juga memperingatkan bahwa ketergantungan manusia pada AI bisa semakin meningkat, bukan hanya karena AI menjadi lebih canggih, tetapi juga karena manusia secara bertahap menyerahkan kendali berpikir kepada mesin.

"Semua orang berpikir ini terjadi karena AI makin pintar, tapi ada cerita lain: manusia semakin bergantung pada AI," kata Nave. "Seperti kita yang sekarang tinggal menyalakan AC tanpa repot mengatur suhu sendiri, atau berpindah tempat tanpa aktivitas fisik. Kita mungkin kehilangan sesuatu yang sangat penting untuk keberadaan kita, yaitu kemampuan berpikir."

Fenomena ini menunjukkan bahwa di tengah kemajuan teknologi, manusia harus tetap waspada agar tidak kehilangan kemandirian intelektual dan kemampuan berfikir kritis yang selama ini menjadi pondasi kemanusiaan.

Analisis Redaksi

Menurut pandangan redaksi, penelitian ini membuka alarm serius terkait pergeseran budaya kognitif akibat kemudahan akses AI. Ketergantungan berlebihan pada chatbot seperti ChatGPT yang memberikan jawaban salah tapi tetap diikuti, menunjukkan adanya risiko besar terhadap kemampuan berpikir kritis masyarakat luas. Fenomena cognitive surrender ini bukan sekadar masalah teknis, melainkan masalah mendasar yang dapat mengubah cara manusia membuat keputusan penting dalam hidupnya.

Lebih jauh, hasil ini mencerminkan risiko disintermediasi intelektual, di mana manusia tidak lagi aktif memproses dan memverifikasi informasi, tapi pasif menerima apa yang diberikan AI. Ini berpotensi memperparah disinformasi dan menurunkan kualitas debat publik serta pengambilan kebijakan berbasis data yang valid.

Ke depan, sangat penting bagi institusi pendidikan dan pembuat kebijakan untuk mengedukasi masyarakat agar tetap kritis dalam menggunakan AI. Selain itu, pengembangan teknologi AI harus diarahkan untuk mendukung kolaborasi manusia-AI, bukan menggantikan peran berpikir manusia. Jika tidak, kita menghadapi masa depan di mana kemampuan berpikir manusia bisa tergerus oleh kenyamanan dan kemudahan yang ditawarkan AI.

Untuk informasi lebih lanjut tentang studi ini, Anda dapat membaca laporan lengkapnya di Futurism serta mengikuti perkembangan terbaru tentang dampak AI pada kognisi manusia melalui situs berita terpercaya.