Analisis Mengungkap AI Overviews Google Sering Sebarkan Informasi Salah Secara Masif

AI Overviews Google ternyata menyebarkan misinformasi dalam skala yang mungkin belum pernah terjadi sebelumnya dalam sejarah manusia. Sebuah analisis baru yang dilakukan oleh startup AI bernama Oumi atas permintaan The New York Times mengungkap bahwa ringkasan yang dihasilkan AI dan muncul di atas hasil pencarian Google hanya akurat sekitar 91 persen dari waktu.

Meskipun angka 91 persen terdengar cukup baik, data lain yang jauh lebih mencengangkan adalah lima triliun, yaitu perkiraan jumlah pencarian yang diproses Google setiap tahun. Ini berarti ada puluhan juta jawaban salah yang diberikan AI Overviews setiap jamnya, dan ratusan ribu setiap menit, menurut perhitungan analisis tersebut.

Fenomena ini mengindikasikan bahwa Google telah menciptakan sebuah krisis misinformasi yang besar. Berbagai studi menunjukkan bahwa pengguna cenderung mempercayai apa yang dikatakan AI tanpa melakukan verifikasi. Salah satu laporan menemukan bahwa hanya sekitar 8 persen pengguna yang benar-benar memeriksa ulang jawaban AI, sementara eksperimen lain menunjukkan bahwa hampir 80 persen pengguna tetap mempercayai jawaban AI meskipun jawaban tersebut salah. Para peneliti menyebut tren ini sebagai "penyerahan kognitif".

Bagaimana AI Overviews Google Memberikan Jawaban Salah?

Model bahasa besar seperti yang digunakan Google mengadopsi nada otoritatif dan dapat dengan percaya diri menyajikan informasi yang dibuat-buat sebagai fakta ketika mereka tidak bisa menemukan jawaban yang jelas. Dengan kemudahan yang ditawarkan oleh AI Overviews Google, banyak pengguna kemungkinan menerima ringkasan tersebut begitu saja tanpa skeptisisme.

Analisis Oumi dilakukan menggunakan metode SimpleQA, sebuah tolok ukur yang luas dipakai dalam industri AI dan dikembangkan oleh OpenAI. Pada pengujian pertama di bulan Oktober, versi AI Overviews yang diuji menggunakan model Gemini 2. Sedangkan pengujian kedua pada Februari menguji versi yang telah ditingkatkan ke Gemini 3.

Setiap pengujian melibatkan 4.326 pencarian Google. Model Gemini 3 menunjukkan peningkatan dengan tingkat akurasi 91 persen, sementara Gemini 2 lebih rendah dengan akurasi hanya 85 persen. Ini menunjukkan bahwa model AI terus membaik, tetapi juga menunjukkan bahwa Google sempat menggunakan model yang lebih rentan memberikan informasi keliru kepada ratusan juta pengguna dalam eksperimen yang masih berlangsung.

Tanggapan Google dan Fakta Internal

Google menanggapi analisis tersebut dengan menyebutnya "studi yang cacat". Juru bicara Google, Ned Adriance, mengatakan kepada The New York Times,

"Studi ini memiliki banyak kekurangan. Ini tidak mencerminkan apa yang sebenarnya dicari orang di Google."

Namun, laporan tersebut menyebutkan bahwa data internal Google sendiri tidak jauh berbeda dalam menunjukkan masalah. Dalam analisis internal model Gemini 3, ditemukan bahwa model ini menghasilkan informasi yang salah hingga 28 persen dari waktu. Meski demikian, Google mengklaim AI Overviews lebih akurat karena mengacu pada hasil pencarian Google sebelum memberikan jawaban.

Masalah "Ungrounded" dan Verifikasi Informasi

Salah satu masalah serius yang terungkap adalah peningkatan jawaban yang "tidak berlandaskan sumber yang tepat" atau "ungrounded". Dalam analisis Oumi, model Gemini 2 memberikan jawaban ungrounded sebesar 37 persen, sementara pada Gemini 3 meningkat drastis menjadi 56 persen. Ini berarti AI sering mengutip situs yang tidak mendukung informasi yang disajikan, sehingga menyulitkan pengguna untuk memverifikasi kebenarannya.

• Peningkatan akurasi dari Gemini 2 ke Gemini 3 belum menyelesaikan masalah mendasar.
• Jawaban yang tidak berlandaskan sumber dapat memperparah penyebaran informasi salah.
• Pengguna kesulitan memeriksa keabsahan klaim AI karena referensi yang kurang jelas atau tidak relevan.

Analisis Redaksi

Menurut pandangan redaksi, temuan ini sangat penting karena menunjukkan bagaimana ketergantungan masyarakat terhadap teknologi AI dapat menjadi pedang bermata dua. Di satu sisi, AI memang menawarkan kemudahan akses informasi dengan cepat, namun di sisi lain, tingkat kesalahan yang masih signifikan berpotensi menimbulkan dampak luas terhadap persepsi publik dan keputusan penting yang didasarkan pada informasi tersebut.

Fenomena "penyerahan kognitif" yang disebutkan dalam studi ini harus menjadi peringatan bagi semua pihak, terutama Google, untuk meningkatkan transparansi dan akurasi AI mereka. Selain itu, edukasi kepada pengguna tentang pentingnya memverifikasi informasi juga wajib ditingkatkan agar tidak mudah terjebak dalam misinformasi yang disebarkan oleh AI.

Ke depan, penting untuk terus mengikuti perkembangan teknologi AI dan bagaimana perusahaan seperti Google mengatasi tantangan mendasar ini. Publik dan regulator juga perlu mengawasi lebih ketat agar teknologi AI tidak malah menimbulkan krisis informasi yang lebih parah di masa depan.

Untuk informasi lebih lanjut tentang perkembangan AI dan teknologi terkini, Anda dapat membaca juga berita dari portal teknologi terpercaya seperti CNN Indonesia Tekno.