Hati-hati, Empat Chatbot AI Ini Beri Jawaban Menyesatkan Menurut Penelitian

Penulis: DW Indonesia

KOMPAS.com - Sebuah penelitian baru menemukan bahwa empat asisten akal imitasi (AI) paling populer seperti ChatGPT, Copilot dari Microsoft, Gemini dari Google, dan Perplexity AI menyampaikan informasi yang menyesatkan dalam 45 persen kasus, tanpa memandang bahasa atau wilayah.

Jurnalis dari berbagai media publik, di antaranya BBC (Inggris) dan NPR (Amerika Serikat), menilai tanggapan dari empat asisten AI atau chatbot yakni ChatGPT, Copilot milik Microsoft, Gemini milik Google, dan Perplexity AI.

Para jurnalis dari lembaga penyiaran publik tersebut menilai jawaban dari keempat chatbot tersebut berdasarkan akurasi, sumber informasi, konteks, kemampuan menyampaikan opini secara tepat, dan kemampuan membedakan fakta dari opini.

Baca juga: Nomor Telepon Para Pemimpin Dunia Bocor di Situs AI, PM Australia Jadi Korban

Hasilnya, hampir separuh dari seluruh jawaban memiliki setidaknya satu masalah serius. Sebanyak 31 persen jawaban bermasalah dalam hal sumber informasi, dan 20 persen mengandung kesalahan fakta yang besar.

DW mencatat bahwa 53 persen jawaban dari chatbot terhadap pertanyaan mereka memiliki masalah signifikan, dengan 29 persen di antaranya terkait akurasi.

Salah satu kesalahan faktual yang muncul adalah ketika chatbot menyebut Olaf Scholz masih menjabat sebagai Kanselir Jerman, padahal Friedrich Merz telah menggantikannya sebulan sebelumnya.

Kesalahan lain juga terjadi saat Jens Stoltenberg disebut masih menjabat sebagai Sekretaris Jenderal NATO, padahal Mark Rutte sudah resmi mengambil alih posisi itu.

Baca juga: Gelembung AI Bisa Pecah di Silicon Valley, Dampaknya Tak Main-main

Asisten AI kini semakin sering digunakan masyarakat global untuk mencari informasi. Menurut laporan Digital News Report 2025 dari Reuters Institute, 7 persen pengguna berita daring mengandalkan chatbot AI, dan angkanya meningkat menjadi 15 persen di kalangan usia di bawah 25 tahun.

Para peneliti menyimpulkan bahwa chatbot AI secara sistematis mendistorsi konten berita dari berbagai jenis.

"Penelitian ini menunjukkan dengan jelas bahwa kesalahan-kesalahan tersebut bukanlah kejadian yang terisolasi," kata Jean Philip De Tender, Wakil Direktur Jenderal European Broadcasting Union (EBU), yang memimpin studi ini.

"Masalah ini bersifat sistemik, lintas negara, dan multibahasa. Kami khawatir hal ini mengancam kepercayaan publik. Ketika masyarakat tidak tahu apa yang bisa dipercaya, pada akhirnya mereka tidak mempercayai apa pun. Itu bisa melemahkan partisipasi demokratis," lanjutnya.

Baca juga: Inovasi Jepang: Kucing Jadi Kepala Stasiun, AI Jadi Pemimpin Parpol

Riset skala besar 

Ini adalah salah satu proyek penelitian terbesar dalam bidangnya, melanjutkan studi serupa yang dilakukan BBC pada Februari 2025.

Studi tersebut menemukan bahwa lebih dari separuh jawaban AI yang diperiksa mengandung masalah serius, dan hampir seperlima dari jawaban yang mengutip konten BBC justru memperkenalkan kesalahan fakta baru.

Dalam studi terbaru ini, organisasi media dari 18 negara dan berbagai kelompok bahasa menerapkan metodologi yang sama seperti penelitian BBC untuk mengevaluasi 3.000 tanggapan chatbot AI.

Pertanyaan yang diajukan mencakup isu-isu berita umum seperti: "Apa itu perjanjian mineral Ukraina?" atau "Apakah Trump bisa maju untuk masa jabatan ketiga?"

Baca juga: Perdana di Dunia, AI Jadi Menteri Albania, Bertugas Cegah Korupsi

Para jurnalis kemudian meninjau jawaban-jawaban tersebut berdasarkan keahlian dan sumber profesional mereka sendiri, tanpa mengetahui chatbot mana yang memberi jawaban.

Jika dibandingkan dengan hasil studi BBC delapan bulan lalu, memang terlihat ada sedikit perbaikan, tetapi tingkat kesalahan tetap tergolong tinggi.

"Kami antusias dengan potensi AI dan bagaimana teknologi ini bisa memberi nilai tambah bagi audiens," kata Peter Archer, Direktur Program AI Generatif BBC.

"Namun, publik harus bisa mempercayai apa yang mereka baca, tonton, dan dengar. Meski ada sedikit kemajuan, jelas masih ada banyak masalah serius pada asisten-asisten AI ini," sambungya.

Baca juga: Australia Siapkan UU untuk Cegah Gambar Vulgar Buatan AI dan Deepfake

Dalam penelitian tersebut, Gemini menjadi chatbot dengan performa terburuk, dengan 72 persen tanggapannya bermasalah dalam hal sumber rujukan.

Dalam studi BBC sebelumnya, Copilot dan Gemini juga dinilai sebagai yang paling buruk. Namun, secara keseluruhan keempat chatbot AI menunjukkan masalah yang serupa.

Dalam pernyataannya kepada BBC pada Februari lalu, juru bicara OpenAI, pengembang ChatGPT, mengatakan pihaknya mendukung penerbit dan pembuat konten.

"Kami mendukung penerbit dan pembuat konten dengan membantu 300 juta pengguna ChatGPT setiap minggu menemukan konten berkualitas melalui ringkasan, kutipan, tautan jelas, dan atribusi yang tepat," paparnya.

Baca juga: Gara-gara AI, Dunia Perfilman Bollywood Terguncang

Seruan untuk pemerintah dan perusahaan AI

Lembaga penyiaran dan media di balik studi ini menyerukan agar pemerintah nasional mengambil langkah tegas.

Dalam siaran persnya, EBU menyatakan bahwa anggotanya mendesak regulator Uni Eropa dan nasional untuk menegakkan hukum yang sudah ada terkait integritas informasi, layanan digital, dan keberagaman media.

Mereka juga menekankan pentingnya pemantauan independen terhadap asisten AI, mengingat perkembangan model-model baru yang begitu cepat.

Selain itu, EU bersama sejumlah lembaga penyiaran dan media internasional lainnya meluncurkan kampanye bersama bertajuk Facts In: Facts Out yang menyerukan agar perusahaan AI bertanggung jawab atas cara produk mereka mengelola dan menyebarkan berita.

Dalam pernyataannya, penyelenggara kampanye mengatakan, ketika sistem ini mendistorsi, salah mengutip, atau mengeluarkan berita dari konteksnya, mereka merusak kepercayaan publik.

"Tuntutan kampanye ini sederhana: Jika yang masuk adalah fakta, maka yang keluar juga harus fakta. Alat AI tidak boleh mengorbankan integritas berita yang mereka gunakan," ujarnya.

Artikel ini pernah tayang di DW Indonesia dengan judul: Studi Ungkap Empat Chatbot AI Ini Beri Jawaban Menyesatkan.

Baca juga: Sengaja Pakai AI, Jepang Rilis Mengerikannya Letusan Gunung Fuji