Hati-hati, Empat Chatbot AI Ini Beri Jawaban Menyesatkan Menurut Penelitian

Pertanyaan yang diajukan mencakup isu-isu berita umum seperti: "Apa itu perjanjian mineral Ukraina?" atau "Apakah Trump bisa maju untuk masa jabatan ketiga?"

Baca juga: Perdana di Dunia, AI Jadi Menteri Albania, Bertugas Cegah Korupsi

Para jurnalis kemudian meninjau jawaban-jawaban tersebut berdasarkan keahlian dan sumber profesional mereka sendiri, tanpa mengetahui chatbot mana yang memberi jawaban.

Jika dibandingkan dengan hasil studi BBC delapan bulan lalu, memang terlihat ada sedikit perbaikan, tetapi tingkat kesalahan tetap tergolong tinggi.

"Kami antusias dengan potensi AI dan bagaimana teknologi ini bisa memberi nilai tambah bagi audiens," kata Peter Archer, Direktur Program AI Generatif BBC.

"Namun, publik harus bisa mempercayai apa yang mereka baca, tonton, dan dengar. Meski ada sedikit kemajuan, jelas masih ada banyak masalah serius pada asisten-asisten AI ini," sambungya.

Baca juga: Australia Siapkan UU untuk Cegah Gambar Vulgar Buatan AI dan Deepfake

Dalam penelitian tersebut, Gemini menjadi chatbot dengan performa terburuk, dengan 72 persen tanggapannya bermasalah dalam hal sumber rujukan.

Dalam studi BBC sebelumnya, Copilot dan Gemini juga dinilai sebagai yang paling buruk. Namun, secara keseluruhan keempat chatbot AI menunjukkan masalah yang serupa.

Dalam pernyataannya kepada BBC pada Februari lalu, juru bicara OpenAI, pengembang ChatGPT, mengatakan pihaknya mendukung penerbit dan pembuat konten.

"Kami mendukung penerbit dan pembuat konten dengan membantu 300 juta pengguna ChatGPT setiap minggu menemukan konten berkualitas melalui ringkasan, kutipan, tautan jelas, dan atribusi yang tepat," paparnya.

Baca juga: Gara-gara AI, Dunia Perfilman Bollywood Terguncang

Seruan untuk pemerintah dan perusahaan AI

Lembaga penyiaran dan media di balik studi ini menyerukan agar pemerintah nasional mengambil langkah tegas.

Dalam siaran persnya, EBU menyatakan bahwa anggotanya mendesak regulator Uni Eropa dan nasional untuk menegakkan hukum yang sudah ada terkait integritas informasi, layanan digital, dan keberagaman media.

Mereka juga menekankan pentingnya pemantauan independen terhadap asisten AI, mengingat perkembangan model-model baru yang begitu cepat.

Selain itu, EU bersama sejumlah lembaga penyiaran dan media internasional lainnya meluncurkan kampanye bersama bertajuk Facts In: Facts Out yang menyerukan agar perusahaan AI bertanggung jawab atas cara produk mereka mengelola dan menyebarkan berita.

Dalam pernyataannya, penyelenggara kampanye mengatakan, ketika sistem ini mendistorsi, salah mengutip, atau mengeluarkan berita dari konteksnya, mereka merusak kepercayaan publik.

"Tuntutan kampanye ini sederhana: Jika yang masuk adalah fakta, maka yang keluar juga harus fakta. Alat AI tidak boleh mengorbankan integritas berita yang mereka gunakan," ujarnya.

Artikel ini pernah tayang di DW Indonesia dengan judul: Studi Ungkap Empat Chatbot AI Ini Beri Jawaban Menyesatkan.

Baca juga: Sengaja Pakai AI, Jepang Rilis Mengerikannya Letusan Gunung Fuji