Kekurangan Chatbot AI Sebagai Penyedia Informasi Kesehatan

KOMPAS.com - Banyak orang saat ini menjadikan chatbot kecerdasan buatan (AI) sebagai sumber informasi kesehatan. Namun, sebaiknya jangan langsung percaya begitu saja pada jawaban yang diberikan.

Sebuah studi yang baru-baru ini diterbitkan memberikan gambaran yang suram tentang apakah chatbot AI sebenarnya mampu memberikan nasihat medis kepada masyarakat umum.

Dalam eksperimen tersebut ditemukan bahwa chatbot tidak lebih baik dibandingkan mesin pencari seperti Google, yang selama ini juga dinilai sebagai sumber informasi kesehatan yang masih memiliki banyak keterbatasan, dalam membantu pengguna mengarah pada diagnosis yang tepat atau menentukan langkah yang sebaiknya diambil selanjutnya. 

Bahkan, teknologi AI ini juga dinilai memiliki risiko tersendiri karena terkadang menyajikan informasi yang keliru atau memberikan saran yang berubah drastis hanya karena perbedaan kecil dalam cara pertanyaan diajukan.

Baca juga: Otak Lelah Usai Pakai Chatbot AI di Tempat Kerja? Ini Alasannya

Para peneliti menyimpulkan bahwa tidak ada satu pun model yang dievaluasi dalam eksperimen tersebut yang “siap digunakan dalam pelayanan langsung kepada pasien.”

Studi ini juga disebut sebagai penelitian acak (randomised study) pertama yang secara khusus menguji kemampuan chatbot AI dalam memberikan saran medis kepada publik.

Dalam tiga tahun sejak chatbot AI tersedia untuk umum, pertanyaan tentang kesehatan menjadi salah satu topik paling umum yang ditanyakan pengguna kepada mereka.

Beberapa dokter mengaku sering menemui pasien yang telah berkonsultasi dengan AI untuk mendapatkan opini pertama. 

Produk AI khusus untuk informasi kesehatan

Survei menemukan bahwa sekitar satu dari enam orang dewasa menggunakan chatbot untuk mencari informasi kesehatan setidaknya sekali sebulan.

Perusahaan teknologi AI besar, termasuk Amazon dan OpenAI, telah meluncurkan produk yang secara khusus ditujukan untuk menjawab pertanyaan kesehatan dari pengguna.

Baca juga: Manfaat Digital Detox, Mematikan Internet di Ponsel demi Kesehatan Mental

Dok. Unsplash/solenfeyissa Ilustrasi AI.

Kehadiran alat-alat memicu antusiasme yang besar karena alasan yang baik. Sejumlah model AI diketahui mampu lulus ujian lisensi kedokteran serta bahkan mengungguli dokter dalam menjawab sejumlah kasus diagnostik yang kompleks.

Namun, Adam Mahdi, profesor di Oxford Internet Institute sekaligus penulis senior studi terbaru yang dipublikasikan di Nature Medicine, menilai bahwa pertanyaan medis yang bersifat rapi dan sederhana seperti dalam pengujian tersebut kemungkinan bukan gambaran yang akurat tentang seberapa baik teknologi itu bekerja ketika digunakan oleh pasien di dunia nyata.

"Kedokteran tidak seperti itu. Kedokteran itu berantakan, tidak lengkap, dan bersifat stokastik (ada unsur acak),” kata Mahdi.

Baca juga: Hati-hati, 8 Kebiasaan Sepele Ini Ternyata Bisa Merusak Kesehatan Otak

Ia dan rekan-rekannya menyiapkan sebuah eksperimen. Lebih dari 1.200 peserta Inggris, yang sebagian besar tidak memiliki pelatihan medis, diberi skenario medis terperinci, lengkap dengan gejala, detail gaya hidup umum, dan riwayat medis. 

Para peneliti meminta peserta untuk mengobrol dengan bot AI untuk mengetahui langkah selanjutnya yang tepat, seperti apakah harus memanggil ambulans atau mengobati sendiri di rumah. Mereka menguji chatbot yang tersedia secara komersial seperti ChatGPT dari OpenAI dan Llama dari Meta.