Kapsultekno.com - Penggunaan chatbot berbasis kecerdasan buatan (AI) seperti ChatGPT dan Google Gemini untuk mencari informasi kesehatan kian meningkat. Namun, studi terbaru mengungkap bahwa alat ini sering memberikan saran medis yang kurang akurat.
Laporan yang dikutip dari Digital Trends menunjukkan bahwa chatbot AI memberikan jawaban yang salah atau menyesatkan dalam sekitar 50% kasus medis tertentu. Temuan ini memperkuat kekhawatiran para ahli terkait keamanan penggunaan AI sebagai sumber konsultasi kesehatan.
Akurasi Rendah, Risiko Tinggi
Dalam sejumlah pengujian, chatbot AI hanya memberikan respons yang benar pada sebagian kecil skenario. Studi lain bahkan menunjukkan tingkat akurasi yang lebih rendah: hanya sekitar 48,4% untuk kondisi darurat dan 35,2% untuk kasus non-darurat.
Masalah utama terletak pada kemampuan AI yang belum konsisten dalam memahami konteks medis kompleks. Dalam beberapa kasus, chatbot gagal mengenali kondisi serius dan justru menyarankan tindakan yang tidak tepat, seperti menunda penanganan medis.
Baca Juga: Studi Oxford Ungkap Bahaya Chatbot AI untuk Konsultasi Medis
Penelitian juga menunjukkan bahwa model AI sering kali memberikan jawaban yang terdengar meyakinkan meski tidak akurat, fenomena yang dikenal sebagai “halusinasi AI”, yakni ketika sistem menghasilkan informasi yang salah namun disajikan seolah-olah benar.
Gagal Mendeteksi Kondisi Darurat
Kekhawatiran semakin meningkat setelah studi lain menemukan bahwa chatbot gagal mengidentifikasi lebih dari separuh kondisi darurat. Dalam sekitar 51,6% kasus, AI justru menyarankan pasien untuk tidak segera mencari bantuan medis.
Kesalahan ini berpotensi fatal, terutama jika pengguna mengandalkan AI sebagai sumber utama dalam mengambil keputusan kesehatan.
Pengguna Tetap Percaya AI
Meski tingkat akurasinya masih dipertanyakan, penggunaan AI untuk konsultasi kesehatan terus meningkat. Survei terbaru menunjukkan sekitar seperempat orang dewasa menggunakan AI untuk mendapatkan saran medis dalam 30 hari terakhir.
Ironisnya, banyak pengguna tetap menilai jawaban AI sebagai lebih terpercaya dibandingkan sumber lain, meski terbukti mengandung kesalahan.
Chatbot AI Tidak Bisa Gantikan Dokter
Para ahli menegaskan bahwa chatbot AI sebaiknya hanya digunakan sebagai alat bantu informasi awal, bukan pengganti tenaga medis profesional. Keterbatasan dalam memahami riwayat kesehatan pasien dan konteks klinis menjadi alasan utama.
Baca Juga: Ini Alasan Chatbot Anthropic Claude Ungguli ChatGPT di App Store
Selain itu, AI juga cenderung lebih mudah “tertipu” oleh bahasa medis yang terdengar meyakinkan, meski isinya salah. Hal ini membuat risiko misinformasi semakin besar dalam konteks kesehatan.