Kapsultekno.com - Penggunaan chatbot berbasis kecerdasan buatan (AI) untuk meminta saran medis dapat “berbahaya”, menurut sebuah studi terbaru yang dipublikasikan di jurnal Nature Medicine.

Penelitian ini, dipimpin oleh Oxford Internet Institute dan Nuffield Department of Primary Care Health Sciences di University of Oxford, menemukan bahwa alat AI sering memberikan informasi medis yang tidak konsisten dan menyesatkan kepada pengguna yang mencari bantuan mengenai gejala kesehatan mereka.

Dr. Rebecca Payne, salah satu penulis studi sekaligus praktisi medis umum, memperingatkan,
“Terlepas dari semua hype, AI belum siap untuk mengambil peran sebagai dokter," dikutip dari Anadolu Ajansı.

Baca Juga: Apple Siapkan Siri Jadi Chatbot AI, Saingi ChatGPT dan Google Gemini

Ia menambahkan bahwa pasien perlu menyadari bahwa bertanya kepada model bahasa besar tentang gejala mereka “dapat berbahaya, memberikan diagnosis yang salah dan gagal mengenali ketika diperlukan bantuan mendesak.”

Penelitian ini melibatkan hampir 1.300 partisipan yang diminta menilai berbagai skenario kesehatan seperti gejala sakit kepala parah atau kelelahan berlebihan dan kemudian menentukan kondisi yang mungkin serta langkah tindakan selanjutnya.

Sebagian peserta menggunakan perangkat lunak AI untuk mendapatkan saran, sementara lainnya menggunakan metode tradisional seperti berkonsultasi dengan dokter umum atau pencarian mandiri.

Baca Juga: Wanita Ini Jatuh Cinta pada ChatGPT, Dampak Nyata Chatbot AI terhadap Kehidupan Manusia

Hasil penelitian menunjukkan bahwa meskipun chatbot AI “unggul dalam tes standar pengetahuan medis”, mereka sering menghasilkan kombinasi informasi yang benar dan salah, yang sulit dibedakan oleh pengguna.

Interaksi manusia dengan AI juga menimbulkan tantangan tersendiri karena model-model tersebut belum mampu memahami konteks personal dengan baik.

Lead author Andrew Bean menyoroti bahwa berinteraksi dengan manusia tetap menjadi “tantangan” bagi sistem AI berkinerja tinggi, dan berharap bahwa temuan ini bisa mendorong pengembangan alat yang lebih aman dan berguna di masa depan.

Risiko dan Implikasi bagi Pengguna

Studi ini memperingatkan bahwa penggunaan chatbot AI dalam konteks medis dapat menimbulkan risiko nyata bagi orang yang mencari bantuan untuk gejala mereka sendiri.

AI memang menunjukkan performa baik pada tes formal, tetapi kemampuan tersebut tidak langsung diterjemahkan ke hasil yang aman atau akurat ketika digunakan oleh orang-orang yang benar-benar sakit atau khawatir tentang kesehatan mereka.

Para peneliti menekankan bahwa pengujian yang lebih ketat dan pengembangan sistem AI yang dirancang untuk memahami konteks interaksi manusia yang kompleks sangat penting sebelum teknologi ini bisa diandalkan dalam bidang kesehatan.

Konsultasi dengan profesional medis tetap menjadi pilihan terbaik untuk diagnosis dan saran tindakan yang tepat.