Kredit: Domain Publik Pixabay/CC0
Rumah sakit telah mulai menggunakan “alat pendukung keputusan” yang didukung oleh kecerdasan buatan yang dapat mendiagnosis penyakit, menyarankan pengobatan, atau memprediksi hasil operasi. Tapi tidak ada algoritme yang selalu benar, jadi bagaimana dokter tahu kapan harus mempercayai rekomendasi AI?
Sebuah studi baru yang dipimpin oleh Qian Yang, asisten profesor ilmu informasi di Cornell Ann S. Bowers College of Computing and Information Science, menunjukkan bahwa jika alat AI dapat menasihati dokter seperti rekan kerja—menunjukkan penelitian biomedis relevan yang mendukung keputusan tersebut— maka dokter dapat mempertimbangkan dengan lebih baik manfaat dari rekomendasi tersebut.
Para peneliti akan mempresentasikan studi baru, “Harnessing Biomedical Literature to Calibrate Clinicians’ Trust in AI Decision Support Systems,” pada bulan April di Association for Computing Machinery CHI Conference on Human Factors in Computing Systems.
Sebelumnya, sebagian besar peneliti AI telah mencoba membantu dokter mengevaluasi saran dari alat pendukung keputusan dengan menjelaskan cara kerja algoritme yang mendasarinya, atau data apa yang digunakan untuk melatih AI. Tetapi pendidikan tentang bagaimana AI membuat prediksi tidak cukup, kata Yang. Banyak dokter ingin tahu apakah alat tersebut telah divalidasi dalam uji klinis, yang biasanya tidak terjadi dengan alat ini.
“Pekerjaan utama seorang dokter bukanlah mempelajari cara kerja AI,” kata Yang. “Jika kami dapat membangun sistem yang membantu memvalidasi saran AI berdasarkan hasil uji klinis dan artikel jurnal, yang merupakan informasi tepercaya bagi dokter, maka kami dapat membantu mereka memahami apakah AI mungkin benar atau salah untuk setiap kasus tertentu.”
Untuk mengembangkan sistem ini, para peneliti pertama-tama mewawancarai sembilan dokter dari berbagai spesialisasi, dan tiga pustakawan klinis. Mereka menemukan bahwa ketika dokter tidak setuju dengan tindakan yang tepat, mereka melacak hasil dari penelitian biomedis dan studi kasus yang relevan, dengan mempertimbangkan kualitas setiap studi dan seberapa dekat penerapannya pada kasus yang dihadapi.
Yang dan rekan-rekannya membuat prototipe alat keputusan klinis mereka yang meniru proses ini dengan menghadirkan bukti biomedis di samping rekomendasi AI. Mereka menggunakan GPT-3 untuk menemukan dan meringkas penelitian yang relevan. (ChatGPT adalah cabang GPT-3 yang lebih terkenal, yang disesuaikan untuk dialog manusia.)
“Kami membangun sebuah sistem yang pada dasarnya mencoba menciptakan kembali komunikasi antarpribadi yang kami amati ketika para dokter saling memberi saran, dan mengambil bukti yang sama dari literatur klinis untuk mendukung saran AI,” kata Yang.
Antarmuka untuk alat pendukung keputusan mencantumkan informasi pasien, riwayat medis, dan hasil tes lab di satu sisi, dengan diagnosis AI yang dipersonalisasi atau saran perawatan di sisi lain, diikuti dengan studi biomedis yang relevan. Menanggapi umpan balik dokter, para peneliti menambahkan ringkasan singkat untuk setiap studi, menyoroti rincian populasi pasien, intervensi medis, dan hasil pasien, sehingga dokter dapat dengan cepat menyerap informasi yang paling penting.
Tim peneliti mengembangkan prototipe alat pendukung keputusan untuk tiga spesialisasi—neurologi, psikiatri, dan perawatan paliatif—dan meminta tiga dokter dari masing-masing spesialisasi untuk menguji prototipe tersebut dengan mengevaluasi kasus sampel.
Dalam wawancara, dokter mengatakan bahwa mereka menghargai bukti klinis, menganggapnya intuitif dan mudah dipahami, dan lebih suka penjelasan tentang cara kerja AI.
“Ini metode yang sangat bisa digeneralisasikan,” kata Yang. Jenis pendekatan ini dapat bekerja untuk semua spesialisasi medis dan aplikasi lain yang memerlukan bukti ilmiah, seperti platform tanya jawab untuk menjawab pertanyaan pasien atau bahkan pemeriksaan fakta otomatis dari berita terkait kesehatan. “Saya berharap melihatnya tertanam dalam berbagai jenis sistem AI yang sedang dikembangkan, sehingga kami dapat membuatnya berguna untuk praktik klinis.”
Informasi lebih lanjut: Memanfaatkan Literatur Biomedis untuk Mengkalibrasi Kepercayaan Dokter pada Sistem Pendukung Keputusan AI (2023). DOI: 10.1145/3544548.3581393. www.researchgate.net/publication/367295941
Disediakan oleh Universitas Cornell
Kutipan: Alat AI mendapatkan kepercayaan dokter dengan memberikan saran seperti rekan kerja (2023, 4 April) diambil 5 April 2023 dari https://medicalxpress.com/news/2023-04-ai-tool-gains-doctors-advice.html
Dokumen ini tunduk pada hak cipta. Terlepas dari kesepakatan yang adil untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.