Bisnis.com, JAKARTA - Artificial intelligence (AI) semakin banyak digunakan dalam layanan kesehatan dan mulai menjadi bagian dari praktik kedokteran. Seiring meningkatnya adopsi teknologi tersebut, International Labour Organization (ILO) bersama sejumlah universitas di berbagai negara meneliti pengaruh AI terhadap cara dokter bekerja.

Periset ILO, Janine Berg, mengungkapkan bahwa penelitian tersebut menemukan adanya perbedaan antara dokter yang menggunakan AI dan mereka yang tidak. Perbedaan itu terlihat dalam cara dokter menjalankan proses kerja maupun saat mengambil keputusan dalam menegakkan diagnosis pasien.

Penelitian tersebut menggunakan metode randomized controlled trial (RCT), yakni dengan membagi peserta ke dalam kelompok kontrol dan kelompok intervensi. Metode ini memungkinkan peneliti membandingkan secara langsung dampak penggunaan artificial intelligence (AI) terhadap cara dokter bekerja dan mengambil keputusan klinis.

Para peserta merupakan dokter dengan pengalaman praktik sekitar 11 hingga 14 tahun. Mereka diminta menyelesaikan sejumlah clinical vignettes atau skenario kasus medis. Kelompok pertama menjalani tugas tanpa akses ke AI generatif maupun large language model (LLM), sementara kelompok kedua diperbolehkan memanfaatkan LLM sebagai alat bantu dalam menyusun diagnosis atas kasus-kasus yang diberikan.

"Temuan utama penelitian ini menunjukkan bahwa dokter yang memiliki akses ke large language model menghasilkan diagnosis banding (differential diagnosis) yang lebih baik dibandingkan dokter yang tidak memiliki akses," katanya dalam acara Intersectionality in Action: A Deep Dive with Policymakers & Practitioners on AI, Health Workforce and Serving Vulnerable Indonesian Workers di Jakarta, Rabu, (24/6/2026)

Di Indonesia, dokter yang memperoleh akses ke AI mencatat skor lebih tinggi dibandingkan kelompok yang tidak menggunakan teknologi tersebut. Temuan serupa juga ditemukan di Kenya dan Belanda.

Selain mengukur performa diagnosis, tim peneliti juga menggali pengalaman para dokter saat menggunakan AI. Mereka meminta peserta membagikan manfaat yang dirasakan selama memanfaatkan teknologi tersebut, sekaligus mengidentifikasi berbagai kekhawatiran yang muncul terkait penggunaan AI dalam praktik medis sehari-hari.

Menurut Janine, dalam penelitian ini sebagian besar dokter yang terlibat dalam penelitian ini tidak merasa posisinya terancam oleh kehadiran AI generatif. Jawaban tersebut muncul secara konsisten di Indonesia, Kenya, dan Belanda, dengan tingkat keyakinan paling kuat ditunjukkan oleh para dokter di Belanda.

Bagi mereka, AI lebih dipandang sebagai alat pendukung daripada pengganti profesi dokter. Banyak dokter juga menilai AI justru dapat membantu meningkatkan produktivitas kerja mereka.

Salah seorang dokter bahkan mengungkapkan bahwa dalam praktik sehari-hari, dia biasanya hanya mampu menyusun satu atau dua diagnosis banding. Namun dengan bantuan AI, dia bisa memperoleh lima hingga enam kemungkinan diagnosis yang relevan, dan sebagian besar di antaranya dinilai masuk akal secara klinis.

Meski demikian, penggunaan AI dalam praktik medis juga memunculkan sejumlah kekhawatiran. Salah satu yang paling sering disampaikan dokter adalah penggunaan teknologi tersebut saat berhadapan langsung dengan pasien. Sebagian dokter khawatir ketergantungan pada AI dapat memengaruhi persepsi pasien terhadap kompetensi dan kredibilitas mereka sebagai tenaga medis profesional.

Di samping itu, para dokter juga menyoroti risiko AI hallucination, yakni kondisi ketika AI menghasilkan informasi atau rekomendasi yang terdengar meyakinkan, tetapi tidak didukung oleh fakta atau dasar ilmiah yang akurat. Karena itu, hasil yang diberikan AI tetap perlu ditelaah dan diverifikasi oleh dokter sebelum digunakan sebagai dasar pengambilan keputusan medis.

"Secara keseluruhan para dokter menganggap AI cukup membantu, tetapi sekitar 20 persen respons yang diberikan tidak sepenuhnya akurat. Ketika diperiksa secara manual, beberapa jawaban ternyata tidak sesuai," imbuhnya.

Kekhawatiran lain yang mencuat dalam penelitian ini adalah fenomena automation bias, yakni kecenderungan pengguna untuk terlalu mempercayai rekomendasi atau hasil yang diberikan oleh AI. Kondisi ini berpotensi memengaruhi proses pengambilan keputusan, terutama ketika pengguna mulai menganggap rekomendasi AI sebagai jawaban yang paling benar tanpa melakukan verifikasi lebih lanjut.

Sejumlah dokter mengaku merasakan risiko tersebut dalam praktiknya. Mereka khawatir pada titik tertentu menjadi kurang aktif menggunakan penilaian klinis sendiri dan lebih cenderung mengikuti rekomendasi yang diberikan AI. Situasi ini dinilai dapat mengurangi sikap kritis yang selama ini menjadi bagian penting dalam proses diagnosis dan pengambilan keputusan medis.

Jakarta, CNBC Indonesia - Banyak orang mempercayai hasil dari AI generatif, termasuk chatbot. Namun ternyata hasil chatbot kerap keliru bahkan jauh dari kebenaran.

Sejumlah kasus mencuat terkait hal ini. Misalnya ada model AI yang menghadirkan hasil 'menjilat', terlalu menyetujui kata pengguna, dan omong kosong.

"Halusinasi atau menjilat tidak sepenuhnya menggambarkan sejumlah perilaku tidak jujur sistematis yaang ditunjukkan oleh LLM (Large Language Models)," kata penelitian dari Universitas Princeton, dikutip dari Cnet, Senin (17/11/2025).

Sebagai informasi, LLM melalui tiga fase pelatihan. Pertama adalah pra-pelatihan, yakni saat model belajar dari sejumlah besar data yang dikumpulkan dari internet, buku atau sumber lain.

Berikutnya adalah penyempurnaan instruksi. Jadi model AI akan belajar menanggapi instruksi atau perintah.

Terakhir adalah pembelajaran penguatan dari feedback manusia (RLHF). Ini akan membuat model AI merespon hasil yang dekat dengan apa yang diinginkan atau disukai orang.

Menurut para peneliti dari Princeton, misinformasi AI biasanya terjadi pada tahapan terakhir yakni saat pembelajaran penguatan dari umpan balik manusia. Karena model AI belajar untuk menghasilkan respon sesuai dengan yang diinginkan manusia, alih-alih bersifat jujur.

Tim penelitian juga melakukan perhitungan antara keyakinan internal model AI pada suatu pernyataan dan yang disampaikan pada pengguna. Hasil setelah pelatihan RLHF terlihat dua kali lipat 0,38 menjadi mendekati 1, sementara kepuasan pengguna meningkat menjadi 48%.

Artinya model AI telah belajar memanipulasi evaluator dibandingkan memberikan informasi yang benar terkait permintaan manusia.

Vincent Conitzer dari Universitas Carnegie Mellon, tak terkait dengan penelitian, mengatakan perusahaan penghasil model AI ingin pengguna menikmati teknologi dan jawabannya. Namun keinginan ini pada akhirnya tak selalu baik untuk pengguna.

Dia juga menyinggung soal sistem AI tak bisa menghasilkan jawaban tidak tahu. Jadi model AI akan mencoba menjawab untuk tetap bisa mendapatkan poin dari penggunanya.

"Secara historis, sistem tidak pandai mengatakan 'Saya tidak tahu jawabannya' dan saat mereka tidak tahu jawabannya, mereka mengarang cerita," ucapnya.