[비즈한국] Jika kecerdasan buatan (AI) sedang mengubah paradigma pengembangan obat baru di perusahaan farmasi dan bioteknologi, di bidang medis perannya kini meluas melampaui sekadar membantu diagnosis dokter hingga ke ranah pembuatan pendapat klinis yang diperlukan untuk pengambilan keputusan. Dengan munculnya AI generatif yang tidak hanya berhenti pada menemukan bagian yang tidak normal dalam citra medis, tetapi juga mampu membuat draf laporan pembacaan, era yang disebut 'AI Medis 2.0' kini tengah dimulai secara nyata.
Perusahaan AI medis, Deepnoid, memperoleh izin produk untuk solusi rontgen dada berbasis AI generatif 'M4CXR' dari Kementerian Keamanan Pangan dan Obat-obatan pada bulan April lalu. Pada tanggal 3, perusahaan tersebut menandatangani kontrak pasokan pertamanya dengan Rumah Sakit Universitas Nasional Pusan dan mempercepat komersialisasi produknya.
Rumah Sakit Universitas Nasional Pusan adalah rumah sakit umum tersier dengan sekitar 1.200 tempat tidur dan merupakan institusi medis pusat regional. Fakta bahwa sebuah rumah sakit besar di Korea telah mengadopsi solusi pembacaan citra berbasis AI generatif ke dalam lingkungan klinis nyata menarik perhatian apakah hal ini akan menjadi katalisator bagi adopsi di institusi medis lainnya di masa depan.
Dengan AI generatif yang mengotomatisasi sebagian besar proses pembacaan, produktivitas kerja di lingkungan klinis diharapkan meningkat secara signifikan. Namun, seiring dengan berkembangnya AI melampaui alat bantu diagnosis sederhana hingga ke tingkat pembuatan pendapat pembacaan dan penyajian informasi yang diperlukan untuk penilaian klinis, pertanyaan mengenai siapa yang harus bertanggung jawab atas kesalahan AI pun mulai menjadi perdebatan.
Melampaui Tingkat Bantuan Diagnosis hingga Penulisan Laporan
AI medis generasi pertama seperti Lunit dan Vuno membantu diagnosis staf medis dengan cara menandai lokasi yang dicurigai adanya lesi pada citra dan menyajikan nilai probabilitas. Staf medis kemudian membuat penilaian akhir setelah mengonfirmasi lesi yang ditandai oleh AI, dikombinasikan dengan pengalaman klinis mereka sendiri dan kondisi pasien. AI hanyalah alat yang membantu penilaian dokter.
M4CXR yang berbasis AI generatif melangkah lebih jauh dari itu. Dengan memanfaatkan LMM (Large Multimodal Model) dan metode penalaran berbasis CoT (Chain of Thought), solusi ini menganalisis citra rontgen dada dan menghasilkan draf laporan pembacaan dalam bentuk bahasa alami. Dengan kata lain, AI tidak hanya memberi tahu bahwa 'ada bagian yang tidak normal', tetapi juga merangkum karakteristik yang ditemukan dalam citra ke dalam bentuk kalimat hasil pembacaan yang dapat langsung digunakan oleh staf medis.
Dibandingkan dengan model bahasa besar umum seperti ChatGPT, akurasi lokasi lesi meningkat dua kali lipat lebih tinggi, sementara tingkat halusinasi turun hingga di bawah 0,2%, sehingga dunia medis menilai hasil yang dihasilkan saat ini setara dengan tingkat residen tahun ke-2 atau ke-3. Namun, akurasi dan kelengkapannya dapat menjadi lebih tinggi lagi jika terus dipelajari berdasarkan data klinis nyata.
Dunia medis berharap AI generatif semacam ini akan sangat mengurangi beban kerja staf medis radiologi. Terutama saat ini, sekitar 95% rontgen dada dalam pemeriksaan kesehatan umum dinyatakan normal; jika AI dapat memilah citra normal dengan akurasi tinggi, akan tercipta lingkungan di mana staf medis dapat lebih fokus pada citra yang memiliki kemungkinan abnormalitas.
Kim Sung-hyun, Kepala Human Radiology Center, menilai M4CXR dengan mengatakan, "Hanya dengan AI generatif yang melakukan pra-penyaringan 95% kasus normal dengan presisi tinggi, beban kerja pembacaan dokter secara keseluruhan akan berkurang secara signifikan. Karena AI juga membuatkan draf laporan pembacaan, dokter hanya perlu melakukan tinjauan dan persetujuan akhir. Akhirnya, hadirlah solusi AI yang layak untuk dibeli dengan uang."
Daya saing perangkat medis AI generatif tidak hanya terletak pada seberapa baik ia menemukan lesi, tetapi juga pada seberapa banyak beban kerja nyata staf medis yang dapat dikurangi.
“Tenaga Kerja 0, tapi Tanggung Jawab 100?” Paradoks Era AI Otonom
Jika AI hanya sebatas menemukan lesi pada citra, dokter berperan dalam membuat penilaian akhir. Namun, jika AI menganalisis citra dan membuat pendapat pembacaan, dokter akan lebih fokus pada peran memeriksa dan menyetujui hasil yang dibuat oleh AI.
Di dunia medis Amerika Serikat, diskusi mengenai masalah tanggung jawab akibat perubahan ini mulai dilakukan secara serius. American Medical Association (AMA) membagi AI medis ke dalam konsep bantuan, augmentasi, dan otonom, sambil menekankan prinsip bahwa AI harus digunakan di bawah pengawasan dan tanggung jawab manusia alih-alih menggantikan penilaian staf medis.
Namun, terdapat masalah bahwa semakin besar peran AI, semakin kabur batas tanggung jawabnya. Muncul kritik mengenai kontradiksi di mana saat kita menyatakan bahwa tugas didelegasikan kepada AI, AI melampaui sekadar alat bantu dan menjadi subjek tindakan tertentu, namun tanggung jawab justru tetap dibebankan kepada dokter.
Choi Yoon-seop, CEO Digital Healthcare Partners (DHP), menunjukkan, "Perangkat medis sederhana seperti stetoskop atau termometer bukanlah objek di mana dokter mendelegasikan tugasnya. Pendelegasian hanya bisa dilakukan kepada entitas yang memiliki kapasitas hukum seperti dokter residen atau dokter magang, dan itulah yang dimaksud dengan menyatakan bahwa AI juga demikian."
Jika AI telah berkembang hingga ke tingkat melakukan tugas dokter, siapa yang harus menanggung akibatnya? Menganggap bahwa dokter dapat memprediksi dan mengendalikan seluruh proses penilaian dan kesalahan AI saat terjadi kecelakaan medis adalah masalah lain.
Perubahan ini juga terlihat dalam sistem AI medis di Amerika Serikat. Sementara sistem pembayaran (biaya layanan) didasarkan pada asumsi bahwa AI melakukan sebagian besar tindakan medis, diskusi mengenai masalah tanggung jawab hukum justru berpusat pada peran dan tanggung jawab praktisi medis manusia.
Centers for Medicare & Medicaid Services (CMS) di AS, saat menetapkan biaya untuk 'CPT 92229' yang diberikan untuk prosedur medis pendeteksian penyakit retina menggunakan AI otonom, menetapkan beban kerja dokter—yang mencakup waktu, keterampilan, upaya, dan penilaian klinis yang diperlukan bagi dokter untuk melakukan tindakan tersebut—sebesar '0'. Ini berarti pekerjaan yang dilakukan langsung oleh dokter dalam prosedur ini tidak dihitung sebagai beban kerja dokter yang terpisah.
Di sisi lain, masalah tanggung jawab hukum atas kecelakaan medis sangat kompleks. Meskipun AI terlibat secara mendalam dalam prosedur medis, sistem tanggung jawab medis di bawah hukum medis AS saat ini pada dasarnya berpusat pada penilaian dan tindakan praktisi medis berlisensi. Oleh karena itu, perdebatan mengenai siapa dan sejauh mana tanggung jawab harus dipikul oleh praktisi medis, institusi medis, dan pengembang AI ketika AI membuat penilaian yang salah terus berkembang.
Pada akhirnya, meskipun ranah di mana AI berpartisipasi dalam tindakan medis semakin meluas di Amerika Serikat, standar kompensasi dan tanggung jawab yang menyertainya berubah dengan kecepatan yang berbeda.
Itulah sebabnya muncul kritik bahwa jika AI menggantikan sebagian besar tindakan medis namun kompensasi untuk tenaga kerja langsung dokter tidak diakui, sementara dokter tetap harus memikul tanggung jawab atas kesalahan AI, maka terjadi ketidakseimbangan antara tanggung jawab dan kompensasi.
Kim Sung-hyun, Kepala Human Radiology Center, juga menunjukkan, "Tugas di mana AI membaca secara mandiri akan meningkat, dan jika dokter dimintai pertanggungjawaban ketika terjadi kecelakaan medis, akan muncul penolakan seperti 'Mengapa dokter harus bertanggung jawab padahal dia bahkan tidak membaca secara langsung?'. Belum ada sistem nasional atau konsensus sosial mengenai hal ini sama sekali."
Kwon Min-ji, pengacara mitra di firma hukum Doa, menyatakan, "Meskipun AI telah membuat pendapat pembacaan, jika dokter memberikan persetujuan akhir dan terjadi kesalahan diagnosis, maka berdasarkan hukum yang berlaku, tanggung jawab akan dipikul oleh dokter yang membuat keputusan akhir, bukan asistennya." Ia menambahkan, "Mempertimbangkan standar medis, lingkungan perawatan, dan kekhasan tindakan medis pada saat kejadian, hal ini akan dinilai berdasarkan apakah ada pelanggaran kewajiban kehati-hatian oleh dokter yang melakukan tindakan persetujuan tersebut."