Kelemahan Pembelajaran Mesin dalam Perawatan Kesehatan | Berita MIT

Saat mempersiapkan tesisnya dalam ilmu komputer di MIT, Marzyeh Ghassemi menulis beberapa artikel tentang bagaimana teknik pembelajaran mesin dari kecerdasan buatan dapat diterapkan pada data klinis untuk memprediksi hasil pasien. “Baru pada akhir pekerjaan PhD saya, salah satu anggota komite saya bertanya kepada saya, ‘Pernahkah Anda memeriksa apakah model Anda bekerja dengan baik di kelompok orang yang berbeda?'”

Pertanyaan ini membuka mata bagi Ghassemi, yang sebelumnya menilai kinerja model secara keseluruhan, untuk semua pasien. Melihat lebih dekat, dia melihat bahwa polanya sering bekerja secara berbeda — terutama lebih buruk — untuk populasi yang mencakup wanita kulit hitam, sebuah wahyu yang mengejutkannya. “Saya tidak membuat hubungan sebelumnya bahwa disparitas kesehatan akan diterjemahkan langsung menjadi disparitas model,” katanya. “Dan mengingat saya adalah ilmuwan komputer yang mengidentifikasi minoritas di MIT, saya cukup yakin banyak orang lain juga tidak menyadari hal ini.”

Dalam sebuah artikel yang diterbitkan pada 14 Januari di jurnal Pola, Ghassemi – yang menerima gelar doktor pada tahun 2017 dan sekarang menjadi asisten profesor di Departemen Teknik Elektro dan Ilmu Komputer dan Institut MIT untuk Teknik dan Sains Medis (IMES) – dan rekan penulisnya, Elaine Okanyene Nsoesie dari Universitas Boston, menawarkan catatan peringatan tentang prospek AI dalam kedokteran. “Jika digunakan dengan hati-hati, teknologi ini dapat meningkatkan kinerja perawatan kesehatan dan berpotensi mengurangi ketidakadilan,” kata Ghassemi. “Tetapi jika kita tidak benar-benar berhati-hati, teknologi dapat memperburuk keadaan.”

Semuanya bermuara pada data, mengingat alat AI yang dimaksud melatih dengan memproses dan menganalisis data dalam jumlah besar. Tetapi data yang diberikan kepada mereka dihasilkan oleh manusia, yang dapat salah dan penilaiannya dapat dikaburkan oleh fakta bahwa mereka berinteraksi secara berbeda dengan pasien menurut usia, jenis kelamin, dan ras, tanpa menyadarinya.

Selain itu, masih ada ketidakpastian besar tentang kondisi medis itu sendiri. “Dokter yang dilatih di sekolah kedokteran yang sama selama 10 tahun dapat, dan sering kali, tidak setuju dengan diagnosis pasien,” kata Ghassemi. Ini berbeda dari aplikasi di mana algoritme pembelajaran mesin yang ada unggul – seperti tugas pengenalan objek – karena hampir semua orang di dunia akan setuju bahwa seekor anjing, pada kenyataannya, adalah seekor anjing.

Algoritme pembelajaran mesin juga berhasil dengan baik dalam menguasai permainan seperti catur dan permainan, di mana aturan dan “kondisi kemenangan” didefinisikan dengan jelas. Akan tetapi, para dokter tidak selalu menyetujui aturan untuk merawat pasien, dan bahkan syarat menang “dalam kesehatan yang baik” tidak diterima secara luas. “Dokter tahu apa artinya sakit,” kata Ghassemi, “dan kami memiliki data terbanyak untuk orang-orang saat mereka paling sakit. Tetapi kami tidak mendapatkan banyak data tentang orang-orang ketika mereka sehat karena mereka cenderung tidak menemui dokter saat itu.

Bahkan perangkat mekanis dapat berkontribusi pada data yang salah dan perbedaan pemrosesan. Oksimeter nadi, misalnya, yang telah dikalibrasi terutama pada orang berkulit terang, tidak secara akurat mengukur kadar oksigen darah pada orang berkulit gelap. Dan kekurangan ini paling akut ketika kadar oksigen rendah – tepatnya ketika pembacaan yang akurat paling mendesak. Demikian pula, wanita menghadapi peningkatan risiko selama penggantian pinggul “logam-ke-logam”, tulis Ghassemi dan Nsoesie, “sebagian karena perbedaan anatomi yang tidak diperhitungkan dalam desain implan.” Fakta seperti ini dapat terkubur dalam data yang diumpankan ke model komputer yang hasilnya akan dikompromikan.

Berasal dari komputer, produk algoritma pembelajaran mesin menawarkan “kemilau objektivitas”, menurut Ghassemi. Tapi itu bisa menyesatkan dan berbahaya, karena lebih sulit untuk menggali data yang salah yang dimasukkan secara massal ke komputer daripada mengabaikan rekomendasi dari seorang dokter yang mungkin tidak kompeten (dan mungkin bahkan rasis). “Masalahnya bukan pembelajaran mesin itu sendiri,” dia bersikeras. “Orang-orangnya. Pengasuh manusia terkadang menghasilkan data yang buruk karena mereka tidak sempurna.

Meskipun demikian, ia tetap percaya bahwa pembelajaran mesin dapat memberikan manfaat dalam perawatan kesehatan dalam hal rekomendasi dan praktik yang lebih efisien dan adil. Salah satu kunci untuk mewujudkan janji pembelajaran mesin dalam perawatan kesehatan adalah meningkatkan kualitas data, yang bukanlah tugas yang mudah. “Bayangkan jika kita dapat mengambil data dari dokter yang berkinerja lebih baik dan membaginya dengan dokter lain yang kurang pelatihan dan pengalaman,” kata Ghassemi. “Kami benar-benar perlu mengumpulkan data ini dan mengauditnya.”

Tantangannya di sini adalah bahwa pengumpulan data tidak diberi insentif atau penghargaan, katanya. “Tidak mudah mendapatkan beasiswa untuk ini, atau meminta siswa untuk mencurahkan waktu untuk itu. Dan penyedia data mungkin berkata, “Mengapa saya harus memberikan data saya secara gratis jika saya dapat menjualnya ke perusahaan dengan harga jutaan?” Tetapi peneliti harus dapat mengakses data tanpa harus menjawab pertanyaan seperti, “Kertas apa yang akan saya cantumkan nama saya sebagai imbalan untuk memberi Anda akses ke data di institusi saya? »

“Satu-satunya cara untuk mendapatkan perawatan kesehatan yang lebih baik adalah dengan mendapatkan data yang lebih baik,” kata Ghassemi, “dan satu-satunya cara untuk mendapatkan data yang lebih baik adalah dengan mendorongnya untuk dirilis.”

Ini bukan hanya tentang mengumpulkan data. Ada juga pertanyaan tentang siapa yang akan mengumpulkan dan memverifikasinya. Ghassemi merekomendasikan untuk menyatukan beragam kelompok peneliti — dokter, ahli statistik, ahli etika medis, dan ilmuwan komputer — untuk pertama-tama mengumpulkan data pasien yang beragam dan kemudian “berfokus pada pengembangan peningkatan perawatan kesehatan yang adil dan merata yang dapat diluncurkan.” tidak hanya di tingkat lanjut pengaturan medis, tetapi dalam berbagai konteks medis.

Tujuan dari Alasan makalah ini tidak menyurutkan teknolog untuk membawa keahlian pembelajaran mesin mereka ke dunia medis, katanya. “Mereka hanya perlu menyadari celah yang muncul dalam pemrosesan dan kerumitan lain yang perlu dipertimbangkan sebelum memberikan persetujuan pada model komputasi tertentu.”

.

Leave a Comment