Penyalahgunaan, merugikan 'tak terelakkan'! WHO menyoroti risiko AI terhadap layanan kesehatan

Penyalahgunaan, merugikan 'tak terelakkan'!  WHO menyoroti risiko AI terhadap layanan kesehatan

Road.co.id

Kecerdasan buatan generatif dapat mengubah layanan kesehatan melalui hal-hal seperti pengembangan obat dan diagnosis yang lebih cepat, namun Organisasi Kesehatan Dunia (WHO) menekankan pada hari Kamis bahwa lebih banyak perhatian harus diberikan terhadap risikonya.

WHO telah mengkaji potensi bahaya dan manfaat yang ditimbulkan oleh model multi-modal besar (LMM) AI, yang relatif baru dan segera diadopsi di bidang kesehatan.

LMM adalah jenis AI generatif yang dapat menggunakan berbagai jenis masukan data, termasuk teks, gambar, dan video, serta menghasilkan keluaran yang tidak terbatas pada jenis data yang dimasukkan ke dalam algoritme.

Kami sekarang ada di WhatsApp. Klik untuk bergabung.

“LMM diperkirakan akan memiliki kegunaan dan penerapan luas dalam layanan kesehatan, penelitian ilmiah, kesehatan masyarakat, dan pengembangan obat,” kata WHO.

Badan kesehatan PBB menguraikan lima bidang luas di mana teknologi ini dapat diterapkan.

Hal ini adalah: diagnosis, seperti menanggapi pertanyaan tertulis pasien; penelitian ilmiah dan pengembangan obat; pendidikan kedokteran dan keperawatan; tugas-tugas administrasi; dan penggunaan yang dipandu pasien, seperti menyelidiki gejala.

– Penyalahgunaan, kerugian yang 'tak terhindarkan' –

Meskipun hal ini mempunyai potensi, WHO memperingatkan bahwa terdapat risiko yang terdokumentasi bahwa LMM dapat memberikan hasil yang salah, tidak akurat, bias, atau tidak lengkap.

Mereka mungkin juga dilatih mengenai data berkualitas buruk, atau data yang mengandung bias terkait ras, etnis, keturunan, jenis kelamin, identitas gender, atau usia.

“Seiring dengan penggunaan LMM yang lebih luas dalam layanan kesehatan dan pengobatan, kesalahan, penyalahgunaan, dan pada akhirnya membahayakan individu tidak dapat dihindari,” WHO memperingatkan.

Pada hari Kamis, mereka mengeluarkan rekomendasi mengenai etika dan tata kelola LMM, untuk membantu pemerintah, perusahaan teknologi, dan penyedia layanan kesehatan memanfaatkan teknologi dengan aman.

“Teknologi AI generatif berpotensi meningkatkan layanan kesehatan, namun hanya jika pihak yang mengembangkan, mengatur, dan menggunakan teknologi ini mengidentifikasi dan sepenuhnya memperhitungkan risiko terkait,” kata kepala ilmuwan WHO Jeremy Farrar.

“Kami memerlukan informasi dan kebijakan yang transparan untuk mengelola desain, pengembangan, dan penggunaan LMM.”

WHO mengatakan aturan tanggung jawab diperlukan untuk “memastikan bahwa pengguna yang dirugikan oleh LMM mendapat kompensasi yang memadai atau mendapatkan bentuk ganti rugi lainnya”.

– Peran raksasa teknologi –

AI sudah digunakan dalam diagnosis dan perawatan klinis, misalnya untuk membantu dalam radiologi dan pencitraan medis.

Namun WHO menekankan bahwa format LMM menghadirkan “risiko yang mungkin belum siap ditangani oleh masyarakat, sistem kesehatan, dan pengguna akhir”.

Hal ini mencakup kekhawatiran mengenai apakah LMM mematuhi peraturan yang ada, termasuk dalam hal perlindungan data — dan fakta bahwa LMM sering kali dikembangkan oleh raksasa teknologi, karena besarnya sumber daya yang dibutuhkan, sehingga dapat memperkuat dominasi perusahaan-perusahaan tersebut.

Panduan tersebut merekomendasikan bahwa LMM harus dikembangkan tidak hanya oleh ilmuwan dan insinyur saja tetapi juga melibatkan para profesional medis dan pasien.

WHO juga memperingatkan bahwa LMM rentan terhadap risiko keamanan siber yang dapat membahayakan informasi pasien, atau bahkan penyediaan layanan kesehatan yang dapat dipercaya.

Dikatakan bahwa pemerintah harus menugaskan regulator untuk menyetujui penggunaan LMM dalam layanan kesehatan, dan harus ada audit dan penilaian dampak.

Baca juga berita utama hari ini:

Samsung vs Apple! Samsung meluncurkan seri Galaxy S24 dengan fitur AI untuk menciptakan dominasi di pasar. Bisakah ia mendapatkan kembali tahta ponsel pintar setelah kalah dari Apple pada tahun 2023? Lihat bagaimana Samsung ingin mengalahkan Apple di sini.

Samsung Galaxy S24 diluncurkan! Smartphone andalan terbaru Samsung diluncurkan dengan peningkatan fitur pada acara Galaxy Unpacked di California. Ini akan berhadapan langsung dengan Apple iPhone 15. Simak perbandingan spesifikasi antara Samsung Galaxy S24 dan iPhone 15. Ketahui perbedaannya dengan rival utamanya di sini.

Robot yang “tepat”! Setinggi boneka beruang dan dilengkapi dengan AI generatif, Moxie mampu berinteraksi dengan anak-anak yang bercerita, memberikan pelajaran matematika, dan melakukan gerakan tarian dengan dua tangan. Ingin tahu lebih banyak? Baca di sini.

You might also like