Getty Images

Ang Artificial Intelligence (AI) ay mabilis na kumikilos at magiging isang mahalagang tool sa suporta sa klinikal na pangangalaga. Iminumungkahi ng pananaliksik na ang mga algorithm ng AI ay maaaring tumpak tuklasin ang mga melanoma at hulaan ang mga hinaharap na kanser sa suso.

Ngunit bago maisama ang AI sa nakagawiang klinikal na paggamit, dapat nating tugunan ang hamon ng algorithmic bias. Maaaring may likas na bias ang mga algorithm ng AI na maaaring humantong sa diskriminasyon at mga isyu sa privacy. Ang mga AI system ay maaari ding gumawa ng mga desisyon nang walang kinakailangang pangangasiwa o input ng tao.

 Ang isang halimbawa ng mga potensyal na mapaminsalang epekto ng AI ay nagmula sa isang internasyonal na proyekto na naglalayong gamitin ang AI upang iligtas ang mga buhay sa pamamagitan ng pagbuo ng mga tagumpay na medikal na paggamot. Sa isang eksperimento, binaligtad ng team ang kanilang "mahusay" na modelo ng AI upang lumikha ng mga opsyon para sa isang bagong modelo ng AI na gumawa ng "kapinsalaan."

Sa wala pang anim na oras ng pagsasanay, ang binaliktad na AI algorithm ay nakabuo ng libu-libong potensyal na ahente ng pakikipagdigma sa kemikal, na may mas maraming mas mapanganib kaysa sa mga kasalukuyang ahente ng digmaan. Isa itong matinding halimbawa tungkol sa mga kemikal na compound, ngunit nagsisilbi itong wake-up call upang suriin ang mga alam at hindi maiisip na etikal na kahihinatnan ng AI.

AI sa klinikal na pangangalaga

Sa medisina, nakikitungo kami sa mga pinakapribadong data ng mga tao at kadalasang mga desisyon na nagbabago sa buhay. Ang matatag na mga framework ng etika ng AI ay kinakailangan.

Ang Australian Epilepsy Project naglalayong mapabuti ang buhay ng mga tao at gawing mas malawak na magagamit ang klinikal na pangangalaga. Batay sa advanced na brain imaging, genetic at cognitive na impormasyon mula sa libu-libong taong may epilepsy, plano naming gamitin ang AI upang sagutin ang kasalukuyang hindi masasagot na mga tanong.

Magpapatuloy ba ang mga seizure ng taong ito? Aling gamot ang pinakamabisa? Ang operasyon ba sa utak ay isang praktikal na opsyon sa paggamot? Ito ang mga pangunahing katanungan na pilit na pinagsisikapan ng modernong medisina.

Bilang nangunguna sa AI sa proyektong ito, ang pangunahing alalahanin ko ay ang AI ay mabilis na gumagalaw at ang pangangasiwa ng regulasyon ay minimal. Ang mga isyung ito ang dahilan kung bakit kamakailan naming itinatag ang isang etikal na balangkas para sa paggamit ng AI bilang isang tool sa klinikal na suporta. Nilalayon ng framework na ito na tiyaking bukas, ligtas at mapagkakatiwalaan ang aming mga teknolohiya ng AI, habang pinapaunlad ang pagiging inklusibo at pagiging patas sa klinikal na pangangalaga.

Kaya paano natin ipapatupad ang etika ng AI sa medisina upang mabawasan ang bias at mapanatili ang kontrol sa mga algorithm? Nalalapat sa AI ang prinsipyo ng computer science na "basura sa loob, basura palabas." Ipagpalagay na mangolekta kami ng biased data mula sa maliliit na sample. Ang aming mga algorithm ng AI ay malamang na maging bias at hindi maaaring kopyahin sa isa pang klinikal na setting.

Ang mga halimbawa ng mga bias ay hindi mahirap hanapin sa mga kontemporaryong modelo ng AI. Ang mga sikat na modelo ng malalaking wika (halimbawa ng ChatGPT) at mga modelo ng latent diffusion (DALL-E at Stable Diffusion) ay nagpapakita kung paano tahasang pagkiling patungkol sa kasarian, etnisidad at socioeconomic status ay maaaring mangyari.

Natuklasan ng mga mananaliksik na ang mga simpleng prompt ng user ay bumubuo ng mga larawang nagpapanatili ng mga stereotype ng etniko, kasarian at klase. Halimbawa, isang prompt para sa isang doktor bumubuo ng karamihan mga larawan ng mga lalaking doktor, na hindi naaayon sa katotohanan dahil halos kalahati ng lahat ng mga doktor sa mga bansa ng OECD ay babae.

Ligtas na pagpapatupad ng medikal na AI

Ang solusyon sa pagpigil sa pagkiling at diskriminasyon ay hindi maliit. Ang pagpapagana ng pagkakapantay-pantay sa kalusugan at pagpapatibay ng pagiging inklusibo sa mga klinikal na pag-aaral ay malamang na kabilang sa pangunahing solusyon sa paglaban sa mga bias sa medikal na AI.

Nakapagpapalakas ng loob, ang US Food and Drug Administration ay nagmungkahi kamakailan ginagawang mandatory ang pagkakaiba-iba sa mga klinikal na pagsubok. Ang panukalang ito ay kumakatawan sa isang hakbang patungo sa hindi gaanong pinapanigan at nakabatay sa komunidad na mga klinikal na pag-aaral.

Ang isa pang balakid sa pag-unlad ay ang limitadong pagpopondo sa pananaliksik. Ang mga algorithm ng AI ay karaniwang nangangailangan ng malaking halaga ng data, na maaaring magastos. Napakahalagang magtatag ng mga pinahusay na mekanismo ng pagpopondo na nagbibigay sa mga mananaliksik ng mga kinakailangang mapagkukunan upang mangalap ng data na may kaugnayan sa klinikal na naaangkop para sa mga aplikasyon ng AI.

Nagtatalo din kami na dapat naming palaging alam ang panloob na mga gawain ng mga algorithm ng AI at maunawaan kung paano nila naaabot ang kanilang mga konklusyon at rekomendasyon. Ang konseptong ito ay madalas na tinutukoy bilang "pagpapaliwanag" sa AI. Nauugnay ito sa ideya na ang mga tao at mga makina ay dapat magtulungan para sa pinakamainam na mga resulta.

Mas gusto naming tingnan ang pagpapatupad ng hula sa mga modelo bilang "pinalaki" sa halip na "artipisyal" na katalinuhan - ang mga algorithm ay dapat na bahagi ng proseso at ang mga medikal na propesyon ay dapat manatiling may kontrol sa paggawa ng desisyon.

Bilang karagdagan sa paghikayat sa paggamit ng mga maipaliwanag na algorithm, sinusuportahan namin ang transparent at bukas na agham. Dapat na mag-publish ang mga siyentipiko ng mga detalye ng mga modelo ng AI at ang kanilang pamamaraan para mapahusay ang transparency at reproducibility.

Ano ang kailangan natin sa Aotearoa New Zealand para matiyak ang ligtas na pagpapatupad ng AI sa pangangalagang medikal? Pangunahing pinangunahan ng mga eksperto sa larangan ang mga alalahanin sa etika ng AI. Gayunpaman, naka-target ang mga regulasyon ng AI, gaya ng EU-based Artificial Intelligence Act ay iminungkahi, na tumutugon sa mga etikal na pagsasaalang-alang na ito.

Ang batas ng European AI ay tinatanggap at poprotektahan ang mga taong nagtatrabaho sa loob ng "ligtas na AI". Inilabas kamakailan ng gobyerno ng UK ang kanilang proactive na diskarte sa regulasyon ng AI, na nagsisilbing blueprint para sa iba pang mga tugon ng pamahalaan sa kaligtasan ng AI.

Sa Aotearoa, pinagtatalunan namin ang pagpapatibay ng isang maagap sa halip na reaktibong paninindigan sa kaligtasan ng AI. Magtatatag ito ng etikal na balangkas para sa paggamit ng AI sa klinikal na pangangalaga at iba pang mga larangan, na magbubunga ng madaling kahulugan, secure at walang pinapanigan na AI. Dahil dito, lalago ang ating kumpiyansa na ang makapangyarihang teknolohiyang ito ay nakikinabang sa lipunan habang pinangangalagaan ito mula sa pinsala.

Tungkol sa Ang May-akda

Mangor Pedersen, Associate Professor ng Psychology at Neuroscience, Auckland University of Technology

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.

Mga Kaugnay na Libro:

The Body Keeps the Score: Brain Mind and Body in the Healing of Trauma

ni Bessel van der Kolk

Tinutuklas ng aklat na ito ang mga koneksyon sa pagitan ng trauma at pisikal at mental na kalusugan, na nag-aalok ng mga insight at diskarte para sa pagpapagaling at pagbawi.

I-click para sa karagdagang impormasyon o para mag-order

Paghinga: Ang Bagong Agham ng Nawalang Sining

ni James Nestor

Sinasaliksik ng aklat na ito ang agham at kasanayan sa paghinga, na nag-aalok ng mga insight at diskarte para sa pagpapabuti ng pisikal at mental na kalusugan.

I-click para sa karagdagang impormasyon o para mag-order

The Plant Paradox: Ang Mga Nakatagong Panganib sa "Malulusog" na Pagkaing Nagdudulot ng Sakit at Pagtaas ng Timbang

ni Steven R. Gundry

Tinutuklas ng aklat na ito ang mga link sa pagitan ng diyeta, kalusugan, at sakit, na nag-aalok ng mga insight at diskarte para sa pagpapabuti ng pangkalahatang kalusugan at kagalingan.

I-click para sa karagdagang impormasyon o para mag-order

The Immunity Code: The New Paradigm for Real Health and Radical Anti-Aging

ni Joel Greene

Ang aklat na ito ay nag-aalok ng bagong pananaw sa kalusugan at kaligtasan sa sakit, na kumukuha sa mga prinsipyo ng epigenetics at nag-aalok ng mga insight at diskarte para sa pag-optimize ng kalusugan at pagtanda.

I-click para sa karagdagang impormasyon o para mag-order

Ang Kumpletong Gabay sa Pag-aayuno: Pagalingin ang Iyong Katawan sa Pamamagitan ng Pasulput-sulpot, Kahaliling Araw, at Pinahabang Pag-aayuno

ni Dr. Jason Fung at Jimmy Moore

Tinutuklas ng aklat na ito ang agham at kasanayan ng pag-aayuno na nag-aalok ng mga insight at diskarte para sa pagpapabuti ng pangkalahatang kalusugan at kagalingan.

I-click para sa karagdagang impormasyon o para mag-order