Ang AI chatbots ay malawakang ginagamit ng mga negosyo para batiin ang mga customer at sagutin ang kanilang mga tanong – sa telepono man o sa mga website. Natuklasan ng ilang kumpanya na maaari nilang, sa ilang lawak, palitan ang mga tao ng mga makina sa mga tungkulin sa call center.
Gayunpaman, ang mga magagamit na ebidensya ay nagmumungkahi na mayroong mga sektor - tulad ng pangangalaga sa kalusugan at mga mapagkukunan ng tao - kung saan kailangang magsagawa ng matinding pangangalaga tungkol sa paggamit ng mga tool sa frontline na ito, at maaaring kailanganin ang etikal na pangangasiwa.
Ang isang kamakailang, at lubos na nahayag, halimbawa ay ang isang tawag ng chatbot kay Tessa, na ginamit ng National Eating Disorder Association (NEDA) Sa us. Ang organisasyon ay unang nagpapanatili ng isang helpline na pinamamahalaan ng isang kumbinasyon ng mga suweldong empleyado at mga boluntaryo. Ito ay may malinaw na layunin na tulungan ang mga mahihinang tao na dumaranas ng mga karamdaman sa pagkain.
Gayunpaman, sa taong ito, ang organisasyon binuwag nito ang mga tauhan ng helpline, na nagpapahayag na papalitan sila nito ng Tessa chatbot. Ang mga dahilan para dito ay pinagtatalunan. Sinasabi ng mga dating manggagawa na ang shift ay sumunod sa desisyon ng mga tauhan ng helpline na mag-unyon. Ang binanggit ng bise presidente ng NEDA tumaas na bilang ng mga tawag at oras ng paghihintay, pati na rin ang mga legal na pananagutan sa paggamit ng mga boluntaryong kawani.
Anuman ang kaso, pagkatapos ng napakaikling panahon ng operasyon, na-offline si Tessa sa mga ulat na ang chatbot ay nagbigay ng problemadong payo na maaaring magpalala sa mga sintomas ng mga taong humihingi ng tulong para sa mga karamdaman sa pagkain.
Nabalitaan din na Dr Ellen Fitzsimmons-Craft at Dr C Barr Taylor, dalawang highly qualified na mananaliksik na tumulong sa paglikha ng Tessa, ay nagtakda na ang chatbot ay hindi kailanman inilaan bilang isang kapalit para sa isang kasalukuyang helpline o upang magbigay ng agarang tulong sa mga nakakaranas ng matinding sintomas ng eating disorder.
Makabuluhang pag-upgrade
Kaya para saan idinisenyo si Tessa? Ang mga mananaliksik, kasama ang mga kasamahan, ay nakabuo ng isang aaral ng obserbasyon itinatampok ang mga hamon na kanilang kinaharap sa pagdidisenyo ng chatbot na nakabatay sa panuntunan upang makipag-ugnayan sa mga user na nag-aalala tungkol sa mga karamdaman sa pagkain. Ito ay isang kaakit-akit na pagbabasa, naglalarawan ng mga pagpipilian sa disenyo, mga operasyon, mga pitfalls at mga susog.
Ang orihinal na bersyon ng Tessa ay isang tradisyonal, chatbot na nakabatay sa panuntunan, kahit na isang lubos na pino, na isa na sumusunod sa isang paunang natukoy na istraktura batay sa lohika. Hindi ito maaaring lumihis mula sa standardized pre-programmed na mga tugon na na-calibrate ng mga tagalikha nito.
Kasama sa kanilang konklusyon ang sumusunod na punto: "Ang mga chatbot na nakabatay sa panuntunan ay may potensyal na maabot ang malalaking populasyon sa mababang halaga sa pagbibigay ng impormasyon at mga simpleng pakikipag-ugnayan ngunit limitado sa pag-unawa at pagtugon nang naaangkop sa mga hindi inaasahang tugon ng user."
Maaaring lumilitaw na nililimitahan nito ang mga gamit kung saan angkop si Tessa. Kaya paano nito napalitan ang helpline na ginamit ng NEDA? Ang eksaktong hanay ng mga kaganapan ay pinag-uusapan sa gitna ng magkakaibang mga account, ngunit, ayon sa NPR, binago ng nagho-host na kumpanya ng chatbot ang Tessa mula sa isang chatbot na nakabatay sa mga panuntunan na may mga naka-pre-program na tugon sa isa na may "pinahusay na tampok na mga tanong at sagot".
Ang huling bersyon ng Tessa ay isang gumagamit ng generative AI, katulad ng ChatGPT at mga katulad na produkto. Ang mga advanced na AI chatbot na ito ay idinisenyo upang gayahin ang mga pattern ng pakikipag-usap ng tao na may layuning magbigay ng mas makatotohanan at kapaki-pakinabang na mga tugon. Ang pagbuo ng mga naka-customize na sagot na ito ay umaasa sa malalaking database ng impormasyon, kung saan ang mga modelo ng AI ay sinanay na "maunawaan" sa pamamagitan ng iba't ibang mga teknolohikal na proseso: machine learning, malalim na pag-aaral at natural na pagproseso ng wika.
Mga aralin sa pag-aaral
Sa huli, nabuo ng chatbot ang inilarawan bilang potensyal na mapaminsalang mga sagot sa mga tanong ng ilang user. Ang mga sumunod na talakayan ay naglipat ng sisi mula sa isang institusyon patungo sa isa pa. Gayunpaman, nananatili ang punto na posibleng naiwasan ang mga sumunod na pangyayari kung mayroong isang katawan na nagbibigay ng etikal na pangangasiwa, isang "human in the loop" at isang pagsunod sa malinaw na layunin ng orihinal na disenyo ni Tessa.
Mahalagang matuto ng mga aral mula sa mga kasong tulad nito laban sa background ng pagmamadali patungo sa pagsasama ng AI sa iba't ibang system. At habang ang mga kaganapang ito ay naganap sa US, naglalaman ang mga ito ng mga aral para sa mga naghahangad na gawin ito sa ibang mga bansa.
Ang UK ay lilitaw na may medyo pira-pirasong diskarte sa isyung ito. Ang advisory board sa Center for Data Ethics and Innovation (CDEI) ay natunaw kamakailan at ang upuan nito sa mesa ay kinuha ng bagong nabuo na Frontier AI Taskforce. Mayroon ding mga ulat na ang mga AI system ay sinusubok na sa London bilang mga tool upang tulungan ang mga manggagawa - kahit na hindi bilang isang kapalit para sa isang helpline.
Pareho sa mga halimbawang ito ay nagpapakita ng potensyal na tensyon sa pagitan ng mga etikal na pagsasaalang-alang at mga interes sa negosyo. Dapat tayong umasa na sa kalaunan ay magkakatugma ang dalawa, na nagbabalanse sa kapakanan ng mga indibidwal na may kahusayan at mga benepisyong maibibigay ng AI.
Gayunpaman, sa ilang lugar kung saan nakikipag-ugnayan ang mga organisasyon sa publiko, ang mga tugon na binuo ng AI at simulate na empatiya ay maaaring hindi sapat upang palitan ang tunay na sangkatauhan at pakikiramay - lalo na sa mga larangan ng medisina at kalusugan ng isip.
Mark Tsagas, Lektor, Batas Kriminal, University of East London
Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.
