Hindi kami nagising isang araw at ipinaubaya na lang ang renda sa mga makina. Nangyari ito nang tahimik, isa-isang kaginhawahan. Nag-ayos ang email mo nang kusa. Natuto ang kalendaryo mo na magmungkahi ng mga oras ng pagpupulong. Na-flag na ng bangko mo ang pandaraya bago mo pa napansin ang singil. Parang mga nakakatulong na pag-upgrade ang mga ito, hindi paglilipat ng kuryente. Pero may nagbago sa proseso, at karamihan sa amin ay hindi ito napansin.
Sa artikulong ito
- Pag-unawa sa kung ano talaga ang mga ahente ng AI at kung paano sila naiiba sa regular na software
- Ang kritikal na pagkakaiba sa pagitan ng tulong at delegasyon sa mga awtomatikong sistema
- Bakit ang pag-optimize nang walang karunungan ay lumilikha ng mga mahuhulaang problema
- Mga totoong halimbawa ng etikal na paggamit at mga umuusbong na pang-aabuso
- Mga praktikal na hakbang upang mapanatili ang iyong ahensya sa isang awtomatikong mundo
Ang mga sistemang ngayon ay nag-uuri, nagmumungkahi, at kung minsan ay nagpapasya para sa atin ay nagsimula bilang mga simpleng katulong. Iniligtas tayo ng mga spam filter mula sa walang katapusang basura. Itinuro tayo ng mga recommendation engine sa mga aklat na maaari nating magustuhan. Nakahanap ang mga scheduling assistant ng mga oras na angkop para sa lahat. Ang bawat inobasyon ay lumulutas ng isang tunay na problema. Bawat isa ay bahagyang nagpapadali sa buhay. At bawat isa ay nagsanay sa atin na asahan na ang teknolohiya ay hahawak sa papalaking kumplikadong mga paghatol para sa atin.
Nasa punto na tayo ngayon kung saan ang mga sistema ay hindi lamang tumutulong sa atin na magdesisyon—nagpapasya at kumikilos sila. Hindi sila naghihintay ng pag-apruba. Hindi nila laging ipinapaliwanag ang kanilang mga sarili. At gumagana ang mga ito sa mga antas at bilis na nagpaparamdam sa pangangasiwa ng tao na kakaiba, o imposible pa nga. Hindi ito nangyari dahil gumawa tayo ng isang malaking pagpili na isuko ang kontrol. Nangyari ito dahil gumawa tayo ng sampung libong maliliit na pagpili na tanggapin ang kaginhawahan nang hindi kinukuwestiyon ang kapalit.
Ano Talaga ang Ginagawa ng mga Sistemang Ito
Ang isang AI agent ay naiiba sa software na kinalakihan mo. Ang mga tradisyunal na programa ay sumusunod sa mga tagubilin. Naghihintay sila ng input, pinoproseso ito ayon sa mga takdang tuntunin, at humihinto. Ang isang calculator ay hindi patuloy na nagkalkula pagkatapos mong umalis. Ang isang word processor ay hindi nagsisimulang magsulat nang mag-isa. Ang mga tool na ito ay hindi gumagalaw hangga't hindi ito na-activate. Ang mga ito ay mga lingkod, hindi mga aktor.
Iba-iba ang paggana ng mga ahente ng AI. Patuloy nilang inoobserbahan ang kanilang kapaligiran. Gumagawa sila ng mga desisyon batay sa kanilang nakikita. Gumagawa sila ng mga aksyon upang makamit ang mga layunin. At inuulit nila ang siklong ito nang walang palaging direksyon ng tao. Ang nagpapakilalang katangian ay hindi ang katalinuhan sa kahulugan ng tao—kundi ang inisyatiba. Ang isang ahente ay hindi lamang tumutugon kapag tinawag. Gumagana ito.
Isipin ang isang thermostat. Ang dating uri ay nangangailangan na manu-mano mo itong i-adjust kapag nagbago ang temperatura. Ang isang smart thermostat ay nagmamasid sa mga pattern, natututo sa iyong mga kagustuhan, hinuhulaan ang iyong iskedyul, at inaayos ang pag-init at paglamig nang mag-isa. Gumagawa ito ng mga desisyon. Maliliit na desisyon, ngunit desisyon pa rin. Ngayon, palawakin pa iyan sa mga sistemang nangangalakal ng mga stock, nagfi-filter ng mga aplikasyon sa trabaho, nagmo-moderate ng nilalaman, at namamahala sa mga supply chain. Pareho lang ang prinsipyo. Ang mga kahihinatnan ay hindi.
Ang Pagkakaiba sa Pagtulong at Pagpapalit
Mayroong isang mahalagang punto sa automation na hindi napapansin ng karamihan. Ito ang pagkakaiba sa pagitan ng paggamit ng AI upang magbigay ng impormasyon sa iyong paghatol at pagpapalit ng AI sa iyong paghatol. Ang isa ay nagpapanatili sa iyong responsable. Ang isa naman ay nagbibigay-daan sa iyo upang makaiwas sa panganib.
Kapag ang isang doktor ay gumagamit ng AI system upang suriin ang mga medikal na imahe ngunit sinusuri pa rin ang mga resulta at gumagawa ng diagnosis, iyon ay augmentation. Inililantad ng tool ang mga pattern na maaaring hindi napansin ng tao. Isinasama ng tao ang mga natuklasang iyon sa kasaysayan, sintomas, at klinikal na karanasan ng pasyente. Malinaw pa rin ang responsibilidad. Ngunit kapag ang isang kompanya ng seguro ay gumamit ng algorithm upang aprubahan o tanggihan ang mga claim, at ang mga taong tagasuri ay nagiging mga rubber stamp na bihirang bumaligtad sa mga rekomendasyon ng system, may mahalagang nagbago. Ang paglitaw ng pangangasiwa ng tao ay nagtatakip sa kung ano ang epektibong awtoridad ng algorithm.
Ang delegasyon ay parang mahusay. Parang neutral. Parang progreso. Tutal, bakit pa kailangang gumugol ng oras ang mga tao sa mga desisyong mas mabilis at mas consistent na kayang hawakan ng mga makina? Ang sagot ay ang consistency ay hindi katulad ng correctness, at ang efficiency ay hindi katulad ng katarungan. Walang pakialam ang mga makina sa laro. Hindi sila nawawalan ng tulog dahil sa mga pagkakamali. Kapag itinatalaga natin ang paghatol sa mga sistemang kulang sa paghatol, lumilikha tayo ng kawalan ng pananagutan. At ang kawalan na iyon ay napupuno ng mga dahilan. Ginawa ito ng algorithm. Minarkahan ito ng sistema. Ang mga pariralang ito ay naging panangga laban sa responsibilidad.
Bakit Nabibigo Tayo sa Walang Hanggang Pag-optimize
Ang mga AI agent ay mga optimizer. Binibigyan sila ng mga layunin at walang humpay nilang hinahabol ang mga layuning iyon, kadalasan ay mas epektibo kaysa sa magagawa ng mga tao. Parang isang kalamangan iyon hangga't hindi mo tinitingnan kung ano talaga ang na-optimize. Ang mga algorithm ng social media ay nag-o-optimize para sa pakikipag-ugnayan, na sa pagsasagawa ay nangangahulugan ng pagpapalakas ng galit at kontrobersiya dahil ang mga ito ang nagpapanatili sa mga tao na nag-i-scroll. Ang mga algorithm ng pagkuha ay nag-o-optimize para sa mga pattern sa mga nakaraang matagumpay na pagkuha, na nangangahulugang ginagaya nila ang mga historical bias. Ang mga algorithm ng pagpepresyo ay nag-o-optimize para sa kita, na maaaring mangahulugan na ang iba't ibang tao ay nagbabayad ng iba't ibang presyo para sa parehong produkto batay sa kung gaano kalaki ang iniisip ng sistema na kanilang matiis.
Ang problema ay hindi dahil sira ang mga sistemang ito. Ito ay dahil gumagana ang mga ito nang eksakto ayon sa disenyo. Ginagawa nila ang iniutos sa kanila. Ngunit ang mga layuning ibinigay sa kanila ay hindi kumpleto. Hindi nila isinasaalang-alang ang katotohanan, pagiging patas, dignidad, o pangmatagalang kagalingan dahil ang mga bagay na iyon ay mahirap sukatin at mas mahirap pa ngang i-encode. Kaya naman pinapalaki ng mga sistema ang maaaring masukat—mga pag-click, conversion, kahusayan, kita—at ang mga bagay na pinakamahalaga ay itinuturing na mga externality.
Ang mga tao ang dapat na tumimbang sa konteksto at mga pinahahalagahan. Dapat nating mapansin kung kailan lumilikha ng pinsala ang pag-optimize. Ngunit kapag ang mga sistema ay gumagana sa malawak at mabilis na antas, ang paghatol ng tao ay nagiging hindi praktikal. Sa oras na mapansin natin na may mali, ang algorithm ay nakagawa na ng sampung libong desisyon. Ang maaaring i-optimize ay hindi palaging ang dapat i-maximize. Iyan ay isang katotohanan na hindi kayang maunawaan ng mga makina at patuloy na nakakalimutan ng mga tao.
Paano Maling Ginagamit ang mga Sistemang Ito
Karamihan sa mga pinsala mula sa mga ahente ng AI ay hindi nagmumula sa malisya. Ito ay nagmumula sa mga sistemang walang kontrol na ginagawa ang eksaktong nakaprograma sa kanila, sa mga antas at bilis na nagpapalaki sa bawat kapintasan. Ang isang tao na kumikilos nang hindi etikal ay isang problema. Ang isang sistemang nagpapahintulot sa isang aktor na gumana na parang libu-libo ay isang krisis.
Lumalabas ang saklaw nang walang pananagutan kahit saan. Maaaring mahuli ito ng mga bot na nagmamanipula ng mga usapan sa social media, mga pekeng sistema ng pagsusuri, mga awtomatikong spam na mas mabilis umaangkop kaysa sa mga filter. Kapag dumating na ang mga kahihinatnan, ang depensa ay palaging pareho: ang sistema ang may gawa nito. Ako lang ang nagtakda ng mga parametro. Epektibo ang mga dahilan na ito dahil sadyang natatakpan ang pananagutan.
Ang itinalagang pinsala ay partikular na tuso dahil pinapayagan nito ang mga institusyon na maiwasan ang responsibilidad habang hawak pa rin ang kapangyarihan. Tinatanggihan ng isang algorithm ang iyong aplikasyon sa pautang. Minarkahan ng isang awtomatikong sistema ang iyong posisyon bilang lumalabag sa mga pamantayan ng komunidad. Sinusuri ka ng isang hiring tool bago pa man makita ng isang tao ang iyong resume. Kapag umapela ka, madalas na sinasabihan ka na nananatili ang desisyon dahil ang sistema ay patas at obhetibo. Ngunit ang pagiging patas ay hindi katulad ng pagiging pare-pareho, at ang pagiging obhetibo ay isang alamat lamang kapag ang sistema ay sinanay batay sa may kinikilingang datos o idinisenyo upang i-optimize ang mga maling layunin.
Ang Pinakamalalim na Panganib
Ang tunay na panganib ay hindi ang mga makina ang kumokontrol. Ito ay ang pagtigil natin sa pagsisikap na gawin ito. Ang mga tao ay umaangkop sa mga sistemang nakapaligid sa kanila. Kapag ang mga desisyon ay parang awtomatiko at hindi maiiwasan, ang pagtatanong ay naglalaho. Kapag ang mga resulta ay dumating nang walang nakikitang pakikilahok ng tao, ang responsibilidad ay tila naglalaho. Sinasanay natin ang ating mga sarili na tanggapin ang ibinigay sa atin sa halip na hingin ang tama.
Pamilyar ang ganitong padron. Itinuturo ng burukrasya sa mga tao na ang mga patakaran ay nakapirmi at walang umiiral na mga eksepsiyon. Itinuturo ng mga monopolyo sa plataporma sa mga tao na ang mga tuntunin ng serbisyo ay hindi maaaring ipagpalit. Itinuturo ng automation sa pananalapi sa mga tao na ang mga merkado ay lampas sa impluwensya ng tao. Binabaligtad ng bawat sistema ang pakiramdam na mahalaga ang indibidwal na pagpili. At ang mga ahente ng AI, dahil mas mabilis at mas malabo ang kanilang operasyon kaysa sa anumang nauna sa kanila, ay nagpapabilis sa prosesong ito.
Ang kalayaan ay hindi isang estadong itinakda para sa iyo. Ito ay isang bagay na iyong isinasagawa o natatalo. Kung mas madalas kang sumusunod sa mga sistema, mas nawawalan ka ng kakayahang igiit ang iyong sariling paghatol. Kung mas madalas mong tinatanggap ang mga resulta ng algorithm nang walang pag-aalinlangan, mas mahirap isipin na maaaring iba ang maging resulta ng mga bagay-bagay. Iyan ang pinakamalaking panganib. Hindi ang kontrol ng mga makina, kundi ang pagkasanay sa hindi pagpapasya.
Ang Magagawa Mo
Ang paglaban sa pagguho ng kalayaan ay hindi nangangailangan ng malalaking kilos. Nangangailangan ito ng pang-araw-araw na pagsasanay. Magsimula sa pamamagitan ng pagtatanong sa hindi nakikitang automation. Kapag ang isang sistema ay gumawa ng isang desisyon na nakakaapekto sa iyo, tanungin kung paano ito gumagana at kung sino ang responsable. Bago magtiwala sa mga awtomatikong resulta, tanungin kung ang resulta ay may katuturan at kung ang sistema ay maaaring may nakaligtaan na isang bagay na mahalaga. Mas gusto ang mga sistemang nagpapaliwanag sa kanilang sarili kaysa sa mga black box na humihingi ng tiwala.
Manatiling kasangkot kung saan mahalaga ito. Huwag italaga ang mga desisyon dahil lang sa kaya mo. Kung ang isang tool ay nag-aalok na isulat ang iyong mga email, i-edit ang iyong trabaho, o magbigay ng mga rekomendasyon para sa iyo, isaalang-alang kung ang kaginhawahan ay sulit sa distansyang nalilikha nito sa pagitan mo at ng gawain. At kapag nakatagpo ka ng mga sistemang gumagana nang walang pananagutan, humingi ng mas mahusay. Bawasan ang mga desisyong algorithmic. Humingi ng pagsusuri ng tao. Huwag tanggapin na ang sagot ng sistema ay pinal dahil lamang sa ito ay awtomatiko.
Ang ahensya ay isang kasanayan, hindi isang default na setting. Sa tuwing kinukuwestiyon mo ang isang awtomatikong resulta, ginagamit mo ang isang kapasidad na humihina dahil sa hindi paggamit. Sa tuwing iginigiit mo ang pananagutan ng tao, tinututol mo ang normalisasyon ng awtoridad sa algorithm. Ang maliliit na gawaing ito ng malay na pagpili ay mahalaga dahil hinuhubog nito ang kapaligirang kinalalagyan ng lahat.
Mga Kasangkapang Hinuhubog Natin o Mga Puwersang Humuhubog sa Atin
Ang mga ahente ng AI ay mga kagamitang ating dinisenyo. Iyan ang unang katotohanan. Ngunit kapag naipatupad na, hinuhubog nila ang pag-uugali at kapangyarihan. Iyan ang pangalawang katotohanan. Parehong totoo, at mapanganib ang pagpapanggap na hindi. Ang tanong ay hindi kung patuloy bang kikilos ang mga sistemang ito. Gagawin nga nila. Ang tanong ay kung mananatiling mananagot ba ang mga tao sa kung ano ang kikilos sa kanilang pangalan.
Ang kinabukasan ay itinatayo ngayon sa pamamagitan ng isang milyong maliliit na desisyon tungkol sa kung saan i-automate at kung saan igigiit ang paghatol ng tao. Ang mga desisyong iyon ay hindi lamang teknikal. Ang mga ito ay moral. Ang mga ito ay tungkol sa kung anong uri ng mundo ang handa nating tirhan at kung anong uri ng ahensya ang handa nating pangalagaan. Ang karaniwang landas ay malinaw. Mas maraming automation, mas kaunting pangangasiwa, mas malaking kaginhawahan, mas kaunting responsibilidad. Madali ang landas na iyon dahil ito ay kumikita at mahusay at tila hindi maiiwasan.
Ngunit ang hindi maiiwasang pangyayari ay isang kuwentong sinasabi natin sa ating sarili upang maiwasan ang paghihirap ng pagpili. Ang katotohanan ay ang bawat pag-deploy ng isang ahente ng AI ay isang pagpili. Ang bawat pagtanggap sa awtoridad ng algorithm ay isang pagpili. Sa tuwing nagkibit-balikat tayo at sinasabing ang napagpasyahan ng sistema ay isang pagpili. At ang bawat pagpili ang humuhubog sa susunod na mangyayari. Kaya ang tanong ay hindi kung ano ang gagawin ng AI. Ang tanong ay kung anong mga desisyon ang handa mo pa ring gawin para sa iyong sarili. Ang sagot sa tanong na iyan ay mas mahalaga kaysa sa anumang algorithm.
Tungkol sa Author
Si Alex Jordan ay isang staff writer para sa InnerSelf.com
Inirerekumendang Books
Ang Alignment Problem: Machine Learning at Human Values
Isang malalimang sinaliksik na paggalugad kung paano natututo ang mga sistema ng AI ng mga halaga at kung bakit ang pag-ayon ng mga ito sa pag-unlad ng tao ay mas kumplikado kaysa sa inaakala ng karamihan.
Mga Armas ng Pagsira sa Matematika: Paano Pinapataas ng Malaking Data ang Hindi Pagkakapantay-pantay at Nagbabanta sa Demokrasya
Isang madaling maunawaang pagsusuri kung paano pinalalakas at pinapatakbo ng mga algorithm ang hindi pagkakapantay-pantay at walang pananagutan, na isinulat ng isang matematiko na nagtrabaho sa loob ng mga sistemang kanyang pinupuna.
Pag-automate ng Hindi Pagkakapantay-pantay: Paano Pinoproseso, Pinoprotektahan, at Pinaparusahan ng mga High-Tech na Kagamitan ang mga Mahihirap
Isang makapangyarihang imbestigasyon kung paano tinatarget at pinarurusahan ng mga automated system ang mga mahihirap, na nagpapakita ng epekto sa tao ng algorithmic decision-making sa mga serbisyong pampubliko.
Recap ng Artikulo
Ang mga ahente ng AI ay kumakatawan sa isang pagbabago mula sa mga kagamitang tumutulong sa paghatol ng tao patungo sa mga sistemang papalit dito, na gumagana nang may inisyatiba at awtonomiya sa bilis na nagpapahirap sa pangangasiwa. Ang tunay na panganib ay hindi ang katalinuhan ng makina kundi ang unti-unting pagguho ng kapangyarihan ng tao habang umaangkop tayo sa awtomatikong paggawa ng desisyon nang walang pananagutan. Ang etikal na paggamit ay nangangailangan ng pagpapanatili sa mga tao na responsable para sa mga kahihinatnan na desisyon, pagpapanatili ng transparency, at pagkilala na ang pag-optimize nang walang karunungan ay lumilikha ng mahuhulaang pinsala.
#AIagents #automation #humanagency #algorithmicaccountability #ethicalAI #digitalautonomy #techandethics
