Alam mo ba kung ano ang mangyayari kapag ibinahagi mo ang iyong data? mtkang / shutterstock.com

Ang bawat aspeto ng buhay ay maaaring gabayan ng mga algorithm ng artificial intelligence - mula sa pagpili kung anong ruta ang dadalhin para sa iyong umaga sa pagbibiyahe, sa pagpapasiya kung sino ang kukuha sa isang petsa, sa mga kumplikadong legal at panghukuman na mga bagay tulad ng predictive na policing.

Ang mga malalaking kumpanya ng tech tulad ng Google at Facebook ay gumagamit ng AI upang makakuha ng mga pananaw sa kanilang masaganang kalakal ng detalyadong data ng customer. Ito ay nagpapahintulot sa kanila na gawing pera ang mga kagustuhan ng kolektibong mga gumagamit sa pamamagitan ng mga gawi tulad ng micro-targeting, isang diskarte na ginagamit ng mga advertiser upang makitid na ma-target ang mga tukoy na hanay ng mga gumagamit.

Sa kahanay, maraming mga tao na ngayon ang nagtitiwala sa mga platform at mga algorithm nang higit pa kaysa sa kanilang sariling mga pamahalaan at civic society. Ang isang pag-aaral Oktubre 2018 iminungkahi na ang mga tao ay nagpapakita ng "pagpapahalaga sa algorithm, "Hangga't sila ay umaasa sa karagdagang payo kapag iniisip nila na ito ay mula sa isang algorithm kaysa mula sa isang tao.

Sa nakaraan, ang mga eksperto sa teknolohiya ay nag-aalala tungkol sa isang "Digital divide" sa pagitan ng mga maaaring mag-access sa mga computer at sa internet at sa mga hindi magagawa. Ang mga sambahayan na may mas kaunting access sa mga digital na teknolohiya ay nasa kawalan sa kanilang kakayahang kumita ng pera at makaipon ng mga kasanayan.

Ngunit, habang lumalawak ang mga digital na aparato, ang paghati-hatiin ay hindi na lamang tungkol sa pag-access. Paano nakikitungo ang mga tao sa labis na karga ng impormasyon at ang kalabisan ng mga desisyon ng algorithm na sumasabog sa bawat aspeto ng kanilang buhay?

Ang mga gumagamit ng savvier ay nagna-navigate mula sa mga device at nagiging kamalayan tungkol sa kung paano naaapektuhan ng mga algorithm ang kanilang buhay. Samantala, ang mga mamimili na may mas kaunting impormasyon ay higit na umaasa sa mga algorithm upang gabayan ang kanilang mga desisyon.

Dapat kang manatiling konektado - o mag-amplag? pryzmat / shutterstock.com

Ang lihim na sarsa sa likod ng artificial intelligence

Ang pangunahing dahilan para sa bagong digital divide, sa aking opinyon bilang isang tao na nag-aaral ng mga sistema ng impormasyon, ay iyon kaya ilang mga tao na maunawaan kung paano gumagana ang mga algorithm. Para sa karamihan ng mga gumagamit, ang mga algorithm ay makikita bilang isang itim na kahon.

Kinukuha ng mga algorithm ng AI sa data, magkasya ang mga ito sa isang modelo ng matematika at ilabas ang isang hula, mula sa kung anong mga kanta ang maaari mong matamasa sa ilang taon ang dapat gastusin ng isang tao sa bilangguan. Ang mga modelo na ito ay binuo at tweaked batay sa nakaraang data at ang tagumpay ng nakaraang mga modelo. Karamihan sa mga tao - kahit na kung minsan ang mga designer ng algorithm ang kanilang sarili - ay hindi talaga alam kung ano ang napupunta sa loob ng modelo.

Ang mga mananaliksik Matagal nang nababahala tungkol sa algorithmic fairness. Halimbawa, naka-out ang AI-based recruiting tool ng Amazon bale-walain ang mga babaeng kandidato. Ang sistema ng Amazon ay pumipili nang pumipili mga salita na nakakahulugan ng gendered - Mga salita na mas malamang na ginagamit ng mga tao sa pang-araw-araw na pananalita, tulad ng "executed" at "nakuha."

Iba pang mga pag-aaral ay nagpakita na ang mga panghukuman algorithm ay nanunuya sa panlahi, pagpapahayag ng mahihirap na itim na mga defendant para sa mas mahaba kaysa sa iba.

Bilang bahagi ng na-aprubahang Pangkalahatang Data Protection Regulation sa European Union, mayroon ang mga tao "Isang karapatan sa paliwanag" ng pamantayan na ginagamit ng mga algorithm sa kanilang mga desisyon. Ang batas na ito ay tinatrato ang proseso ng paggawa ng desisyon ng algorithm tulad ng isang aklat ng resipe. Ang pag-iisip ay napupunta na kung naintindihan mo ang recipe, maaari mong maunawaan kung paano naaapektuhan ng algorithm ang iyong buhay.

Samantala, ang ilang mga mananaliksik ng AI ay nagtulak para sa mga algorithm na makatarungan, may pananagutan at malinaw, Pati na rin interpretable, ibig sabihin ay dapat silang makarating sa kanilang mga desisyon sa pamamagitan ng mga proseso na maunawaan at mapagkakatiwalaan ng mga tao.

Ano ang epekto ng transparency? Sa isang pag-aaral, ang mga mag-aaral ay namarkahan ng isang algorithm at nag-aalok ng iba't ibang mga antas ng paliwanag tungkol sa kung paano naayos ang mga marka ng kanilang mga kasamahan upang makakuha ng sa huling grado. Ang mga mag-aaral na may mas malinaw na paliwanag ay mas pinagkakatiwalaan ang algorithm. Ito, muli, nagpapahiwatig ng isang digital divide: Ang kamalayan ng algorithm ay hindi humantong sa higit na kumpiyansa sa sistema.

Ngunit ang transparency ay hindi isang panlunas sa lahat. Kahit na ang isang pangkalahatang proseso ng algorithm ay naka-sketch, ang mga detalye ay maaaring pa rin masyadong kumplikado para maunawaan ng mga gumagamit. Ang Transparency ay makakatulong lamang sa mga gumagamit na sapat na sopistikadong upang maunawaan ang mga intricacies ng mga algorithm.

Halimbawa, sa 2014, si Ben Bernanke, ang dating pinuno ng Federal Reserve, ay una tinanggihan ang isang mortgage refinance sa pamamagitan ng isang awtomatikong sistema. Karamihan sa mga indibidwal na nag-aaplay para sa naturang mortgage refinance ay hindi maunawaan kung paano maaaring matukoy ng mga algorithm ang kanilang creditworthiness.

Ano ang sinasabi ng algorithm na gawin ngayon? Maria Savenko / shutterstock.com

Pagpili ng bagong ecosystem ng impormasyon

Habang ang mga algorithm ay nakakaimpluwensya ng maraming buhay ng mga tao, tanging ang isang maliit na bahagi ng mga kalahok ay sapat na sopistikado upang ganap na makisali sa kung paano naaapektuhan ng mga algorithm ang kanilang buhay.

Maraming mga istatistika ang tungkol sa bilang ng mga taong nalalaman ng algorithm. Natagpuan ng mga pag-aaral ang katibayan ng algorithmic na pagkabalisa, na humahantong sa isang malalim na kawalan ng timbang ng kapangyarihan sa pagitan ng mga platform na lumawak algorithm at ang mga gumagamit na umaasa sa kanila.

Isang pag-aaral ng paggamit sa Facebook nalaman na kapag ang mga kalahok ay ginawa ng algorithm ng Facebook para sa curating feed ng balita, tungkol sa 83% ng mga kalahok na binago ang kanilang pag-uugali upang subukan upang samantalahin ang algorithm, habang ang paligid ng 10% nabawasan ang kanilang paggamit ng Facebook.

Isang ulat ng Nobyembre 2018 mula sa Pew Research Center nalaman na ang isang malawak na mayorya ng publiko ay may mga mahahalagang alalahanin tungkol sa paggamit ng mga algorithm para sa partikular na paggamit. Napag-alaman na ang 66% ay naisip na hindi magiging patas para sa mga algorithm upang kalkulahin ang mga personal na iskor sa pananalapi, habang ang 57% ay nagsabi ng tungkol sa automated screening ng resume.

Ang isang maliit na bahagi ng mga indibidwal ay gumagamit ng ilang kontrol sa kung paano ginagamit ng mga algorithm ang kanilang personal na data. Halimbawa, ang Hu-Manity platform ay nagbibigay-daan sa mga gumagamit isang pagpipilian upang kontrolin kung gaano karami ng kanilang data ang nakolekta. Encyclopedia Everipedia nag-aalok sa mga gumagamit ng kakayahang maging isang stakeholder sa proseso ng curation, na nangangahulugan na ang mga gumagamit ay maaari ring kontrolin kung paano ang impormasyon ay pinagsama-sama at ipinakita sa kanila.

Gayunpaman, ang karamihan sa mga platform ay hindi nagbibigay ng alinman sa naturang kakayahang umangkop sa kanilang mga end user o ang karapatang pumili kung paano ginagamit ng algorithm ang kanilang mga kagustuhan sa pag-aayos ng kanilang feed ng balita o sa pagrekomenda sa kanila ng nilalaman. Kung may mga pagpipilian, ang mga gumagamit ay hindi maaaring malaman tungkol sa mga ito. Tungkol sa 74% ng mga gumagamit ng Facebook sinabi sa isang survey na sila ay hindi alam kung paano pinapakilala ng platform ang kanilang mga personal na interes.

Sa aking pagtingin, ang bagong digital literacy ay hindi gumagamit ng isang computer o sa internet, ngunit ang pag-unawa at pagsusuri sa mga kahihinatnan ng isang palaging naka-plug-in na pamumuhay.

Ang pamumuhay na ito ay may makabuluhang epekto sa kung paano nakikipag-ugnayan ang mga tao sa iba; sa kanilang kakayahan na bigyang-pansin ang bagong impormasyon; at sa ang pagiging kumplikado ng kanilang mga proseso ng paggawa ng desisyon.

Ang pagtaas ng algorithmic na pagkabalisa ay maaari ding mai-mirror sa pamamagitan ng parallel shifts sa ekonomiya. Ang isang maliit na grupo ng mga indibidwal ay pagkuha ng mga nadagdag mula sa automation, samantalang maraming manggagawa ay nasa isang walang katiyakan na posisyon.

Ang pag-opt out mula sa algorithmic curation ay isang luho - at maaaring isang araw ay isang simbolo ng kasaganaan na magagamit lamang ng ilang piling. Ang tanong ay kung ano ang magiging masusukat na pinsala para sa mga nasa maling bahagi ng digital divide.

Tungkol sa Ang May-akda

Anjana Susarla, Associate Professor of Information Systems, Michigan State University

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.

Mga Kaugnay Books

at InnerSelf Market at Amazon