Kailangan Natin Malaman Ang Mga Algorithm Ginagamit ng Pamahalaan Upang Gumawa ng mga Desisyon Tungkol sa Amin

Kailangan Natin Malaman Ang Mga Algorithm Ginagamit ng Pamahalaan Upang Gumawa ng mga Desisyon Tungkol sa Amin

Sa mga sistema ng hustisya sa krimen, mga merkado ng kredito, arenas sa pagtatrabaho, mga proseso ng admission ng mas mataas na edukasyon at kahit na mga social media network, mga algorithm na hinimok ng data ngayon humimok ng paggawa ng desisyon sa mga paraan na nakakatipid sa aming pang-ekonomiya, panlipunan at sibiko sa buhay. Ang mga sistemang ito ng software na ranggo, pag-uri-uriin, iugnay o i-filter ang impormasyon, gamit ang mga panuntunan na ginawa ng tao o data na sapilitan na nagbibigay-daan para sa pare-parehong paggamot sa mga malalaking populasyon.

Ngunit habang maaaring magkaroon ng kahusayan mula sa mga pamamaraan na ito, maaari din nila harbor biases against disadvantaged groups or palakasin ang estruktural diskriminasyon. Sa mga tuntunin ng katarungan sa krimen, halimbawa, tama ba ang gumawa ng mga paghuhusga sa parol ng isang indibidwal batay sa mga istatistika na nasusukat sa isang malawak na grupo ng mga tao? Magiging sanhi ng diskriminasyon sa pag-apply ng isang istatistikang modelo binuo para sa isang estado ng populasyon sa isa pa, demographically iba't ibang populasyon?

Ang publiko ay kailangang maunawaan ang mga bias at kapangyarihan ng mga algorithm na ginagamit sa pampublikong globo, kabilang ang mga ahensya ng gobyerno. Isang pagsisikap na kasangkot ako, tinawag algorithmic accountability, naglalayong gawing mas malinaw at mas malawak na naiintindihan ang mga impluwensya ng mga uri ng mga sistemang iyon.

Ang mga umiiral na mga diskarte sa transparency, kapag inilapat sa mga algorithm, ay maaaring paganahin ang mga tao upang masubaybayan, susuriin at punahin kung paano gumagana ang mga sistemang ito - o hindi, tulad ng kaso. Sa kasamaang palad, ang mga ahensya ng pamahalaan ay mukhang hindi nakahanda para sa mga katanungan tungkol sa mga algorithm at ang kanilang mga gamit sa mga desisyon na nakakaapekto sa parehong mga indibidwal at sa publiko sa malaki.

Pagbubukas ng mga algorithm sa pampublikong pagsusuri

Huling taon ang nagsimula ang pag-aaral ng pederal na pamahalaan ang mga kalamangan at kahinaan ng paggamit ng computerized data analysis upang makatulong na matukoy ang posibilidad ng mga bilanggo sa 'reoffending sa paglaya. Ang pagmamarka ng mga indibidwal bilang mababa, katamtaman, o mataas na panganib ay makatutulong sa mga desisyon sa pabahay at paggamot, pagkilala sa mga taong ligtas na maipadala sa pinakamaliit na bilangguan ng seguridad o kahit isang "bahay sa kalahati," o kung sino ang makikinabang mula sa isang partikular na uri ng pangangalaga sa sikolohikal.

Ang impormasyong iyon ay maaaring gawing mas mabisa at mas mura ang proseso ng hustisya, at kahit na mabawasan ang pagkapighati ng bilangguan. Ang paggamot sa mga peligro sa mababang peligro tulad ng mga peligro sa mataas na panganib ay naipakita sa ilang mga pag-aaral upang humantong sa kanila internalizing pagiging isang "may sakit" kriminal at nangangailangan ng paggamot para sa kanilang mga deviant na pag-uugali. Ang paghihiwalay sa kanila ay maaaring makabawas sa pag-unlad ng mga negatibong pag-uugali na hahantong sa pag-recidivism sa paglaya.

Ang data at mga algorithm para sa pagmamarka ng mga nagbubunsod na panganib ng mga inmates ay na ginagamit nang husto sa pamamagitan ng mga estado para sa pamamahala ng pretrial detention, probation, parole at kahit na sentencing. Ngunit madali para sa kanila na pumunta nang hindi napapansin - madalas na sila ay mukhang hindi nakagagaling na burukratikong papeles.

Kadalasan ang mga algorithm ay pinakuluang pababa sa pinasimple na mga sheet ng puntos na pinupuno ng mga pampublikong tagapaglingkod na may kaunting pag-unawa sa mga kalkulasyon ng pinagbabatayan. Halimbawa, maaaring suriin ng isang manggagawa sa kaso ang isang bilanggo na gumagamit ng isang form na kung saan ang kaso ng manggagawa ay nagmamarka na ang bilanggo ay napatunayang nagkasala ng isang marahas na krimen, bata pa sa panahon ng unang pag-aresto, at hindi nagtapos mula sa mataas na paaralan o nakakuha ng isang GED. Ang mga kadahilanan at iba pang mga katangian tungkol sa tao at ang krimen ay nagreresulta sa iskor na nagpapahiwatig kung ang bilanggo ay maaaring maging karapat-dapat para sa pagrepaso ng parol.

Ang form mismo, pati na rin ang sistema ng pagmamarka nito, ay madalas na nagbubunyag ng mga pangunahing tampok tungkol sa algorithm, tulad ng mga variable na isinasaalang-alang at kung paano sila magkasama upang bumuo ng isang pangkalahatang marka ng panganib. Ngunit kung ano ang mahalaga din para sa algorithmic transparency ay upang malaman kung paano ang ganitong mga form ay dinisenyo, binuo at sinusuri. Pagkatapos ay maaari lamang malaman ng publiko kung ang mga kadahilanan at kalkulasyon na kasangkot sa pagdating sa iskor ay patas at makatuwiran, o hindi alam at pinapanigang.

Gamit ang Freedom of Information Act

Ang aming pangunahing tool para makuha ang aming mga kamay sa mga porma, at ang kanilang materyal na sumusuporta, ay ang batas, at partikular, ang mga kalayaan sa mga batas ng impormasyon. Sila ay kabilang sa mga pinaka-makapangyarihang mekanismo na itinatakda ng publiko para sa pagtiyak ng transparency sa pamahalaan. Sa pederal na antas, ang Freedom of Information Act (FOIA) pinapayagan ang publiko na pormal na humiling - at asahan na makatanggap ng pabalik - mga dokumento mula sa pederal na pamahalaan. Umiiral ang mga alituntunin ng analogy para sa bawat estado.

Ginawa sa 1966, FOIA ay nilikha bago ang malawakang paggamit ng computing, at bago ang malalaking reams ng data ay karaniwang ginagamit sa mga sistema ng software upang pamahalaan ang mga indibidwal at gumawa ng mga hula. Nagkaroon ilang mga unang pananaliksik kung ang FOIA ay nakapagpapatakbo ng pagsisiwalat ng source code ng software. Ngunit ang isang tanong ay nananatiling tungkol sa kung ang mga kasalukuyang batas ay tumutugon sa mga pangangailangan ng publiko ng 21st-siglo: maaari ba nating mga algorithm ng FOIA?

Ang isang case study sa algorithm transparency

Nagtakda ako upang sagutin ang tanong na ito sa Philip Merrill College of Journalism sa University of Maryland, kung saan ako ay isang katulong na propesor. Sa pagbagsak ng 2015, nagtatrabaho kasama ang media sa batas ng media ni kolehiyo ni Sandy Banisky, ginagabayan namin ang mga estudyante sa pagsusumite ng mga kahilingan ng FOIA sa bawat isa sa mga estado ng 50. Hiniling namin ang mga dokumento, mga paglalarawan sa matematika, data, mga pagtatasa ng pagpapatunay, mga kontrata at source code na nauugnay sa mga algorithm na ginamit sa hustisya sa krimen, tulad ng para sa parol at probasyon, pagtibayin o pagpapasya sa paghatol.

Bilang isang proyektong semestre, ang pagsisikap ay kinakailangang napipigilan ng oras, na may maraming mga hadlang at medyo ilang mga tagumpay. Tulad ng maraming mga imbestigasyon ng mga mamamahayag, kahit na pag-uusapan kung sino ang hihilingin - at kung paano - ay isang hamon. Ang iba't ibang mga ahensya ay maaaring may pananagutan para sa iba't ibang larangan ng sistemang hustisyang pangkrimen (ang hatol ay maaaring gawin ng mga korte, ngunit ang pamamahala ng parol na ginawa ng isang Kagawaran ng Pagwawasto).

Kahit na makilala ang tamang tao, natagpuan ng mga estudyante ang mga opisyal ng pamahalaan na gumamit ng iba't ibang terminolohiya na nagpapahirap sa pag-uusap kung anong impormasyong kanilang nais. Kung minsan, ang mga estudyante ay kailangang magtrabaho nang husto upang ipaliwanag ang "mga algorithm ng katarungan sa kriminal" sa isang di-gaanong-data-savvy na pampublikong lingkod. Sa pag-alaala, maaaring mas epektibo ang humingi ng "mga tool sa pagtatasa ng panganib," dahil ito ay isang term na kadalasang ginagamit ng mga pamahalaan ng estado.

Paghawak sa mga sagot

Ang ilang mga estado, tulad ng Colorado, ang flat-out ay tinanggihan ang aming kahilingan, na nagsasabi na ang mga algorithm ay nakapaloob sa software, na hindi itinuturing na isang "dokumento" na nagbubukas ng mga batas ng gobyerno na kinakailangang gawin ng mga opisyal ang publiko. Iba't ibang mga estado ay may iba't ibang mga patakaran tungkol sa pagsisiwalat ng paggamit ng software. Minsan itong lumitaw sa mga korte, tulad ng isang 2004 suit laban sa lungsod ng Detroit kung ang formula para sa pagkalkula ng mga singil sa tubig na sisingilin sa isang katabi ng lungsod ay dapat gawin publiko.

Sa aming sariling mga pagsisikap, natanggap lamang namin ang isang matematikal na paglalarawan ng isang kriminal na hustong algorithm: ipinahayag ng Oregon ang mga variable na 16 at ang kanilang mga timbang sa isang modelo na ginamit doon upang mahulaan ang recidivism. Ang estado ng North Dakota ay naglabas ng spreadsheet ng Excel na nagpapakita ng equation na ginamit para sa pagtukoy ng mga petsa kung ang mga bilanggo ay magiging karapat-dapat na isaalang-alang para sa parol. Mula sa Idaho at New Mexico natanggap namin ang mga dokumento na may ilang mga paglalarawan ng recidivism-risk assessments na ginagamit ng mga estado, ngunit walang mga detalye tungkol sa kung paano sila binuo o napatunayan.

Ang siyam na estado ay batay sa kanilang pagtanggi na ibunyag ang mga detalye tungkol sa kanilang mga algorithm sa katarungan sa krimen sa paghahabol na ang impormasyon ay tunay na pag-aari ng isang kumpanya. Ang implikasyon na ito ay ang pagpalaya sa algorithm ay makapinsala sa kompanya na bumuo nito. Ang isang karaniwang recidivism-risk questionnaire, na tinatawag na LSI-R, ay nagiging isang komersyal na produkto, na protektado ng copyright. Ang mga estado tulad ng Hawaii at Maine ay nag-claim na pumigil sa pagsisiwalat nito sa publiko.

Sinabi ng Louisiana na ang kontrata nito sa developer ng isang bagong pamamaraan sa pagtatasa ng panganib ay nagbabawal sa pagpapalabas ng hiniling na impormasyon para sa anim na buwan. Ang estado ng Kentucky ay binanggit ang kontrata nito sa isang mapagkawanggawa pundasyon bilang dahilan kung bakit hindi ito maaaring ibunyag ng higit pang mga detalye. Ang mga alalahanin tungkol sa pagmamay-ari na impormasyon ay maaaring maging lehitimong, ngunit ibinigay na ang gobyerno ay regular na nakikipagtulungan sa mga pribadong kumpanya, paano namin balanse ang mga alalahanin laban sa isang maaaring ipaliwanag at talagang lehitimong sistema ng hustisya?

Paggawa ng mga pagpapabuti

Ang kailangang reporma sa FOIA ay kasalukuyang nasa ilalim ng pag-aaral sa pamamagitan ng Kongreso. Nagbibigay ito ng isang pagkakataon para sa batas na ma-moderno, ngunit ang mga ipinanukalang mga pagbabago ay ginagawa pa rin upang mapaunlakan ang lumalaking paggamit ng mga algorithm sa pamahalaan. Algorithmic transparency information maaaring ma-codified sa mga ulat na ang gobyerno ay bumubuo at gumagawa ng publiko sa isang regular na batayan, bilang bahagi ng negosyo gaya ng dati.

Bilang isang lipunan dapat nating hilingin na ang mga pampublikong opisyal ng impormasyon ay sanayin upang sila ay magbasa ng literatura at sa katunayan ay matatas sa terminolohiya na maaaring makaharap nila kapag humihingi ng mga algorithm ang publiko. Ang pamahalaang pederal ay maaaring lumikha ng isang bagong posisyon para sa isang "algorithm czar," isang ombudsman na ang tungkulin nito ay upang makipag-usap tungkol sa mga katanungan at field sa automation ng pamahalaan.

Wala sa mga dokumentong aming natanggap sa aming pananaliksik ang nagsabi sa amin kung paano binuo o sinusuri ang mga form sa pagtatasa ng panganib ng katarungan sa kriminal na hustisya. Tulad ng mga algorithm na namamahala ng higit pa at higit pa sa aming mga buhay, kailangan ng mga mamamayan - at dapat na humingi ng - higit na transparency.

Tungkol sa Ang May-akda

diakopoulos nicholasNicholas Diakopoulos, Tow Fellow, Tow Center para sa Digital Journalism sa Columbia University; Assistant Professor of Journalism, University of Maryland. Ang kanyang pananaliksik ay sa computational at data journalism na may diin sa algorithmic pananagutan, visual na data ng pag-uulat, at social computing sa balita.

Ang artikulong ito ay orihinal na na-publish sa Ang pag-uusap. Basahin ang ang orihinal na artikulo.

Mga Kaugnay Books

{amazonWS: searchindex = Books; keywords = digital privacy; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

sundin ang InnerSelf sa

facebook-icontwitter-iconrss-icon

Kumuha ng Pinakabagong Sa pamamagitan ng Email

{Emailcloak = off}