Ang mga algorithm ng pagkilala ng mukha ay karaniwang nasubok gamit ang mga puting mukha, na nagreresulta sa teknolohiya na hindi maiiba sa pagitan ng mga indibidwal na may lahi. (Shutterstock)
Maling naaresto ng pulisya ng Detroit si Robert Julian-Borchak Williams noong Enero 2020 para sa isang insidente ng pag-shoplifting na naganap dalawang taon bago. Kahit na walang kinalaman si Williams sa pangyayari, ang teknolohiyang pagkilala sa facial na ginamit ng Michigan State Police ay "tumugma" sa kanyang mukha na may isang mabuting imahe na nakuha mula sa isang in-store na surveillance video na nagpapakita ng isa pang African American na lalaki na kumuha ng US $ 3,800 na halaga ng relo.
Pagkalipas ng dalawang linggo, ang kaso ay tinanggal sa kahilingan ng pag-uusig. Gayunpaman, sa pag-asa sa kamalian ng tugma, ang mga pulis ay nakaposas at inaresto si Williams sa harap ng kanyang pamilya, pinilit siyang magbigay ng isang shot ng tabla, mga fingerprint at isang sample ng kanyang DNA, naimbestiga sa kanya at binilanggo nang magdamag.
Iminumungkahi ng mga eksperto na hindi nag-iisa si Williams, at na ang iba ay sumailalim sa magkatulad na kawalang-katarungan. Ang patuloy na kontrobersya tungkol sa paggamit ng pulisya ng Clearview AI ay tiyak na binibigyang diin ang mga panganib sa privacy na nakuha ng teknolohiyang pagkilala sa facial. Ngunit mahalagang mapagtanto iyon hindi lahat sa atin ay may pantay na mga panganib.
Pagsasanay sa mga racist algorithm
Ang teknolohiyang pagkilala sa mukha ay sanay na at nakatutok sa mga mukha ng Caucasian systematically misidentify at mislabels racialized indibidwal: maraming mga pag-aaral ang nag-ulat na ang teknolohiyang pagkilala sa facial ay "flawed at bias, na may makabuluhang mas mataas na mga rate ng error kapag ginamit laban sa mga taong may kulay. "
ito pinapabagsak ang sariling katangian at sangkatauhan ng mga taong nagpo-lahi na mas malamang na mapagkamalan bilang kriminal. Ang teknolohiya - at ang mga pagkakamali sa pagkakakilanlan na ginagawa nito - sumasalamin at higit na ipinagpapamalas ang matagal na mga dibisyon ng lipunan na labis na nasasakal sa rasismo, seksismo, homophobia, settler-kolonyalismo at iba pang nakakaintriga na mga pang-aapi.
{vembed Y = vSuDE6wvQlU}
Isang pagsisiyasat sa France24 sa bias ng lahi sa teknolohiyang pagkilala sa mukha.
Paano kinakategorya ng teknolohiya ang mga gumagamit
Sa kanyang pagbago ng laro noong 1993, Ang Pagsunud-sunod na Pagsunud-sunod, binigyan ng babala ng iskolar na si Oscar Gandy na "kumplikadong teknolohiya [na] nagsasangkot sa koleksyon, pagproseso at pagbabahagi ng impormasyon tungkol sa mga indibidwal at grupo na nabuo sa pamamagitan ng kanilang pang-araw-araw na buhay ... ay ginagamit upang ayusin at kontrolin ang kanilang pag-access sa mga kalakal at serbisyo na tumutukoy sa buhay sa ang modernong kapitalistang ekonomiya. " Ginagamit ito ng pagpapatupad ng batas upang mai-pluck ang mga suspect mula sa pangkalahatang publiko, at ginagamit ito ng mga pribadong organisasyon upang matukoy kung mayroon kaming access sa mga bagay tulad banking at trabaho.
Pansamantalang binabalaan ni Gandy na, kung maiiwan ang walang tsek, ang form na ito ng "cybernetic triage" ay tiyak na makakapinsala sa mga miyembro ng mga pamayanang naghahanap ng pagkakapantay-pantay - halimbawa, ang mga pangkat na may lahi o kapansanan sa sosyo-ekonomiko - kapwa sa mga tuntunin ng kung ano ang ilalaan sa kanila at kung paano nila maiintindihan ang kanilang mga sarili.
Pagkalipas ng 25 taon, naninirahan kami ngayon kasama ang panoptic na uri sa mga steroid. At ang mga halimbawa ng negatibong epekto nito sa mga pamayanan na naghahanap ng pagkakapantay-pantay, na tulad ng maling pagkakakilanlan kay Williams.
Pre-umiiral na bias
Ang pag-uuri na ito gamit ang mga algorithm ay sumasama sa pinakamahalagang aspeto ng pang-araw-araw na buhay, na paminsan-minsan ang parehong direkta at istruktura na karahasan sa paggising nito.
Ang direktang karahasan na naranasan ni Williams ay agad na nakikita sa mga kaganapan na nakapaligid sa kanyang pag-aresto at pagpigil, at ang mga indibidwal na pinsala na kanyang naranasan ay malinaw at maaaring masubaybayan sa mga aksyon ng mga pulis na pinili na umasa sa "tugma" ng teknolohiya upang makagawa ng isang pagdakip. Higit pang mga nakakapang-insulto ay ang karahasang istruktura nagawa sa pamamagitan ng teknolohiyang pagkilala sa facial at iba pang mga digital na teknolohiya rate na, tugma, pag-uri-uriin at pag-uri-uriin ang mga indibidwal sa mga paraan na pinalaki ang mga paunang diskriminasyong pattern.
Ang pinsala sa estrukturang karahasan ay hindi gaanong halata at hindi direktang, at nagiging sanhi ng pinsala sa mga pangkat na naghahanap ng pagkakapantay-pantay sa pamamagitan ng sistematikong pagtanggi sa kapangyarihan, mga mapagkukunan at pagkakataon. Kasabay nito, pinatataas nito ang direktang peligro at pinsala sa mga indibidwal na miyembro ng mga pangkat na iyon.
Ang mga mahuhusay na paggamit ng poling algorithmic processing ng makasaysayang data upang mahulaan kung kailan at saan ang mga bagong krimen ay malamang na magaganap, nagtatalaga ng mga mapagkukunan ng pulisya nang naaayon at nagtataguyod ng pinahusay na pagbabantay ng pulisya sa mga komunidad, kadalasan sa mga mas mababang kita at lahi ng mga kapitbahayan. Ito ay nagdaragdag ng mga pagkakataon na ang anumang aktibidad ng kriminal - kabilang ang hindi gaanong malubhang aktibidad ng kriminal na kung hindi man ay mag-udyok ng tugon ng pulisya - ay makikita at maparusahan, sa huli ay nililimitahan ang mga pagkakataon sa buhay ng mga taong nakatira sa loob ng kalikasan na iyon.
At ang katibayan ng hindi pagkakapantay-pantay sa iba pang mga sektor ay patuloy na tumataas. Daan-daang mga mag-aaral sa United Kingdom nagprotesta noong Agosto 16 laban sa mga nakapipinsalang resulta ng Madalas, isang mali sa algorithm na ginagamit ng gobyerno ng UK upang matukoy kung aling mga mag-aaral ang kwalipikado para sa unibersidad. Noong 2019, ang serbisyo ng ad ng microtargeting ng Facebook nakatulong sa dose-dosenang mga pampubliko at pribadong sektor ng employer ibukod ang mga tao mula sa pagtanggap ng mga ad ng trabaho batay sa edad at kasarian. Ang pananaliksik na isinasagawa ng ProPublica ay na-dokumentado diskriminasyon ng presyo batay sa lahi para sa mga online na produkto. At ang mga search engine ay regular na gumagawa ng mga resulta ng rasista at sexist.
Nagpapatuloy na pang-aapi
Mahalaga ang mga kinalabasan na ito sapagkat nagpapatuloy at nagpapalalim ng mga nauna nang hindi pagkakapantay-pantay batay sa mga katangian tulad ng lahi, kasarian at edad. Mahalaga rin ang mga ito dahil lubos silang nakakaapekto kung paano natin malalaman ang ating sarili at ang mundo sa ating paligid, kung minsan pre-pagpili ng impormasyon natatanggap namin sa mga paraan na nagpapatibay sa stereotypical perceptions. Kahit na ang mga kumpanya ng teknolohiya mismo ay kinikilala ang kagyat na huminto sa mga algorithm mula sa nagpapatuloy na diskriminasyon.
Sa ngayon ang tagumpay ng mga pagsisiyasat ng ad hoc, na isinagawa ng mga kumpanya ng tech mismo, ay hindi pantay-pantay. Paminsan-minsan, ang mga korporasyon na kasangkot sa paggawa ng mga diskriminasyong sistema ay bawiin ang mga ito mula sa merkado, tulad ng kung kailan Inihayag ng Clearview AI na hindi na ito mag-aalok ng teknolohiyang pagkilala sa facial sa Canada. Ngunit madalas ang gayong mga desisyon ay bunga ng pagsisiyasat ng regulasyon o pampublikong pagkagulo lamang pagkatapos ang mga miyembro ng mga komunidad na naghahanap ng pagkakapantay-pantay ay nasaktan.
Panahon na upang bigyan ang aming mga institusyon ng regulasyon ng mga tool na kailangan nila upang matugunan ang problema. Ang mga simpleng proteksyon sa pagkapribado na nakasalalay sa pagkuha ng indibidwal na pahintulot upang paganahin ang data na mabihag at repurposed ng mga kumpanya ay hindi maihiwalay mula sa diskriminasyong mga resulta ng paggamit. Totoo ito lalo na sa panahon kung kailan karamihan sa atin (kasama na ang mga kompanya ng teknolohiya mismo) Hindi lubos na maunawaan kung ano ang ginagawa ng mga algorithm o kung bakit naglilikha sila ng mga tukoy na resulta.
Ang pagkapribado ay isang karapatang pantao
Ang bahagi ng solusyon ay nangangailangan ng paghiwa-hiwalay sa kasalukuyang mga regulasyon ng mga silos na tinatrato ang privacy at karapatang pantao bilang hiwalay na mga isyu. Ang pagsalig sa isang modelo ng proteksyon ng data na nakabase sa pahintulot ay lilipad sa harap ng pangunahing prinsipyo na ang privacy at pagkakapantay-pantay ay kapwa mga karapatang pantao na hindi maaring makontrata.
Kahit na Digital Charter ng Canada - ang pinakabagong pagtatangka ng pamahalaang pederal na tumugon sa mga pagkukulang ng kasalukuyang estado ng digital na kapaligiran - pinapanatili ang mga pagkakaiba-iba ng konsepto. Itinuturing nito ang poot at pagiging sobra, kontrol at pahintulot, at malakas na demokrasya bilang hiwalay na mga kategorya.
Upang matugunan ang diskriminasyon sa algorithm, dapat nating kilalanin at i-frame ang parehong pagkapribado at pagkakapantay-pantay bilang mga karapatang pantao. At dapat kaming lumikha ng isang imprastraktura na pantay na maasikaso at dalubhasa sa pareho. Nang walang gayong pagsisikap, ang makintab na ningning ng matematika at agham ay magpapatuloy sa pagtatakip ng mga bias ng diskriminasyon ng AI, at ang mga travesties tulad ng naipataw kay Williams ay maaaring asahan na dumami.
Tungkol sa May-akda
Jane Bailey, Propesor ng Batas at Co-Leader ng The eQuality Project, L'Université d'Ottawa / Unibersidad ng Ottawa; Jacquelyn Burkell, Associate Vice-President, Pananaliksik, Western University, at Valerie Steeves, Buong Propesor, L'Université d'Ottawa / Unibersidad ng Ottawa
Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.
Mga Aklat sa Inequality mula sa listahan ng Mga Pinakamahusay na Nagbebenta ng Amazon
"Caste: Ang Pinagmulan ng Ating Kawalang-kasiyahan"
ni Isabel Wilkerson
Sa aklat na ito, sinusuri ni Isabel Wilkerson ang kasaysayan ng mga sistema ng caste sa mga lipunan sa buong mundo, kabilang ang Estados Unidos. Sinasaliksik ng aklat ang epekto ng caste sa mga indibidwal at lipunan, at nag-aalok ng balangkas para sa pag-unawa at pagtugon sa hindi pagkakapantay-pantay.
I-click para sa karagdagang impormasyon o para mag-order
"Ang Kulay ng Batas: Isang Nakalimutang Kasaysayan ng Paano Pinaghiwalay ng Ating Pamahalaan ang America"
ni Richard Rothstein
Sa aklat na ito, tinuklas ni Richard Rothstein ang kasaysayan ng mga patakaran ng pamahalaan na lumikha at nagpatibay ng paghihiwalay ng lahi sa Estados Unidos. Sinusuri ng aklat ang epekto ng mga patakarang ito sa mga indibidwal at komunidad, at nag-aalok ng panawagan sa pagkilos para sa pagtugon sa patuloy na hindi pagkakapantay-pantay.
I-click para sa karagdagang impormasyon o para mag-order
"Ang Kabuuan Natin: Ano ang Gastos ng Racism sa Lahat at Paano Tayo Mauunlad nang Sama-sama"
ni Heather McGhee
Sa aklat na ito, tinuklas ni Heather McGhee ang mga gastos sa ekonomiya at panlipunan ng racism, at nag-aalok ng isang pananaw para sa isang mas pantay at maunlad na lipunan. Kasama sa aklat ang mga kuwento ng mga indibidwal at komunidad na humamon sa hindi pagkakapantay-pantay, pati na rin ang mga praktikal na solusyon para sa paglikha ng isang mas inklusibong lipunan.
I-click para sa karagdagang impormasyon o para mag-order
"The Deficit Myth: Modern Monetary Theory and the Birth of the People's Economy"
ni Stephanie Kelton
Sa aklat na ito, hinahamon ni Stephanie Kelton ang mga kumbensyonal na ideya tungkol sa paggasta ng pamahalaan at ang pambansang depisit, at nag-aalok ng bagong balangkas para sa pag-unawa sa patakarang pang-ekonomiya. Kasama sa aklat ang mga praktikal na solusyon para sa pagtugon sa hindi pagkakapantay-pantay at paglikha ng mas pantay na ekonomiya.
I-click para sa karagdagang impormasyon o para mag-order
"Ang Bagong Jim Crow: Mass Incarceration sa Edad ng Colorblindness"
ni Michelle Alexander
Sa aklat na ito, tinuklas ni Michelle Alexander ang mga paraan kung saan ang sistema ng hustisyang kriminal ay nagpapatuloy sa hindi pagkakapantay-pantay ng lahi at diskriminasyon, partikular na laban sa mga Black American. Kasama sa aklat ang makasaysayang pagsusuri ng sistema at ang epekto nito, pati na rin ang panawagan sa pagkilos para sa reporma.
