Paano Ang Teknolohiya ng Pagkilala sa Mukha Ay Flawed at Biased Racially

Paano Ang Teknolohiya ng Pagkilala sa Mukha Ay Flawed at Biased Racially
Ang mga algorithm ng pagkilala ng mukha ay karaniwang nasubok gamit ang mga puting mukha, na nagreresulta sa teknolohiya na hindi maiiba sa pagitan ng mga indibidwal na may lahi. (Shutterstock)

Maling naaresto ng pulisya ng Detroit si Robert Julian-Borchak Williams noong Enero 2020 para sa isang insidente ng pag-shoplifting na naganap dalawang taon bago. Kahit na walang kinalaman si Williams sa pangyayari, ang teknolohiyang pagkilala sa facial na ginamit ng Michigan State Police ay "tumugma" sa kanyang mukha na may isang mabuting imahe na nakuha mula sa isang in-store na surveillance video na nagpapakita ng isa pang African American na lalaki na kumuha ng US $ 3,800 na halaga ng relo.

Pagkalipas ng dalawang linggo, ang kaso ay tinanggal sa kahilingan ng pag-uusig. Gayunpaman, sa pag-asa sa kamalian ng tugma, ang mga pulis ay nakaposas at inaresto si Williams sa harap ng kanyang pamilya, pinilit siyang magbigay ng isang shot ng tabla, mga fingerprint at isang sample ng kanyang DNA, naimbestiga sa kanya at binilanggo nang magdamag.

Iminumungkahi ng mga eksperto na hindi nag-iisa si Williams, at na ang iba ay sumailalim sa magkatulad na kawalang-katarungan. Ang patuloy na kontrobersya tungkol sa paggamit ng pulisya ng Clearview AI ay tiyak na binibigyang diin ang mga panganib sa privacy na nakuha ng teknolohiyang pagkilala sa facial. Ngunit mahalagang mapagtanto iyon hindi lahat sa atin ay may pantay na mga panganib.

Pagsasanay sa mga racist algorithm

Ang teknolohiyang pagkilala sa mukha ay sanay na at nakatutok sa mga mukha ng Caucasian systematically misidentify at mislabels racialized indibidwal: maraming mga pag-aaral ang nag-ulat na ang teknolohiyang pagkilala sa facial ay "flawed at bias, na may makabuluhang mas mataas na mga rate ng error kapag ginamit laban sa mga taong may kulay. "

ito pinapabagsak ang sariling katangian at sangkatauhan ng mga taong nagpo-lahi na mas malamang na mapagkamalan bilang kriminal. Ang teknolohiya - at ang mga pagkakamali sa pagkakakilanlan na ginagawa nito - sumasalamin at higit na ipinagpapamalas ang matagal na mga dibisyon ng lipunan na labis na nasasakal sa rasismo, seksismo, homophobia, settler-kolonyalismo at iba pang nakakaintriga na mga pang-aapi.


Isang pagsisiyasat sa France24 sa bias ng lahi sa teknolohiyang pagkilala sa mukha.

Paano kinakategorya ng teknolohiya ang mga gumagamit

Sa kanyang pagbago ng laro noong 1993, Ang Pagsunud-sunod na Pagsunud-sunod, binigyan ng babala ng iskolar na si Oscar Gandy na "kumplikadong teknolohiya [na] nagsasangkot sa koleksyon, pagproseso at pagbabahagi ng impormasyon tungkol sa mga indibidwal at grupo na nabuo sa pamamagitan ng kanilang pang-araw-araw na buhay ... ay ginagamit upang ayusin at kontrolin ang kanilang pag-access sa mga kalakal at serbisyo na tumutukoy sa buhay sa ang modernong kapitalistang ekonomiya. " Ginagamit ito ng pagpapatupad ng batas upang mai-pluck ang mga suspect mula sa pangkalahatang publiko, at ginagamit ito ng mga pribadong organisasyon upang matukoy kung mayroon kaming access sa mga bagay tulad banking at trabaho.


Kunin ang Pinakabagong Mula sa InnerSelf


Pansamantalang binabalaan ni Gandy na, kung maiiwan ang walang tsek, ang form na ito ng "cybernetic triage" ay tiyak na makakapinsala sa mga miyembro ng mga pamayanang naghahanap ng pagkakapantay-pantay - halimbawa, ang mga pangkat na may lahi o kapansanan sa sosyo-ekonomiko - kapwa sa mga tuntunin ng kung ano ang ilalaan sa kanila at kung paano nila maiintindihan ang kanilang mga sarili.

Pagkalipas ng 25 taon, naninirahan kami ngayon kasama ang panoptic na uri sa mga steroid. At ang mga halimbawa ng negatibong epekto nito sa mga pamayanan na naghahanap ng pagkakapantay-pantay, na tulad ng maling pagkakakilanlan kay Williams.

Pre-umiiral na bias

Ang pag-uuri na ito gamit ang mga algorithm ay sumasama sa pinakamahalagang aspeto ng pang-araw-araw na buhay, na paminsan-minsan ang parehong direkta at istruktura na karahasan sa paggising nito.

Ang direktang karahasan na naranasan ni Williams ay agad na nakikita sa mga kaganapan na nakapaligid sa kanyang pag-aresto at pagpigil, at ang mga indibidwal na pinsala na kanyang naranasan ay malinaw at maaaring masubaybayan sa mga aksyon ng mga pulis na pinili na umasa sa "tugma" ng teknolohiya upang makagawa ng isang pagdakip. Higit pang mga nakakapang-insulto ay ang karahasang istruktura nagawa sa pamamagitan ng teknolohiyang pagkilala sa facial at iba pang mga digital na teknolohiya rate na, tugma, pag-uri-uriin at pag-uri-uriin ang mga indibidwal sa mga paraan na pinalaki ang mga paunang diskriminasyong pattern.

Ang pinsala sa estrukturang karahasan ay hindi gaanong halata at hindi direktang, at nagiging sanhi ng pinsala sa mga pangkat na naghahanap ng pagkakapantay-pantay sa pamamagitan ng sistematikong pagtanggi sa kapangyarihan, mga mapagkukunan at pagkakataon. Kasabay nito, pinatataas nito ang direktang peligro at pinsala sa mga indibidwal na miyembro ng mga pangkat na iyon.

Ang mga mahuhusay na paggamit ng poling algorithmic processing ng makasaysayang data upang mahulaan kung kailan at saan ang mga bagong krimen ay malamang na magaganap, nagtatalaga ng mga mapagkukunan ng pulisya nang naaayon at nagtataguyod ng pinahusay na pagbabantay ng pulisya sa mga komunidad, kadalasan sa mga mas mababang kita at lahi ng mga kapitbahayan. Ito ay nagdaragdag ng mga pagkakataon na ang anumang aktibidad ng kriminal - kabilang ang hindi gaanong malubhang aktibidad ng kriminal na kung hindi man ay mag-udyok ng tugon ng pulisya - ay makikita at maparusahan, sa huli ay nililimitahan ang mga pagkakataon sa buhay ng mga taong nakatira sa loob ng kalikasan na iyon.

At ang katibayan ng hindi pagkakapantay-pantay sa iba pang mga sektor ay patuloy na tumataas. Daan-daang mga mag-aaral sa United Kingdom nagprotesta noong Agosto 16 laban sa mga nakapipinsalang resulta ng Madalas, isang mali sa algorithm na ginagamit ng gobyerno ng UK upang matukoy kung aling mga mag-aaral ang kwalipikado para sa unibersidad. Noong 2019, ang serbisyo ng ad ng microtargeting ng Facebook nakatulong sa dose-dosenang mga pampubliko at pribadong sektor ng employer ibukod ang mga tao mula sa pagtanggap ng mga ad ng trabaho batay sa edad at kasarian. Ang pananaliksik na isinasagawa ng ProPublica ay na-dokumentado diskriminasyon ng presyo batay sa lahi para sa mga online na produkto. At ang mga search engine ay regular na gumagawa ng mga resulta ng rasista at sexist.

Nagpapatuloy na pang-aapi

Mahalaga ang mga kinalabasan na ito sapagkat nagpapatuloy at nagpapalalim ng mga nauna nang hindi pagkakapantay-pantay batay sa mga katangian tulad ng lahi, kasarian at edad. Mahalaga rin ang mga ito dahil lubos silang nakakaapekto kung paano natin malalaman ang ating sarili at ang mundo sa ating paligid, kung minsan pre-pagpili ng impormasyon natatanggap namin sa mga paraan na nagpapatibay sa stereotypical perceptions. Kahit na ang mga kumpanya ng teknolohiya mismo ay kinikilala ang kagyat na huminto sa mga algorithm mula sa nagpapatuloy na diskriminasyon.

Sa ngayon ang tagumpay ng mga pagsisiyasat ng ad hoc, na isinagawa ng mga kumpanya ng tech mismo, ay hindi pantay-pantay. Paminsan-minsan, ang mga korporasyon na kasangkot sa paggawa ng mga diskriminasyong sistema ay bawiin ang mga ito mula sa merkado, tulad ng kung kailan Inihayag ng Clearview AI na hindi na ito mag-aalok ng teknolohiyang pagkilala sa facial sa Canada. Ngunit madalas ang gayong mga desisyon ay bunga ng pagsisiyasat ng regulasyon o pampublikong pagkagulo lamang pagkatapos ang mga miyembro ng mga komunidad na naghahanap ng pagkakapantay-pantay ay nasaktan.

Panahon na upang bigyan ang aming mga institusyon ng regulasyon ng mga tool na kailangan nila upang matugunan ang problema. Ang mga simpleng proteksyon sa pagkapribado na nakasalalay sa pagkuha ng indibidwal na pahintulot upang paganahin ang data na mabihag at repurposed ng mga kumpanya ay hindi maihiwalay mula sa diskriminasyong mga resulta ng paggamit. Totoo ito lalo na sa panahon kung kailan karamihan sa atin (kasama na ang mga kompanya ng teknolohiya mismo) Hindi lubos na maunawaan kung ano ang ginagawa ng mga algorithm o kung bakit naglilikha sila ng mga tukoy na resulta.

Ang pagkapribado ay isang karapatang pantao

Ang bahagi ng solusyon ay nangangailangan ng paghiwa-hiwalay sa kasalukuyang mga regulasyon ng mga silos na tinatrato ang privacy at karapatang pantao bilang hiwalay na mga isyu. Ang pagsalig sa isang modelo ng proteksyon ng data na nakabase sa pahintulot ay lilipad sa harap ng pangunahing prinsipyo na ang privacy at pagkakapantay-pantay ay kapwa mga karapatang pantao na hindi maaring makontrata.

Kahit na Digital Charter ng Canada - ang pinakabagong pagtatangka ng pamahalaang pederal na tumugon sa mga pagkukulang ng kasalukuyang estado ng digital na kapaligiran - pinapanatili ang mga pagkakaiba-iba ng konsepto. Itinuturing nito ang poot at pagiging sobra, kontrol at pahintulot, at malakas na demokrasya bilang hiwalay na mga kategorya.

Upang matugunan ang diskriminasyon sa algorithm, dapat nating kilalanin at i-frame ang parehong pagkapribado at pagkakapantay-pantay bilang mga karapatang pantao. At dapat kaming lumikha ng isang imprastraktura na pantay na maasikaso at dalubhasa sa pareho. Nang walang gayong pagsisikap, ang makintab na ningning ng matematika at agham ay magpapatuloy sa pagtatakip ng mga bias ng diskriminasyon ng AI, at ang mga travesties tulad ng naipataw kay Williams ay maaaring asahan na dumami.Ang pag-uusap

Tungkol sa May-akda

Jane Bailey, Propesor ng Batas at Co-Leader ng The eQuality Project, L'Université d'Ottawa / Unibersidad ng Ottawa; Jacquelyn Burkell, Associate Vice-President, Pananaliksik, Western University, at Valerie Steeves, Buong Propesor, L'Université d'Ottawa / Unibersidad ng Ottawa

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

sundin ang InnerSelf sa

facebook-icontwitter-iconrss-icon

Kumuha ng Pinakabagong Sa pamamagitan ng Email

{Emailcloak = off}

Nakatanggap ako ng kaunting tulong mula sa aking mga kaibigan

MULA SA EDITOR

InnerSelf Newsletter: Oktubre 25, 2020
by InnerSelf staff
Ang "slogan" o sub-pamagat para sa website ng InnerSelf ay "Mga Bagong Saloobin --- Bagong Mga Posibilidad", at iyon mismo ang tema ng newsletter ngayong linggo. Ang layunin ng aming mga artikulo at may-akda ay upang ...
InnerSelf Newsletter: Oktubre 18, 2020
by InnerSelf staff
Sa mga araw na ito ay naninirahan tayo sa mga mini-bubble ... sa ating sariling mga tahanan, sa trabaho, at sa publiko, at posibleng sa ating sariling isipan at ng ating sariling mga emosyon. Gayunpaman, naninirahan sa isang bubble, o pakiramdam na katulad namin…
InnerSelf Newsletter: Oktubre 11, 2020
by InnerSelf staff
Ang buhay ay isang paglalakbay at, tulad ng karamihan sa mga paglalakbay, kasama ang mga tagumpay at kabiguan. At tulad ng araw na laging sumusunod sa gabi, sa gayon ang aming personal na pang-araw-araw na karanasan ay magmula sa madilim hanggang sa ilaw, at pabalik-balik. Gayunpaman,…
InnerSelf Newsletter: Oktubre 4, 2020
by InnerSelf staff
Anuman ang pinagdadaanan natin, kapwa indibidwal at sama-sama, dapat nating tandaan na hindi tayo biktima ng walang magawa. Maaari nating makuha muli ang ating kapangyarihan upang mag-ukit ng ating sariling landas at pagalingin ang ating buhay, sa espirituwal ...
InnerSelf Newsletter: Setyembre 27, 2020
by InnerSelf staff
Ang isa sa malaking lakas ng sangkatauhan ay ang aming kakayahang maging kakayahang umangkop, maging malikhain, at mag-isip sa labas ng kahon. Upang maging isang taong iba kaysa sa kahapon o noong nakaraang araw. Maaari nating baguhin ...…