Spainter_vfx / Shutterstock.com

Mga pelikula tulad ng 2001: Isang Space Odisea, Talim runner at Terminator nagdala ng pusong robot at computer system sa aming mga screen ng sine. Ngunit sa mga araw na ito, ang mga klasikong science fiction na salamin sa mata ay hindi mukhang napakalayo mula sa katotohanan.

Ang pagtaas, nakatira tayo, nagtatrabaho at naglalaro ng mga computational na teknolohiya na nagsasarili at matalino. Ang mga sistemang ito ay kinabibilangan ng software at hardware na may kapasidad para sa independiyenteng pangangatuwiran at paggawa ng desisyon. Gumagana sila para sa amin sa sahig ng pabrika; magpasya sila kung makakakuha tayo ng mortgage; sinubaybayan at sinukat nila ang aming mga antas ng aktibidad at fitness; nililinis nila ang sahig ng aming living room at pinutol ang aming lawn.

Ang mga awtonomiya at matalinong mga sistema ay may potensyal na makaapekto sa halos lahat ng aspeto ng ating buhay sa lipunan, ekonomiya, pampulitika at pribado, kabilang ang pang-araw-araw na aspeto. Karamihan sa mga ito ay tila walang sala, ngunit may dahilan para sa pag-aalala. Ang mga teknolohiyang computational ay nakakaapekto sa bawat karapatang pantao, mula sa karapatan sa buhay patungo sa karapatan sa pagiging pribado, ang kalayaan sa pagpapahayag sa mga karapatan sa lipunan at ekonomiya. Kaya paano namin ipagtanggol ang mga karapatang pantao sa isang teknolohikal na tanawin na unti-unting naporma ng robotics at artificial intelligence (AI)?

AI at mga karapatang pantao

Una, may isang tunay na takot na ang pagtaas ng awtonomiya ng makina ay magpapahina sa kalagayan ng mga tao. Ang takot na ito ay pinagsasama ng kakulangan ng kalinawan sa kung sino ang gaganapin sa account, kung sa isang legal o isang moral na pakiramdam, kapag ang marunong makina gawin pinsala. Ngunit hindi ako sigurado na ang focus ng aming pag-aalala para sa mga karapatang pantao ay dapat talagang kasinungalingan pusong robot, tila sa kasalukuyan. Sa halip, dapat nating mag-alala tungkol sa paggamit ng mga tao ng mga robot at artipisyal na katalinuhan at ang kanilang pag-deploy sa mga hindi makatarungan at hindi pantay na konteksto sa pulitika, militar, pang-ekonomiya at panlipunan.

Ang pag-aalala na ito ay partikular na may kinalaman sa paggalang sa mga nakamamatay na mga sistema ng armas na nagsasarili (LAWS), na madalas na inilarawan bilang mga killer robot. Tulad ng sa amin lumipat patungo sa isang karera ng AI armas, mga karapatang pantao ng mga iskolar at mga campaigner tulad ng Christof Heyns, ang dating espesyal na rapporteur ng UN sa ekstrahudisyal, buod o arbitraryong executions, natatakot na ang paggamit ng mga batas ay maglalagay ng autonomous robotic system sa pamamahala ng mga desisyon sa buhay at kamatayan, na may limitado o walang kontrol sa tao.

Binabago rin ng Ai ang link sa pagitan ng mga kasanayan sa digma at pagsubaybay. Mga grupo tulad ng International Committee for Robot Arms Control (ICRAC) kamakailan ipinahayag ang kanilang pagsalungat sa paglahok ng Google sa Project Maven, isang programa ng militar na gumagamit ng pag-aaral ng makina upang pag-aralan ang pagsubaybay ng pagmamanman ng drone, na maaaring magamit para sa mga ekstrahudisyal na pamamaslang. ICRAC nag-apela sa Google upang matiyak na ang data na kinokolekta nito sa mga gumagamit nito ay hindi kailanman ginagamit para sa mga layunin ng militar, sumali sa mga protesta ng mga empleyado ng Google sa paglahok ng kumpanya sa proyekto. Kamakailan inihayag ng Google na ito ay hindi magbabago kontrata nito.

Sa 2013, ang lawak ng mga kasanayan sa pagmamatyag ay na-highlight ng Edward Snowden revelations. Ang mga ito ay itinuro sa amin ng marami tungkol sa banta sa karapatan sa privacy at ang pagbabahagi ng data sa pagitan ng mga serbisyo ng katalinuhan, mga ahensya ng gobyerno at mga pribadong korporasyon. Ang kamakailang kontrobersya na nakapalibot Cambridge AnalyticaAng pag-aani ng personal na data sa pamamagitan ng paggamit ng mga social media platform tulad ng Facebook ay patuloy na nagiging sanhi ng malubhang pangamba, oras na ito sa paglipas ng pagmamanipula at panghihimasok sa demokratikong halalan na makapinsala sa karapatan sa kalayaan sa pagpapahayag.

Samantala, ang mga kritikal na analyst ng data ay humahamon diskriminasyon na kasanayan na nauugnay sa tinatawag nilang "white guy problem" ng AI. Ito ang pag-aalala na ang mga sistemang AI na sinanay sa umiiral na data ay ginagaya ang umiiral na mga stereotype ng lahi at kasarian na nagpapatuloy sa mga gawi ng diskriminasyon sa mga lugar tulad ng policing, mga desisyon sa hudisyal o trabaho.

Ang AI ay maaaring magtiklop at magpapatibay ng mga stereotype. Ollyy / Shutterstock.com

Mga hindi maliwanag na bot

Ang potensyal na banta ng mga teknolohiya ng computational sa mga karapatang pantao at sa pisikal, pampulitika at digital na seguridad ay naka-highlight sa isang kamakailan-publish na pag-aaral sa Ang Malisyosong Paggamit ng Artipisyal na Katalinuhan. Ang mga alalahanin na ipinahayag sa ulat ng University of Cambridge na ito ay dapat na seryoso. Ngunit paano natin dapat harapin ang mga banta na ito? Handa ba ang mga karapatang pantao para sa panahon ng robotics at AI?

Mayroong patuloy na pagsisikap na i-update ang umiiral na mga prinsipyo ng karapatang pantao para sa panahon na ito. Kabilang dito ang UN Framing at Guiding Principles on Business and Human Rights, sumusubok na magsulat ng isang Magna Carta para sa digital age at ang Hinaharap ng Buhay Institute Asilomar AI Principles, na tumutukoy sa mga alituntunin para sa etika pananaliksik, pagsunod sa mga halaga at isang pangako sa mas matagal na pang-matagalang pag-unlad ng AI.

Ang mga pagsisikap na ito ay kapuri-puri ngunit hindi sapat. Ang mga pamahalaan at mga ahensya ng gobyerno, mga partidong pampulitika at mga pribadong korporasyon, lalo na ang mga nangungunang mga kompanya ng tech, ay dapat gumawa ng mga etikal na paggamit ng AI. Kailangan din natin ng epektibo at maipapatupad na kontrol sa pambatasan.

Anuman ang mga bagong hakbang na ipinakilala namin, mahalaga na kilalanin na ang aming mga buhay ay unting nakabalangkas sa mga autonomous machine at intelligent na mga sistema. Ang pagkagambala na ito ay nakapagpapalusog sa kapakanan ng tao sa mga lugar tulad ng medikal na pananaliksik at paggamot, sa ating sistema ng transportasyon, sa mga setting ng panlipunang pangangalaga at sa mga pagsisikap na protektahan ang kapaligiran.

Ngunit sa iba pang mga lugar na ito entanglement throws up nag-aalala prospect. Ang mga teknolohiya ng computational ay ginagamit upang panoorin at subaybayan ang aming mga pagkilos at pag-uugali, sumubaybay sa aming mga hakbang, ang aming lokasyon, ang aming kalusugan, ang aming mga panlasa at ang aming mga pagkakaibigan. Ang mga sistemang ito ay humuhubog sa pag-uugali ng tao at hinihimok tayo sa mga kasanayan sa pagsubaybay sa sarili na nagpapawalang-bisa sa ating kalayaan at nagpapahina sa mga ideya at ideals ng mga karapatang pantao.

At dito ay ang kabuuan: ang kapasidad para sa dual paggamit ng mga teknolohiya ng computational blurs ang linya sa pagitan ng mga mapagpakumbaba at masasamang gawain. Higit pa, ang mga teknolohiya ng computational ay malalim na naapektuhan sa mga hindi pantay na relasyon ng kapangyarihan sa pagitan ng mga indibidwal na mamamayan, ng estado at ng mga ahensya nito, at mga pribadong korporasyon. Kung hindi nakuha mula sa epektibong pambansa at pandaigdig na mga sistema ng mga tseke at balanse, nagpapakita ito ng tunay at nababahala na banta sa ating mga karapatang pantao.

Tungkol sa Ang May-akda

Birgit Schippers, Fellow Visiting Research, Senador George J Mitchell Institute para sa Global Peace, Security at Justice, Queen University Belfast

Ang artikulong ito ay orihinal na na-publish sa Ang pag-uusap. Basahin ang ang orihinal na artikulo.

Mga Kaugnay Books

{amazonWS:searchindex=Books;Birgit Schippers=innerself" target="_blank" rel="nofollow noopener">InnerSelf Market at Amazon