Paano Buuin ng Artipisyal na mga Sistemang Intelligence ang Demokrasya

privacy

Higanteng teknolohiya ng US Nagtipon ang Microsoft sa isang unibersidad ng militar Tsino upang bumuo artipisyal na mga sistema ng katalinuhan na maaaring potensyal na mapahusay ang mga surveillance at censorship ng kakayahan ng gobyerno. Dalawa Hinahatulan ng publiko ng mga senador ng US ang pakikipagsosyo, ngunit kung ano ang National Defense Technology University of China Nais ng mula sa Microsoft ay hindi lamang ang pag-aalala.

As nagpapakita ang aking pananaliksik, ang pagdating ng digital na panunupil ay lubhang naaapektuhan ang ugnayan sa pagitan ng mamamayan at ng estado. Ang mga bagong teknolohiya ay nagtataglay ng mga pamahalaan na may mga walang kapantay na kakayahan upang subaybayan, subaybayan at i-surveillance ang indibidwal na mga tao. Kahit na ang mga pamahalaan sa democracies na may malakas na tradisyon ng alituntunin ng batas masusumpungan ang kanilang sarili sa pang-aabuso ang mga bagong kakayahan.

Sa estadong ito na may mga institusyon na hindi maikakaila at madalas na mga pang-aabuso sa karapatang pantao, Ang mga sistema ng AI ay malamang na maging sanhi ng mas malaking pinsala. Ang Tsina ay isang kilalang halimbawa. Ang pamumuno nito ay masigasig na tinanggap ang mga teknolohiya ng AI, at itinatag ang mundo pinaka-sopistikadong estado ng pagsubaybay in Lalawigan ng Xinjiang, pagsubaybay sa araw-araw na paggalaw ng mga mamamayan at paggamit ng smartphone.

Ang pagsasamantala nito sa mga teknolohiyang ito Nagtatanghal ng isang chilling model para sa mga kapwa autocrats at poses isang direktang banta upang buksan ang demokratikong lipunan. Kahit na walang katibayan na ang iba pang mga pamahalaan ay kinopya ang antas ng pagsubaybay ng AI, ang mga kompanya ng Intsik ay aktibong nag-e-export ng parehong napapailalim na mga teknolohiya sa buong mundo.

Ang pagpapataas ng pag-uumasa sa mga tool ng AI sa US

Mga sistema ng artificial intelligence ay nasa lahat ng dako sa modernong mundo, na tumutulong sa pagtakbo ng mga smartphone, mga search engine sa internet, mga digital na voice assistant at mga queue ng Netflix. Maraming tao ang napagtanto gaano kabilis na lumalawak ang AI, salamat sa patuloy na pagtaas ng mga dami ng data na sinusuri, pagpapabuti ng mga algorithm at mga advanced na chips ng computer.

Sa anumang oras mas maraming impormasyon ang magagamit at mas madali ang pag-aaral, ang mga pamahalaan ay interesado - at hindi lamang mga awtoritaryan. Sa US, halimbawa, nakita ng 1970 ang mga paghahayag na ang mga ahensya ng gobyerno - tulad ng FBI, CIA at NSA - ay nag-set up malawak na mga network ng pagmamanman sa bansa upang masubaybayan at harasinin ang mga protestang karapatan ng mamamayan, mga aktibistang pampulitika at mga grupong Katutubong Amerikano. Ang mga isyu na ito ay hindi nawala: Ang teknolohiyang digital ngayon ay lumalim ang kakayahan ng higit pang mga ahensya na magsagawa ng mas mapanghimasok na pagsubaybay.

privacy Paano makatarungan gawin ang mga algorithm na hulaan kung saan ang pulisya ay dapat na pinaka-pokus? Arnout de Vries

Halimbawa, ang pulisya ng US ay sabik na tinanggap ang mga teknolohiya ng AI. Sinimulan na nila ang paggamit ng software na iyon sinadya upang mahulaan kung saan ang mga krimen ang mangyayari upang magpasya kung saan magpadala ng mga opisyal sa patrol. Ginagamit din nila facial recognition at Pagtatasa ng DNA sa mga kriminal na pagsisiyasat. Ngunit sinusuri ng mga sistemang ito ang ang data kung saan sinanay ang mga sistemang ito ay kadalasang biased, na humahantong sa hindi makatarungang resulta, Gaya ng ang maling pagtukoy na ang mga African American ay mas malamang na gumawa ng mga krimen kaysa sa iba pang mga grupo.

AI surveillance sa buong mundo

Sa mga awtoritaryan na bansa, ang mga sistema ng AI ay maaaring direktang mag-abet sa domestic control at surveillance, pagtulong Ang mga panloob na pwersa sa seguridad ay nagproseso ng napakalaking halaga ng impormasyon - kabilang ang mga post ng social media, mga text message, mga email at mga tawag sa telepono - mas mabilis at mahusay. Ang pulisya ay makikilala ang mga usang panlipunan at tiyak na mga tao na maaaring magbanta sa rehimen batay sa impormasyong hindi natuklasan ng mga sistemang ito.

Halimbawa, ang gobyerno ng China ay gumamit ng AI sa malawakang pag-crack sa mga rehiyon na tahanan ng mga etnikong minorya sa loob ng Tsina. Ang mga sistema ng pananaliksik sa Xinjiang at Tibet ay inilarawan bilang "Orwellian. "Kasama sa mga pagsisikap na ito mga ipinag-uutos na sample ng DNA, Pagsubaybay ng Wi-Fi network at kalat na pangmukha ang mga camera ng pagkilala, lahat ay nakakonekta sa integrated data analysis platform. Sa tulong ng mga sistemang ito, ang mga awtoridad ng Tsino ay, ayon sa Kagawaran ng Estado ng Estados Unidos, "arbitraryong pinigil" sa pagitan 1 at 2 milyong tao.

My Tinitingnan ng pananaliksik ang mga bansa sa 90 sa buong mundo na may mga uri ng pamahalaan mula sa saradong awtoritaryan hanggang sa mga depektibong demokrasya, kabilang ang Thailand, Turkey, Bangladesh at Kenya. Nalaman ko na ang mga Intsik kompanya ay export ng AI surveillance technology sa hindi bababa sa 54 ng mga bansang ito. Madalas, ang teknolohiyang ito ay nakabalot bilang bahagi ng punong barko ng Tsina Belt at Road Initiative, na nagpopondo sa isang malawak na network ng mga kalsada, riles, mga pipeline ng enerhiya at mga network ng telekomunikasyon paghahatid ng 60% ng populasyon sa mundo at ekonomiya na bumubuo ng 40% ng global GDP.

Halimbawa, tulad ng mga kompanya ng Intsik HUAWEI at ang ZTE ay nagtatayo ng "matalinong mga lungsod" sa Pakistan, ang Pilipinas at Kenya, na nagtatampok ng malawak na built-in na surveillance technology. Halimbawa, ang Huawei ay outfitted Bonifacio Global City sa Pilipinas na may high-definition internet-connected camera na nagbibigay ng "24 / 7 intelligent security surveillance na may analytics ng data upang makita ang krimen at makatulong na pamahalaan ang trapiko. "

privacy Ang Bonifacio Global City sa Pilipinas ay may maraming naka-embed na kagamitan sa pagmamatyag. alveo land / Wikimedia Commons

Hikvision, Yitu at SenseTime ay nagbibigay ng state-of-the-art facial recognition camera para gamitin sa mga lugar tulad ng Singgapur - na inihayag ang pagtatatag ng isang programa ng pagmamanman na may Ang mga 110,000 camera ay naka-mount sa mga post lamp sa paligid ng estado ng lungsod. Ang Zimbabwe ay lumilikha ng isang pambansang imahe ng database na maaaring magamit para sa pagkilala ng mukha.

Gayunpaman, ang pagbebenta ng mga advanced na kagamitan para sa kita ay iba kaysa sa pagbabahagi ng teknolohiya sa isang express geopolitical na layunin. Ang mga bagong kakayahan na ito ay maaaring magtanim ng mga binhi para sa pandaigdigang pagsubaybay: Habang ang pamahalaan ay lalong nakadepende sa teknolohiyang Tsino upang pamahalaan ang kanilang mga populasyon at mapanatili ang kapangyarihan, haharapin sila ng higit na presyon upang maayos ang agenda ng China. Ngunit sa ngayon ay lumilitaw na ang pangunahing motibo ng Tsina ay ang mangibabaw sa merkado para sa mga bagong teknolohiya at gumawa ng maraming pera sa proseso.

AI at disinformation

Bilang karagdagan sa pagbibigay ng mga kakayahan sa pagmamatyag na parehong nakamamanghang at pinino, maaaring matulungan ng Ai ang mga mapanupil na pamahalaan na mamanipula ang magagamit na impormasyon at kumalat ang disinformation. Ang mga kampanyang ito ay maaaring awtomatiko o tinutulungan ng automation, at i-deploy mga personalized na mensahe nakadirekta sa - o laban - tiyak na mga tao o mga grupo.

AI din underpins ang teknolohiya na karaniwang tinatawag na "malalim, "Kung saan lumikha ng mga algorithm makatotohanang video at audio forgeries. Ang pag-ulan ng tubig sa pagitan ng katotohanan at kathang isip ay maaaring maging kapaki-pakinabang sa isang masikip na halalan, kapag ang isang kandidato ay maaaring gumawa ng mga pekeng video na nagpapakita ng isang kalaban na ginagawa at sinasabi ang mga bagay na hindi kailanman aktwal na nangyari.

Ang isang maagang malalim na video ay nagpapakita ng ilan sa mga panganib ng advanced na teknolohiya.

Sa aking pagtingin, ang mga policymakers sa democracies ay dapat mag-isip nang maingat tungkol sa mga panganib ng mga sistema ng AI sa kanilang sariling mga lipunan at sa mga taong nabubuhay sa ilalim ng awtoritaryan na mga rehimen sa buong mundo. Ang isang kritikal na tanong ay kung gaano karaming mga bansa ang magpapatupad ng modelo ng digital surveillance ng China. Ngunit ito ay hindi lamang mga awtoritaryan na mga bansa na pakiramdam ang pull. At ito ay hindi lamang mga kompanya ng Intsik na nagkakalat ng teknolohiya: Maraming mga kompanya ng US, kasama ang Microsoft, ngunit IBM, Cisco at Thermo Fisher Nagbigay rin ang mga sopistikadong kakayahan sa mga bastos na pamahalaan. Ang maling paggamit ng AI ay hindi limitado sa mga autokratikong estado.Ang pag-uusap

Tungkol sa Ang May-akda

Steven Feldstein, Tagapangulo ng Frank at Betine Church ng Public Affairs & Associate Professor, School of Public Service, Boise State University

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.

Mga Kaugnay Books

{amazonWS: searchindex = Books; keywords = AI surveillance; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

sundin ang InnerSelf sa

facebook-icontwitter-iconrss-icon

Kumuha ng Pinakabagong Sa pamamagitan ng Email

{Emailcloak = off}