Imahe sa pamamagitan ng Susan Cipriano
Mula sa Editor:
Gaya ng naka-highlight sa artikulong ito, ang pagbuo ng mga kampanyang pampulitika na hinimok ng AI, tulad ng hypothetical machine na tinatawag na Clogger, ay maaaring lubhang makasira sa integridad ng mga halalan. Sa pamamagitan ng paggamit ng automation, iniangkop na pagmemensahe, at reinforcement learning, ang mga makinang ito ay may potensyal na manipulahin at baguhin ang pag-uugali ng mga botante sa napakalaking sukat.
Sa isang panahon kung saan mabilis na sumusulong ang artificial intelligence (AI), dapat tayong manatiling mapagbantay sa mga potensyal na banta na dulot nito sa ating mga demokratikong proseso. Hinahamon ng paglitaw ng mga kampanyang hinimok ng AI ang pinakadiwa ng demokrasya. Sa halip na ang mga halalan ay tinutukoy sa pamamagitan ng kapangyarihan ng mga ideya, mga panukala sa patakaran, at mga tunay na pagpipilian ng mga botante, maaari silang maimpluwensyahan ng mga makina na nakatuon lamang sa tagumpay. Ang nilalamang nangingibabaw ay magmumula sa mga modelo ng wika ng AI na walang pagsasaalang-alang sa katotohanan o mga prinsipyong pampulitika. Sa esensya, ang kalalabasan ng halalan ay ididikta ng isang artipisyal na katalinuhan, na nagpapabagal sa demokratikong proseso.
Upang maiwasan ang pag-usbong ng isang "clogocracy" at ang disempowerment ng mga mamamayan, napakahalaga na kumilos tayo. Ang pinahusay na proteksyon sa privacy at malakas na batas sa privacy ng data ay maaaring makatulong na limitahan ang pag-access ng mga AI machine sa personal na data, na binabawasan ang kanilang pagiging epektibo sa pag-target at pagmamanipula ng mga indibidwal. Dapat ding isaalang-alang ng mga komisyon sa halalan ang pagbabawal o mahigpit na pagsasaayos ng mga AI system na idinisenyo upang maimpluwensyahan ang mga botante. Pagpapatupad ng mga regulasyon na nangangailangan ng malinaw na mga disclaimer kapag ginagamit ang mga mensaheng binuo ng AI sa mga kampanyang pampulitika. Makakapagbigay ito ng transparency at makakatulong sa mga botante na gumawa ng matalinong mga desisyon.
Kinakailangan na maagap nating tugunan ang mga hamong ito at tiyakin na ang kapangyarihan ng AI ay magagamit nang responsable upang itaguyod ang mga prinsipyo ng demokrasya. Sa pamamagitan ng pagprotekta sa integridad ng mga halalan at pagprotekta sa kalayaan sa pagpili, maaari nating i-navigate ang mga kumplikado ng AI at mapangalagaan ang mga pundasyon ng demokratikong pamamahala.
Paano maaagaw ng AI ang mga halalan - at papanghinain ang demokrasya
Sinulat ni Archon Fung, Propesor ng Citizenship at Self-Government, Harvard Kennedy School at Lawrence Lessig, Propesor ng Batas at Pamumuno, Harvard University
Maaari bang gumamit ang mga organisasyon ng mga modelo ng wikang artificial intelligence tulad ng ChatGPT upang himukin ang mga botante na kumilos sa mga partikular na paraan?
Tinanong ni Sen. Josh Hawley ang OpenAI CEO na si Sam Altman sa tanong na ito sa isang Mayo 16, 2023, pagdinig sa Senado ng US sa artificial intelligence. Sumagot si Altman na talagang nag-aalala siya na maaaring gumamit ang ilang tao ng mga modelo ng wika upang manipulahin, hikayatin at makisali sa isa-sa-isang pakikipag-ugnayan sa mga botante.
Hindi nagdetalye si Altman, ngunit maaaring nasa isip niya ang ganitong senaryo. Isipin na sa lalong madaling panahon, ang mga political technologist ay bumuo ng isang makina na tinatawag na Clogger - isang pampulitikang kampanya sa isang itim na kahon. Ang Clogger ay walang humpay na hinahabol ang isang layunin lamang: upang i-maximize ang mga pagkakataon na ang kandidato nito - ang kampanyang bumibili sa mga serbisyo ng Clogger Inc. - ay mananaig sa isang halalan.
Habang ang mga platform tulad ng Facebook, Twitter at YouTube ay gumagamit ng mga anyo ng AI upang makuha ang mga user gumastos ng mas maraming oras sa kanilang mga site, magkakaroon ng ibang layunin ang AI ng Clogger: baguhin ang gawi sa pagboto ng mga tao.
Paano gagana ang Clogger
Bilang isang pampulitika siyentipiko at ligal na iskolar na nag-aaral sa intersection ng teknolohiya at demokrasya, naniniwala kami na ang isang bagay tulad ng Clogger ay maaaring gumamit ng automation upang kapansin-pansing taasan ang sukat at potensyal na ang pagiging epektibo ng pagmamanipula ng pag-uugali at mga diskarte sa microtargeting na ginamit ng mga kampanyang pampulitika mula noong unang bahagi ng 2000s. Tulad ng ginagamit ng mga advertiser ang iyong kasaysayan ng pagba-browse at social media upang indibidwal na i-target ang mga komersyal at pampulitikang ad ngayon, bibigyan ka ng pansin ni Clogger – at daan-daang milyong iba pang mga botante – nang paisa-isa.
Mag-aalok ito ng tatlong pagsulong sa kasalukuyang makabagong algorithmic na pagmamanipula ng gawi. Una, ang modelo ng wika nito ay bubuo ng mga mensahe — mga text, social media at email, marahil kasama ang mga larawan at video — na personal na iniayon sa iyo. Bagama't ang mga advertiser ay madiskarteng naglalagay ng medyo maliit na bilang ng mga ad, ang mga modelo ng wika gaya ng ChatGPT ay maaaring makabuo ng hindi mabilang na natatanging mga mensahe para sa iyo nang personal - at milyon-milyon para sa iba pa - sa panahon ng isang kampanya.
Pangalawa, gagamit si Clogger ng isang pamamaraan na tinatawag reinforcement learning upang makabuo ng sunud-sunod na mga mensahe na nagiging mas malamang na baguhin ang iyong boto. Ang reinforcement learning ay isang machine-learning, trial-and-error na diskarte kung saan kumikilos ang computer at nakakakuha ng feedback tungkol sa kung aling gumagana ang mas mahusay upang matutunan kung paano makamit ang isang layunin. Mga machine na maaaring maglaro ng Go, Chess at maraming video game mas mabuti kaysa sinumang tao gumamit ng reinforcement learning.
Paano gumagana ang reinforcement learning.
Pangatlo, sa paglipas ng panahon ng isang kampanya, maaaring umunlad ang mga mensahe ng Clogger upang isaalang-alang ang iyong mga tugon sa mga naunang dispatch ng makina at kung ano ang natutunan nito tungkol sa pagbabago ng isip ng iba. Magagawa ng Clogger na magpatuloy sa mga dynamic na "pag-uusap" sa iyo - at milyon-milyong iba pang mga tao - sa paglipas ng panahon. Ang mga mensahe ng Clogger ay magiging katulad ng mga ad na sumusunod sa iyo sa iba't ibang mga website at social media.
Ang kalikasan ng AI
Tatlong higit pang mga tampok - o mga bug - ay nagkakahalaga ng pagpuna.
Una, ang mga mensaheng ipinapadala ni Clogger ay maaaring pulitikal sa nilalaman o hindi. Ang tanging layunin ng makina ay i-maximize ang bahagi ng boto, at malamang na gumawa ito ng mga estratehiya para makamit ang layuning ito na hindi naisip ng sinumang tao na nangangampanya.
Ang isang posibilidad ay ang pagpapadala ng malamang na kalaban na mga botante ng impormasyon tungkol sa mga hindi pulitikal na hilig na mayroon sila sa palakasan o libangan upang ibaon ang pampulitikang pagmemensahe na kanilang natatanggap. Ang isa pang posibilidad ay ang pagpapadala ng mga mensaheng hindi kapani-paniwala – halimbawa mga advertisement ng kawalan ng pagpipigil – na nag-time na tumutugma sa pagmemensahe ng mga kalaban. At ang isa pa ay ang pagmamanipula ng mga grupo ng kaibigan sa social media ng mga botante para bigyan ng kahulugan na sinusuportahan ng kanilang mga social circle ang kandidato nito.
Pangalawa, walang pakialam si Clogger sa katotohanan. Sa katunayan, wala itong paraan upang malaman kung ano ang totoo o mali. Modelo ng wika na "mga guni-guni" ay hindi problema para sa makinang ito dahil ang layunin nito ay baguhin ang iyong boto, hindi upang magbigay ng tumpak na impormasyon.
Pangatlo, dahil ito ay a black box na uri ng artificial intelligence, ang mga tao ay walang paraan upang malaman kung anong mga diskarte ang ginagamit nito.
Ang larangan ng maipaliwanag na AI ay naglalayong buksan ang itim na kahon ng maraming modelo ng machine-learning upang maunawaan ng mga tao kung paano gumagana ang mga ito.
Clogocracy
Kung ang Republican presidential campaign ay magpapakalat ng Clogger sa 2024, ang Democratic campaign ay malamang na mapipilitang tumugon sa uri, marahil sa isang katulad na makina. Tawagan itong Dogger. Kung naisip ng mga tagapamahala ng kampanya na epektibo ang mga makinang ito, ang paligsahan sa pagkapangulo ay maaaring dumating sa Clogger vs. Dogger, at ang mananalo ay ang kliyente ng mas epektibong makina.
Maraming masasabi ang mga siyentipiko at eksperto sa politika tungkol sa kung bakit nanaig ang isa o ang iba pang AI, ngunit malamang na walang makakaalam. Ang pangulo ay mahalal hindi dahil ang kanyang mga panukala sa patakaran o mga ideya sa pulitika ay nakahikayat ng mas maraming Amerikano, ngunit dahil siya ay may mas epektibong AI. Ang nilalamang nanalo sa araw na iyon ay magmumula sana sa isang AI na nakatuon lamang sa tagumpay, na walang sariling mga ideya sa pulitika, sa halip na mula sa mga kandidato o partido.
Sa napakahalagang kahulugang ito, ang isang makina ay nanalo sana sa halalan sa halip na isang tao. Ang halalan ay hindi na magiging demokratiko, kahit na ang lahat ng mga ordinaryong aktibidad ng demokrasya - ang mga talumpati, ang mga patalastas, ang mga mensahe, ang pagboto at ang pagbibilang ng mga boto - ay nangyari.
Ang nahalal na presidente ng AI ay maaaring pumunta sa isa sa dalawang paraan. Maaari niyang gamitin ang mantle ng halalan upang ituloy ang mga patakaran ng partidong Republikano o Demokratiko. Ngunit dahil ang mga ideya sa partido ay maaaring walang kinalaman sa kung bakit ang mga tao ay bumoto sa paraang ginawa nila - Clogger at Dogger ay walang pakialam sa mga pananaw sa patakaran - ang mga aksyon ng pangulo ay hindi nangangahulugang magpapakita ng kagustuhan ng mga botante. Ang mga botante ay manipulahin ng AI sa halip na malayang pumili ng kanilang mga pinuno at patakaran sa pulitika.
Ang isa pang landas ay para sa pangulo na ituloy ang mga mensahe, pag-uugali at patakaran na hinuhulaan ng makina na magpapalaki sa mga pagkakataong muling mahalal. Sa landas na ito, ang pangulo ay walang partikular na plataporma o agenda na higit sa pagpapanatili ng kapangyarihan. Ang mga aksyon ng pangulo, na ginagabayan ng Clogger, ay ang mga pinaka-malamang na manipulahin ang mga botante sa halip na pagsilbihan ang kanilang tunay na interes o maging ang sariling ideolohiya ng pangulo.
Pag-iwas sa Clogocracy
Posibleng maiwasan ang manipulasyon sa halalan ng AI kung ang mga kandidato, kampanya at consultant ay lahat ay sumuko sa paggamit ng naturang pampulitika na AI. Naniniwala kami na hindi ito malamang. Kung ang mga itim na kahon na epektibo sa pulitika ay binuo, ang tuksong gamitin ang mga ito ay halos hindi mapaglabanan. Sa katunayan, maaaring makita ng mga political consultant ang paggamit ng mga tool na ito ayon sa hinihingi ng kanilang propesyonal na responsibilidad upang tulungan ang kanilang mga kandidato na manalo. At kapag ang isang kandidato ay gumamit ng gayong epektibong kasangkapan, ang mga kalaban ay halos hindi inaasahang lalaban sa pamamagitan ng pagdidisarmahan nang unilateral.
Pinahusay na proteksyon sa privacy makakatulong. Magdedepende ang Clogger sa pag-access sa napakaraming personal na data upang ma-target ang mga indibidwal, gumawa ng mga mensaheng iniakma upang hikayatin o manipulahin ang mga ito, at subaybayan at muling i-target ang mga ito sa panahon ng kampanya. Ang bawat piraso ng impormasyong iyon na itinatanggi ng mga kumpanya o mga gumagawa ng patakaran sa makina ay gagawing hindi gaanong epektibo.
Maaaring makatulong ang malalakas na batas sa privacy ng data na iwasan ang AI mula sa pagiging manipulative.
Ang isa pang solusyon ay nasa mga komisyon sa halalan. Maaari nilang subukang i-ban o mahigpit na i-regulate ang mga makinang ito. Mayroong isang mabangis na debate tungkol sa kung ganoon "replicant" na pananalita, kahit na ito ay pampulitika, ay maaaring i-regulate. Ang matinding tradisyon ng malayang pananalita ng US humahantong sa maraming nangungunang akademya na sabihing hindi ito magagawa.
Ngunit walang dahilan upang awtomatikong palawigin ang proteksyon ng Unang Susog sa produkto ng mga makinang ito. Maaaring piliin ng bansa na bigyan ang mga makina ng mga karapatan, ngunit iyon ay dapat na isang desisyon na batay sa mga hamon ng ngayon, hindi ang misplaced assumption na ang mga pananaw ni James Madison noong 1789 ay nilayon na ilapat sa AI.
Ang mga regulator ng European Union ay gumagalaw sa direksyong ito. Binago ng mga policymakers ang draft ng European Parliament ng Artificial Intelligence Act nito para italaga ang “AI system para maimpluwensyahan ang mga botante sa mga kampanya” bilang "mataas na panganib" at napapailalim sa pagsusuri ng regulasyon.
Isang mas ligtas sa konstitusyon, kung mas maliit, hakbang, na pinagtibay na sa bahagi ng Mga regulator ng internet sa Europa at sa California, ay upang ipagbawal ang mga bot na ipasa ang kanilang sarili bilang mga tao. Halimbawa, maaaring kailanganin ng regulasyon na ang mga mensahe ng campaign ay may kasamang mga disclaimer kapag ang nilalamang nilalaman ng mga ito ay binuo ng mga makina sa halip na mga tao.
Ito ay magiging tulad ng mga kinakailangan sa disclaimer sa advertising – “Binabayaran ng Sam Jones para sa Komite ng Kongreso” – ngunit binago upang ipakita ang pinagmulan nitong AI: “Ang ad na binuo ng AI na ito ay binayaran ng Sam Jones para sa Komite ng Kongreso.” Ang isang mas malakas na bersyon ay maaaring mangailangan ng: "Ang mensaheng binuo ng AI na ito ay ipinapadala sa iyo ng Sam Jones para sa Komite ng Kongreso dahil hinulaan ni Clogger na ang paggawa nito ay magpapataas ng iyong pagkakataong bumoto para kay Sam Jones ng 0.0002%." Hindi bababa sa, naniniwala kaming karapat-dapat na malaman ng mga botante kung kailan ito isang bot na nagsasalita sa kanila, at dapat din nilang malaman kung bakit.
Ang posibilidad ng isang system tulad ng Clogger ay nagpapakita na ang landas patungo sa sama-samang kawalan ng kapangyarihan ng tao maaaring hindi nangangailangan ng higit sa tao artipisyal na pangkalahatang katalinuhan. Maaaring kailanganin lang nito ang mga mahilig sa kampanya at consultant na may makapangyarihang mga bagong tool na epektibong makapagtutulak sa milyun-milyong tao sa maraming mga pindutan.
Tungkol sa Ang May-akda
Archon Fung, Propesor ng Citizenship at Self-Government, Harvard Kennedy School at Lawrence Lessig, Propesor ng Batas at Pamumuno, Harvard University
Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.
Addendum ng Editor: Ang potensyal ng AI na sakupin ang mga halalan at pahinain ang demokrasya ay isang matinding alalahanin na nangangailangan ng ating atensyon. Tulad ng itinampok ng artikulong ito, ang pagtaas ng mga kampanyang pampulitika na hinimok ng AI tulad ng Clogger ay maaaring maghugis muli ng mga resulta ng elektoral, na may mga makina na nakakaimpluwensya sa gawi ng mga botante sa hindi pa nagagawang sukat. Ang mga kahihinatnan ng naturang pagbabago ay magiging napakalawak, na ang mga halalan ay natutukoy hindi sa pamamagitan ng kalooban ng mga tao ngunit sa pamamagitan ng pagiging epektibo ng pagmamanipula ng AI.
Upang maiwasan ang kawalan ng kapangyarihang ito ng mga mamamayan at pangalagaan ang demokrasya, dapat tayong gumawa ng mga proactive na hakbang. Napakahalaga ng matatag na proteksyon sa privacy at mga regulasyon na naglilimita sa impluwensya ng mga AI system sa mga halalan. Sa pamamagitan ng pagtiyak ng transparency, pagpapatupad ng mga malinaw na disclaimer para sa nilalamang binuo ng AI, at pagsulong ng responsableng paggamit ng AI, maaari nating itaguyod ang integridad ng mga demokratikong proseso at protektahan ang mga pangunahing halaga ng ating lipunan.
Mahalaga na manatiling mapagbantay tayo at sama-samang magtrabaho upang i-navigate ang mga hamon na dulot ng AI sa mga halalan. Sa paggawa nito, mapangalagaan natin ang mga demokratikong mithiin na sumasailalim sa ating mga lipunan at matiyak ang isang kinabukasan kung saan ang kapangyarihan ng teknolohiya ay nakaayon sa mga interes at adhikain ng mga tao.
Mga Kaugnay na Libro:
On Tyranny: Twenty Lessons from the Twentieth Century
ni Timothy Snyder
Ang aklat na ito ay nag-aalok ng mga aral mula sa kasaysayan para sa pagpapanatili at pagtatanggol sa demokrasya, kabilang ang kahalagahan ng mga institusyon, ang papel ng mga indibidwal na mamamayan, at ang mga panganib ng authoritarianism.
I-click para sa karagdagang impormasyon o para mag-order
Ang Oras Natin Ngayon: Lakas, Pakay, at Pakikipaglaban para sa isang Makatarungang Amerika
ni Stacey Abrams
Ang may-akda, isang politiko at aktibista, ay nagbabahagi ng kanyang pananaw para sa isang mas inklusibo at makatarungang demokrasya at nag-aalok ng mga praktikal na estratehiya para sa pakikipag-ugnayan sa pulitika at pagpapakilos ng mga botante.
I-click para sa karagdagang impormasyon o para mag-order
Paano Namatay ang Demokrasya
nina Steven Levitsky at Daniel Ziblatt
Sinusuri ng aklat na ito ang mga babalang palatandaan at sanhi ng pagkasira ng demokrasya, na kumukuha ng mga pag-aaral ng kaso mula sa buong mundo upang mag-alok ng mga insight sa kung paano pangalagaan ang demokrasya.
I-click para sa karagdagang impormasyon o para mag-order
Ang Mga Tao, Hindi: Isang Maikling Kasaysayan ng Anti-Populismo
ni Thomas Frank
Ang may-akda ay nag-aalok ng isang kasaysayan ng mga populist na kilusan sa Estados Unidos at pinupuna ang "anti-populist" na ideolohiya na sinasabi niyang pumipigil sa demokratikong reporma at pag-unlad.
I-click para sa karagdagang impormasyon o para mag-order
Demokrasya sa Isang Aklat o Mas Kaunti: Paano Ito Gumagana, Bakit Hindi Ito Nagagawa, at Bakit Mas Madali Ang Pag-aayos Dito kaysa Inaakala Mo
ni David Litt
Nag-aalok ang aklat na ito ng pangkalahatang-ideya ng demokrasya, kabilang ang mga kalakasan at kahinaan nito, at nagmumungkahi ng mga reporma upang gawing mas tumutugon at may pananagutan ang sistema.
