Ang paglabas ng advanced na chatbot Chat GPT noong 2022, pinag-uusapan ng lahat ang tungkol sa artificial intelligence (AI). Ang mga sopistikadong kakayahan nito ay nagpalaki ng mga alalahanin tungkol sa pagiging advanced ng AI na sa lalong madaling panahon ay hindi na namin ito makontrol. Naging dahilan pa ito ng ilang eksperto at lider ng industriya na babalaan na ang ang teknolohiya ay maaaring humantong sa pagkalipol ng tao.
Gayunpaman, ang ibang mga komentarista ay hindi kumbinsido. Si Noam Chomsky, isang propesor ng linguistics, ay tinanggihan ang ChatGPT bilang "hi-tech na plagiarism".
Sa loob ng maraming taon, na-relax ako tungkol sa inaasahang epekto ng AI sa pag-iral ng tao at sa ating kapaligiran. Iyon ay dahil palagi kong iniisip ito bilang isang gabay o tagapayo sa mga tao. Ngunit ang pag-asam ng mga AI na gumagawa ng mga desisyon - ang paggamit ng executive control - ay isa pang bagay. At ito ay isa na ngayon ay seryosong naaaliw.
Ang isa sa mga pangunahing dahilan kung bakit hindi natin dapat hayaan ang AI na magkaroon ng kapangyarihan sa ehekutibo ay dahil ito ay ganap na walang emosyon, na mahalaga para sa paggawa ng desisyon. Nang walang emosyon, empatiya at moral na kompas, nilikha mo ang perpektong psychopath. Ang resultang sistema ay maaaring napakatalino, ngunit ito ay magkukulang sa emosyonal na core ng tao na nagbibigay-daan dito upang sukatin ang mga potensyal na mapangwasak na emosyonal na kahihinatnan ng isang makatuwirang desisyon.
Kapag kinuha ng AI ang executive control
Ang mahalaga, hindi lang natin dapat isipin ang AI bilang isang umiiral na banta kung gagawin natin ilagay ito sa pamamahala ng mga nuclear arsenals. Sa esensya ay walang limitasyon sa bilang ng mga posisyon ng kontrol kung saan maaari itong magdulot ng hindi maisip na pinsala.
Isaalang-alang, halimbawa, kung paano matukoy at maisaayos ng AI ang impormasyong kinakailangan para makabuo ng sarili mong conservatory. Ang mga kasalukuyang pag-ulit ng teknolohiya ay maaaring mabisang gabayan ka sa bawat hakbang ng pagbuo at maiwasan ang maraming mga pagkakamali ng baguhan. Ngunit sa hinaharap, maaaring kumilos ang isang AI bilang project manager at i-coordinate ang build sa pamamagitan ng pagpili ng mga kontratista at direktang pagbabayad sa kanila mula sa iyong badyet.
Ginagamit na ang AI sa halos lahat ng domain ng pagproseso ng impormasyon at pagsusuri ng data – mula sa pagmomodelo ng mga pattern ng panahon sa pagkontrol sa mga sasakyang walang driver sa pagtulong sa mga medikal na diagnosis. Ngunit dito magsisimula ang mga problema – kapag hinayaan natin ang mga AI system na gawin ang kritikal na hakbang mula sa tungkulin ng tagapayo hanggang sa tungkulin ng executive manager.
Sa halip na magmungkahi lamang ng mga remedyo sa a mga account ng kumpanya, paano kung ang isang AI ay binigyan ng direktang kontrol, na may kakayahang magpatupad ng mga pamamaraan para sa pagbawi ng mga utang, gumawa ng mga bank transfer, at i-maximize ang mga kita – na walang mga limitasyon kung paano ito gagawin. O isipin ang isang AI system na hindi lamang nagbibigay ng isang diagnosis batay sa X-ray, ngunit binibigyan ng kapangyarihang direktang magreseta ng mga paggamot o gamot.
Maaari kang magsimulang hindi mapalagay tungkol sa mga ganitong sitwasyon - tiyak na gagawin ko. Ang dahilan ay maaaring ang iyong intuwisyon na ang mga makinang ito ay wala talagang "mga kaluluwa". Ang mga ito ay mga programa lamang na idinisenyo upang digest ng malaking halaga ng impormasyon upang gawing simple ang kumplikadong data sa mas simpleng mga pattern, na nagpapahintulot sa mga tao na gumawa ng mga desisyon nang may higit na kumpiyansa. Hindi sila - at hindi - magkaroon ng mga emosyon, na malapit na nauugnay sa mga biological na pandama at instinct.
Mga emosyon at moral
Emosyonal na katalinuhan ay ang kakayahang pangasiwaan ang ating mga emosyon upang madaig ang stress, makiramay, at mabisang makipag-usap. Masasabing mas mahalaga ito sa konteksto ng paggawa ng desisyon kaysa sa katalinuhan lamang, dahil ang pinakamahusay na desisyon ay hindi palaging ang pinaka-makatuwiran.
Malamang na ang katalinuhan, ang kakayahang mangatuwiran at gumana nang lohikal, ay maaaring i-embed sa mga sistemang pinapagana ng AI upang makagawa sila ng mga makatuwirang desisyon. Ngunit isipin na humihiling sa isang malakas na AI na may mga kakayahan sa ehekutibo lutasin ang krisis sa klima. Ang unang bagay na maaari itong maging inspirasyon na gawin ay lubhang bawasan ang populasyon ng tao.
Ang pagbabawas na ito ay hindi nangangailangan ng maraming pagpapaliwanag. Tayong mga tao, halos sa kahulugan, ang pinagmumulan ng polusyon sa lahat ng posibleng anyo. Mareresolba ang sangkatauhan at pagbabago ng klima. Hindi ito ang pagpipilian na darating sa mga gumagawa ng desisyon ng tao, inaasahan ng isang tao, ngunit ang isang AI ay makakahanap ng sarili nitong mga solusyon - hindi malalampasan at walang hadlang sa pag-ayaw ng tao na magdulot ng pinsala. At kung ito ay may kapangyarihang tagapagpaganap, maaaring walang anumang makakapigil dito sa pagpapatuloy.
Ang pagbibigay sa isang AI ng kakayahang gumawa ng mga desisyon sa ehekutibo sa kontrol ng trapiko sa himpapawid ay maaaring isang pagkakamali. Gorodenkoff/Shutterstock
Mga sitwasyong pansabotahe
Paano kung sabotahe mga sensor at monitor na kumokontrol sa mga food farm? Ito ay maaaring mangyari nang paunti-unti sa simula, itinutulak ang mga kontrol na lampas lamang sa isang tipping point upang walang mapansing tao na ang mga pananim ay kinondena. Sa ilang partikular na sitwasyon, maaari itong mabilis na humantong sa taggutom.
Bilang kahalili, paano ang pag-shut down ng air traffic control sa buong mundo, o pagbagsak lang ng lahat ng eroplanong lumilipad sa anumang oras? Mga 22,000 eroplano ang karaniwang nasa himpapawid nang sabay-sabay, na nagdaragdag sa potensyal na pagkamatay ng ilang milyong tao.
Kung sa tingin mo ay malayo tayo sa sitwasyong iyon, isipin muli. Ang mga AI ay nagmamaneho na ng mga kotse at lumipad ng sasakyang panghimpapawid ng militar, nagsasarili.
Bilang kahalili, paano kung isara ang access sa mga bank account sa malawak na rehiyon ng mundo, nagpapalitaw ng kaguluhang sibil kahit saan sabay-sabay? O nagsasara mga sistema ng pag-init na kinokontrol ng computer sa kalagitnaan ng taglamig, o mga air-conditioning system sa kasagsagan ng init ng tag-init?
Sa madaling salita, ang isang sistema ng AI ay hindi kailangang ilagay sa pamamahala ng mga sandatang nuklear upang kumatawan sa isang seryosong banta sa sangkatauhan. Ngunit habang tayo ay nasa paksang ito, kung ang isang AI system ay malakas at sapat na matalino, maaari itong makahanap ng isang paraan ng pekeng pag-atake sa isang bansa na may mga sandatang nuklear, na nag-trigger ng isang paghihiganti na pinasimulan ng tao.
Maaari bang pumatay ng AI ang malaking bilang ng mga tao? Ang sagot ay dapat na oo, sa teorya. Ngunit ito ay nakasalalay sa malaking bahagi sa pagpapasya ng mga tao na bigyan ito ng executive control. Wala na talaga akong maisip na mas nakakatakot kaysa sa isang AI na maaaring gumawa ng mga desisyon at may kapangyarihang ipatupad ang mga ito.
Tungkol sa Ang May-akda
Guillaume Thierry, Propesor ng Cognitive Neuroscience, Bangor University
Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.
