Hindi malamang na alipinin ng AI ang sangkatauhan, ngunit maaari nitong sakupin ang maraming aspeto ng ating buhay. elenabs/iStock sa pamamagitan ng Getty Images

Ang pagtaas ng ChatGPT at mga katulad na artificial intelligence system ay sinamahan ng isang matalim pagtaas ng pagkabalisa tungkol sa AI. Sa nakalipas na ilang buwan, nag-aalok ang mga executive at AI safety researcher ng mga hula, na tinatawag na "P(kapahamakan),” tungkol sa posibilidad na ang AI ay magdulot ng malaking sakuna.

Pumatak ang mga alalahanin noong Mayo 2023 nang ilabas ang nonprofit na organisasyong pananaliksik at adbokasiya na Center for AI Safety isang pangungusap na pahayag: "Ang pagbabawas sa panganib ng pagkalipol mula sa AI ay dapat maging isang pandaigdigang priyoridad kasama ng iba pang mga panganib sa antas ng lipunan, tulad ng mga pandemya at digmaang nukleyar." Ang pahayag ay nilagdaan ng maraming pangunahing manlalaro sa larangan, kabilang ang mga pinuno ng OpenAI, Google at Anthropic, pati na rin ang dalawa sa mga tinatawag na "godfathers" ng AI: Geoffrey Hinton at Yoshua Bengio.

Maaari mong tanungin kung paano dapat na maglaro ang gayong mga umiiral na takot. Isang sikat na senaryo ay ang "paper clip maximizer” eksperimento sa pag-iisip na ipinahayag ng pilosopo ng Oxford Nick Bostrom. Ang ideya ay ang isang sistema ng AI na nakatalaga sa paggawa ng maraming mga clip ng papel hangga't maaari ay maaaring pumunta sa hindi pangkaraniwang mga haba upang makahanap ng mga hilaw na materyales, tulad ng pagsira sa mga pabrika at pagdudulot ng mga aksidente sa sasakyan.

A hindi gaanong resource-intensive na variation ay may AI na nakatalaga sa pagkuha ng reserbasyon sa isang sikat na restaurant na nagsasara ng mga cellular network at mga traffic light upang maiwasan ang ibang mga parokyano na makakuha ng mesa.

Mga gamit sa opisina o hapunan, ang pangunahing ideya ay pareho: Ang AI ay mabilis na nagiging isang alien intelligence, mahusay sa pagtupad ng mga layunin ngunit mapanganib dahil hindi ito kinakailangang umaayon sa mga moral na halaga ng mga lumikha nito. At, sa pinaka-matinding bersyon nito, ang argumentong ito ay nagiging tahasang pagkabalisa tungkol sa mga AI umaalipin o sumisira sa lahi ng tao.

Ang isang paper clip-making AI runs amok ay isang variant ng AI apocalypse scenario.

Aktwal na pinsala

Sa nakalipas na ilang taon, ako at ang aking mga kasamahan sa UMass Boston's Applied Ethics Center pinag-aaralan ang epekto ng pakikipag-ugnayan sa AI sa pag-unawa ng mga tao sa kanilang sarili, at naniniwala akong ang mga sakuna na pagkabalisa na ito ay overblown at misdirected.

Oo, nakakatakot ang kakayahan ng AI na lumikha ng nakakakumbinsi na malalim na pekeng video at audio, at maaari itong abusuhin ng mga taong may masamang layunin. Sa katunayan, nangyayari na iyon: malamang na sinubukan ng mga operatiba ng Russia na ipahiya ang kritiko ng Kremlin Bill Browder sa pamamagitan ng paghuli sa kanya sa isang pakikipag-usap sa isang avatar para sa dating Ukrainian President Petro Poroshenko. Gumagamit ang mga cybercriminal ng AI voice cloning para sa iba't ibang krimen - mula sa high-tech na pagnanakaw sa ordinaryong scam.

AI decision-making systems that nag-aalok ng pag-apruba ng pautang at mga rekomendasyon sa pagkuha nagdadala ng panganib ng algorithmic bias, dahil ang data ng pagsasanay at mga modelo ng desisyon na pinapatakbo nila ay sumasalamin sa matagal nang pagkiling sa lipunan.

Malaking problema ito, at nangangailangan sila ng atensyon ng mga gumagawa ng patakaran. Ngunit sila ay nasa paligid para sa isang habang, at sila ay halos hindi cataclysmic.

Hindi sa parehong liga

Ang pahayag mula sa Center for AI Safety ay pinagsama ang AI sa mga pandemya at mga sandatang nuklear bilang isang malaking panganib sa sibilisasyon. May mga problema sa paghahambing na iyon. Ang COVID-19 ay nagresulta sa halos 7 milyong pagkamatay sa buong mundo, dinala sa a napakalaking at patuloy na krisis sa kalusugan ng isip at nilikha hamon sa ekonomiya, kabilang ang talamak na kakulangan sa supply chain at runaway inflation.

Malamang napatay ang mga sandatang nuklear higit sa 200,000 tao sa Hiroshima at Nagasaki noong 1945, kumitil ng marami pang buhay mula sa kanser sa mga sumunod na taon, na nagdulot ng mga dekada ng matinding pagkabalisa noong Cold War at nagdala sa mundo sa bingit ng pagkalipol sa panahon ng krisis sa Cuban Missile noong 1962. Nagkaroon din sila ng binago ang mga kalkulasyon ng mga pinuno ng bansa sa kung paano tumugon sa internasyonal na pagsalakay, bilang kasalukuyang naglalaro sa pagsalakay ng Russia sa Ukraine.

Ang AI ay hindi malapit sa pagkakaroon ng kakayahang gumawa ng ganitong uri ng pinsala. Ang senaryo ng paper clip at iba pang katulad nito ay science fiction. Ang mga kasalukuyang AI application ay nagsasagawa ng mga partikular na gawain sa halip na gumawa ng malawak na paghuhusga. Ang teknolohiya ay malayo sa makapagpasya at pagkatapos ay magplano ang mga layunin at subordinate na mga layunin na kinakailangan para sa pagsasara ng trapiko upang makakuha ka ng upuan sa isang restaurant, o pagpapasabog ng isang pabrika ng kotse upang masiyahan ang iyong pangangati para sa mga clip ng papel.

Hindi lang kulang ang teknolohiya ng kumplikadong kapasidad para sa multilayer na paghuhusga na kasangkot sa mga sitwasyong ito, wala rin itong autonomous na access sa mga sapat na bahagi ng aming kritikal na imprastraktura upang magsimulang magdulot ng ganoong uri ng pinsala.

Ano ang ibig sabihin ng pagiging tao

Sa totoo lang, mayroong isang umiiral na panganib na likas sa paggamit ng AI, ngunit ang panganib na iyon ay eksistensyal sa pilosopikal sa halip na apocalyptic na kahulugan. Maaaring baguhin ng AI sa kasalukuyan nitong anyo ang paraan ng pagtingin ng mga tao sa kanilang sarili. Maaari nitong pababain ang mga kakayahan at karanasan na itinuturing ng mga tao na mahalaga sa pagiging tao.

Halimbawa, ang mga tao ay mga nilalang na gumagawa ng paghatol. Ang mga tao ay makatwiran na tumitimbang ng mga detalye at gumagawa ng pang-araw-araw na paghuhusga ng mga tawag sa trabaho at sa oras ng paglilibang tungkol sa kung sino ang uupahan, sino ang dapat kumuha ng pautang, kung ano ang dapat panoorin at iba pa. Ngunit parami nang parami ang mga hatol na ito pagiging automated at farmed out sa mga algorithm. Kapag nangyari iyon, hindi magwawakas ang mundo. Ngunit unti-unting mawawalan ng kakayahan ang mga tao na gawin ang mga hatol na ito sa kanilang sarili. Kung mas kaunti sa kanila ang ginagawa ng mga tao, mas malala ang posibilidad na maging sila sa paggawa nito.

O isaalang-alang ang papel ng pagkakataon sa buhay ng mga tao. Pinahahalagahan ng mga tao ang biglaang pagtatagpo: pagdating sa isang lugar, tao o aktibidad nang hindi sinasadya, naakit dito at pinahahalagahan ang papel na ginampanan ng aksidente sa mga makabuluhang paghahanap na ito. Ngunit ang papel na ginagampanan ng algorithmic recommendation engine ay upang bawasan ang ganyang serendipity at palitan ito ng pagpaplano at hula.

Panghuli, isaalang-alang ang mga kakayahan sa pagsulat ng ChatGPT. Ang teknolohiya ay nasa proseso ng pag-aalis ng papel ng pagsulat ng mga takdang-aralin sa mas mataas na edukasyon. Kung mangyayari ito, mawawalan ng mahalagang kasangkapan ang mga tagapagturo para sa pagtuturo sa mga mag-aaral paano mag-isip ng kritikal.

Hindi patay ngunit nabawasan

Kaya, hindi, hindi sasabog ng AI ang mundo. Ngunit ang lalong hindi kritikal na pagyakap dito, sa iba't ibang makitid na konteksto, ay nangangahulugan ng unti-unting pagguho ng ilan sa mga pinakamahalagang kasanayan ng tao. Pinapahina na ng mga algorithm ang kakayahan ng mga tao na gumawa ng mga paghuhusga, tangkilikin ang mga serendipitous encounters at hinahasa ang kritikal na pag-iisip.

Ang mga uri ng tao ay makakaligtas sa gayong mga pagkalugi. Ngunit ang ating paraan ng pag-iral ay maghihikahos sa proseso. Ang kamangha-manghang mga pagkabalisa sa darating na AI cataclysm, singularity, Skynet, o gayunpaman maaari mong isipin ito, nakakubli sa mas banayad na mga gastos na ito. Alalahanin ang sikat na pangwakas na linya ni TS Eliot ng “Ang Mga Hollow Men”: “Ito ang paraan ng pagtatapos ng mundo,” isinulat niya, “hindi sa isang putok kundi isang ungol.”

Tungkol sa Ang May-akda

Nir Eisikovits, Propesor ng Pilosopiya at Direktor, Applied Ethics Center, UMass Boston

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.