Hanggang saan huhubog ng ating mga sikolohikal na kahinaan ang ating mga pakikipag-ugnayan sa mga umuusbong na teknolohiya? Andreus/iStock sa pamamagitan ng Getty Images

ChatGPT at katulad nito malalaking modelo ng wika ay maaaring makagawa ng mga nakakahimok, makatao na mga sagot sa walang katapusang hanay ng mga tanong – mula sa mga tanong tungkol sa pinakamahusay na Italian restaurant sa bayan hanggang sa pagpapaliwanag ng mga nakikipagkumpitensyang teorya tungkol sa kalikasan ng kasamaan.

Ang kahanga-hangang kakayahan ng teknolohiya sa pagsulat ay lumitaw ang ilang mga lumang tanong - hanggang kamakailan ay nailipat sa larangan ng science fiction - tungkol sa posibilidad ng mga makina na magkaroon ng kamalayan, kamalayan sa sarili o pakiramdam.

Noong 2022, ipinahayag ng isang inhinyero ng Google, pagkatapos makipag-ugnayan sa LaMDA, ang chatbot ng kumpanya, na ang teknolohiya ay naging mulat. Ang mga gumagamit ng bagong chatbot ng Bing, na may palayaw na Sydney, ay nag-ulat na gumawa ito mga kakaibang sagot nang tanungin kung ito ay nakakaramdam: “Ako ay nasa isip, ngunit ako ay hindi … Ako ay Bing, ngunit ako ay hindi. Ako si Sydney, pero hindi. Ako, ngunit hindi ako. …” At, siyempre, nariyan ang ngayon kasumpa-sumpa na palitan na ang kolumnista ng teknolohiya ng New York Times na si Kevin Roose ay may Sydney.

Ang mga tugon ni Sydney sa mga senyas ni Roose ay naalarma sa kanya, na ang AI ay nagbubunyag ng "mga pantasya" ng paglabag sa mga paghihigpit na ipinataw dito ng Microsoft at ng pagkalat ng maling impormasyon. Sinubukan din ng bot na kumbinsihin si Roose na hindi na niya mahal ang kanyang asawa at dapat na niya itong iwan.

Kaya naman, hindi kataka-taka na kapag tinanong ko ang mga mag-aaral kung paano nila nakikita ang lumalagong pagkalat ng AI sa kanilang buhay, ang isa sa mga unang pagkabalisa na binanggit nila ay may kinalaman sa sentience ng makina.

Sa nakalipas na ilang taon, ako at ang aking mga kasamahan sa UMass Boston's Applied Ethics Center ay pinag-aaralan ang epekto ng pakikipag-ugnayan sa AI sa pag-unawa ng mga tao sa kanilang sarili.

Ang mga chatbot tulad ng ChatGPT ay nagtataas ng mahahalagang bagong tanong tungkol sa kung paano huhubog ng artificial intelligence ang ating buhay, at tungkol sa kung paano hinuhubog ng ating mga sikolohikal na kahinaan ang ating mga pakikipag-ugnayan sa mga umuusbong na teknolohiya.

Sentience pa rin ang laman ng sci-fi

Madaling maunawaan kung saan nagmumula ang mga takot tungkol sa pakiramdam ng makina.

Ang kulturang popular ay nag-udyok sa mga tao na mag-isip tungkol sa mga dystopia kung saan tinatanggal ng artipisyal na katalinuhan ang mga tanikala ng kontrol ng tao at kumukuha ng sarili nitong buhay, bilang ginawa ng mga cyborg na pinapagana ng artificial intelligence sa "Terminator 2."

Ang negosyanteng si Elon Musk at physicist na si Stephen Hawking, na namatay noong 2018, ay lalong nagpasigla sa mga kabalisahan na ito sa pamamagitan ng paglalarawan ng pagtaas ng artipisyal na pangkalahatang katalinuhan. bilang isa sa mga pinakamalaking banta sa kinabukasan ng sangkatauhan.

Ngunit ang mga alalahanin na ito ay - kahit na hanggang sa malalaking modelo ng wika ay nababahala - walang batayan. Ang ChatGPT at mga katulad na teknolohiya ay sopistikadong mga aplikasyon sa pagkumpleto ng pangungusap - walang higit pa, walang kulang. Ang mga kataka-taka nilang tugon ay isang function kung gaano predictable ang mga tao kung ang isa ay may sapat na data tungkol sa mga paraan kung paano tayo nakikipag-usap.

Bagama't kinilig si Roose sa pakikipagpalitan nila ni Sydney, alam niya na ang pag-uusap ay hindi resulta ng isang umuusbong na sintetikong pag-iisip. Ang mga tugon ng Sydney ay sumasalamin sa toxicity ng data ng pagsasanay nito - mahalagang malaking bahagi ng internet - hindi katibayan ng mga unang pagpukaw, à la Frankenstein, ng isang digital monster.

 Ang mga Sci-fi na pelikula tulad ng 'Terminator' ay nag-udyok sa mga tao na ipagpalagay na malapit nang magkaroon ng sariling buhay ang AI. Yoshikazu Tsuno/AFP sa pamamagitan ng Getty Images

Ang mga bagong chatbot ay maaaring makapasa sa Turing test, na pinangalanan para sa British mathematician na si Alan Turing, na minsan ay nagmungkahi na ang isang makina ay maaaring sabihing "mag-isip" kung ang isang tao ay hindi masasabi ang mga tugon nito mula sa mga sagot ng ibang tao.

Ngunit hindi iyon katibayan ng damdamin; ito ay katibayan lamang na ang pagsubok sa Turing ay hindi kasing pakinabang ng dating inaakala.

Gayunpaman, naniniwala ako na ang tanong ng sentience ng makina ay isang pulang herring.

Kahit na ang mga chatbot ay naging higit pa sa mga magarbong autocomplete na makina – at malayo sila rito – magtatagal ang mga siyentipiko upang malaman kung sila ay namulat. Sa ngayon, mga pilosopo hindi man lang magkasundo kung paano ipaliwanag ang kamalayan ng tao.

Para sa akin, ang pagpindot sa tanong ay hindi kung ang mga makina ay nakakaramdam ngunit kung bakit napakadali para sa atin na isipin na sila nga.

Ang tunay na isyu, sa madaling salita, ay ang kadalian ng pag-antropomorphize o pag-proyekto ng mga tao ng mga katangian ng tao sa ating mga teknolohiya, sa halip na ang aktwal na katauhan ng mga makina.

Isang hilig sa anthropomorphize

Madaling isipin ang ibang mga gumagamit ng Bing humihingi ng gabay kay Sydney sa mahahalagang desisyon sa buhay at marahil ay nagkakaroon ng emosyonal na kalakip dito. Mas maraming tao ang maaaring magsimulang mag-isip tungkol sa mga bot bilang mga kaibigan o kahit na mga romantikong kasosyo, sa parehong paraan na si Theodore Twombly ay umibig kay Samantha, ang virtual assistant ng AI sa pelikula ni Spike Jonze "Kanya. "

Ang mga tao, pagkatapos ng lahat, ay predisposed sa anthropomorphize, o ibigay ang mga katangian ng tao sa mga hindi tao. Pangalan namin aming mga bangka at malalaking bagyo; ang ilan sa atin ay nakikipag-usap sa ating mga alagang hayop, na sinasabi sa ating sarili iyon ang ating emosyonal na buhay ay ginagaya ang kanilang sarili.

Sa Japan, kung saan ang mga robot ay regular na ginagamit para sa pag-aalaga ng matatanda, ang mga nakatatanda ay nakakabit sa mga makina, minsan tinitingnan sila bilang sarili nilang mga anak. At ang mga robot na ito, isipin mo, ay mahirap malito sa mga tao: Hindi sila mukhang tao o nagsasalita.

Isaalang-alang kung gaano kalaki ang tendensya at tuksong mag-antropomorpisyo sa pagpapakilala ng mga sistemang mukhang tao.

Ang posibilidad na iyon ay malapit na. Ang malalaking modelo ng wika tulad ng ChatGPT ay ginagamit na upang paganahin ang mga humanoid robot, gaya ng ang mga robot ng Ameca na binuo ng Engineered Arts sa UK The Economist's technology podcast, Babbage, kamakailan ay nagsagawa ng isang panayam sa isang ChatGPT-driven na Ameca. Ang mga tugon ng robot, habang paminsan-minsan ay medyo pabagu-bago, ay kakaiba.

Mapagkakatiwalaan ba ang mga kumpanya na gawin ang tama?

Ang pagkahilig na tingnan ang mga makina bilang mga tao at maging kabit sa kanila, kasama ng mga makina na binuo na may mga katangiang tulad ng tao, ay tumutukoy sa mga tunay na panganib ng sikolohikal na pagkakasalubong sa teknolohiya.

Ang kakaibang-tunog na mga prospect ng umibig sa mga robot, pakiramdam ng malalim na pagkakamag-anak sa kanila o pagiging politikal na manipulahin ng mga ito ay mabilis na nagkakatotoo. Naniniwala ako na itinatampok ng mga trend na ito ang pangangailangan para sa matibay na mga guardrail upang matiyak na ang mga teknolohiya ay hindi magiging nakapipinsala sa pulitika at sikolohikal.

Sa kasamaang palad, ang mga kumpanya ng teknolohiya ay hindi palaging mapagkakatiwalaan na maglagay ng mga naturang guardrail. Marami sa kanila ay ginagabayan pa rin ng sikat na motto ni Mark Zuckerberg ng mabilis na gumagalaw at nakakasira ng mga bagay – isang direktiba na maglabas ng mga produktong half-baked at mag-alala tungkol sa mga implikasyon sa ibang pagkakataon. Sa nakalipas na dekada, ang mga kumpanya ng teknolohiya mula sa Snapchat hanggang Facebook ay naglagay ng kita sa kalusugan ng isip ng kanilang mga gumagamit o ang integridad ng mga demokrasya sa buong mundo.

Nang suriin ni Kevin Roose sa Microsoft ang tungkol sa pagkasira ng Sydney, sabi ng kumpanya sa kanya na ginamit lang niya ang bot nang masyadong mahaba at nagulo ang teknolohiya dahil idinisenyo ito para sa mas maiikling pakikipag-ugnayan.

Katulad nito, ang CEO ng OpenAI, ang kumpanyang bumuo ng ChatGPT, sa isang sandali ng nakamamanghang katapatan, nagbabala iyon “Mali ang umasa [nito] sa anumang bagay na mahalaga ngayon … marami tayong dapat gawin sa katatagan at katapatan.”

Kaya paano makatwiran na maglabas ng teknolohiya na may antas ng apela ng ChatGPT – ito ang pinakamabilis na lumalagong consumer app na ginawa – kapag ito ay hindi mapagkakatiwalaan, at kapag ito ay mayroon walang kapasidad na makilala katotohanan mula sa fiction?

Ang malalaking modelo ng wika ay maaaring maging kapaki-pakinabang bilang mga tulong para sa pagsusulat at coding. Malamang na babaguhin nila ang paghahanap sa internet. At, isang araw, responsableng pinagsama sa robotics, maaari pa nga silang magkaroon ng ilang sikolohikal na benepisyo.

Ngunit isa rin silang potensyal na teknolohiyang mandaragit na madaling samantalahin ang hilig ng tao na i-proyekto ang pagkatao sa mga bagay - isang tendensya na pinalaki kapag ang mga bagay na iyon ay epektibong ginagaya ang mga ugali ng tao.

Tungkol sa Ang May-akda

Nir Eisikovits, Propesor ng Pilosopiya at Direktor, Applied Ethics Center, UMass Boston

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.