Maaaring ituring ng mga mananalaysay sa hinaharap ang 2023 bilang isang palatandaan sa pagdating ng artificial intelligence (AI). Ngunit kung ang hinaharap na iyon ay magpapatunay utopian, apocalyptic or saanman sa pagitan ng ang hulaan ng sinuman.

Noong Pebrero, itinakda ng ChatGPT ang record bilang pinakamabilis na maabot na app 100 milyong user. Sinundan ito ng mga katulad na "malaking wika" na mga modelo ng AI mula sa Google, Amazon, Meta at iba pang malalaking kumpanya ng tech, na sama-samang mukhang handa na baguhin ang edukasyon, pangangalagang pangkalusugan at marami pang ibang larangan ng kaalaman.

Gayunpaman, ang potensyal ng AI para sa pinsala ay binigyang-diin noong Mayo ng isang nagbabala na pahayag nilagdaan ng mga nangungunang mananaliksik:

Ang pagbabawas sa panganib ng pagkalipol mula sa AI ay dapat maging isang pandaigdigang priyoridad kasama ng iba pang mga panganib sa antas ng lipunan tulad ng mga pandemya at digmaang nukleyar.

Noong Nobyembre, bilang pagtugon sa lumalaking alalahanin tungkol sa AI risk, 27 bansa (kabilang ang UK, US, India, China at ang European Union) ay nangako ng kooperasyon sa isang inaugural AI Safety Summit sa Bletchley Park sa England, upang matiyak ang ligtas na pag-unlad ng AI para sa pakinabang ng lahat.

Upang makamit ito, nakatuon ang mga mananaliksik sa Pag-align ng AI – ibig sabihin, kung paano matiyak na ang mga modelo ng AI ay naaayon sa mga halaga, kagustuhan at layunin ng tao. Ngunit may problema - ang tinatawag na AI na "madilim na sikreto”: ang mga malalaking modelo ay napakasalimuot na para silang isang itim na kahon, imposibleng lubos na maunawaan ng sinuman.

Problema sa black box ng AI

Kahit na ang transparency at explainability ng mga AI system ay mahahalagang layunin ng pananaliksik, ang ganitong mga pagsisikap ay tila malabong makasabay sa mabagsik na bilis ng pagbabago.

Ipinapaliwanag ng metapora ng black box kung bakit nasa buong mapa ang mga paniniwala ng mga tao tungkol sa AI. Ang mga hula ay mula sa utopia hanggang sa pagkalipol, at marami pa nga ang naniniwalang malapit nang magkaroon ng artificial general intelligence (AGI). makamit ang damdamin.

Ngunit ang kawalan ng katiyakan na ito ay nagsasama ng problema. Ang AI alignment ay dapat na isang two-way na kalye: hindi lamang natin dapat tiyakin na ang mga modelo ng AI ay naaayon sa mga intensyon ng tao, ngunit pati na rin ang ating mga paniniwala tungkol sa AI ay tumpak.

Ito ay dahil tayo ay kahanga-hangang sanay sa paglikha ng mga hinaharap na naaayon sa mga paniniwalang iyon, kahit na hindi natin alam ang mga ito.

Tinaguriang “epekto ng pag-asa”, o self-fulfilling prophecies, ay kilala sa sikolohiya. At ipinakita ng pananaliksik na ang pagmamanipula sa mga paniniwala ng mga gumagamit ay nakakaimpluwensya hindi lamang kung paano sila makipag-ugnayan sa AI, ngunit paano AI umaangkop sa gumagamit.

Sa madaling salita, kung paano nakakaapekto ang ating mga paniniwala (malay o walang malay) sa AI ay maaaring potensyal na mapataas ang posibilidad ng anumang resulta, kabilang ang mga sakuna.

AI, computation, logic at arithmetic

Kailangan nating magsiyasat nang mas malalim para maunawaan ang batayan ng AI - tulad ng Alice in Wonderland, tumungo sa butas ng kuneho at tingnan kung saan tayo dadalhin nito.

Una, ano ang AI? Gumagana ito sa mga computer, at gayundin ang awtomatikong pag-compute. Mula sa pinagmulan nito bilang "perceptron” – isang artipisyal na neuron na tinukoy sa matematika noong 1943 ng neurophysiologist Warren McCulloch at logician Walter Pitts – Naiugnay ang AI sa mga cognitive science, neuroscience at computer science.

Ang convergence na ito ng isip, talino at machine ay humantong sa malawakang pinanghahawakang paniniwala na, dahil ang AI ay computation sa pamamagitan ng makina, kung gayon ang natural na katalinuhan (ang isip) ay dapat na computation ng utak.

Ngunit ano ang pagkalkula? Sa huling bahagi ng ika-19 na siglo, ang mga mathematician Richard Dedekind at Giuseppe Peano nagmungkahi ng isang hanay ng mga axiom na tinukoy ang aritmetika sa mga tuntunin ng lohika, at inspiradong pagtatangka na i-ground ang lahat ng matematika sa isang secure pormal na batayan.

Kahit na ang logician Kurt Godel kalaunan ay napatunayan na ang layuning ito ay hindi matamo, ang kanyang trabaho ay ang panimulang punto para sa mathematician (at code-breaker) Alan Turing. Kanyang "Turing machine”, isang abstract na aparato na may kakayahang universal computation, ay ang pundasyon ng computer science.

Malalim na istraktura ng pang-unawa

Kaya, ang pagkalkula ay batay sa mga ideyang pangmatematika na nagbabalik sa mga pagsisikap na tukuyin ang aritmetika sa lohika. Ngunit umiiral ang ating kaalaman sa aritmetika bago ang lohika. Kung gusto nating maunawaan ang batayan ng AI, kailangan nating pumunta pa at magtanong kung saan nagmula ang arithmetic mismo.

Ipinakita namin kamakailan ng aking mga kasamahan na ang aritmetika ay batay sa "malalim na istraktura” ng pang-unawa. Ang istrukturang ito ay parang mga kulay na baso na humuhubog sa ating persepsyon sa mga partikular na paraan, upang ang ating karanasan sa mundo ay maayos at mapapamahalaan.

Ang aritmetika ay binubuo ng isang hanay ng mga elemento (mga numero) at mga operasyon (pagdaragdag, pagpaparami) na pinagsasama ang mga pares ng mga elemento upang magbigay ng isa pang elemento. Tinanong namin: sa lahat ng posibilidad, bakit ang mga numero ang mga elemento, at ang pagdaragdag at pagpaparami ang mga operasyon?

Ipinakita namin ni patunay sa matematika na kapag ang malalim na istraktura ng pang-unawa ay ipinapalagay na limitahan ang mga posibilidad, arithmetic ang resulta. Sa madaling salita, kapag tinitingnan ng ating isip ang abstract na mundo sa pamamagitan ng parehong "kulay na baso" na humuhubog sa ating karanasan sa pisikal na mundo, ito ay "nakikita" ang mga numero at aritmetika.

Dahil ang aritmetika ay ang pundasyon para sa matematika, ang implikasyon ay ang matematika ay salamin ng isip - isang pagpapahayag sa mga simbolo ng pangunahing katangian at pagkamalikhain nito.

Bagaman ang malalim na istraktura ng pang-unawa ay ibinabahagi sa iba pang mga hayop at sa gayon ay isang produkto ng ebolusyon, ang mga tao lamang ang nag-imbento ng matematika. Ito ang aming pinakakilalang paglikha - at sa pamamagitan ng pagpapagana sa pagbuo ng AI, marahil ang aming pinakakinahinatnan.

Isang Copernican revolution ng isip

Ang aming account ng pinagmulan ng aritmetika ay pare-pareho sa mga pananaw ng ika-18 siglong pilosopo na si Immanuel Kant. Ayon sa kanya, ang ating kaalaman sa mundo ay nakabalangkas sa pamamagitan ng "purong intuwisyon" ng espasyo at oras na umiiral bago ang karanasang pandama - kahalintulad sa mga kulay na salamin na hindi natin kailanman maaalis.

Inangkin ni Kant ang kanya Pilosopiya ay isang "Copernican revolution of the mind". Sa parehong paraan na pinaniniwalaan ng mga sinaunang astronomo na umiikot ang Araw sa paligid ng Earth dahil hindi nila alam ang paggalaw ng Earth, katwiran ni Kant, ang mga pilosopo na naniniwalang ang lahat ng kaalaman ay nagmula sa pakiramdam na karanasan (John Locke at David Hume, halimbawa) ay nakaligtaan kung paano hinuhubog ng isip ang pang-unawa.

Bagama't ang mga pananaw ni Kant ay hinubog ng likas na agham noong kanyang panahon, napatunayan nila maimpluwensyang sa kontemporaryong sikolohiya.

Ang pagkilala na ang arithmetic ay a natural na bunga ng ating pang-unawa, at sa gayon ay batay sa biyolohikal, ay nagmumungkahi ng katulad na pagbabago ng Kantian sa aming pag-unawa sa pagtutuos.

Ang pagkalkula ay hindi "sa labas" o hiwalay sa atin sa isang abstract na larangan ng matematikal na katotohanan, ngunit likas sa kalikasan ng ating isip. Ang isip ay higit pa sa pagtutuos; ang utak ay hindi isang computer. Sa halip, ang computation - ang batayan para sa AI - ay, tulad ng matematika, isang simbolikong pagpapahayag ng kalikasan at pagkamalikhain ng isip.

Promethean na apoy

Ano ang mga implikasyon para sa AI? Una, ang AI ay hindi isang isip at hindi kailanman magiging masigla. Ang ideya na malalampasan natin ang ating biyolohikal na kalikasan at makamit ang imortalidad sa pamamagitan ng pag-upload ng ating mga isip sa ulap ay pantasiya.

Ngunit kung ang mga prinsipyo ng pag-iisip kung saan nakabatay ang AI ay ibinabahagi ng lahat ng sangkatauhan (at malamang na iba pang mga nilalang na buhay), maaaring posible na malampasan ang mga limitasyon ng ating mga indibidwal na isipan.

Dahil unibersal ang pag-compute, malaya tayong gayahin at lumikha ng anumang resulta na pipiliin natin sa ating lalong konektadong virtual at pisikal na mundo. Sa ganitong paraan, tunay na atin ang AI Promethean na apoy, isang regalo sa sangkatauhan na ninakaw mula sa mga diyos tulad ng sa Griyego mga alamat.

Bilang isang pandaigdigang sibilisasyon, malamang na tayo ay nasa punto ng pagbabago. Ang AI ay hindi magiging sensitibo at magpapasya patayin tayong lahat. Ngunit napakahusay nating "i-apocalypsing" ang ating sarili dito - ang pag-asa ay maaaring lumikha ng katotohanan.

Ang mga pagsisikap upang matiyak ang pagkakahanay, kaligtasan at seguridad ng AI ay napakahalaga, ngunit maaaring hindi sapat kung wala tayong kamalayan at sama-samang karunungan. Tulad ni Alice, kailangan nating magising mula sa panaginip at kilalanin ang katotohanan at kapangyarihan ng ating isipan.

Randolph Grace, Propesor ng Psychology, University ng Canterbury

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.