Maaaring natuto si Napoleon mula sa nakaraan. pagpipinta ni Adolph Northen/wikipedia

Isang klise na ang hindi pag-alam sa kasaysayan ay nagpapaulit-ulit nito. Gaya ng itinuro rin ng maraming tao, ang tanging natututuhan natin mula sa kasaysayan ay bihira tayong matuto ng anuman mula sa kasaysayan. Ang mga tao ay nakikibahagi sa mga digmaang panglupa sa Asya Paulit-ulit din nilang ginagawa ang parehong mga pagkakamali sa pakikipag-date, nang paulit-ulit. Ngunit bakit ito nangyayari? At wawakasan ba ito ng teknolohiya?

Ang isang isyu ay ang pagkalimot at "myopia": hindi natin nakikita kung paano nauugnay ang mga nakaraang pangyayari sa mga kasalukuyan, kung hindi natin nakikita ang nagaganap na padron. Dapat sana ay napansin ni Napoleon ang pagkakatulad sa pagitan ng kanyang pagmartsa sa Moscow at ng hari ng Sweden Nabigong pagtatangka ni Charles XII na gawin din ang gayon halos isang siglo bago siya.

Kami rin mahina sa pag-aaral kapag nagkakamali ang mga bagay-bagay. Sa halip na alamin kung bakit mali ang isang desisyon at kung paano ito maiiwasang mangyari muli, madalas nating binabalewala ang nakakahiyang pangyayari. Nangangahulugan ito na sa susunod na magkaroon ng katulad na sitwasyon, hindi natin nakikita ang pagkakatulad – at uulitin ang pagkakamali.

Parehong nagpapakita ng mga problema sa impormasyon. Sa unang kaso, hindi natin natatandaan ang personal o makasaysayang impormasyon. Sa pangalawa, hindi natin natatandaan ang impormasyon kapag ito ay magagamit na.

Gayunpaman, nagkakamali rin tayo kapag hindi natin mahusay na mahulaan kung ano ang mangyayari. Marahil ang sitwasyon ay masyadong kumplikado o masyadong matagal para isipin. O kaya naman ay may tendensiya tayong maling unawain ang nangyayari.

Ang nakakainis na kapangyarihan ng teknolohiya

Pero tiyak na makakatulong sa atin ang teknolohiya? Maaari na tayong mag-imbak ng impormasyon sa labas ng ating utak, at gumamit ng mga computer para makuha ito. Dapat ay gawing madali nito ang pag-aaral at pag-alala, hindi ba?

Ang pag-iimbak ng impormasyon ay kapaki-pakinabang kapag ito ay madaling makuha. Ngunit ang pag-alala ay hindi katulad ng pagkuha ng isang file mula sa isang kilalang lokasyon o petsa. Ang pag-alala ay kinabibilangan ng pagtukoy sa mga pagkakatulad at pagpapaalala sa mga bagay-bagay.

Kailangan ding kusang magdala ng mga pagkakatulad sa ating isipan ang isang artificial intelligence (AI) – kadalasan ay mga hindi kanais-nais na pagkakatulad. Ngunit kung mahusay ito sa pagpansin ng mga posibleng pagkakatulad (tutal, maaari nitong hanapin ang lahat ng ating personal na data sa internet), madalas din nitong mapapansin ang mga maling pagkakatulad.

Para sa mga bigong date, maaaring mapansin na lahat ng ito ay may kinalaman sa hapunan. Ngunit hindi kailanman ang kainan ang naging problema. At nagkataon lamang na may mga tulip sa mesa – walang dahilan para iwasan ang mga ito. Madalas nating inuulit ang mga pagkakamali sa pakikipag-date. 

Ibig sabihin, babalaan tayo nito tungkol sa mga bagay na hindi natin pinapahalagahan, posibleng sa nakakainis na paraan. Ang pagbaba ng sensitibidad nito ay nangangahulugan ng pagtaas ng panganib na hindi makatanggap ng babala kapag kinakailangan.

Ito ay isang pangunahing problema at naaangkop din sa sinumang tagapayo: ang maingat na tagapayo ay madalas na iiyak nang labis, ang optimistikong tagapayo naman ay hindi magsasagawa ng mga panganib.

Ang isang mahusay na tagapayo ay isang taong pinagkakatiwalaan natin. Mayroon silang halos parehong antas ng pag-iingat gaya natin, at alam nating alam nila ang gusto natin. Mahirap itong matagpuan sa isang tagapayo na tao, at lalo na sa isang AI.

Saan pinipigilan ng teknolohiya ang mga pagkakamali? Gumagana ang teknolohiya para hindi maging hangal. Ang mga makinang pangputol ay nangangailangan na pindutin mo nang matagal ang mga buton, upang ilayo ang iyong mga kamay sa mga talim. Ang "dead man's switch" ay humihinto sa isang makina kung ang operator ay mawalan ng kakayahang gumamit ng makina.

Pinapatay ng mga microwave oven ang radiation kapag binuksan ang pinto. Para magpaputok ng mga missile, kailangang sabay na iikot ng dalawang tao ang mga susi sa isang silid. Dito, ang maingat na disenyo ay nagpapahirap sa paggawa ng mga pagkakamali. Ngunit hindi natin gaanong pinapahalagahan ang mga hindi gaanong mahahalagang sitwasyon, kaya hindi gaanong kapani-paniwala ang disenyo doon.

Kapag gumagana nang maayos ang teknolohiya, madalas tayong masyadong nagtitiwala rito. Mas kaunti ang oras ng paglipad ng mga piloto ng eroplano ngayon kumpara noon dahil sa kamangha-manghang kahusayan ng mga autopilot system. Masamang balita ito kapag nabigo ang autopilot, at mas kaunti ang karanasan ng piloto para maitama ang sitwasyon.

Ang una sa isang lumubog ang bagong uri ng plataporma ng langis (Sleipnir A) dahil nagtiwala ang mga inhinyero sa kalkulasyon ng software ng mga puwersang kumikilos dito. Mali ang modelo, ngunit ipinakita nito ang mga resulta sa isang nakakahimok na paraan na nagmumukhang maaasahan.

Karamihan sa ating teknolohiya ay kamangha-mangha ang pagiging maaasahan. Halimbawa, hindi natin napapansin kung paano ang mga nawawalang pakete ng data sa internet ay patuloy na natatagpuan sa likod ng mga eksena, kung paano inaalis ng mga error-correcting code ang ingay o kung paano ginagawang ligtas ng mga piyus at redundancy ang mga appliances.

Pero kapag pinagsasama-sama natin ang antas ng pagiging kumplikado, mukhang hindi ito maaasahan. Napapansin natin kapag nahuhuli ang Zoom video, mali ang sagot ng AI program, o nagka-crash ang computer. Pero tanungin ang sinumang gumamit ng computer o kotse 50 taon na ang nakalilipas kung paano talaga gumagana ang mga ito, at mapapansin mo na pareho silang hindi gaanong may kakayahan at hindi rin gaanong maaasahan.

Ginagawa nating mas kumplikado ang teknolohiya hanggang sa maging masyadong nakakainis o hindi ligtas gamitin. Habang nagiging mas mahusay at mas maaasahan ang mga bahagi, madalas nating pinipiling magdagdag ng mga bago at kapana-panabik at kapaki-pakinabang na tampok sa halip na manatili sa kung ano ang gumagana. Sa huli, ginagawa nitong hindi gaanong maaasahan ang teknolohiya kaysa sa nararapat.

Magkakaroon ng mga pagkakamali

Ito rin ang dahilan kung bakit ang AI ay isang tabak na may dalawang talim para maiwasan ang mga pagkakamali. Kadalasang ginagawang mas ligtas at mas mahusay ng automation ang mga bagay-bagay kapag gumagana ito, ngunit kapag nabigo ito, mas pinalalaki nito ang problema. Ang awtonomiya ay nangangahulugan na ang matalinong software ay maaaring umakma sa ating pag-iisip at magbawas sa ating pasanin, ngunit kapag hindi ito nag-iisip ayon sa gusto natin, maaari itong kumilos nang hindi maayos.

Habang nagiging mas kumplikado ito, mas nagiging kamangha-mangha ang mga pagkakamali. Alam ng sinumang nakasalamuha na ng matatalinong iskolar kung gaano nila kahusay na masisira ang mga bagay-bagay gamit ang kanilang talino sa paglikha kapag nabigo ang kanilang sentido komun – at ang AI ay may napakakaunting sentido komun ng tao.

Ito rin ay isang malalim na dahilan upang mag-alala tungkol sa paggabay ng AI sa paggawa ng desisyon: nakakagawa sila ng mga bagong uri ng pagkakamaliAlam nating mga tao ang mga pagkakamali, ibig sabihin ay maaari nating bantayan ang mga ito. Ngunit ang mga matatalinong makina ay maaaring makagawa ng mga pagkakamali na hindi natin kailanman maiisip.

Bukod pa rito, ang mga sistema ng AI ay pinoprograma at sinasanay ng mga tao. At maraming halimbawa ng mga ganitong sistema. nagiging may kinikilingan at maging panatikoGinagaya nila ang mga pagkiling at inuulit ang mga pagkakamali mula sa mundo ng tao, kahit na tahasang sinusubukan ng mga taong kasangkot na iwasan ang mga ito.

Sa huli, patuloy pa ring mangyayari ang mga pagkakamali. May mga pangunahing dahilan kung bakit tayo nagkakamali tungkol sa mundo, kung bakit hindi natin naaalala ang lahat ng dapat nating tandaan, at kung bakit hindi tayo lubos na matutulungan ng ating teknolohiya na maiwasan ang problema.

Ngunit maaari tayong magsikap upang mabawasan ang mga bunga ng mga pagkakamali. Ang buton na "undo" at "autosave" ay nakapag-save na ng hindi mabilang na mga dokumento sa ating mga computer. Ang Monumento sa London, mga batong tsunami sa Japan at iba pang mga monumento ay nagsisilbing paalala sa atin tungkol sa ilang mga panganib. Ang mabubuting kasanayan sa disenyo ay ginagawang mas ligtas ang ating buhay.

Sa huli, posibleng may matutunan mula sa kasaysayan. Ang ating layunin ay dapat na mabuhay at matuto mula sa ating mga pagkakamali, hindi pigilan ang mga ito na mangyari kailanman. Makakatulong sa atin ang teknolohiya dito, ngunit kailangan nating pag-isipang mabuti kung ano talaga ang gusto natin mula rito – at magdisenyo nang naaayon dito.

Tungkol sa Ang May-akda

Anders Sandberg, James Martin, Kapwa Mananaliksik, Future of Humanity Institute at Oxford Martin School, University of Oxford

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.