kalalakihan - at mga bansa - sa digmaan
Natuto sana si Napoleon sa nakaraan. pagpipinta ni Adolph Northen/wikipedia

Ito ay isang cliché na ang hindi pag-alam sa kasaysayan ay nagpapaulit nito. Tulad ng itinuro din ng maraming tao, ang tanging natututuhan natin sa kasaysayan ay bihira tayong matuto ng anuman mula sa kasaysayan. Nakikisali ang mga tao digmaan sa lupa sa Asya paulit-ulit. Inuulit din nila ang parehong mga pagkakamali sa pakikipag-date, paulit-ulit. Ngunit bakit ito nangyayari? At tatapusin ba ito ng teknolohiya?

Ang isang isyu ay ang pagkalimot at "myopia”: hindi namin nakikita kung paano nauugnay ang mga nakaraang kaganapan sa mga kasalukuyan, na tinatanaw ang pattern na lumalabas. Dapat na napansin ni Napoleon ang pagkakatulad sa pagitan ng kanyang martsa sa Moscow at ang hari ng Suweko Nabigo ang pagtatangka ni Charles XII na gawin din ito humigit-kumulang isang siglo bago siya.

Kami rin masama sa pag-aaral kapag nagkamali. Sa halip na tukuyin kung bakit mali ang isang desisyon at kung paano ito maiiwasang mangyari muli, madalas nating subukang balewalain ang mga nakakahiyang pangyayari. Nangangahulugan iyon na sa susunod na dumating ang isang katulad na sitwasyon, hindi namin nakikita ang pagkakatulad - at ulitin ang pagkakamali.

Parehong nagpapakita ng mga problema sa impormasyon. Sa unang kaso, hindi namin naaalala ang personal o makasaysayang impormasyon. Sa pangalawa, nabigo kaming mag-encode ng impormasyon kapag available ito.


innerself subscribe graphic


Sabi nga, nagkakamali rin tayo kapag hindi natin maipaliwanag nang husto kung ano ang mangyayari. Marahil ang sitwasyon ay masyadong masalimuot o masyadong matagal na pag-isipan. O biased tayo para ma-misinterpret ang mga nangyayari.

Ang nakakainis na kapangyarihan ng teknolohiya

Ngunit tiyak na makakatulong sa atin ang teknolohiya? Maaari na tayong mag-imbak ng impormasyon sa labas ng ating utak, at gumamit ng mga computer para kunin ito. Iyon ay dapat na gawing madali ang pag-aaral at pag-alala, tama ba?

Ang pag-iimbak ng impormasyon ay kapaki-pakinabang kapag ito ay mahusay na makuha. Ngunit ang pag-alala ay hindi katulad ng pagkuha ng isang file mula sa isang kilalang lokasyon o petsa. Ang pag-alala ay nagsasangkot ng pagtuklas ng mga pagkakatulad at pagsasaisip ng mga bagay.

Kailangan din ng isang artificial intelligence (AI) na kusang makapagdala ng mga pagkakatulad sa ating isipan - kadalasang hindi kanais-nais na mga pagkakatulad. Ngunit kung ito ay mahusay na mapansin ang mga posibleng pagkakatulad (pagkatapos ng lahat, maaari itong maghanap sa lahat ng internet at lahat ng aming personal na data) madalas din itong makapansin ng mga mali.

Para sa mga nabigong petsa, maaaring tandaan na lahat sila ay may kasamang hapunan. Ngunit hindi kailanman ang kainan ang naging problema. At ito ay isang manipis na pagkakataon na may mga tulips sa mesa - walang dahilan upang maiwasan ang mga ito. Madalas nating inuulit ang mga pagkakamali sa pakikipag-date. 

Ibig sabihin, babalaan tayo nito tungkol sa mga bagay na hindi natin pinapahalagahan, posibleng sa nakakainis na paraan. Ang pagbabawas ng pagiging sensitibo nito ay nangangahulugan ng pagtaas ng panganib na hindi makakuha ng babala kapag ito ay kinakailangan.

Isa itong pangunahing problema at nalalapat din ito sa sinumang tagapayo: ang maingat na tagapayo ay madalas na umiyak ng lobo, ang optimistikong tagapayo ay makaligtaan ang mga panganib.

Ang isang mabuting tagapayo ay isang taong pinagkakatiwalaan natin. Mayroon silang halos parehong antas ng pag-iingat gaya natin, at alam nating alam nila kung ano ang gusto natin. Mahirap itong hanapin sa isang human advisor, at higit pa sa isang AI.

Saan pinipigilan ng teknolohiya ang mga pagkakamali? Gumagana ang idiot-proofing. Hinihiling sa iyo ng mga cutting machine na hawakan ang mga pindutan, na inilalayo ang iyong mga kamay sa mga blades. Ang isang "switch ng patay na tao" ay humihinto sa isang makina kung ang operator ay nawalan ng kakayahan.

Pinapatay ng mga microwave oven ang radiation kapag binuksan ang pinto. Upang maglunsad ng mga missile, dalawang tao ang kailangang i-on ang mga susi nang sabay-sabay sa isang silid. Dito, ang maingat na disenyo ay nagpapahirap sa mga pagkakamali. Ngunit wala kaming sapat na pakialam sa mga hindi gaanong mahalagang sitwasyon, ginagawa ang disenyo doon na hindi gaanong idiot-proof.

Kapag mahusay ang teknolohiya, madalas tayong nagtitiwala dito. Ang mga piloto ng airline ay may mas kaunting totoong oras ng paglipad ngayon kaysa sa nakaraan dahil sa kamangha-manghang kahusayan ng mga autopilot system. Ito ay masamang balita kapag nabigo ang autopilot, at ang piloto ay may mas kaunting karanasan upang magpatuloy upang maitama ang sitwasyon.

Ang una sa a lumubog ang bagong lahi ng oil platform (Sleipnir A). dahil pinagkakatiwalaan ng mga inhinyero ang pagkalkula ng software ng mga puwersang kumikilos dito. Mali ang modelo, ngunit ipinakita nito ang mga resulta sa isang nakakahimok na paraan na mukhang maaasahan ang mga ito.

Kahanga-hangang maaasahan ang karamihan sa ating teknolohiya. Halimbawa, hindi namin napapansin kung paano patuloy na nakikita ang mga nawawalang packet ng data sa internet sa likod ng mga eksena, kung paano inaalis ng mga error-correcting code ang ingay o kung paano ginagawang ligtas ng mga fuse at redundancy ang mga appliances.

Ngunit kapag nag-pile tayo sa antas pagkatapos ng antas ng pagiging kumplikado, mukhang hindi kapani-paniwala. Napansin namin kapag nagla-lag ang Zoom video, mali ang sagot ng AI program o nag-crash ang computer. Ngunit tanungin ang sinumang gumamit ng computer o kotse 50 taon na ang nakakaraan kung paano sila aktwal na nagtrabaho, at mapapansin mo na pareho silang hindi gaanong kaya at hindi gaanong maaasahan.

Ginagawa naming mas kumplikado ang teknolohiya hanggang sa maging masyadong nakakainis o hindi ligtas na gamitin. Habang nagiging mas mahusay at mas maaasahan ang mga bahagi, madalas naming pinipiling magdagdag ng mga bagong kapana-panabik at kapaki-pakinabang na feature kaysa manatili sa kung ano ang gumagana. Sa huli, ginagawang hindi gaanong maaasahan ang teknolohiya kaysa sa maaari.

Magkakaroon ng mga pagkakamali

Ito rin ang dahilan kung bakit ang AI ay isang tabak na may dalawang talim para sa pag-iwas sa mga pagkakamali. Kadalasang ginagawa ng automation ang mga bagay na mas ligtas at mas mahusay kapag ito ay gumagana, ngunit kapag ito ay nabigo ito ay ginagawang mas malaki ang problema. Ang awtonomiya ay nangangahulugan na ang matalinong software ay maaaring umakma sa ating pag-iisip at i-offload tayo, ngunit kapag hindi ito nag-iisip tulad ng gusto natin, maaari itong mag-misbehave.

Kung mas kumplikado ito, mas hindi kapani-paniwala ang mga pagkakamali. Alam ng sinumang nakipag-usap sa napakatalino na mga iskolar kung gaano nila kahusay magugulo ang mga bagay sa pamamagitan ng mahusay na talino kapag nabigo sila ng kanilang sentido komun - at ang AI ay may napakakaunting sentido komun ng tao.

Isa rin itong malalim na dahilan para mag-alala tungkol sa AI na gumagabay sa paggawa ng desisyon: gumawa sila ng mga bagong uri ng pagkakamali. Alam nating mga tao ang mga pagkakamali ng tao, ibig sabihin maaari nating bantayan ang mga ito. Pero ang mga matalinong makina ay maaaring magkamali na hindi natin maisip.

Higit pa rito, ang mga AI system ay naka-program at sinanay ng mga tao. At mayroong maraming mga halimbawa ng mga naturang sistema nagiging kampi at maging panatiko. Ginagaya nila ang mga bias at inuulit ang mga pagkakamali mula sa mundo ng tao, kahit na ang mga taong kasangkot ay tahasang sinusubukang iwasan ang mga ito.

Sa huli, ang mga pagkakamali ay patuloy na nangyayari. May mga pangunahing dahilan kung bakit tayo nagkakamali sa mundo, kung bakit hindi natin naaalala ang lahat ng dapat nating tandaan, at kung bakit hindi tayo lubos na makakatulong sa ating teknolohiya na maiwasan ang gulo.

Ngunit maaari tayong magtrabaho upang mabawasan ang mga kahihinatnan ng mga pagkakamali. Ang undo button at autosave ay nakapag-save ng hindi mabilang na mga dokumento sa aming mga computer. Ang Monumento sa London, mga bato ng tsunami sa Japan at iba pang mga monumento ay kumilos upang paalalahanan tayo tungkol sa ilang mga panganib. Ginagawang mas ligtas ang ating buhay dahil sa magagandang kasanayan sa disenyo.

Sa huli, posibleng may matutunan sa kasaysayan. Ang aming layunin ay dapat na mabuhay at matuto mula sa aming mga pagkakamali, hindi maiwasan ang mga ito na mangyari. Matutulungan tayo ng teknolohiya dito, ngunit kailangan nating pag-isipang mabuti kung ano talaga ang gusto natin dito - at magdisenyo nang naaayon.

Tungkol sa Ang May-akda

Anders Sandberg, James Martin Research Fellow, Future of Humanity Institute at Oxford Martin School, University of Oxford

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.