Larawan ni: Norbert Aepli, Switzerland (User: Noebu)

Sa 2016, ang mga nagmamaneho sa sarili na mga kotse ay nagpunta mainstream. Mga autonomous na sasakyan ni Uber ay naging nasa lahat ng pook sa mga kapitbahayan kung saan ako nakatira sa Pittsburgh, at sandali sa San Francisco. Nagbigay ang Kagawaran ng Transportasyon ng US bagong regulasyon na patnubay para sa kanila. Hindi mabilang paper at haligi tinalakay kung paano self-driving cars dapat malutas etikal na mga pag-uulit kapag nagkamali ang mga bagay. At, sa kasamaang palad, nakita din ng 2016 ang unang pagkamatay na kinasasangkutan ng isang autonomous na sasakyan.

Ang mga autonomous na teknolohiya ay mabilis na kumakalat sa kabila ng sektor ng transportasyon, sa pangangalaga ng kalusugan, advanced cyberdefense at kahit mga autonomous na armas. Sa 2017, kailangan naming magpasya kung maaari naming pinagkakatiwalaan ang mga teknolohiyang ito. Iyon ay magiging mas mahirap kaysa sa maaari naming asahan.

Ang tiwala ay kumplikado at iba-iba, ngunit isa ring mahalagang bahagi ng ating buhay. Madalas naming pinagkakatiwalaan ang teknolohiya batay sa predictability: May tiwala ako sa isang bagay kung alam ko kung ano ang gagawin nito sa isang partikular na sitwasyon, kahit na hindi ko alam kung bakit. Halimbawa, pinagkakatiwalaan ko ang aking computer dahil alam ko kung paano ito gumana, kabilang ang kapag ito ay masira. Huminto ako sa pagtitiwala kung ito ay nagsisimula nang magkaiba o nakakagulat.

Sa kaibahan, ang aking tiwala sa aking asawa ay nakabatay sa pag-unawa sa kanyang mga paniniwala, mga halaga at personalidad. Higit sa pangkalahatan, ang interpersonal na pagtitiwala ay hindi kasangkot alam kung ano mismo ang gagawin ng ibang tao - tiyak na sorpresa ako ng aking asawa kung minsan! - ngunit kung bakit kumilos sila tulad ng ginagawa nila. At siyempre, maaari tayong magtiwala sa isang tao (o isang bagay) sa parehong paraan, kung alam natin kung ano ang kanilang gagawin at bakit.

Nasasaliksik ko ang mga posibleng basehan para sa aming pagtitiwala sa mga self-driving na sasakyan at iba pang mga autonomous na teknolohiya mula sa parehong etikal at sikolohikal na pananaw. Ang mga ito ay mga aparato, kaya ang predictability ay maaaring mukhang tulad ng susi. Gayunman, dahil sa kanilang awtonomya, kailangan nating isaalang-alang ang kahalagahan at halaga - at ang hamon - sa pag-aaral na magtiwala sa kanila sa paraan ng pagtitiwala natin sa ibang mga tao.

Awtonomiya at predictability

Gusto namin ang aming mga teknolohiya, kabilang ang mga self-driving na sasakyan, upang kumilos sa mga paraan na maaari naming hulaan at inaasahan. Siyempre, ang mga sistemang ito ay maaaring maging sensitibo sa konteksto, kabilang ang iba pang mga sasakyan, pedestrian, kondisyon ng panahon at iba pa. Gayunman, sa pangkalahatan, maaari naming asahan na ang isang self-driving na sasakyan na paulit-ulit na inilagay sa parehong kapaligiran ay dapat na kumilos nang katulad sa bawat oras. Ngunit sa anong kahulugan ang mga mataas na predictable na mga kotse ay autonomous, sa halip na lamang awtomatikong?

Mayroon naging marami iba Pagsusubok sa magtakda pagsasarili, ngunit lahat ng ito ay may karaniwan: Ang mga sistema ng awtonomya ay maaaring gumawa ng kanilang sariling mga (substantive) na mga desisyon at mga plano, at sa gayon ay maaaring kumilos nang naiiba kaysa sa inaasahan.

Sa katunayan, ang isang dahilan upang gamitin ang awtonomya (bilang naiiba mula sa automation) ay tiyak na ang mga sistemang ito ay maaaring magpatuloy sa hindi inaasahang at nakakagulat, bagaman makatwiran, mga kurso ng pagkilos. Halimbawa, AlphaGo ng DeepMind Nanalo ang ikalawang laro ng kamakailang Go serye laban sa Lee Sedol sa bahagi dahil sa isang paglipat na hindi kailanman gagawin ng manlalaro ng tao, ngunit gayunpaman ang tamang paglipat. Ngunit ang mga parehong sorpresa ay nagpapahirap na magtatag ng tiwala na nakabatay sa predictability. Ang malakas na pagtitiwala na batay lamang sa predictability ay arguably posible lamang para sa awtomatiko o awtomatikong sistema, tiyak na dahil sila ay predictable (sa pag-aakala ang mga pag-andar ng sistema ng normal).

Sumisiyasat ng mga sorpresa

Siyempre pa, ang iba pang mga tao ay madalas na sorpresa sa amin, at pa maaari naming pinagkakatiwalaan ang mga ito sa isang kapansin-pansin degree, kahit na nagbibigay sa kanila ng kapangyarihan sa buhay-at-kamatayan sa ating sarili. Pinagkakatiwalaan ng mga sundalo ang kanilang mga kasama sa kumplikado, masasamang kapaligiran; ang isang pasyente ay pinagkakatiwalaan ang kanyang siruhano na magpataw ng isang bukol; at sa isang mas makulay na ugat, pinagkakatiwalaan ako ng aking asawa na magmaneho nang ligtas. Ang interpersonal na tiwala na ito ay nagbibigay-daan sa amin upang yakapin ang mga sorpresa, kaya marahil maaari naming bumuo ng isang bagay tulad ng interpersonal tiwala sa self-pagmamaneho kotse?

Sa pangkalahatan, nangangailangan ng pag-unawa sa isang tao kung bakit kumilos ang isang tao sa isang partikular na paraan, kahit na hindi mo mahuhulaan ang eksaktong desisyon. Ang aking asawa ay hindi maaaring alam kung paano ako magpapalakas, ngunit alam niya ang mga uri ng pangangatwiran na ginagamit ko kapag nagmamaneho ako. At ito ay relatibong madaling maunawaan kung bakit ang ibang tao ay gumagawa ng isang bagay, tiyak na dahil sa ating lahat ay nag-iisip at nangatuwiran halos katulad, bagama't may iba't ibang "hilaw na sangkap" - ang ating mga paniniwala, mga hangarin at mga karanasan.

Sa katunayan, kami ay patuloy at walang kamalayan na gumagawa ng mga inferences tungkol sa mga paniniwala at hangarin ng iba pang mga tao batay sa kanilang mga pagkilos, sa malaking bahagi sa pamamagitan ng pag-aakala na iniisip nila, ang dahilan at magpasya nang halos tulad ng ginagawa natin. Ang lahat ng mga inferences at pangangatwiran batay sa aming nakabahaging (pantaong) katalusan ay nagbibigay-daan sa amin upang maunawaan ang mga dahilan ng ibang tao, at sa gayon ay bumuo ng interpersonal na tiwala sa paglipas ng panahon.

Nag-iisip ng mga tao?

Autonomous na mga teknolohiya - mga self-driving na sasakyan, lalo na - huwag mag-isip at magpasya tulad ng mga tao. Nagkaroon ng mga pagsisikap, pareho nakaraan at kamakailan lamang, upang bumuo ng mga sistema ng computer na nag-iisip at dahilan tulad ng mga tao. Gayunpaman, ang isang pare-parehong tema ng pag-aaral ng makina sa nakalipas na dalawang dekada ay ang napakalaking mga natamo na ginawa nang tumpak sa pamamagitan ng hindi nangangailangan ng aming mga artipisyal na sistema ng katalinuhan upang gumana sa mga paraan tulad ng pantao. Sa halip, ang mga algorithm sa pag-aaral ng makina at mga system tulad ng AlphaGo ay madalas na magagawa lumalabas ang mga eksperto ng tao sa pamamagitan ng pagtuon sa mga tukoy, naisalokal na mga problema, at pagkatapos ay malutas ang mga ito nang iba kaysa sa mga tao.

Bilang isang resulta, ang mga pagtatangka upang bigyan ng interpretasyon ang isang autonomous na teknolohiya sa mga tuntunin ng pantao-tulad na mga paniniwala at mga hangarin ay maaaring maging kagulat-gulat. Kapag nakikita ng isang tao ang isang bola sa kalsada, ang karamihan sa atin ay awtomatikong mabagal nang malaki, upang maiwasan ang paghagupit sa isang bata na maaaring habulin ito. Kung kami ay nakasakay sa isang autonomous na kotse at nakikita ang isang ball roll sa kalye, inaasahan namin na makilala ng kotse ito, at maging handa upang ihinto ang pagpapatakbo ng mga bata. Gayunman, maaaring makita ng kotse ang isang balakid na maiiwasan. Kung lumilipat ito nang walang pagbagal, ang mga tao na nakasakay ay maaaring magulat - at ang isang bata ay maaaring nasa panganib.

Ang aming mga inference tungkol sa mga "paniniwala" at "mga naisin" ng isang self-driving na kotse ay halos tiyak na mali sa mga mahalagang paraan, tiyak dahil ang kotse ay walang anumang pantao paniniwala o mga gusto. Hindi namin maaaring bumuo ng interpersonal tiwala sa isang self-pagmamaneho ng kotse sa pamamagitan lamang ng panonood ito drive, dahil hindi namin ay tama magpahiwatig ang whys sa likod ng mga pagkilos nito.

Siyempre, ang mga mamimili o marketplace na mga kostumer ay maaaring magpipilit na ang mga nagmamay-ari ng mga kotse ay may mga katangian ng tao (sikolohikal), tiyak na kaya naming maunawaan at bumuo ng interpersonal na pagtitiwala sa kanila. Ang diskarte na ito ay magbibigay ng isang buong bagong kahulugan sa "disenyo ng tao-nakasentro, "Dahil ang mga sistema ay partikular na idinisenyo upang ang kanilang mga aksyon ay maipahulugan ng mga tao. Ngunit nangangailangan din ito ng nobela algorithm at diskarte sa self-driving car, ang lahat ay kumakatawan sa isang napakalaking pagbabago mula sa kasalukuyang mga diskarte sa pag-aaral at pagpapaunlad para sa mga self-driving na sasakyan at iba pang mga autonomous na teknolohiya.

Ang mga self-driving na sasakyan ay may posibilidad na radikal na baguhin ang aming imprastraktura sa transportasyon sa maraming kapaki-pakinabang na paraan, ngunit kung maaari naming pinagkakatiwalaan ang mga ito ng sapat na upang aktwal na gamitin ang mga ito. At ironically, ang pinaka-tampok na ginagawang mahalaga ang mga kotse sa pagmamaneho ng sarili - ang kanilang kakayahang umangkop, nagsasarili na paggawa ng desisyon sa iba't ibang sitwasyon - ay kung ano ang nagpapahirap sa kanila na magtiwala.

authirhere

Si David Danks, Propesor ng Pilosopiya at Psychology, Carnegie Mellon University

Ang artikulong ito ay orihinal na na-publish sa Ang pag-uusap. Basahin ang ang orihinal na artikulo.

Mga Kaugnay na Libro:

at InnerSelf Market at Amazon