Isang grupo ng mga kilalang computer scientist at iba pang kilalang tech industry ang nananawagan ng anim na buwang paghinto sa artificial intelligence technology. (Shutterstock)

Isang kamakailang bukas na liham ng mga computer scientist at pinuno ng industriya ng tech nananawagan ng anim na buwang pagbabawal sa pagpapaunlad ng artificial intelligence ay nakatanggap ng malawakang atensyon online. Maging ang Ministro ng Innovation ng Canada na si François-Philippe Champagne ay tumugon sa liham sa Twitter.

Ang liham, na inilathala ng non-profit na Future of Life Institute, ay humiling sa lahat ng AI lab na ihinto ang pagsasanay sa mga AI system na mas malakas kaysa sa GPT-4, ang modelo sa likod ng ChatGPT. Ang liham ay naninindigan na ang AI ay "naka-lock sa isang out-of-control na lahi upang bumuo at mag-deploy ng mas makapangyarihang mga digital na isip na walang sinuman - kahit na ang kanilang mga tagalikha - ay maaaring maunawaan, mahulaan, o mapagkakatiwalaang kontrolin."

Ipinapalagay ng liham na ang AI ay nagiging, o maaaring maging, "makapangyarihang digital na pag-iisip" - a pangmatagalang interpretasyon ng pag-unlad ng AI na binabalewala ang mahahalagang debate tungkol sa AI ngayon bilang kapalit ng mga alalahanin sa hinaharap.

Longtermism at AI

Ang longtermism ay ang paniniwala na ang artificial intelligence ay nagdudulot ng pangmatagalan o umiiral na mga panganib sa hinaharap ng sangkatauhan sa pamamagitan ng pagiging isang out-of-control na superintelligence.

Ang mga alalahanin tungkol sa mga superintelligent na AI ay karaniwang bagay ng science fiction. Mga pantasya ng AI ay isa sa maraming kinatatakutan sa Silicon Valley maaaring humantong sa madilim na mga propesiya. Ngunit tulad ng Torment Nexus meme, ang mga alalahaning ito ay isinasalin sa pangunahing pamumuhunan hindi pag-iingat. Karamihan sa mga pangunahing kumpanya ng teknolohiya ay mayroon putulin ang kanilang mga responsableng AI team.

Ang ChatGPT ay malinaw na hindi isang landas sa superintelligence. Ang open letter ay nakikita ang AI language technology tulad ng ChatGPT bilang isang cognitive breakthrough — isang bagay na nagpapahintulot sa AI na makipagkumpitensya sa mga tao sa mga pangkalahatang gawain. Ngunit iyon ay isang opinyon lamang.

Marami pang iba na nakikita ang ChatGPT, ang modelong GPT-4 nito at iba pang mga modelo ng pag-aaral ng wika bilang “stochastic parrots” na inuulit lang ang natutunan nila online kaya nila lumitaw matalino sa tao.

Mga blind spot ng Superintelligence

Ang longtermism ay may direktang implikasyon sa patakaran na inuuna ang superintelligence kaysa sa mas matinding bagay gaya ng Hindi balanse ang kapangyarihan ng AI. Ilang tagapagtaguyod ng longtermism kahit na isaalang-alang ang regulasyon upang ihinto ang superintelligence na mas apurahan kaysa sa pagtugon sa emergency sa klima.

Ang mga implikasyon sa patakaran ng AI ay agaran, hindi malayo sa mga bagay. Dahil ang GPT-4 ay sinanay sa buong internet at may malinaw na komersyal na mga dulo, ito ay nagtataas ng mga tanong tungkol sa patas na pakikitungo at patas na paggamit.

Hindi pa rin namin alam kung ang mga text at larawang nabuo ng AI ay copyrightable sa simula pa lang, dahil ang mga makina at hayop hindi maaaring magkaroon ng copyright.

At pagdating sa mga usapin sa privacy, ang diskarte ng ChatGPT ay mahirap na makilala mula sa isa pang AI application, I-clear ang AI. Ang parehong mga modelo ng AI ay sinanay gamit ang napakalaking halaga ng personal na impormasyon na nakolekta sa bukas na internet. Ipinagbawal ng awtoridad sa proteksyon ng data ng Italy ang ChatGPT dahil sa mga alalahanin sa privacy.

Ang mga agarang panganib na ito ay hindi binanggit sa bukas na liham, na lumilipat sa pagitan ng ligaw na pilosopiya at mga teknikal na solusyon, na binabalewala ang mga isyung nasa harapan natin.

Nilulunod ang pragmatismo

Ang liham ay sumusunod sa isang lumang dinamika na tinutukoy namin ng aking kapwa may-akda sa isang paparating na peer-reviewed chapter tungkol sa AI governance. May posibilidad na tingnan ang AI bilang isang umiiral na panganib o isang bagay na makamundo at teknikal.

Ang pag-igting sa pagitan ng dalawang sukdulang ito ay ipinapakita sa bukas na liham. Ang liham ay nagsisimula sa pamamagitan ng pag-angkin na "ang advanced AI ay maaaring kumatawan sa isang malalim na pagbabago sa kasaysayan ng buhay sa Earth" bago tumawag para sa "matatag na pampublikong pagpopondo para sa teknikal na pananaliksik sa kaligtasan ng AI." Iminumungkahi ng huli na ang mga panlipunang pinsala ng AI ay mga teknikal na proyekto lamang na lutasin.

Ang pagtutok sa dalawang sukdulang ito ay naglalabas ng mahahalagang boses na sinusubukang talakayin ang mga agarang panganib ng AI na binanggit sa itaas pati na rin ang mga isyu sa paggawa at higit pa.

Ang atensyong ibinibigay sa bukas na liham ay lalong problemado sa Canada dahil dalawa pang liham, na isinulat ni artist at mga organisasyon ng kalayaang sibil, ay hindi nakatanggap ng parehong dami ng atensyon. Ang mga liham na ito ay nananawagan ng mga reporma at isang mas matatag na diskarte sa pamamahala ng AI upang protektahan ang mga apektado nito.

Isang hindi kinakailangang pagkagambala patungo sa batas ng AI

Ang mga tugon ng gobyerno sa bukas na liham ay nagbigay-diin na ang Canada ay may batas - ang Artificial Intelligence and Data Act (AIDA). Ang mga pangmatagalang panganib ng AI ay ginagamit upang madaliin ang batas ngayon tulad ng AIDA.

Ang AIDA ay isang mahalagang hakbang patungo sa isang maayos na rehimen ng pamamahala ng AI, ngunit kailangan nito mas mabuting kumunsulta sa mga apektado ng AI bago ipatupad. Hindi ito maaaring magmadali upang tumugon sa mga pinaghihinalaang pangmatagalang takot.

Ang mga panawagan ng liham na madaliin ang batas ng AI ay maaaring maging kapaki-pakinabang sa parehong ilang kumpanya na nagtutulak ng pananaliksik sa AI ngayon. Kung walang oras para kumonsulta, pahusayin ang public literacy at makinig sa mga naapektuhan ng AI, nanganganib ang AIDA na ipasa ang pananagutan at pag-audit ng AI sa mga institusyong nakaposisyon nang maayos upang makinabang sa teknolohiya, na lumilikha ng isang merkado para sa isang bagong industriya ng pag-audit ng AI.

Maaaring wala sa linya ang kapalaran ng sangkatauhan, ngunit tiyak na ang mabuting pamamahala ng AI.

Tungkol sa Ang May-akda

Fenwick McKelvey, Associate Professor sa Patakaran sa Teknolohiya ng Impormasyon at Komunikasyon, Concordia University

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.