Ang impormasyon ay isang mahalagang kalakal. At salamat sa teknolohiya, mayroon milyon-milyong terabytes nito online.

Pinamamahalaan na ngayon ng mga tool ng artificial intelligence (AI) tulad ng ChatGPT ang impormasyong ito para sa amin - kino-collate ito, ibubuod ito, at ibinabalik ito sa amin.

Ngunit ang "outsourcing" na ito ng pamamahala ng impormasyon sa AI - maginhawa kahit na ito - ay may mga kahihinatnan. Maaari itong makaimpluwensya hindi lamang Ano sa tingin namin, ngunit potensyal din paano sa tingin namin.

Ano ang nangyayari sa isang mundo kung saan nagpapasya ang mga algorithm ng AI kung anong impormasyon ang pinananatili, at ano ang natitira sa tabi ng daan?

Ang pagtaas ng personalized na AI

Ang mga tool ng Generative AI ay binuo sa mga modelong sinanay sa daan-daang gigabytes ng dati nang data. Mula sa data na ito, natututo sila kung paano gumawa ng sariling text, mga larawan, audio at video na nilalaman, at maaaring tumugon sa mga query ng user sa pamamagitan ng pagsasama-sama ng "pinaka-malamang" na sagot.

Ang ChatGPT ay ginagamit ng milyun-milyong tao, sa kabila ng paglabas sa publiko wala pang isang taon ang nakalipas. Noong Hunyo, ang pagdaragdag ng mga custom na tugon ginawang mas kapaki-pakinabang ang dati nang kahanga-hangang chatbot. Ang tampok na ito ay nagbibigay-daan sa mga user na mag-save ng mga naka-customize na tagubilin na nagpapaliwanag kung para saan nila ginagamit ang bot at kung paano nila ito gustong tumugon.

Isa ito sa ilang mga halimbawa ng "naka-personalize na AI": isang kategorya ng mga tool ng AI na bumubuo ng nilalaman upang umangkop sa mga partikular na pangangailangan at kagustuhan ng user.

Ang isa pang halimbawa ay ang kamakailang inilunsad ng Meta virtual na katulong, Meta AI. Ang chatbot na ito maaaring magkaroon ng mga pag-uusap, bumuo ng mga larawan at magsagawa ng mga gawain sa mga platform ng Meta kabilang ang WhatsApp, Messenger at Instagram.

Artificial intelligence researcher at co-founder ng DeepMind, Mustafa Suleyman, naglalarawan naka-personalize ang AI bilang higit sa isang relasyon kaysa sa isang teknolohiya:

Ito ay isang kaibigan. […] Ito ay talagang naroroon at kasama mo, nakatira kasama mo – karaniwang sa iyong koponan. Gusto kong isipin ito bilang isang mahusay na coach sa iyong sulok.

Ngunit ang mga teknolohiyang ito ay kontrobersyal din, na may mga alalahanin pagmamay-ari data, pagkiling at maling impormasyon.

Sinusubukan ng mga tech na kumpanya na humanap ng mga paraan upang labanan ang mga isyung ito. Halimbawa, nagdagdag ang Google ng mga source link sa AI-generated search summaries na ginawa nito Search Generative Experience (SGE) tool, na sinisiraan noong unang bahagi ng taong ito para sa nag-aalok hindi tumpak at may problemang mga tugon.

Binago na ng teknolohiya ang ating pag-iisip

Paano mababago ang mga tool ng generative AI - at lalo na ang mga naka-personalize sa amin - kung paano namin iniisip?

Upang maunawaan ito, balikan natin ang unang bahagi ng 1990s nang unang dumating ang internet sa ating buhay. Maaaring biglang ma-access ng mga tao ang impormasyon tungkol sa halos anumang bagay, maging iyon ay pagbabangko, pagluluto sa hurno, pagtuturo o paglalakbay.

Halos 30 taon na ang nakalipas, ipinakita ng mga pag-aaral kung paano binago ng pagiging konektado sa pandaigdigang "kaisipang pugad" ang ating katalusan, memorya at pagkamalikhain.

Halimbawa, ang pagkakaroon ng agarang access sa katumbas ng 305.5 bilyon na mga pahina ng impormasyon ay nadagdagan ang mga tao meta-kaalaman – iyon ay, ang kanilang kaalaman tungkol sa kaalaman. Ang isang epekto nito ay ang "epekto ng Google”: isang kababalaghan kung saan pinapataas ng paghahanap sa online ang aming kakayahang maghanap ng impormasyon, ngunit binabawasan ang aming memorya kung ano ang impormasyong iyon.

Sa isang banda, ang pag-offload ng aming pag-iisip sa mga search engine ay ipinakita upang palayain ang aming mga reserbang pangkaisipan para sa paglutas ng problema at malikhaing pag-iisip. Sa kabilang banda, ang pagkuha ng impormasyon sa online ay nauugnay sa pagtaas distractibility at dependency.

Ipinapakita rin ng pananaliksik na ang paghahanap sa online – anuman ang dami o kalidad ng nakuhang impormasyon – ay nagpapataas ng ating nagbibigay-malay na pagpapahalaga sa sarili. Sa madaling salita, pinapataas nito ang ating paniniwala sa sarili nating "matalino".

Isama ito sa katotohanang iyon masipag ang pagtatanong ng impormasyon – at kapag mas pinagkakatiwalaan namin ang aming search engine, mas mababa ang aming pagiging kritikal makisali sa mga resulta nito – at makikita mo kung bakit ang pagkakaroon ng access sa mga hindi pa naganap na dami ng impormasyon ay hindi nangangahulugang nagiging mas matalino tayo.

Dapat ba nating 'outsourcing' ang ating pag-iisip?

Ang mga generative AI tool ngayon ay higit na lumalabas kaysa sa pagpapakita lamang sa amin ng mga resulta ng paghahanap. Hinahanap nila ang impormasyon para sa amin, sinusuri ito, i-synthesize ito at ipapakita ito pabalik sa amin.

Ano ang maaaring maging implikasyon nito? Nang walang pagtutulak para sa kontrol ng kalidad na pinangungunahan ng tao, ang pananaw ay hindi maaasahan.

Ang kakayahan ng Generative AI na gumawa ng mga tugon na parang pamilyar, layunin, at nakakaengganyo ay nangangahulugan na nagiging mas mahina tayong nagbibigay-malay biases.

Ang bias ng automation, halimbawa, ay ang ugali ng tao na labis na tantiyahin ang integridad ng impormasyong mula sa makina. At ang exposure lang Ang epekto ay kapag mas malamang na magtiwala tayo sa impormasyong ipinakita bilang pamilyar o personal.

Makakatulong sa atin ang pananaliksik sa social media na maunawaan ang epekto ng mga ganitong bias. Sa isang pag-aaral noong 2016, iniulat ng mga gumagamit ng Facebook pakiramdam na higit na "alam" batay sa dami ng nilalaman ng balita na nai-post online – at hindi kung gaano karami ang aktwal nilang nabasa.

Alam din natin na "filter ng mga bula” na ginawa ng mga social media algorithm – kung saan ang aming mga feed ay sinasala ayon sa aming mga interes — nililimitahan ang pagkakaiba-iba ng nilalamang nalantad sa amin.

Ang prosesong ito ng pagpapaliit ng impormasyon ay ipinakita na tumaas ideolohikal na polarisasyon sa pamamagitan ng pagbabawas ng hilig ng mga tao na isaalang-alang ang mga alternatibong pananaw. Ito rin ay ipinapakita upang mapataas ang aming posibilidad na malantad pekeng balita.

Paggamit ng AI para maging matalino, at hindi pipi

Ang Generative AI ay, walang duda, isang rebolusyonaryong puwersa na may potensyal na gumawa ng magagandang bagay para sa lipunan. Maaari nitong baguhin ang ating sistema ng edukasyon sa pamamagitan ng pagbibigay isinapersonal na nilalaman, baguhin ang aming mga gawi sa trabaho sa pamamagitan ng pagpapabilis pagsulat at pagsusuri ng impormasyon, at itulak ang mga hangganan ng pang-agham na pagtuklas.

May potensyal pa itong positibong baguhin ang ating mga relasyon sa pamamagitan ng pagtulong sa atin na makipag-usap at kumonekta sa iba at maaari, kung minsan, gumana bilang isang anyo ng synthetic companionship.

Ngunit kung ang tanging paraan natin upang hatulan ang hinaharap ay sa pamamagitan ng pagtingin sa nakaraan, marahil ngayon ang oras upang pag-isipan kung paano binago ng internet at social media ang ating kaalaman, at ilapat ang ilan. maingat mga panukala. Nagpapaunlad AI literacy ay isang magandang lugar upang magsimula, tulad ng pagdidisenyo ng mga tool ng AI na naghihikayat sa awtonomiya ng tao at kritikal na pag-iisip.

Sa huli, kailangan nating maunawaan ang ating sarili at mga kalakasan at kahinaan ng AI upang matiyak na ang mga kasamang "nag-iisip" na ito ay makakatulong sa amin na lumikha ng hinaharap na gusto namin - at hindi ang isa na nasa tuktok ng listahan.

Sarah Vivienne Bentley, Research Scientist, Responsableng Innovation, Data61, CSIRO; Claire Mason, Principal Research Scientist, CSIRO, at Einat Grimberg, Postdoctoral Research Fellow sa Teknolohiya at Agham Panlipunan, CSIRO

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.