Makaka-save ba ang Teknolohiya sa Amin Mula sa Misinformation Sa Social Media?

Kung makuha mo ang iyong balita mula sa social media, tulad ng karamihan sa mga Amerikano, nakalantad ka sa isang pang-araw-araw na dosis ng mga panloloko, mga alingawngaw, mga teorya ng pagsasabwatan at nakaliligaw na balita. Kapag ang lahat ay magkakasama sa may maaasahang impormasyon mula sa mga tapat na mapagkukunan, ang katotohanan ay maaaring maging napakahirap upang makilala.

Sa katunayan, ang pagsusuri ng aking pangkat ng pananaliksik ng data mula sa Columbia University Lumilitaw Ang tsismis na tsismis ay nagmumungkahi na ito Ang maling impormasyon ay malamang na maging viral bilang maaasahang impormasyon.

Marami ang nagtatanong kung ito mabangis ng digital na maling impormasyon apektado ang kinalabasan ng halalan sa 2016 US. Ang katotohanan ay hindi namin alam, bagama't may mga dahilan upang maniwala na posible ito, batay sa nakaraang pagsusuri at mga account mula sa iba pang mga bansa. Ang bawat piraso ng maling impormasyon ay nag-aambag sa paghubog ng aming mga opinyon. Sa pangkalahatan, ang pinsala ay maaaring tunay na tunay.

Bilang isang tagapagpananaliksik sa pagkalat ng maling impormasyon sa pamamagitan ng social media, alam ko na ang paglilimita ng mga kakayahang mag-balita ng kakayahang magbenta ng mga ad, tulad ng kamakailan inihayag ng Google at Facebook, ay isang hakbang sa tamang direksyon. Ngunit hindi nito mapapaloob ang mga pang-aabuso na hinimok ng motibo pampulitika.

Pagsasamantala sa social media

Tungkol sa 10 taon na ang nakalilipas, ang aking mga kasamahan at ako ay nagpatakbo ng isang eksperimento kung saan natutunan namin ang 72 porsiyento ng mga estudyante sa kolehiyo na pinagkakatiwalaan na mga link na nagmula sa nagmula sa mga kaibigan - kahit na sa punto ng pagpasok ng personal na impormasyon sa pag-login sa mga phishing site. Ang malawakang kahinaan na ito ay iminungkahi ng ibang paraan ng malisyosong pagmamanipula: Ang mga tao ay maaaring maniwala rin sa maling impormasyon na natatanggap nila kapag nag-click sa isang link mula sa isang social contact.

Upang tuklasin ang ideya na iyon, gumawa ako ng isang pekeng web page na may random, balita sa tsismis na nakabuo ng computer - mga bagay na tulad ng "Celebrity X na nahuli sa kama na may Celebrity Y!" Ang mga bisita sa site na naghanap ng isang pangalan ay mag-trigger ng script upang awtomatikong gumawa ng isang kuwento tungkol sa tao. Kasama ko sa site ang isang disclaimer, na sinasabi na ang site ay naglalaman ng walang kahulugan na teksto at mga "katotohanan" na ginawa. Naglagay din ako ng mga ad sa pahina. Sa katapusan ng buwan, nakuha ko ang isang tseke sa koreo na may kita mula sa mga ad. Iyon ang aking katibayan: Ang pekeng balita ay maaaring gumawa ng pera sa pamamagitan ng pagdumi sa internet sa mga kasinungalingan.


innerself subscribe graphic


Nakakalungkot, hindi lang ako ang may ideya na ito. Pagkaraan ng sampung taon, mayroon kaming isang industriya ng pekeng balita at digital na maling impormasyon. Ang mga site ng Clickbait ay gumagawa ng mga hoax upang kumita ng pera mula sa mga ad, habang ang mga tinatawag na hyperpartisan site ay naglathala at kumakalat ng mga alingawngaw at mga teorya ng pagsasabwatan upang maka-impluwensya sa opinyon ng publiko.

Ang industriya na ito ay pinalakas ng kung gaano kadali ang lumikha mga social bot, mga pekeng account na kinokontrol ng software na mukhang totoong tao at samakatuwid ay maaaring magkaroon ng tunay na impluwensiya. Pananaliksik sa aking laboratoryo natuklasan ang maraming halimbawa ng mga pekeng kampanya ng katutubo, na tinatawag din na pampulitika astroturfing.

Bilang tugon, binuo namin ang BotOrNot tool upang makita ang mga social bot. Ito ay hindi perpekto, ngunit sapat na tumpak upang matuklasan ang mga kampanya ng pag-uusig sa mga paggalaw ng Brexit at antivax. Gamit ang BotOrNot, nakita ng aming mga kasamahan na a malaking bahagi ng online chatter tungkol sa halalan ng 2016 ay nabuo ng mga bot.

Paglikha ng mga bula ng impormasyon

Namin ang mga tao ay mahina laban sa pagmamanipula ng mga digital na maling impormasyon salamat sa isang kumplikadong hanay ng mga panlipunan, nagbibigay-malay, pang-ekonomiya at algorithmic biases. Ang ilan sa mga ito ay nagbago para sa mabubuting dahilan: Ang pagtitiwala sa mga signal mula sa aming mga social circle at pagtanggi sa impormasyon na nagkakasalungat sa aming karanasan ay nagsilbi sa amin nang mahusay kapag ang aming mga species ay nakahanay sa mga umiiwas na mandaragit. Ngunit sa pag-urong ng mga online na network, ang koneksyon ng social network na may isang pagsasabwatan ng teoriya sa kabilang panig ng planeta ay hindi nakatutulong sa pagpapaalam sa aking mga opinyon.

Ang pagkopya sa aming mga kaibigan at pagsunod sa mga may iba't ibang opinyon ay nagbibigay sa amin ng echo chambers Polarized na masasabi ng mga mananaliksik na may mataas na katumpakan kung ikaw man ay liberal o konserbatibo sa pamamagitan lamang ng pagtingin sa iyong mga kaibigan. Ang istraktura ng network ay kaya siksikan na ang anumang maling impormasyon ay kumakalat nang halos agad-agad sa loob ng isang grupo, at sa gayon ay ibinukod na hindi naabot ang iba.

Sa loob ng aming bubble, napipili kami nang lantad sa impormasyon na nakahanay sa aming mga paniniwala. Iyon ay isang perpektong senaryo upang ma-maximize ang pakikipag-ugnayan, ngunit isang pumipinsala para sa pagbuo ng malusog na pag-aalinlangan. Kumpirmasyon ng bias humahantong sa amin upang ibahagi ang isang headline nang walang pagbabasa ang artikulo.

Ang aming lab ay nagkaroon ng isang personal na aralin sa ito kapag ang aming sariling proyekto sa pananaliksik ay naging paksa ng isang kampanyang maling impormasyon sa maling impormasyon sa run-up sa 2014 US midterm elections. Nang isisiwalat namin kung ano ang nangyayari, nakita namin ang mga pekeng kwento ng balita tungkol sa aming pananaliksik na karaniwang ibinahagi ng mga gumagamit ng Twitter sa loob ng isang partidong echo kamara, isang malaking at magkakauri na komunidad ng mga aktibong gumagamit ng pulitika. Ang mga taong ito ay mabilis na nag-retweet at hindi tinatablan sa pagpapaliban ng impormasyon.

Viral hindi maiiwasan

Ipinapakita ng aming pananaliksik na ibinigay ang istruktura ng aming mga social network at ang aming limitadong pansin, ito ay hindi maiwasan na ang ilan memes ay magiging viral, hindi isinasaalang-alang ang kanilang kalidad. Kahit na ang mga indibidwal ay may posibilidad na magbahagi ng impormasyon ng mas mataas na kalidad, ang network sa kabuuan ay hindi epektibo sa nakikita ang pagkakaiba sa pagitan ng maaasahang at gawaing impormasyon. Tinutulungan nito ang ipaliwanag ang lahat ng mga panlilinlang na viral na napanood natin sa ligaw.

Ang ekonomiya ng pansin ang bahala sa iba: Kung binibigyang pansin natin ang isang paksa, mas maraming impormasyon sa paksang iyon ang gagawin. Mas mura ito upang gumawa ng impormasyon at ipasa ito bilang katotohanan kaysa sa mag-ulat ng aktwal na katotohanan. At ang katha ay maaaring iayon sa bawat pangkat: Nababasa ng mga konserbatibo na pinayuhan ng papa si Trump, binasa ng mga liberal na inendorso niya si Clinton. Hindi niya ginawa.

Narito sa mga algorithm

Dahil hindi namin maaaring magbayad ng pansin sa lahat ng mga post sa aming mga feed, algorithm matukoy kung ano ang nakikita namin at kung ano ang hindi namin. Ang mga algorithm na ginagamit ng mga platform ng social media ngayon ay dinisenyo upang unahin ang nakakaengganyo na mga post - ang mga malamang na i-click, magreactibo at magbahagi. Ngunit ang isang kamakailang pag-aaral na nahanap na sadyang nakaliligaw na mga pahina ay nakakuha ng hindi bababa sa mas maraming pagbabahagi sa online at reaksyon bilang tunay na balita.

Ang ganitong algorithm na bias patungo sa pakikipag-ugnayan sa katotohanan ay nagpapatibay sa ating panlipunan at mga pagpapahalaga sa pag-iisip. Bilang isang resulta, kapag sinusunod namin ang mga link na ibinahagi sa social media, malamang na binisita namin ang isang mas maliit, mas magkakatulad set ng mga mapagkukunan kaysa sa pag-uugali namin ng isang paghahanap at bisitahin ang mga nangungunang resulta.

Ipinakikita ng kasalukuyang pananaliksik na ang pagiging nasa isang echo chamber ay maaaring gumawa ng mga tao mas madaya tungkol sa pagtanggap ng mga hindi na-verify na alingawngaw. Ngunit kailangan nating malaman ang higit pa tungkol sa kung paano tumugon ang iba't ibang mga tao sa isang solong kasinungalingan: Ang ilan ay ibinabahagi ito kaagad, iba ang katotohanan-suriin muna ito.

Kami pagtulad sa isang social network upang pag-aralan ang kumpetisyon sa pagitan ng pagbabahagi at pagsusuri ng katotohanan. Inaasam namin na tulungan na palaganapin ang magkakasalungat na katibayan kapag ang pagtiktik ng katotohanan ay nakakatulong na huminto sa mga panlilinlang mula sa pagkalat at kapag hindi. Iminumungkahi ng aming paunang mga resulta na ang mas maraming segregated sa komunidad ng panlilinlang mananampalataya, mas mahaba ang hoax survives. Muli, ito ay hindi lamang tungkol sa panloloko mismo kundi pati na rin tungkol sa network.

Maraming tao ang nagsisikap na malaman kung ano ang gagawin tungkol sa lahat ng ito. Ayon kay Mark Zuckerberg ng pinakabagong anunsyo, Ang mga koponan sa Facebook ay sumusubok sa mga posibleng pagpipilian. At isang grupo ng mga mag-aaral sa kolehiyo ay nagpanukala ng isang paraan upang simple label na mga shared link bilang "napatunayan" o hindi.

Ang ilang mga solusyon ay nananatiling hindi maabot, hindi bababa sa sandali. Halimbawa, hindi pa namin maituturo kung paano ang mga artificial intelligence system makilala sa pagitan ng katotohanan at kasinungalingan. Ngunit maaari naming sabihin algorithm ranggo upang bigyan ng mas mataas na priyoridad sa mas maaasahang pinagkukunan.

Pag-aaral ng pagkalat ng pekeng balita

Maaari naming gawin ang aming labanan laban sa pekeng balita mas mahusay kung mas mahusay na maunawaan namin kung paano kumalat ang masamang impormasyon. Kung, halimbawa, ang mga bots ay may pananagutan para sa marami sa mga kasinungalingan, maaari naming ituon ang pansin sa paghanap ng mga ito. Kung, bilang kahalili, ang problema ay sa echo chambers, marahil maaari naming mag-disenyo ng mga sistema ng rekomendasyon na hindi magbubukod sa magkakaibang pananaw.

Sa layuning iyon, ang aming lab ay nagtatayo ng platform na tinatawag Hoaxy upang subaybayan at maisalarawan ang pagkalat ng mga hindi na-verify na claim at kaukulang pagsusuri ng katotohanan sa social media. Iyon ay magbibigay sa amin ng data sa real-world, kung saan maaari naming ipaalam sa aming mga kunwaang mga social network. Pagkatapos ay maaari naming subukan ang posibleng mga diskarte sa pakikipaglaban pekeng balita.

Maaaring maipakita rin ng panloloko ang mga tao kung gaano kadali para sa kanilang mga opinyon na manipulahin ng online na impormasyon - at kahit na malamang na ang ilan sa atin ay magbahagi ng mga kasinungalingan sa online. Ang Hoaxy ay sumali sa isang suite ng mga tool sa aming Obserbatoryo sa Social Media, na nagpapahintulot sa sinuman na makita kung paano kumalat ang mga memes sa Twitter. Ang pag-uugnay sa mga tool na tulad nito sa mga fact-checkers at mga platform ng social media ay maaaring gawing mas madali upang mabawasan ang pagkopya ng mga pagsisikap at suportahan isa't isa.

Mahalaga na mamuhunan kami sa pag-aaral ng hindi pangkaraniwang bagay na ito. Kailangan namin ang lahat ng mga kamay sa kubyerta: Computer siyentipiko, sosyal na siyentipiko, ekonomista, mamamahayag at mga kasosyo sa industriya ay dapat magtrabaho nang sama sama upang manatiling matatag laban sa pagkalat ng maling impormasyon.

Ang pag-uusap

Tungkol sa Ang May-akda

Filippo Menczer, Propesor ng Computer Science at Informatics; Direktor ng Center para sa Complex Networks and Systems Research, Indiana University, Bloomington

Ang artikulong ito ay orihinal na na-publish sa Ang pag-uusap. Basahin ang ang orihinal na artikulo.

Mga Kaugnay na Libro:

at InnerSelf Market at Amazon