Isang karaniwang social bot account. CC B

Ang mga social media platform ay naging higit pa sa mga kasangkapan para sa komunikasyon. Nag-evolve sila sa mataong mga arena kung saan nagbanggaan ang katotohanan at kasinungalingan. Sa mga platform na ito, ang X ay namumukod-tangi bilang a kilalang larangan ng digmaan. Ito ay isang lugar kung saan umuunlad ang mga kampanya ng disinformation, na pinapanatili ng mga hukbo ng mga bot na pinapagana ng AI na nakaprograma upang impluwensyahan ang opinyon ng publiko at manipulahin ang mga salaysay.

Ang mga bot na pinapagana ng AI ay mga automated na account na idinisenyo upang gayahin ang pag-uugali ng tao. Ang mga bot sa social media, chat platform at pakikipag-usap na AI ay mahalaga sa modernong buhay. Ang mga ito ay kinakailangan upang gawing epektibo ang mga aplikasyon ng AI, halimbawa.

Ngunit ang ilang mga bot ay ginawa na may malisyosong layunin. Nakakagulat, ang mga bot ay bumubuo ng malaking bahagi ng base ng gumagamit ng X. Noong 2017 tinantiya ito na mayroong humigit-kumulang 23 milyong mga social bot na nagkakaloob ng 8.5% ng kabuuang mga gumagamit. Mahigit sa dalawang-katlo ng mga tweet nagmula sa mga awtomatikong account na ito, pinalalakas ang pag-abot ng disinformation at pagpapaputik sa tubig ng pampublikong diskurso.

Paano gumagana ang mga bot

Ang impluwensyang panlipunan ay isa na ngayong kalakal na maaaring makuha sa pamamagitan ng pagbili ng mga bot. Ang mga kumpanya ay nagbebenta ng mga pekeng tagasunod upang artipisyal na mapalakas ang katanyagan ng mga account. Ang mga tagasunod na ito ay magagamit sa napakababang presyo, na may maraming mga kilalang tao sa mga mamimili.

Sa kurso ng aming pananaliksik, halimbawa, nakita namin ng mga kasamahan ang isang bot na nag-post ng 100 tweet na nag-aalok ng mga tagasunod para sa pagbebenta.

Paggamit ng mga pamamaraan ng AI at isang teoretikal na diskarte na tinatawag teorya ng aktor-network, pinaghiwa-hiwalay namin ng aking mga kasamahan kung paano minamanipula ng mga nakakahamak na social bot ang social media, na naiimpluwensyahan kung ano ang iniisip ng mga tao at kung paano sila kumikilos nang may nakababahala na kahusayan. Malalaman natin kung ang fake news ay ginawa ng isang tao o isang bot na may accuracy rate na 79.7%. Napakahalagang maunawaan kung paano nagpapakalat ng disinformation ang mga tao at AI upang maunawaan ang mga paraan kung paano ginagamit ng mga tao ang AI para sa pagkalat ng maling impormasyon.

Upang kumuha ng isang halimbawa, sinuri namin ang aktibidad ng isang account na pinangalanang "True Trumpers" sa Twitter.

Ang account ay itinatag noong Agosto 2017, walang mga tagasunod at walang larawan sa profile, ngunit nagkaroon, sa panahon ng pananaliksik, nag-post ng 4,423 tweet. Kabilang dito ang isang serye ng mga ganap na gawa-gawang kuwento. Kapansin-pansin na ang bot na ito ay nagmula sa isang silangang bansa sa Europa.

Isang stream ng fake news mula sa isang bot account. Buzzfeed, CC BY

Ang pananaliksik na tulad nito ay nakaimpluwensya sa X na paghigpitan ang mga aktibidad ng mga social bot. Bilang tugon sa banta ng pagmamanipula sa social media, nagpatupad ang X ng mga pansamantalang limitasyon sa pagbabasa upang pigilan ang pag-scrap at pagmamanipula ng data. Ang mga na-verify na account ay limitado sa pagbabasa ng 6,000 post sa isang araw, habang ang mga hindi na-verify na account ay maaaring magbasa ng 600 sa isang araw. Ito ay isang bagong update, kaya hindi pa namin alam kung ito ay naging epektibo.

Maaari ba nating protektahan ang ating sarili?

Gayunpaman, ang responsibilidad sa huli ay nasa mga gumagamit na mag-ingat at makilala ang katotohanan mula sa kasinungalingan, lalo na sa mga panahon ng halalan. Sa pamamagitan ng kritikal na pagsusuri ng impormasyon at pagsuri sa mga mapagkukunan, ang mga user ay maaaring gumanap ng bahagi sa pagprotekta sa integridad ng mga demokratikong proseso mula sa pagsalakay ng mga bot at disinformation na kampanya sa X. Ang bawat gumagamit ay, sa katunayan, isang frontline na tagapagtanggol ng katotohanan at demokrasya. Ang pagbabantay, kritikal na pag-iisip, at isang malusog na dosis ng pag-aalinlangan ay mahalagang sandata.

Sa social media, mahalagang maunawaan ng mga user ang mga diskarte na ginagamit ng mga nakakahamak na account.

Ang mga nakakahamak na aktor ay madalas na gumagamit ng mga network ng mga bot upang palakihin ang mga maling salaysay, manipulahin ang mga uso at mabilis na magpakalat ng maling impormasyon. Dapat mag-ingat ang mga user kapag nakakaranas ng mga account na nagpapakita ng kahina-hinalang pag-uugali, gaya ng labis na pag-post o paulit-ulit na pagmemensahe.

Ang disinformation ay madalas ding pinapalaganap sa pamamagitan ng mga nakalaang fake news website. Ang mga ito ay idinisenyo upang gayahin ang mga mapagkakatiwalaang mapagkukunan ng balita. Pinapayuhan ang mga user na i-verify ang pagiging tunay ng mga pinagmumulan ng balita sa pamamagitan ng cross-referencing na impormasyon sa mga mapagkakatiwalaang source at pagkonsulta sa mga organisasyong tumitingin sa katotohanan.

Ang kamalayan sa sarili ay isa pang paraan ng proteksyon, lalo na mula sa mga taktika ng social engineering. Ang sikolohikal na pagmamanipula ay madalas na ginagamit upang linlangin ang mga user na maniwala sa mga kasinungalingan o gumawa ng ilang partikular na aksyon. Dapat mapanatili ng mga user ang pagbabantay at kritikal na tasahin ang nilalamang nararanasan nila, lalo na sa mga panahon ng mas mataas na sensitivity gaya ng mga halalan.

Sa pamamagitan ng pananatiling may kaalaman, pakikibahagi sa sibil na diskurso at pagtataguyod para sa transparency at pananagutan, maaari nating sama-samang hubugin ang isang digital ecosystem na nagpapaunlad ng tiwala, transparency at matalinong paggawa ng desisyon.

Nick Hajli, AI Strategist at Propesor ng Digital Strategy, Loughborough University

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.

Mga Kaugnay na Libro:

On Tyranny: Twenty Lessons from the Twentieth Century

ni Timothy Snyder

Ang aklat na ito ay nag-aalok ng mga aral mula sa kasaysayan para sa pagpapanatili at pagtatanggol sa demokrasya, kabilang ang kahalagahan ng mga institusyon, ang papel ng mga indibidwal na mamamayan, at ang mga panganib ng authoritarianism.

I-click para sa karagdagang impormasyon o para mag-order

Ang Oras Natin Ngayon: Lakas, Pakay, at Pakikipaglaban para sa isang Makatarungang Amerika

ni Stacey Abrams

Ang may-akda, isang politiko at aktibista, ay nagbabahagi ng kanyang pananaw para sa isang mas inklusibo at makatarungang demokrasya at nag-aalok ng mga praktikal na estratehiya para sa pakikipag-ugnayan sa pulitika at pagpapakilos ng mga botante.

I-click para sa karagdagang impormasyon o para mag-order

Paano Namatay ang Demokrasya

nina Steven Levitsky at Daniel Ziblatt

Sinusuri ng aklat na ito ang mga babalang palatandaan at sanhi ng pagkasira ng demokrasya, na kumukuha ng mga pag-aaral ng kaso mula sa buong mundo upang mag-alok ng mga insight sa kung paano pangalagaan ang demokrasya.

I-click para sa karagdagang impormasyon o para mag-order

Ang Mga Tao, Hindi: Isang Maikling Kasaysayan ng Anti-Populismo

ni Thomas Frank

Ang may-akda ay nag-aalok ng isang kasaysayan ng mga populist na kilusan sa Estados Unidos at pinupuna ang "anti-populist" na ideolohiya na sinasabi niyang pumipigil sa demokratikong reporma at pag-unlad.

I-click para sa karagdagang impormasyon o para mag-order

Demokrasya sa Isang Aklat o Mas Kaunti: Paano Ito Gumagana, Bakit Hindi Ito Nagagawa, at Bakit Mas Madali Ang Pag-aayos Dito kaysa Inaakala Mo

ni David Litt

Nag-aalok ang aklat na ito ng pangkalahatang-ideya ng demokrasya, kabilang ang mga kalakasan at kahinaan nito, at nagmumungkahi ng mga reporma upang gawing mas tumutugon at may pananagutan ang sistema.

I-click para sa karagdagang impormasyon o para mag-order