Ang pabagu-bago ng isip na halo ng mga deepfakes at pampulitikang kampanya ay isang magandang dahilan upang maging maingat. Sean Anthony Eddy Creative/E+ sa pamamagitan ng Getty Images
Isipin ang isang Oktubre sorpresa walang katulad: Isang linggo lamang bago ang Nobyembre 5, 2024, ipinapakita ng isang pag-record ng video ang isang lihim na pagpupulong nina Joe Biden at Volodymyr Zelenskyy. Ang mga presidente ng Amerika at Ukrainian ay sumang-ayon na agad na simulan ang Ukraine sa NATO sa ilalim ng "espesyal na emergency membership protocol" at maghanda para sa isang nuclear weapons strike laban sa Russia. Biglang, ang mundo ay nasa tuktok ng Armagedon.
Habang ang mga mamamahayag ay maaaring ituro iyon walang ganoong protocol na umiiral at ang mga gumagamit ng social media ay maaaring makapansin ng mga kakaibang katangian ng video-gamelike ng video, maaaring maramdaman iyon ng iba ang kanilang pinakamasamang takot ay nakumpirma na. Pagdating ng Araw ng Halalan, maaaring hayaan ng mga nag-aalalang mamamayan na ito na igalaw ng video ang kanilang mga boto, nang hindi nila alam na manipulahin lang sila ng isang sitwasyong deepfake - isang pangyayaring hindi naman talaga nangyari.
Ang mga deepfakes ng sitwasyon ay kumakatawan sa susunod na yugto ng mga teknolohiya na mayroon na nayanig ang pananaw ng mga manonood sa katotohanan. Sa aming pananaliksik sa DeFake Project, ang mga kasamahan ko sa Rochester Institute of Technology, ang University of Mississippi, Michigan State University at ako pag-aralan kung paano ginawa ang mga deepfakes at kung anong mga hakbang ang maaaring gawin ng mga botante upang ipagtanggol ang kanilang sarili mula sa mga ito.
Iniisip ang mga pangyayaring hindi nangyari
Nagagawa ang deepfake kapag may gumagamit ng artificial intelligence tool, lalo na malalim na pag-aaral, upang manipulahin o bumuo ng a mukhaSa boses o – sa pagtaas ng malalaking modelo ng wika gaya ng Chat GPT - wika ng pakikipag-usap. Maaaring pagsamahin ang mga ito upang bumuo ng "mga deepfakes ng sitwasyon."
Ang pangunahing ideya at teknolohiya ng isang sitwasyon na deepfake ay kapareho ng sa anumang iba pang deepfake, ngunit may mas matapang na ambisyon: upang manipulahin ang isang tunay na kaganapan o mag-imbento ng isa mula sa manipis na hangin. Kasama sa mga halimbawa ang mga paglalarawan ng Ang perp lakad ni Donald Trump at Niyakap ni Trump si Anthony Fauci, wala sa alinman ang nangyari. Ang hug shot ay itinaguyod ni a Twitter account kaugnay ng kampanya sa pagkapangulo ng karibal ni Trump na si Ron DeSantis. An ad ng pag-atake ang pag-target sa kampanya ni Joe Biden noong 2024 na inilathala ng Republican National Committee ay ganap na ginawa gamit ang AI.
Sa DeFake Project, Ang aming pananaliksik ay natagpuan na ang mga deepfakes, kabilang ang mga sitwasyon, ay karaniwang nilikha ng ilang halo ng pagdaragdag ng isang piraso ng media sa isa pa; gamit ang isang video upang i-animate ang isang imahe o baguhin ang isa pang video, binansagang puppeteering; pagmumuni-muni ng isang piraso ng media sa pagkakaroon, karaniwang gumagamit generative AI; o ilang kumbinasyon ng mga diskarteng ito.
Upang maging malinaw, maraming mga deepfakes ng sitwasyon ang ginawa para sa mga inosenteng layunin. Halimbawa, Infinite Odyssey Magazine gumagawa ng mga pekeng still mula sa mga pelikula na ay hindi kailanman ginawa or hindi kailanman maaaring umiral. Ngunit kahit na ang mga inosenteng deepfake ay nagbibigay ng dahilan para sa paghinto, tulad ng sa kaso ng halos kapani-paniwalang pekeng mga larawan na naglalarawan sa Ang Apollo Moon ay lumapag bilang isang produksyon ng pelikula.
Deepfaking isang halalan
Ngayon ilagay ang iyong sarili sa posisyon ng isang taong sumusubok na impluwensyahan ang paparating na halalan. Ano ang mga posibleng sitwasyon na maaari mong likhain?
Para sa mga panimula, mahalaga kung gusto mong ikiling ang pagboto patungo o malayo sa isang partikular na resulta. Marahil ay ipapakita mo ang isang kandidato na kumikilos nang may kabayanihan sa pamamagitan ng paghila sa isang pedestrian mula sa isang mabilis na sasakyan o, sa kabaligtaran, paggawa ng isang bagay na nakakasakit o kriminal. Mahalaga rin ang format ng sitwasyong deepfake. Sa halip na isang video, maaaring ito ay isang larawan, marahil ay may malabo at mga anggulo na gayahin ang isang smartphone camera o ang pekeng logo ng isang ahensya ng balita.
Ang iyong target na madla ay magiging susi. Sa halip na tunguhin ang pangkalahatang electorate o base ng isang partido, maaari mong i-target ang mga conspiracy theorist sa mga pangunahing distrito ng pagboto. Maaari mong ilarawan ang kandidato o ang kanilang mga miyembro ng pamilya bilang nakikibahagi sa a ritwal ng sataniko, nakikilahok sa isang pagdiriwang sa eksklusibo at kontrobersyal Bohemian Grove, o pagkakaroon ng lihim na pagpupulong sa isang extraterrestrial.
Kung ikaw ay may ambisyon at kakayahan para dito, maaari mo ring subukang i-deepfake ang mismong halalan. Noong Hunyo 2023, ang mga istasyon ng telebisyon at radyo ng Russia ay na-hack at mag-broadcast ng buong utos ng pagpapakilos sa pamamagitan ng isang deepfake ni Russian President Vladimir Putin. Bagama't ito ay magiging mas mahirap gawin sa isang halalan sa US, sa prinsipyo ang anumang outlet ng balita ay maaaring ma-hack upang mag-broadcast ng mga deepfakes ng kanilang mga anchor na nag-aanunsyo ng mga maling resulta o isang kandidatong pumayag.
Pagtatanggol sa katotohanan
Mayroong iba't ibang mga teknolohikal at sikolohikal na paraan upang makita at ipagtanggol laban sa mga deepfakes ng sitwasyon.
Sa larangan ng teknolohiya, lahat ng deepfakes ay naglalaman ng ilang katibayan ng kanilang tunay na kalikasan. Ang ilan sa mga ito ay makikita sa pamamagitan ng mata ng tao - tulad ng sobrang makinis na balat o kakaibang liwanag o arkitektura - habang ang iba ay maaaring makikita lamang ng isang deepfake-hunting AI.
Nagtatayo kami DeFakeang detector ni upang gamitin ang AI upang mahuli ang mga palatandaan ng deepfakes, at nagsusumikap kaming subukang maihanda ito sa oras para sa halalan sa 2024. Ngunit kahit na ang isang sapat na makapangyarihang deepfake detector tulad ng sa amin ay hindi mai-deploy sa Araw ng Halalan, may mga sikolohikal na tool na magagamit mo, ang botante, upang matukoy ang mga deepfake: background na kaalaman, kuryusidad at malusog na pag-aalinlangan.
Kung makatagpo ka ng nilalaman ng media tungkol sa isang tao, lugar o kaganapan na tila hindi karaniwan, magtiwala sa iyong kaalaman sa background. Halimbawa, sa a kamakailang panloloko ng isang sunog sa Pentagon, ang ipinapakitang gusali ay mukhang mas parisukat kaysa pentagonal, na maaaring isang giveaway.
Gayunpaman, subukang huwag umasa nang buo sa iyong kaalaman sa background, na maaaring mali o tagpi-tagpi. Huwag matakot na matuto nang higit pa mula sa mga mapagkakatiwalaang mapagkukunan, tulad ng mga ulat ng balitang nasuri sa katotohanan, mga artikulong akademiko na sinuri ng mga kasamahan o mga panayam sa mga ekspertong kredensyal.
Bukod pa rito, magkaroon ng kamalayan na ang mga deepfakes ay maaaring gamitin upang samantalahin kung ano ka hilig maniwala tungkol sa isang tao, lugar o pangyayari. Isa sa mga pinakamahusay na paraan upang harapin ito ay ang simple magkaroon ng kamalayan sa iyong mga bias at maging medyo maingat tungkol sa anumang nilalaman ng media na tila nagpapatunay sa kanila.
Kahit na maging posible na lumikha ng perpektong sitwasyon na deepfakes, kung gaano kapani-paniwala ang kanilang paksa, ay malamang na manatiling sakong nila Achilles. Kaya, mayroon ka man o walang teknolohikal na solusyon, mayroon ka pa ring kapangyarihan na ipagtanggol ang halalan mula sa impluwensya ng mga pekeng kaganapan.
Tungkol sa Ang May-akda
Christopher Schwartz, Postdoctoral Research Associate ng Computing Security, Rochester Institute of Technology
Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.
Mga Kaugnay na Libro:
On Tyranny: Twenty Lessons from the Twentieth Century
ni Timothy Snyder
Ang aklat na ito ay nag-aalok ng mga aral mula sa kasaysayan para sa pagpapanatili at pagtatanggol sa demokrasya, kabilang ang kahalagahan ng mga institusyon, ang papel ng mga indibidwal na mamamayan, at ang mga panganib ng authoritarianism.
I-click para sa karagdagang impormasyon o para mag-order
Ang Oras Natin Ngayon: Lakas, Pakay, at Pakikipaglaban para sa isang Makatarungang Amerika
ni Stacey Abrams
Ang may-akda, isang politiko at aktibista, ay nagbabahagi ng kanyang pananaw para sa isang mas inklusibo at makatarungang demokrasya at nag-aalok ng mga praktikal na estratehiya para sa pakikipag-ugnayan sa pulitika at pagpapakilos ng mga botante.
I-click para sa karagdagang impormasyon o para mag-order
Paano Namatay ang Demokrasya
nina Steven Levitsky at Daniel Ziblatt
Sinusuri ng aklat na ito ang mga babalang palatandaan at sanhi ng pagkasira ng demokrasya, na kumukuha ng mga pag-aaral ng kaso mula sa buong mundo upang mag-alok ng mga insight sa kung paano pangalagaan ang demokrasya.
I-click para sa karagdagang impormasyon o para mag-order
Ang Mga Tao, Hindi: Isang Maikling Kasaysayan ng Anti-Populismo
ni Thomas Frank
Ang may-akda ay nag-aalok ng isang kasaysayan ng mga populist na kilusan sa Estados Unidos at pinupuna ang "anti-populist" na ideolohiya na sinasabi niyang pumipigil sa demokratikong reporma at pag-unlad.
I-click para sa karagdagang impormasyon o para mag-order
Demokrasya sa Isang Aklat o Mas Kaunti: Paano Ito Gumagana, Bakit Hindi Ito Nagagawa, at Bakit Mas Madali Ang Pag-aayos Dito kaysa Inaakala Mo
ni David Litt
Nag-aalok ang aklat na ito ng pangkalahatang-ideya ng demokrasya, kabilang ang mga kalakasan at kahinaan nito, at nagmumungkahi ng mga reporma upang gawing mas tumutugon at may pananagutan ang sistema.
