malalim na pekeng naghahasik ng pagdududa 4 14
 Malawakang magagamit ang teknolohiya na maaaring makagawa ng mga deepfakes. (Shutterstock)

Noong unang bahagi ng Marso, a manipulated video ng Ukrainian President Volodymyr Zelenskyy ay circulated. Sa loob nito, isang digitally generated na Zelenskyy ang nagsabi sa Ukrainian national army na sumuko. Ang video ay na-circulate online ngunit mabilis na na-debunk bilang isang deepfake — isang hyper-realistic ngunit peke at manipuladong video na ginawa gamit ang artificial intelligence.

Bagama't tila may limitadong epekto ang disinformation ng Russia, ang nakababahala na halimbawang ito ay naglalarawan ng mga potensyal na kahihinatnan ng mga deepfakes.

Gayunpaman, matagumpay na ginagamit ang mga deepfakes sa teknolohiyang pantulong. Halimbawa, Ang mga taong dumaranas ng sakit na Parkinson ay maaaring gumamit ng voice cloning upang makipag-usap.

Ginagamit ang mga Deepfakes sa edukasyon: Ang kumpanya ng speech synthesis na nakabase sa Ireland na CereProc ay lumikha ng isang sintetikong boses para kay John F. Kennedy, binubuhay siyang muli upang ihatid ang kanyang makasaysayang talumpati.

innerself subscribe graphic

Ngunit ang bawat barya ay may dalawang panig. Ang mga deepfakes ay maaaring maging hyper-realistic, at karaniwang hindi nakikita ng mga mata ng tao.

Samakatuwid, ang parehong teknolohiya ng voice-cloning ay maaaring gamitin para sa phishing, paninirang-puri at pamba-blackmail. Kapag ang mga deepfakes ay sadyang itinalaga upang muling hubugin ang opinyon ng publiko, mag-udyok ng mga kaguluhan sa lipunan at manipulahin ang mga halalan, mayroon silang potensyal na pahinain ang demokrasya.

Ang mga mananaliksik sa Unibersidad ng Washington ay gumawa ng isang deepfake ni Barack Obama.

Nagdudulot ng kaguluhan

Ang mga Deepfakes ay batay sa teknolohiyang kilala bilang nakakabunga na mga network ng mga adversarial kung saan sinasanay ng dalawang algorithm ang isa't isa upang makagawa ng mga imahe.

Bagama't ang teknolohiya sa likod ng malalim na mga pekeng maaaring mukhang kumplikado, ito ay isang simpleng bagay na gumawa ng isa. Mayroong maraming mga online na aplikasyon tulad ng Mukha at ZAO Deepswap na maaaring makagawa ng mga deepfake sa loob ng ilang minuto.

Google Colaboratory — isang online na repository para sa code sa ilang programming language — ay may kasamang mga halimbawa ng code na iyon ay maaaring gamitin upang makabuo ng mga pekeng larawan at video. Gamit ang software na ito naa-access, madaling makita kung paano maaaring gumawa ng kalituhan ang karaniwang mga user gamit ang mga deepfakes nang hindi nalalaman ang mga potensyal na panganib sa seguridad.

Ang kasikatan ng mga face-swapping na app at online na serbisyo tulad ng Malalim na Nostalgia ipakita kung gaano kabilis at malawak ang mga deepfakes na maaaring gamitin ng pangkalahatang publiko. Sa 2019, humigit-kumulang 15,000 video gamit ang deepfakes ang natukoy. At ang bilang na ito ay inaasahang tataas.

Ang mga Deepfakes ay ang perpektong tool para sa mga kampanya ng disinformation dahil gumagawa sila ng mapagkakatiwalaang pekeng balita na nangangailangan ng oras upang ma-debunk. Samantala, ang mga pinsalang dulot ng deepfakes — lalo na ang mga nakakaapekto sa reputasyon ng mga tao — ay kadalasang nagtatagal at hindi na mababawi.

Ang nakikita ba ay naniniwala?

Marahil ang pinaka-mapanganib na epekto ng mga deepfakes ay kung paano nila ipinahihiram ang kanilang mga sarili sa disinformation sa mga kampanyang pampulitika.

Nakita namin ito nang italaga ni Donald Trump ang anumang hindi nakakaakit na coverage ng media bilang "pekeng balita.” Sa pamamagitan ng pag-akusa sa kanyang mga kritiko ng pagpapakalat ng pekeng balita, nagawa ni Trump na gumamit ng maling impormasyon sa pagtatanggol sa kanyang mga maling gawain at bilang isang tool sa propaganda.

Ang diskarte ni Trump ay nagpapahintulot sa kanya na mapanatili ang suporta sa isang kapaligiran na puno ng kawalan ng tiwala at kawalan ng impormasyon sa pamamagitan ng pag-claim na “na ang mga totoong pangyayari at kwento ay fake news o deepfakes. "

Ang kredibilidad sa mga awtoridad at media ay sinisira, na lumilikha ng klima ng kawalan ng tiwala. At sa tumataas na paglaganap ng mga deepfakes, madaling tanggihan ng mga pulitiko ang kasalanan sa anumang mga umuusbong na iskandalo. Paano makumpirma ang pagkakakilanlan ng isang tao sa isang video kung itatanggi nila ito?

Ang paglaban sa disinformation, gayunpaman, ay palaging isang hamon para sa mga demokrasya habang sinusubukan nilang itaguyod ang kalayaan sa pagsasalita. Makakatulong ang pakikipagsosyo ng Human-AI na harapin ang tumataas na panganib ng mga deepfakes sa pamamagitan ng pagpapatunay ng impormasyon sa mga tao. Ang pagpapakilala ng bagong batas o paglalapat ng mga umiiral nang batas para parusahan ang mga producer ng deepfakes para sa palsipikasyon ng impormasyon at pagpapanggap bilang mga tao ay maaari ding isaalang-alang.

Ang mga multidisciplinary approach ng mga internasyonal at pambansang pamahalaan, pribadong kumpanya at iba pang organisasyon ay lahat ay mahalaga upang maprotektahan ang mga demokratikong lipunan mula sa maling impormasyon.Ang pag-uusap

Tungkol sa Ang May-akda

Sze-Fung Lee, Research Assistant, Department of Information Studies, McGill University at Benjamin CM Fung, Propesor at Tagapangulo ng Pananaliksik ng Canada sa Data Mining para sa Cybersecurity, McGill University

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.