Paano Naghahanda ang mga Mananaliksik Para sa Darating na Wave ng Deepfake Propaganda

Paano Naghahanda ang mga Mananaliksik Para sa Darating na Wave ng Deepfake Propaganda
Ang mga detektor na pinalakas ng AI ay ang pinakamahusay na mga tool para sa pagtuklas ng mga pekeng video na nilikha ng AI.
Ang Washington Post sa pamamagitan ng Getty Images

Ang isang investigative journalist ay nakatanggap ng isang video mula sa isang hindi nagpapakilalang whistleblower. Ipinapakita nito ang isang kandidato para sa pangulo na umamin sa iligal na aktibidad. Ngunit totoo ba ang video na ito? Kung gayon, ito ay magiging napakalaking balita - ang scoop ng isang buhay - at maaaring ganap na lumiko sa darating na halalan. Ngunit pinamamahalaan ng mamamahayag ang video sa pamamagitan ng isang dalubhasang tool, na nagsasabi sa kanya na ang video ay hindi kung ano ang tila. Sa katunayan, ito ay isang “malalim, ”Isang video na ginawa gamit ang artipisyal na katalinuhan kasama ang malalim na pag-aaral.

Ang mga mamamahayag sa buong mundo ay maaaring madaling magamit ang isang tool tulad nito. Sa loob ng ilang taon, ang isang tool na tulad nito ay maaaring magamit ng lahat upang mag-ugat ng pekeng nilalaman sa kanilang mga feed sa social media.

As mananaliksik na nag-aaral ng deepfake detection at pagbuo ng isang tool para sa mga mamamahayag, nakikita namin ang isang hinaharap para sa mga tool na ito. Hindi nila malulutas ang lahat ng aming mga problema, bagaman, at sila ay magiging isang bahagi lamang ng arsenal sa mas malawak na paglaban sa disinformation.

Ang problema sa deepfakes

Alam ng karamihan sa mga tao na hindi ka makapaniwala sa lahat ng iyong nakikita. Sa huling ilang dekada, ang mga savvy news consumer ay nasanay na sa nakikita ang mga imaheng minamanipula ng software sa pag-edit ng larawan. Ang mga video, bagaman, ay isa pang kuwento. Ang mga director ng Hollywood ay maaaring gumastos ng milyun-milyong dolyar sa mga espesyal na epekto upang makabuo ng isang makatotohanang eksena. Ngunit ang paggamit ng mga deepfake, amateur na may ilang libong dolyar na kagamitan sa computer at ilang linggo na gugugulin ay maaaring gumawa ng isang bagay na halos totoo sa buhay.

Ginagawang posible ng mga deepfake na ilagay ang mga tao sa mga eksena sa pelikula na hindi nila kailanman napuntahan - isipin si Tom Cruise na naglalaro ng Iron Man - na gumagawa para sa nakakaaliw na mga video. Sa kasamaang palad, ginagawang posible ring lumikha pornograpiya nang walang pahintulot ng mga taong nakalarawan. Sa ngayon, ang mga taong iyon, halos lahat ng mga kababaihan, ang pinakamalaking biktima kapag ang deepfake na teknolohiya ay maling ginamit.

Maaari ding gamitin ang mga deepfake upang lumikha ng mga video ng mga pinuno ng politika na nagsasabi ng mga bagay na hindi nila sinabi. Ang Belgian Socialist Party ay naglabas ng isang mababang kalidad na nondeepfake ngunit pa rin nakakatawang video ng Ininsulto ni Pangulong Trump ang Belgian, na nakuha ng sapat na reaksyon upang maipakita ang mga potensyal na peligro ng mga malalim na kalidad na deepfake.


Ang Unibersidad ng California, ipinaliwanag ni Berkeley's Hany Farid kung paano ginawa ang mga deepfakes.

Kunin ang Pinakabagong Mula sa InnerSelf


Marahil nakakatakot sa lahat, maaari silang magamit upang lumikha pagdudahan tungkol sa nilalaman ng totoong mga video, sa pamamagitan ng pagmumungkahi na maaari silang maging mga deepfake.

Dahil sa mga panganib na ito, magiging napakahalaga upang makita ang mga deepfake at malinaw na lagyan ng label ang mga ito. Titiyakin nito na ang mga pekeng video ay hindi lokohin ang publiko, at ang mga totoong video ay maaaring matanggap bilang tunay.

Mga pahiwatig na pahiwatig

Ang pagtuklas ng deepfake bilang isang larangan ng pagsasaliksik ay nagsimula nang kaunti tatlong taon na ang nakalipas. Ang maagang gawain ay nakatuon sa pagtuklas ng mga nakikitang problema sa mga video, tulad ng deepfakes na hindi kumurap. Gayunpaman, sa oras, ang ang mga pekeng naging mas mahusay sa paggaya ng totoong mga video at maging mahirap na makita para sa parehong mga tao at mga tool sa pagtuklas.

Mayroong dalawang pangunahing mga kategorya ng pagsasaliksik sa pagtuklas ng deepfake. Ang una ay nagsasangkot pagtingin sa pag-uugali ng mga tao sa mga video. Ipagpalagay na mayroon kang maraming video ng isang sikat, tulad ni Pangulong Obama. Maaaring gamitin ng artipisyal na katalinuhan ang video na ito upang malaman ang kanyang mga pattern, mula sa kilos ng kanyang kamay hanggang sa kanyang pag-pause sa pagsasalita. Maaari na pagkatapos panoorin ang isang deepfake sa kanya at pansinin kung saan hindi ito tumutugma sa mga pattern na iyon. Ang diskarte na ito ay may kalamangan ng posibleng pagtatrabaho kahit na ang kalidad ng video mismo ay mahalagang perpekto.


Inilalarawan ni Aaron Lawson ng SRI International ang isang diskarte sa pagtuklas ng mga deepfakes.

Iba pang mga mananaliksik, kasama na ang aming koponan, ay nakatuon sa pagkakaiba na lahat ng deepfakes meron kumpara sa totoong mga video. Ang mga deepfake na video ay madalas na nilikha sa pamamagitan ng pagsasama ng mga indibidwal na nabuong frame upang mabuo ang mga video. Isinasaalang-alang iyon, kinukuha ng mga pamamaraan ng aming koponan ang mahahalagang data mula sa mga mukha sa mga indibidwal na mga frame ng isang video at pagkatapos ay subaybayan ang mga ito sa pamamagitan ng mga hanay ng mga kasabay na mga frame. Pinapayagan kaming makita ang mga hindi pagkakapare-pareho sa daloy ng impormasyon mula sa isang frame papunta sa isa pa. Gumagamit kami ng isang katulad na diskarte para sa aming pekeng audio system ng pagtuklas din.

Ang mga mahiwagang detalye na ito ay mahirap makita ng mga tao, ngunit ipakita kung gaano ang mga deepfake na hindi masyadong perpekto pa. Ang mga detektor na tulad nito ay maaaring gumana para sa sinumang tao, hindi lamang sa ilang mga namumuno sa mundo. Sa huli, maaaring kailanganin ang parehong uri ng mga detektor ng deepfake.

Ang mga kamakailang sistema ng pagtuklas ay mahusay na gumaganap sa mga video na partikular na natipon para sa pagsusuri ng mga tool. Sa kasamaang palad, kahit na ang pinakamahusay na mga modelo gawin hindi maganda sa mga video na nahanap online. Ang pagpapabuti ng mga tool na ito upang maging mas matatag at kapaki-pakinabang ang susi sa susunod na hakbang.

Sino ang dapat gumamit ng mga detektor ng deepfake?

Sa isip, ang isang tool sa pag-verify ng deepfake ay dapat na magagamit sa lahat. Gayunpaman, ang teknolohiyang ito ay nasa maagang yugto ng pag-unlad. Kailangang pagbutihin ng mga mananaliksik ang mga tool at protektahan ang mga ito laban sa mga hacker bago palabasin ang mga ito nang malawakan.

Gayunpaman, sa parehong oras, ang mga tool upang gumawa ng mga deepfake ay magagamit sa sinumang nais na lokohin ang publiko. Ang pag-upo sa sidelines ay hindi isang pagpipilian. Para sa aming koponan, ang tamang balanse ay upang makipagtulungan sa mga mamamahayag, sapagkat sila ang unang linya ng depensa laban sa pagkalat ng maling impormasyon.

Bago mag-publish ng mga kwento, kailangang i-verify ng mga mamamahayag ang impormasyon. Mayroon na silang mga sinusubukan at totoong pamamaraan, tulad ng pag-check sa mga mapagkukunan at pagkuha ng higit sa isang tao upang mapatunayan ang mga pangunahing katotohanan. Kaya sa pamamagitan ng paglalagay ng tool sa kanilang mga kamay, binibigyan namin sila ng karagdagang impormasyon, at alam namin na hindi sila umaasa sa teknolohiya lamang, dahil maaari itong magkamali.

Maaari bang manalo ang mga detektor sa karera ng armas?

Nakasisigla na makita ang mga koponan mula sa Facebook at microsoft pamumuhunan sa teknolohiya upang maunawaan at makita ang mga deepfake. Ang larangan na ito ay nangangailangan ng mas maraming pananaliksik upang makasabay sa bilis ng mga pagsulong sa deepfake na teknolohiya.

Ang mga mamamahayag at ang mga platform ng social media ay kailangang alamin kung paano pinakamahusay na babalaan ang mga tao tungkol sa mga deepfake kapag nakita sila. Ipinakita iyon ng pananaliksik naaalala ng mga tao ang kasinungalingan, ngunit hindi ang katotohanan na ito ay isang kasinungalingan. Magiging totoo rin ang pareho sa mga pekeng video? Ang paglalagay lamang ng "Deepfake" sa pamagat ay maaaring hindi sapat upang kontrahin ang ilang uri ng disinformation.

Narito ang mga deepfakes upang manatili. Ang pamamahala ng disinformation at pagprotekta sa publiko ay magiging mas mahirap kaysa kailanman habang ang artipisyal na intelihensiya ay nagiging mas malakas. Bahagi kami ng isang lumalaking pamayanan ng pananaliksik na kumukuha ng banta na ito, kung saan ang pagtuklas ay ang unang hakbang lamang.Ang pag-uusap

Tungkol sa May-akda

John Sohrawardi, Mag-aaral ng Doctoral sa Computing at Informational Science, Rochester Institute of Technology at Matthew Wright, Propesor ng Seguridad sa Computing, Rochester Institute of Technology

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang orihinal artikulo.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

sundin ang InnerSelf sa

facebook-icontwitter-iconrss-icon

Kumuha ng Pinakabagong Sa pamamagitan ng Email

{Emailcloak = off}

MULA SA EDITOR

InnerSelf Newsletter: Oktubre 25, 2020
by InnerSelf staff
Ang "slogan" o sub-pamagat para sa website ng InnerSelf ay "Mga Bagong Saloobin --- Bagong Mga Posibilidad", at iyon mismo ang tema ng newsletter ngayong linggo. Ang layunin ng aming mga artikulo at may-akda ay upang ...
InnerSelf Newsletter: Oktubre 18, 2020
by InnerSelf staff
Sa mga araw na ito ay naninirahan tayo sa mga mini-bubble ... sa ating sariling mga tahanan, sa trabaho, at sa publiko, at posibleng sa ating sariling isipan at ng ating sariling mga emosyon. Gayunpaman, naninirahan sa isang bubble, o pakiramdam na katulad namin…
InnerSelf Newsletter: Oktubre 11, 2020
by InnerSelf staff
Ang buhay ay isang paglalakbay at, tulad ng karamihan sa mga paglalakbay, kasama ang mga tagumpay at kabiguan. At tulad ng araw na laging sumusunod sa gabi, sa gayon ang aming personal na pang-araw-araw na karanasan ay magmula sa madilim hanggang sa ilaw, at pabalik-balik. Gayunpaman,…
InnerSelf Newsletter: Oktubre 4, 2020
by InnerSelf staff
Anuman ang pinagdadaanan natin, kapwa indibidwal at sama-sama, dapat nating tandaan na hindi tayo biktima ng walang magawa. Maaari nating makuha muli ang ating kapangyarihang pagalingin ang ating buhay, espiritwal at emosyonal, pati na rin…
InnerSelf Newsletter: Setyembre 27, 2020
by InnerSelf staff
Ang isa sa malaking lakas ng sangkatauhan ay ang aming kakayahang maging kakayahang umangkop, maging malikhain, at mag-isip sa labas ng kahon. Upang maging isang taong iba kaysa sa kahapon o noong nakaraang araw. Maaari nating baguhin ...…