Ang mga pribadong kumpanya ay pinoprotektahan ang online na poot na walang independiyenteng pangangasiwa o regulasyon, na may malubhang implikasyon at nagdudulot ng mga panganib para sa mga pangunahing karapatang pantao at kalayaan. (Shutterstock)

Ang torch-lit march ng armadong white supremacists kamakailan sa Charlottesville, Va., Ay patuloy na nagpapalabas ng debate tungkol sa kung paano dapat kontrolin ang mga grupo ng poot. Sa gitna ng lumalaking pampublikong presyon ng pagsunod sa martsa, ang mga kompanya ng internet ay nagmadali upang alisin mula sa kanilang mga platform na mga website na nagpapatuloy ng marahas na mapoot na pananalita.

GoDaddy Tinapos ang mga serbisyo ng domain nito sa website ng neo-Nazi Ang Daily Stormer, tulad ng ginawa Google. Cloudflare, isang kumpanya na pinoprotektahan ang mga website mula sa mga online na atake, din pinagbawalan ang website ng poot mula sa platform nito. Iniutos ng Russia na barred ang site mula sa pag-host sa bansa.

Aking pananaliksik at ang aking aklat Chokepoints: Global Private Regulation sa Internet nagpapakita na maraming mga kompanya ng internet ang nag-aalis ng mga nilalaman at mga gumagamit ng pagbabawal "kusang-loob" - samakatuwid nga, sa kawalan ng batas o anumang mga proseso ng panghukuman. Ang mga pangunahing tagapamagitan kabilang ang Google, PayPal, GoDaddy, Twitter at Facebook boluntaryong pulisya ang kanilang mga platform para sa nilalaman ng pang-aabuso ng bata sa sekswalidad, pagkasobra at ang ipinagbabawal na kalakalan sa mga pekeng kalakal.

Maraming tao ang nauunawaan ang mga pagsisikap na ito upang maipahayag ang mapoot na pananalita at iba pang hindi kanais-nais na nilalaman. Gayunpaman, ang mga pagsisikap ng mga kompanya ng internet bilang de facto regulators ng pagsasalita ay nagpapalabas ng mga malubhang katanungan: Paano dapat regulated ang nilalaman ng online? Sa pamamagitan ng kanino?

Hindi ko sinusuportahan ang puting supremacists at hindi ako arguing laban sa ilang policing ng naturang pagsasalita. Sa halip, sinasabi ko na kailangan nating isaalang-alang nang sineseryoso kung paano kontrolin ang online na nilalaman bilang ang kasunod na kaso ay maaaring hindi malinaw.

Mayroong mahahalagang problema sa pag-asa sa mga makapangyarihang kumpanya sa pulisya sa internet dahil ang kanilang mga gawi sa pagpapatupad ay tindi ng labis na kalokohan at madaling kapitan sa di-makatwirang interpretasyon.

Nakakagambala na precedent

Sa isang malinaw na kaibahan sa pagpalakpak ng mga kompanya ng internet para sa kanilang pampublikong pagsalungat sa Daily Stormer, ang CEO ng Cloudflare na si Matthew Prince ay nag-aalok ng isang nuanced, maingat na pananaw, na babala na ang pag-withdraw ng mga serbisyo mula sa mga grupo ng poot bilang tugon sa pampublikong presyon ay nagtatakda ng isang nakababagabag na precedent sa policing online speech .

Sa isang blog post na nagpapaliwanag ng mga aksyon ng Cloudflare laban sa Pang-araw-araw na Stormer, sinabi ni Prince na ang kumpanya ay isinasaalang-alang ang angkop na proseso ng isang "mas mahalagang prinsipyo" kaysa sa kalayaan sa pagsasalita. Ang angkop na proseso, sinabi niya, ay nangangahulugang "dapat mong malaman ang mga patakaran na susundin ng isang sistema kung lumahok ka sa sistemang iyon." Ang pahayag na ito ay angkop na nakukuha ang mga likas na problema sa mga tagapamagitan na nagtatrabaho bilang de facto regulators ng nilalaman at online na pag-uugali.

Mas maaga sa taong ito, Mga empleyado ng Shopify at daan-daang libo-libo ng mga tao urged and petisyon ang online commerce platform upang ihinto ang pagho-host ng malayong tindahan ng internet sa Breitbart Media. Napatitibay na ehekutibong chairman Stephen Bannon tawag Breitbart "ang plataporma para sa alt-kanan." Ang tinaguriang "alt-right" - isang terminong binabanggit sa pamamagitan ng Richard Bertrand Spencer - sumasaklaw sa isang halo ng puting supremacist, separatist, neo-Nazi, pasista, rasista, anti-Semitiko, Islamophobic at populist konserbatibo ideolohiya.

Ang CEO ng Shopify na si Tobias Lütke ay nagsabing siya ay nagtatanggol sa malayang pananalita habang patuloy ang kumpanya ng Ottawa upang i-host ang online na tindahan ng Breitbart sa ilalim ng pagbabanta ng mga empleyado na nagbitiw. Pagkatapos ng publiko presyon at isang katutubo na kampanya na tinawag #DeleteShopify na humantong sa masusing pagsusuri na nagsiwalat pa kaduda-dudang negosyo, Ang Shopify ay pinilit upang magpatibay ng isang "Katanggap-tanggap na patakaran sa paggamit."

Ang magkakaibang mga halimbawa ng The Daily Stormer at ang pagtanggal nito sa pamamagitan ng mga kompanya ng internet, at matatag na suporta ng Shopify para sa Breitbart, ay nagpapakita ng labis na suliranin ng isang suliranin na nangangako lamang na lumakas.

Mga arbitrary na patakaran, regulasyon

Ang mga intermediary sa internet ay may potensyal na maging malakas na regulators sa iba't ibang uri ng mga isyu dahil maaari silang kumilos nang matulin at walang mga order sa hukuman. Mahalaga, mayroon silang latitude upang magsuri ng anumang nilalaman o mga gumagamit ng pagbabawal sa ilalim ng kanilang kasunduan sa mga tuntunin-ng-serbisyo.

Inilalaan ng PayPal ang karapatang wakasan ang mga serbisyo nito sa mga gumagamit "para sa anumang kadahilanan at anumang oras, "Na wika na sinasalaysay sa mga kasunduan sa serbisyo ng karamihan sa mga tagapamagitan. Kaya't ang kapasidad para sa arbitrary na regulasyon ay inihurnong mga panloob na panuntunan ng mga tagapamagitan.

Inalalala ni Prince na ang pagkilos ng Cloudflare laban sa Araw-araw na Stormer ay nagtakda ng isang alinsunuran para sa mga tagapamagitan sa pagsasalita ng pulisya nang walang mga order ng hukuman na nangangailangan na gawin ito.

Ang mga tagapamagitan na ito ay madalas na kumilos ayon sa utos ng mga pamahalaan na ginusto ang mga kumpanya na maging publiko (ngunit higit sa lahat hindi maitatapat) na mukha ng internet regulasyon. Subalit ang mga kumpanya ay karaniwang walang kakayahang makilala ang legalidad mula sa hindi legal, na nagdudulot ng mga mali at takot na pagta-target sa legal na pag-uugali.

Pare-parehong problemang: Ang mga proseso ng pagpapatupad ng mga tagapamagitan ay madalas na maliwanag dahil ang kanilang mga tagapamahala ng nilalaman ay nagkataong nagpapahiwatig ng kanilang mga kumplikado, mabilis na pagbabago ng panloob na mga panuntunan. Ang mga problemang ito ay pinagsama sa pamamagitan ng lumalaking paggamit ng mga tool ng automated upang makilala at alisin ang problemang nilalaman sa kanilang mga platform.

Mayroon ding pag-aalala ng tinaguriang misyon sa misyon kapag ang mga patakaran ay unang pinagtibay laban sa pang-aabuso sa bata o terorismo - kapansin-pansin na mga catalyst para sa pagpapatupad ng pagkilos - ay inilalapat sa ibang pagkakataon sa iba pang mga hindi gaanong mapanganib na mga isyu, tulad ng di-awtorisadong pag-download ng naka-copyright na nilalaman.

Dystopian hinaharap ay dito

Ang mga pagsisikap ng regulasyon ay karaniwang lumalawak mula sa paghawak ng marahas na poot na pagsasalita sa ibang salita na maaaring ituring na kontrobersyal ng ilan, tulad ng Black Lives Matter. Gayundin, ang mga pamahalaan sa buong mundo ay madalas na nagpipilit ng mga intermediary censor at track mga kritiko at mga kalaban sa pulitika.

Kapag ang mga pangunahing tagapamagitan ay pumunta-sa mga regulator na responsable para sa policing nilalaman sa ngalan ng mga pamahalaan o bilang tugon sa mga high-profile na protesta, ang kanilang mga kakaunti na pagtaas ng kapangyarihan. Ang mga kompanya ng internet na nakabatay sa US ay namamahala sa maraming industriya ng industriya, kabilang ang paghahanap, advertising, pagpaparehistro ng domain, pagbabayad at social media. Maayos ang Prince Cloudflare binalaan na sa pamamagitan ng depende sa isang "ilang higanteng network," ang isang "maliit na bilang ng mga kumpanya ay higit na matukoy kung ano ang maaari at hindi maaaring online."

Ang dystopian hinaharap na ito ay narito na.

Ang takedown ng Daily Stormer ay walang alinlangan na ginagawang mas mahusay ang mundo. Ngunit talagang gusto namin ang mga kumpanya tulad ng Facebook at Twitter na magpasya - malaya, arbitraryo at lihim - kung anong nilalaman ang maaari naming ma-access at maibahagi?

Dahil sa mga tila nakikita nating mga problema, ano ang magagawa natin? Una, dapat nating iwasan ang pamamahala batay sa mga protesta o presyur sa media. Sa halip, kailangan namin ng isang malinaw na hanay ng mga alituntunin upang paganahin ang mga tagapamagitan upang tuloy-tuloy na tumugon, halatang at may paggalang sa angkop na proseso, gaya ng inirekomenda ng Prinsipe.

Dapat linawin ng mga pamahalaan ang likas na katangian ng at, mahalaga, ang mga limitasyon ng mga responsibilidad ng mga tagapamagitan. Sa wakas, dapat nating ihinto ang namamahala bilang tugon sa mga partikular na krisis - ang tinatawag na "pekeng balita," mga grupo ng terorismo at poot - at sa halip ay isipin kung ano ang aming makakaya at dapat namamahala sa internet.

Tungkol sa Ang May-akda

Natasha Tusikov, Assistant Professor, Criminology, Department of Social Science, York University, Canada

Ang artikulong ito ay muling nai-publish mula sa Ang pag-uusap sa ilalim ng lisensya ng Creative Commons. Basahin ang ang orihinal na artikulo.

Mga Kaugnay Books

at InnerSelf Market at Amazon