Facebook politika; cenzura, osvetnička pornografija i aktivizam

Krajem maja Guardian je objavio Facebook datoteke, interne dokumente koji su procurili i otkrili na koji način kompanija moderira sadržaj. Mnogi od nas već dugo traže transparentnost vezanu za moderiranje sadržaja od strane Facebook-a, kako bi mogli bolje razumjeti nasilje na temelju spola koje se dešava na platformi, te dati povratne informacije. Iako je Facebook napravio određena poboljšanja, ovi dokumenti potvrđuju da je to često jedan korak naprijed, jedan korak unazad, obzirom da platforma nastavlja cenzurisati isticanje ženske samostalnosti, posebno kod žena druge boje, a naročito u vezi sa aktivizmom, dok istovremeno dozvoljava da se uznemiravanje nastavi.

 

Nasilje na temelju spola

Ljudi koji se suočavaju s online nasiljem kontaktiraju mnoge od nas za pomoć, a prema njihovim izvještajima, Facebook i Facebook Messenger su uglavnom platforme na kojima se kršenja najviše događaju. Pojedinosti o moderiranju sadržaja na Facebook-u precizno potvrđuju koje žene – bez obzira jesu li one heteroseksualne, LGTBQI – ili osobe koje su atipične za svoj spol, govore svoje iskustvo na platformi. Zloupotreba, posebno neovlašteno dijeljenje slika, je zastrašujuće, a izvještaji se često odbacuju s objašnjenjem da zloupotreba nije kršila smjernice Facebook-a, iako su ti procureni dokumenti pokazali da su to bila čista kršenja. Za mnoge korisnike to je jednako kao kada bi neko rekao kako se preživljeno zlostavljanje nije desilo. Iz iskustva znamo da se i osobe koje se bave zaštitom ljudskih prava često ušutkuju od strane Facebook-a i suočavaju s velikim brojem zlostavljanja od strane ostalih korisnika, poput stvaranja lažnih profila koji diskreditiraju ili kleveću, vrše promjenu fotografije radi stvaranja lažnih intimnih slika, šalju govor mržnje, prijetnje i maliciozno objavljuju privatne ili lične informacije.

Facebook-ove politike još uvijek ne odražavaju puno razumijevanje prema iskustvima ljudi koji se suočavaju s nasiljem. Jedno zanimljivo pitanje je korištenje pojma “vjerodostojno nasilje”, slično popularno ismijavanom pojmu “legitimno silovanje”, koje samo po sebi produžava nasilje. Drugi problem je politika da se dozvole objave koje pokazuju nasilje nad maloljetnicima, što doprinosi viktimizaciji mladih i normalizaciji nasilja.

Jasno, ograničena Facebook-ova konsultacija s grupama za prava žena i aktivistima nije bila dovoljno značajna da kreira stvarne promjene. Čini se da saznanja iz ovih interakcija ostaju kod prisutnih predstavnika kompanije, obzirom na kontinuirano iskustvo da jedna ruka kompanije ne razgovara s drugom. Nadalje, ljudi koji oblikuju Facebook-ove funkcije moraju to direktno čuti od korisnika i zagovornika, ali inženjeri nikada nisu u prostoriji. Pitamo se da li Facebook prati efikasnost svojih odgovora na nasilje zasnovano na spolu i druge probleme na web stranici. Oni sigurno ne komuniciraju javno o onome što nauče unatoč velikoj količini informacija koje posjeduju.

 

Jezik i kulturološki kontekst

Mnogi izvještaji su odbijeni zbog neuspjeha Facebook-a da održi korak s trendovima slenga i uznemiravanja, te da podrži sve jezike korisnika i razumije različite kulturne kontekste. Osobe koje govore manjinske jezike mogu se suočiti s većom štetom vezanom za online zlostavljanja jer su njihove prijave odbijene ili jer mehanizam prijavljivanja nije bio na njihovom jeziku. Facebook-ove smjernice za “osvetničku pornografiju” ne odražavaju razumijevanje štete u različitim kontekstima. Kada zahtijevaju da slika uključuje seksualnu aktivnost, čini se da ne razumiju da se definicija takve aktivnosti može razlikovati u različitim zajednicama. Slike koje mogu biti savršeno prihvatljive u jednoj zajednici mogu predstavljati rizik za ženu iz druge zajednice. Platforma ne prepoznaje da ono što je najvažnije jeste da li osoba na slici smatra da je ono postavljeno bez pristanka i da li se suočava s rizikom od zla.

To je područje gdje bi značajan angažman s različitim zainteresovanim stranama mogao napraviti značajnu razliku, no vidimo samo uspjeh na individualnom nivou, a ne na sistemskom nivou, a taj uspjeh zavisi o zagovornicima koji rade s predstavnicima Facebook-a kako bi se riješile pojedinačne prijave korisnika. U stvari, mnogi od nas i naši partneri u različitim dijelovima svijeta mogu direktno kontaktirati kompaniju da radi na pojedinačnom slučaju, ali taj posao nije održiv i ne djeluje na cijeloj platformi. Ne bismo trebali raditi posao umjesto Facebook-a. Oni bi trebali angažovati grupe za zaštitu prava žena u državama u kojim postoji platforma za konsultacije o politikama i protokolima, a koja se bavi sistemskom promjenom, umjesto da se oslanja na te grupe da stavljaju zavoje na slomljeni sistem.

 

Zaštićene kategorije

Uzimajući u obzir intersekcioni pristup prema spolu, postavljamo pitanja o rezonovanju iza Facebook-ovih zaštićenih kategorija vezanih za govor mržnje, koje ne slijedi međunarodni okvir ljudskih prava. Smjernice ne uspijevaju riješiti pitanje kasti, premda ako Facebook pogrešno uključi kaste u “društvenu klasu”, nema zaštite za Dalite. Kompanija tvrdi da je povukla svoju politiku da zabrani objavljivanja koja pohvaljuju ili podržavaju “nasilje da se odupre okupaciji međunarodno priznate države”, ali od korisnika znamo da, na primjer, Facebook-ovi korisnički računi kašmirista koji su postavili fotografije Burhan Wania, još uvijek bivaju suspendovani ili zatvoreni.

Osobe iz bilo koje države su zaštićene kategorije, ali osobe koje migriraju iz jedne države u drugu su samo kvazi-zaštićene. S obzirom na visoku stopu fizičkog i online nasilja nad migrantima, zašto oni nisu u potpunosti zaštićeni? Zato što ih Facebook smatra vrućom temom: “Kao kvazi-zaštićena kategorija, oni neće imati punu zaštitu naše politike protiv govora mržnje jer želimo omogućiti ljudima da imaju široke rasprave o migrantima i imigraciji, što je vruća tema na predstojećim izborima.” Nadalje, zaštićena kategorija u kombinaciji s nezaštićenom kategorijom ukida zaštitu, kao da muslimani koji nisu izbjeglice zaslužuju više zaštite od muslimana koji su izbjeglice. Uznemirujući primjer vodiča pokazuje da crna djeca (rasa + dob) nisu zaštićena, ali da bijeli muškarci (rasa + spol) jesu, što predstavlja primjer više nego zamršenih smjernica. Te politike ignorišu način na koji se višestruke represije presjecaju.

 

Moderatori

Jasno je da Facebook nema dovoljno moderatora, a vjerovatno je i da moderatori koje oni zapošljavaju nemaju dovoljno različite pozadine u pogledu karakteristika kao što su ekonomija, rasa/etnička pripadnost, kasta, religija, jezik i region. Ipak, jednostavno povećanje moderatora ne može prevazići pogrešne politike ili neadekvatnu obuku i upravljanje. Ipak, curenje nije otkrilo ono što smo godinama tražili. Koja je demografija ljudi koji rade na moderaciji sadržaja? Kakvu su vrstu obuke dobili mimo ovih internih smjernica? Koju vrstu podrške dobijaju?

Mi shvatamo da se ljudi, koje Facebook zapošljava radi obavljanja intenzivnog rada na analiziranju nasilnih slika i uvredljivog teksta sa niskim platama, suočavaju sa sekundarnom traumom. Po vlastitom priznanju, ovi moderatori se bore, i smatramo da su greške u Facebook-ovim politikama i protokolima, a ne u samim moderatorima. Kada proizvod stavlja čak i svoje osoblje u rizik, kompanija mora početi da se bavi problemom nasilja na sistemskom nivou. Najzad, procureni dokumenti se odnose samo na ljudsku moderaciji, ali algoritamska moderacija, iako smanjuje teret ljudskih moderatora, pati od istih predrasuda koje informišu gore opisane politike.

 

Medijske lekcije

Čestitamo Guardian-u na njihovom izvještavanju o Facebook moderaciji sadržaja i njihovom pristupu pitanju online uznemiravanja i srodnog nasilja. Nadamo se da će drugi mediji pratiti njihov model u analiziranju i razmjeni podataka o zlostavljanju na svojim platformama, radeći na zaštiti svojih pisaca i pokrivajući ovo pitanje iz perspektive zasnovane na pravima.

 

Zahtjevi

Kao organizacije i pojedinci koji rade na ženskim ljudskim pravima online i offline, zahtjevamo od Facebook-a:

 

  1. Obezbijedite veću transparentnost i odgovornost u vezi sa sljedećim:
  • Implementaciji smjernica za moderaciju sadržaja;
  • Odbacivanju izvještaja o online zlostavljanju i razdvojenim podacima o primljenim izvještajima;
  • Odjeljenjima i osoblju odgovornom za odgovor na žalbe vezane za sadržaj i privatnost.
  1. Obezbijedite dodatnu obuku moderatora koja će se baviti kulturnim i jezičkim barijerama, dinamikom moći i pitanjima kao što su rodna pristrasnost i LGBTQ osjetljivost.
  2. Nađite više poznavaoca jezika koji su trenutno nedovoljno zastupljeni među moderatorima sadržaja.
  3. Poboljšajte mehanizam izvještavanja tako da ispunjava sljedeće kriterije:
  • Legitimitet: mehanizam se smatra pouzdanim i pouzdan je onima koji ga koriste.
  • Pristupačnost: mehanizam se lako locira, koristi i razumije.
  • Predvidljivost: postoji jasan i otvoren postupak sa indikativnim vremenskim okvirima, jasnoća procesa i sredstava praćenja implementacije.
  • Ravnopravnost: pruža dovoljno informacija i savjeta kako bi se pojedincima omogućilo da se uključe u mehanizam na pravičnoj i pouzdanoj osnovi.
  • Transparentnost: pojedinci se redovno informišu o napretku svog slučaja.
  • Poštivanje prava: ishodi i pravni lijekovi su u skladu sa međunarodno priznatim ljudskim pravima.
  • Izvor kontinuiranog učenja: omogućava platformi da iskoristi iskustva kako bi identifikovala poboljšanja mehanizma i spriječila buduće žalbe.
  1. Povećajte raznolikost na svim nivoima osoblja i usvojite principe osnaživanja žena.

 

Potpisnici

Asocijacija za progresivne komunikacije

 

 

 

tina@oneworldplatform.net'

Related Posts

Shares
Share This

Share This

Share this post with your friends!

Shares