Cata vorbire despre sex, violenta si ura pe Facebook?

159

Incidenta continutului obiectabil pe Facebook creste, la fel si capacitatea Facebook de a-l identifica inainte ca utilizatorii sa-l raporteze, potrivit primului raport al companiei privind aplicarea standardelor comunitatii sale.

Raportul, care cuprinde octombrie 2017 pana in martie 2018, a constatat ca prevalenta violentei grafice si a nuditatii si a sexului a crescut in primele trei luni ale acestui an, comparativ cu cele trei luni anterioare. Facebook a spus ca nu poate estima prevalenta postarilor care promoveaza terorismul sau discursul de ura sau care contine spam. Dar a spus ca a luat masuri pentru mai multe continuturi din aceste motive in primul trimestru decat in al patrulea trimestru din 2017; o astfel de actiune poate include eliminarea unei postari, palmuirea unei etichete de avertizare pe ea sau ascunderea continutului de catre utilizatorii minori.

Perioada acoperita de raport coincide cu angajamentul CEO-ului Facebook, Mark Zuckerberg, de a aloca mai multe resurse securitatii si securitatii, o zona in care Facebook spune ca a fost „subinvestit” istoric. Facebook spune ca va actualiza numerele la fiecare sase luni, permitand strainilor sa isi masoare progresul.

In unele cazuri, cum ar fi promovarea terorismului, Facebook spune ca a identificat continut mai obiectiv deoarece sistemele sale automate pentru detectarea unor astfel de posturi s-au imbunatatit. Alex Schultz, vicepresedinte de analiza a datelor, a declarat ca Facebook a aplicat instrumentele la continutul care a fost „de mult timp”. Schultz a spus insa ca incidenta crescuta a postarilor cu violenta grafica reflecta schimbarile din lume. „O ipoteza foarte buna pe care o avem, desi acest lucru nu este sigur, este ceea ce se intampla in Siria. Cand exista un razboi, continutul mai violent este incarcat pe Facebook ”, a spus el.

Facebook spune ca acum este capabil sa semnalizeze mai mult de 95 la suta din postarile care promoveaza terorismul, care contin nuditate si activitate sexuala a adultilor, spam sau conturi false inainte ca utilizatorii sa raporteze astfel de postari; pentru violenta grafica, aceasta cifra este mai mare de 85 la suta.

Dar Facebook spune ca are o cale mai lunga de parcurs atunci cand vine vorba de semnalarea discursului de ura, unde sistemele sale au identificat doar 38 la suta dintre postarile obiectabile inainte de utilizatori. Pentru a ilustra acest punct, Schultz s-a folosit ca exemplu. Schultz spune ca profilul sau de Facebook face evident ca este homosexual. „Daca folosesc cuvantul f, acesta este posibil, dar daca altcineva il foloseste fata de mine, nu este OK”, a spus Schultz. „Dar pentru toata lumea, nu poti spune neaparat [orientarea sexuala], si astfel devine destul de greu.”

In total, Facebook spune ca a luat masuri pentru peste 860 de milioane de continuturi in primul trimestru. Marea majoritate a acestora – 837 de milioane – a implicat spam. Facebook spune ca a dezactivat si 583 milioane de conturi false in primul trimestru, in scadere cu 16 la suta fata de trimestrul precedent. Facebook estimeaza ca intre 3 si 4% din cei 2,2 miliarde de utilizatori activi lunari sunt conturi false.

Raportul de punere in aplicare de marti urmeaza un prim referitor pentru Facebook. In aprilie, compania a dezvaluit pentru prima data ghidurile sale interne pentru ceea ce utilizatorii nu pot posta. In ambele cazuri, dezvaluirile Facebook sunt in mod voluntar si reprezinta un pas important din secretul si confuzia din jurul moderatiei care a afectat utilizatorii Facebook de ani de zile.

Numerele de aplicare subliniaza atat scala fara precedent a provocarilor de moderare Facebook, cat si limitele la nivelul de transparenta pe care consumatorii il pot astepta de la Facebook.

De exemplu, o mare parte din raportul de 86 de pagini diseca metodologia Facebook pentru masurarea prevalentei. Facebook s-a concentrat asupra numarului de ori cand a fost vazuta o bucata de continut obiectabil in comparatie cu continutul total pe care un utilizator l-a vazut. Pentru a determina prevalenta, Schultz a spus: „Incercam sa luam un esantion din tot ceea ce se vede pe Facebook si sa il privim cu recenzii umane, iar acestia eticheteaza: [Aceasta este o incalcare sau nu?” Executivii au spus ca metodologia se poate schimba in rapoartele viitoare.

Cu toate acestea, Facebook a refuzat sa discute unde se bazeaza acesti recenzori sau cum sunt instruiti. Compania spune ca are 10.000 de oameni care lucreaza la aceste probleme si intentioneaza sa ajunga la 20.000 pana la sfarsitul anului 2018; unii dintre acestia vor fi contractori, spune compania.

Raportul vine pe masura ce Facebook se confrunta cu presiuni crescande pentru a explica prevalenta continutului tulburator. Doar in ultimele saptamani, rapoartele de stiri au ridicat probleme legate de esecul Facebook al postarilor politienesti care incita violenta impotriva musulmanilor Rohingya din Myanmar, videoclipuri de recrutare usor cautate pentru grupari teroriste, impersonatorii Mark Zuckerberg care incearca sa-i arunce pe utilizatori din banii lor si postarile unde sunt furate identitatile si numerele de securitate sociala au fost expuse ani de zile.

Guy Rosen, vicepresedinte al managementului produselor, a declarat ca Facebook incearca sa-si imbunatateasca capacitatea de reactie in Myanmar, subiect pe care membrii Congresului l-au ridicat in audieri recente cu Zuckerberg. „Este o situatie extrem de dificila pentru oameni si nu dorim ca Facebook sa fie folosit ca un loc care poate declansa violenta”, a spus Rosen. El spune ca Facebook isi mareste numarul de recenzori vorbind birman, raspunzand la plangerile grupurilor societatii civile care au spus ca pledoariile lor catre Facebook au fost ignorate. Facebook lucreaza, de asemenea, la imbunatatiri pentru raportarea continutului obiectabil in Facebook Messenger, „care a fost un vehicul pentru unele dintre lucrurile din Myanmar”, a spus Rosen.

Facebook a consolidat legaturile cu grupurile societatii civile din Myanmar, pentru a intelege mai bine contextul conflictului, a spus Rosen. „Daca ceva este de fapt un fluier al cainelui care inspira de fapt violenta si nu este foarte clar cum sa intelegem asta, este cu adevarat util sa putem colabora cu acesti parteneri care pot ajuta la gasirea unor lucruri pentru noi”, a spus el. „Imbunatatim modul in care lucram cu ei, astfel incat sa ne poata aduce lucrurile intr-un mod mai fiabil.”

Blake Reid, profesor clinic asociat la Dreptul Colorado si director al clinicii de tehnologie si politici a scolii, spune ca scara Facebook a denaturat ideea de comunitate. „Facebook a crescut la o dimensiune si o scara care dauneaza semnificativ in urma unei anumite proportii a utilizatorilor sai, indiferent de ce abordare este necesara pentru a modera continutul.

Orice modificare pe care o face are capacitatea de a influenta alegerile, de a raspandi propaganda, de a suprima in mod eficient expresia sau de a provoca alte efecte de o magnitudine similara ”, spune Reid. „Deci, specificul modului in care Facebook modereaza continutul este mai putin important din punctul meu de vedere decat modul in care guvernele din intreaga lume aleg sa verifice dimensiunea si puterea Facebook.”

Reid spune ca Facebook va stabili regulile pentru o parte semnificativa a populatiei lumii. „Acesta este in mod obisnuit provincia statelor natiuni si institutiile democratice asociate acestora”, spune el. „Notiunea ca am inmana puterea de a face asta unei companii care nici macar nu se confrunta cu constrangeri concurentiale semnificative, responsabilitate mult mai putin democratica pentru utilizatorii sai, este super ingrijoratoare.”

Rapoartele de transparenta ajuta utilizatorii sa inteleaga procesul intern al unei companii, dar nu neaparat imping compania sa functioneze diferit. „In unele moduri, rapoartele de transparenta sunt o supapa de siguranta care usureaza presiunea pentru schimbari mai substantiale”, spune Tarleton Gillespie, cercetator principal la Microsoft Research New England, profesor asociat la Cornell University si autor al viitoarei carti Custodians of the Internet: platforme, moderarea continutului si deciziile ascunse care contureaza social media .

Gillespie spune ca presiunea activistilor, a cercetatorilor si a parlamentarilor a determinat companiile tehnologice sa extinda dezvaluirea dincolo de rapoartele despre solicitarile guvernului de a elimina continutul. „Dar o obligatie de reglementare cu privire la ceea ce trebuie raportat, impusa in intreaga industrie, ar fi mult mai puternica”, spune Tarleton.

Mai multe povesti grozave

Amazon discuta cu Seattle, deoarece cauta o a doua casa
Acest spate „demonic inteligent” se ascunde intr-o felie minuscula a unui cip de computer
Cresterea si senzatia pornografiei VR
Regizorul Andrew Niccol traieste in propriul sau spectacol Truman (la fel si tu)
Mini-racheta de ucidere a dronei Lockheed Martin cantareste doar 5 kilograme

Cata vorbire despre sex, violenta si ura pe Facebook?

Populare

Cum alegi cel mai bun brad de Crăciun?

Afla cum iti poti lansa o mica afacere folosind un spatiu...

Top 10 cele mai supraevaluate filme din toate timpurile

10 regizori care au facut un film de groaza si au...

10 documentare care au schimbat perceptia publicului

Top 10 interviuri controversate cu celebritati din toate timpurile

Top 10 cele mai memorabile momente ale premiilor Oscar

Cum se schimba viata atunci cand intri in cercurile sociale ale...

10 povesti ciudate din lumea rap pe care sa le cunosti

10 secrete intunecate din lumea surprinzator de rasucita a K-Pop