Curatarea internetului de sex si violenta ilicita

148

„Una dintre conceptiile gresite este ca natura umana este natura umana, iar tehnologia este doar acest instrument neuronal”, spune Tristan Harris, fost eticolog de design Google, cand a fost intervievat in The Cleaners , un nou documentar din PBS „Independent Lens”. „Dar acest lucru nu este adevarat. Pentru ca tehnologia are o prejudecata, iar prejudecata are un obiectiv. ”

Este explorarea acestei prejudecati – inerenta modului in care modereaza continutul social media, precum Facebook, Google si Twitter – si continutul adesea oribil, in cel mai bun caz inflamator, care il face pe social media, ca rezultat care sta la baza The Cleaners , in premiera pe 12 noiembrie la PBS.

In ultimii ani, puterea mass-mediei sociale de a propaga ura si de a raspandi imagini grafice ale actelor violente a atins un nivel constant; clipuri din primele minute ale documentului includ Mark Zuckerberg extragand abilitatea Facebook de a „[oferi] oamenilor puterea de a impartasi orice cu oricine” si, bineinteles, Donald Trump, recunoscand cu grija adeptii la un miting din Phoenix, „Daca nu as avea social media, probabil ca nu as fi capabil sa scriu cuvantul, nu as sta aici!”

In ciuda obiectivelor inalte de la inceputurile sale, internetul nu a fost niciodata o utopie pasnica pentru utilizatori – in schimb, a devenit un hibrid bizar de meme, pornografii si ideologii extremiste (cele trei nu se exclud reciproc), ajutate de giganti tehnologici precum Facebook si o panza intunecata mai insidioasa Acolo vin „curatatorii”, sau moderatorii de continut. Angajatii externalizati – in acest caz, in Filipine – sunt angajati de genul Google sau Twitter pentru a scapa de platformele de imagini ofensive sau exploatatoare si trebuie sa se pieptene prin minimum 25.000 de imagini sau videoclipuri pe zi, stergand cele care incalca regulile comunitatii si ignorandu-le pe cele care nu.

Documentarul se bazeaza foarte mult pe extrasele de e-mail de la managerii de continut actuali si fosti, cei mai multi dintre ei vorbind cu producatorii de film Hans Block si Moritz Riesewieck cu privire la conditia anonimatului din cauza ANM-urilor restrictive. Intr-una, un manager de continut isi rezuma astfel meseria: „Am oprit raspandirea exploatarii copiilor. Trebuie sa identific terorismul. Trebuie sa opriti cyberbullying-ul. Algoritmii nu pot face ceea ce facem. ”

Este o sarcina Sisyphean, cu siguranta – pentru fiecare videoclip dintr-o lovitura de avion sau o imagine sexuala explicita a unui copil care a fost sters, alte cinci-zece trebuie sa-l inlocuiasca. Dar mai important este problema a ceea ce este permis sa ramana pe anumite platforme – si ce nu. Nicole Wong, fost responsabil de politici pentru Google si Twitter, a discutat despre cele mai raspandite metode de moderare a continutului pe platformele digitale: una, o abordare mai severa, in care este afisat tot ce este postat pe platforma sau o abordare mai „democratizata” in care sunt examinate numai obiectele semnalizate – permitand sa alunece mult prin fisuri. Wong, cel mai simplu mod de abordare a continutului, a explicat: „Care este viziunea pentru ceea ce ar trebui sa fie pe platforma dvs.? Ce nu vrei in comunitatea ta? ”

Internetul poate fi o resursa excelenta, desigur, dar, de cele mai multe ori, este un loc groaznic. Un tanar moderator de continut intervievat de cineasti a impartasit in mod oprit cel mai deranjant lucru pe care l-a vazut vreodata in timpul moderatiei: a implicat o fetita de sase ani care se angajeaza in acte sexuale cu barbati adulti. Videoclipul a fost „de neiertat pentru mine”, a spus moderatorul continutului. Bunastarea mentala a acestor moderatori de continut, in special barbati tineri si femei din tari precum Filipine, este in mare parte ignorata in favoarea mentinerii unui internet „mai sigur”.

Pana de curand, activitatea moderatorilor de continut nu era in mare masura necunoscuta. „Moderatorii de continut comercial lucreaza in umbra platformelor de social-media”, spune in documentar Sarah Roberts, profesoara de studii informationale la UCLA. Insa incidentele recente care implica deciziile Facebook sau Twitter de a elimina – sau mai controversat, sa renunte – continut potential inflamator sau exploatator au atras atentia asupra modului in care aceste platforme modereaza continutul si a modului in care acest lucru influenteaza totul, de la politica la cultura pop.

Documentarul subliniaza in mod cert aparenta ipocrizie care guverneaza o mare parte din politicile de moderare a continutului Facebook, Twitter si Instagram. Instagram, in special, a castigat notorietate in ultimii ani pentru ca a scos imediat fotografii care prezinta nuditate – in special sfarcurile feminine expuse – in acelasi timp, permitand expresii de vorbire de ura si amenintari cu bombe sa ramana pe platforma sa zile intregi, daca nu chiar pe termen nelimitat (cel mai recent, corect – Milo Yiannopoulos, troll de aripi, a luat-o pe Instagram pentru a-si impartasi gandurile cu privire la recenta sperietoare cu bomba cu pipa – si consternarea lui ca The Daily Beast nu a primit una pe e-mail).

Artistul Illma Gore, care a creat portretul infam al lui Trump cu un penis, mai ales mic, este infatisat ca o victima a politicii excesive, uneori puritanice, de moderare a continutului: dupa ce portretul ei a devenit viral, postul a fost eliminat brusc, iar pagina ei de Facebook, care a constituit o parte importanta a traiului ei ca artista, a fost inchisa. Gore considera ca portretul ei este satiric si nu inerent pornografic, dar pentru un tanar moderator de continut, este o poveste diferita. Un astfel de moderator le-a spus producatorilor de film ca „eroarea grava numarul unu” pe care ar putea-o face in timpul lucrului ar aproba o fotografie nuda, indiferent de context: „boobs sau genital masculin – total inacceptabil”.

Politicile de moderare a continutului sunt, desigur, menite sa elimine continut cu adevarat perturbator sau controversat de pe platformele digitale majore. Dar, dupa cum subliniaza atat de abil The Cleaners , uneori lucrurile nu sunt atat de alb-negru. Portretul satiric al lui Gore a fost eliminat de pe Facebook pentru „incalcarea liniilor directoare ale comunitatii”, iar materialele de atacuri aeriene si atentatele din Siria sunt adesea eliminate pentru acelasi motiv, in ciuda faptului ca ONG-urile precum Airwars incearca sa le salveze ca documentatie a atrocitatilor pentru a ajuta civili pe teren.

Apoi, desigur, exista partea politica a Facebook si Twitter. Executivii de la aceste companii si Google au fost adusi in fata unui comitet congresal in 2016, ca urmare a presupusei imixtiuni ruse in alegerile din 2016 si au continuat sa se confrunte cu intrebari din partea comisiilor din Senat cu privire la practicile de confidentialitate si moderarea datelor.

„

In timp ce Facebook si Twitter (si uneori Instagram) au facut eforturi reticente pentru a-si curata actul … documentarul dezvaluie ca companiile nu practica ceea ce predica in afara SUA

“

In timp ce Facebook si Twitter (si uneori Instagram) au facut eforturi reticente pentru a-si curata actul (inclusiv interzicerea trollurilor de dreapta si a teoreticienilor conspiratiei precum Alex Jones de pe platformele lor), documentarul dezvaluie ca companiile nu practica ceea ce predica afara. din SUA In zonele volatile din punct de vedere politic, cum ar fi Turcia, de exemplu, Facebook se angajeaza in „geo-blocare” – o practica controversata care implica restrictionarea anumitor continut la utilizatori dintr-o anumita zona geografica. In Turcia, acest lucru inseamna ca continutul politic disident creat de cetateni turci si postat pe Facebook – inclusiv desene animate politice care satirizeaza presedintele Erdogan, strigatele de strigare, materialele de protest, etc. Facebook a blocat aceste imagini dupa ce a fost eliminata de pe piata turca,

Internetul, in special web-ul intunecat, nu cunoaste limite, iar The Cleaners face o incercare valabila sa acopere cele mai presante probleme care ies din moderarea continutului. Cu toate acestea, este doar un documentar de 90 de minute, astfel ca explorarea unor probleme precum popularitatea propagandei anti-Rohingya de pe Facebook in Myanmar sau chiar amenintarea interna a extremistilor de dreapta care impartasesc discursuri de ura online, par grabite.

Din ce in ce mai mult, social media a fost cooptata de extremistii de dreapta, adesea pornita de pe alte site-uri web, cum ar fi favoritul Gab de la dreapta. Un astfel de extremist care poarta numele de Sabo a castigat un rezultat semnificativ pe social media. Recurgand la refugiatii „dracului de capra” de la „rahaturi din lumea a cincea”, Sabo nu vede eforturile Facebook de a impiedica discursul de ura ca o problema.

„Cand oamenii spun ca discursul de ura nu este discurs gratuit, sau discursul liber nu este discurs de ura, ei sunt complet gresiti”, sustine el, citand primul amendament si accesibilitatea Facebook ca motive pentru care isi poate impartasi opiniile online. Si nu este ingrijorat de caderea de la stangaci.

„Unii de stanga cred ca esti incorect din punct de vedere politic”, spune Sabo. „Suntem cei cu armele, gloantele si antrenamentele. Si de indata ce vom putea incepe sa tragem, credeti-ma, toate astea vor pleca foarte repede. “

Curatatorii se termina cu o nota plina de inflacarare, explorand efectele pe care jobul le are asupra moderatorilor de continut. Unii nu par sa se deranjeze: „Am vazut sute de decapitari”, spune un moderator a carui specialitate este identificarea si stergerea videoclipurilor ISIS si a propagandei de pe platformele americane. Dar altii nu sunt atat de norocosi. Un moderator de continut, dupa ce a solicitat in mod repetat transferul superiorilor sai, s-a spanzurat in cele din urma. Specialitatea lui? Inlaturarea videoclipurilor de auto-vatamare si a transmisiunilor de sinucidere.

Curatarea internetului de sex si violenta ilicita

Populare

Cum alegi cel mai bun brad de Crăciun?

Afla cum iti poti lansa o mica afacere folosind un spatiu...

Top 10 cele mai supraevaluate filme din toate timpurile

10 regizori care au facut un film de groaza si au...

10 documentare care au schimbat perceptia publicului

Top 10 interviuri controversate cu celebritati din toate timpurile

Top 10 cele mai memorabile momente ale premiilor Oscar

Cum se schimba viata atunci cand intri in cercurile sociale ale...

10 povesti ciudate din lumea rap pe care sa le cunosti

10 secrete intunecate din lumea surprinzator de rasucita a K-Pop