Acasă Adult66 Putem avea incredere in aplicatii de intalnire si servicii de muzica pentru...

Adult66

Putem avea incredere in aplicatii de intalnire si servicii de muzica pentru discursul de ura al politiei?

163

In urma violentei neo-naziste din weekendul trecut de la Charlottesville, am vazut ca companiile tehnologice se scurg pentru a stinge online discursul de ura. Si nu numai furnizorii de la nivel de infrastructura precum GoDaddy, Cloudflare si Google. Serviciile media si aplicatiile sociale isi declara propriul razboi si asupra sentimentelor ofensive din cadrul platformelor respective.

Spotify, Deezer, Google, DistroKid si CD Baby au lansat toate declaratiile saptamana trecuta care jura sa traga muzica urata din serviciile lor. La fel si aplicatiile de intalnire precum OKCupid si Bumble, fiecare anuntand o abordare a abordarii discursului de ura de pe platformele lor.

In timp ce putini oameni pot strange adevaratele legitime cu reducerea continutului cu retorica violenta rasista si altfel urata, unii suna alarma cu privire la implicatiile pe termen lung ale transmiterii acestui tip de autoritate companiilor tehnologice ale caror standarde si metode de politist vorbesc despre ura nu sunt intotdeauna dezvaluite pe deplin publicului. Fie ca folosesc algoritmi, moderatori umani sau o combinatie a celor doi, functionarile interioare ale acestor sisteme sunt adesea invaluite in mister. Cum este definit discursul jignitor? Cine face apelul pentru a trage continut si pe ce criterii isi bazeaza aceste decizii? Sunt oameni sau masini? Daca sunt umane, cum arata acele echipe si cum sunt ele antrenate? Ce orientari sunt utilizate in acest proces?

Compania rapida a intrebat mai multe companii despre procesele lor interne de luare in discutie a urarii si a obtinut cateva variante ale aceluiasi raspuns: Nu va putem spune.

Spre deosebire de problemele Primului amendament in piata publica sau in mass-media traditionala, discursul de ura si cenzura online nu sunt reglementate de precedente legale sau de un set de reguli centralizate. Mai degraba, fiecare platforma si furnizor de servicii isi stabileste propria politica si isi stabileste propriul sistem de abordare a discursului de ura. Acest lucru, avertizeaza avocatii de exprimare digitala, ar putea deveni o problema in viitor.

Inrudit: S-ar putea ca tehnica sa se epureze de ura Discurs si sa impiedice viziunile extremistilor?

„Poate exista loc pentru a dezvolta linii directoare mai granulare despre tipurile de continut si in care platformele ar trebui sa aiba responsabilitatea, daca este oriunde, de a face cu continut de acest fel”, spune Jeremy Malcolm, un analist de politici globale senior la Electronic Frontier Foundation. „Acum, totul este foarte ad hoc. De multe ori depinde cine este la birou in acea zi. La sfarsitul zilei, nu este un mediu propice pentru libera exprimare. ”

Intr-o postare recenta pe blog, redactata de Malcolm, EFF a criticat miscarile lui Cloudflare, Google si GoDaddy pentru a inchide online supremacistii albi – nu din respect pentru punctele de vedere ale site-urilor precum The Daily Stormer , ci mai degraba din cauza „periculosului” ”Precedent stabilit de companii care renunta la vorbirea nepopulara la nivelul infrastructurii internetului. Aceeasi mecanica folosita pentru stergerea neo-nazistilor de pe web, ne reaminteste EFF, ar putea fi la fel de usor folosita pentru a inabusi vorbirea nonviolenta in viitor.

Dupa ce se extrage din infrastructura internetului in retelele de socializare, serviciile de muzica si aplicatiile de intalnire, potentialul de manevrabilitate grea sau de retragere nu este mai putin grav, potrivit EFF.

Am vazut deja liniile uneori neclare intre vorbirea de ura si expresia legitima confunda algoritmii si moderatorii umani insarcinati sa pastreze aplicatiile si retelele libere de ura. Facebook a blocat faimoasa fotografia istorica a unui copil vietnamez care fuge in urma unui atac napalm si videoclipul cu Philando Castille fiind ucis de un ofiter de politie. De asemenea, a inchis gresit conturile de catre membrii LBGTQ (pentru utilizarea cuvintelor precum „dig” pentru a se descrie, de exemplu) si de femeile de culoare care au impartasit capturi de ecran de hartuire rasista. Pe YouTube, videoclipurile armatei americane care distrug monumentele naziste in timpul celui de-al Doilea Razboi Mondial au fost preluate pentru incalcarea politicii discursului de ura. Si in incercarea sa de a elimina recrutarea de videoclipuri ISIS si alte propagande extremiste, YouTube a dat toporul continutului cu valoare istorica si legala,

Inrudit: Ce considera Facebook Discursul urat depinde de cine il posteaza

Cu atat de multe exemple ca acestea – si atat de putine informatii despre cum functioneaza de fapt sistemele acestor companii pentru a face fata discursului de ura – publicul poate avea incredere intr-adevar companiilor tehnologice pentru a politi in mod eficient sentimentele gasite in arta si postarile scrise online?

Politie muzica cu standarde opace

Discursul de ura poate lua multe forme, de la sloganuri antisemite strigate pe strazile Charlottesville pana la epitetele islamofobe tweetite de oameni cu avatare cu broaste pana la versuri inchinate la Hitler, care incita la violenta, strigate de o trupa hardcore subterana. Dar nu toate exemplele sunt la fel de simple ca acestea, mai ales intr-un mediu la fel de nuantat si de artistic deschis ca muzica.

Saptamana trecuta, Spotify a scos muzica de catre puterea alba si de trupe neo-naziste identificate intr-o postare publicata pe Digital Music News (cu un ajutor din partea Centrului de drept pentru sudul saraciei) si a eliminat propria playlist numita Patriotic Passion ca raspuns la evenimentele din Charlottesville . Inainte de mult, Deezer, Google si CD Baby au urmat costumul si au picat muzica supremacista alba din cataloagele lor. Bandcamp, magazinul de muzica DIY incarcat de artist, a declarat companiei Fast Company ca a vazut un „mic ascensor in conturile raportate” care au fost tratate in conformitate cu politica indelungata a Bandcamp impotriva continutului urat, pe care compania spune ca a aplicat-o intotdeauna.

Platforme mai mari, bazate pe abonamente, cum ar fi Spotify si serviciile muzicale Google, pareau sa se implice intr-un joc de alba supremacista whack-a-mole – ceea ce parea a fi un raspuns brusc, genunchi, la caderea de la Charlottesville. In timp ce majoritatea acestor companii au aplicat de mult timp politici impotriva discursului de ura, nu le-au aplicat agresiv. In 2014, Apple a eliminat de pe artistii iTunes a caror muzica a raspandit mesaje de „putere alba”, in urma presiunii din partea SPLC. La acea vreme, Vice Noisey se intreba de ce Spotify, Google si Amazon nu faceau la fel.

Dar de unde stim ca procesele de eliminare a continutului utilizate sunt nu maresc muzica care nu uraste? Orientarile sunt aplicate in linii mari si corecte? Cum aceste companii previn acuzatiile de standarde duble – sau mai rau, sa evite sa aiba un efect rece asupra libertatii de exprimare?

„Arta este foarte diferita decat alte tipuri de vorbire”, spune Malcolm. „Instantele vor trata arta diferit. De exemplu, pornografia este tratata cu ceva mai multa latitudine atunci cand se afla intr-un context artistic. Puteti spune acelasi lucru si pentru muzica. Muzica care exprima ganduri violente in versuri nu inseamna ca ar trebui tratata ca o postare pe blog care sa declare ca vrei sa ucizi. “

Cand a fost intrebat cum evalueaza discursul de ura in muzica, un reprezentant Bandcamp spune ca se bazeaza pe comunitatea sa pentru a semnaliza continut urat pentru revizuire interna si ca este „de obicei destul de evident” atunci cand piesele incalca politicile sale. Pentru o comunitate online la fel de stransa si progresiva precum Bandcamp, aceasta abordare poate fi suficienta.

Reprezentantii de la Spotify si Deezer au fost la fel de vagi in descrierea modului in care este evaluat continutul. Spotify interzice „continutul care favorizeaza ura sau care incita la violenta impotriva rasei, religiei, sexualitatii sau altele asemenea”, spune un purtator de cuvant al companiei prin e-mail. Reprezentantul explica ca procesul de revizuire intern al Spotify se bazeaza pe liste publice de continut interzis, cum ar fi Consiliul federal de revizuire pentru media daunatoare minorilor (sau BPjM, un acronim al traducerii germane). BPjM, un indice controversat al continutului digital considerat nociv pentru tinerii din Germania, nu este publicat, deci nu exista nicio modalitate de a sti exact ce se intampla. Anul trecut, trupa germana de metal industriala Rammstein a dat in judecata guvernul tarii dupa ce a fost inclusa in BPjM. In timp ce obiectivul sau principal este de a lista neagra mass-media violenta, rasista si alte materiale inadecvate, BPjM a fost criticat pentru cenzura de facto si inabusirea libertatii de exprimare. Spotify spune ca foloseste si datele de la Centrul de Legea Saraciei pentru a identifica muzica de ura, bazandu-se in cele din urma pe moderatorii umani pentru a judeca si scoate melodii.

Spotify interzice in mod explicit orice muzica care „incalca clar orientarile noastre interne, care include continut care incita la ura sau violenta”. Am solicitat companiei detalii despre aceste orientari, precum si informatii despre cine stabileste ce muzica incalca. Au refuzat sa se clarifice.

Cum sunt identificate aceste melodii indoielnice in primul rand? In cazul recuperarii muzicii supremaciste albe de saptamana trecuta, Spotify a fost anulat de o postare pe blog pe Digital Music News . Dar nu pare sa existe o modalitate usoara pentru publicul larg de a marca muzica urata pentru recenzie. Cand a fost intrebat cum utilizatorii pot semnaliza muzica de obiectiuni, un reprezentant Spotify a refuzat sa comenteze.

Deci, in afara de o interdictie generala a muzicii care „incita la ura sau violenta” si care atrage indrumari cel putin partial din indexul mass-media BPjM din Germania, nu stim de nimic despre modul in care Spotify gaseste, evalueaza si elimina muzica care se presupune ca incurajeaza ura si violenta.

Politica ridica intrebari mai mari cu privire la parametrii si limitarile echipamentelor Spotify pentru a aplica muzica. Poate cel mai evident, este o lipsa de detalii despre orice linie poate exista intre „incitarea” la ura si violenta si pur si simplu referirea la aceste lucruri.

„Unele genuri de muzica au versuri inerent violente”, spune Malcolm. „Ei tind sa fie tematici cu privire la acea parte mai intunecata a vietii. Asta nu inseamna ca sunt oameni violenti.

Exista diferite sub-genuri de heavy metal si hip-hop, de exemplu, incarcate cu versuri despre care majoritatea dintre noi ar fi de acord ca sunt violente si chiar potential pline de ura. Unele dintre versurile mai grafice, potential amenintate ale unor trupe de metal populare, cum ar fi Cannibal Corpse, Slipknot si Slayer, ar putea merge in urma restrictiilor Spotify si ar risca sa fie trase? Ce zici de versurile violente ale lui Eminem sau NWA? Sau versuri ale duo-ului de rap militant de stanga Dead Prez, care solicita asasinarea politicienilor albi?

Fiecare dintre aceste exemple (ca sa nu mai vorbim de nenumarate altele) poate fi foarte bine sa se incadreze intr-o oarecare exceptie de la ghidurile de continut ale Spotify, dar in momentul de fata politica sa cu un cuvant larg si lipsa de detalii publice nu ofera nicio indicatie intr-un fel sau altul.

La Deezer, o echipa de continut „examineaza catalogul nostru profund si asculta muzica pentru a ne asigura ca nu exista un discurs urat direct in continutul semnalat”, ne-a spus David Atkinson, seful relatiilor de eticheta de la Deezer. „Nu condamnam niciun tip de discriminare sau forma de ura impotriva indivizilor sau grupurilor din cauza rasei, religiei, genului sau sexualitatii lor, in special orice material care este legat in vreun fel de orice miscare sau sistem de credinte supremaciste albe.”

Din nou, in majoritatea cazurilor, aceasta politica ar putea oferi o foaie de parcurs clara – Deezer cel putin face apel in mod special la ideologiile supremaciste albe – dar detaliile despre parametri si modul in care sunt aplicate sunt la fel de evazive ca si alte exemple. Si cum EFF doreste sa sublinieze, aceste solutii ne pot satisface in mijlocul fervorii anti-naziste, dar nu avem cum sa stim cum vor fi implementate in viitor.

Treceti la stanga in ura: Unde aplicatiile de intalnire deseneaza linia?

Lucrurile pot deveni si mai crunte atunci cand vine vorba de aplicatii de intalnire. Servicii precum Tinder, OKCupid si Bumble au o multime de experiente in ceea ce priveste hartuirea si discursul de ura (intr-adevar, Bumble insusi s-a nascut din dorinta de a face aplicatiile de intalnire mai putin ostile pentru femei). Majoritatea acestor aplicatii au deja politici stricte impotriva limbajului violent sau urat. Asa ca nu a avut parte de o surpriza atunci cand supremacistul alb, purtator de arma, a aparut in mini-documentarul apucator al lui Vice despre Charlottesville, a fost interzis pe viata de la OKCupid saptamana trecuta. La inceputul acestui an, Tinder a interzis utilizatorului sa dispare femeia cu epitete rasiste si misogine.

Am fost avertizati ca supremacistul alb Chris Cantwell se afla pe OkCupid. In 10 minute l-am interzis pe viata.

– OkCupid (@okcupid) 17 august 2017

Bumble parea sa duca lucrurile cu un pas mai departe cand a anuntat un parteneriat cu Liga anti-defaimare, conceput sa „interzica toate formele de ura” in aplicatia de intalnire. Printr-o combinatie de moderatori si algoritmi umani, Bumble spune ca va semnala profiluri (si, probabil, mesaje) care contin simboluri de ura cunoscute si cuvinte asociate cu rasismul si ura.

Baza de date ADL cu simboluri de ura este disponibila publicului, dar glosarul cuvintelor pline de ura pe care Bumble spune ca le va folosi pentru a semnaliza continut ofensator nu este public. Acest lucru este remarcabil, deoarece in timp ce ADL lucreaza intens in combaterea criminalitatii si a monitorizarii grupurilor de ura, organizatia este de asemenea puternic implicata in advocacy politica in apararea politicii israeliene.

Pentru Malcolm, asta prezinta o problema. „Exista alte grupuri la care ai putea merge, care nu au acea agenda politica care ar fi un partener mult mai bun”, spune el. „Pare nechibzuit sa predai puterea unei organizatii de genul acesta.” ADL nu a raspuns la o cerere de comentariu.

ADL a fost acuzata in trecut ca a lucrat la tacerea si delegitimizarea adversarilor politici, precum filozoful Noam Chomsky si regretatul istoric Tony Judt, ambii critici aspre ai politicilor israeliene fata de palestinieni (si ambii evrei). De asemenea, grupul a fost acuzat ca a estompat linia dintre critica Israelului si antisemitismul, cu critici ai politicii israeliene si avocati ai suveranitatii palestiniene – cel mai recent activisti ai Black Lives Matter si ai lui Roger Floyd, Roger Waters – de la Pink Floyd – trebuind sa se apere impotriva pretentiilor de implicare in discursul de ura.

Cand a fost intrebat ce termeni sunt inclusi in glosarul sau inspirat de ADL de cuvinte de ura, Bumble a refuzat sa precizeze, citand natura iterativa, in continua schimbare a acestei liste. Cand a fost intrebat in mod specific daca au fost inclusi pe lista termeni legati de drepturile palestiniene sau activismul aferent, Bumble a refuzat sa comenteze.

Daca pozitia ADL cu privire la Orientul Mijlociu se va transpune in politica de discurs a urarii lui Bumble, ar putea duce la anularea discursului liber? Sansele acestei intamplari nu sunt cunoscute, deoarece Bumble, la fel ca restul companiilor cu care am vorbit, a refuzat sa intre in detalii despre modul in care politicile sale sunt definite si aplicate.

Deci, ce ar trebui sa fie facut?

In timp ce FEP are ingrijorari cu privire la rapiditatea si natura contondenta din discursurile de politie din ultimele zile, Malcolm recunoaste ca nu exista un raspuns usor.

Cu siguranta, un fel de orientari universale in domeniul industriei tehnologice de genul celor la care facea referire Malcolm ar putea ajuta, dar nici atunci nu exista nicio garantie ca astfel de principii vor fi adoptate de toata lumea. In general, spune el, ar putea fi cel mai bine ca companiile sa „lase singure deciziile de continut” pana cand sunt obligate de o instanta. Dar o astfel de abordare posibila nu ar fi foarte buna cu multi utilizatori ai acelorasi servicii, care sunt nelinistiti de climatul politic volatil si nu doresc sa se simta amenintati in timp ce navigheaza pe o lista de redare sau intr-un pool de intalniri.

In calitate de societate, am transferat o parte din responsabilitatea pentru definirea si actionarea discursurilor nesanatoase de la instantele de judecata si organizatiile media care sunt privite la Primul amendament catre companiile tehnologice. Si, in timp ce majoritatea oamenilor par confortabili ca se indeparteaza de partea de a elimina discursul de ura si de a indeparta rasistii indragostiti de pe platformele sociale, organizatiile precum EFF isi indeplinesc sarcina de a pune intrebari mai mari, uneori si mai disconfortante, cum ar fi precedentul?

“Poate ca va avea un impact asupra nazistilor folosind internetul, dar ce alte impacturi va avea?” Spune Malcolm. „Rareori consideram ca cenzurarea internetului este o solutie buna pentru orice fel de problema.”

Putem avea incredere in aplicatii de intalnire si servicii de muzica pentru discursul de ura al politiei?

Politie muzica cu standarde opace

Treceti la stanga in ura: Unde aplicatiile de intalnire deseneaza linia?

Deci, ce ar trebui sa fie facut?

Populare

Afla cum iti poti lansa o mica afacere folosind un spatiu...

Top 10 cele mai supraevaluate filme din toate timpurile

10 regizori care au facut un film de groaza si au...

10 documentare care au schimbat perceptia publicului

Top 10 interviuri controversate cu celebritati din toate timpurile

Top 10 cele mai memorabile momente ale premiilor Oscar

Cum se schimba viata atunci cand intri in cercurile sociale ale...

10 povesti ciudate din lumea rap pe care sa le cunosti

10 secrete intunecate din lumea surprinzator de rasucita a K-Pop

10 melodii rock inspirate de evenimente groaznice