Asociatiile imprudente pot face rau foarte real atunci cand apar in medii presupus neutre, cum ar fi magazinele online

In timp ce ieri instalam Grindr pe telefonul meu Android, am defilat in jos pentru a arunca o privire la lista de aplicatii „inrudite” si „relevante”. Mi-a cazut maxilarul. Acolo, pe primul loc pe lista, s-a aflat „Cautare infractori sexuali”, o aplicatie gratuita creata de Life360 care va permite „sa gasiti infractori sexuali in apropierea dvs. si sa va protejati copilul … pentru a va putea pastra familia in siguranta”.

Am fost prapadit. Cum si de ce a fost creata aceasta asociere? Ce ar putea avea o aplicatie cu alta? Cati utilizatori potentiali Grindr au fost descurajati de la descarcarea aplicatiei, deoarece au vazut aceasta listata ca o aplicatie asociata? In esenta: Cine a facut aceasta legatura, cum functioneaza si ce rau face?

Pentru cei care nu stiu, Grindr se descrie ca fiind o „modalitate simpla, rapida, distractiva si gratuita de a gasi si intalni tipuri gay, bi si curioase pentru intalniri, socializare si prietenie”. Este unul dintre un set nou de tehnologii bazate pe locatii, care se adreseaza barbatilor gay care doresc sa socializeze, unde „socializarea” poate insemna o mare varietate de lucruri, inclusiv chat, conectare pentru a face sex sau dezvoltarea unei prietenii. Porniti aplicatia si vedeti imediat cat de apropiati sunt alti utilizatori si cateva informatii despre ei.

Grindr nu este unic sau nou in acest sens. Manhunt, Jack’d, Scruff si Maleforce au toate aplicatii pentru iPhone sau Android, iar site-uri precum GayRomeo.com, Adam4Adam.com si gaydar.co.uk permit ca barbatii gay / bi / curiosi sa filtreze profilurile utilizatorilor dupa locatia geografica. Astfel de site-uri, aplicatii si practicile pe care le fac posibile devin un curent aproape simplu: Sharif Mowlabocus a scris o carte intreaga despre ceea ce el numeste „Cultura Gaydar”; Amicii online (producatorii Manhunt) parteneri cu medici universitari pentru a efectua cercetari inovatoare la nivel mondial privind practicile masculine gay online; si CEO-ul Grindr, Joel Simkhai, a fost panelist anul acesta la SXSW Interactive.

Asadar, daca toate acestea devin atat de principale, de ce este legata de infractorii sexuali?

Pentru a raspunde la prima intrebare despre cine a facut aceasta asociere intre Grindr si Sex Offender Search: sunt cei care proiecteaza si intretin Android Marketplace, versiunea Droid a Apple Store. Pentru a fi corect, Apple a avut propriile lupte pentru a decide ce tipuri de aplicatii sa vanda: o perioada a respins o aplicatie de desene animate creata de Mark Fiore, castigator al premiului Pulitzer, deoarece „ridiculiza personajele publice”; si a sters recent o aplicatie proiectata de un grup religios pentru a „vindeca” homosexualii. Problema de a decide ce sa vanda prin magazinul de aplicatii nu este noua. Insa suntem departe de a intelege pe deplin obligatiile etice pe care Apple, Google si altele le au atunci cand platformele lor actioneaza ca factori de reglementare a exprimarii libere.

A doua intrebare – cum a fost facuta aceasta asociere – este mai greu de raspuns. Google, Microsoft, Apple si Facebook nu fac publice sistemele si algoritmii folositi pentru a crea relatii intre date. Android Marketplace observa o suprapunere mare intre cei care descarca Grindr si cei care instaleaza Sex Delender Search? Acest lucru pare putin probabil, avand in vedere cele doua audiente tinta foarte diferite.

A fost o decizie editoriala luata de un curator uman al Marketplace, care credea ca cele doua aplicatii sunt cumva legate? Aceasta alegere curioasa ar spune mai mult despre curator decat despre aplicatii.

Oare o parte din sistem ia in considerare categoriile de piata ale aplicatiilor – „Social” pentru Grindr si „Stil de viata” pentru cautatorii de delinsi sexuali – atat de asemanatoare incat crede ca utilizatorii ar fi interesati sa vada conexiuni intre categorii? Acest lucru este plauzibil, dar exista multe alte aplicatii din ambele categorii care ar putea fi legate – de ce aceste doua?

In cele din urma, sunt termenii pe care creatorii aplicatiei insisi le folosesc pentru a descrie programele lor considerate similare printr-un algoritm automat de potrivire a cuvintelor cheie? Cautarea sexului infractorilor enumereaza aceste cuvinte cheie: cautare de infractori sexuali, infractori sexuali, legea lui Megan, lege megan, molesters pentru copii, pradatori sexuali, siguranta de vecinatate, criminali, Life360, Life 360. Descrierea Grindr nu enumera cuvinte cheie, dar spune ca „doar le permite barbatilor de 18 ani sau mai mari „sa descarce aplicatia si ca„ [p] hotos-urile care prezinta acte de nuditate sau sex sunt strict interzise ”. Singurul cuvant comun pentru ambele aplicatii este „sex”. Insa cuvantul „sex” apare si in aplicatia „Deep Biologie marina” a aplicatiei Deep Powder Software. Este greu de observat suprapunerea dintre aceste trei aplicatii, din anumite motive,

Ultima intrebare – ce rau fac astfel de asociatii – este mai complicat de raspuns. Asociatii precum cele enumerate pe Android Marketplace (sau sistemul Apple Genius, motorul de recomandare al Amazon sau sugestiile de cautare ale lui Bing) pot fi puncte de pornire pentru conversatii bune sau pentru a reduce linistitorile expresiei individuale si ale identitatii comunitatii. Pentru a fi puncte de pornire pentru conversatie, proiectantii trebuie sa recunoasca mai intai ca sistemele de recomandare (atat cele conduse de oameni, cat si cei care se bazeaza pe algoritmi) au puterea de a sugera si de a restrictiona expresia. Legaturile bizare dintre Grindr si Cautarea Infractorilor de Sex pot fi puncte de plecare excelente pentru cei care sunt suficient de privilegiati sa recunoasca asocierile nesensibile, detin suficiente cunostinte tehnice pentru a intelege modul in care astfel de sisteme pot crea legaturi, si aveti incredere si abilitati de comunicare pentru a argumenta punctul de vedere cu prietenii, membrii familiei si altii. Acestea pot fi oportunitati excelente pentru a debuta gandirea proasta, care altfel ar merge necontestat.

Dar daca ne gandim ca tehnologiile sunt oarecum neutre si obiective arbitre ale gandirii bune – sisteme rationale care pur si simplu descrie lumea fara a face judecati de valoare – ne confruntam cu probleme reale. De exemplu, daca sistemele de recomandare sugereaza ca anumite asociatii sunt mai rezonabile, rationale, comune sau mai acceptabile decat altele, riscam sa reducem la tacere minoritatile. (Acesta este efectul bine documentat „Spiral al tacerii”, oamenii de stiinta politici observa in mod obisnuit, care, in esenta, spune ca esti mai putin probabil sa te exprimi daca crezi ca opiniile tale sunt in minoritate sau este posibil sa fii in minoritate in viitorul apropiat.)

* * *

Imagineaza-ti o clipa un barbat gay care pune la indoiala orientarea lui sexuala. Nu i-a spus nimanui altcineva ca este atras de baieti si nu a iesit in intregime la sine. Familia, prietenii si colaboratorii sai i-au sugerat – explicit sau subtil – ca sunt fie homofobe in cel mai rau caz, fie ingrozitor de tolerante in cel mai bun caz. El nu cunoaste pe nimeni altul care este homosexual si este disperat de modalitatile de a intalni altii care sunt gay / bi / curiosi – si, da, poate vede cum se simte ca face sex cu un tip. El aude despre Grindr, crede ca ar putea fi un prim pas cu risc scazut in explorarea sentimentelor sale, merge pe Android Marketplace pentru a-l obtine si se uita la lista de aplicatii „relevante” si „inrudite”. El afla imediat ca este pe cale sa descarce ceva pe telefonul sau, intr-un fel – intr-un fel pe care nu il face

Care este raul aici? In cel mai bun caz, stie ca asociatia este ridicola, se enerveaza putin, promite sa faca mai mult pentru a combate astfel de stereotipuri, descarca aplicatia si are un pic mai mult curaj in timp ce isi exploreaza identitatea. Intr-un caz rau, vede asocierea, dezvaluie ca este urmarit si legat de infractori sexuali, nu descarca aplicatia si continua sa se simta izolat. Sau poate chiar incepe sa creada ca exista o legatura intre barbatii homosexuali si abuzul sexual, deoarece, pana la urma, Marketplace a trebuit sa faca acea asociere din anumite motive. Daca algoritmul obiectiv si rational a facut legatura, trebuie sa existe un adevar pentru legatura, nu?

Acum imaginati-va situatia inversa in care cineva descarca aplicatia Cautare infractori pentru sex si vede ca Grindr este listat ca o aplicatie „inrudita” sau „relevanta”. In cel mai bun caz, oamenii vad legatura ca fiind ridicola, intrebari de unde ar fi putut sa vina si incep sa invete despre ce alt tip de presupuneri eronate (sociale, juridice si culturale) ar putea sta la baza sistemului de infractori sexuali inregistrati. Intr-un caz mai rau, ei vad legatura si se gandesc „vedeti, barbatii gay sunt mai susceptibili sa fie pedofili, chiar si tehnologiile spun asa”. In ciuda unor studii stiintifice repetate care resping astfel de corelatii, ei folosesc legatura Marketplace ca „dovada” data viitoare cand vorbeste cu familia, prietenii sau colegii despre abuzul sexual sau drepturile homosexualilor.

Ideea este ca asociatiile nesabuite – facute de oameni sau computere – pot face rau foarte real mai ales atunci cand apar in medii presupus neutre, cum ar fi magazinele online. Deoarece tehnologiile pot parea neutre, oamenii le pot confunda ca exemple ale unor dovezi obiective ale comportamentului uman.

pret escorte bucuresti http://worldfamouskidswear.com/__media__/js/netsoltrademark.php?d=escortelux.vip/
escorte ploiesti publi http://austintenniscourts.com/__media__/js/netsoltrademark.php?d=escortelux.vip/
escorte zona dorobanti http://www.153weather.co.kr/banner_link.php?url=https://escortelux.vip/
raid escorte http://tydodd.com/searchpoint/redir.asp?reg_id=ptypes&sname=%2Fsearchpoint%2Fsearch.asp&lid=0&sponsor=lan&url=https://escortelux.vip/escorte/brasov
escorte cpuj http://lakechelanvineyard.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/bucuresti
escorte rm. sarat http://freeringtoneshere.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/buzau
escorte pubi http://trialskills.org/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/calarasi
escorte mature bucursti http://frankmannella.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/caras-severin
serviciu escorte http://jlepine.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/cluj
forum escorte sibiu http://johareezauctions.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/constanta
comentarii escorte bucuresti https://wapblogs.eu/ejuz.php?url=https://escortelux.vip/escorte/covasna
escorte urlati prahova http://touchyourmonkey.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/braila/maxineni
escorte transexuali galati http://alisonanderson.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/braila/mircea-voda
escorte olanda http://beachlink.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/braila/movila-miresii
escorte lux dubai http://colincormac.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/braila/racovita
anunturi escorte din botosani http://drivermanagement.net/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/braila/ramnicelu
escorte constanta 50 ron http://ntrprnr.org/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/braila/romanu
top escorte sibiu http://media.conceptcomms.com/links.do?c=0&t=289&h=404.html&g=0&link=https://escortelux.vip/escorte/braila/rosiori
escorte buzau fete http://duxinarow.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/braila/salcia-tudor
escorte comentate http://scottsdots.com/__media__/js/netsoltrademark.php?d=escortelux.vip/escorte/braila/scortaru-nou

Trebuie sa criticam nu doar daca un articol ar trebui sa apara in magazinele online – acest exemplu depaseste cazurile Apple App Store care se concentreaza pe daca o aplicatie ar trebui sa fie listata – ci, mai degraba, de ce articolele sunt legate intre ele. Trebuie sa privim mai atent si sa fim mai critici cu privire la „infrastructurile de asociere”: sisteme tehnice care functioneaza in fundal cu putina transparenta sau deloc, alimentand presupuneri si legaturi pe care le realizam subtil despre noi insine si despre ceilalti. Daca suntem mai critici si sceptici fata de tehnologii si algoritmi aparent obiectivi, avem sansa sa facem doua lucruri simultan: sa proiectam sisteme de recomandare si mai bune, care vorbesc de umanitatile noastre variate, si sa descoperim si sa punem in discutie stereotipuri care altfel ar putea fi necontestate.

Cu cat lasam sistemele sa faca asociatii pentru noi fara a ne contesta logica de baza, cu atat riscul este mai mare de a deteriora cine suntem, cine ne considera altii si pe cine ne putem imagina pe noi insine.

* * *

Nota editorului, ora 17:22, 15 aprilie 2011: In timp ce unii dintre cititorii nostri au contestat, in comentariile de mai jos, ca asociatia mentionata in articol a existat vreodata, am inclus o captura de ecran realizata in momentul in care aceasta piesa a fost scrisa. Vizitatorii Grindr pe Android Marketplace astazi nu mai vad cautatorii de sex sex cauta ca o aplicatie asociata; schimbarea a avut loc in jurul orei 22:00 EST joi, 14 aprilie – atunci autorul a observat comutatorul dupa ce a reimprospatat periodic Marketplace in urma publicarii acestei povesti.

Vrem sa auzim ce credeti despre acest articol. Trimiteti o scrisoare editorului sau scrieti la [email protected].

Mike Ananny este bursier postdoctoral la Microsoft Research si coleg la Centrul Berkman pentru Internet si Societate din Harvard. Si-a castigat doctoratul. la Universitatea Stanford si studiaza relatiile dintre tehnologia in retea si jurnalismul online.