Fatetele noastre arata lumii indicii despre sexualitatea noastra?
Saptamana trecuta, The Economist a publicat o poveste in jurul afirmatiilor cercetatorilor de la Scoala absolvita de la Stanford, Michal Kosinski si Yilun Wang, care afirma ca au construit inteligenta artificiala care ar putea spune daca suntem gay sau drepti pe baza catorva imagini ale fetelor noastre. Se parea ca Kosinski, profesor asistent la scoala absolvita de afaceri a lui Stanford, care a castigat anterior o anumita notorietate pentru a stabili ca AI-ul ar putea prezice personalitatea cuiva bazata pe 50 de aprecieri pe Facebook, o facuse din nou; ar fi adus un adevar inconfortabil despre tehnologie.
Studiul, care va fi publicat in The Journal of Personality and Social Psychology , a atras mult scepticism. A provenit de la cei care urmeaza cercetarea AI, precum si din grupuri LGBTQ precum Gay and Lesbian Advocates & Defenders (GLAAD).
„Tehnologia nu poate identifica orientarea sexuala a cuiva. Ceea ce poate recunoaste tehnologia lor este un model care a gasit un mic subset de persoane gay, lesbiene si albe, pe site-uri de intalnire care arata similar. Aceste doua descoperiri nu ar trebui sa fie confruntate “, a scris Jim Halloran, ofiterul digital principal al GLAAD, intr-o declaratie care sustine ca documentul ar putea provoca metode de expunere a daunelor destinate persoanelor gay.
Pe de alta parte, LGBTQ Nation, o publicatie axata pe probleme din comunitatea lesbiana, homosexuala, bisexuala, transgender, career, nu a fost de acord cu GLAAD, spunand ca cercetarea a identificat o potentiala amenintare.
Indiferent, reactiile la lucrare au aratat ca exista ceva tulburator profund si visceral cu privire la ideea de a construi o masina care sa poata privi un om si sa judece ceva precum sexualitatea lor.
„Cand am citit pentru prima data rezumatul indignat al acesteia, m-am simtit indignat”, a spus Jeremy Howard, fondatorul startup-ului educatiei AI fast.ai. „Si atunci am crezut ca ar trebui sa citesc ziarul, asa ca am inceput sa citesc hartia si am ramas indignat.
Excluzand citarile, lucrarea are o lungime de 36 de pagini, mult mai verbala decat majoritatea lucrarilor AI pe care le veti vedea si este destul de labirintica atunci cand descrie rezultatele experimentelor autorilor si justificarile pentru constatarile lor.
Kosinski a afirmat intr-un interviu acordat cu Quartz ca, indiferent de metodele documentului sau, cercetarile sale au fost in serviciul persoanelor gay si lesbiene pe care le vede sub asediu in societatea moderna. Aratand ca este posibil, Kosinski doreste sa sune clopotele de alarma pentru ca altii sa ia serios AI care incalca confidentialitatea. El spune ca munca sa sta pe umerii cercetarii care se intampla de zeci de ani – nu reinventeaza nimic, ci doar traduce diferentele cunoscute despre persoanele homosexuale si drepte prin intermediul noilor tehnologii.
„Acesta este algoritmul cel mai usor pe care il puteti utiliza, instruit pe un esantion mic, cu rezolutie mica, cu instrumente off-the-raft, care de fapt nu sunt facute pentru ceea ce le cerem sa faca”, a spus Kosinski. El se afla intr-un loc incontestabil dur: Apararea valabilitatii muncii sale pentru ca incearca sa fie luat in serios, in timp ce presupune ca metodologia sa nu este chiar o modalitate buna de a face aceasta cercetare.
In esenta, Kosinski a construit o bomba pentru a dovedi lumii ca poate. Dar, spre deosebire de un nuke, arhitectura fundamentala a celei mai bune AI de astazi face ca marja dintre succes si esec sa devina necunoscuta si la sfarsitul zilei, exactitatea nu conteaza daca un autocrat ii place ideea si o ia. Dar intelegerea motivului pentru care expertii spun ca aceasta instanta particulara este defectuoasa ne poate ajuta sa apreciem mai pe deplin implicatiile acestei tehnologii.
Stiinta este buna?
Conform standardelor comunitatii AI, modul in care autorii au realizat acest studiu a fost total normal. Iti iei cateva date – in acest caz, erau 15.000 de imagini cu persoane gay si drepte de pe un site web popular de intalniri – si le arati unui algoritm de invatare profunda. Algoritmul propune sa gaseasca tipare in cadrul grupurilor de imagini.
„Nu ar putea fi mai standard”, a spus Howard despre metodele autorilor. „Super standard, super simplu.”
Odata ce algoritmul a analizat acele tipare, acesta ar trebui sa poata gasi modele similare pe imagini noi. Cercetatorii stabilesc de obicei cateva imagini in afara de datele cu care este invatat algoritmul pentru a-l testa si a se asigura ca este de fapt tipare de invatare intre oameni in general si nu doar acele persoane specifice.
Exista doua parti importante aici: algoritmul si datele.
Algoritmul pe care Kosinski si Wang l-au folosit se numeste VGG-Face. Este un algoritm de invatare profunda creat personalizat pentru a lucra cu fete, ceea ce inseamna ca autorii originali ai software-ului, un grup din foarte apreciatul Oxford Vision Lab, au trecut prin multe dureri pentru a va asigura ca se concentreaza pe fata si nu imprejurimile unei fete. S-a dovedit a fi grozav la recunoasterea fetelor oamenilor prin diferite imagini si chiar la gasirea doppelgangerilor oamenilor in arta.
Este important sa va concentrati doar pe fata, deoarece s-a aratat ca algoritmii de invatare profunda preiau prejudecatile din datele pe care le analizeaza. Atunci cand cauta modele intre date, ele ridica tot felul de modele care nu pot fi relevante pentru sarcina prevazuta, dar afecteaza rezultatul deciziei masinii. O hartie care la sfarsitul anului trecut a incercat sa demonstreze ca un algoritm similar ar putea spune daca cineva era un infractor din fata lor – s-a aratat mai tarziu ca datele originale pentru oameni „nevinovati” erau umplute cu oameni de afaceri care purtau gulere albe. Algoritmul s-a gandit daca purtati un guler alb, erati nevinovat.
Locul de munca al cercetatorului AI a trecut in urma cu aproximativ 10 ani. Inainte ca invatarea profunda sa devina norma, cercetatorii au fost nevoiti sa spuna algoritmilor ce tipare sa gaseasca: sa caute distanta dintre spranceana si nas, buze si barbie, etc. Acum, procesul este mai asemanator cu reducerea distragerilor pentru masini, cum ar fi gulerele albe neplacute. Dar, deoarece aceasta noua metoda este reductiva si este innebunit de dificil sa stii ce tipare va gasi algoritmul tau in primul rand, este mult mai greu sa te asiguri ca fiecare distragere a disparut.
Iata unde toate acele fundaluri devin importante: o pretentie principala a autorilor este ca algoritmul lor functioneaza bine, deoarece VGG-Face, algoritmul, nu ia in considerare expresia faciala a persoanei sau nu prezinta o atitudine atat de mare. Mai degraba, ar trebui sa se concentreze pe caracteristici permanente, cum ar fi lungimea nasului sau latimea fetei, deoarece acestea raman consecvente atunci cand recunosc o persoana.
Autorii spun ca acest lucru este necesar deoarece, din moment ce imaginile sunt de pe un site de intalniri, persoanele homosexuale si drepte ar putea folosi diferite expresii faciale, unghiuri ale camerei sau poze pentru a parea atractive in functie de sexul pe care incearca sa-l atraga. Este o idee sustinuta de sociologi si, daca afirmatia dvs. este ca structura faciala este diferita pentru homosexuali si oameni drepti, atunci cu siguranta nu doriti ceva la fel de trecatoare ca o expresie faciala care sa confunde asta.
Kosinski si Wang
O harta termica a locului in care algoritmul arata pentru a detecta semne de homosexualitate
Insa unii cercetatori din AI se indoiesc ca VGG-Face ignora de fapt expresia si pozitia, deoarece modelul nu este folosit pentru utilizarea sa prevazuta, pentru a identifica pur si simplu oamenii. Mai degraba, este folosit pentru a gasi modele complexe intre diferite persoane. Tom White, profesor de design de calcul la Scoala de Design a Universitatii Victoria, spune ca, in experienta sa, VGG-Face este suficient de sensibil la expresiile faciale, incat il poti folosi de fapt pentru a spune doar diferenta dintre ele. Folosind aceiasi parametri ca in hartie, a desfasurat propriul experiment rapid si a constatat ca algoritmul VGG-Face instruit pe imagini cu persoane care fac o fata „trista” poate identifica emotia „trista” in alta parte.
Pe scurt: daca emotia poate fi detectata in testul sau, ea poate fi detectata in Kosinski.
Howard, fondatorul fast.ai, spune ca ar putea exista un motiv pentru asta. Algoritmul VGG-Face pe care oricine il poate descarca si utiliza a fost initial creat pentru a identifica fetele celebritatilor; gandeste-te, cu cine avem fotografii mai usor accesibile decat celebritatile?
Dar cand doriti ca algoritmul sa faca ceva in afara de a spune lui Ashton Kutcher de la Michael Moore, trebuie sa razganditi cunostintele de celebritate. Algoritmii de invatare profunda sunt construiti in straturi. Primul strat poate spune forma unui cap, al doilea gaseste urechile si nasul, iar detaliile devin mai fine si mai fine pana cand se restrange la o persoana specifica din ultimul strat. Dar Howard spune ca ultimul strat, care trebuie eliminat, poate contine, de asemenea, cunostinte care leaga diferite imagini ale aceleiasi persoane, fara a tine cont de poza ei.
Autorii insisi remarca faptul ca factorii confuzi intra in algoritm prin intermediul datelor. De exemplu, ei au descoperit ca barbatii homosexuali si drepti purtau parul facial diferit, iar femeile gay erau mai predispuse sa poarte sepci de baseball.
Aceasta este doar o critica: nu stim sigur ca acest lucru este adevarat si este imposibil de greu de aflat date oferite in lucrare sau chiar daca ai avut algoritmul. Kosinski nu pretinde ca stie toate modalitatile in care ar putea gresi. Dar aceasta posibila explicatie bazata pe testul unui alt cercetator AI arunca indoiala in ideea ca VGG-Face poate fi folosita ca un oracol perfect pentru a detecta ceva despre trasaturile faciale ale unei persoane in timp ce ignora detalii confundante.
Kosinski si Wang
Algoritmul a generat aceste fete optim gay si drepte.
Al doilea aspect al acestei cercetari, in afara de algoritm, sunt datele utilizate pentru a antrena sistemul de recunoastere faciala. Kosinski si Wang scriu ca au strans aproximativ 70.000 de imagini de pe un site internet de intalnire din SUA nedezvaluit. Kosinski refuza sa spuna daca a lucrat cu site-ul de intalniri sau i s-a permis sa descarce imagini din acesta – va spune doar ca Stanford Internal Review Board a aprobat cercetarea.
Cu toate acestea, lucrarea nu indica faptul ca Kosinski si Wang au avut permisiunea de a razi aceste date, iar o revizuire a cuartului a principalelor site-uri de intalniri, inclusiv OKCupid, Match.com, eHarmony si Multitudine de Pesti indica faptul ca razuiesc sau folosesc datele site-urilor pentru cercetarea este interzisa de diferitii Termeni de serviciu.
Un cercetator care foloseste datele unei companii ar putea ajunge, de obicei, din mai multe motive; in primul rand pentru a solicita permisiunea de a utiliza datele, dar si pentru ca o companie moderna de internet aduna de rutina informatii despre utilizatorii sai din datele de pe site-ul sau. Compania ar fi putut dezvalui prejudecati tehnologice sau culturale inerente datelor care trebuie evitate de cercetatori.
Oricum, nu este clar cum imaginile cu persoane preluate de pe site-urile de intalnire si sortate doar in categorii homosexuale si drepte reprezinta cu exactitate sexualitatea lor. Imaginile ar putea fi inselatoare, deoarece oamenii se prezinta intr-o maniera pe care cred ca le va atrage sexul vizat, ceea ce inseamna o probabilitate mai mare de exprimare, machiaj si poza. Acestea sunt caracteristici impermanente, iar autorii chiar remarca faptul ca machiajul poate interfera cu judecata algoritmului. Autorii presupun, de asemenea, ca barbatii care cauta parteneri de sex masculin si femei care cauta parteneri de sex feminin sunt gay, dar asta este o distilare binara, binara, a spectrului sexual, sociologii incearca astazi sa inteleaga.
„De fapt nu avem o modalitate de a masura lucrurile pe care incercam sa le explicam”, spune Philip N. Cohen, sociolog la Universitatea din Maryland, College Park. „Nu stim cine este homosexual. Nici nu stim ce inseamna asta. Este o identitate in care te ridici si spui „sunt homosexual”, este o atractie de baza sau este un comportament? Daca este vreunul din aceste lucruri, nu va fi dicotomic. ”
Cohen spune ca, indiferent de masura, sexualitatea nu este una / sau, dupa cum sugereaza studiul. A masura doar in termeni de homosexual sau drept nu reflecta cu exactitate lumea, ci forteaza in schimb o constructie umana – un semn al stiintei proaste.
In acest sens, Kosinski spune ca studiul a fost realizat in limitele a ceea ce utilizatorii s-au raportat cautand pe aceste site-uri de intalniri si se intoarce la punctul in care cineva care foloseste acest rau nu ar imparti firele de par daca cineva este bisexual sau homosexual. .
Dar numerele?
In pofida exactitatii de 91% raportate in alte puncte de stiri, acest numar provine doar dintr-un scenariu foarte specific.
Algoritmului este prezentat cinci poze, fiecare din doua persoane diferite care cautau acelasi sex sau opus pe site-ul de intalniri si a spus ca una dintre ele este homosexuala. Algoritmul avea atunci o precizie de 91% care desemna care dintre aceste doua persoane avea mai multe sanse sa fie homosexual.
Acuratetea are aici o baza de referinta de 50% – daca algoritmul ar avea mai mult decat atat, ar fi mai bine decat sansa intamplatoare. Fiecare dintre cercetatorii AI si sociologii cu care am vorbit a spus ca algoritmii au vazut incontestabil o anumita diferenta intre cele doua seturi de fotografii. Din pacate, nu stim sigur care a fost diferenta.
Un alt experiment detaliat in lucrare numeste diferenta analizata intre fetele gay si drepte in intrebari suplimentare. Autorii au selectat 100 de persoane aleatorii dintr-un grup mai mare de 1.
agent public porno http://zitanlodge.com/__media__/js/netsoltrademark.php?d=adult69.ro/
filme porno pe la spate http://faldmohistory.com/__media__/js/netsoltrademark.php?d=adult69.ro/
porno traduse http://brkhsa.net/__media__/js/netsoltrademark.php?d=adult69.ro/
calendar porno http://claireryan.info/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/amatori
filme porno cu babute http://newyorkdiplomat.com/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/anal
porno cubabe http://aadhaya.net/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/asiatice
filme online porno http://praxisholdings.com/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/beeg
siteuri de filme porno http://alivewithpleasure.org/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/blonde
porno cu milf http://compassenv.info/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/brazzers
video porno romania http://naswasidc.com/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/brunete
porno show http://ariafinancialservices.com/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/chaturbate
porno tatoase http://phramorakot.com/__media__/js/netsoltrademark.php?d=adult69.ro/menajera-calareste-pula-ca-o-tarfa
gravide porno http://mylifewithmelinda.com/__media__/js/netsoltrademark.php?d=adult69.ro/surorile-decid-ca-e-timpul-de-lins-pizda
porno cu bunica http://scottallard.com/__media__/js/netsoltrademark.php?d=adult69.ro/vedeta-porno-este-pedepsita-cu-un-sex-anal
filme porno incest tata fiica http://tenbiggestmyths.com/__media__/js/netsoltrademark.php?d=adult69.ro/cuplu-de-amatori-fac-sex-in-aer-liber
rio porno http://alsnewamericancafe.com/__media__/js/netsoltrademark.php?d=adult69.ro/studenta-draguta-este-violata-de-colegii-ei-in-baie
orgasme porno http://eveshealinggarden.com/__media__/js/netsoltrademark.php?d=adult69.ro/secretara-surprinsa-de-sef-cand-se-masturba
grase porno http://1stfreedomusa.com/__media__/js/netsoltrademark.php?d=adult69.ro/tarfa-blonda-suge-puli-in-taxi
porno cu fica http://antimoneylaundering-fiba.net/__media__/js/netsoltrademark.php?d=adult69.ro/curva-bronzata-se-straduieste-sa-inghita-pula-negrului
paris porno http://bancosistema.com/__media__/js/netsoltrademark.php?d=adult69.ro/adolescenta-fortata-sa-stea-la-sex-anal
000 de persoane in datele lor. Estimarile din hartie pun aproximativ 7% din populatie drept gay (Gallup spune ca 4% se identifica ca LGBT in acest an, dar 7% din milenii), astfel incat, dintr-o atragere aleatorie de 100 de persoane, sapte ar fi gay. Apoi, ei spun algoritmul pentru a atrage primele 100 de persoane care sunt cel mai probabil sa fie gay din cei 1.000 de oameni.
Algoritmul o face; dar doar 43 de persoane sunt de fapt gay, in comparatie cu cei 70 asteptati sa fie in esantionul de 1000. Restul de 57 sunt drepti, dar prezinta oarecum ceea ce considera algoritmul ca sunt semne ale homosexualitatii. Cel mai increzator, cerut sa identifice primul 1% din homosexualitatea perceputa, doar 9 din 10 persoane sunt etichetate corect.
Kosinski ofera propria sa perspectiva asupra exactitatii: nu-i pasa. Desi acuratetea este o masura a succesului, Kosinski a spus ca nu stie daca este etic sa creeze cea mai buna abordare algoritmica, de teama ca cineva ar putea sa o reproduca, in schimb a optat pentru utilizarea unor abordari in afara raftului.
In realitate, acesta nu este un algoritm care spune persoanelor gay de la oameni drepti. Este doar un algoritm care gaseste tipare necunoscute intre doua grupuri de fete ale persoanelor care se aflau pe un site de intalniri care cauta fie acelasi sex, fie sexul opus la un moment dat.
Revendicarile corespund rezultatelor?
Dupa ce au citit lucrarea lui Kosinski si Wang, trei sociologi si oameni de stiinta de date care au vorbit cu Quartz au pus la indoiala daca afirmatia autorului potrivit careia oamenii gay si drepti au fete diferite este sustinuta de experimentele din lucrare.
„Ceea ce [autorii] afirma ca nu vad dovezile este ca exista diferente fizionomice fixe in structura faciala pe care algoritmul o ridica”, a spus Carl Bergstrom, biolog evolutionist la Universitatea din Washington din Seattle si coautor al blogului Calling Bullshit.
De asemenea, studiul se bazeaza puternic pe cercetarile anterioare care sustin ca oamenii pot spune fetelor gay de pe fetele drepte, ceea ce indica o referinta initiala pentru a demonstra ca masinile pot face o treaba mai buna. Dar aceasta cercetare a fost, de asemenea, criticata si se bazeaza in principal pe imaginile si perceptiile pe care oamenii le detin despre cum arata o persoana homosexuala sau dreapta. Cu alte cuvinte, stereotipurile.
„Aceste imagini apar, in teorie, din experienta si stereotipurile oamenilor despre persoane gay si drepte. De asemenea, arata ca oamenii sunt destul de exacti “, a declarat pentru Quartz, intr-un e-mail, Konstantin Tskhay, un sociolog care a efectuat cercetari cu privire la faptul ca oamenii ar putea spune gay de pe fetele drepte si au citat in lucrarile lui Kosinski si Wang.
Dar, deoarece nu putem spune cu siguranta totala ca algoritmul VGG-Face nu a preluat de asemenea aceste stereotipuri (pe care le vad si oamenii), este dificil sa numim acest instrument de detectare a preferintelor sexuale in loc de stereotip. instrument de detectare
Conteaza stiinta?
Acest tip de cercetare, precum ultima cercetare importanta a lui Kosinski pe Facebook Like-uri, se incadreaza intr-o categorie apropiata de cercetarea „castigarea functiei”.
Cercetarea generala creeaza situatii periculoase pentru a le intelege inainte ca acestea sa se intample in mod natural – cum ar face gripa mult mai contagioasa sa studieze cum ar putea evolua pentru a fi mai transmisibila – si este extrem de controversata. Unii cred ca acest tip de munca, mai ales atunci cand este practicat in biologie, ar putea fi usor tradus in bioterorism sau poate crea accidental o pandemie.
De exemplu, administratia Obama a intrerupt lucrarile la cercetarea GOF in 2014, mentionand ca riscurile trebuie examinate mai mult inainte de a imbunatati virusurile si bolile in continuare. Altii spun ca riscul este in valoare de un antidot la un atac de bioterorism sau de a evita urmatorul focar de Ebola.
Kosinski a apreciat potentialul abuz de utilizare cu munca lui Facebook Like – o mare parte din acea cercetare a fost direct preluata si transpusa in Cambridge Analytica, compania de hiper-targeting folosita in alegerile prezidentiale din 2016 din campaniile Cruz si Trump. El sustine ca nu a scris codul Cambridge Analytica, dar rapoartele de presa indica puternic ca tehnologia sa fundamentala este bazata pe lucrarile sale.
El sustine ca altii foloseau tehnologia hipertargeting-ului inainte de Cambridge Analytica, inclusiv Facebook in sine – si alte persoane folosesc tehnologia de recunoastere faciala pentru a viza oamenii, cum ar fi politia care vizeaza infractorii, acum.
Pe Twitter, in textul hartiei si la telefon, Kosinski creeaza linia dintre provocator si savantul pocait. El insista jurnalistilor ca opera sa este solida si ar trebui sa ne temem de implicatiile AI, expunand in acelasi timp dorinta sa interioara de a fi gresita. El este Paul Revere, dar cel care a publicat lucrari despre cele mai bune modalitati de atacare a britanicilor.
„Nu este o dovada finala”, spune el. „Este doar un studiu si sper sa fie mai multe studii efectuate. Sper ca studiile nu se vor concentra doar pe a vedea daca se reproduce in alte locuri, dar, de asemenea, potentialele alte tipuri de oameni de stiinta o vor privi, cercetatori legali si creatori de politici … si ingineri in departamentele de informaticieni si spun: „Ce putem face face aceste predictii cat se poate de dificile? ‘”
Corectie: O versiune anterioara continea un citat din Bergstrom, care afirma ca Kosinski si Wang nu citeaza cercetari care legau morfologia faciala si sexualitatea. Kosinski si Wang au citat doua lucrari in cercetarile lor, iar Bergstrom a clarificat dupa publicare ca se refera la scanari 3D. De asemenea, a fost adaugata o clauza care da contextul numarului de falsuri pozitive in cercetare.
