In urma cu doua saptamani, o pereche de cercetatori de la Universitatea Stanford au facut o afirmatie uimitoare. Folosind sute de mii de imagini preluate de pe un site de matrimoniale, ei au spus ca au instruit un sistem de recunoastere faciala care ar putea identifica daca cineva era drept sau homosexual doar uitandu-se la ele. Lucrarea a fost abordata pentru prima data de The Economist , iar alte publicatii au urmat in curand, cu titluri precum „Noua AI pot ghici daca esti gay sau direct dintr-o fotografie” si „AI iti poate spune daca esti gay dintr-o fotografie si Este infricosator. ”
Dupa cum ati putut ghici, nu este atat de simplu. (Si, pentru a fi clar, doar pe baza acestei lucrari, AI nu poate spune daca cineva este homosexual sau direct dintr-o fotografie.) Dar cercetarea surprinde temeri comune cu privire la inteligenta artificiala: ca va deschide noi cai de supraveghere si control, si ar putea fi deosebit de daunatoare pentru persoanele marginalizate. Unul dintre autorii lucrarii, dr. Michal Kosinski, spune ca intentia sa este sa sune alarma cu privire la pericolele AI, si avertizeaza ca recunoasterea faciala va putea in curand sa identifice nu numai orientarea sexuala a cuiva, ci opiniile politice, criminalitatea si chiar IQ-ul lor
Cu afirmatii de genul acesta, unii se ingrijoreaza ca reinviem o credinta veche cu o istorie proasta: ca puteti intui personajul din aparenta. Aceasta pseudoscienta, fizionomia, a fost combustibil pentru rasismul stiintific al secolelor XIX si XX si a dat acoperire morala unora dintre cele mai grave impulsuri ale umanitatii: demonizarea, condamnarea si exterminarea semenilor. Criticii lucrarilor lui Kosinski il acuza ca inlocuieste etrierele secolului al XIX-lea cu retelele neuronale ale celui de-al 21-lea, in timp ce profesorul insusi spune ca este ingrozit de constatarile sale si ca este fericit ca a fost dovedit gresit. „Este un subiect controversat si suparator, si ne supara si noi”, spune el The Verge .
Dar este posibil ca pseudoscienta sa se strecoare din nou in lume, deghizata in noi gunoi datorita AI? Unii oameni spun ca masinile sunt pur si simplu capabile sa citeasca mai multe despre noi decat putem noi insine, dar ce se intampla daca le formam pentru a-si indeplini prejudecatile si, facand acest lucru, pentru a da viata noua ideilor vechi pe care le-am respins pe buna dreptate? Cum vom cunoaste diferenta?
AI poate localiza cu adevarat orientarea sexuala?
In primul rand, trebuie sa analizam studiul din centrul dezbaterii recente, scris de Kosinski si coautorul sau, Yilun Wang. Rezultatele sale au fost slab raportate, o multime de hype provenind din prezentari gresite ale exactitatii sistemului. Lucrarea afirma: „Avand in vedere o singura imagine faciala, [software-ul] ar putea face o distinctie corecta intre barbatii homosexuali si heterosexuali in 81% din cazuri si in 71% din cazuri pentru femei.” Aceste rate cresc atunci cand sistemului i se ofera cinci imagini ale unui individ: pana la 91% pentru barbati si 83% pentru femei.
Din acest motiv, suna ca „AI poate spune daca un barbat este homosexual sau direct 81 la suta din timp, uitandu-se la fotografia sa.” (Astfel, titlurile.) Dar nu asta inseamna cifrele. AI-ul nu a fost 81% corect atunci cand au fost afisate fotografii aleatorii: a fost testat pe o pereche de fotografii, una de persoana homosexuala si una de persoana dreapta, si apoi a intrebat care este cel mai probabil sa fie homosexual. A ghicit corect 81% din timp pentru barbati si 71% din timp pentru femei, dar structura testului inseamna ca a inceput cu o valoare de referinta de 50 la suta – asta ar fi ghicit la intamplare. Si desi a fost semnificativ mai bine decat atat, rezultatele nu sunt aceleasi cu aceea ca spun ca poate identifica oricine orientarea sexuala a oricui 81 la suta din timp.
Ca Philip Cohen, un sociolog de la Universitatea din Maryland , care a scris un blog post criticarea lucrarii, a declarat acostament : „Oamenii sunt speriati de o situatie in care aveti o viata privata si orientarea ta sexuala nu este cunoscuta, si tu du – te la un aeroport sau un eveniment sportiv si un computer scaneaza multimea si identifica daca sunteti gay sau drepti. Dar nu exista prea multe dovezi ca aceasta tehnologie poate face asta. ”
Kosinski si Wang fac acest lucru clar catre finalul lucrarii atunci cand isi testeaza sistemul cu 1.000 de fotografii in loc de doua. Acestia solicita AI sa aleaga cine este cel mai probabil sa fie homosexual intr-un set de date in care 7 la suta dintre subiectii foto sunt gay, reflectand aproximativ proportia de barbati drepti si gay din populatia americana. Atunci cand li se cere sa selecteze cele 100 de persoane care sunt cel mai probabil sa fie gay, sistemul primeste doar 47 din 70 de accesari posibile. Restul de 53 au fost identificate incorect. Iar cand li se cere sa identifice un top 10, noua au dreptate.
Daca ai fi un actor rau care incearca sa utilizeze acest sistem pentru a identifica persoanele homosexuale, nu puteti sti cu siguranta ca veti primi raspunsuri corecte. Desi, daca l-ati folosit pe un set de date suficient de mare, este posibil sa obtineti ghici corecte. Este periculos? Daca sistemul este folosit pentru a viza oamenii gay, atunci da, desigur. Dar restul studiului sugereaza ca programul are si alte limitari.
Ce pot vedea calculatoarele cu adevarat ca oamenii nu pot?
De asemenea, nu este clar ce factori utilizeaza sistemul de recunoastere faciala pentru a-si face judecatile. Ipoteza lui Kosinski si Wang este ca identifica in primul rand diferentele structurale: trasaturi feminine in fetele barbatilor gay si trasaturi masculine in fetele femeilor gay. Dar este posibil ca AI-ul sa fie confundat de alti stimuli – cum ar fi expresiile faciale din fotografii.
Acest lucru este deosebit de relevant deoarece imaginile utilizate in studiu au fost preluate de pe un site de intalnire. Dupa cum a mentionat Greggor Mattson, profesor de sociologie la Oberlin College, intr-o postare pe blog, aceasta inseamna ca imaginile in sine sunt partinitoare, deoarece au fost selectate special pentru a atrage pe cineva cu o anumita orientare sexuala. Aproape, cu siguranta, sunt in conformitate cu asteptarile noastre culturale cu privire la modul in care ar trebui sa arate oamenii gay si drepti si, pentru a-si restrange aplicabilitatea, toti subiectii erau albi, fara a include persoane transsexuale sau bisexuale. Daca un barbat drept alege cea mai stereotipica imagine „barbateasca” despre el insusi pentru un site de intalniri, acesta spune mai multe despre ceea ce crede ca vrea societatea de la el decat o legatura intre forma maxilarului sau si orientarea sa sexuala.
Pentru a incerca sa se asigure ca sistemul lor privea doar structura faciala, Kosinski si Wang au folosit un software numit VGG-Face, care codifica fetele ca siruri de numere si a fost folosit pentru sarcini precum identificarea aspectelor de celebritate in tablouri. Acest program, scrie ei, le permite sa „minimizeze rolul [de] trasaturi tranzitorii cum ar fi iluminarea, poza si expresia faciala.
Dar cercetatorul Tom White, care lucreaza la sistemul facial AI, spune ca VGG-Face este foarte bun la preluarea acestor elemente. White a aratat acest lucru pe Twitter si a explicat pentru The Verge prin e-mail cum a testat software-ul si l-a folosit pentru a distinge cu succes fetele cu expresii precum „neutru” si „fericit”, precum si posturi si culoare de fundal.
O figura din lucrare care arata fetele medii ale participantilor si diferenta de structuri faciale pe care le-au identificat intre cele doua seturi. Imagine: Kosinski si Wang
Vorbind cu The Verge , Kosinski spune ca el si Wang au fost explicite ca lucruri precum parul facial si machiajul ar putea fi un factor in luarea deciziilor AI, dar sustine ca structura faciala este cea mai importanta. „Daca te uiti la proprietatile generale ale VGG-Face, aceasta tinde sa puna foarte putina greutate pe trasaturile faciale tranzitorii”, spune Kosinski. De asemenea, furnizam dovezi ca trasaturile faciale netransitive par a fi predictive pentru orientarea sexuala.
Problema este ca nu putem sti cu siguranta. Kosinski si Wang nu au lansat programul pe care l-au creat sau imaginile pe care le-au folosit pentru a-l antrena. Isi testeaza AI-ul pe alte surse de imagine, pentru a vedea daca identifica un factor comun tuturor homosexualilor si dreptilor, dar aceste teste au fost limitate si au tras si dintr-un set de date partinit – imagini din profilul Facebook de la barbati carora le-au placut pagini precum „Imi place fiind Gay ”si„ Gay si Fabulous ”.
Barbatii din aceste grupuri servesc ca reprezentanti rezonabili pentru toti barbatii gay? Probabil ca nu, si Kosinski spune ca este posibil ca munca sa sa fie gresita. „Mai multe studii vor trebui efectuate pentru a verifica [acest]”, spune el. Dar este complicat sa spunem cum s-ar putea elimina complet prejudecata de selectie pentru a efectua un test concludent. Kosinski spune The Verge: „Nu trebuie sa intelegeti cum functioneaza modelul pentru a testa daca este corect sau nu.” Cu toate acestea, acceptarea opacitatii algoritmilor este cea care face ca acest tip de cercetare sa fie atat de incarcat.
Daca AI nu isi poate arata functionarea, putem avea incredere in ea?
Cercetatorii AI nu pot explica pe deplin de ce masinile lor fac lucrurile pe care le fac. Este o provocare care parcurge intregul camp si este uneori denumita problema „cutiei negre”. Din cauza metodelor utilizate pentru a instrui AI, aceste programe nu isi pot arata munca in acelasi mod in care o face software-ul normal, desi cercetatorii lucreaza pentru a modifica acest lucru.
Intre timp, duce la tot felul de probleme. Un lucru obisnuit este faptul ca prejudecatile sexiste si rasiste sunt capturate de la oameni in datele de instruire si reproduse de AI. In cazul operei lui Kosinski si Wang, „cutia neagra” le permite sa faca un salt stiintific special de credinta. Deoarece sunt siguri ca sistemul lor analizeaza in primul rand structurile faciale, ei spun ca cercetarile lor arata ca structurile faciale prezic orientarea sexuala. („Studiul 1a a aratat ca trasaturile faciale extrase de o [retea neuronala] pot fi utilizate pentru a identifica cu exactitate orientarea sexuala atat a barbatilor, cat si a femeilor.”)
Expertii spun ca aceasta este o afirmatie inselatoare care nu este sustinuta de cele mai recente stiinte. Poate fi o cauza comuna pentru forma fetei si orientarea sexuala – cauza cea mai probabila este echilibrul hormonilor in pantece – dar asta nu inseamna ca forma fetei prezice in mod fiabil orientarea sexuala, spune Qazi Rahman, un academic la King’s College London care studiaza biologia orientarii sexuale. „Biologia este un pic mai nuantata decat ii acordam adesea credit”, spune el The Verge . „Problema aici este forta asociatiei.”
Ideea ca orientarea sexuala provine in primul rand din biologie este ea insasi controversata. Rahman, care crede ca orientarea sexuala este in mare parte biologica, lauda munca lui Kosinski si Wang. „Nu este o stiinta necompletata”, spune el. „Mai mult ca stiinta cuiva nu-i place.” Dar cand vine vorba de a prezice orientarea sexuala, el spune ca exista un intreg pachet de „comportamente de gen atipice” care trebuie luate in considerare. „Problema pentru mine este mai degraba ca [studiul] lipseste din punct de vedere si acesta este un comportament.”
Exista o gena homosexuala? Sau sexualitatea este la fel de modelata de societate si cultura?
Reducerea problemei orientarii sexuale catre un singur factor masurabil in organism are o istorie lunga si adesea ingrijoratoare. Dupa cum scrie Matton in postarea sa pe blog, abordarile au variat de la „masuratori din secolul al XIX-lea ale clitorizelor lesbiene si ale soldurilor barbatilor homosexuali, pana la sfarsitul secolului XX sustin ca au descoperit„ gene gay ”,„ creiere gay ”,„ degete inelare gay ”. urechile lesbiene ”si„ parul scalpului homosexual ”.” Impactul acestei lucrari este mixt, dar in cel mai rau caz este un instrument de opresiune: ofera persoanelor care doresc sa dezumanizeze si sa persecute minoritatile sexuale un pretext „stiintific”.
Jenny Davis, lector in sociologie la Australian National University, o descrie ca o forma de esentialism biologic. Aceasta este convingerea ca lucrurile precum orientarea sexuala sunt inradacinate in corp. Ea spune ca aceasta abordare este dubla. Pe de o parte, „face un lucru politic util: detasarea vinovatiei de dorinta de acelasi sex. Dar, pe de alta parte, intareste pozitia devalorizata a acestui tip de dorinta, „instituind hetrosexualitatea ca norma si incadrand homosexualitatea drept„ mai putin valoroasa… un fel de boala ”.
Si atunci cand avem in vedere cercetarile lui Kosinski si Wang in acest context, recunoasterea faciala bazata pe AI ia un aspect si mai intunecat – si anume, spun unii critici, ca parte a unei tendinte de revenire a fizionomiei, alimentata de AI.
Personajul tau, la fel de simplu ca nasul de pe fata
Timp de secole, oamenii au crezut ca chipul detine cheia personajului. Notiunea isi are radacinile in Grecia antica, dar a fost deosebit de influenta in secolul al XIX-lea. Proponentii fizionomiei au sugerat ca masurand lucruri precum unghiul fruntii cuiva sau forma nasului sau, ar putea determina daca o persoana era cinstita sau un criminal. Anul trecut in China, cercetatorii AI au afirmat ca ar putea face acelasi lucru folosind recunoasterea faciala.
Cercetarile lor, publicate ca „Inferenta automatizata asupra criminalitatii folosind imagini pe fata”, au provocat un rau minor in comunitatea AI. Oamenii de stiinta au subliniat defectele studiului si au ajuns la concluzia ca acea lucrare replica prejudecatile umane cu privire la ceea ce constituie o fata „medie” sau „frumoasa”.
xxx porno romanesti http://customerservicesint.com/__media__/js/netsoltrademark.php?d=adult66.net/
filme porno cu mame violate http://adviceaboutcosmeticdentistry.net/__media__/js/netsoltrademark.php?d=adult66.net/
porno spaniol http://drumset.biz/__media__/js/netsoltrademark.php?d=adult66.net/
andreea mantea porno http://oslclaurel.net/__media__/js/netsoltrademark.php?d=adult66.net/filme-porno/amatori
filme porno 720 http://courier-post.net/__media__/js/netsoltrademark.php?d=adult66.net/filme-porno/anal
porno video one http://freedom-email.com/__media__/js/netsoltrademark.php?d=adult66.net/filme-porno/asiatice
filme porno cu rusoaice http://mortgagesizinicin.com/__media__/js/netsoltrademark.php?d=adult66.net/filme-porno/beeg
actori de filme porno http://antihanil.com/__media__/js/netsoltrademark.php?d=adult66.net/filme-porno/blonde
filme porno america http://backonearth.com/__media__/js/netsoltrademark.php?d=adult66.net/filme-porno/brazzers
fiome porno http://yourownportal.com/__media__/js/netsoltrademark.php?d=adult66.net/filme-porno/brunete
porno cu negri http://giansante.net/__media__/js/netsoltrademark.php?d=adult66.net/filme-porno/chaturbate
porno cu indience http://itag.pro/__media__/js/netsoltrademark.php?d=adult66.net/copilatie-de-ejaculari-cu-minore-care-fac-sex-oral
porno hiden cam india http://citizensofhumanityjeans.info/__media__/js/netsoltrademark.php?d=adult66.net/doi-tineri-excitati-fac-sex-fierbinte-pe-o-insula-pustie
porno pe strada http://sdlaser.com/__media__/js/netsoltrademark.php?d=adult66.net/o-gagica-perversa-ii-placa-sa-faca-tot-felul-de-nebunii-cu-iubitul-ei
laura cosoi porno http://notyourpaperdocs.com/__media__/js/netsoltrademark.php?d=adult66.net/o-bruneta-de-18-ani-e-sedusa-si-fututa-de-unu-mai-mare-chiar-in-masina-lui
filme porno sex http://upsvisionvantage.com/__media__/js/netsoltrademark.php?d=adult66.net/o-mulatra-perfecta-face-69-si-se-fute-salbatic-in-pat-cu-iubitul-ei
kendra lust porno http://holoportrait.com/__media__/js/netsoltrademark.php?d=adult66.net/negresa-tatuata-e-fututa-pe-la-spate-tare-de-tot-de-un-actor-de-filme-porno
filme porno romanesi http://flextronicssemi.net/__media__/js/netsoltrademark.php?d=adult66.net/doua-bunaciuni-se-pozeaza-si-se-filmeaza-in-timp-ce-se-mangaie-si-se-excita
poze vedete porno http://paysatellitetvcompany.com/__media__/js/netsoltrademark.php?d=adult66.net/curva-blonda-ii-place-sa-ia-limbi-in-pasarica-si-sa-se-futa-anal
filme porno gratis cu femei cu curu mare http://larx.org/__media__/js/netsoltrademark.php?d=adult66.net/un-tanar-excitat-isi-trezeste-iubita-din-somn-apoi-o-fute-tare
Intr-o respingere impartasita pe larg, intitulata „Hainele fizice fizice ale fizionomiei”, cercetatorul Google Blaise Aguera y Arcas si doi coautori au scris ca ar trebui sa ne asteptam la „mai multe cercetari in anii urmatori, care sa aiba asemanari similare … false asupra obiectivitatii stiintifice pentru a„ spala ” prejudecatile umane si discriminarea. ” (Google a refuzat sa puna la dispozitie Aguera si Arcas pentru a comenta acest raport.)
O ilustrare a fizionomiei din fizionomia De umana a lui Giambattista della Porta
Lucrarea lui Kosinski si Wang recunoaste clar pericolele fizionomiei, mentionand ca practica „este acum universala si pe buna dreptate, respinsa ca un amestec de superstitie si rasism deghizat in stiinta”. Dar, continua, doar pentru ca un subiect este „tabu”, nu inseamna ca nu are nicio baza in adevar. Ei spun ca, deoarece oamenii pot sa citeasca caracteristici precum personalitatea pe fetele altor persoane cu „precizie scazuta”, masinile ar trebui sa poata face acelasi lucru, dar mai precis.
Kosinski spune ca cercetarea sa nu este fizionomie, deoarece foloseste metode stiintifice riguroase, iar lucrarea sa citeste o serie de studii care arata ca putem deduce (cu o exactitate variabila) trasaturi despre oameni, privindu-le. „Am fost educat si facut sa cred ca este absolut imposibil ca fata sa contina informatii despre trasaturile tale intime, pentru ca fizionomia si frenologia erau doar pseudosciente”, spune el. „Dar faptul ca acestia revendicau lucrurile fara nicio baza, ca faceau chestii, nu inseamna ca aceste lucruri nu sunt reale.” El este de acord ca fizionomia nu este stiinta, dar spune ca poate exista adevar in conceptele sale de baza pe care calculatoarele le pot dezvalui.
Pentru Davis, acest tip de atitudine provine dintr-o credinta raspandita si gresita in neutralitatea si obiectivitatea AI. „Inteligenta artificiala nu este de fapt artificiala”, spune ea The Verge . „Masinile invata precum oamenii invata. Suntem invatati prin cultura si absorbim normele structurii sociale, la fel si inteligenta artificiala. Deci, va re-crea, amplifica si va continua pe traiectoriile pe care le-am invatat, care vor reflecta intotdeauna normele culturale existente. “
Am creat deja algoritmi sexisti si rasisti, iar aceste tipuri de prejudecati culturale si fizionomie sunt doar doua parti ale aceleiasi monede: ambele se bazeaza pe dovezi proaste pentru a-i judeca pe ceilalti. Munca cercetatorilor chinezi este un exemplu extrem, dar cu siguranta nu este singurul. Exista cel putin o pornire deja activa care sustine ca poate detecta teroristii si pedofilii folosind recunoasterea fetei si exista multi altii care ofera sa analizeze „inteligenta emotionala” si sa conduca supravegherea generata de AI.
Fata de ceea ce urmeaza
Dar pentru a reveni la intrebarile implicate de acele titluri alarmante despre documentele lui Kosinski si Wang: AI va fi folosit pentru a persecuta minoritatile sexuale?
Acest sistem? Nu. Altul? Poate.
Munca lui Kosinski si Wang nu este invalida, dar rezultatele sale au nevoie de calificari serioase si testari suplimentare. Fara asta, tot ceea ce stim despre sistemul lor este ca poate detecta cu o anumita fiabilitate diferenta dintre persoanele homosexuale homosexuale si albe drepte pe un anumit site de intalnire. Nu stim ca este observata o diferenta biologica comuna tuturor oamenilor gay si drepti; nu stim daca ar functiona cu un set mai larg de fotografii; iar lucrarea nu arata ca orientarea sexuala nu poate fi dedusa cu nimic altceva decat, sa zicem, o masurare a maxilarului. Nu este decodificata sexualitatea umana mai mult decat chatbots-urile AI au decodat arta unei conversatii bune. (Nici autorii sai nu fac o asemenea afirmatie.)
Startup Faception sustine ca poate identifica cat de probabile sunt oamenii teroristi doar uitandu-se la fata lor. Imagine: Faction
Cercetarea a fost publicata pentru a avertiza oamenii, spune Kosinski, dar recunoaste ca este un „paradox inevitabil” ca, in acest sens, trebuie sa explici cum ai facut ceea ce ai facut. Toate instrumentele utilizate in lucrare sunt disponibile pentru oricine sa le gaseasca si sa isi alature singure. Scriind pe site-ul de invatare profunda Fast.ai, cercetatorul Jeremy Howard concluzioneaza: „Este probabil [sic] sa presupunem ca multe organizatii au finalizat deja proiecte similare, dar fara a le publica in literatura academica.”
Am mentionat deja startup-urile care lucreaza la aceasta tehnologie si nu este greu sa gasesti regimuri guvernamentale care sa o foloseasca. In tari precum Iranul si Arabia Saudita homosexualitatea este inca pedepsita cu moartea; in multe alte tari, a fi homosexual inseamna a fi hartuit, incarcerat si torturat de stat. Rapoarte recente au vorbit despre deschiderea de lagare de concentrare pentru barbati gay in Republica Ceha, deci daca se intampla daca cineva acolo decide sa-si faca propria AI gaydar si sa scaneze imagini de profil din social media ruseasca?
Aici, devine clar ca precizia unor sisteme precum Kosinski si Wang nu este chiar ideea. Daca oamenii cred ca AI poate fi folosit pentru a determina preferintele sexuale, il vor folosi. Avand in vedere acest lucru, este mai important ca niciodata sa intelegem limitarile inteligentei artificiale, sa incercam sa neutralizam pericolele inainte sa inceapa sa afecteze oamenii. Inainte de a invata masinile prejudecatile noastre, trebuie sa ne invatam mai intai pe noi insine.
