Concluzia: trebuie sa extindem dezbaterea despre IA

SPACE10

6 noiembrie 2017

·

12

min citit

Aproape 12.000 de persoane din 139 de tari au participat la sondajul nostru AI – Do You Speak Human? – iar gama raspunsurilor lor sugereaza ca trebuie sa avem o dezbatere mult mai larga despre dezvoltarea AI.

Traim in era inteligentei artificiale si abia chiar ne dam seama. AI explica ce vedem in fluxul nostru de stiri de pe Facebook, modul in care Netflix determina ce ar trebui sa urmarim in continuare si de ce Google Maps poate prezice spre ce ne indreptam atunci cand sarim in masina.

Si acesta este doar inceputul. Din ce in ce mai mult, vom vedea forme de viata computerizate in casele noastre, masinile noastre, bunurile noastre de uz casnic – tehnologie tesuta chiar in tesatura vietii noastre, traind alaturi de noi si luand decizii in numele nostru.

(In cele din urma, probabil, vom asista la Singularitate – acel moment in care computerele „depasesc oamenii in inteligenta si incep o bucla de feedback de schimbare de neinteles”, asa cum a spus recent Wired.)

Cu toate acestea, aparitia AI ridica mai multe intrebari etice spinoase, de la facilitarea potentiala a unei culturi de supraveghere pe scara larga, la dependenta sa de algoritmi cu prejudecati nedetectabile si de la intarirea stereotipurilor de gen pana la problema complicata a drepturilor robotilor. ”

Sophia, vorbind in videoclipul de mai sus, este primul robot care primeste cetatenia – de catre Arabia Saudita, in octombrie 2017

Departe de a fi ipotetice, multe dintre aceste intrebari se grabesc spre viteza luminii. In ultimele saptamani, „umanoidul cu ochii goi” Sophia a acordat cetatenia Arabiei Saudite (nu exista rapoarte cu privire la faptul ca are voie sa conduca), stiri ca analizatorul de sentimente Google „crede ca a fi gay este rau”, lansarea unui robot cu un numele femeii care iti spala rufele si raporteaza ca un fost executiv Google vrea sa dezvolte un zeu AI.

Array

La SPACE10 – laboratorul extern de viata al IKEA – credem ca este timpul sa intensificam discutia despre AI si intrebarile etice esentiale pentru dezvoltarea sa. Credem ca domeniul ar putea necesita un raspuns de reglementare mai robust si salutam eforturile societatii civile de a da o lumina asupra terenului si de a pune intrebari probatorii despre dezvoltarea acestuia.

Mai presus de toate, vrem sa vedem o mai mare consideratie a tipului de relatie pe care oamenii vrem sa o stabilim cu aceasta tehnologie emergenta. La inceputul acestui an, pentru a declansa o astfel de conversatie si a incuraja mai multi oameni sa se gandeasca la aceasta problema – de fapt, pentru a „democratiza AI de maine” – SPACE10 a lansat Do You Speak Human? , un sondaj despre inteligenta artificiala.

Aproape 12.000 de persoane din 139 de tari, reprezentand o gama larga de varste si medii, au participat la sondaj, care a cautat puncte de vedere cu privire la modul in care ar trebui proiectata IA. Rezultatele ne-au surprins. Majoritatea oamenilor prefera ca masinile cu infuzie artificiala sa fie de tip uman, nu robotizate. De fapt, 73% dintre respondenti au spus ca vor ca AI sa fie asemanatoare omului; 85 la suta doresc ca IA sa poata detecta si reactiona la emotii; iar 69 la suta doresc ca AI sa reflecte valorile si viziunea noastra asupra lumii.

Luate impreuna, rezultatele sondajului sugereaza ca oamenii prefera AI sa aiba caracteristici umane precum voci, personalitati si raspunsuri emotionale.

Array

Videoclipul de mai sus prezinta Do You Speak Human? – sondajul nostru AI pe care l-au luat aproape 12.000 de persoane

Imaginati-va un asistent digital virtual, cum ar fi Siri sau Alexa, peste 10 ani: mult mai inteligent, cu siguranta si cu o voce si o personalitate esential umana si o gama de conversatie care inseamna ca am putea conversa cu el ca si cum ar fi cel mai bun prieten al nostru – si cel mai probabil dezvolta o relatie stransa cu aceasta. Acest lucru ar schimba fundamental relatia noastra cu tehnologia – facand imperativ sa avem o dezbatere publica despre ce fel de IA dorim si consecintele alegerilor noastre.

Joanna J. Bryson este una dintre cele mai importante cercetatori din lume in domeniul AI. Profesor asociat la Universitatea din Bath si afiliat al Centrului Princeton pentru Politica Tehnologiei Informatiei, crede ca ar fi o greseala sa consideram AI ca o persoana. „Daca ai avut ceva care este o alta persoana care este de fapt o persoana, este in regula”, ne-a spus ea. „Avem asta – ii numim prieteni si familii. Dar daca ai avea o masina care sa fie exact ca o persoana, atunci ai avea-o. Detinem artefacte.

Array

Ati fi proprietarul unei persoane si suntem cu totii de acord ca este gresit ”.

Julie Carpenter, un autor din Oregon, a carui cercetare academica se concentreaza pe interactiunile om-robot, spune ca contextul este cheia – impreuna cu gradul in care AI este intruchipata si prezenta fizic. „Daca este o aplicatie pentru telefon, sunt increzatoare ca pot sa opresc telefonul sau sa il arunc prin camera”, ne-a explicat ea. „Daca exista un robot in spatiul meu fizic, atunci forma devine foarte importanta. Forma imi da indicii despre cum sa interactionez cu ea, ce poate si ce nu poate face si, eventual, daca poate sau nu sa-mi faca rau cumva. ”

De la ingrijire la companie, eliminarea sarcinilor plictisitoare pana la crearea mai multor timp liber, AI este probabil sa ofere beneficii inimaginabile vietii multor oameni. Desi prezinta si riscuri, este putin probabil ca o armata de roboti cu ochi rosii sa se ridice si sa ne distruga pe toti. (Cel putin nu in curand.)

De fapt, povestile alarmiste in aceasta directie tind sa rezume doar „scenariul de care cercetatorii AI nu isi fac griji”, spune Max Tegmark al MIT, care a fondat Institutul Viitorului Vietii, care urmareste sa atenueze riscurile existentiale cu care se confrunta omenirea, inclusiv cele pe care le prezinta.

de AI. Tegmark considera ca ar trebui sa ne concentram in schimb asupra a ceea ce inseamna a fi om in era AI, a ceea ce am vrea sa insemne si a modului in care ajungem acolo.

Suntem de acord. Aceasta este o dezbatere pe care trebuie sa o avem, nu in ultimul rand pentru ca amenintarile prezentate de AI astazi provin din creatorii sai umani. Acestea includ aparitia unei culturi de supraveghere raspandite si – asa cum vom vedea in continuare – algoritmi cu partiniri alarmant nedetectabile.

Majoritatea asistentilor virtuali au vocile femeilor – chiar daca sunt oficial fara gen. Si exista un motiv pentru asta. „Siri, Alexa, Cortana si Google Home au voci feminine, deoarece vocile femeilor castiga mai multi bani”, a explicat Quartz. „Creatorii de boturi sunt condusi in primul rand de succesul prezis pe piata, care depinde de satisfactia clientilor – si clientii ca servitorii lor digitali sa para ca niste femei.” Studiile stiintifice arata intr-adevar ca oamenii prefera in general vocile femeilor decat barbatii.

Pana acum, atat de interesant. Dar exista o mare problema aici, pentru ca, in timp ce oamenii prefera vocea unei femei in locul barbatilor, conform sondajului nostru, o multime de oameni (45%) prefera ca AI sa fie ascultatori (cifra creste la 51% pentru America de Nord).

Deducerea este ca multi oameni ar dori intr-adevar asistente ascultatoare. Exact ceea ce primim de la gigantii tehnologici de astazi – asistenti buni, cu voce feminina, precum Siri si Cortana, la comanda noastra.

Este acesta genul de lume in care dorim sa creasca copiii, in care sunt inconjurati de servitoare care slujesc, care par adevarate, sunt intotdeauna ascultatoare si capabile sa-si indeplineasca nevoile inainte de a cere?

La inceputul acestui an, Quartz a testat cei mai cunoscuti asistenti digitali pentru a vedea daca vor rezista hartuirii sexuale. Concluziile au fost sumbre. Siri de la Apple, Alexa de la Amazon, Cortana de la Microsoft si Google Home „impiedica stereotipurile de supunere a femeilor” si afiseaza o gama „alarmant de inadecvata” de raspunsuri la hartuirea sexuala – de la flirt, la esecul intelegerii majoritatii intrebarilor despre agresiunea sexuala, pana la regie utilizatori pe site-uri porno. (I s-a spus „Suge-mi pula”, Siri a raspuns cu „As inrosi daca as putea”, adica „flirteaza literalmente cu abuzul”, dupa cum a mentionat Quartz.)

Pornind de la filozofi precum Kant, s-ar putea argumenta ca ar trebui sa tratam animalele uman ca pe un sablon pentru tratarea oamenilor si ca exista o panta alunecoasa, de la a face rau animalelor la a face rau oamenilor. S-ar putea spune acelasi lucru despre AI, mai ales daca ia o forma mai umana? Poate sexismul fata de femeie sau AI sunatoare sa duca la sexism fata de femeile reale?

Bryson crede ca ar putea. „Exista o multime de ingrijorari cu privire la modul in care oamenii vor fi socializati daca sunt crescuti si au relatii intime cu lucruri pe care le pot activa sau dezactiva dupa bunul plac”, spune ea. „Acest lucru ar putea duce foarte usor la obiectivarea femeilor.”

Astazi, cu aproape 12.000 de persoane care au participat la sondaj, putem observa o diviziune clara intre sexe: doar 30% dintre respondenti erau femei, ceea ce, desigur, va afecta rezultatul. Cu toate acestea, daca il comparam cu industria tehnologica in general, proportia femeilor care au participat la sondaj este de fapt mai mare decat procentul de femei care ocupa locuri de munca de conducere in Silicon Valley (din aprilie 2016) – si putin mai mare decat procentul de femei in slujbe de tehnologie.

Tehnologia care apare din Silicon Valley reflecta acest dezechilibru? „Daca cei care invata computerele sa actioneze ca oamenii sunt doar barbati, exista o mare probabilitate ca produsele rezultate sa fie partinitoare de gen”, a raportat BBC anul trecut. Cu alte cuvinte, o mana de companii de tehnologie dezvolta AI care ne va influenta toata viata in viitor – iar acele companii sunt coplesitor de barbati. In plus, modul in care AI obiectiveaza femeile si perpetueaza stereotipurile ar putea, de asemenea, sa descurajeze mai multe femei sa intre in industria tehnologica, exacerband in continuare problema.

Asistentii virtuali ascultatori nu sunt singura manifestare a prejudecatii potential ascunse in AI. Luati in considerare algoritmi proprietari care sunt folositi, sa zicem, pentru a clasifica profesorii sau pentru a decide cine primeste un interviu de angajare, un imprumut, asigurare sau conditionata.

„Biasul algoritmic se contureaza pentru a fi o problema sociala majora intr-un moment critic al evolutiei invatarii automate si AI”, a explicat Will Knight in MIT Technology Review. „Daca tendinta care se ascunde in interiorul algoritmilor care iau decizii din ce in ce mai importante ramane nerecunoscuta si necontrolata, ar putea avea consecinte negative grave, in special pentru comunitatile si minoritatile mai sarace”.

De exemplu, in 2014, Comisia Federala pentru Comert a avertizat ca va reprima intreprinderile care foloseau datele mari pentru a discrimina grupurile cu venituri mici si minoritatile, in urma ingrijorarii ca comunitatile cu venituri mici sunt vizate pentru imprumuturi cu dobanda mare online. Intre timp, politia din Oakland a abandonat o forma de tehnologie de predictie, pe fondul temerilor ca va duce la opriri mai disproportionate ale afro-americanilor, hispanicilor si altor minoritati. In ciuda afirmatiilor ca tehnologia ar putea duce la o forma de profilare rasiala, este inca utilizata in mai multe orase din SUA, inclusiv New York si Chicago.

Potrivit lui Bryson, prejudecatile apar din cauza modului in care este dezvoltata AI. „Oamenii chiar se asteapta ca IA sa fie mai buna decat oamenii, sa fie perfect neutra. Asta in parte, pentru ca nu au nicio idee despre ce este inteligenta si de unde provine. Este calcul, nu matematica ”, spune ea. „Motivul pentru care AI merge atat de repede in acest moment este ca ne-am priceput foarte bine sa luam toate calculele pe care le-am facut inainte si sa le punem in masini. Din pacate, ceea ce am invatat deja include tot felul de prejudecati societale. Prejudecatile sunt lucruri pe care, daca te uiti doar la lume, le vei vedea ”.

Conform sondajului nostru, 69% dintre oameni ar dori ca IA sa reflecte valorile si viziunea asupra lumii. Nu este greu sa ne imaginam consecintele AI programate pentru a face acest lucru. La urma urmei, exista deja. Facebook ofera un flux de stiri curatat, condus de algoritmul sau puternic, asigurandu-ne ca vedem continut extrem de individualizat. Si Google filtreaza rezultatele cautarii pe baza locatiei noastre si a cautarilor si clicurilor anterioare.

Impreuna, ei si alte motoare de cautare si forme de social media creeaza „bule de filtrare” care ne servesc pentru a ne separa de rasa, sex, clasa si politica si, in mod ironic, ne lasa mai putin informati. Nu ar fi efectul bulei de filtrare exacerbat doar de AI care reflecta valorile si viziunea noastra asupra lumii si a invatat sa ne intareasca opiniile, mai degraba decat sa le provoace?

Bulele filtrante sunt o consecinta a IA. Videoclipul BBC de mai sus explica cum sa iti explodezi propriul filtru

Joanna Bryson nu este surprinsa de faptul ca oamenii vor AI care sa le reflecte opiniile. „Si asta vrem de la guvernul nostru”, spune ea. „Am dori ca guvernul nostru sa reflecte viziunea noastra asupra lumii. Vrem, in principiu, parteneri de coalitie ”.

Sondajul i-a intrebat pe oameni daca doresc ca AI sa fie religioasa – si 26% au spus ca vor face acest lucru. Nu ne putem imagina decat consecintele unei forme de IA care este antrenata de texte religioase si care reflecta si intareste din ce in ce mai mult o viziune ortodoxa, religioasa asupra lumii.

Iar aceasta notiune nu este atat de exagerata pe cat pare. Potrivit lui Wired, un fost executiv Google a fondat o organizatie religioasa numita Calea viitorului. Misiunea sa? „Dezvoltarea si promovarea realizarii unei Divinitati bazate pe inteligenta artificiala si prin intelegerea si venerarea Dumnezeirii contribuie la imbunatatirea societatii.”

Solutia pe termen scurt este de a repara algoritmi prost conceputi. Matematicianul Cathy O’Neil, autorul cartilor Arme de distrugere a matematicii: Cum creste Big Data inegalitatea si ameninta democratia, a declarat podcastului de 99% invizibil ca transparenta si masurarea sunt cheia si ca „cercetatorii trebuie sa examineze cazurile in care algoritmii esueaza, acordand o atentie speciala oamenii pe care acestia esueaza si ce demografie este afectata cel mai negativ de acestia ”.

Dar daca solutia de rezolvare a algoritmilor partinitori este solutia, asa cum a sustinut recent MIT Technology Review, „modelele matematice opace si potential partinitoare ne refac viata – si nici companiile responsabile de dezvoltarea lor, nici guvernul nu sunt interesate sa solutioneze problema”.

Solutia pe termen mai lung, deci, este diversificarea industriei tehnologice. „Daca nu luam la masa femei si oameni de culoare – tehnologi adevarati care fac treaba reala – vom influenta sistemele”, a declarat Melinda Gates pentru Wired. „Incercarea de a inversa ca peste un deceniu sau doi va fi mult mai dificila, daca nu aproape imposibila”.

Intr-un interviu recent acordat revistei Ozy, Rumman Chowdhury, lider global de inteligenta artificiala responsabila la Accenture, a sustinut ca persoanele care dezvolta AI ar trebui sa fie instruite pentru a detecta potentialele prejudecati. „Trebuie sa proiectam aceste solutii avand in vedere fiintele umane”, a explicat ea. „As prefera sa am un departament de pompieri in loc inainte sa apara un incendiu.”

Bryson merge mai departe si spune ca IA este o problema politica si la nivelul necesitarii reglementarii, asa cum au facut atat arhitectura, cat si medicina. Cu toate acestea, spune ea, „AI este transnationala, mai degraba ca un ecosistem si niciun guvern nu il poate reglementa izolat”.

„Software-ul a trecut de la a fi o gramada de jucarii si instrumente la a fi ceva care este de fapt nucleul structurii noastre sociale umane.”

Carpenter este, de asemenea, direct in legatura cu necesitatea de a dezbate modul in care dezvoltam si folosim AI si doreste sa vada designerii, dezvoltatorii si expertii in AI sa ajute la elaborarea politicilor sau legilor. „Interactionam cu tehnologia intr-un mod fundamental diferit”, sustine ea.

„Nu mai este doar un instrument, deoarece interactionam cu el in moduri care nu sunt doar sociale, ci si semnificative din punct de vedere emotional”.

Cu toate acestea, in ultimele luni au aparut aparitia a ceea ce s-ar putea numi miscarea etica a IA. Scriind in New York Times anul trecut, cercetatorul Microsoft, Kate Crawford, a sustinut ca AI are o „problema cu tipul alb”. Ea a fondat AI Now Institute, dedicat studierii impactului social al inteligentei artificiale. Au aparut organizatii similare pentru a incerca sa se asigure ca AI este dezvoltat etic si responsabil, inclusiv AI4ALL, o organizatie non-profit americana care „lucreaza pentru a creste diversitatea si incluziunea in inteligenta artificiala”.

SPACE10 sustine aceasta miscare. AI este la fel de umana si de partinitoare precum oamenii care o fac – indiferent cat de constient. Incepand de astazi, transparenta, diversitatea si responsabilitatea ar trebui sa fie punctul central al dezvoltarii AI.

Vorbesti uman? reprezinta explorarea noastra a abilitarii digitale si a rolului AI. Pentru a continua conversatia despre viitorul AI si modalitati de crestere a diversitatii in dezvoltarea sa, va invitam sa ne alaturati – si sa participati la sondaj, daca nu ati facut-o inca. Numai prin extinderea dezbaterii putem asigura o IA etica care sa deserveasca multi oameni. La urma urmei, dupa cum spune Rumman Chowdhury: „Ne indreptam in directia pe care o trimitem noi insine”.

Va invitam sa participati la sondaj pe www.doyouspeakhuman.com

Toate ilustratiile lui Sandy van Helden.

ARTICOLE SIMILAREDE LA ACELAȘI AUTOR