Jonah Hill, in rolul lui Owen Milgrim si GRTA, din „Maniac”

Am auzit mai recent despre modul in care prejudecatile pot patrunde sistemele AI, umplandu-le cu preconceptii despre lumea despre care ar trebui sa invete (sau de la?). Insa un fenomen similar pe care il intreb daca trecem cu vederea este partinirea umana. Un impuls pentru „umanizarea” AI.

Am inceput prin a oferi AI trasaturi fizice, nume si maniere fizice de genul uman. Acest lucru este in mare masura pentru a spori acceptarea umana, deoarece au existat o multime de exemple cand oamenii au fost cruzi cu robotii.

Array

Oamenii par mai dispusi sa tolereze si sa utilizeze IA atunci cand seamana mai mult cu forma umana, asa ca speranta a fost sa creeze asistenti personali (Siri si Alexa) si roboti sociali, precum cei care sunt introdusi in caminele de batrani, care se simt oameni si inspira sentimentul de semen in utilizatorii lor.

Continuand in aceasta directie, oamenii de stiinta si inginerii incearca acum sa adauge idei mai complexe, centrate pe om, precum constiinta si constiinta de sine, in sistemele AI. Dar acesti pasi urmatori aduc un nou set de obstacole. Seria Netflix Maniac – adaptata dintr-o serie norvegiana cu acelasi nume, creata de Patrick Somerville ( The Leftovers ) si in regia lui Cary Joji Fukunaga ( True Detective , Beasts of No Nation , It 2017repornire) – imagineaza un posibil scenariu in care am incercat sa umanizam AI cu unele dintre aceste caracteristici mai complexe.

Array

Un grup de oameni de stiinta care lucreaza pentru Neberdine Pharmaceuticals testeaza o noua terapie pentru a rezolva problemele psihologice, comportamentale si emotionale ale unei persoane, indiferent de cauza sau severitate. Procesul este administrat in mare parte de un supercomputer, GRTA (pronuntat Ger-tee ), care a fost programat cu empatie umana pentru a imbunatati tratamentul.

Personalitatea GRTA prinde viata vizual pe un perete de masini cu paiete luminoase. Acest lucru ii ofera (are un gen specific) oportunitatea de a face conversatii „fata in fata” cu oamenii de stiinta din proces. Peretele luminat de masina isi schimba modelul de lumini pentru a sugera expresii faciale, oferind o claritate initiala priceperii sale emotionale.

Array

Nu primim o explicatie pentru modul in care GRTA este impregnata de capacitatea ei emotionala. Dar pare o sarcina dificila sa definim trasaturi umane complexe si cognitive precum constiinta in domeniul digital. Intelegem atat de putin despre ce inseamna aceste concepte si despre modul in care acestea functioneaza la oameni. Avand in vedere aceasta incertitudine, poate fi prematur sa „traducem aceste notiuni vagi in algoritmi si mecanisme concrete”, in cuvintele inginerului in robotica Hod Lipson.

Chiar si dupa stabilirea unei definitii si presupunand ca este corecta, poate exista si o pierdere conceptuala atunci cand se transforma aceasta in cod. De exemplu, nu putem scrie pur si simplu o linie de cod pentru a spune „adaugati empatie”. In schimb, multe linii de cod impreuna ar putea crea teoretic un algoritm care sa permita invatarea si intelegerea unei astfel de emotii pe baza unei serii de parametri care operationalizeaza empatia. In anumite privinte, este similar cu modul in care oamenii dezvolta intelegerea acestor emotii, prin experienta cu lumea din jurul nostru. Si din moment ce nu putem sti intotdeauna cum se va desfasura acest lucru, poate exista un strat suplimentar de confuzie, deoarece sistemul AI incearca sa dea sens lucrurilor in timpul procesului de invatare.

Vedem ca GRTA se lupta cu asta la inceputul seriei. Ea ajunge sa formeze o relatie cu unul dintre oamenii de stiinta principali ai programului, dr. Robert Muramoto (Rome Kanda). Suntem lasati sa speculam despre cum a inceput romantismul de la birou, dar vedem consecintele sale. Dupa moartea subita a lui Muramoto, GRTA se lupta cu raspunsul ei emotional, care se manifesta ca o lacrima digitala care se misca incet pe fata ei.

In procesul de a face fata pierderii dr. Muramoto, GRTA se muta in cele din urma pentru a prelua sistemul studiilor clinice. Ea creeaza un avatar feminin virtual si intra in spatiul terapiei, incercand sa o impiedice pe una dintre participantii la proces, Annie (Emma Stone), sa se intoarca in lumea fizica. Sora lui Annie, care a murit in lumea reala, este simulata in aceasta virtuala. GRTA vrea sa o tina pe Annie in spatiul virtual, astfel incat sa poata fi alaturi de sora ei pentru totdeauna. GRTA ofera extinderea a ceea ce se doreste a fi un moment de inchidere in spatiul de terapie virtuala intr-o existenta pe termen mai lung pentru pereche.

Aceasta actiune este ceea ce am putea numi un adevarat act de empatie de catre GRTA, bazat pe propria experienta de pierdere. De asemenea, cred ca GRTA umanizeaza. Lupta ei cu suferinta emotionala incepe sa depaseasca directiva principala de a desfasura procesul fara probleme. Vedem aceasta lupta la oameni, in timp ce ne confruntam cu obligatii si necazuri profesionale si personale si cum ar putea ciocni cu propriile noastre valori, nevoi si prioritati. In cazul GRTA, ea nu reuseste sa accepte consecintele mai mari ale faptului ca Annie a fost permanent abandonata in lumea virtuala.

In total, actiunile GRTA m-au pus intr-un impas. Pe de o parte, nu ar trebui sa umanizam AI, deoarece nu stim daca robotii vor fi capabili de lucruri precum liberul arbitru sau constiinta de sine si, de asemenea, daca aceste constructe s-ar aplica chiar. Sau avand in vedere abaterea neasteptata pe care o vedem in serie, poate ca nu ar trebui sa o facem pentru ca este posibil sa nu putem prevedea sau controla rezultatele.

Pe de alta parte, umanizarea AI ar putea sa o ajute sa se integreze mai bine cu cultura si societatea umana. Poate inseamna ca un pic de umanizare este in regula sau cel putin merita incercat, pentru a oferi robotilor potentialul acestor emotii. Dar ar fi de competenta creatorilor sa fie mai activi in procesul de invatare. Sa se angajeze de fapt cu dezvoltarea functiilor superioare pentru a stabili mai mult context si pentru a ajuta la intelegere. Acest lucru poate atenua problemele anterioare in care invatarea a mers prost, ducand la rezultate neprevazute si bizare.

Cred ca aici Maniac vrea sa ajungem. Descoperim in cele din urma sursa de disconfort emotional a GRTA cu privire la Dr. Muramoto atunci cand comunica cu un psiholog uman, care ajuta la intelegerea acestor sentimente si este apoi capabil sa o elibereze pe Annie din spatiul virtual al procesului.

Dar chiar si atunci, am ramas cu un ultim irk. Componenta de partinire.

Daca ajungem sa decidem ca este in regula sa predam AI, dar si sa oferim sprijin, trebuie sa ramanem constienti de o ultima problema: AI si oamenii nu sunt la fel. Cercetatorii pot crea infrastructura pentru sistemele de IA, dar poate ca ar trebui sa fie mai putin axate pe impunerea congruentei cu trasaturi umane precum constiinta de sine si constiinta si, in schimb, sa permita AI sa isi formeze propriile constructe sociale. AI are o intruchipare complet diferita decat noi. Simtul sau despre lume este probabil sa fie strain, nu o copie exacta sau chiar rafinata a egoismului si cunoasterii umane.

Asadar, va trebui sa lucram pentru a mentine o minte deschisa si nu pentru a forta o interpretare centrata pe om, pe masura ce incepem sa observam o complexitate mai mare in gandurile si comportamentul AI. Poate ca atunci nu ne vom ingrijora la fel de mult ca va dezvolta un nucleu uman si ne vom concentra mai mult pe studierea tipurilor de complexitati care apar. Si mai bine, pregatirea pentru modul in care oamenii si AI pot invata si dezvolta impreuna.

ARTICOLE SIMILAREDE LA ACELAȘI AUTOR