A spune AI sa nu se reproduca este ca si cum le-ai spune adolescentilor ca pur si simplu nu fac sex

169

Oamenii au capacitatea de AI sigura? Istoricul nostru arata ca inovatiile si progresele tehnologice sunt pline cu consecinte nedorite.

Cine stia ca adoptarea pe scara larga a social-media va duce la campanii de dezinformare menite sa submineze democratia liberala, cand initial s-a crezut ca va creste implicarea civica? La urma urmei, AI nu permite doar dezvoltarea vehiculelor autonome, ci si arme autonome. Cine vrea sa contemple un viitor posibil in care AI-ul constient de sine devine deprimat catatonic in timp ce detine coduri de lansare nucleara?

In timp ce asteptam cu nerabdare un viitor in care oamenii folosesc AI pentru a ne imbunatati existenta, trebuie sa luam in considerare ce masuri se fac pentru a ne duce acolo. In special, ar trebui sa ne preocupam de faptul ca AI este dezvoltat pentru a se reproduce, potential incorporarea prejudecatilor in algoritmii care vor sustine si ne vor conduce maine – si le vom repeta, in scris.

Consecintele acestui fapt ar putea fi grave. Pentru ca a gresi inseamna a fi om, a face lucruri cu adevarat penibile necesita un computer.

Invatarea a invata

AI va deveni in curand capabil de auto-replicare – de a invata si de a se crea in propria imagine. Ceea ce impiedica in prezent IA sa invete „prea repede” si sa iasa sub control, este ca necesita o cantitate mare de date pentru a fi instruiti. Pentru a pregati un algoritm de invatare profunda pentru a recunoaste o pisica cu nivelul de expertiza al unui fan-pisica, trebuie mai intai sa-i hraniti zeci sau chiar sute de mii de imagini cu feline, captand o cantitate imensa de variatie in dimensiune, forma, textura, iluminare , si orientare. Ar fi mult mai eficient daca, la fel ca o persoana, un algoritm ar putea dezvolta o idee despre ceea ce face ca o pisica sa fie o pisica din mai putine exemple, la fel cum noi oamenii nu trebuie sa vedem 10.000 de pisici pentru a recunoaste o singura iesire pe strada.

O pornire bazata pe Boston, Gamalon, a fost pioniera in tehnica pe care o numeste „sinteza programului bayesian” pentru a construi algoritmi capabili sa invete din mai putine exemple. Un program probabilistic poate determina, de exemplu, ca este foarte probabil ca pisicile sa aiba urechi, bici si cozi. Pe masura ce sunt furnizate alte exemple, codul din spatele modelului este rescris, iar probabilitatile sunt modificate. La un moment dat, programul AI preia, iar modelele sunt create de unul singur. Cu alte cuvinte, invata cum sa se invete pe sine in loc sa avem nevoie sa o invatam.

Initial, AIs auto-replicate par o idee rentabila. In mare parte, aceasta rezulta din faptul ca exista doar un grup mic de oameni care poseda educatia, experienta si talentul necesare pentru a crea algoritmii care stau la baza AI. In timp ce AI este o parte cheie a noilor tehnologii scalabile, exista un blocaj uman cu doar 300.000 de ingineri AI pe planeta, potrivit companiei chineze de tehnologie Tencent. Pentru a continua ritmul in care mergem, vom avea nevoie de milioane. Pentru a compara, Mensa are doar 134.000 de membri.

Genius are o oferta redusa. Daca dorim sa vedem in curand reduceri de costuri si castiguri de productivitate in industrie, AI care se pot invata sunt o forta necesara pentru crearea economiei bazate pe AI.

Se depun eforturi de meta-invatare AI, pentru a accelera ritmul in care AI poate fi dezvoltat si implementat. De exemplu, Alphabet are un proiect Google numit AutoML. ML inseamna „invatare automata”, prin care algoritmii de calculator pot invata sa indeplineasca singure diferite activitati prin analizarea datelor. AutoML este un algoritm de invatare a masinii care invata sa construiasca alti algoritmi de invatare automata. (Foarte meta.) Si Alfabetul este departe de a fi singur in acest demers: companii precum Baidu, Facebook, IBM, Microsoft si altii concureaza cu nerabdare sa construiasca platforma tehnologica curaj si noua a AI.

De asemenea, guvernele joaca un rol. DARPA are un program numit L2M, care reprezinta „Masini de invatare pe tot parcursul vietii”, carora i-a alocat 65 de milioane de dolari. Prin L2M, DARPA incearca sa dezvolte AI care invata continuu, se adapteaza la noi sarcini si este capabil sa acorde prioritate si sa discrimineze in ceea ce priveste ce sa invete si cand. Scopul L2M este de a „avea rigoarea automatizarii cu flexibilitatea omului”.

Cand stapanul devine student

Sistemele AI pot impartasi defectele creatorilor lor umani. Acum avem de-a face cu o lume in care ideile sunt incorporate in AI si nu intotdeauna cele corecte. In mai 2016, Pro Publica a raportat ca un algoritm utilizat pe scara larga de fortele de politie din SUA a fost pronuntat impotriva afro-americanilor. Aceasta a insemnat ca ratele preconizate de rejudecare au fost mult mai probabil sa fie mult mai mari pentru suspectii afro-americani, comparativ cu cele ale altor etnii. Aceasta partinire mica a fost replicata in mai multe sisteme diferite, invatata de la sine si nu a facut decat sa consolideze prejudecata rasista initiala.

Odata ce i-am dat o idee AI-ului – odata ce am integrat o mica partinire implicita in temelia ei – orice efort pentru a nu-l repeta si a exacerba aceasta idee este ca si cum le-am spune adolescentilor ca pur si simplu nu fac sex.

Ganditi-va inapoi la conversatia pe care parintii dvs.

au avut-o cu voi despre pasari si albine. Ai ascultat cu adevarat sau a existat un fel de suprasolicitare hormonala care nu urma sa asculte, oricat de bine intentionat vorbea parintilor tai? La fel ca hormonii unui adolescent, nu exista neaparat un buton de dezactivare. Odata ce o idee a fost pusa in aplicare, nu putem pur si simplu sa speram la cele mai bune. Adesea, comportamentul sexual va ignora eventualele consecinte (sarcina, BTS), avand in vedere beneficiile imediate (distractie, frivolitate). AI sa-i asculte stapanii bine intentionati? Sau va fi atat de ridicat pe echivalentul robot al hormonilor, incat va continua sa inainteze, fara a tine cont de consecinte?

Daca nu ne gandim la ceea ce cream acum, viitorul viitor pare sumbru. Ne aflam intr-un punct care nu este diferit de momentul in care Copernic a postulat Pamantul nu a fost centrul universului, o revolutie care a fost atat conceptuala cat si de anvergura in implicatiile sale. Cunoscut de consecintele posibile ale publicarii parerilor sale, Copernic a facut acest lucru doar postum, lasand-o si altora, cum ar fi Galileo, sa suporte atragerea institutionala, sanctiunea si posibila executare.

Daca umanitatea nu va mai fi miezul civilizatiei noastre, ar trebui sa petrecem ceva timp luand in considerare care este viitorul nostru. Este posibil sa nu avem luxul lui Copernic de a astepta o generatie viitoare sa rezolve problema – intrucat viitorul nostru pare sa se intample chiar acum, chiar acum.

A spune AI sa nu se reproduca este ca si cum le-ai spune adolescentilor ca pur si simplu nu fac sex

Invatarea a invata

Cand stapanul devine student

Populare

Cum alegi cel mai bun brad de Crăciun?

Afla cum iti poti lansa o mica afacere folosind un spatiu...

Top 10 cele mai supraevaluate filme din toate timpurile

10 regizori care au facut un film de groaza si au...

10 documentare care au schimbat perceptia publicului

Top 10 interviuri controversate cu celebritati din toate timpurile

Top 10 cele mai memorabile momente ale premiilor Oscar

Cum se schimba viata atunci cand intri in cercurile sociale ale...

10 povesti ciudate din lumea rap pe care sa le cunosti

10 secrete intunecate din lumea surprinzator de rasucita a K-Pop