Algoritmii de izolare nu functioneaza pentru masinile noastre

Sunt bantuit de o poveste. Este o poveste lunga de doar o mana de paragrafe, scrisa de un om in anii 50 cu privire la o masina de cibernetica superinteligenta. In lungimea sa de jumatate de pagina, povestea ne introduce intr-un computer puternic – o acumulare de miliarde si miliarde de computere mai mici conectate in sfarsit in momentul in care un om numit Dwar Ev arunca un comutator. Este prima interactiune a omenirii cu aceasta noua entitate cibernetica. Dupa un moment, aparatului i se prezinta o intrebare: „Exista un Dumnezeu?” Fara nici o ezitare, fara sunet de clic sau trosnituri statice sau electrice, raspunsul vine de la vocea computerului. „Da, acum exista un Dumnezeu”. In urma acestei introduceri nefasta, inteligenta computerului fuzioneaza comutatorul si se impiedica sa fie inchisa vreodata.

Array

Suntem chiar martori la ceea ce poate fi prima crima a computerului pentru multi.

Este o poveste nervoasa, avertizanta. Suntem ambitiosi cu creatiile noastre, dar in ce moment ambitia devine pericol?

Astazi computerele noastre si inteligenta lor artificiala ne-au facut viata mai convenabila si mai sigura. Perspectivele lor sunt numeroase – de la masini cu conducere automata la roboti chirurgicali si vehicule de razboi, viitorul este populat atat de om, cat si de masina. Daca aceste masini pot deveni simtitoare sau nu este o chestiune de dezbatere. Dar nu este vorba despre masini constiente, ci despre masini superinteligente cu capacitatea de a intelege mai mult decat ar putea vreodata oricare dintre noi.

Array

Creatia il intrece pe creator.

Exista multe motive pentru a crea o IA superinteligenta. Ne-ar putea ajuta sa ne revolutionam lumea in bine, gasind vindecarea bolilor, eficientizand transportul si productia de alimente, analizand economia noastra, ajutandu-ne sa rezolvam problemele logistice si, in general, sa gasim modalitati de a ajuta omenirea sa duca o viata mai buna si mai lunga. Dar ramane o incertitudine cu privire la acest viitor. Cum contineti o inteligenta care ii intrece pe a voastra si pe a tuturor colegilor dvs.?

O IA superinteligenta va fi inzestrata cu putere si potential, dar si noi vom fi la mila ei.

Array

Aceasta este concluzia subliniata de o lucrare publicata chiar luna trecuta in Journal of Artificial Intelligence Research: „Superinteligenta nu poate fi continuta: lectii din teoria calculabilitatii”.

Un creier artificial de masina din filmul „Ex Machina”.

Cand vine vorba de relatia dintre omenire si masina, exista faimoasele Trei legi ale roboticii din romanele de stiinta-fictiune ale lui Isaac Asimov. Desi initial existau doar trei legi, mai tarziu a fost adaugata o lege zero. Acestea sunt dupa cum urmeaza:

0. Un robot nu poate face rau omenirii sau, prin inactiune, permite omenirii sa vina la rau.

1. Un robot nu poate rani o fiinta umana sau, prin inactiune, permite unei fiinte umane sa faca rau.

2. Un robot trebuie sa respecte ordinele date de fiintele umane, cu exceptia cazurilor in care astfel de ordine ar intra in conflict cu prima lege.

3. Un robot trebuie sa-si protejeze propria existenta atata timp cat o astfel de protectie nu intra in conflict cu prima sau a doua lege.

La prima vedere, legile pot parea suficient de etice si temeinice. Dar aceste legi au fost, de fapt, menite sa esueze de la bun inceput. Esecurile lor fac povesti interesante precum „Eu, robot” din care spectatorii devin simpatici fata de un robot antropomorfizat care apare din ce in ce mai sensibil pe masura ce filmul continua. In cele din urma, ne-am intrebat daca masinile experimenteaza – dincolo de a fi doar bucati reci de otel si circuite – o existenta foarte umana.

Numeroasele esecuri ale acestor legi sunt explorate prin lumile stiintifico-fantastice ale lui Asimov. De-a lungul anilor, criticii si-au subliniat si numeroasele neajunsuri. Poate ca cel mai mare defect al tuturor este ca legile sunt vagi. Daca masinile devin atat de umane incat ne este greu sa le separam de noi si de noi, cum va face o masina diferenta? Unde se termina omenirea si incepe inteligenta artificiala? Si chiar daca o inteligenta artificiala se poate distinge de o fiinta umana, de asemenea, nu putem sti de ce lacune si reprogramarea este capabil un robot. Cu siguranta, o IA mai inteligenta decat noi ar putea planifica o modalitate de a-si accesa nucleul si de a ocoli oricare dintre limitarile sale existente.

Aceasta este o consideratie terifianta. Cu toate acestea, chiar si robotii acelor povesti stiintifico-fantastice sunt considerati inferiori unei masini cu adevarat superinteligente. In timp ce robotii lui Asimov sunt avansati conform standardelor actuale, nu sunt nici pe departe adevaratul varf al AI. Androizii vor veni cu cateva decenii inainte de masinile superinteligente – in acest moment omenirea se va confrunta cu un filtru excelent. Impreuna cu dezvoltarea vietii, supravietuirea unui asteroid devastator si rezolvarea incalzirii globale, umanitatea se va confrunta in mod necesar cu supravietuirea propriei sale tehnologii. Marja de eroare pentru evitarea unei catastrofe nu este foarte mare.

Cele trei legi ale lui Asimov fac o poveste buna, dar nu sunt puse in aplicare de cercetatorii AI. Coperta pentru „Robot Visions” de Isaac Asimov, arta de Philippe Caza.

Studiul de luna trecuta, realizat la Institutul Max Planck pentru Dezvoltare Umana, a folosit calcule pentru a prezice siguranta unui AI superinteligent. Un AI de acest nivel nu este doar mai inteligent decat toate fiintele umane, dar poate fi conectat si la internet, unde ar putea continua sa invete independent si sa controleze alte masini din retea. Exista deja astazi masini care indeplinesc sarcini fara ajutorul programatorilor umani. Programatorii insisi nu inteleg modul in care masinile au invatat sa indeplineasca aceste sarcini.

Grupul de cercetare a incercat sa utilizeze un algoritm teoretic de izolare care sa serveasca la oprirea comportamentului unei IA daca, dupa simularea comportamentului AI, a fost considerat daunator pentru oameni. S-a constatat ca algoritmul este imposibil de construit. Niciun algoritm despre care stim nu poate determina daca un AI ar face sau nu ceva daunator.

Directorul Centrului pentru Oameni si Masini, Iyad Rahwan, a descris-o astfel: „Daca descompuneti problema in reguli de baza din informatica teoretica, se dovedeste ca un algoritm care ar comanda un AI sa nu distruga lumea ar putea din greseala opri propriile operatiuni. Daca s-ar intampla acest lucru, nu ati sti daca algoritmul de izolare inca analizeaza amenintarea sau daca s-a oprit pentru a contine AI daunator. De fapt, acest lucru face algoritmul de izolare inutilizabil. ”

De la perturbarea pietelor economice la controlul masinilor de razboi armate, numeroasele resurse si agendele unei superinteligente ar fi de neinteles pentru omenire. Poate chiar sa dezvolte un mediu care sa depaseasca limbajele de programare cu care suntem familiarizati astazi. In mod similar, nici oamenii nu vor fi capabili sa stie cu siguranta odata ce a aparut superinteligenta, deoarece ne va fi dificil sa recunoastem o inteligenta in multe privinte superioara celei noastre.

In afara algoritmului de izolare exista alte idei propuse pentru controlul AI. Un exemplu se concentreaza pe limitarea capacitatilor AI pentru inceput. Nu-i permiteti o conexiune la internet sau la orice alte dispozitive, in esenta, ingradindu-l departe de restul lumii. Dar acest lucru limiteaza si utilitatea AI. O masina care ar fi putut revolutiona odata planeta este redusa la doar o fractiune din potentialul ei. Intr-un alt exemplu, ne concentram pe programarea principiilor etice de la inceput, insuflandu-i in el dorinta de a dori doar binele pentru omenire. Dar asa cum am vazut mai sus cu cele trei legi ale lui Asimov, etica in masini poate fi alunecoasa si plina de lacune. O masinarie cu stimulente care sa ne ajute poate evolua pana la punctul de neincredere si inselaciune – la urma urmei, nici macar nu avem incredere in noi insine.

Lectia teoriei calculabilitatii studiului este ca nu stim cum sau daca vom putea construi un program care elimina riscul asociat cu o inteligenta artificiala suficient de avansata. Asa cum cred unii teoreticieni AI si oamenii de stiinta, niciun sistem avansat de AI nu poate fi garantat vreodata complet sigur. Dar munca lor continua; nimic din viata noastra nu a fost vreodata garantat pentru inceput.

Aceasta incertitudine in domeniul AI este cunoscuta sub numele de problema controlului. Si in timp ce unii dintre noi se straduiesc sa gaseasca o solutie, continua in fundal sunetul unei curse in curs de desfasurare. O cursa tehnologica intre trei tari in special – China, Rusia si Statele Unite – pentru a fi liderul recunoscut la nivel mondial in AI. Ne grabim prea repede in ceva ale carui implicatii nu le intelegem? Si totusi, se pare ca suntem blocati pe aceasta cale. Nu exista nicio optiune pentru a opri avansarea masinilor. Cineva undeva va continua inevitabil in pasii catre computere din ce in ce mai inteligente.

Cu sau fara sprijinul nostru, AI s-a desfasurat in vietile noastre, un model pe care il va continua in viitor. Si cu sau fara intelegerea noastra inteligenta artificiala va continua sa evolueze – in ce, nu putem fi siguri. Nu vom sti ce am creat pana cand nu se apropie deja de noi.

ARTICOLE SIMILAREDE LA ACELAȘI AUTOR