Mitul AI | Edge.org

Aceasta mitologie, la randul sau, a starnit un spasm reactionar, perpetuu, de la oameni care sunt ingroziti de ceea ce aud. Veti avea o cifra care sa spuna: „Calculatoarele vor prelua Pamantul, dar acesta este un lucru bun, deoarece oamenii au avut sansa lor si acum ar trebui sa le dam masinilor”. Apoi vei avea alti oameni sa spuna: „Oh, asta este oribil, trebuie sa oprim aceste calculatoare”. Cel mai recent, unele dintre cele mai indragite si respectate figuri din lumea tehnologiei si a stiintei, inclusiv Stephen Hawking si Elon Musk, au luat aceasta pozitie despre: „O, Dumnezeule, aceste lucruri sunt o amenintare existentiala. Trebuie oprite”.

In trecut, tot felul de figuri diferite au propus ca acest lucru se va intampla, folosind terminologie diferita. Unii dintre ei le place ideea de a prelua calculatoarele, iar unii dintre ei nu. Ce mi-ar placea sa fac aici astazi este sa propunem ca intreaga baza a conversatiei sa fie ea insasi inselata si sa ne incurce si sa faca rau real societatii si abilitatilor noastre de ingineri si oameni de stiinta.

Un bun punct de plecare ar putea fi ultima runda de anxietate in ceea ce priveste inteligenta artificiala, care a fost sustinuta de unele figuri pe care le respect extraordinar, inclusiv Stephen Hawking si Elon Musk. Si motivul pentru care este un punct de plecare interesant este faptul ca este un punct de intrare intr-un nod de probleme care pot fi intelese in mai multe moduri diferite, dar ar putea fi punctul de intrare potrivit pentru moment, pentru ca este cel care rezoneaza cu oamenii .

Succesiunea obisnuita de ganduri pe care le aveti aici este ceva de genul: „asa-si-asa”, care este un expert bine respectat, este preocupat de faptul ca masinile vor deveni inteligente, vor prelua, ne vor distruge, ceva teribil se va intampla. Sunt o amenintare existentiala, indiferent de limbaj infricosator. Sentimentul meu despre asta este ca este un fel de un mod non-optim, prost, de a-si exprima anxietatea in ceea ce priveste unde merge tehnologia. Lucrul particular care nu este optim este modul in care vorbeste despre un sfarsit al agentiei umane.

Dar este un apel pentru o agentie umana sporita, asa ca, in acest sens, poate ca este functional, dar vreau sa adanc putin mai mult in ea propunand ca cea mai mare amenintare a AI este probabil cea care se datoreaza AI care nu exista de fapt, ideea fiind o frauda, sau cel putin o idee atat de prost construita incat este fals. Cu alte cuvinte, ceea ce imi propun este ca, daca AI ar fi un lucru real, atunci probabil ca ar fi mai putin o amenintare pentru noi decat este un fals.

Ce vreau sa spun prin AI fiind un lucru fals? Ca adauga un strat de gandire religioasa la ceea ce altfel ar trebui sa fie un domeniu tehnic. Acum, daca vorbim despre provocarile tehnice particulare pe care le-ar putea interesa cercetatorii din AI, vom incheia cu ceva care suna putin mai dur si are mult mai mult sens.

De exemplu, putem vorbi despre clasificarea modelului. Puteti obtine programe care recunosc fete, un fel de lucru? Si acesta este un domeniu in care am activat. Am fost omul de stiinta al companiei pe care Google a cumparat-o, care i-a adus in acel joc in urma cu ceva timp. Si ador chestiile astea. Este un domeniu minunat si a fost util de minune.

Dar cand adaugati la ea aceasta naratiune religioasa, aceasta este o versiune a mitului Frankenstein, in care spuneti bine, dar aceste lucruri duc toate la o creatie a vietii, iar aceasta viata va fi superioara pentru noi si va fi periculoasa … cand faci toate acestea, creezi o serie de consecinte negative care submineaza practicile ingineresti si submineaza metoda stiintifica si, de asemenea, submineaza economia.

Problema pe care o vad nu este atat in ​​ceea ce priveste tehnicile particulare, care mi se par fascinante si utile si sunt foarte pozitive si ar trebui sa fie explorate mai mult si dezvoltate, ci mitologia din jurul lor care este distructiva. Voi parcurge cateva straturi despre modul in care mitologia dauneaza.

Cea mai evidenta, pe care o poate intelege toata lumea din orice domeniu, este ca creeaza aceasta ondulare la fiecare cativa ani a ceea ce s-au numit uneori ierni AI, unde exista toate aceste situatii care sa promita ca AIs va fi pe punctul de a face acest lucru sau acela. S-ar putea sa devina vehicule de conducere complet autonome in loc sa fie doar partial autonome sau sa poata avea o conversatie completa, decat sa ai o parte utila a unei conversatii care sa te ajute sa interfeti cu dispozitivul.

Acest tip de suprasolicitare duce apoi la dezamagire, deoarece a fost prematur, iar atunci asta duce la reducerea finantarii si startup-urile prabusite si carierele distruse, iar acest lucru se intampla periodic si este pacat. M-a durut foarte multe cariere. A ajutat si alte cariere, dar asta a fost cam intamplator; in functie de locul in care va incadrati in faza acestui proces pe masura ce veniti. Este doar imatur si ridicol si mi-as dori ca acest ciclu sa fie inchis. Si asta este o critica larg impartasita. Nu spun nimic deloc neobisnuit.

Sa mergem la un alt strat al modului in care este disfunctional. Si acest lucru are de-a face doar cu claritatea interfetei cu utilizatorul si atunci aceasta se transforma intr-un efect economic. Oamenii sunt creaturi sociale. Vrem sa fim placuti, vrem sa ne intelegem. Cu totii am petrecut multi ani ca copii invatand cum sa ne reglam pe noi insine pentru a ne putea intelege in lume. Daca un program iti spune, asa stau lucrurile, acesta este cine esti, asta iti place sau asta trebuie sa faci, avem tendinta de a accepta asta.

Intrucat economia noastra a trecut la ceea ce numesc economie de supraveghere, dar sa spunem o economie in care algoritmii ii ghideaza pe oameni foarte mult, avem aceasta situatie foarte ciudata in care aveti acesti algoritmi care se bazeaza pe date mari pentru a va da seama cine ar trebui sa intalniti , cu cine ar trebui sa dormiti, cu ce muzica ar trebui sa ascultati, cu ce carti ar trebui sa cititi si in continuare si in continuare. Si oamenii accepta adesea asta, deoarece nu exista o alternativa empirica pentru a o compara cu aceasta, nu exista linie de baza. Este o stiinta personala proasta. E proasta intelegere de sine.

Va voi oferi cateva exemple despre ce vreau sa spun prin asta. Poate voi incepe cu Netflix. Lucrul despre Netflix este ca nu exista prea multe lucruri. Exista o pauza de continut. Daca va ganditi la un anumit film pe care s-ar putea sa-l doriti sa vedeti, este posibil sa nu fie disponibil pentru streaming, adica; despre asta vorbesc. Si totusi, exista acest motor de recomandare, iar motorul de recomandare are ca efect servirea ca capac pentru a va distrage de la faptul ca exista foarte putine disponibile de la acesta. Si totusi, oamenii il accepta ca fiind inteligent, deoarece multe dintre cele disponibile sunt perfect in regula.

Singurul lucru pe care vreau sa-l spun despre acest lucru este ca nu il invinovatesc pe Netflix ca a facut ceva rau, pentru ca tot Netflix este acela de a va oferi iluzii teatrale, deci este doar un alt strat de iluzie teatrala – mai multa putere pentru ei. Asta e un bun prezentator. Ce e teatru fara barbar pe strada? Asta este si asta este bine. Dar contribuie, la nivel macro, la aceasta atmosfera generala de acceptare a algoritmilor ca fiind mult mai mult decat ei. In cazul Netflix, motorul de recomandare serveste pentru a va distrage atentia de la faptul ca oricum nu exista prea multe optiuni.

Exista si alte cazuri in care motorul de recomandare nu indeplineste aceasta functie, deoarece exista o multime de alegeri si, cu toate acestea, inca nu exista dovezi ca recomandarile sunt deosebit de bune. Nu exista nicio modalitate de a le compara cu o alternativa, deci nu stiti ce ar fi putut fi. Daca doriti sa puneti lucrarea in ea, puteti sa va jucati cu asta; puteti incerca sa va stergeti istoricul sau sa aveti mai multe persoane pe un site pentru a le compara. Acesta este genul de lucruri pe care le fac, doar pentru a intelege. Am avut, de asemenea, o sansa sa lucrez la algoritmii insisi, pe partea din spate si sunt interesanti, dar sunt foarte, mult supraevaluate.

Vreau sa ajung la o problema si mai profunda, care este ca nu exista nicio modalitate de a spune unde este granita dintre masurare si manipulare in aceste sisteme. De exemplu, daca teoria este ca obtineti date mari observand o multime de oameni care fac alegeri, si atunci faceti corelatii pentru a face sugestii pentru inca mai multi oameni, daca preponderenta acestor persoane a crescut in sistem si raspund la orice alegeri pe care le-a oferit, nu sunt suficiente date noi care sa vina in el, pentru nici cel mai ideal sau inteligent motor de recomandare sa faca orice lucru semnificativ.

Cu alte cuvinte, singura modalitate prin care un astfel de sistem sa fie legitim ar fi ca acesta sa aiba un observator care sa poata observa in pace, nefiind ametit de propriile recomandari. In caz contrar, pur si simplu se transforma intr-un sistem care masoara care functioneaza manipularile, spre deosebire de cele care nu functioneaza, care este foarte diferit de un sistem virginal si empiric atent, care incearca sa spuna ce recomandari ar functiona daca nu ar fi intervenit. Este un lucru destul de clar. Ceea ce nu este clar este unde se afla limita.

Daca va intrebati: un motor de recomandare precum Amazon este mai manipulabil sau mai mult un dispozitiv de masurare legitim? Nu are cum sa stii. In acest moment nu exista nicio modalitate de a sti, pentru ca este prea universal. Acelasi lucru se poate spune si pentru orice alt sistem de date mari care recomanda cursuri de actiune oamenilor, fie ca este vorba despre afacerea publicitara Google sau retelele de socializare, cum ar fi Facebook, care decide ce vedeti sau pentru o multime de aplicatii de intalnire. Toate aceste lucruri, nu exista nicio baza, deci nu stim in ce masura sunt masuratorile fata de manipulare.

Intalnirea are intotdeauna un element de manipulare; cumparaturile au intotdeauna un element de manipulare; intr-un anumit sens, multe dintre lucrurile pentru care oamenii folosesc aceste lucruri au fost intotdeauna putin manipulatoare. Intotdeauna a existat un pic de prostii. Si nu este neaparat un lucru groaznic, sau sfarsitul lumii.

Dar este important sa-l intelegem daca aceasta devine baza intregii economii si a intregii civilizatii. Daca oamenii decid ce carti trebuie citite pe baza unui impuls din motorul de recomandare care nu se va intoarce la o populatie virgina, care nu a fost manipulat, atunci totul este scapat de sub control si nu mai inseamna nimic. . Nu este atat o ascensiune a raului, cat o ascensiune a prostiilor. Este o incompetenta in masa, spre deosebire de Skynet din filmele Terminator. In asta se transforma acest tip de AI. Dar voi reveni la asta peste o secunda.

Pentru a merge inca o treapta mai profunda, voi reinvia un argument pe care l-am facut anterior, care este ca se transforma intr-o problema economica. Cel mai usor punct de intrare pentru intelegerea legaturii dintre modul religios de a confunda AI cu o problema economica este prin traducerea automata a limbii. Daca cineva m-a auzit vorbind despre asta inainte, imi cer scuze ca ma repet, dar a fost cel mai usor exemplu clar.

Timp de trei decenii, lumea AI a incercat sa creeze un algoritm ideal, mic, cristalin, care sa poata lua doua dictionare pentru doua limbi si sa transforme traduceri intre ele. Intelectual, aceasta si-a avut originile in special in jurul MIT si Stanford. In anii 50, din cauza operei lui Chomsky, a existat o notiune de nucleu foarte compact si elegant pentru limbaj. Nu a fost o ipoteza rea, ci o ipoteza legitima, perfect rezonabila de testat. Dar, in timp, ipoteza a esuat pentru ca nimeni nu a putut-o face.

In cele din urma, in anii 90, cercetatorii de la IBM si din alte parti au dat seama ca modul de a face acest lucru a fost cu ceea ce numim acum date mari, unde primiti un set de exemple foarte mare, pe care interesant, il numim corpus – il numim o persoana moarta. . Acesta este termenul de arta pentru aceste lucruri. Daca aveti suficiente exemple, puteti corela exemple de traduceri reale fraza dupa fraza cu documente noi care trebuie traduse. Ii musesti pe toti si termini cu ceva ce poate fi citit. Nu este perfect, nu este artistic, nu este neaparat corect, dar dintr-o data este utilizabil. Si stii ce? E fantastic. Imi place ideea ca puteti lua unele note, si in loc sa fiti nevoit sa gasiti un traducator si sa asteptati ca acestia sa faca lucrarea, puteti avea doar ceva aproximativ imediat, pentru ca de multe ori este nevoie. Acea’ un beneficiu pentru lume. Sunt fericit ca s-a terminat. Este un lucru minunat.

Lucrul pe care trebuie sa-l remarcam este ca, din cauza mitologiei despre AI, serviciile sunt prezentate ca si cum ar fi aceste persoane magice, magice. IBM face un caz dramatic ca au creat aceasta entitate pe care o numesc lucruri diferite in momente diferite – Deep Blue si asa mai departe. Companiile de tehnologie de consum, avem tendinta de a pune fata in fata lor, precum un Cortana sau un Siri. Problema este ca acestea nu sunt servicii independente.

Cu alte cuvinte, daca te intorci la unele dintre experimentele gandite din dezbaterile filozofice despre AI din vremuri trecute, exista o multime de experimente, cum ar fi daca ai o cutie neagra care poate face ceva – poate intelege limbajul – de ce nu ar fi? numiti o persoana? Exista multe, multe variatii pe aceste tipuri de experimente de gandire, incepand cu testul Turing, bineinteles, prin intermediul omului de stiinta a culorilor Mariei si a altor zillion-uri care au aparut.

Acesta nu este unul dintre acestea. Ceea ce este, este in spatele cortinei, este literalmente milioane de traducatori umani care trebuie sa ofere exemple. Cert este ca nu au furnizat un singur corp odata inapoi. In schimb, furnizeaza un corpus nou in fiecare zi, deoarece lumea referintelor, evenimentelor curente si argoului se schimba in fiecare zi. Trebuie sa mergem si sa scoatem exemple din milioane de traducatori, necunoscute de ei, in fiecare zi, pentru a ajuta la mentinerea acestor servicii.

Problema de aici ar trebui sa fie clara, dar permiteti-mi sa o precizez in mod explicit: nu platim persoanele care furnizeaza exemplele corpului – care este pluralul de corpus – de care avem nevoie pentru a face algoritmii AI sa functioneze. Pentru a crea aceasta iluzie a unei creaturi inteligente artificiale si independente, independente, trebuie sa ignoram contributiile tuturor persoanelor ale caror date le preluam pentru a face sa functioneze. Aceasta are o consecinta economica negativa.

Acest lucru, pentru mine, este locul in care devine grav. Totul pana acum, puteti spune: „Ei bine, uite, daca oamenii doresc sa aiba un algoritm sa le spuna cu cine pana in prezent, este oare o prostie decat cum am decis cu cine sa dormim cand eram mici, inainte ca Internetul sa functioneze? ” Indoielnic, pentru ca eram destul de prosti pe atunci. Ma indoiesc ca ar putea avea atat de multa consecinta negativa.

Acesta este, dintr-o data, o afacere destul de mare. Daca vorbesti cu traducatorii, ei se confrunta cu o situatie, care este foarte asemanatoare cu unele dintre celelalte populatii de victime timpurii, datorita modului special de digitalizare a lucrurilor. Este similar cu ceea ce s-a intamplat cu muzicieni de inregistrare sau jurnalisti de investigatie – care este cel care ma deranjeaza cel mai mult – sau fotografi. Ceea ce vad este o scadere severa a cat de mult sunt platiti, ce oportunitati au, perspectivele lor pe termen lung. Acestia vad anumite oportunitati de continuare, in special in traducerea in timp real … dar ar trebui sa subliniez ca si acesta va disparea in curand. Vom avea o traducere in timp real pe Skype in curand.

Chestia este ca sunt inca necesare. Exista un impuls, un impuls corect, de a fi sceptic atunci cand cineva recuza ceea ce s-a pierdut din cauza noilor tehnologii. Pentru experimentele obisnuite de gandire care apar, un punct de referinta obisnuit este biciul buggy: S-ar putea sa spui: „Ei bine, nu ai vrea sa pastrezi industria biciului buggy”.

Insa traducatorii nu sunt niste bici, deoarece inca mai sunt necesare pentru ca functionarea schemei de date mari. Ei sunt opusul unui bici batatorit. Ce sa intamplat aici este ca traducatorii nu au fost invechiti. Ceea ce s-a intamplat in schimb este faptul ca structura prin care primim eforturile oamenilor reali pentru a face traducerile s-a optimizat, dar acesti oameni sunt inca necesari.

Acest tipar – de AI functioneaza doar atunci cand exista ceea ce numim date mari, dar apoi folosind date mari pentru a nu plati un numar mare de persoane care contribuie – este o tendinta in crestere in civilizatia noastra, care este total ne durabila. Sistemele de date mari sunt utile. Ar trebui sa fie din ce in ce mai multi. Daca asta inseamna ca tot mai multi oameni nu vor fi platiti pentru contributiile lor reale, atunci avem o problema.

Contrargumentul obisnuit este acela ca sunt platite in sensul ca beneficiaza si de toate lucrurile gratuite si costurile reduse care ies din sistem. Nu cumpar acest argument, pentru ca ai nevoie de un beneficiu economic formal pentru a avea o civilizatie, nu doar un beneficiu economic informal. Diferenta dintre o mahalala si oras este daca toata lumea primeste beneficii informale de zi cu zi sau beneficii formale reale.

Diferenta dintre formal si informal este legata de faptul ca este strict in timp real sau nu. Daca traiesti cu beneficii informale si esti muzician, trebuie sa joci un concert in fiecare zi. Daca te imbolnavesti sau daca ai un copil bolnav, sau orice altceva si nu poti face asta, dintr-o data nu vei fi platit in acea zi. Totul este in timp real. Daca am fi cu totii roboti perfecti, nemuritori, asta ar fi bine. Ca oameni adevarati, nu putem face acest lucru, astfel incat beneficiile informale nu sunt suficiente. Si tocmai de aceea lucrurile, cum ar fi angajarea, economiile, imobiliarele si proprietatea asupra proprietatii si toate aceste lucruri au fost inventate – pentru a recunoaste adevarul fragilitatii conditiei umane si asta a facut civilizatia.

Daca vorbesti despre AI ca un set de tehnici, ca domeniu de studiu in matematica sau inginerie, aduce beneficii. Daca vorbim despre AI ca mitologie a crearii unei specii post-umane, creeaza o serie de probleme pe care tocmai le-am trecut, care includ acceptarea interfetelor de utilizator rau, unde nu puteti spune daca sunteti manipulat sau nu, si totul este ambiguu. Creeaza incompetenta, pentru ca nu stiti daca recomandarile provin din ceva real sau doar profetii care se auto-indeplinesc dintr-un sistem manipulator care a pornit de la sine si negativitate economica, deoarece extrageti treptat beneficii economice formale departe de persoanele care furnizeaza datele care fac ca schema sa functioneze.

Din toate aceste motive, mitologia este problema, nu algoritmii. Pentru a face o copie de rezerva din nou, am oferit doua motive pentru care mitologia AI este stupida, chiar daca lucrurile reale sunt grozave. Primul este ca are ca rezultat dezamagiri periodice care cauzeaza daune carierei si start-urilor si este o dezamagire si o devastatie ridicole, sezoniere, pe care nu ar trebui sa le impunem la intamplare oamenilor in functie de momentul in care se intampla sa ajunga la ciclu. Aceasta este problema AI de iarna. Al doilea este ca produce beneficii negative inutile societatii pentru tehnologii care sunt utile si bune. Mitologia aduce problemele, nu tehnologia.

Acestea fiind spuse, sa abordam direct aceasta problema a faptului ca AI va distruge civilizatia si oamenii si vom prelua planeta si orice. Aici vreau sa sugerez un simplu experiment ganditor al meu. Exista atat de multe tehnologii pe care le-as putea folosi pentru asta, dar doar pentru una intamplatoare, sa presupunem ca cineva vine cu o modalitate de a tipari in 3-D un mic drone de asasinare care poate sa zboare si sa omoare pe cineva. Sa presupunem ca acestea sunt ieftine de facut.

O sa va ofer doua scenarii. Intr-un singur scenariu, dintr-o data sunt o multime de acestia, si unii adolescenti sau teroristi dezafectati, sau cine incepe sa faca o gramada de ei si pleaca si incep sa ucida oameni la intamplare. Sunt atat de multi incat este greu sa ii gasesti pe toti sa-l inchida, si continua sa fie din ce in ce mai multi. Acesta este un scenariu; este un scenariu destul de urat.

Exista un altul in care exista asa-numita inteligenta artificiala, un fel de schema de date mari, care face exact acelasi lucru, care este regizat de sine si preluarea imprimantelor 3-D si care trimite aceste lucruri pentru a ucide oameni. Intrebarea este: face vreo diferenta care este?

Adevarul este ca partea care provoaca problema este actuatorul. Este interfata cu fizicitatea. Este faptul ca exista acest mic drone criminal care se apropie. Nu este atat de mult daca este vorba de o multime de adolescenti sau teroristi din spatele ei sau de o AI, sau chiar, pentru asta, daca exista suficiente, ar putea fi doar un proces complet aleatoriu. Intregul lucru AI, intr-un anumit sens, ne distrage atentia de la care ar fi problema reala. Componenta AI va fi doar ambigua acolo si de mica importanta.

Aceasta notiune de a ataca problema la nivelul unui fel de algoritm de autonomie, in loc de nivelul de actionare este total directionata gresit. Aici devine o problema de politica. Cert este ca, in calitate de societate, trebuie sa facem ceva pentru a nu prolifera micile drone ucigatoare. Si poate ca problema respectiva nu va avea loc niciodata. Ceea ce nu trebuie sa ne facem griji este algoritmul AI care le ruleaza, pentru ca asta este speculativ. Nu exista un algoritm AI suficient de bun pentru a face asta deocamdata. Poate aparea o problema echivalenta, indiferent daca se intampla sau nu algoritmul AI. Intr-un anumit sens, este o misiune gresita.

Aceasta idee conform careia un laborator face undeva acesti algoritmi autonomi care pot prelua lumea este o modalitate de a evita problema politica profund inconfortabila, ceea ce inseamna ca, daca exista un actuator care poate face rau, trebuie sa ne dam seama de un fel pe care oamenii il doneaza. nu-i fac rau. Urmeaza sa fie o multime de oameni. Si asta va implica un fel de structura sociala noua care nu este anarhie perfecta. Nimeni din lumea tehnologiei nu vrea sa se confrunte cu asta, asa ca ne pierdem in aceste fantezii ale AI. Dar, daca ai putea sa impiedici cumva AI-ul sa se intample vreodata, nu ar avea nicio legatura cu problema reala de care ne temem, si acesta este tristul lucru dificil cu care trebuie sa ne confruntam.

Nu am trecut printr-o intreaga litanie din motive pentru care mitologia acesteia AI dauneaza. Exista o alta zona problematica care are legatura cu neurostiinta, unde daca ne prefacem ca intelegem lucrurile inainte de a face, facem daune stiintei, nu doar pentru ca ridicam asteptarile si nu reusim sa le indeplinim in mod repetat, ci pentru ca confundam generatii de tineri oameni de stiinta. Doar pentru a fi absolut clar, nu stim cum sunt reprezentate cele mai multe tipuri de ganduri in creier. Incepem sa intelegem un pic despre unele lucruri inguste. Asta nu inseamna ca nu o vom face niciodata, dar trebuie sa fim sinceri in ceea ce intelegem in prezent.

O replica la acea atentie este ca exista o crestere exponentiala a intelegerii noastre, astfel incat putem prezice ca vom intelege totul in curand. Pentru mine, este nebun, pentru ca nu stim care este obiectivul. Nu stim care ar fi amploarea atingerii obiectivului … Asadar, sa spunem: „Ei bine, doar pentru ca accelerez, stiu ca imi voi atinge telul in curand”, este absurd daca nu stiti geografia de baza pe care o parcurgeti. Oricat de impresionanta ar fi acceleratia ta, realitatea poate fi de asemenea impresionanta in obstacolele si provocarile pe care le ridica. Nu avem nici o idee.

Acesta este un lucru pe care l-am numit, in trecut, „reducerea prematura a misterului” si este o reflectare a slabei discipline psihice stiintifice. Trebuie sa poti accepta care sunt ignorantele tale pentru a face stiinte bune. A-ti respinge propria ignoranta te arunca intr-o stare stupida in care esti un om de stiinta mai mic. Nu vad atat de mult in domeniul neurostiintelor, dar provine atat de mult din lumea calculatoarelor, iar lumea computerelor este atat de influenta pentru ca are atat de multi bani si influenta incat incepe sa curga in toate tipurile de alte lucruri. Un exemplu excelent este Proiectul creierului uman in Europa, care se ocupa cu multi bani publici in stiinta, care sunt foarte influentati de acest punct de vedere si i-a suparat pe unii din comunitatea neurostiintei, tocmai pentru motivul descris.

Exista un fenomen social si psihologic care se intampla de cateva decenii acum: Un nucleu de oameni abilitati din punct de vedere tehnic, cu gandire digitala, resping religiile si superstitiile traditionale. Ei si-au propus sa vina cu un cadru mai bun, mai stiintific. Dar apoi re-creeaza versiuni ale vechilor superstitii religioase! In lumea tehnica, aceste superstitii sunt la fel de confuze si la fel de daunatoare ca inainte si in moduri similare.

In opinia mea, mitologia din jurul AI este o re-creare a unora dintre ideile traditionale despre religie, dar aplicata lumii tehnice. Toate pagubele sunt in esenta imagini in oglinda ale daunelor vechi pe care religia le-a adus in stiinta in trecut.

Se anticipeaza un prag, un sfarsit de zile. Acest lucru pe care il numim inteligenta artificiala, sau un nou tip de personalitate … Daca ar intra in existenta, acesta va castiga in curand toata puterea, puterea suprema si ii va depasi pe oameni.

Notiunea acestui prag particular – care se numeste uneori singularitatea sau super-inteligenta sau tot felul de termeni diferiti in perioade diferite – este similara cu divinitatea. Nu toate ideile despre divinitate, ci un anumit fel de idee superstitioasa despre divinitate, ca exista aceasta entitate care va conduce lumea, ca poate te poti ruga, poate poti influenta, dar conduce lumea si ar trebui sa fii ingrozit suparat de asta.

Aceasta idee particulara a fost disfunctionala in istoria umana. Acum este disfunctional, in denaturarea relatiei noastre cu tehnologia noastra. A fost disfunctional in trecut exact in acelasi mod. Doar cuvintele s-au schimbat.

In istoria religiei organizate, de cele mai multe ori s-a intamplat ca oamenii au fost dispretuiti tocmai pentru a servi ceea ce erau percepute a fi nevoile unei zeitati sau ale alteia, unde, de fapt, ceea ce faceau sprijinea o clasa de elita care era preotia pentru acea zeitate.

Asta arata foarte mult ca noua economie digitala, in care aveti traducatori (limbaj natural) si toti ceilalti care contribuie la corpurile care permit sa functioneze schemele de date, contribuind mai ales la averea celor care ruleaza computerele de top. Noua elita ar putea spune: „Ei bine, dar ei ajuta AI-ul, nu suntem noi, ei ajuta AI-ul”. Imi aminteste de cineva care spune: „Oh, construiti aceste piramide, este in slujba acestei zeitati”, dar, pe teren, este in slujba unei elite. Este un efect economic al noii idei. Efectul noii idei religioase de AI este asemanator cu efectul economic al vechii idei, religie.

Exista o calitate incredibil de retrograda la mitologia AI. Stiu ca am spus-o deja, dar trebuie doar sa repet ca aceasta nu este o critica a algoritmilor anumiti. Pentru mine, ceea ce ar fi ridicol este ca cineva sa spuna: „O, nu trebuie sa studiezi retele de invatare profunda” sau „nu trebuie sa studiezi probatori de teorema” sau orice tehnica te intereseaza. Aceste lucruri sunt incredibil. interesant si incredibil de util. Este mitologia de care trebuie sa devenim mai constienti de noi.

Acest lucru este analog cu a spune ca in religia traditionala a existat o multime de gandiri extrem de interesante si multa mare arta. Si trebuie sa fii capabil sa tachinezi asta si sa spui ca aceasta este partea care este grozava, iar aceasta este partea care se auto-invinge. Trebuie sa facem exact acelasi lucru cu AI acum.

Acesta este un subiect greu de discutat, deoarece vocabularul acceptat te submineaza la fiecare rand. Aceasta este similara si cu o problema a religiei traditionale. Daca vorbesc despre AI, vorbesc despre lucrarea tehnica particulara sau despre mitologia care influenteaza modul in care integram asta in lumea noastra, in societatea noastra? Ei bine, vocabularul pe care il folosim de obicei nu ne ofera o modalitate usoara de a distinge aceste lucruri. Si devine foarte confuz.

Daca AI inseamna aceasta mitologie a acestei creaturi noi pe care o cream, atunci este doar o mizerie stupida care incurca toata lumea si dauneaza viitorului economiei. Daca despre ce vorbim este un set de algoritmi si actuatori pe care ii putem imbunatati si aplica in moduri utile, atunci sunt foarte interesat si sunt foarte participant la comunitatea care imbunatateste aceste lucruri.

Din pacate, vocabularul standard pe care oamenii il folosesc nu ne ofera o modalitate excelenta de a distinge acele doua elemente complet diferite pe care le-ar putea face referire. As putea incerca sa monedez cateva fraze, dar, pentru moment, voi spune doar ca sunt doua lucruri complet diferite, care merita sa aiba un vocabular complet distinctiv. Inca o data, aceasta problema de vocabular este in intregime retrograda si in intregime caracteristica religiilor traditionale.

Poate ca este mai rau astazi, pentru ca pe vremuri, cel putin aveam distinctia intre, sa zicem, etica si moralitate, unde poti vorbi despre doua lucruri similare, unde unul era mai putin angajat cu mitologia religiei si unul este putin mai putin angajat. Nu avem inca asta pentru noua noastra lume tehnica si cu siguranta avem nevoie de ea.

Acestea fiind spuse, voi mentiona o alta asemanare, care se intampla doar pentru ca o mitologie are o calitate ridicola care poate submina oamenii in multe cazuri nu inseamna ca persoanele care adera la ea sunt neaparat lipsite de simpatie sau oameni rai. Multi dintre ei sunt minunati. In lumea religioasa, exista o multime de oameni pe care ii iubesc. Avem un Papa misto acum, exista o multime de rabi racoriti pe lume. Multi oameni din lumea religioasa sunt doar minunati si ii respect si imi plac. Asta merge in mana cu sentimentul meu ca o parte din mitologia din marea religie ne duce inca in probleme pe care ni le impunem noi insine si nu avem nevoie.

In acelasi mod, daca va ganditi la persoanele care au cel mai mare succes in noua economie din aceasta lume digitala – sunt probabil unul dintre ei; pentru mine a fost grozav – in general sunt minunate. Imi plac oamenii care s-au descurcat bine in economia computerelor cloud. Sunt misto. Dar asta nu distrage toate lucrurile pe care le-am spus.

Acest lucru creeaza inca un strat de confuzie potentiala si de diferentiere care devine obositor sa se recunoasca din nou si din nou, dar este important sa spunem.