Utilizarea inteligentei artificiale si a algoritmilor

118

Titlurile au o imbunatatire rapida a tehnologiei inteligentei artificiale. Utilizarea tehnologiei AI – masini si algoritmi – pentru a face predictii, recomandari sau decizii are un potential enorm pentru a imbunatati bunastarea si productivitatea. Dar, de asemenea, prezinta riscuri, cum ar fi potentialul unor rezultate nedrepte sau discriminatorii sau perpetuarea disparitatilor socioeconomice existente. Health AI ofera un exemplu primordial al acestei tensiuni. Cercetarile publicate recent in Science au scos la iveala faptul ca un algoritm folosit cu intentii bune – pentru a viza interventiile medicale celor mai bolnavi pacienti – a pus capat resurselor catre o populatie mai sanatoasa, alba, in detrimentul bolnavilor bolnavi si negri.

Vestea buna este ca, desi sofisticarea tehnologiei AI si a tehnologiei de invatare automata este noua, procesul decizional automatizat nu este, iar noi, la FTC, avem o experienta indelungata care se ocupa de provocarile prezentate de utilizarea datelor si algoritmilor pentru a lua decizii despre consumatori . De-a lungul anilor, FTC a adus numeroase cazuri in care au fost invocate incalcari ale legilor pe care le aplicam implicarea AI si luarea automata a deciziilor si au investigat numeroase companii din acest spatiu. De exemplu, Legea privind raportarea creditului echitabil (FCRA), adoptata in 1970, si Legea privind oportunitatile egale de credit (ECOA), adoptata in 1974, ambele abordeaza procesul decizional automatizat, iar companiile de servicii financiare aplica aceste legi sistemelor bazate pe masini modele de subscriere a creditului de zeci de ani.

In 2016, FTC a emis un raport intitulat Big Data: A Tool for Inclusion or Exclusion ?, care a sfatuit companiile sa utilizeze analiza de date mari si invatarea automata pentru a reduce oportunitatea de prejudecata. Cel mai recent, am organizat o audiere in noiembrie 2018 pentru a explora AI, algoritmi si analize predictive.

Actiunile de aplicare a legii, studiile si indrumarile FTC subliniaza faptul ca utilizarea instrumentelor AI ar trebui sa fie transparenta, explicabila, corecta si solida empiric, incurajand in acelasi timp responsabilitatea. Consideram ca experienta noastra, precum si legile existente, pot oferi lectii importante despre modul in care companiile pot gestiona riscurile de protectie a consumatorilor din AI si algoritmi.

Fii transparent.

Nu inselati consumatorii despre modul in care utilizati instrumente automate. De multe ori, AI opereaza pe fundal, oarecum indepartat din experienta consumatorului. Dar, atunci cand utilizati instrumente AI pentru a interactiona cu clientii (ganditi chatbots), aveti grija sa nu induceti in eroare consumatorii cu privire la natura interactiunii. Plangerea Ashley Madison a sustinut ca site-ul de intalniri orientat catre adulter a inselat consumatorii folosind „profiluri de angajare” false ale colegilor atractivi pentru a induce potentiali clienti sa se inscrie la serviciul de intalnire. Iar plangerea Devumi a sustinut ca compania a vandut adepti falsi, abonati falsificatori si „aprecieri false” companiilor si persoanelor fizice care doreau sa le stimuleze prezenta pe retelele de socializare. Caderea? Daca utilizarea companiei de doppelgangers – indiferent daca este vorba despre un profil fals de intalnire, un adept fals, un fals sau un chat AI, ii induce in eroare pe consumatori,

Fii transparent atunci cand colectezi date sensibile. Cu cat setul de date este mai mare, cu atat algoritmul este mai bun si cu atat este mai bun produsul pentru consumatori, sfarsitul povestii … nu? Nu asa de repede. Fii atent la modul in care obtii acel set de date. Colectarea secreta a datelor audio sau vizuale – sau a oricaror date sensibile – pentru a alimenta un algoritm poate duce la o actiune FTC. Chiar anul trecut, FTC a sustinut ca Facebook a indus in eroare consumatorii atunci cand le-a spus ca pot opta pentru recunoasterea faciala – chiar daca setarea a fost activata implicit. Dupa cum arata cazul Facebook, modul in care obtineti datele poate conta foarte mult.

Daca luati decizii automate pe baza informatiilor de la un furnizor tert, vi se poate cere sa transmiteti consumatorului o notificare de „actiune adversa”. In conformitate cu FCRA, un furnizor care aduna informatii pentru consumatori pentru a automatiza luarea deciziilor cu privire la eligibilitatea pentru credit, angajare, asigurare, locuinte sau beneficii si tranzactii similare, poate fi o „agentie de raportare a consumatorilor”. Acest lucru declanseaza obligatii pentru dvs., ca utilizator al informatiilor respective. Mai exact, trebuie sa furnizati consumatorilor anumite notificari conform FCRA. Spuneti ca cumparati un raport sau un scor de la o companie de verificare de fond care foloseste instrumente AI pentru a genera un scor care prevede daca un consumator va fi un chirias bun. Modelul AI foloseste o gama larga de contributii despre consumatori, inclusiv informatii despre inregistrarile publice, cazierele judiciare, istoricul creditului si poate chiar si date despre utilizarea social media, istoricul cumparaturilor sau fotografii si videoclipuri disponibile publicului. Daca utilizati raportul sau punctajul ca baza pentru a refuza cuiva un apartament sau pentru a le percepe o chirie mai mare, trebuie sa furnizati acelui consumator o notificare de actiune adversa. Notificarea de actiune adversa informeaza consumatorul despre dreptul sau de a vedea informatiile raportate despre acestea si de a corecta informatiile inexacte.

Explicati-va decizia consumatorului.

Daca refuzati consumatorilor ceva de valoare bazat pe luarea deciziilor algoritmice, explicati de ce. Unii ar putea spune ca este prea dificil sa explici multitudinea de factori care ar putea afecta procesul decizional algoritmic. Dar, in lumea care acorda credite, companiile trebuie sa dezvaluie consumatorului motivele principale pentru care li s-a refuzat creditul, si nu este suficient de bun pentru a spune „scorul dvs. a fost prea mic” sau „nu indepliniti criteriile noastre .“ Trebuie sa fiti specific (de exemplu, „ati fost delincvent cu privire la obligatiile dvs. de credit” sau „aveti un numar insuficient de referinte de credit”). Aceasta inseamna ca trebuie sa stiti ce date sunt utilizate in modelul dvs. si cumaceste date sunt utilizate pentru a ajunge la o decizie. Si trebuie sa poti explica asta consumatorului. Daca utilizati AI pentru a lua decizii cu privire la consumatori in orice context, luati in considerare modul in care ati explica decizia dvs. pentru client in cazul in care vi se solicita acest lucru.

Daca utilizati algoritmi pentru a atribui scoruri de risc consumatorilor, dezvaluiti si factorii cheie care au afectat scorul, rangul ordonat pentru importanta. Similar cu alte decizii algoritmice, scorurile se bazeaza pe factori multipli, dintre care unii pot fi dificil de explicat consumatorilor. De exemplu, daca un scor de credit este folosit pentru a refuza cuiva creditului sau pentru a le oferi conditii mai putin favorabile, legea prevede ca consumatorilor sa fie anuntati, o descriere a punctajului (sursa acestuia, gama de scoruri conform modelului respectiv de credit) si cel putin patru factori cheie care au afectat negativ scorul de credit, enumerati in ordinea importantei lor, pe baza efectului lor asupra punctajului de credit.

Daca puteti modifica termenii unei tranzactii bazate pe instrumente automate, asigurati-va ca le spuneti consumatorilor. In urma cu mai bine de un deceniu, FTC a sustinut ca comerciantul de credit subprime CompuCredit a incalcat Legea FTC prin faptul ca nu a dezvaluit in dezamagire ca a folosit un model de punctaj comportamental pentru a reduce limitele de creditare ale consumatorilor. De exemplu, daca detinatorii de carduri isi foloseau cardurile de credit pentru avansuri in numerar sau pentru a efectua plati in anumite locuri, cum ar fi baruri, cluburi de noapte si saloane de masaj, ar putea reduce limita creditului lor. Compania nu le-a spus niciodata consumatorilor ca aceste achizitii isi pot reduce limita de credit – nici la momentul inscrierii, nici la momentul la care au redus limita de credit. Acea problema veche de zece ani este la fel de importanta si in prezent. Daca veti utiliza un algoritm pentru a schimba termenii acordului, spuneti consumatorilor.

Asigurati-va ca deciziile dvs. sunt corecte.

Nu discriminati pe baza claselor protejate. Utilizarea cavaliera a AI poate duce la discriminare impotriva unei clase protejate. O serie de legi federale privind egalitatea de sanse, precum ECOA si titlul VII din Legea privind drepturile civile din 1964, pot fi relevante pentru o astfel de conduita. FTC pune in aplicare ECOA, care interzice discriminarea creditului pe motive de rasa, culoare, religie, origine nationala, sex, stare civila, varsta sau pentru ca o persoana primeste asistenta publica. Daca, de exemplu, o companie a luat decizii de credit pe baza codurilor zip ale consumatorilor, ceea ce a dus la un „impact diferit” asupra anumitor grupuri etnice, FTC ar putea contesta acea practica in cadrul ECOA. Va puteti salva o multime de probleme testand riguros algoritmul dvs., atat inainte de a-l utiliza, cat si periodic dupa aceea, pentru a va asigura ca nu creeaza un impact diferit asupra unei clase protejate.

Concentrati-va pe inputuri, dar si pe rezultate. Atunci cand evaluam un algoritm sau un alt instrument AI pentru discriminare ilegala la FTC, ne uitam la contributiile la model – cum ar fi daca modelul include factori pe baza de etnie sau proxy pentru astfel de factori, cum ar fi tractul de recensamant. Dar, indiferent de contributii, analizam rezultatele. De exemplu, un model discrimina, de fapt, pe o baza interzisa? Un model neutru fatial are un impact ilegal disparat asupra claselor protejate? Analiza noastra economica analizeaza rezultatele, cum ar fi pretul pe care consumatorii il platesc pentru credit, pentru a determina daca un model pare sa aiba un impact diferit asupra persoanelor dintr-o clasa protejata. In acest caz, analizam justificarea companiei pentru utilizarea acelui model si analizam daca o alternativa mai putin discriminatorie ar obtine aceleasi rezultate.

Ofera consumatorilor acces si o oportunitate de a corecta informatiile utilizate pentru a lua decizii cu privire la acestia. FCRA reglementeaza datele utilizate pentru a lua decizii cu privire la consumatori – cum ar fi daca acestia primesc un loc de munca, obtin credit, obtin o asigurare sau pot inchiria un apartament. In conformitate cu FCRA, consumatorii au dreptul sa obtina informatiile din dosar despre acestia si sa conteste aceste informatii daca considera ca acestea sunt inexacte. Mai mult decat atat, este necesar sa se furnizeze consumatori instiintari atunci cand informatiile respective sunt utilizate pentru a lua o decizie adversa intereselor consumatorului. Aceasta notificare trebuie sa includa sursa de informatii care a fost utilizata pentru luarea deciziei si trebuie sa notifice consumatorii cu privire la drepturile lor de acces si litigiu. Daca utilizati date obtinute de la altii – sau chiar obtinuti direct de la consumator – pentru a lua decizii importante cu privire la consumator,

Asigurati-va ca datele si modelele dvs. sunt solide si empirice.

Daca furnizati informatii despre consumatori altor persoane pentru a lua decizii cu privire la accesul consumatorilor la credit, angajare, asigurari, locuinte, beneficii guvernamentale, incasari de cecuri sau tranzactii similare, este posibil sa fiti o agentie de raportare a consumatorilor care trebuie sa respecte FCRA, inclusiv sa se asigure ca datele sunt corecte si actualizate. S-ar putea sa va ganditi: facem AI, nu raportari ale consumatorilor, deci FCRA nu se aplica la noi.

Ei bine, ganditi-va din nou. Daca compilati si vindeti informatii despre consumatori care sunt utilizate sau se asteapta sa fie utilizate pentru credit, angajare, asigurare, locuinte sau alte decizii similare cu privire la eligibilitatea consumatorilor pentru anumite beneficii si tranzactii, puteti fi intr-adevar supus FCRA. Ce inseamna asta? Printre alte lucruri, aveti obligatia de a implementa proceduri rezonabile pentru a asigura exactitatea maxima posibila a rapoartelor consumatorilor si pentru a oferi consumatorilor acces la propriile informatii, impreuna cu posibilitatea de a corecta eventualele erori. RealPage, Inc., companie care a implementat instrumente software pentru a potrivi solicitantii de locuinte in cazierul judiciar in timp real sau aproape in timp real, a invatat acest lucru greu. Compania a sfarsit platind o penalitate de 3 milioane de dolari pentru incalcarea FCRA prin faptul ca nu a luat masuri rezonabile pentru a asigura exactitatea informatiilor pe care le-au furnizat proprietarilor si administratorilor de proprietati.

Daca furnizati informatii despre clientii dvs. pentru alti utilizatori in procesul decizional automatizat, este posibil sa aveti obligatii sa va asigurati ca datele sunt corecte, chiar daca nu sunteti o agentie de raportare a consumatorilor. Companiile care furnizeaza date despre clientii lor agentiilor de raportare a consumatorilor sunt denumite „furnizori” in cadrul FCRA. Este posibil sa nu furnizeze date despre care au motive rezonabile sa creada ca nu pot fi corecte. In plus, acestea trebuie sa aiba aplicate politici si proceduri scrise pentru a se asigura ca datele pe care le furnizeaza sunt corecte si au integritate. Furnizorii trebuie sa investigheze litigiile consumatorilor, precum si litigiile primite de la agentia de raportare a consumatorilor. Aceste cerinte sunt importante pentru a va asigura ca informatiile utilizate in modelele AI sunt cat se poate de exacte si actualizate pe cat posibil. Si FTC a introdus actiuni,

Asigurati-va ca modelele de AI sunt validate si revalidate pentru a va asigura ca functioneaza asa cum intentioneaza si sa nu discriminati ilegal. Din nou, mai multe lectii din lumea creditarii consumatorilor, in care agentii de credit utilizeaza date si algoritmi de zeci de ani pentru a automatiza procesul de subscriere a creditului. Legile privind imprumuturile incurajeaza utilizarea instrumentelor AI care sunt „derivate empiric, demonstrabile si solide statistic”. Acest lucru inseamna, printre altele, ca se bazeaza pe date obtinute dintr-o comparatie empirica a grupurilor de probe sau a populatiei de solicitanti credibili si necreditabili care au solicitat credit intr-o perioada de timp precedenta; ca sunt dezvoltate si validate folosind principii si metodologii statistice acceptate;

Tineti-va la raspundere pentru conformitate, etica, corectitudine si nediscriminare.

Puneti intrebari inainte de a utiliza algoritmul. Revenind la raportul Big Data din 2016, Comisia a avertizat companiile ca analizele de date mari ar putea duce la prejudecati sau alte prejudicii pentru consumatori. Pentru a evita acel rezultat, orice operator al unui algoritm ar trebui sa puna patru intrebari cheie:

Cat de reprezentativ este setul dvs. de date?
Modelul dvs. de date are in vedere prejudecati?
Cat de corecte sunt previziunile dvs. pe date mari?
Increderea pe date mari creeaza probleme de etica sau de echitate?

Protejati-va algoritmul de o utilizare neautorizata. Daca aveti de gand sa dezvoltati AI pentru a vinde altor companii, ganditi-va la modul in care aceste instrumente ar putea fi abuzate si daca controalele de acces si alte tehnologii pot preveni abuzul. De exemplu, doar luna trecuta, FTC a gazduit un atelier despre tehnologiile de clonare vocala. Datorita invatarii automate, aceste tehnologii permit companiilor sa foloseasca un clip de cinci secunde din vocea efectiva a unei persoane pentru a genera un sunet realist al vocii care spune orice. Aceasta tehnologie promite sa ajute persoanele care si-au pierdut capacitatea de a vorbi, printre altele, dar ar putea fi abuzate cu usurinta daca se incadreaza in mainile persoanelor angajate in scheme de impostor. O companie care introduce aceasta tehnologie de clonare verifica utilizatorii si ruleaza tehnologia pe propriile servere, astfel incat sa poata opri orice abuz despre care invata.

Luati in considerare mecanismul de responsabilitate. Luati in considerare modul in care va retineti raspunderea si daca ar avea sens sa utilizati standarde independente sau expertiza independenta pentru a face pasul inapoi si a face cont de AI. De exemplu, revenind la algoritmul care a sfarsit prin a discrimina pacientii negri, angajatii bine intentionati incercau sa foloseasca algoritmul pentru a viza interventiile medicale catre cei mai bolnavi. In afara, observatorii obiectivi care au testat independent algoritmul au fost cei care au descoperit problema. Astfel de instrumente si servicii externe sunt din ce in ce mai disponibile, deoarece IA este utilizat mai des, iar companiile pot dori sa ia in considerare utilizarea acestora.

Utilizarea inteligentei artificiale si a algoritmilor

Fii transparent.

Explicati-va decizia consumatorului.

Asigurati-va ca deciziile dvs. sunt corecte.

Asigurati-va ca datele si modelele dvs. sunt solide si empirice.

Tineti-va la raspundere pentru conformitate, etica, corectitudine si nediscriminare.

Populare

Afacere proprie, angajat la stat sau angajat la privat? Pro &...

Cum alegi cel mai bun brad de Crăciun?

Afla cum iti poti lansa o mica afacere folosind un spatiu...

Top 10 cele mai supraevaluate filme din toate timpurile

10 regizori care au facut un film de groaza si au...

10 documentare care au schimbat perceptia publicului

Top 10 interviuri controversate cu celebritati din toate timpurile

Top 10 cele mai memorabile momente ale premiilor Oscar

Cum se schimba viata atunci cand intri in cercurile sociale ale...

10 povesti ciudate din lumea rap pe care sa le cunosti