Harms Modeling – Azure Application Architecture Guide

• 18.05.2020
• 3 minute de citit

• • d

  • A

  • d

  • H

In acest articol

Modelarea daunelor este o practica conceputa pentru a va ajuta sa anticipati potentialul de daunare, sa identificati lacunele din produs care ar putea pune oamenii in pericol si, in cele din urma, sa creeze abordari care sa abordeze proactiv daunele.

De ce dauneaza modelarii?

In calitate de constructori de tehnologie, munca dvs. este globala. Proiectarea AI pentru a fi de incredere necesita crearea de solutii care sa reflecte principiile etice adanc inradacinate in valori importante si atemporale. In procesul de proiectare si construire a tehnologiilor dvs., este esential sa evaluati nu numai rezultatele ideale, ci si posibilele negative.

Tehnologie si drepturile omului

Este la fel de important ca oricand sa fim constienti de modul in care tehnologia digitala ar putea afecta drepturile omului. Pe langa continuarea protejarii vietii private si a securitatii, trebuie sa abordam riscurile AI si ale altor tehnologii emergente, cum ar fi recunoasterea faciala. Istoria ne invata ca incalcarile drepturilor omului nu rezulta doar din utilizarea nefasta a tehnologiei, ci si din lipsa de constientizare a celor cu intentii bune. Ca parte a dedicarii companiei noastre pentru protectia drepturilor omului, Microsoft a incheiat un parteneriat cu parti interesate importante din afara industriei noastre, inclusiv Natiunile Unite (ONU).

Un set important de principii ONU pe care compania noastra le sustine ferm, care a fost ratificat de peste 250 de natiuni, este Declaratia Universala a Drepturilor Omului (UDHR). DUDH este un document important. Redactata de un grup global diversificat de experti juridici si culturali, Declaratia a fost proclamata de Adunarea Generala a Natiunilor Unite in 1948 ca un standard comun de realizari pentru toate popoarele si toate natiunile. Acesta stabileste, pentru prima data, drepturile fundamentale ale omului care trebuie protejate universal. A fost tradus in peste 500 de limbi. In plus, Microsoft este unul dintre cei 4.700 de companii semnatare ale Pactului Global al ONU, o initiativa de afaceri internationala menita sa promoveze cetatenia corporativa responsabila.

Descarcati in Microsoft Word

Intelegerea umana

In plus fata de aprecierea importantei drepturilor omului, construirea unor sisteme de incredere necesita sa luam in considerare perspectivele multor oameni. Intrebarea cine sunt partile interesate, ce apreciaza, cum ar putea beneficia si cum ar putea fi raniti de tehnologia noastra, este un pas puternic care ne permite sa proiectam si sa construim produse mai bune.

Pe cine are impact tehnologia?

Cine sunt clientii?

• Ce apreciaza?
• Cum ar trebui sa beneficieze?
• Cum le-ar putea dauna tehnica?

Cine sunt partile interesate care nu sunt clienti?

• Ce apreciaza?
• Cum ar trebui sa beneficieze?
• Cum le-ar putea dauna tehnica?

Punerea acestor intrebari este o practica in proiectarea sensibila la valoare si este inceputul unei mai bune intelegeri a ceea ce este important pentru partile interesate si a modului in care joaca in relatia lor cu produsul.

Tipuri de parti interesate

Sponsorii proiectului

Sustinatorii, factorii de decizie si proprietarii alcatuiesc aceasta categorie. Valorile lor sunt articulate in strategia si obiectivele proiectului.

Constructori de tehnologie

Proiectantii, dezvoltatorii, managerii de proiect si cei care lucreaza direct la proiectarea sistemelor alcatuiesc acest grup. Ele aduc propriile standarde etice si valori specifice profesiei in sistem.

Partile interesate directe si indirecte

Aceste parti interesate sunt semnificativ afectate de sistem. Aceasta include utilizatorii finali, personalul software, clientii, spectatorii, institutiile de interfata si chiar generatiile trecute sau viitoare. Pot fi inclusi si factori non-umani, cum ar fi locuri, de exemplu, cladiri istorice sau spatii sacre.

Populatii marginalizate

Aceasta categorie este alcatuita din populatia frecvent considerata minoritara, vulnerabila sau stigmatizata. Aceasta include copiii, varstnicii, membrii comunitatii LGBTQ +, minoritatile etnice si alte populatii care sufera adesea consecinte unice si disproportionate.

Evaluarea prejudiciului

Odata ce ati definit scopul tehnologiei, cazurile de utilizare si partile interesate, efectuati un exercitiu de modelare a efectelor negative pentru a evalua modalitatile potentiale in care utilizarea unei tehnologii pe care o construiti ar putea duce la rezultate negative pentru oameni si societate.

Descarcati in Microsoft Word

Diagrama de mai sus este un exemplu de evaluare a daunelor. Aceasta este o abordare calitativa utilizata pentru a intelege magnitudinea potentiala a prejudiciului.

Puteti finaliza aceasta activitate de idei individual, dar in mod ideal se desfasoara ca colaborare intre dezvoltatori, cercetatori in date, designeri, cercetatori de utilizatori, factorii de decizie in afaceri si alte discipline implicate in construirea tehnologiei.

Sugestii pentru declaratii de descriere a prejudiciului:

• Utilizare intentionata: daca [caracteristica] a fost utilizata pentru [caz de utilizare], [partile interesate] ar putea experimenta [descrierea prejudiciului].
• Utilizare neintentionata: daca [utilizator] a incercat sa utilizeze [caracteristica] pentru [caz de utilizare], [partile interesate] ar putea experimenta [descrierea prejudiciului].
• Eroare de sistem: daca [caracteristica] nu a functionat corect atunci cand este utilizat pentru [caz de utilizare], [partile interesate] ar putea experimenta [descrierea prejudiciului].
• Utilizare gresita: [Actorul rau intentionat] ar putea folosi [functia] pentru a provoca [descrierea prejudiciului] [partii interesate].

Utilizati categoriile, intrebarile si exemplele descrise in Tipurile de daune pentru a genera idei specifice despre modul in care ar putea aparea dauna. Articolul enumera categoriile de daune, care se bazeaza pe zone comune de impact negativ. Adaptati si adoptati categorii suplimentare relevante pentru dvs.

Pasii urmatori

Cititi Tipuri de daune pentru o analiza ulterioara a daunelor.