Memele si retelele de socializare au devenit armate, in timp ce multe guverne par ne dotate pentru a intelege noua realitate a razboiului informational. Cum vom lupta in viitor cu dezinformarea si propaganda sponsorizate de stat?
In 2011, un profesor universitar cu pregatire in robotica a prezentat o idee care parea radicala la acea vreme.
Dupa ce a efectuat cercetari sustinute de DARPA – aceeasi agentie de aparare care a ajutat la crearea internetului – Dr. Robert Finkelstein a propus crearea unui nou brat al armatei americane, un „Meme Control Center”.
In vorbirea pe internet, cuvantul „meme” se refera adesea la o imagine amuzanta, care este virala pe retelele de socializare. Mai pe larg, totusi, o nota este orice idee care se raspandeste, indiferent daca aceasta idee este adevarata sau falsa.
Aceasta definitie mai ampla a meme-ului a avut-o in minte pe Finklestein cand a propus Centrul de control al Meme-urilor si ideea sa de „razboi memetic”.
Din „Tutorial: Memetica militara”, de Dr. Robert Finkelstein, prezentat la Social Media for Defense Summit, 2011
Practic, Centrul de Control al Memeelor Dr. Finklestein ar pompa internetul plin de „mem-uri” care ar beneficia de securitatea nationala a Statelor Unite.
Finkelstein a vazut un viitor in care armele si bombele sunt inlocuite de zvonuri, falsuri digitale si inginerie sociala.
Din „Tutorial: Memetica militara”, de Dr. Robert Finkelstein, prezentat la Social Media for Defense Summit, 2011
Inaintati repede sapte ani, iar ideile Dr. Finklestein nu par deloc radicale. In schimb, ei par clarvazatori.
Alegerile prezidentiale din 2016 din SUA au fost modelate de un amestec volatil de fake news, meddling strain, imagini doctorate, scurgeri masive de e-mail si chiar un meme de desene animate (Pepe the Frog). Nu mai vorbim de un site de stiri conservator numit Infowars.
Nu mai pare o prostie sa spunem ca viitorul razboiului nu se afla pe campul de lupta, ci pe ecranele si in mintea noastra.
Agentiile militare si de informatii din intreaga lume desfasoara deja razboaie secrete de informatii in cyberspatiu. Memoriile lor influenteaza deja profund perceptiile publice despre adevar, putere si legitimitate.
Iar aceasta amenintare se intensifica doar pe masura ce instrumentele de inteligenta artificiala devin mai disponibile.
Considera:
- Armatele cu bot-uri politice sau „papusile” ciorapilor falsi utilizatori vizeaza fluxurile de stiri sociale spre propagarea computerizata.
- Online, linia dintre adevar si fals este aparent fragila, pe masura ce cercetatorii AI dezvolta tehnologii care pot face nedetectabile fals si audio si video.
- In termen de un an, va fi extrem de usor sa creati inselari digitale de inalta calitate a caror autenticitate nu poate fi verificata cu usurinta.
Mai jos, detaliem tehnologiile, tactica si implicatiile viitoarei generatii de razboi.
Atacurile informationale – precum cel descris mai sus – pot fi rezumate intr-un cuvant vechi de secole: Provokatsiya, care este rus pentru „act de provocare”. Se spune ca actul a fost practicat de spionii din Rusia, care dateaza din epoca tarista tarzie. Provokatsiya descrie inselaciunile de mantie si pumnal pentru a discredita, disimula si confunda un adversar.
„Tamburele, pancartele si gong-urile teroriste din razboiul lui Sun Tzu, ajutat de tehnologia informatiei… poate ca au evoluat pana la punctul in care„ controlul ”poate fi impus cu putina violenta fizica.” – Colonelul american Richard Szafranski, „O teorie a razboiului informational: pregatirea pentru 2020”, scris in 1995.
Pe langa imixtiunea internationala, politicienii au fost cunoscuti si pentru organizarea campaniilor interne de influenta digitala. Campania presedintelui Trump a facut obiectul unei analize din ce in ce mai mari pentru contractarea companiei Cambridge Analytica cu sediul in Marea Britanie pentru a mina datele Facebook si a influenta comportamentul alegatorilor in perioada alegerilor din 2016.
Cu toate acestea, ne concentram pe cazurile unui adversar strain care ataca o alta tara (spre deosebire de campaniile de influenta interna) si pe actele de razboi de informatii sponsorizate de stat (spre deosebire de actele comise de actori neafiliati).
Cuprins
- Cresterea razboiului informational digital
- Elemente cheie ale viitorului razboiului informational digital
- Diplomatie si manipulare reputationala
- Phishing laser automatizat
- Propaganda computationala
- Solutii emergente in lupta impotriva inselaciunii digitale
- Descoperirea metadatelor ascunse pentru autentificare
- Blockchain pentru urmarirea continutului digital inapoi la sursa
- Localizarea persoanelor generate de AI
- Detectarea imaginii si a manipularii video la scara
- Combaterea propagandei computationale
- Regulamentul guvernamental si securitatea nationala
- Ganduri finale
Cresterea razboiului informational digital: cum am ajuns aici?
In general, razboaiele de informatii implica doua tipuri de atacuri: achizitionarea de date sensibile si scurgerea strategica a acestora si / sau campaniile de influenta publica inselatoare.
Ambele tipuri de atacuri au facut valuri in ultimii ani. Intr-unul dintre cele mai notorii exemple, agentii rusi au organizat atacuri de informatii menite sa influenteze rezultatul alegerilor prezidentiale din 2016 din SUA. Se presupune ca trupele cibernetice ruse au piratat si au scapat comunicari prin e-mail sensibile de la Comitetul National Democrat si au desfasurat o campanie de propaganda online pentru a influenta alegatorii americani.
Facebook este de acord cu rechizitoriul FBI potrivit caruia un guvern contractat de guvernul rus, numit Agentia de Cercetare a Internetului (IRA), era responsabil pentru expunerea a pana la 150 de milioane de americani (sau doua treimi din electorat) la propaganda straina prin intermediul platformei de socializare. Rechizitoriul nu spune daca amestecarea Rusiei a avut efect asupra rezultatelor alegerilor. Dar vulnerabilitatea sistemului electoral si mass-media este o ingrijorare pentru toata lumea, indiferent de politica partizana.
Desigur, nu toate scurgerile de informatii sunt acte clare de razboi. In unele cazuri, scurgerile servesc ca un pas in directia responsabilitatii si a transparentei, asa cum este acum considerat in cazul asa-numitelor documente Pentagon care au relevat intinderea razboiului secret al SUA in Asia de Sud-Est.
In esenta, scurgerile sunt o zona cenusie. Fiecare scurgere trebuie examinata de la caz la caz inainte de a fi declarata un act de razboi.
Campaniile de dezinformare vizate nu sunt o zona cenusie: sunt daunatoare si corozive. Aceste atacuri (inclusiv dezinformarea, propaganda si inselaciunea digitala) sunt centrul acestei cercetari.
In ultimii ani, atacurile informationale s-au materializat rapid. Cu patru ani in urma, Forumul Economic Mondial a numit „raspandirea dezinformarii online” drept a 10-a tendinta cea mai semnificativa de urmarit in 2014. Astazi, evenimente precum blocarea alegerilor din Rusia confirma desfasurarea sistematica a atacurilor informationale digitale, sponsorizate de stat de un adversar strain.
Cu alte cuvinte, in doar doi ani (2014 – 2016), abilitatea unui actor rau de a manipula informatiile pe internet a trecut de la a fi o preocupare de top in randul liderilor ganditi, pana la a avea un efect direct asupra procesului democratic american.
Rusia nu este singura tara responsabila cu denaturarea opiniei publice pe internet. Un studiu de la Universitatea Oxford a descoperit cazuri de campanii de manipulare a retelelor de socializare realizate de organizatii din cel putin 28 de tari din 2010. Studiul a subliniat, de asemenea, ca „regimurile autoritare nu sunt singurele sau chiar cele mai bune la manipularea organizata de social media”.
De obicei, razboaiele transfrontaliere de informatii sunt purtate de ciber-trupe sponsorizate de stat, dintre care lumea are multe, iar SUA are cele mai multe.
Sursa: Universitatea Oxford
Lumea se confrunta deja cu realitatea inconfortabila ca oamenii se confunda din ce in ce mai mult cu fictiunea si fictiunea. Cu toate acestea, tehnologiile din spatele raspandirii dezinformarii si inselaciunii online sunt inca la inceput, iar problema autentificarii informatiilor incepe doar sa se contureze.
Simplu, acesta este doar inceputul.
Nu exista nicio Conventie de la Geneva sau un tratat al ONU care sa detalieze modul in care o natiune ar trebui sa defineasca atacurile de informatii digitale sau sa riposteze proportional. Pe masura ce noile tehnologii se extind, intelegerea tacticii si circumstantelor care definesc viitorul razboiului informational este acum mai critica ca niciodata.
Elemente cheie ale viitorului razboiului informational digital
O tema comuna in razboaiele de informatii digitale care urmeaza va fi raspandirea intentionata a fricii, incertitudinii si indoielilor cunoscute si sub denumirea de FUD online. Informatiile negative sau false vor fi hiper-orientate catre anumiti utilizatori de internet care sunt susceptibili sa raspandeasca FUD.
Trei tactici cheie, sustinute de tehnologiile de sustinere, vor juca roluri cheie in viitorul razboiului, asa cum sunt delimitate in parte de Aviv Ovadya, ofiter tehnologic principal pentru Centrul de Responsabilitate Sociala al Universitatii din Michigan:
- Diplomatie si manipulare reputationala: utilizarea tehnologiilor avansate de inselaciune digitala pentru a incita reactii diplomatice sau militare nefondate la un adversar; sau sa inlocuiasca in mod fals si de a legitima liderii si influentarii adversarului.
- Phishing cu laser automat: utilizarea hiper-tinta a AI-ului rau intentionat pentru a imita entitati de incredere care obliga tintele sa actioneze in moduri in care altfel nu ar fi, inclusiv eliberarea de secrete.
- Propaganda de calcul: exploatarea social media, psihologia umana, zvonuri, barfe si algoritmi pentru manipularea opiniei publice.
„De-a lungul istoriei, scopul principal al operatiunilor militare a fost atins prin activitatea fizica… in zilele noastre aproape toate actele de violenta fizica vin cu o componenta [online], care exploateaza retelele sociale pentru a manipula opinia si perceptia.” – Generalul Sir Nicholas Houghton, fost sef al Statului Major al Apararii al Armatei Britanice
Diplomatie si manipulare reputationala: video si audio fals
Manipularea diplomaticii este actul de a crea o credinta falsa ca un eveniment a avut loc pentru a influenta deciziile geopolitice.
In acest scop, cercetatorii de la Universitatea din Washington (UW) au folosit deja AI cu succes pentru a crea un videoclip realist al presedintelui Obama „spunand” lucruri pe care nu le-a spus niciodata.
Conform documentului universitatii privind experimentul, grefarea clipurilor audio pe un videoclip realist, sincronizat cu buze, poate „schimba ceea ce [Obama] pare sa spuna intr-un videoclip tinta pentru a se potrivi cu pista audio de intrare.”
Este usor sa va imaginati cum un astfel de videoclip modificat – daca este suficient de bun pentru a arata autentic – ar putea provoca rapid ravagii, fie in SUA, fie in strainatate.
Progresele inregistrate in AI se declanseaza intr-o noua era a falsurilor video si audio, care vor avea efecte profunde asupra viitorului diplomatiei. Desi tehnologia este inca in curs de dezvoltare in universitati, nu va fi cazul pentru mult timp.
AI pentru a crea continut digital fals
GAN-urile (retele adversare generative) sunt un tip de AI utilizat pentru a efectua invatare automata nesupravegheata. Intr-un GAN, retelele neuronale opuse colaboreaza pentru a crea continut audio, imagine si video din ce in ce mai realiste.
In esenta, o retea neuronala din GAN actioneaza ca o folie care impinge cealalta retea sa genereze rezultate de inalta fidelitate. Reteaua este judecata si isi corecteaza iesirea pana cand rezultatul final este un videoclip sau o imagine cu adevarat realista a unui eveniment care nu s-a intamplat niciodata.
De asemenea, reteaua neuronala usureaza falsificarea audio. O retea neuronala poate converti elementele unei surse audio in proprietati statistice, iar aceste proprietati pot fi reorganizate pentru a realiza clipuri audio false originale.
Schita a unei retele genealogice generatoare pentru crearea de imagini false, credit DL4J
Manipularile diplomatice de mare calibru vor combina probabil inselaciunea AI, audio si video intr-un singur atac. In acest moment, echipele de cercetare din intreaga lume lucreaza la instrumente aparent benigne care ar putea oferi aceasta oportunitate daca nu suntem atenti.
Editare inselatoare de video si audio
Cercetatorii de la Universitatea Stanford au publicat rezultate timpurii care indica faptul ca este posibila modificarea fetei pre-inregistrate a unei persoane in timp real pentru a imita expresiile altei persoane.
In esenta, un actor care doreste sa interpreteze o tinta poate crea o marioneta umana digitala facand o fata intr-o camera web. O redare digitala a fetei tintei va imita fata actorului in timp real.
Deocamdata, aceasta tehnica necesita inca ore de inregistrare video pre-inregistrate ale tintei pentru a parea realista. Din pacate, figuri publice puternice sunt vulnerabile in mod unic, deoarece exista numeroase inregistrari video istorice care le arata vorbind si miscandu-se in viata reala.
Utilizarea unei camere web de inalta tehnologie impreuna cu acest software de inalta tehnologie sugereaza ca aceasta tehnica este accesibila pasionatilor de video si artistilor de propaganda sofisticati deopotriva. Aceasta niveleaza terenul de joc, largind gama de actori capabili sa insele inselaciuni video.
Sursa: Face2Face, Universitatea Stanford
In cazul experimentelor video ale Obama, care au fost finantate de Samsung, Google, Facebook, Intel si Laboratoarele de Animatie ale Universitatii, cercetatorii au folosit o retea neuronala pentru a transforma sunetele dintr-un fisier audio in forme de baza ale gurii. Apoi, sistemul a altoit si amestecat acele forme ale gurii pe un videoclip tinta existent si a ajustat momentul pentru a crea un nou videoclip realist, sincronizat cu buze.
Sursa: schita Universitatii din Washington a procesului care a creat falsul videoclip Obama
Viitoarele iteratii ale tehnologiei lip-synch, dezvoltate la UW, sunt concentrate pe utilizarea a mai putine date pentru a genera clipuri false – trecand de la 10 sau mai multe ore de date de instruire video pana la una. Daca cercetatorii reusesc sa faca acest lucru, tehnologia va putea fi utilizata pentru a crea videoclipuri false cu oameni cu imagini mai putin istorice pentru a antrena algoritmii.
In special, fabricarea audio devine din ce in ce mai usoara si mai consumata . De exemplu, startul canadian Lyrebird dezvolta o tehnologie care poate inregistra un minut de audio din vocea cuiva pentru a genera clipuri audio mai lungi fabricate in aceeasi voce. In mod similar, in 2016 Adobe a dezvaluit un prototip numit Project VoCo (denumit si „Photoshop pentru voce”). Proiectul isi propune sa permita utilizatorilor sa editeze vorbirea umana in acelasi mod in care Photoshop poate fi utilizat pentru a edita imagini digitale.
Aceste instrumente vor avea, fara indoiala, un impact asupra viitorului procesului de luare a deciziilor diplomatice: imaginati-va o eruptie de videoclipuri false care impiedica apele in timpul negocierilor de pace sensibile intr-o parte a lumii.
Intre timp, adoptarea pe scara larga a intermedierii video si audio activate de AI inseamna ca va exista, de asemenea, o crestere corespunzatoare a atacurilor reputationale impotriva tintelor de mare valoare.
Manipularea reputationala implica utilizarea deceptiilor video video si audio digitale pentru a ataca reputatia unei persoane.
Oamenii au inceput deja sa creeze videoclipuri pornografice, cunoscute sub numele de deepfakes (un portmanteau de „invatare profunda” si „fals”), folosind software care suprapune fetele celebritatilor pe vedetele de film pentru adulti. Termenul deepfake a aparut pentru prima data pe Reddit cand un utilizator anonim cunoscut sub numele de „deepfakesapp” a lansat prima versiune a tehnologiei in decembrie 2017.
Un alt Redditor a lansat ulterior o versiune imbunatatita, numita FakeApp. FakeApp foloseste un program de invatare profunda numit TensorFlow, dezvoltat de Google, pentru a permite utilizatorilor sa creeze videoclipuri realiste unde au fost schimbate fetele.
Aplicatia si tehnologia sa de baza castiga tractiune.
Deepfake Society, un site web care contine videoclipuri deepfake realizate cu FakeApp, a avut peste 1 milion de vizualizari de la lansarea in februarie. Deepfake Society interzice pornografia (are site-uri surori care nu). Site-uri similare au aparut ca resurse gratuite pentru dobandirea instrumentelor si a abilitatilor necesare pentru a efectua operatiuni rudimentare de profunzime, cum ar fi altoirea fetei fostului vicepresedinte Joe Biden pe un videoclip al presedintelui Trump.
Sursa: DeepFakesClub
Atacurile reputationale pot defaima personajul unei persoane, le pot face de incredere si chiar pot crea un caz de arest. In razboi, aceasta tactica va fi folosita pentru a discredita liderii si a inflama tensiunile societatii.
Tehnologia reputationala de razboi este inca destul de noua, folosita in primul rand de catre adoptatorii timpurii din colturile relativ indepartate ale internetului.
Tehnologia progreseaza alaturi de avansari in IA, care pot tine cont de detalii convingatoare, cum ar fi miscarile ochilor, ridurile, ondulatiile si multe altele.
„Sunt mult mai ingrijorat de ceea ce ar putea veni in continuare – ar putea actorii rai sa vizeze copiii cu videoclipuri false de la oameni in care au incredere? ”- Senatorul Mark Warner (D – VA)
Atat codul sursa, cat si intregul proiect FakeApp cu modele pre-instruite pot fi gasite online si open-source pe GitHub. Software-ul se invata sa efectueze sarcini de recunoastere a imaginii prin incercare si eroare. Cu cat mai multa putere de procesare a computerului, cu atat functioneaza mai repede.
Un pericol imens cu atacuri de reputatie precum adunarile profunde nu este doar faptul ca oamenii neasumatori vor crede in fasa, ci si ca oamenii vor fi capabili sa respinga probe video si audio cu privire la adevarate crime.
Phishing cu laser automat: IA-ul rau intentionat care implica si manipuleaza oamenii
Cantitatea de date disponibile in aceste zile face persoanele vulnerabile la o multitudine de atacuri personale. Atacurile cibernetice obisnuite cunoscute sub denumirea de phishing vor fi principalul mijloc de a efectua atacuri personalizate – iar astfel de atacuri sunt din ce in ce mai sofisticate si dificil de oprit.
Atacurile automate de phishing cu laser folosesc AI pentru a crea personalitati realiste de oameni. Intentia acestor atacuri este de a constrange pe altii sa ia anumite actiuni si / sau sa divulge informatii secrete.
Cea mai frecventa forma de atac cibernetic vizat de phishing sub forma de sulita perpetuata prin e-mail este cea mai comuna, iar incorporarea AI inseamna ca atacatorii vor fi mai buni in selectarea, infaptuirea si pacalirea victimelor lor. Phishing-ul activat de AI face ca victimele sa aiba mult mai multe sanse sa aiba incredere in atacatori, in timp ce automatizarea accelereaza scara la care pot avea loc atacurile.
Sofisticarea si amploarea acestor atacuri inseamna ca populatii intregi pot fi pacalite sa urmareasca conducerea unei IA-uri daunatoare. Un torent de dezinformare ar putea provine de la o AI care implica factorii de decizie cheie, provocand confuzii pe scara larga.
„Alarmismul poate fi bun – ar trebui sa fii alarmist in privinta acestor chestii … Suntem atat de infocati, incat este dincolo de ceea ce ne putem imagina majoritatea dintre noi. Am fost insurubati complet cu un an si jumatate in urma si suntem si mai multi acum. Si in functie de cat de departe priviti in viitor, se agraveaza. ” – Aviv Ovadya, tehnolog sef pentru Centrul de Responsabilitate Social Media al Universitatii din Michigan
Combinatia de atacuri de reputatie si phishing automat cu laser va face, in esenta, astfel incat sa nu putem avea incredere in ceea ce vedem si auzim de la alti oameni online.
In timp – si cu suficienta expunere la aceste tipuri de deceptii digitale – acest lucru poate duce la apatie in realitate.
Apatia realitatii se caracterizeaza printr-o lipsa constienta de atentie la stiri si o pierdere de informare in luarea deciziilor. In SUA, un electorat din ce in ce mai neinformat ar putea rani premisa democratiei noastre, in timp ce in statele autoritare, monarhii ar putea sa-si inlature controlul asupra cetatenilor neinformati si apatici.
Propaganda de calcul: digitalizarea manipularii opiniei publice
Propaganda computationala este utilizarea algoritmilor, automatizarii, a retelelor de socializare si a continutului curat de oameni pentru a salva campanii de influenta publica larg raspandite.
Social media este vitala pentru fluxul propagandei computationale. Algoritmii care ne trateaza fluxurile de stiri sociale sunt susceptibile de manipulare. Feedurile de stiri sociale sunt guvernate de stimulente care acorda prioritate viziunilor extreme si continutului partajabil fata de calitate si adevar.
Acest lucru creeaza un scenariu in care utilizatorii ingereaza si promoveaza naratiuni pe care cred ca sunt adevarate, indiferent de validitatea lor.
Multe dintre cele mai influente companii de tehnologie, detin sau inapoi platformele de retea sociala care gazduiesc propaganda distribuita in mod computerizat din lume.
Facebook este cea mai utilizata retea de socializare, urmata de YouTube Google, apoi de Facebook pe Facebook. Tencent in China detine platforma Qzone, in al patrulea rand.
Problema este agravata de faptul ca 40% din populatia globala foloseste media sociala. In SUA, mai mult de doua treimi dintre americani (67%) primesc cel putin unele stiri pe social media, potrivit unui studiu din Pew Research Center din 2017.
Iar utilizarea retelelor sociale nu este limitata la tarile dezvoltate: un studiu al Pew Research Center, format din 21 de tari in curs de dezvoltare si in curs de dezvoltare, a constatat ca oamenii din economiile avansate folosesc zilnic social media in scopuri de stiri la un ritm similar cu cele din economiile emergente sau in curs de dezvoltare (mediana de 36 % si respectiv 33%).
Cu toate acestea, increderea Americii in mass-media principala a scazut constant de la inceputul anilor 2000, mai putin de jumatate din tara indicand ca in 2017 au incredere in institutiile mass-media majore.
„Democratia depinde de un electorat informat si, atunci cand nici nu putem fi de acord cu elementele de baza ale realitatii, devine din ce in ce mai imposibil sa avem conversatiile dure necesare pentru a inainta tara inainte … Efectul cumulativ este o eroziune sistemica a increderii inclusiv increderea dintre oameni si conducatorii lor. ” – Renee DiResta, lider de politica la Data for Democracy
In mod special, robotii sunt integrali pentru raspandirea propagandei computationale . Botii sunt programe software concepute pentru a imita oamenii. Expertii de securitate considera ca robotii genereaza putin peste jumatate (~ 52%) din tot traficul online.
Pe platformele de retea sociala, robotii fac astfel incat o persoana sau un grup mic de oameni sa poata da in mod fals impresia ca exista miscari sociale si politice la scara larga acolo unde, de fapt, nu o fac.
Bots de propaganda computationala sunt folositi in minerit pe scara larga a metadatelor populatiei tinta. Apoi manipuleaza aceste metadate pentru a identifica canalele digitale potrivite pentru a inunda cu propaganda, cu scopul de a raspandi informatii directionate perfect cronometrate care se adreseaza anumitor utilizatori.
AI si tehnologiile de invatare automata permit robotilor de propaganda computationala sa isi adapteze campaniile in timp real si sa se raspandeasca pe scara asemanatoare virusului. In esenta, acesti roboti identifica si exploateaza persoane care sunt calculate in prealabil ca fiind cele mai vulnerabile la manipularea psihologica digitala.
Propagandistii politici, cum ar fi infamata firma Cambridge Analytica, exploateaza trasaturi la oameni care le semnalizeaza nivelul de susceptibilitate la diferite manipulari psihologice.
Exemple de astfel de trasaturi sunt detaliate in e-mailurile pierdute de la firma (acum falimentata). Trasaturile includ loialitatea fata de un partid politic, pozitii cu privire la problemele cu butonul fierbinte, cum ar fi controlul armelor si chiar daca o persoana este nevrotica, suspecta de altii sau crede in semne astrologice.
Lista de cumparaturi a trasaturilor previzibile compilate de Cambridge Analytica, sursa: NYT
Viitorul propagandei computationale
In viitor, razboiul memetic si propaganda computationala vor merge mana in mana.
Razboiul memetic ar putea fi privit ca versiunea digital-nativa a razboiului psihologic traditional. Dupa cum am spus mai sus, memoriile sunt forme aparent benigne ale mijloacelor digitale care se raspandesc, adesea ca mimica sau in scopuri pline de umor, pe retelele de socializare.
Mai pe larg, memoriile s-au dovedit capabile sa descarce sau sa aprinda campanii politice, sa polarizeze oamenii, sa alimenteze miscarile sociale si chiar sa incite la violenta.
Conceptul de razboi memetic a existat in cercurile militare inca de la mijlocul anilor 2000. De fapt, asa cum am mentionat mai sus, DARPA a comandat cercetari privind „memetica militara” ca parte a scufundarii sale in „razboiul neurocognitiv” inca din 2006.
In viitorul apropiat, este posibil sa vedem campanii de razboi memetice raspandite in mod calculat, care sunt suficient de sofisticate pentru a reprograma opiniile indivizilor pe o scara care manipuleaza comportamentul societatilor intregi.
Am putea observa, de asemenea, cresterea pietelor de propaganda computationala pe web-obscur, unde informatiile popoarelor vulnerabile vor fi grupate si vandute celor mai ofertanti.
filme porno hd online http://directfederalcreditunion.biz/__media__/js/netsoltrademark.php?d=adult69.ro/
filme porno cu femei mature si tineri http://emilytaylorfullerton.net/__media__/js/netsoltrademark.php?d=adult69.ro/
videos porno hentai http://fredkaiser.com/__media__/js/netsoltrademark.php?d=adult69.ro/
muzica porno http://geneden.com/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/amatori
porno cu femei flocoase http://hlearn.com/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/anal
porno hd romanesti http://mustangsuperchargers.net/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/asiatice
porno orgasme http://thetruthfestival.com/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/beeg
filme porno ejaculare http://funsim.com/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/blonde
porno eleve http://idahosugar.net/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/brazzers
free porno incest http://lifepaste.net/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/brunete
porno cu cur mare http://eckcenter.org/__media__/js/netsoltrademark.php?d=adult69.ro/filme-porno/chaturbate
porno masaj http://paetecnologies.com/__media__/js/netsoltrademark.php?d=adult69.ro/inghite-sperma-reporterului-care-ii-ia-un-interviu
filme porno 3d http://authorizeddistributorlocator.com/__media__/js/netsoltrademark.php?d=adult69.ro/avocatul-stie-sa-o-bage-anal
www.filme porno http://splashgloves.com/__media__/js/netsoltrademark.php?d=adult69.ro/lezbiana-matura-o-pedepseste-sever-pe-scolarita
sure porno http://oldlaredo.org/__media__/js/netsoltrademark.php?d=adult69.ro/masaj-anti-imbatranire-cu-multa-sperma
porno massage http://ohioeyesurgery.com/__media__/js/netsoltrademark.php?d=adult69.ro/zambeste-pentru-ca-pula-o-iubeste
porno cu parinti http://harlemhistoricalsociety.com/__media__/js/netsoltrademark.php?d=adult69.ro/artist-batran-ii-lasa-un-tatuaj-anal-fetitei
piticul porno http://kleine-inc.net/__media__/js/netsoltrademark.php?d=adult69.ro/apa-sarata-ii-face-bine-la-pizda
latina porno http://chainsawchicks.com/__media__/js/netsoltrademark.php?d=adult69.ro/unchiul-o-santajeaza-pentru-sex-salbatic
porno serbia http://trijiconoptics.com/__media__/js/netsoltrademark.php?d=adult69.ro/fiul-si-mama-au-o-aventura-de-o-noapte
Acestea vor fi piete ilicite si anonime pentru cumpararea si vanzarea profilurilor persoanelor maleabile psihologic. Guvernele adversare si agentii straini pot folosi aceste piete pentru a obtine accesul la vanzare fara acces la partile vulnerabile.
In toate acestea, este important sa retineti ca achizitia de metadate necesare pentru a rula modelarea psihografica la nivel national este costisitoare si necesita mult timp. Crearea sabloanelor initiale pentru continut inselator si formarea modelelor de calcul este cel putin in parte munca echipelor umane care necesita plata.
Prin urmare, campaniile propagandistice computationale vor fi derulate probabil de catre bogati si puternici impotriva celor bogati si puternici: guverne, partide politice, corporatii si grupuri de interese speciale.
Solutii emergente in lupta impotriva inselaciunii digitale
Nu este timp sa astepti o solutie. Tarile care includ Egiptul, Brazilia si Mexicul au toate alegerile generale in 2018, iar in SUA, alegerile la jumatatea anului 2018 sunt la colt. Aceste rase politice si multe altele vor fi din ce in ce mai manipulate de catre propaganda computationala si deceptii digitale avansate.
Trebuie sa dezvoltam tehnologii si tehnici noi pentru a combate razboiul informational. Pentru inceput, avem nevoie de o modalitate scalabila pentru a detecta videoclipuri false de inalta calitate.
Incetarea propagandei computationale este o problema si mai complexa. Cu toate acestea, cercetatorii si profesionistii din universitati, guverne, startup-uri si sectorul nonprofit pun bazele pentru ceea ce ar putea deveni intr-o zi sa devina aparare criminalistica eficienta in lupta impotriva inselaciunii digitale.
Descoperirea metadatelor ascunse pentru autentificarea imaginilor si videoclipurilor
Amnesty International, cea mai mare organizatie din domeniul drepturilor omului, finantata de la nivel mondial, se afla pe primele linii in lupta pentru autentificarea unor dovezi video transmise de utilizator de abuzuri la drepturile omului.
Laboratorul de evidenta a cetateniei Amnesty este specializat in descoperirea contextului din spatele imaginilor si videoclipurilor. Laboratorul construieste expertiza si tehnologie pentru a autentifica cand, unde si chiar modul in care a fost capturat un videoclip.
De exemplu, laboratorul utilizeaza Google Earth si motorul de cautare Wolfram Alpha pentru a face referinte incrucisate si conditiile meteorologice din videoclipuri pentru a vedea daca videoclipul a fost capturat in conditiile pe care le pretinde.
Laboratorul de evidenta cetateana trianguleaza detaliile din videoclipul transmis de utilizator de o filmare in Papua Noua Guinee pentru a autentifica originile videoclipului. Sursa: Amnesty International
Laboratorul de evidenta cetateana are, de asemenea, un instrument numit YouTube Data Viewer, care extrage metadate ascunse din videoclipurile gazduite pe YouTube. Cele mai multe dintre centrele de lucru sunt identificarea videoclipurilor vechi sau falsificate pe care utilizatorii incearca sa le transmita ca abuzuri actuale ale drepturilor omului.
Blockchain pentru urmarirea continutului digital inapoi la sursa
Tehnicile criptografice care stau la baza tehnologiei din spatele blockchain-ului pot ajuta, de asemenea, sa se asigure ca continutul digital provine de la o sursa de incredere, responsabila.
In esenta, mass-media ar putea fi stampilata cu un identificator criptografic unic, care – atunci cand face referinta incrucisata cu inregistrari de pe un blockchain – se poate dovedi dincolo de orice indoiala de unde este originar media. Media fara identificator ar fi considerata mai putin de incredere.
Aceasta tehnica ar fi de ajutor in special pentru a detecta imagini si videoclipuri care sunt utilizate in afara contextului in incercarea de a insela. Cu toate acestea, grupurile de criminalistica digitala si media-criptografii vor trebui sa se inteleaga cu AI care genereaza videoclipuri false de la zero.
Localizarea persoanelor generate de AI
Cercetatorii de la MIT au demonstrat tehnologia Eulerian pentru marirea video care poate ajuta persoanele generate de AI in videoclipuri.
Aceasta tehnologie de marire video poate identifica persoanele reale, generate de AI, detectand detalii minime, cum ar fi ritmul cardiac al unei persoane, uitandu-se la modificari subtile ale culorii pielii din cauza fluxului de sange. Prin detectarea absentei fluxului de sange facial, tehnologia poate detecta subiecte fabricate de calculator: AI nu este inca suficient de bun pentru a crea acel nivel de realism intr-un videoclip fals.
Sursa: MIT
Cercetarea este un prim pas in lupta pentru a distinge filmele oamenilor reali de fantomele digitale.
Referirea incrucisata a metadatelor video, documentarea continutului legitim pe blockchain si utilizarea tehnologiei avansate de marire video sunt pasi in directia buna. Cu toate acestea, aceste instrumente si tehnici nu sunt suficient de scalabile pentru a eradica amenintarea imensa de inselaciune digitala activata de AI. Avem nevoie de o solutie scalabila pentru ziua in care aproape oricine poate face un fals de inalta calitate.
Detectarea imaginii si a manipularii video la scara
Agentia de proiecte avansate pentru aparare in aparare (DARPA) a lansat cel putin doua apeluri de cercetare pentru a construi un sistem de autentificare digitala scalabil.
Proiectul criminalistica media (MediFor) este o incercare de a construi o platforma pentru detectarea algoritmica a manipularilor in imagini si videoclipuri. MediFor ar putea duce intr-o buna zi la crearea unei platforme de crowdsourcing in care spectatorii pot investiga colectiv autenticitatea videoclipurilor.
Proiectul MEMAR al DARPA ar putea ajuta la construirea unui motor masiv de cautare online, capabil sa faca referinta incrucisata a datelor de imagine de pe intregul internet, inclusiv de pe Internetul profund. Un proiect finantat de MEMEX de la Universitatea Columbia demonstreaza capacitatea de a gasi imagini similare ale victimelor traficului de persoane printre terabyte de date structurate si nestructurate. Aceasta lucrare ar putea ajuta la descoperirea unor aspecte ale imaginilor si videoclipurilor generate de AI, care provin din alte surse.
Combaterea propagandei computationale
Ne putem apara de a fi manipulat algoritmic pe social media. Cheia este de a detecta propaganda digitala la timp pentru a lua masuri.
Se lucreaza promitator pentru a dezvolta algoritmi care colecteaza si clasifica instantele de propaganda digitala pentru a identifica roboti si conturi care sunt responsabile de raspandirea acesteia. Cu toate acestea, in prezent, un mijloc tehnologic scalabil pentru a combate propaganda computationala este in mare masura teoretica si, in cel mai bun caz, in primele etape ale dezvoltarii.
Mai multe organizatii au publicat idei despre cum sa combata propaganda computationala, cum ar fi sa utilizeze bots buni care perturba retelele de boturi rele sau sa identifice bots rai care se prefac a fi umani.
In mod similar, proiectele unice pentru rezolvarea propagandei computationale se dezvolta sporadic in intreaga lume.
Cercetatorii de la Universitatea Indiana sunt printre institutiile care lanseaza versiuni beta ale proiectelor precum OSoMe: Social Media Observatory. OSoMe al IU include instrumente pentru „vizualizarea raspandirii creantelor si verificarea faptelor” si „detectarea si blocarea robotilor Twitter intr-un newsfeed”.
Scoala de jurnalism din Ucraina, Kyiv-Mohyla, impreuna cu viitorul digital al jurnalismului KMA, au lansat site-ul de verificare a faptelor Stopfake.org. Site-ul este un hub de informatii in care utilizatorii pot examina si analiza toate aspectele propagandei online nascute de la Kremlin.
Regulamentul guvernamental si securitatea nationala
Regulamentele pentru a opri online politica-propaganda straina sunt, de asemenea, nastere.
The Honest Ads Act (HR 4077) este un proiect de lege introdus anul trecut in Senatul SUA. Proiectul de lege urmareste sa reglementeze reclame de campanie online gazduite pe platforme precum Facebook si Google.
In UE, Regulamentul general privind protectia datelor (GDPR), care intra in vigoare in mai 2018, ofera cetatenilor UE posibilitatea de a controla utilizarea informatiilor lor de identificare personala (PII), ceea ce ar putea ajuta sa pastreze aceste date din mainile propagandisti.
Ideile includ, de asemenea, un apel pentru crearea unei noi discipline de inteligenta numita „informatii publice”. Teoretic, o noua unitate ar putea „informa publicul american despre activitati straine ostile destinate sa schimbe credintele sau cunostintele in beneficiul unui stat strain.”
Marea tehnologie este din ce in ce mai mult vazuta nu doar ca un atu economic, ci ca o problema de securitate nationala.
Acest lucru schimba dinamica modului in care companiile tehnologice sunt privite politic si pune presiune asupra acestor companii pentru a actiona. Unii giganti tehnologici fac masuri pentru a combate raspandirea asa-numitelor „fake news”. De exemplu, Google intentioneaza sa cheltuiasca 300 de milioane de dolari in urmatorii trei ani pentru a sprijini jurnalismul autoritar, in timp ce Apple a achizitionat recent distribuitorul revistei digitale Texture ca intrare in lumea jurnalismului.
Ganduri finale
Viitorul combaterii razboiului informational este incert, dar de speranta. Puternica cohorta de DARPA, corporatii, startup-uri, non-profit si universitati fac toate progrese in lupta pe termen lung impotriva razboiului informational. Totusi, autoritatile de reglementare si corporatiile si-au redus munca pentru ei.
Anumite grupuri au responsabilitatea de a proteja indivizii pe termen scurt. In timp ce corporatiile precum Facebook nu creeaza in mod direct propaganda, retelele sociale detin si administreaza caile prin care curg o mare parte a deceptiilor digitale ale lumii. Aceste platforme sunt sub presiune pentru a-si schimba din nou algoritmii de partajare si modelele de afaceri pentru a pastra confidentialitatea utilizatorilor si a ajuta la controlul raspandirii propagandei si inselaciunii.
Pe masura ce autoritatile de reglementare se ocupa de noile tehnologii si companiile tehnologice lucreaza pentru a elimina actorii rai, onusul pentru protectie digitala revine utilizatorului. Pentru viitorul previzibil, vom continua sa fim responsabili pentru evaluarea veridicitatii informatiilor pe care le consumam.
Aceasta inseamna sa fim constienti de naratiunile pentru care suntem serviti si sa invatam noi insine sa recunoastem naratiuni care confirma partinirea noastra fata de cele care ne contesta credintele. Dar este putin probabil ca indivizii in masa sa devina razboinici independenti de informatii capabili sa evalueze naratiunile concurente cu un control egal. Cu exceptia acestui fapt, alte institutii vor trebui sa puna bazele unei aparari scalabile impotriva razboiului informational.
Acest raport a fost creat cu date de pe platforma emergenta de informatii in domeniul tehnologiei CB Insights, care ofera claritate in domeniul tehnologiilor emergente si al noilor strategii de afaceri prin instrumente precum:
- Transcriptii de castiguri Motor de cautare si analize pentru a obtine un avantaj informational cu privire la strategiile concurentilor si ale operatorilor
- Patent Analytics pentru a vedea unde se intampla inovatia in continuare
- Scoruri de mozaic ale companiei pentru a evalua starea de sanatate a pornirii, bazata pe algoritmul nostru bazat pe fundatia stiintifica nationala
- Relatii de afaceri pentru a vedea rapid concurentii, partenerii si multe altele ale unei companii
- Instrumente de dimensionare a pietei pentru a vizualiza cresterea pietei si a evidentia urmatoarea mare oportunitate
Daca nu sunteti deja client, inscrieti-va la un proces gratuit pentru a afla mai multe despre platforma noastra.
