Ascensiunea inteligenței artificiale ca mașină de propagandă

”Avem o mașină de propagandă. Țintește oameni în mod individual cu scopul de a-i convinge să adere la o idee. E un nivel de inginerie socială nemaivăzut. Mașina reușește să prindă oameni într-o capcană emoțională de unde nu au cum să scape” – Prof. Jonathan Albright, după ce a studiat ascensiunea fenomenului ”fake news” în urma alegerii lui Donald Trump ca președinte al SUA.

Folosind postări automate, Facebook ”dark posts” (postări FB ce nu apar pe peretele unei pagini, dar pot fi accesate de orice persoană ce are link), A/B testing (un experiment prin care 2 versiuni ale unei pagini web sunt prezentate utilizatorilor și sunt analizate statistic pentru a determina care pagină își atinge țelul mai bine) și rețele de știri false, compania Cambridge Analytica a activat o mașinărie de propagandă ce studiază personalitățile votanților pentru a crea schimbări majore în opinia publică.

Cambridge Analytica a contribuit enorm la victoria lui Donald Trump în alegeri, la victoria campaniei ”Leave” pentru Brexit și la ascensiunea din 2016 a campaniei lui Ted Cruz. Compania e deținută și controlată de membri conservatori ai mișcării ”alt-right”, care au conexiuni puternice cu administrația Trump (Steven Bannon, Strategul Șef al lui Trump la Casa Albă este membru în board-ul CA). Cambridge Analytica nu a lucrat cu Partidul Democrat.

Bun venit în epoca propagandei prin inteligență artificală.

Partea 1. Monitorizarea Big Data față în față cu Psihologia Computațională

Orice companie poate cumpăra big data, dar Cambridge Analytica a dezvoltat un model ce ”traduce” datele într-un profil de personalitate folosit să prezică și, în cele din urmă, să schimbe comportamentul oamenilor. Cambridge Analytica e pregătit să înregistreze și să cumpere orice set de date care ar putea fi de ajutor la formarea acelui profil.

Povestea începe in 2013, cu un studiu al Dr. Michael Kosinski de la Univ. Cambridge, care a reușit să coreleze Like-urile de pe Facebook cu un chestionar standard psihologic folosit pentru a identifica sexualitatea, orientările politice și trăsăturile de personalitate ale unui individ. Conform unui articol din Das Magazine, e nevoie de doar 10 like-uri pentru a ”cunoaște” un om mai bine decât colegii de la lucru, de 70 de like-uri pentru a cunoaște persoana mai bine decât un prieten, iar cu 150 de like-uri, mai bine decât părinții acestuia.

Conform unei investigații The Guardian, Kosinski nu dorise să primească finanțare de la diverși partneri comerciali pentru proiectul său, dar Aleksandr Kogan, unul dintre profesorii lui Kosinski de la Cambridge a fost de acord să facă un partneriat de cercetare cu Amazon prin care, în mod ilegal, așa-zisa ”cercetare” a minat date de pe Facebook-ul tuturor participanților și al prietenilor acestora. Noile date din studiul lui Kogan au fost baza a ceea ce va deveni Cambridge Analytica.

Primind finanțări generoase de la grupări conservatoare americane bogate, Analytica a adunat date privind obiceiuri comerciale ale oamenilor, magazinele cele mai frecventate, revistele la care oamenii au abonament, la ce biserici se duc, cât teren dețin, etc. (informații obținute de la diverse organizații care vând date privind clienții lor). Analytica a combinat aceste date cu informațiile de pe Facebook și a construit astfel un profil psihologic bogat pentru foarte mulți oameni (există un profil pentru cam toți 220 milioane de cetățeni cu peste 5,000 de puncte de date pentru fiecare).

Alexander Nix, CEO Cambridge Analytica, prezintă în video-ul următor utilizarea big data în campania electorală din Statele Unite:

Partea 2. Script-uri care îți studiază emoțiile

”Comportamentul tău e definit de personalitatea ta. Dacă putem înțelege ce fel de personalitate au oamenii, putem înțelege mai bine ce îi motivează și astfel putem înțelege în ce fel iau decizii. Ce se intâmplă acum în America se numește microtargeting comportamental”, spune Sasha Issenburg pentru Bloomberg.

Martin Moore, director la King’s College Centre for the Study of Media susține că ”echipa de campanie a lui Trump folosea 40-50,000 de variante de reclamă electorală în fiecare zi care erau adaptate conform răspunsului și reacției oamenilor la ele”. Dacă un sondaj de opinie nu poate decât să întrebe o persoană cu cine va vota, Cambridge Analytica nu se bazează pe ce zic oamenii, ci pe ce fac în mediul online. Pentru Analytica, feedback-ul este instant și răspunsul vine automat. Acest votant indecis a dat click pe o reclamă ce o atacă pe Hillary Clinton privind neglijența ei cu serverele de email? Da? Să îi oferim și mai multe știri privind noțiunea de eșec și responsabilitate personală? Nu? Atunci script-ul automat va face o altă știre ce va capitaliza pe altă trăsătură de personalitate, cum ar fi tendința unui votant de a răspunde pozitiv persoanelor cu autoritate, generând titlul ”Reprezentanți de marcă ai serviciilor secrete sunt de acord: Emailurile lui Clinton au pus în pericol securitatea națională”.

Cambridge Analytica a folosit astfel de metode și pentru a organiza campania lui Trump. 73% din votanții-țintă în Kent County, Michigan au dat click pe unul din cele 3 articole privind crearea locurilor de muncă? Hai să organizăm un meeting electoral pro-Trump în Grand Rapids, în vecinătate, ce insită pe recuperarea economică. Stilul acesta de articole a fost folosit și pentru a reduce prezența la vot a afro-americanilor, un electorat pro-Clinton prin propagarea mesajelor în care Clinton amintea de politicile pro-încarcerare ale anilor 90.

Partea 3. O rețea de propagandă ce acelerează ideile în câteva minute

Între timp, Prof. Albright s-a declarat surprins de fenomenul ”fake news”, așa că a studiat 306 site-uri de fake news să vadă în cel fel sunt conectate atât între ele cât și cu sistemul de știri mainstream. A găsit o rețea de 23,000 pagini și 1,3 milioane de hyperlink-uri. Aceste site-uri nu sunt deținute sau operate de o singură entitate individuală, în schimb, toate aceste site-uri la un loc au reușit să păcălească sistemul de Optimizare al motoarelor de căutare și să apară astfel când oamenii caută pe Google termeni precum ”Trump”, ”Clinton”, ”Evrei”, ”Musulmani”, ”avort”, ”Obamacare”.

Această rețea de fake news prezintă o infrastructură foarte utilă pentru Cambridge Analytica, deoarece multă lume dă like site-urilor de pe Facebook, ceea ce permite Cambridge Analytica să-i urmărească online și să le trimită mesaje politice personalizate. Totodată, cu cât lumea acesează mai multe știri false, cu atât mai eficient devine sistemul Cambridge Analytica, oferind noi seturi de știri false similare.

Partea 4. Un Gestapo de boți menit să supravegheze dezbaterea publică

Pe lângă fake news, profilurile false de social media au ajutat la propagarea intereselor Cambridge Analytica. Samuel Wooley, Director de Cercetare al University of Oxford Computational Propaganda Project și-a dedicat cariera studiului boților și al rolului acestora in organizarea politică – cine îi creează, cum sunt folosiți și în ce scop.

Cercetările lui Wooley au arătat că, în campania prezidențială din SUA, echipa Trump avea de 5 ori mai mulți boți decât cea a lui Clinton. Există două tipuri de boți: cei simpli, de Twitter, care sunt complet automatizați si programați să distribuie un set de articole sau să răspundă când detectează diverse cuvinte cheie. Apoi sunt boții high-end, operați de oameni reali. Acești boți au identități false și răspund pe teme foarte specifice altor utilizatori, cu scopul de a le influența opiniile. Un individ obișnuit ar putea controla cam 400 de boți tradiționali de Twitter, dar numai 10-20 de boți personalizați. Armata de boți a Rusiei a făcut valuri la alegeri, în urma acuzațiilor CIA că influențau în mod direct campania în favoarea lui Trump.

Viitorul inteligenței artificiale ca mașină de propagandă

Alegerile s-au încheiat, însă câștigurile pentru Trump abia încep. Fiecare tweet controversat de la @POTUS sau @realDonaldTrump poate fi întâmpinat de diverse comentarii critice, justificate sau nu, însă acest detaliu nu contează, deoarece Cambridge Analytica oricum minează datele și fiecare tweet impulsiv va fi tratat ca un experiment psiho-grafic.

E foarte posibil să vedem Cambridge Analytica în postura de conducere a comunicațiilor digitale ale Casei Albe. Care vor fi limitele Cambridge Analytica odată ce va avea acces la datele Fiscului american, datele NSA sau datele Departamentului de Securitate? Bannon declara în 2013 că ”Lenin vroia să distrugă statul, ăsta e și obiectivul meu. Vreau să distrug tot ce astăzi înseamnă establishment”. Steve Bannon consideră că ordinea mondială poate fi rescrisă când un ”războinic” consolidează controlul absolut, iar asta își și dorește să facă, prin site-ul Breitbart (fake news), prin Cambridge Analytica și prin finanțarea partidelor de extremă dreaptă în Germania, Franța, India, Ungaria sau America de Sud.

Viitoarele bătălii politice nu se vor da  între candidați ai partidelor sau persoane care au acces la big data (Clinton a avut în 2016). Lupta viitorului va fi între mașinile care învață algoritmii cel mai bine. Viitorul e destul de gri, dacă trendurile actuale continuă, riscăm să trăim într-o lume unde opinia publică devine monedă de schimb, o lume cu propagandă personalizată, o lume unde vom fi cu toții prinși în propria capcană ideologică.

Un articol publicat de site-ul Scout și tradus de Alin Bărbănțan


Recomandări

10 thoughts on “Ascensiunea inteligenței artificiale ca mașină de propagandă

  1. Gheorghe

    Sună ca un advertorial.
    Ambii candidaţi au avut arme egale. Pe Trump l-a ajutat mai degrabă directorul FBI.
    Între timp anumite lucruri s-au schimbat (acele dark posts, politica de accesare a datelor Facebook).
    Desigur că e bine ca această problemă să fie conştientizată.

    Reply
  2. Dumitru

    “Mașina reușește să prindă oameni într-o capcană emoțională de unde nu au cum să scape” Sunt curios daca cineva aici face paralela cu situatia din Romania. Ma refer in primul rand la operatiunea “Colectiv” unde emotia in urma incendiului unui club a fost manipulata pentru a forta demisia unui guvern. Sau chiar demonstratia #rezist, unde emotia justificata initiala a fost acum deturnata, asa cum bine o remarca inclusiv AMP, pe care sper ca nu o banuieste nimeni de coluziune cu PSD. Stiu ca opinia mea este extrem de minoritara aici, dar va propun sa incercati o analiza rationala. Atentie, mecanismul manipularii este intotdeauna acelasi: unui fapt existent i se da o importanta anormal de mare prin mecanisme de tip “spirit de solidaritate”. Faptul initial exista, insa nimeni nu mai sta sa evalueze importanta lui reala cu propriul cap.

    Reply
  3. marius

    astia vorbesc din proprie experienta doar ca acum nu le-a iesit manipularea cum credeau ei.
    Sa multumim multinationalelor, globalizarii si furtului pe baza de economie de monopol ce ne-au bagat in acest sfarsit de civilizatie, pornind de la maretele agentii de publicitate ce au cautat sisteme de pacalire pe baza de manipulare din ce in ce mai sofisticate in favoarea clientilor corporatisti.
    Un buticar nu o sa va poata fura niciodata la un asemenea nivel precum o fac hypermarketurile, dar daca oamenii stau cuminti sub noua oranduire comunista a multinationalelor ba chiar fac adunari cu sute de mii de oameni pentru adulatie din proprie initiativa atunci ne meritam soarta!

    Reply
  4. Bil

    Oricum trăim în capcana propriilor concepții despre lume. Ceea ce se întâmplă este ceea ce a fost previzibil (ascultați-l pe Aldous Huxley la adresa de mai jos). Minunata lume nouă va însemna o parte a omenirii care va conduce și va avea acces la tehnologie și o parte care nu va conta parctic deloc. Va fi cam ceea ce-i azi, dar fără bullshit-ul propagandistic grosier de azi (democrație, drepturile omului etc.).
    https://www.youtube.com/watch?annotation_id=annotation_91757&feature=iv&src_vid=9PbhkML007Q&v=RpwOmwysqJ8

    Undeva, prin Anglia, s-a născut ideea eugenismului și a minunatei lumi noi, în mințile unor mutanți cultural din specia Homo sapiens, cu minți strălucite. Pur și simplu, mințile și relațiile lor sociale, precum și relațiile lor, ca indivizi și societăți, cu realitatea funcționează altfel. În timp, este firesc ca să se separe de specia mamă. Se numește speciație culturală și este un proces firesc (așa va fi numit, căci istoria viitoare nu va fi scrisă de către nesupraviețuitori).

    Reply
  5. Laura

    LIKE !!!

    As mai adauga ca un efect incurajator pentru Cambridge Analytics este ca exista mai putina interactiune in viata reala pe probleme politice, sursa principala de dezbatere si informare este pe internet si pe TV. Cum nu exista interactiuni intre oamani in viata reala ( interactiuni care nu pot fi controlate de Facebook sau de TV), atunci efectul campaniilor este garantat, toate observatiile sunt aproape identic distribuite.

    Reply
    • Dumitru

      “nu exista interactiuni intre oamani in viata reala” Asta e complet nesanatos, si e datorat in mare parte radicalizarii politice a oamenilor. Multi au uitat ce inseamna o discutie, si fac numai afirmatii peremptorii, iar cand incerci sa discuti cu ei tonul urca rapid intr-o sfanta indignare.

      Reply
      • Laura

        E datorat si stilului de viata, de indepartarea fata de familia traditionala si fata de comunitatile rurale, urbanizarea masiva a anumitor regiuni, instrainarea…sunt multe cauze. Eu personal apelez foarte mult la bloguri, portaluri, etc etc pentru a imi exprima opinia, deoarece conjuctura sociala nu imi permite acest lucru..in plus, 90% dintre membrii familiei refuza sa discute situatia politica, atat de mari sunt frustrarile fata de functionarea actuala.

        Reply
  6. C.D.

    da…am frunzarit articolul. sincer, SINCER, ma indoiesc ca votantii lui Trump au votat asa pentru ca au fost manipulati subtil de nu stiu ce companie, campanie…
    grosul votantilor lui merge cu shotgun-ul la biserica si asculta country, sa fim seriosi :) oamenii au convingeri de-o viata intreaga, asteptau pe cineva.
    ca or fi fost vreo 2% nehotarati, astaa e altceva.

    Reply
    • Octavian

      Ai nevoie de votanti ca sa obti puterea legitim. Pentru aceasta trebuie sa-ti structurezi discursul politic de o asa maniera incat sa obtii majoritatea. Nu spui nici prea putin si nici prea mult. Lasi astfel la latitudinea votantului sa-si imagineze ca esti de aceeasi opinie cu el. Si primesti voturile.
      Sa presupunem ca Trump a obtinut voturile astfel. Ramane de vazut ce va face in continuare. Actiunile concrete vor avea consecinte concrete care nu pot fi ascunse decat prin cenzura sau prin mistificare.
      Sa vedem daca pe termen lung aceasta metoda va functiona sau daca societatea va dezvolta anticorpi si in cat timp.

      Reply

Leave a Reply

Your email address will not be published. Required fields are marked *