Ascensiunea inteligenței artificiale ca mașină de propagandă

”Avem o mașină de propagandă. Țintește oameni în mod individual cu scopul de a-i convinge să adere la o idee. E un nivel de inginerie socială nemaivăzut. Mașina reușește să prindă oameni într-o capcană emoțională de unde nu au cum să scape” – Prof. Jonathan Albright, după ce a studiat ascensiunea fenomenului ”fake news” în urma alegerii lui Donald Trump ca președinte al SUA.

Folosind postări automate, Facebook ”dark posts” (postări FB ce nu apar pe peretele unei pagini, dar pot fi accesate de orice persoană ce are link), A/B testing (un experiment prin care 2 versiuni ale unei pagini web sunt prezentate utilizatorilor și sunt analizate statistic pentru a determina care pagină își atinge țelul mai bine) și rețele de știri false, compania Cambridge Analytica a activat o mașinărie de propagandă ce studiază personalitățile votanților pentru a crea schimbări majore în opinia publică.

Cambridge Analytica a contribuit enorm la victoria lui Donald Trump în alegeri, la victoria campaniei ”Leave” pentru Brexit și la ascensiunea din 2016 a campaniei lui Ted Cruz. Compania e deținută și controlată de membri conservatori ai mișcării ”alt-right”, care au conexiuni puternice cu administrația Trump (Steven Bannon, Strategul Șef al lui Trump la Casa Albă este membru în board-ul CA). Cambridge Analytica nu a lucrat cu Partidul Democrat.

Bun venit în epoca propagandei prin inteligență artificală.

Partea 1. Monitorizarea Big Data față în față cu Psihologia Computațională

Orice companie poate cumpăra big data, dar Cambridge Analytica a dezvoltat un model ce ”traduce” datele într-un profil de personalitate folosit să prezică și, în cele din urmă, să schimbe comportamentul oamenilor. Cambridge Analytica e pregătit să înregistreze și să cumpere orice set de date care ar putea fi de ajutor la formarea acelui profil.

Povestea începe in 2013, cu un studiu al Dr. Michael Kosinski de la Univ. Cambridge, care a reușit să coreleze Like-urile de pe Facebook cu un chestionar standard psihologic folosit pentru a identifica sexualitatea, orientările politice și trăsăturile de personalitate ale unui individ. Conform unui articol din Das Magazine, e nevoie de doar 10 like-uri pentru a ”cunoaște” un om mai bine decât colegii de la lucru, de 70 de like-uri pentru a cunoaște persoana mai bine decât un prieten, iar cu 150 de like-uri, mai bine decât părinții acestuia.

Conform unei investigații The Guardian, Kosinski nu dorise să primească finanțare de la diverși partneri comerciali pentru proiectul său, dar Aleksandr Kogan, unul dintre profesorii lui Kosinski de la Cambridge a fost de acord să facă un partneriat de cercetare cu Amazon prin care, în mod ilegal, așa-zisa ”cercetare” a minat date de pe Facebook-ul tuturor participanților și al prietenilor acestora. Noile date din studiul lui Kogan au fost baza a ceea ce va deveni Cambridge Analytica.

Primind finanțări generoase de la grupări conservatoare americane bogate, Analytica a adunat date privind obiceiuri comerciale ale oamenilor, magazinele cele mai frecventate, revistele la care oamenii au abonament, la ce biserici se duc, cât teren dețin, etc. (informații obținute de la diverse organizații care vând date privind clienții lor). Analytica a combinat aceste date cu informațiile de pe Facebook și a construit astfel un profil psihologic bogat pentru foarte mulți oameni (există un profil pentru cam toți 220 milioane de cetățeni cu peste 5,000 de puncte de date pentru fiecare).

Alexander Nix, CEO Cambridge Analytica, prezintă în video-ul următor utilizarea big data în campania electorală din Statele Unite:

Partea 2. Script-uri care îți studiază emoțiile

”Comportamentul tău e definit de personalitatea ta. Dacă putem înțelege ce fel de personalitate au oamenii, putem înțelege mai bine ce îi motivează și astfel putem înțelege în ce fel iau decizii. Ce se intâmplă acum în America se numește microtargeting comportamental”, spune Sasha Issenburg pentru Bloomberg.

Martin Moore, director la King’s College Centre for the Study of Media susține că ”echipa de campanie a lui Trump folosea 40-50,000 de variante de reclamă electorală în fiecare zi care erau adaptate conform răspunsului și reacției oamenilor la ele”. Dacă un sondaj de opinie nu poate decât să întrebe o persoană cu cine va vota, Cambridge Analytica nu se bazează pe ce zic oamenii, ci pe ce fac în mediul online. Pentru Analytica, feedback-ul este instant și răspunsul vine automat. Acest votant indecis a dat click pe o reclamă ce o atacă pe Hillary Clinton privind neglijența ei cu serverele de email? Da? Să îi oferim și mai multe știri privind noțiunea de eșec și responsabilitate personală? Nu? Atunci script-ul automat va face o altă știre ce va capitaliza pe altă trăsătură de personalitate, cum ar fi tendința unui votant de a răspunde pozitiv persoanelor cu autoritate, generând titlul ”Reprezentanți de marcă ai serviciilor secrete sunt de acord: Emailurile lui Clinton au pus în pericol securitatea națională”.

Cambridge Analytica a folosit astfel de metode și pentru a organiza campania lui Trump. 73% din votanții-țintă în Kent County, Michigan au dat click pe unul din cele 3 articole privind crearea locurilor de muncă? Hai să organizăm un meeting electoral pro-Trump în Grand Rapids, în vecinătate, ce insită pe recuperarea economică. Stilul acesta de articole a fost folosit și pentru a reduce prezența la vot a afro-americanilor, un electorat pro-Clinton prin propagarea mesajelor în care Clinton amintea de politicile pro-încarcerare ale anilor 90.

Partea 3. O rețea de propagandă ce acelerează ideile în câteva minute

Între timp, Prof. Albright s-a declarat surprins de fenomenul ”fake news”, așa că a studiat 306 site-uri de fake news să vadă în cel fel sunt conectate atât între ele cât și cu sistemul de știri mainstream. A găsit o rețea de 23,000 pagini și 1,3 milioane de hyperlink-uri. Aceste site-uri nu sunt deținute sau operate de o singură entitate individuală, în schimb, toate aceste site-uri la un loc au reușit să păcălească sistemul de Optimizare al motoarelor de căutare și să apară astfel când oamenii caută pe Google termeni precum ”Trump”, ”Clinton”, ”Evrei”, ”Musulmani”, ”avort”, ”Obamacare”.

Această rețea de fake news prezintă o infrastructură foarte utilă pentru Cambridge Analytica, deoarece multă lume dă like site-urilor de pe Facebook, ceea ce permite Cambridge Analytica să-i urmărească online și să le trimită mesaje politice personalizate. Totodată, cu cât lumea acesează mai multe știri false, cu atât mai eficient devine sistemul Cambridge Analytica, oferind noi seturi de știri false similare.

Partea 4. Un Gestapo de boți menit să supravegheze dezbaterea publică

Pe lângă fake news, profilurile false de social media au ajutat la propagarea intereselor Cambridge Analytica. Samuel Wooley, Director de Cercetare al University of Oxford Computational Propaganda Project și-a dedicat cariera studiului boților și al rolului acestora in organizarea politică – cine îi creează, cum sunt folosiți și în ce scop.

Cercetările lui Wooley au arătat că, în campania prezidențială din SUA, echipa Trump avea de 5 ori mai mulți boți decât cea a lui Clinton. Există două tipuri de boți: cei simpli, de Twitter, care sunt complet automatizați si programați să distribuie un set de articole sau să răspundă când detectează diverse cuvinte cheie. Apoi sunt boții high-end, operați de oameni reali. Acești boți au identități false și răspund pe teme foarte specifice altor utilizatori, cu scopul de a le influența opiniile. Un individ obișnuit ar putea controla cam 400 de boți tradiționali de Twitter, dar numai 10-20 de boți personalizați. Armata de boți a Rusiei a făcut valuri la alegeri, în urma acuzațiilor CIA că influențau în mod direct campania în favoarea lui Trump.

Viitorul inteligenței artificiale ca mașină de propagandă

Alegerile s-au încheiat, însă câștigurile pentru Trump abia încep. Fiecare tweet controversat de la @POTUS sau @realDonaldTrump poate fi întâmpinat de diverse comentarii critice, justificate sau nu, însă acest detaliu nu contează, deoarece Cambridge Analytica oricum minează datele și fiecare tweet impulsiv va fi tratat ca un experiment psiho-grafic.

E foarte posibil să vedem Cambridge Analytica în postura de conducere a comunicațiilor digitale ale Casei Albe. Care vor fi limitele Cambridge Analytica odată ce va avea acces la datele Fiscului american, datele NSA sau datele Departamentului de Securitate? Bannon declara în 2013 că ”Lenin vroia să distrugă statul, ăsta e și obiectivul meu. Vreau să distrug tot ce astăzi înseamnă establishment”. Steve Bannon consideră că ordinea mondială poate fi rescrisă când un ”războinic” consolidează controlul absolut, iar asta își și dorește să facă, prin site-ul Breitbart (fake news), prin Cambridge Analytica și prin finanțarea partidelor de extremă dreaptă în Germania, Franța, India, Ungaria sau America de Sud.

Viitoarele bătălii politice nu se vor da  între candidați ai partidelor sau persoane care au acces la big data (Clinton a avut în 2016). Lupta viitorului va fi între mașinile care învață algoritmii cel mai bine. Viitorul e destul de gri, dacă trendurile actuale continuă, riscăm să trăim într-o lume unde opinia publică devine monedă de schimb, o lume cu propagandă personalizată, o lume unde vom fi cu toții prinși în propria capcană ideologică.

Un articol publicat de site-ul Scout și tradus de Alin Bărbănțan