V balkanski državi se je izoblikovala tovarna lažnih novic, ki cilja na Američane

Ameriška ideja je na Facebooku velik posel. Na tem družbenem omrežju je bilo objavljenih več kot sto strani, katerih tema je ameriški patriotizem in ki se ponašajo z imeni, kot so Proud American, Proud To Be An American, American Story in We Are America.

Vendar velik del teh strani, kljub njihovim imenom, sploh ni ameriški. V resnici jih upravljajo tuji “zbiralci klikov”, med katerimi jih ima veliko sedež v Severni Makedoniji. S pomočjo umetne inteligence črpajo iz skoraj neskončnega oceana klikov.

Objave, ki jih uporabniki delijo naprej in v katerih so molitve za ameriške vojake, prepisani tviti, memi in fotografije nekdanjih hollywoodskih deklet, so povezane s članki, ki jih generira umetna inteligenca in na podlagi katerih lahko upravljalci klikov prodajajo oglaševanje.

Naslovi, kot sta “Predani gasilci tvegajo svoja življenja, da bi rešili druge” in “Očetovo junaštvo: Tragična zgodba Phila Dellegrazieja in njegovega sina Anthonyja” vabijo h kratkim, neinformativnim člankom na spletnih mestih, ki so pogosto obdani z oglasi s seksualno vsebino. Strani, ki jih promovirajo, se predstavljajo kot ameriške, ker dobijo plačilo vsakič, ko nekdo klikne na eno od njihovih povezav, v svetu oglaševanja pa so ameriški kliki med največ vrednimi.

Analizirali 67 strani na Facebooku

Forbesova analiza je identificirala 67 strani na Facebooku, ki so jih zdaj sicer že odstranili in so se predstavljale kot podpornice širjenja novic iz ZDA, ter podpornice ameriške kulture ali identitete, v resnici pa so imele sedež v tujini.

Do 20. avgusta so skupaj imele več kot 9 milijonov sledilcev – več kot strani Wall Street Journala ali Washington Posta na Facebooku. Triintrideset tovrstnih strani so vodili iz Severne Makedonije, druge pa so bile razpršene po 23 različnih državah, vključno s Kanado, Francijo, Marokom, Venezuelo in Vietnamom.

Zbiralci klikov, zlasti tisti iz Severne Makedonije, imajo dolgo zgodovino na Facebooku. Med ameriškimi predsedniškimi volitvami leta 2016 so najstniki v tej mali evropski državi na Facebooku milijonom Američanov posredovali lažne novice in s tem pridobili več deset tisoč dolarjev prihodkov od oglasov. Leta 2019 so podobne vzhodnoevropske strani vodile enako igro – takrat so na Facebooku dosegle skoraj polovico vseh Američanov.

Zdaj pa je umetna inteligenca izvajalcem teh operacij omogočila, da proizvajajo skoraj neskončne količine nekakovostnih (ali povsem lažnih) novic – in vsaj v nekaterih primerih se ta z umetno inteligenco proizvedena nesnaga uspešno prebija naprej. Spletne strani so začele uporabljati generične podobe, ki jih je ustvarila umetna inteligenca (beloglavi orli, ameriška zastava, vojaki v kamuflažni uniformi in občasno Kip svobode), da bi pritegnile ameriške uporabnike Facebooka – in vsaj v nekaterih primerih to deluje.

Ena od objav, ki se je prejšnji teden pojavila na strani American Patriots s sedežem v Kanadi, je vsebovala fotografijo ameriškega vojaka in njegovih otrok, ki jo je ustvarila umetna inteligenca. Zbrala je več kot 100.000 všečkov in 35.000 komentarjev. Omenjena stran je, tako kot večina drugih tovrstnih, ljudi s Facebooka usmerjala na nizkokakovostne članke za nabiranje klikov.

Forbes je tri članke s strani American Patriots preveril z detektorjem besedil umetne inteligence GPT-Zero, ki je ugotovil, da pri njih obstaja 79-odstotna, 85-odstotna in 100-odstotna verjetnost, da jih je ustvarila umetna inteligenca.

Detektor je ugotovil tudi, da je pri zgodbah, povezanih s stranjo We Love America (locirana v Španiji) in stranjo American Story (locirana v Severni Makedoniji), 100-odstotna verjetnost, da jih je ustvarila umetna inteligenca. (Razkritje: Nekoč sem opravljala naloge na področju vsebinske politike pri družbah Facebook in Spotify.)

“Vsaka platforma ima vgrajene spodbude, da se uporabnik odzove in te omogočajo vpogled v bistvo Facebooka, v to, zaradi česar deluje,” pravi Jeff Allen, soustanovitelj skupnosti strokovnjakov Integrity Institute in nekdanji podatkovni strokovnjak Facebooka, ki je od znotraj spremljal mreže administratorjev vsiljenih sporočil. Zanj so zbiralci klikov “veliko povečevalno steklo za vpogled v bolj plazilske, starodavne dele naših možganov”.

Strani so odstranili

Tiskovna predstavnica družbe Meta Margarita Franklin je za Forbes povedala, da je vseh omenjenih 67 strani kršilo pravila Mete o avtentičnem ravnanju, saj so napačno navajale, kje imajo sedež. Vse so odstranili.

Ni nujno, da gre za kršitev pravil Mete, če ustvarite stran o neki državi, medtem ko imate sedež v drugi, vendar avtorji prestopijo mejo, kadar zavajajo ljudi o tem, od kod prihajajo. Franklin je dejala, da so bile te strani aktivne le še nekaj več kot teden dni od takrat, ko je Forbes opozoril nanje.

Franklin je tudi dejala, da umetna inteligenca sicer olajša ustvarjanje vsebin za pošiljatelje neželene pošte in prevarante, vendar je njihov glavni izziv vedno bilo pridobivanje obiskovalcev njihovih strani, ne glede na to, ali so bile vsebine ustvarjene z umetno inteligenco ali ne.

Prvotno so se osredotočili na vprašanja, ki razdvajajo

V nedavnem poročilu Meta Threat Report ugotavljajo, da je generativna umetna inteligenca “akterjem groženj” zagotovila le postopno povečanje produktivnosti in ustvarjanja vsebin, saj so bili stroški ustvarjanja nizkokakovostnih člankov za pridobivanje klikov vedno precej nizki.

Ko so makedonske skupine za ustvarjanje vsebin leta 2016 prvič postale pomemben dejavnik na Facebooku, so se močno naslanjale na sporočila političnih strank, ki izzivajo bes in jezo. Osredotočile so se na vprašanja, ki razdvajajo, kot so priseljevanje, pravice transseksualcev, rasna vprašanja in ravnanje policije.

Teorija je bila preprosta – pisati o tem, s čimer se bodo ljudje najverjetneje ukvarjali. In takrat so bile objave o teh vprašanjih pogosto na vrhu lestvic objav, ki so izzvale največji odmev na Facebooku.

Vendar se je Facebookov algoritem v zadnjih osmih letih oddaljil od politike. Po nemirih v Washingtonu, 6. januarja 2021, ki so bili deloma organizirani na platformah Mete, je podjetje začelo agresivno odstranjevati politične objave.

Šablonske tabloidne zgodbe

Na nekaterih ameriških domoljubnih straneh so objave še vedno vsebovale politične teme, nekatere nedavne pa so vključevale teme, kot sta kritična teorija rase in pravice transseksualcev. Vendar se v celoti gledano niso osredotočale na politiko.

Pogosteje so prinašale šablonske tabloidne zgodbe, kot so zgodbe o prevaranih zakoncih (“Ne boste verjeli, kaj je naredil potem!”) ali nespoštovanih delavcih, ki se maščujejo elitistom, ki so jih zaničevali. Nenavadno je, da so bili na teh straneh vedno memi s televizijsko osebnostjo in sodnikom tekmovanja Amerika ima talent Simonom Cowellom.

Poleg tega, da so strani spremenile svojo vsebino, da bi se prilagodile odmiku Facebookovega algoritma stran od politike, so pokazale tudi druge znake prilagajanja stalno spreminjajočim se pravilom in spodbudam platforme.

Facebook je na primer zmanjšal doseg “neželenih” (spamovskih) povezav, vendar daje prednost komentarjem upravitelja strani k lastnim objavam. Zato so te strani pogosto objavile meme ali drugo sliko, ki povzema bistvo članka, in nato objavile povezavo kot komentar.

Ko so zaprosili za komentar, je Meta odstranila strani

Nekatere strani so uporabljale tudi druge trike za doseganje angažiranosti obiskovalcev, ki so že dolgo priljubljeni. Na strani, ki so jo vodili s Kosova, imenovani Animals News America, so bile podobne objave za doseganje klikov (v nekaterih primerih celo enake) kot na drugih straneh, ki niso bile namenjene živalim.

Poleg tega je redno objavljala fotografije mačjih in pasjih mladičev, pri čemer je uporabila strategijo, ki so jo pred tem uporabljali znani razširjevalci dezinformacij, kot sta zdravnik Joseph Mercola, ki zanika obstoj covida, in NTD News, s Falun Gongom povezana sestrska blagovna znamka časopisa Epoch Times.

Potem ko je Forbes zaprosil za komentar, je Meta odstranila vse strani, na katere je opozoril.

Včasih za geopolitična vplivanja, včasih za zaslužek

Tudi če te strani niso bile namenoma uporabljene za oblikovanje političnih stališč ljudi, bodo po Allenovih besedah “proizvajalci klikov” svoje strani včasih spremenili v namerne operacije geopolitičnega vplivanja. Ko je še delal pri Facebooku, je spremljal operacijo, ki jo je vodila skupina na Tajskem in usmerjala strani o politiki, namenjene občinstvu v Mjanmaru.

Po njegovih besedah so bili vedno znova na voljo kot najemniški vojaki za politične kampanje. “Ko pa ni bilo sezone političnih kampanj, so izvajali popolnoma enake operacije, le da služili denar zase,” dodaja.

Zato so te strani manj nedolžne, kot se morda zdijo. “Stavim, da je veliko tujih vplivnih skupin, ki bi rade kupile te strani, ko bo pravi čas. Zato lahko tovrstne farme klikov postanejo veliko bolj zlonamerne,” pravi Allen. Po razkritju prvotnih makedonskih farm klikov je Facebook uvedel funkcijo, ki uporabnikom omogoča, da ugotovijo, iz katere države vodijo stran, če ima ta vsaj 5.000 sledilcev ali če je objavljala politične oglase.

Vendar je država, iz katere izvira skrbnik strani, pogosto skrita v obskurnem zavihku, imenovanem Transparentnost strani. Iz komentarjev k objavam na tujih straneh s tematiko Amerike pa je razvidno, da številni uporabniki teh objav niso vedeli, da te strani upravljajo tujci.

Tudi same strani z ameriško tematiko so bile namerno zavajajoče. Ena od objav na strani z imenom America Today, objavljena prejšnji teden, se je glasila: “Niti centa več narodom, ki ne spoštujejo naše zastave in vrednot!” Stran so upravljali iz Severne Makedonije.

Franklin je opozorila, da Meta v določenih primerih zdaj prikazuje lokacijo upravljavcev določenih strani neposredno v Facebookovem prikazu novic (News Feed).

Severna Makedonija še vedno prevladuje pri zagotavljanju lažnih domoljubnih ameriških strani

Forbesov pregled je pokazal, da je bilo v tej državi ustanovljenih več kot dva ducata strani, druge pa so bile razpršene po 23 različnih državah. Skupaj so na Facebooku imele več sledilcev kot Wall Street Journal ali Washington Post.

Kako je na drugih platformah?

Računi, ki se predstavljajo, da so ameriški, čeprav to niso, so lahko razširjena težava v družbenih medijih. Facebook je po svoji zaslugi edina velika platforma družbenih medijev, ki razkriva državo, iz katere se upravljajo njene strani z veliko sledilci.

Druge platforme, vključno z YouTubom in TikTokom, uporabnikom omogočajo, da sami prijavijo lokacijo, če to želijo, zaradi česar je težje odkriti račune, ki se predstavljajo kot ameriški, čeprav to niso. Vendar so spodbude enake. Parveen Kumar Shah, ki na svojem kanalu TubeSensei svetuje ljudem, kako ustvariti občinstvo na YouTubu in Instagramu, je nedavno predlagal, naj se ustvarjalci strani, ki želijo pridobiti občinstvo, pretvarjajo, da so Američani. Zakaj? “Tako boste zaslužili več denarja,” je svetoval.

Z umetno inteligenco je to še lažje. V intervjuju za Forbes je Shah povedal, da lahko zdaj, če ne želite pokazati svojega obraza, vse opravi umetna inteligenca. Na YouTubu je svojim sledilcem pokazal, kako izdelati strani na temo moškosti za ameriške najstnike z naslovi, kot sta Far From Weak in Sigma Male. Za Forbes je povedal: “Ciljanje na to vrsto občinstva je zelo preprosto, saj je najstnikove možgane zelo lahko oblikovati.”

Na YouTubu je veliko videoposnetkov, v katerih je razloženo, kako v platformi skriti ali ponarediti državo prebivališča, da bo videti, kot da je vaš kanal iz drugega dela sveta. Za Shaha je to preprosta ekonomska računica – YouTube upravljalcem kanalov plačuje na podlagi oglasov, ki se predvajajo na njihovem kanalu, oglaševalci pa na zahodnih trgih porabijo veliko več kot v Indiji. Na kanalu TubeSensei je pojasnil: “Naš kanal bo namenjen ameriškemu občinstvu in takoj, ko bodo izvedeli, da gre za indijski kanal, ali da za njim stoji indijski ustvarjalec, ga bodo nehali gledati.”

YouTube se na prošnjo za komentar ni odzval.

Allen, nekdanji podatkovni strokovnjak v Facebooku, je poudaril, da morajo platforme rešiti problem farm klikov, saj se bodo sicer soočile s kaznimi regulatorjev. Razširjenost neavtentičnih strani je primerjal s slabimi pnevmatikami na avtomobilu: “Vaše pnevmatike so zadnjih deset let pokale na avtocestah. Na neki točki bo zakonodajalec moral ukrepati.”

Vendar Allen meni, da dokler prestopki zbiralcev klikov ne bodo šli dlje od razširjanja zastarelih, nekakovostnih memov, odstranjevanje strani ni rešitev. Namesto tega bi se moral Facebook po njegovem mnenju odreči algoritma, ki spodbuja ljudi, da objavljajo senzacionalistične prispevke.

Če skuša zbiralec klikov delovati na vaši platformi, pa ne dobi klikov – ali lahko to sploh počne?

Avtorica članka je Emily Baker-White.