S obzirom na opseg događanja na različitim društvenim mrežama posljednjih godina, u ovom ćemo se tekstu ograničiti na dvije – Facebook i X. Na primjeru tih dviju mreža pokazat ćemo kako su se njihovi prioriteti i algoritmi mijenjali te kako te promjene korespondiraju s pojačanom cirkulacijom dezinformacija i manipulativnog sadržaja. Trendovi koje pritom opisujemo prisutni su i na drugim mrežama, poput Instagrama i TikToka.

Od mreže za druženje do generatora kaosa

Počnimo s Facebookom, daleko najstarijom među društvenim mrežama koje su još uvijek u širokoj upotrebi. Prema istraživanju Katherine Schaeffer (2024), iako je Facebook i dalje najraširenija društvena mreža u Sjedinjenim Državama, njegovi korisnici sve su stariji. Najveći udio korisnika danas je u dobnoj skupini od 30 do 49 godina, među kojima 75 % barem povremeno koristi tu mrežu. Međutim, navike korištenja drastično su se promijenile u odnosu na razdoblje od prije 20 godina.

Dok je Facebook u početku služio ponajprije mladima kao komunikacijsko sredstvo za dogovaranje izlazaka, druženja i dijeljenje fotografija iz privatnog života, danas je ovu platformu teško definirati zbog niza različitih funkcionalnosti – Messenger (aplikacija za slanje poruka i video pozive), Marketplace (platforma za prodaju), Pages (stranice) i Groups (platforma najsličnija internetskom forumu) samo su neke od funkcija zbog kojih korisnici i dalje gravitiraju ovoj, danas već ostarjeloj, društvenoj mreži. 

Najproblematičnija funkcija u kontekstu širenja dezinformacija i dalje je Feed (izvorno News Feed), jedna od najstarijih Facebookovih funkcija, pokrenuta davne 2006. godine, koja određuje što će korisnici vidjeti kad otvore početnu stranicu. U početku je Feed korisnicima prikazivao aktivnosti njihovih prijatelja, fotografije koje objavljuju i slično. S vremenom se fokus sve više pomicao prema vijestima i objavama službenih stranica.

Početkom 2010-ih radilo se uglavnom o legitimnim izvorima – novinama, televiziji i news portalima – no Facebookova taktika manipulacije formatom sadržaja već je tada počela utjecati na distribuciju vijesti. Sve više je prioritizirao sadržaj koji bi korisnike zadržao na njihovoj platformi i ograničavao dijeljenje linkova. Sredinom 2010-ih prioritizacija video sadržaja radikalno je transformirala novinske redakcije, koje su stihijski ulagale velika sredstva u produkciju videa kako bi se bolje pozicionirale na Facebooku, nauštrb drugih odjela poput istraživačkog novinarstva.

Danas Feedom dominiraju sumnjivi izvori informacija – od objava u grupama koje su sve češće izvorišta teorija zavjere, do stranica (Pages) koje masovno generiraju i šire senzacionalističke dezinformacije i manipulativne sadržaje radi monetizacije. Upravo je pandemijska 2020. bila ključna za masovni rast količine dezinformacija na Facebooku, što smo mogli vidjeti i u Hrvatskoj. Istraživanje Debunka iz 2022. pronašlo je više od 1330 Facebook grupa na prostoru Balkana koje šire dezinformacije o Rusiji, NATO-u, LGBTQIA+ osobama i koronavirusu. No čak i te masovne dezinformacijske mreže iz razdoblja prije 2022. pokazuju se kao zastarjelima s obzirom na radikalan rast AI generiranog sadržaja koji sve više preuzima primat na Facebooku. 

Monetizacija manipulacije

Povrh samog razvoja i popularizacije alata poput ChatGPT-a, dvije stvari su pritom ključne – prva je odluka Mete da nakon pobjede Donalda Trumpa na izborima 2024. prekine suradnju s nezavisnim fact-checkerima, a druga je njihova poslovna strategija usmjerena na popularizaciju vlastitih AI alata u svim proizvodima, od Facebooka, Instagrama do WhatsAppa. Ovaj tekst se ne bavi kompleksnošću i širim utjecajem AI tehnologije, ali za razumijevanje efekata tih alata na društvene mreže poput Facebooka važno je razumijeti i ekonomski pritisak koji vlada u tehnološkom sektoru da se ti alati šire i postanu ključni za funkcioniranje ne samo njihovih proizvoda, već i čitave globalne ekonomije. 

Otkako je OpenAI 2022. izbacio ChatGPT, sve velike tehnološke kompanije investiraju enormna sredstva u vlastite AI alate kako bi pokazale investitorima da su spremne preuzeti vodstvo u toj novoj tehnološkoj revoluciji. Odnos između uloženog i stvarnih rezultata tu je manje bitan. Poput tech kompanija iz 2010-ih, kao što su Uber, Airbnb i WeWork, niti jedna AI kompanija u koje se danas ulažu milijarde nije profitabilna, no investitori ulažu enormna sredstva u nadi da će jedna od njih pobjediti i vratiti im uloženo. Facebook je tako počeo aktivno promovirati AI-generiran sadržaj u svome Feedu, isto kao što je prije desetak godina “gurao” video. 

Za sad je to dovelo do iznimno bizarnih i grotesknih situacija, poput širenja sadržaja kao što je “shrimp Jesus” – serija AI-generiranih slika Isusa sastavljanog od gomile škampa. Takve slike se šire spam stranicama na Facebooku i često imaju na stotine komentara korisnika. Istraživanje medijske platforme 404 media pokazalo je da se radi o monetizaciji Facebookove promocije AI sadržaja – te objave sadrže poveznice na stranice prepune Google AdSense oglasa, na koje klikaju naivni korisnici željni bizarnih slika Isusa. S obzirom na tisuće objava i milijune reakcija, grupe povezane s takvim kampanjama zarađuju ozbiljan novac manipulacijom AI sadržajem. 

Monetizacija nije jedini problem ovog fenomena. Kompanije poput Mete agresivnim forsiranjem AI sadržaja korisnicima koji nisu navikli razlikovati stvarno od generiranog postepeno brišu granicu između stvarnog i nestvarnog. I dok je shrimp Jesus bizaran, ali sam po sebi relativno bezazlen fenomen, manipulativan AI sadržaj je postao rutinski propagandni alat u globalnim sukobima, uključujući i ratove u Ukrajini i Gazi.

S obzirom na novu politiku Mete koja je odustala od nezavisnih fact-checkera na Facebooku i Instagramu, procjena točnosti informacija sada pada na same korisnike i volontere koji drugim korisnicima moraju objašnjavati da se ne radi o vjerodostojnim sadržajima. Koliko je taj model edukacije (ne)uspješan nažalost možemo vidjeti kroz primjer stotina milijuna interakcija s AI-generiranim sadržajem na Facebooku, koje su u svojem istraživanju iz 2024. godine analizirali Renee DiResta i Josh A. Goldstein.

Muskova informacijska distopija 

Iako Isus-škamp možda zvuči kao vrhunac apsurda 2020-ih, situacija na X-u (bivšem Twitteru) je daleko kaotičnija. Otkako je Elon Musk preuzeo Twitter 2022., mreža je postala personifikacija najbogatijeg čovjeka na svijetu koji se nakon kupnje izravno uključio u američku političku sferu – najprije investicijom od 288 milijuna dolara koje je donirao Trumpovoj predsjedničkoj kampanji, a potom kroz tzv. DOGE, grupaciju u koju je regrutirao vojsku stažista i zaposlenika svojih kompanija, uključujući i X, s ciljem dekonstruiranja ključnih birokratskih funkcija američke savezne vlade.

Nakon čistki u kojima su tisuće zaposlenika dobile otkaze, a neke ključne agencije poput USAID-a u potpunosti ugašene, Musk najavljuje da će njihove funkcije preuzeti AI. Preciznije, želi da taj AI, koji bi trebao obavljati birokratske funkcije jedne države, bude upravo “njegov” AI s X-a – Grok. 

Grok se na X-u pojavio kao bot krajem 2023. U početku je bio dostupan samo premium korisnicima, a do 2025. postao je dostupan svima. Rane verzije Groka često su davale odgovore koje su konzervativni korisnici X-a označavali kao  “woke ideologiju”. Početkom lipnja 2025. Musk se ozbiljnije zainteresirao za taj “problem” nakon što je Grok korisnicima dao točne odgovore o terorističkim napadima koje su izveli desni ekstremisti, citirajući službene američke izvore. To je rezultiralo ažuriranjem Grokovog koda, u kojem je AI poprimio antisemitske obrasce, sam sebe nazivajući “MechaHitlerom” te reproducirajući sadržaje temeljene na Muskovim vlastitim objavama.

Nakon nekoliko sati divljanja, tokom kojih je Grok slavio Hitlera i širio antisemitske teorije, ta verzija je ugašena, no ovaj skandal bez presedana prošao je bez ikakvih sankcija od strane država i organizacija poput EU-a, koje su prethodnih godina isticale regulaciju društvenih mreža i umjetne inteligencije te naglašavale borbu protiv antisemitizma. Jedva tjedan dana nakon tog incidenta, Musk je najavio ugovor vrijedan 200 milijuna dolara s američkim Ministarstvom obrane (u međuvremenu preimenovano u Ministarstvo rata, op. ur.), kojem će Grok pružati AI usluge. 

Što nam ostaje?

Ovi primjeri tek su djelić šire slike koja opisuje stanje na ove dvije društvene mreže sredinom 2020-ih. Facebook i bivši Twitter, platforme koje su aktivne preko dvadeset godina, postale su personifikacije svojih vlasnika koji ih oblikuju po vlastitom uzoru te koriste algoritme i nove AI tehnologije kako bi promovirali vlastite interese. Gdje su u svemu tome sami korisnici? Iz primjera Isus-škampa na Facebooku vidimo da je korisnicima sve teže razlikovati stvarno od nestvarnog, a sve je veći i broj botova koje je također teško razlikovati od stvarnih ljudi.

Pokret ka decentraliziranim društvenim mrežama koji je dobio zamah 2022. nakon prodaje Twittera također je usporio. Mastodon, najuspješniji decentralizirani protokol, nije se uspio probiti van niše IT stručnjaka, a najpoznatija Mastodon instanca je Truth Social, društvena mreža Donalda Trumpa.

Bluesky se nametnuo kao alternativa za liberale i lijevo orijentirane korisnike, no zasad se ne može usporediti s Twitterom prije prodaje. Iako mreža još nije razvila vlastiti decentralizirani protokol, minimalno koristi algoritme za rangiranje sadržaja te korisnicima nudi pomalo anahrono iskustvo u kojem se objave prikazuju kronološki. Instagram i TikTok postali su marketinški najunosnije mreže kojima dominiraju sponzorirani postovi i web shopovi, ali bi im zbog specifičnosti formata kratkih videa trebalo posvetiti zaseban tekst.

Na kraju ostaje pitanje mogu li se korisnici društvenih mreža “spasiti” od ogromne količine dezinformacija koje istovremeno šire i ljudi i AI botovi?

Iz zakonodavne perspektive, regulative poput Digital Services Acta (DSA) pružaju okvir za sankcije, tako da Europska komisija ima alate za nadzor X-a, Facebooka, Instagrama i TikToka. Međutim, zbog neujednačenih kapaciteta državnih tijela s jedne strane i velikih tehnoloških kompanija s druge, prakse i algoritmi društvenih mreža mogu se tijekom trajanja istraga više puta izmjeniti. Tako je istraga Komisije protiv X-a zbog kršenja DSA trajala više od dvije godine, a vidjeli smo da su se manipulativne prakse na toj mreži značajno pogoršale od 2023. Stoga i dalje pri svakom korištenju društvenih mreža preuzimamo rizik da ćemo naići na nekog Isusa-škampa ili MechaHitlera.

Tekst je izvorno objavljen u publikaciji Odgovorno novinarstvo: Kompendij dobrih praksi borbe protiv dezinformacija, a ovdje ga prenosimo u prilagođenoj verziji.