De siste dagene har flere falske bilder og sitater narret nordmenn. NRK har nå kartlagt noen av de som står bak. Eksperter peker på to mulige motiver bak slike poster.
«Bare litt til – og vi kunne ha feiret 58 år sammen, jeg ville hatt en så gledelig feiring ... Hvorfor lot du meg være alene?».
Sitatet er tillagt dronning Sonja på Facebook-siden Sveriges Kändisnyheter og ble lagt ut etter kong Haralds død.
I posten er det en bildekollasj av dronning Sonja og daværende kronprins Haakon som gråter. I kollasjen er det også et bilde av Haakon som våker over kong Harald i sykesenga, mens han holder faren i hånda.
Det lenkes til en nettside med logoen Dailynews.
Men det er mye i Facebook-innlegget som ikke stemmer:
- Dronning Sonja har ikke uttalt seg offentlig etter ektemannens bortgang.
- Ingen medier slapp inn på kongens rom på sykehuset. Slottet har heller ikke delt bilder fra hans sykehusopphold.
I forbindelse med kongens død har det flommet over av poster med falske bilder av kong Harald på sykehuset. KI-genererte bilder av gråtende medlemmer av kongefamilien spres.
Postene startet for alvor å dukke opp dagen det ble annonsert at kong Haralds helse var forverret – torsdag 27. august – ett døgn før Slottet kunngjorde at han var død.
Men hvor kommer postene fra? Sporene peker mot Vietnam.
Falske sider
Det er vanskelig å fastslå hvor mange slike Facebook-sider som finnes. NRK har undersøkt ni sider som den siste uka har postet falskt innhold om kongefamilien.
NRK har kontaktet eierne av Facebook-sidene uten å få svar.
Facebook-eier Meta har fått tilsendt sidene NRK har undersøkt.
– Vi undersøker innholdet vi er gjort oppmerksomme på, skriver presseavdelingen.
De viser til at Facebook har retningslinjer for merking av KI-bilder, og at de jobber med å fjerne innhold fra koordinert spredning av feilinformasjon.
NRK har vist spesialrådgiver Eskil Grendahl Sivertsen i Forsvarets forskningsinstitutt (FFI) flere av sidene NRK har undersøkt.
Han tror de som står bak sidene har et økonomisk motiv.
– Det er utrolig mye penger å tjene på det vi kaller clickbait og ragebait-innhold, som vekker mye engasjement. Og mange har spesialisert seg på å spre denne type ting, nettopp for å tjene penger, sier Sivertsen til NRK.
Sivertsen forklarer at de som står bak sidene, lokker brukere i sosiale medier til å gå inn på dem. Dermed tjener de penger på annonser på nettsidene.
Men hvem står bak?
Peker mot nettverk
Noen av sidene har registrert norske telefonnummer. Men numrene leder ikke til eierne av sidene.
Norge Puls360 har registrert et nummer til Rådhusets forvaltningstjeneste i Oslo kommune. Hurtig Nytt har registrert et telefonnummer tilhørende LO-forbundet Styrke.
Styrke sier at dette er lureri, og at de har rapportert inn siden.
Oslo kommune takker for at NRK har gjort dem oppmerksomme på siden:
I kommentarfeltene deles artikler fra domenenavn som vietwedding.net og hvmtdby.com.
Flere av domenene NRK har sett på, kan knyttes til de samme Facebook-sidene som alle ble opprettet i sommer. Det viser undersøkelser utført ved hjelp av tjenesten Similarweb.
En av nettsidene som går igjen i flere Facebook-innlegg, er kjernedomenet i et nettverk av sju domener med identisk infrastruktur og operasjonsmønster. Det viser en analyse NRK har gjort ved hjelp av KI-tjenesten Claude.
Dette, i tillegg til det lignende innholdet på de ulike Facebook-sidene, tyder på at mange av sidene kan stamme fra samme nettverk.
– Jeg trodde det var ekte
Facebook-sidene NRK har undersøkt, har mellom 3000 og 16.000 følgere hver.
En gjennomgang tyder på at ikke alle følgerne er ekte mennesker:
Men norske brukere har likevel likt, delt og kommentert innholdet.
Skjønner de at det de ser på er falskt?
– Jeg har trodd det er ekte. Det er så mye, og det er vanskelig å se om det er ekte eller ikke, sier Jens Erik Bogstad til NRK.
Han er en av dem som har sett bilder med falskt innhold.
– Hva tenker du om at det ligger så mye falske nyheter ute på nettet?
– Det synes jeg er noe dritt. Det liker jeg ikke. Det er ikke bra med så mye falske ting, svarer Bogstad.
Herdis Midje sendte sine tanker til dronning Sonja i et av kommentarfeltene.
– Det er svært mye falskt innhold på sosiale medier, men her tenkte jeg ikke på at det var falskt. De som står bak dette må jo fjerne sånt innhold, sier Midje.
En annen kvinne NRK har snakket med, som ønsker å være anonym, blir gråtkvalt når NRK forteller henne at mye av innholdet hun har fått opp på Facebook de siste dagene kan være falsk informasjon.
– Jeg var veldig glad i kongen. Jeg skal blokkere sidene, sier hun.
NRK har stilt Slottets kommunikasjonsavdeling flere spørsmål om KI-bildene, uten å få svar.
Hvorfor Vietnam?
Nærmest alle Facebook-sidene styres av brukere som blant annet befinner seg i Vietnam, viser Metas data.
I 2023 brukte den britiske fotografen Jack Latham en måned på å dokumentere fem klikkfabrikker i Vietnam. Bildene resulterte i en bok.
Fotografen dokumenterte klikkfabrikker i leiligheter og på hotellrom utenfor Hanoi. Der var det store mengder mobiltelefoner og datamaskiner som ble brukt til å skape kunstig aktivitet på sosiale medier.
De som jobbet der var dårlig betalte arbeidere, mange i 20- og 30-årene.
Forsker Sivertsen i FFI er ikke overrasket over at Facebook-sidene har opphav i Vietnam.
– Det er over tid bygget opp kompetanse og kunnskap om det i land som Vietnam. Her er dette en forretningsmodell som også skaper et eget marked hvor de kan kjøpe og selge profiler og nettverk på en slags svartebørs, sier Sivertsen, og legger til:
– Det er i hvert fall ingen tvil om at dette er en multimilliardindustri.
Kongen levde – skrev han var død
Spredningen av falske nyheter skjer ikke bare på Facebook.
Ved å bruke Xs egen KI, kalt Grok, har NRK funnet en rekke poster om kong Haralds død, skrevet dagen før kongen faktisk døde.
NRK har ikke funnet sammenheng mellom X-kontoene og klikkfabrikkene.
I postene kommer det også kritikk av mediene for å holde kongens påståtte død skjult for offentligheten. Men i virkeligheten var kongen fortsatt i live.
Sivertsen sier at et annet motiv for klikkfabrikker og deres kunder kan være å påvirke befolkningen og skape splid.
– Det samme innholdet kan lages av andre der motivet ikke er penger, men å skape forvirring, splid og utrygghet – og få oss til å tvile på om vi kan stole på redaktørstyrte medier. Formen og innholdet kan se helt likt ut, men motivasjonen kan være vidt forskjellig.
Han sier falske nyheter kan være med på å skape ulike virkelighetsoppfatninger i befolkningen.
– Det fører til at det blir uklart hva som er sant og hva som er rykter. Da blir vi skeptiske. Vi har hørt at det er så mye desinformasjon der ute, så vi begynner å tvile på alt – også redaktørstyrte medier. Dermed dyrker man mistillit. På sikt ser vi at det kan få uheldige konsekvenser for demokratiet.
– Vi skal være uenige og krangle, men vi trenger en noenlunde lik virkelighetsoppfatning og evne til å skille mellom hva som er sant og usant.
PST: – Følger nøye med
NRK har vist noe av materialet vi sitter på til Politiets sikkerhetstjeneste (PST).
– Tror PST at slike påvirkningsoperasjoner skjer nå mens Norge er i landesorg?
– Vi følger ekstra godt med nå, ja, sier Atle Tangen, avsnittsleder i PSTs avdeling for statlige trusselaktører.
– Pågår slike påvirkningsoperasjoner nå?
– Det må vi forvente.
Både Russland og Kina har et omfattende påvirkningsapparat, sier Tangen.
– De utvikler stadig nye teknikker for å produsere og spre påvirkningsmateriale, og utnytter systematisk alle muligheter til å spre falske budskap for å spre tvil, uenighet og usikkerhet, sier avsnittslederen.
Folk kaster seg på
På flere av Facebook-sidene går diskusjonen om hvorvidt bildene er ekte eller ikke.
– Det viser at det funker. Folk kaster seg på, og det skaper engasjement – selv blant dem som påpeker at det er KI, sier forsker Sivertsen i FFI.
I dagene etter kongens bortgang har Facebook-sidene fortsatt å spre falske nyheter.
Torsdag 3. september, en uke etter kongens bortgang, hadde Facebook-siden Den Gode Stemningen, saken:
«AKUTT OPPDATERING: Kong Harald skal gjennomgå en hjerteoperasjon på fredag ved Rikshospitalet – Slottet har bekreftet planene».