Hvor lett lar du deg lure av falske nyheter og KI?
Kunstig intelligens gjør det enklere å lage troverdige falske nyheter og mer treffsikre påvirkningsoperasjoner. FFI-forsker Anne Lise Bjørnstad forklarer hvorfor vi alle er sårbare for påvirkning, og hva vi kan gjøre for å stå imot.
Du trenger ikke være spesielt naiv eller lettlurt for å bli lurt av falske nyheter eller KI-innhold på sosiale medier. Det er nok å være menneske med de psykologiske sårbarhetene vi alle har. Men noen er mer sårbare enn andre. Hvis man ønsker at noe skal være sant, er stresset eller får informasjon fra noen man har tillit til, kan det også være ekstra lett å gå på limpinnen. Det forteller sjefsforsker Anne Lise Bjørnstad i en ny episode av podkasten Ugradert.
– Påvirkningsoperasjoner handler ikke bare om å spre løgner. Målet kan være å skape tvil, splittelse og usikkerhet om hva som faktisk er sant, eller at vi endrer adferden vår i tråd med fiendtlige aktørers interesser. De ønsker gjerne å påvirke hvordan vi oppfatter verden, sier Bjørnstad. Hun har nylig publisert rapporten: Hvordan møte truslene fra fiendtlige påvirkningsoperasjoner? – sårbarheter og tiltak fra et psykologisk perspektiv.
Bjørnstad forklarer hvordan kognitiv krigføring retter seg mot måten vi tolker det som skjer rundt oss på, alt fra vår støtte til Ukraina og vår forsvarsvilje til tilliten vi har til myndigheter, forskning og ikke minst hverandre.
Slagmarken er i hodet vårt
Bjørnstad peker på at menneskelige sårbarheter og teknologi virker sammen. Vi legger lettere merke til sterke historier, bilder og påstander som vekker følelser. Algoritmene belønner nettopp slikt innhold.
– Kunstig intelligens gjør det enklere å lage falske profiler, manipulert innhold og store mengder desinformasjon. Når mengden falsk informasjon blir stor nok, kan den også påvirke KI-genererte nyhetsoppsummeringer, sier Bjørnstad.
Viktig for totalforsvaret
– Alle kan bli påvirket, særlig når vi er stresset, blir trigget emosjonelt, har lite tid eller ikke er motivert til å tenke i dybden. Vi søker også lettere etter alternative «sannheter» hvis vi er i en vanskelig livssituasjon, særlig fra grupper og mennesker vi føler tilhørighet og tillit til, sier Bjørnstad.
Derfor mener hun at motstandsdyktighet må bygges på flere nivåer: fra samfunnsmessige tiltak, bedre tilgang på kunnskap og utdanning for alle, til medietrening, faktasjekk og større bevissthet om egne sårbarheter og reaksjoner.
– Det er viktig at vi evner å øke nasjonens kompetansegrunnlag og bevisstheten rundt hvordan vi mennesker påvirkes og hvordan teknologien og fiendtlige aktører utnytter slike sårbarheter for å nå sine mål. Nasjonal motstandsdyktighet mot falske nyheter og konspirasjonsteorier er også en viktig del av totalforsvaret, sier Bjørnstad.
– Kunstig intelligens gjør at de som ikke vil oss vel, med svært få midler og liten innsats, kan lage mer troverdig desinformasjon, påvirke oss gjennom grupper og (det vi tror er) mennesker vi har tillit til gjennom persontilpassede påvirkningsoperasjoner. Det gjør oss alle mer sårbare, sier Bjørnstad. I episoden forklarer hun hvordan vi kan ruste oss bedre mot denne typen påvirkningsforsøk.
