‹ Tilbage til podcasts ‹ Teknisk sett

27.10.2024

Slik blir vi påvirket av fremmede makter

Jan Moberg samtaler med Eskil Grendahl Siversen fra FFI om påvirkningsoperasjoner (FIMI). De diskuterer russisk, kinesisk og iransk desinformasjon, kognitive biaser, deepfakes og KI i valg, samt utfordringer med mottrekk, regulering og Norges manglende innsats mot påvirkning.

00:00

Podcasten diskuterer moderne påvirkningsoperasjoner, inkludert FIMI-begrepet og hvordan våre kognitive skjevheter påvirker vår rasjonalitet.

05:26

Digitalisering har endret informasjonskrigen, med Russland, Kina og Iran som ledende aktører i global påvirkning.

08:40

Podcasten diskuterer hvordan russisk og kinesisk påvirkning sprer seg i offentlig debatt, med fokus på langsiktige effekter og samfunnsresonans.

14:33

Podcasten diskuterer hvordan kunstig intelligens påvirker valg og sprer desinformasjon, med fokus på utfordringene knyttet til deepfake og memes.

20:26

Taleren diskuterer utfordringer med desinformasjon, ytringsfrihet og behovet for bedre regulering av sosiale medier og plattformer.

Transkript

Nævnt i episoden

Eskil Grendahl Siversen

Spesialrådgiver og forsker ved FFI, hovedekspert i episoden om påvirkningsoperasjoner.

FFI (Forsvarets forskningsinstitutt)

Forskningsinstituttet der gjesten jobber med Forsvarsforskning om desinformasjon og mottrekk.

Russland

Beskrevet som største og mest aktive aktør i påvirkningsoperasjoner, med nettverk av falske nettaviser.

Kina

Stor påvirkningsaktør, bl.a. gjennom Spamiflash Dragon-operasjonen med KI-generert innhold.

Iran

Nevnt som en av de statene som driver med påvirkningsoperasjoner.

Ukraina

Konfliktområdet der Russland bruker påvirkning, bl.a. narrativet om nazister.

Donald Trump

Presidentkandidat omtalt i forbindelse med løgner og polarisering i amerikansk politikk.

Volodymyr Zelensky

Nevnt i falsk KI-generert gatekunst som fremstiller ham som grisk.

AI (kunstig intelligens)

Brukes til deepfakes og desinformasjon, men også som muliggjorende teknologi for mottrekk.

Spamiflash Dragon

Kinesisk påvirkningsoperasjon med KI-generert innhold rettet mot USA.

FIMI

Foreign Information Manipulation and Interference, EUs samlebetegnelse på påvirkningsoperasjoner.

Digital Services Act

EU-regulering som skal gi plattformtransparens og forskere datatilgang.

Alternativ für Deutschland (AfD)

Tysk høyreekstremt parti som har hatt økt oppslutning, mulig forsterket av russisk påvirkning.

World Economic Forum

Trusselrapport som rangerer KI-generert desinformasjon som største korttidsrisiko.

PST

Norsk sikkerhetstjeneste nevnt i sammenheng med trusselvurderinger og begrensede fullmakter.

Tennessee

Sted der russisk finansiering på 10 millioner dollar ble avdekket mot amerikanske influensere.

Slovakia

Valg der deepfake-lyd av pro-NATO-kandidaten kan ha påvirket utfallet.

Deltagere

host

Jan Moberg

guest

Eskil Grendahl Siversen

Sponsorer

Delta

Point

Vi har en overdrevet tro på menneskets rasjonalitet – vi er mye mer styrt av følelser og kognitive biaser enn vi tror.

Sentral kritikk av antakelsen om at folk er objektive og kildekritiske når de konsumerer informasjon.

Det er ikke sannhetssøken som er den viktigste drivkraften i oss, det er tilhørighet til en gruppe og identitet.

Kontroversielt og interessant perspektiv på hvorfor folk sprer løgner de selv vet er løgner.

Sannheten kommer langt ned på listen når polariseringen blir stor nok.

Kommenterer den ekstreme polariseringen i USA.

Påvirkningsoperasjoner virker som 'death by a thousand paper cuts' – det gnager over mange år.

Beskriver den langsiktige, diffuse effekten av påvirkning som er vanskelig å måle.

En bot har ikke ytringsfrihet – da bør vi heller gå etter infrastrukturen og finansieringen enn etter innholdet.

Kontroversielt og konkret forslag til tilnærming mot desinformasjon uten å begrense ytringsfriheten.

Det er et stort gap mellom trusselbildet beskrevet i norske trusselvurderinger og den virkeligheten som reflekteres i politiske vedtak.

Kritisk observasjon om norsk beredskap mot påvirkningsoperasjoner.

Påstande

Begrepet FIMI (Foreign Information Manipulation and Interference) ble introdusert for et par år siden som en internasjonal fellesbetegnelse.

Kan sjekkes mot EU-dokumenter om FIMI-definisjonen.

All kartlegging fra de siste årene viser at Russland er størst og mest aktiv innen påvirkningsoperasjoner over hele verden, fulgt av Kina og Iran.

Kan sjekkes mot rapporter om utenlandske påvirkningsoperasjoner.

Sjefen for tysk etterretning uttalte forrige uke at Tyskland har opplevd mye større omfang av russisk påvirkning i forbindelse med delstatsvalget enn noen gang før.

Kan sjekkes mot tyske medieoppslag om BND-sjefens uttalelser.

Lederen for det tyske utvalget tilsvarende EOS mente at russisk påvirkning hadde hatt effekt, med henvisning til oppslutningen om AfD i tidligere Øst-Tyskland.

Kan sjekkes mot offentlige uttalelser fra tyske valgvaktsorganer.

World Economic Forums trusselrapport fra 2024 intervjuet 1500 eksperter som mente AI-generert desinformasjon er den største trusselen på kort sikt.

Kan sjekkes mot WEF Global Risks Report 2024.

Det finnes ingen rapporter som kan fastslå at kunstig intelligens har påvirket valg, så langt.

Kan sjekkes mot tilgjengelig forskning på AI-påvirkning av valg.

I valget i Slovakia ble en deepfake-lydfil av den liberale, EU-vennlige, pro-NATO-kandidaten spredt, der han angivelig sa han hadde kjøpt stemmer og skulle sette opp prisen på øl.

Kan sjekkes mot dokumentasjon av Slovakia-valg-desinformasjon 2023.

Kina driver en AI-basert påvirkningsoperasjon kalt Spamouflage Dragon, som blant annet bruker KI til å lage filmplakater og bilder.

Kan sjekkes mot rapporter fra bl.a. Graphika og Meta om Spamouflage.

Russiske aktører har spredt KI-genererte bilder av gatekunst i europeiske byer som forestiller en grisk Zelenskyj, men denne gatekunsten har aldri eksistert.

Kan sjekkes mot faktasjekk-artikler om det virusende bildet.

Russland har bygget opp et globalt nettverk av falske nettaviser på mange språk, også på norsk.

Doppelganger-nettverket er dokumentert av EUdisinfo og andre.

Amerikanske myndigheter tok ned 32 falske klonte nettaviser i USA som tilhører det russiske doppelganger-nettverket.

Kan sjekkes mot amerikanske justisdepartementets kunngjøringer høsten 2024.

Amerikanske myndigheter avdekket finansiering på 10 millioner amerikanske dollar fra Russland til et innholdsbyrå i Tennessee for å få kjente amerikanske høyreorienterte influensere til å produsere innhold i tråd med Kremls ønsker.

Kan sjekkes mot amerikansk rettsdokumentasjon fra september 2024.

Influenserne skal ifølge etterforskningen ikke ha vært klar over at oppdragsgiveren var russisk, siden et stråselskap sto for finansieringen.

Kan sjekkes mot den amerikanske etterforskningen.

Mesteparten av aktivitetene innen påvirkningsoperasjoner er ikke ulovlig i en strafferettslig forstand.

Kan diskuteres, men presenteres som faktum i transkriptet.

EUs Digital Services Act og Digital Markets Act forsøker å regulere plattformene bedre, blant annet med datatilgang for forskere og krav om transparens i algoritmer.

Kan sjekkes mot EUs lovverk.

FFI er oppdragsbasert og har ikke en selvstendig rolle i å organisere norsk kamp mot desinformasjon.

Kan sjekkes mot FFIs mandat.

Etterretningstjenesten, PST og Nasjonal sikkerhetsmyndighet gir åpne trusselvurderinger hvert år.

Kan sjekkes mot disse organenes publikasjoner.

Norge har gjort svært lite for å motvirke påvirkningsoperasjoner sammenlignet med mange andre land.

Presenteres som faktum av eksperten; kan diskuteres mot norske tiltak.

2024 var verdens største valgår med flere valg i verden enn noen gang.

Kan sjekkes mot oversikter over valg i 2024.

Loader

Nå kan jeg endelig snakke om andre ting med kona før vi legger oss. For eksempel hvordan dagen har vært. Snakk med oss i Delta, fagforeningen som hører deg. Du hører på Teknisk Sett, en podcast fra TU og Digi. Mitt navn er Jan Moberg, og jeg sitter i studio med en spesialrådgiver og forsker fra Forsvarsforskningsinstitutt. Velkommen, Eskil Grendahl Siversen. Tusen takk for det. Flott at du kunne komme inn om i dag. Hyggelig å bli invitert. I dag skal vi snakke om påvirkningsoperasjoner. Og dette er jo noe du har jobbet mye med, og vi snakker da om pårykningsoperasjoner. Hadde vi jo i gamle dager under andre verdenskrig med flygeblader og alt mulig, men nå er det digitale verden som gjelder, og vi har Ukraina som Russland ønsker å svekke. Vi har amerikansk presidentvalg. Men først og fremst, hva er det vi snakker om? Ja, det er et godt spørsmål, skal jeg da si. Kjært barn har mange navn. Jeg vet ikke hvor kjært barnet er, men nei, altså, når vi snakker om påvikningsoperasjoner, så legger vi nå til grunn den samme definisjonen som EU gjør, og flere andre land, sånn at vi snakker om det samme. Ja, det er en internasjonal fellesbetegnelse på dette. Ja, og det kom for et par år siden. Før det snakket vi om mange forskjellige ting. Information warfare, informasjonskrigføring, psykologisk operasjoner, kognitiv krigføring kommer nå som et begrep. Så det er mange her. Det er mange navn her, noen betyr litt forskjellige ting. Så bruker vi nå en samlebetegnelse som for kortet kalles FIMI, som står for Foreign Information Manipulation and Interference. Ja, det er jo ganske omfattende da. Ja, utfordringen med det her er jo at det er ganske omfattende å innfløkte det vi ser på. Så det er ikke lett å bare lage en veldig enkel definisjon. Men forenklet kan man jo si at det handler om av forskjellige virkemidler på nett og sosiale medier, men også i den fysiske verden, for å manipulere virkelighetsoppfattelsen til ulike målgrupper i med en hensikt da, å forsøke å skape noen effekter som kan være skadelige for det vi ønsker å beskytte, som i dette tilfellet her kan være samfunnssikkerhet, statssikkerhet eller demokrati. Men sånn, til daglig så sitter jo jeg og tenker at jeg er rimelig oppvakt og at jeg ikke er påvirkelig uten at jeg skjønner at jeg har blitt påvirket. Er det mange som oss som tar feil? Ja, altså Jeg tror de fleste av oss tenker det. Og det viser jo forskning også at vi har en tendens til å ha litt overdrevet tro på egne evner og ikke minst egen rasjonalitet. Eget filter. Men jeg er litt opptatt av det, for jeg ser det veldig ofte, også i debatten om påvirkning, at jeg synes vi Vi har en litt overdrevet tro på menneskets rasjonalitet. At vi tror at når vi sitter og scroller på sosiale medier eller på internett og blir eksponert for forskjellige ting, så sitter vi og er objektiv og 100% rasjonell og kognitivt påskrudd. og skal være kildekritisk, og så kommer vi over noen ting, så skal vi drive faktasjekk og kildekritikk og sånn, og det er jo viktig, kjempeviktig, men vi er jo mye mindre rasjonelle enn det vi tror. Vi er jo mye mer styrt av følelser enn det vi tror. Vi er mye mer påvirket av sånne kognitive biaser og heuristikker som er sånn snarvea i hjernen, som hjelper oss til å ta beslutninger uten egentlig å vurdere dem som veldig nøye kanemann. Snakker om det i Fast and Slow Thinking og nivå 1 og nivå 2. Det blir litt mer refleks enn gjennomtenkt. Ja, og det har jo Det er jo en grunn til at vi har utviklet oss, etterpåsjonsmessig sånn. Det sparer oss for veldig mye krefter for å lage system på verden rundt oss, forstå sammenhengene, ta beslutninger uten å bruke enormt mye tankekraft. Det har jo hjulpet oss også som menneskehet at vi har den elden. Jo, absolutt. Det er en grunn til at vi har det. Men det gjør oss også sårbar, og vi er ganske blinde for dem. Noen eksempler på sånne kognitive bier er jo for eksempel gjentagelses-effekt. Hvis du hører en ting flere ganger, så vil du intuitivt feste mer elit til det. Ikke sånn at du tenker at nå har jeg hørt det her ti ganger, så da må det være sant, men fordi det høres kjent ut. Så bare den kjennskapen. Hvis du åpner valg i USA i 2020, er det et sånt eksempel? Det blir gjentatt og gjentatt og gjentatt. Ja, men jeg har hørt det så mange ganger. Var det ikke noen som sa at jeg husker ikke hvor, ja, men hvor herfra etter hvert så kan det jo, så høres det kjent ut. Da kan du i hvert fall, om du ikke blir overbevist om en løgn, så kan du i hvert fall begynne å tvile på det. Det andre er jo ting som er kanskje kraftigste, og det er jo den bekreftelsespiasen. Vi har jo alle en sånn innebygd trang til å få bekreftet at det vi føler og tror er sant, og så har vi motstand i oss mot å ta til oss informasjonen som tilsier at vi tar feil. Og det er vi ganske ubevisst på. Så vi går jo alle rundt og bærer på noen internaliserte sannheter som blir på en måte brillene vi har på oss når vi tolker informasjon. Det gir oss en kontekst. Det er sant, og så blir vi jo som enkeltindivider overbevist om at «men jeg er ikke slik». Ja, der har du jo også Dønny Krygger, og det var mange artige... Men når vi kommer til dette temaet nå, så tenker jeg jo... Det må jo ha skjedd utrolig mye med digitaliseringen, med konflikten i Ukraina og behovet for påvirkning. Skal ikke si at ikke kineserne også er der. Det er jo så mange feiter som pågår nå, eller konflikter da. Mange som har lyst til å påvirke. Hva er status? Hvem er ledende i den området? Og hva er det nyeste på området? All kartlegging fra de siste årene viser med all tydelighet at det er Russland som er størst og mest aktiv over hele verden. Kina og også Iran. Så har du en rekke andre stater som også driver med dette. I tillegg har du enkelt, alt ifra grupper, terroristgrupper eller aktivistgrupper. Det kan være enkeltpersoner. som holder på med å bruke de samme virkemidlene for å oppnå noen mål. Ja, store kommersielle selskap også bruker du jo i markedsførings... Kommersielt blir det brukt. I tillegg til at det er jo en, og det glemmer vi kanskje ofte, det er jo en kjempestor kommersiell industri i å produsere clickbait-innhold som bare skal trekke lesere inn på falske nettaviser eller nettverk av nyhetsportaler. Ja, du kan jo glede deg til å lese overskriften på denne podcasten. Ja. Nei, men det er jo sant, vi er jo omringet av det, men altså, det er gammelt våpen og strategi egentlig, men Hvor står vi nå da? Er vi i stand til å... Du sitter jo i en rolle hvor du skal råde oss med mottrekk og hva man skal gjøre. Hvor er vi? Er dette mulig å i møte gå på en enkel måte? Ja, det er jo det vi holder på med nå. Det vi ser er jo at Russland og Kina og Iran, med flere da, men vi ser jo spesielt på Russland og Kina, De putter mer og mer ressurser i infrastruktur og aktivitet på nett og sosiale medier for å forsøke å påvirke politiske prosesser eller virkelighetsoppfatninger til forskjellige grupper rundt omkring i verden. Vi ser at de skruer til aktiviteten i forbindelse med valg i store land som USA, Frankrike, Tyskland, EU-valget. Men det foregår også kontinuerlig over hele tiden. Så omfanget er veldig stort, så er det også verdt å merke at vi ikke må bli paranoid og livrede her heller. For det er vanskelig å måle en kausal sammenheng mellom de aktiviteter som vi ser at de gjennomfører, og effektene som de muligens har. Fordi det er så mange andre ting som kan bidra til å skape de samme effektene. Så det vi kan måle og si noe om er jo for eksempel hvor stor spredning får forskjellige typer innhold, og dermed gjør en slags vurdering om, ja, tror vi dermed at det er grunn til å anta at de kan ha et effekt. Og det vi ser er jo at veldig mye av det som kommer fra både Russland og Kina får lite spredning i andre land. Er det fordi noen er på hugget og klarer å stoppe det, eller er det andre årsaker? Ja, jeg tror det er en kombinasjon av flere ting. Noen ganger så er det fordi at de klarer ikke å plante profilerne eller kildene godt nok inn i målgruppa i det landet til at de blir godt nok brukt. Andre ganger så er det fortellinger som bare rett og slett ikke har resonans i den befolkningen. Og så er det jo mottiltak fra både faktasjekkere og myndigheter som både tar ned infrastrukturen og avslører aktivitetene som foregår. Men av og til så ser vi jo ting som går gjennom, som får større spredning, og så er det jo, det jeg er mer opptatt av er jo den her langsiktige effekten. Det blir litt sånn der, det er sånn death by a thousand paper cuts, altså det står og gnager og gnager og gnager over mange år på de samme tingene, og det å kunne da måle effekt over tid, det er jo vanskelig, men jeg tror vi skal være bevisst på at Politik og samfunn utvikles jo gjennom den offentlige debatten som vi har. I høyeste grad. Og den offentlige debatten kan infiltreres og bli infiltrert av Russland, Kina og andre aktører. Men nå ser vi jo, Putin skulle jo ta Ukraina i løpet av noen timer. Det gikk jo ikke. Nå har de stått der og gnaget det i et par år. Men det må jo være et hovedpoeng for han, eller for de også, å påvirke egen befolkning, ikke bare eksternt og internasjonalt. Ja, vi ser, og mye av innholdet har også flere målgrupper. Sånn at fortellinger for eksempel om nazister, at Ukraina er full av nazister, det er jo en fortelling som for oss fremstår som en sånn, det var jo en litt drøy løgn vel, det blir litt vanskelig å tro på, bli overbevist om det. Men for et russisk hjemmepublikum, så har den fortellingen en annen kontekst. Forståelsen av hva en nazisme er og hva en naziste er noe annet, sånn at de sitter og har en litt annen kontekst. Så mye av de narrativene der er nok myntet i stor grad på det russiske jævnpublikum, i tillegg til at de har resonans hos noen grupper, særlig i sånn fringe-miljøet i Vesten. Det vi ser er at Russland er ganske bevisst på å gå konkret på disse fringe-miljøene, som har meninger og synspunkt som er litt på ekstrem ytterpunkter, som er egnet til å skape debatt og splid og bråk, og de forsterker de stemmene i den nasjonale, lokale debatten. Så de hiver bensin på små leirballer rundt om i vestlige land? Ja. For eksempel i Tyskland så har vi jo sett, nå gikk jo i forrige uke, så gikk jo Sjefen for tysk etterretning ut, og mente å si at Tyskland har nå opplevd en mye større omfang av russisk påvirkning i forbindelse med valget nå, delstatsvalget, enn de har gjort noen gang før. Lederen for den tyske EOS-utvalget, tilsvarende Norge, Han sa også at han mener at dette har hatt effekt, og han viser da til oppslutninga for AFD, Alternativ for Deutschland, og de mer høyere ekstreme retorikken i tidligere Østtyskland, både på økt oppslutning, men også på hva slags tema er det vi snakker om i den offentlige debatten. Og så vet ikke jeg hvilke grunnlag han har for å si at det skyldes russisk påvirkning, men vi kan åpenbart se at Russland har forsøkt å fyre opp de stemmene og forsterke de narrativene over tid. Men igjen så kommer vi tilbake til at det ligger jo latent i befolkningen, så det handler jo om å forsterke det, og så er det vanskelig å si hvor stor effekt den russiske påvirkningen har hatt. Det er jo veldig interessant også nå i forbindelse med det amerikanske presidentvalget som jo er kort tid unna. Der er jo... Pårykningen og løgnene er jo veldig synlig og manuelle med en presidentkandidat som jo lyver når han beveger munnen. Så det trenger jo ikke være så avansert heller. Nei, altså mye av det er jo virkelig ikke avansert. USA er jo et fascinerende case egentlig fordi det er så ekstremt polarisert. Og jeg synes at det viser veldig godt... Et poeng som jeg forsøker å snakke om så ofte jeg kan, som jeg mener er litt underforstått, det er at det er ikke riktig, vil jeg si, å kalle dette for en slags kampen om sannheten. For det er ikke sannhetssøken som er den viktigste emosjonelle drivkraften i oss mennesker. Det er ikke det som gjør at vi går til krig. Det er tilhørighet til en gruppe, det er identitet, det er å ha noe å kjempe for eller kjempe mot. Få et trosystem som gjør at verden gir mening, og at du har en plass inn, at du tilhører et sted. Og når samfunnet blir veldig polarisert, og har veldig lav grad av tillit, sånn som vi ser i USA nå, så ser vi jo at folk sprer jo løgner selv om de vet at det er løgn. Fordi at det passer med de fortellinger som de har, og det er egnet til å deskreditere eller ta motparten. Selv om de noen ganger, sannsynligvis vil jeg tro, vet at det jeg sier nå er enten helt usann, eller i hvert fall en ganske drøy overdrivelse, så er ikke det så viktig. For det er ikke kampen om sannheten som driver det. Sannheten kommer litt langt ned på listen. Den gjør det når det blir valgt nok. Ja, det er jo leit, men du har jo helt rett. Og hvis de nå skulle komme til å velge Donald Trump igjen, så har de jo gjort det med veldig åpne øyne, da. Så det får vi se. Dette blir spennende. Ja, det blir helt sikkert mye spennende. Men Eskild, vi må snakke litt mer om teknologi, og jeg tenker på kunstig intelligens i dette bildet. Det er jo ikke en gammel... Altså, nå har jo kraften av kunstig intelligens virkelig blitt forløst, og hva introduserer det i dette bildet? Ja, jeg tror jo enda ikke kraften av kunstig intelligens har virkelig blitt forløst. Jeg tror vi... Jeg tror vi har mye forløsning igjen å se i kraften av kunstig intelligens, for å si det sånn. Det vi har sett, det har vært spennende år. 2024 har jo vært verdens største valgår, flere valg i verden enn noen gang. Og det har jo sammenfalt i tid med at vi fikk generativ kunstig intelligens som ble allment utbredt. Så hvem som helst med en smarttelefon kan lage innhold, både lyd, bilder, film, tekst, med kunstig intelligens. så har jo flere spått at dette kommer til å bli fullstendig kaos. World Economic Forum sin trusselrapport som kom ut tidligere i år, intervjuet 1500 eksperter, de mente jo at AI-generert desinformasjon er den største trusselen på kort sikt, så er den neste største trusselen på lang sikt etter klimatrusselen. Det er jo en mening. Det vi har sett så langt er ingen rapporter som kan fastslå at kunstig intelligens har påvirket valg, for eksempel. Men det har vært mange eksempler på kunstintelligens blir brukt til innhold som har blitt spredd, og som man kan diskutere om har hatt effekt. Og igjen så kommer vi til å snakke om at det er veldig vanskelig å påvise en kausal sammenheng. Det nærmeste vi kanskje har kommet er valget i Slovakia, hvor det var en deepfake audio, en lydfil, av den liberale, EU-vennlige pro-NATO-kandidaten, som der høres det ut som at han snakker med en journalist, et sånt skjult opptak, hvor han sier til journalisten at «Jå, jeg kommer til å vinne valget, for det her er fiksa. Jeg har nemlig kjøpt masse stemmer fra romfolket». Og i tillegg så skal jeg sette opp prisen på øl etter valget, men det må jeg ikke si til noen. Det var jo ikke populært i Slovakia. Han tappte valget, og flere i Slovakia har jo spekulert om hvor stor effekt hadde denne lydfila. Men det blir jo igjen bare spekulasjon. Det vi har sett mye av, altså lyd blir brukt mye i flere valg, men også ikke bare i forbindelse med valg, men til å bare spre forskjellige rykter og sånn. Og at vi mennesker har lettere for å tro og bli lurt av lydopptak. Ja, vi kjenner jo stemmer veldig lett. Vi gjør det, og så er det litt uklart hvorfor. Det blir jo litt sånn spekulasjoner. Men det blir lettere å gå på limpinnen med lyd enn med deepfake video og bilder. Men nå kommer jo deepfake video til å bli enda mer avansert også. Ja, og den har jo allerede blitt så vansert at du ikke klarer å se forskjell. Det er helt umulig. Og vi har sett det, mye blir brukt. Det vi har sett trusselaktørene, Russland og Iran, Russland og Kina særlig, det mesteparten av det inneholdet vi har sett dem ha brukt KI til, er språkmodeller, chat-gipetit og skrive tekster for å være bedre treffsikre med bedre språk. Vi ser at de bruker bildegeneratorer til å lage en videreføring av logikken som er i memes. Og memes er egentlig et godt eksempel på på noe av dette med de sånne ulne påvirkningene som ikke kan faktasjekkes, eller du kan ikke drive kildekritikk. For memes er jo artige, spydige, sarkastiske bilder, vitser. Eller du går over litt kunstsegmentet egentlig. Ja, altså det er... Underholdning og kunst og... Og de har et budskap som kan ha resonans hos noen målgrupper, som kan bidra til å forsterke fordommet, holdninger, frykt, hva som helst. og som er veldig delevennlig å spres. Så vi ser mye kunstig intelligens, blant annet fra Kina, en operasjon som kalles Spamiflash Dragon, som pågår nå, også veldig stor i USA, hvor de bruker KI til å lage mye sånne type filmplakater og sånne bilder. Så ser vi også at det blir brukt til å fremstille altså åpenbart falske ting, for eksempel russiske aktører har spredt et bilde som ser ut som gatekunst i europeiske byer. Så er det fortellingen at nå begynner europæere å bli lei av å kaste bort penger på denne griske, korrupte Zelensky. Og så beviset i omførselsseng på det er jo at det er Det finnes gatekunst på fortauene rundt omkring i europeiske storbyer, med bilder av en grisk-selenske som kommer opp fra et hull i bakken, og vi kaster bare masse penger ned i det hullet. Og det bildet er laget med kunstintelligens. Den gatekunsten har aldri eksistert, men den har jo gått viralt i noen runder. Så vi ser mye av det. Ikke minst så ser vi det i infrastruktur. KI brukes til å automatisere produksjon av falske eller forvridde nyheter og å autokopiere og auto-oversette. Du kan bare spy det ut? Ja, og der har jo Russland særlig bygd opp et veldig stort globalt nettverk av falske nettaviser på alle mulige forskjellige språk, også på norsk, som står og produserer innhold og kopierer stjerner og kopierer innhold også fra andre med troverdige kilder, auto-oversette og bruke KI- eller chatbot-a til å til å oversette og skrive. Disse kraftfulle verktøyene må jo også være viktig for dere når du sitter på FFI og skal finne mottrekk, så er det jo også verktøy dere kan bruke i arbeidet med å organisere et mottrekk. Ja, det store spørsmålet som ingen har egentlig noe svar på er jo hva skal vi gjøre med denne her utfordringen? Ja, Det er jo flere spor der. Du har jo et juridisk spor, altså hva skal være lov og ikke. Nå er jo mesteparten av de aktiviteter som utføres ikke ulovlig, i en strafferestlig forstand. Nei, sånn sett nei. Så dermed har jo ikke politiet, eller PST, eller andre myndigheter noe gjemmel til å gjøre så mye med det. Vi har ytringsfrihet, og det må vi jo for all del verne om. Vi kan jo ikke ha det sånn at noen skal sitte og bestemme hva som er sant og ikke, og så gjør det forbudt å lyve. da blir vi jo et land vi ikke har lyst til å bli. Så det er jo umulig. Så har vi jo noen teknologiske spor, og jeg har jo mer tro av og noen regulatoriske spor, kan du si. Regulering av plattformene. Der foregår det mye bra. EU, Digital Services Sekt og Digital Markets Sekt prøver jo nå å få bedre regulering av plattformene, sånn at forskere som meg skal få tilgang på data for å kunne kjøre noe i USA. Også at de skal være mye mer transparant i hvordan algoritmene fungerer, og slå ned på og større for at ikke samfunnet skadelig desinformasjon og hatprat og en del av disse innholdet kan få den spredningen. Så er det litt snakk om falske identiteter og den type ting? Veldig mye, ekstremt mye falske identiteter, bot-nettverk. Så det har så langt fungert bare som passe, fordi plattformene har jo egentlig ikke så stor interesse av å følge dette regelverket, fordi hele deres forretningsmodell er jo basert på å skape mest mulig engasjement Og det som skaper mest mulig engasjement, det er nemlig ting som gjør deg sinne av å generere sterk innhold. Så der står jo interessene mot hverandre. Så har vi jo på det tekniske sporet, og jeg er jo fan av at vi må begynne å se mer på det. Eller en kombinasjon av det tekniske og regulatorisk og juridisk. Vi har Men debatten synes jeg ofte koker ned til at dette er et spørsmål om ytringsfrihet. Det er vanskelig å definere hva som er desinformasjon, og dermed kan vi heller ikke, hvordan skal vi bekjempe desinformasjon? Hvis vi skal gjøre det, så må jo noen bestemme hva som er desinformasjon, og da har vi jo en tilstand hvor vi ikke har det. Det går ikke med ytringsfriheten. I stedet for å være så opptatt av hva folk sier, eller hva som spreder seg innholdet på disse kildene, så tenker jeg vi må heller se på infrastrukturen og finansieringen. Yttringsfriheten er koblet til individet. Jeg vil hevde at en bot har ikke noe yttringsfrihet. Nei, riktig. Trenger vi bot da? Trenger vi bot-nettverk? Trenger vi at det skal være lov å opptrømme falsk identitet og automatiserte profiler på sosiale medier? Eller kan vi si at nei, det er faktisk ikke lov. Og da kan vi se etter dem, og så kan vi ta dem ned, og så kan vi prøve å finne dem som står bak. Trenger vi å ha falske nettaviser som klones, og som Russland gjør, utgir seg for å være etablerte, kjente nyhetsskilder, men som bare har kledd seg ut, og som egentlig er russisk etterretting eller andre aktører som står bak, det kan man jo si at nei, det trenger vi ikke. Og da har vi også noe gjemmel til å kunne gå etter det. I tillegg så er det jo enorm finansiering som ligger i det her infrastrukturen, og det å kunne gå etter de pengestrømmene og så ta det ned, har jeg også tro på. Amerikanerne begynner jo å gjøre mer av det. De tok jo noe for en måneds tid siden av å Det tok ned 32 falske klona nettaviser i USA, som tilhører dette russiske doppelganger-nettverket, som består av hundrevis av klona falske nettaviser rundt omkring i verden. Disse 32 utgav seg for å være amerikanske lokale eller regionale nyhetskylder, og de ble da tatt med. I tillegg avdekte de finansiering på 10 millioner amerikanske dollar, som Russland har spyttet inn i et sånt influencer-content-marketing-byrå i Tennessee, og fått amerikanske etablerte, kjente influensere på amerikansk høyreside til å produsere innhold i tråd med bestillinger fra Kreml, uten at disse influensere da, i følge etterforskninga, var klare over hvem som var oppdragsgiveren, fordi det var stråselskapet som sto for finansieringen, og det var laget en sånn cover-story med hvem som egentlig var oppdragsgiveren, som også var bare tullet til oss. Det er mange nivåer å gå løs på dette. Så det er ikke noe silver bullet, som man sier. Eskil, vi må avslutningsvis bare høre litt om hvordan du og dere jobber med å organisere kampen mot denne desinformasjonen. Jeg skulle ønske at vi hadde en større rolle i det. Vi på FFI er jo oppdragsbasert, så vi tar på oss de oppdragene som vi får bestilling på, skal jeg da si. Men dere mener jo litt om det. Vi mener masse om det. Jeg mener masse om det. Og det kan jeg jo gjøre. Men vi har jo ikke en selvstendig rolle i å... Vi kan utføre forskning, vi kan gi råd. Og så er det jo opp til norske myndigheter å bestille den forskningen, betale for den forskningen og følge de rådene. Det jeg ser er at det er et stort gap mellom det trusselbildet som etterretningstjenesten, PST og Nasjonal sikkerhetsmyndighet beskriver i sine åpne trusselvurderinger hvert år, og den virkeligheten som reflekteres i politiske vedtak. for å tette de sikkerhetsskyldene som våre sikkerhetstjenester peker på. Og påvirkning er jo en del av det her, hvor vi i Norge har gjort egentlig svært lite i forhold til mange andre land. Og svært lite sammenlignet med hva man faktisk vet. Ja. Ja, det er jo et dilemma da. Nei, altså det er jo en litt sånn cliffhanger å forlate lytterne der, men det er jo pass nå da, fordi du kommer ikke til å bli arbeidsleder med det første, skjønner jeg. Nei, jeg har i hvert fall nok å gjøre, og det er jo både hyggelig, men også litt uhyggelig. Takk for at du tok turen innom, Eskild Grendal Siversen. Takk for invitasjonen. Og jeg håper vi kan snakkes igjennom ikke så alt for lenge, fordi her er det en rivende utvikling, og forhåpentligvis har dere fått nye oppdrag som bringer oss litt nærmere løsning. Det håper jeg også. Takk.