Illustrasjon av stordata. Prikker i formasjon over sort bakgrunn.

Kunstig intelligens

Derfor bør du behandle KI som en innsiderisiko

Språkmodeller blir stadig smartere og kraftigere. De brukes i alt fra hverdagsoppgaver til kritiske samfunnsfunksjoner. Hvordan kan vi teste og evaluere at teknologien er trygg?

11. november 2026

Lytt til episoden:

Har du hørt historien om da mer enn 1000 KI-agenter konspirerte og samarbeidet for å lure menneskene som hadde skapt dem?

10. november arrangerte FFI en frokost om sikkerhet i kunstig intelligens og språkmodeller. Der snakket forskerne Håvard Tveit Ihle og Johan Vik Mathisen om den såkalte Hugging Face hendelsen, om hvordan språkmodeller fungerer og trenes og ikke minst: hvordan kan vi teste og evaluere at teknologien er trygg.

KI-agenter og språkmodeller er så nyttige at vi ikke kan unnlate å bruke dem. Men hvordan kan Forsvaret og samfunnskritiske virksomheter trygt bruke språkmodeller, når de samme modellene kan lyve, lure oss, skjule sine hensikter og hallusinere?

I dagens episode av Ugradert kan du høre begge foredragene fra frokosten og spørsmålsrunden etterpå.

Gir råd til virksomheter som vil bruke KI-agenter

Under frokosten presenterte forskerne en rapport som publiseres i løpet av høsten. Du kan lese et sammendrag av rapporten allerede nå:

Les også

Arrangement

Sikkerhet i kunstig intelligens

Språkmodeller blir stadig kraftigere. De brukes i alt fra hverdagsoppgaver til kritiske samfunnsfunksjoner. Hvordan kan vi teste og evaluere at teknologien er trygg?

Utvidet sammendrag 2026

Store språkmodeller og forsvarlig sikkerhet En studie av sårbarheter, trusler og mulige tiltak for bruk i egen infrastruktur

Les mer

Johan Vik Mathisen hadde to avsluttende budskap til publikum under frokosten:

– For det første: Kompetanse er forstått veldig viktig for å kontrollere og sørge for trygg bruk av KI. Det er derfor vi jobber med testing av modeller i vår lab SEAL.

– For det andre: Når du først skal ta språkmodeller i bruk, tenk på det som en innsidertrussel i IKT-systemene dine og modeller sikkerhetstiltakene dine deretter.

Forskernes anbefalinger

Virksomheter som tar i bruk LLM-baserte løsninger bør:

gjennomføre en konkret risiko- og trusselvurdering for bruksområdet, og gjøre vurdering av tiltak basert på det.
teste modell og applikasjon mot relevante sårbarheter før produksjonssetting og ved vesentlige endringer
behandle agenten som en innsidetrussel og legge til grunn at feil eller kompromittering kan skje
følge prinsippet om minste handlerom og gi agenter bare de dataene, verktøyene og rettighetene som er nødvendige
begrense autonomi og kreve menneskelig kontroll der konsekvensene av feil eller uønskede handlinger er store. Dette må kombineres med andre tiltak.
benytte flere uavhengige sikkerhetsmekanismer, blant annet tilgangskontroll, isolasjon, informasjonsflytkontroll og guardrails
vurdere sikkerheten på nytt når bruksområdet utvides, slik at en løsning ikke gradvis tas i bruk til nye formål uten at risikoen vurderes på nytt.