Store språkmodeller og forsvarlig sikkerhet En studie av sårbarheter, trusler og mulige tiltak for bruk i egen infrastruktur
Dette utvidede sammendraget presenterer hovedfunn fra en FFI-studie om sikkerhetsrisikoer ved bruk av store språkmodeller (LLM) i virksomhetsstyrt infrastruktur. Rapporten beskriver sentrale sårbarheter som forgiftning av treningdata, injeksjonsangrep og modellens iboende upålitelighet, samt hvordan disse forsterkes i applikasjonslaget og agentiske systemer. Den skisserer lagdelte tiltak for risikoreduksjon, inkludert testing, minst mulig privilegier, isolasjon, informasjonsflytkontroll og menneskelig kontroll der konsekvensene er kritiske. Målet er å gi grunnlag for risikovurdering og forsvarlig anvendelse av LLM i nasjonal sikkerhet og Forsvaret.
Publisert
Eier
Forsvarets forskningsinstitutt (FFI)
Utfører
Forsvarets forskningsinstitutt (FFI)
Forfattere
Johan Vik Mathisen og Gudmund Grov
Språk
Norsk (bokmål)