Hopp til hovedinnhold
/
/

Start / Dokumenter / Store språkmodeller og forsvarlig sikkerhet

Åpne PDF (åpnes i ny fane)
4 sider 0.17 MB
Forsiden av dokumentet Store språkmodeller og forsvarlig sikkerhet
Studie

Store språkmodeller og forsvarlig sikkerhet En studie av sårbarheter, trusler og mulige tiltak for bruk i egen infrastruktur

Dette utvidede sammendraget presenterer hovedfunn fra en FFI-studie om sikkerhetsrisikoer ved bruk av store språkmodeller (LLM) i virksomhetsstyrt infrastruktur. Rapporten beskriver sentrale sårbarheter som forgiftning av treningdata, injeksjonsangrep og modellens iboende upålitelighet, samt hvordan disse forsterkes i applikasjonslaget og agentiske systemer. Den skisserer lagdelte tiltak for risikoreduksjon, inkludert testing, minst mulig privilegier, isolasjon, informasjonsflytkontroll og menneskelig kontroll der konsekvensene er kritiske. Målet er å gi grunnlag for risikovurdering og forsvarlig anvendelse av LLM i nasjonal sikkerhet og Forsvaret.

Publisert

Eier

Forsvarets forskningsinstitutt (FFI)

Utfører

Forsvarets forskningsinstitutt (FFI)

Forfattere

Johan Vik Mathisen og Gudmund Grov

Språk

Norsk (bokmål)

Kilde

www.ffi.no

Tema

Forsvar Statlig forvaltning Utdanning og forskning Lov og rett, beredskap