Hva er AISI (AI Security Institute)?

AISI (AI Security Institute) er en forskningsorganisasjon i den britiske regjeringens Department for Science, Innovation and Technology. Instituttet undersøker sikkerhetsrisiko knyttet til avanserte systemer for kunstig intelligens. Det utvikler og gjennomfører tekniske evalueringer av avanserte AI-modeller for å forstå hvilke kapabiliteter de har, hvilke sikkerhetsmekanismer som fungerer, og hvordan teknologien potensielt kan misbrukes. AISI undersøker blant annet risiko knyttet til cyberangrep, autonome AI-systemer og andre kapabiliteter som kan få alvorlige konsekvenser.

AISI kan sammenlignes med et statlig teknisk forsknings- og evalueringsmiljø for avansert AI. På samme måte som produkter kan testes for sikkerhet før og etter at de tas i bruk, utvikler AISI metoder og tester som gjør det mulig å undersøke hvordan avanserte AI-modeller oppfører seg, hvilke kapabiliteter de har, og hvor effektive sikkerhetsmekanismene er.

Sicra og AISI

Arbeidet til AISI er relevant for cybersikkerhet fordi stadig kraftigere AI-modeller både kan brukes til å styrke sikkerhetsarbeid og gi trusselaktører nye kapabiliteter. AISI gjennomfører blant annet evalueringer av hvor godt avanserte AI-modeller kan løse oppgaver knyttet til offensive cyberoperasjoner, og forsker på hvordan sikkerhetsmekanismer rundt slike modeller kan evalueres.

For virksomheter understreker dette behovet for å forstå hvordan AI påvirker trusselbildet og etablere styring, risikovurderinger og sikkerhetskontroller rundt bruk av AI. Sicras arbeid med sikkerhetsstrategi, modenhetsanalyser og sikkerhetsledelse kan bidra til å sette AI-relatert risiko inn i virksomhetens samlede sikkerhetsarbeid.

Tjenester

Modenhetsanalyse for sikkerhet

Sikkerhetsstrategi

Sikkerhetsanalyser – NSMs prinsipper

CISO-for-hire

Relaterte ord: Kunstig intelligens (KI), Agentisk AI, LLM (Large Language Model), Cyberangrep, Cybersikkerhet, Trusselintelligens, Risikodeteksjon, Governance, Sikkerhetsledelse, Red team