Finn hullene før noen andre.
Du får vite hva som er åpent i systemet og språkmodellen du allerede kjører, skriftlig, med tiltak og frister. For systemet som allerede står i drift, med eller uten AI.
SLIK GÅR DET FOR SEG
Omfang og fullmakt
Skriftlig enighet om hva som testes og hva som ikke røres. Uten det er det ikke en test.
Kartlegging
Hva er eksponert, hva kjører du egentlig, og hva kan en språkmodell i systemet nå.
Testing
Jeg prøver å komme inn, og videre når jeg er inne. Er det en språkmodell i systemet, kjøres prompt injection, jailbreaks og forsøk på å hente ut data gjennom den. Alt logges.
Rapport, guardrails og gjentest
Funnene med alvorlighetsgrad og tiltak. Guardrails rundt modellen settes i koden, ikke i instruksjonene til den. Når du har rettet, samme test på nytt.
DETTE INNGÅR
Seksten ting følger med. Og hvert funn blir talt og rangert.
EKSEMPEL
Nettsider, systemer og infrastruktur
Det som er åpent fra internett
EKSEMPELHvem som har tilgang til hva
EKSEMPELInnlogging, og hvor lenge en pålogging varer
EKSEMPELPersonopplysninger: hva som lagres, og hvor lenge
EKSEMPELDrift, oppdateringer og det systemet bygger på
EKSEMPELHva du bør gjøre først
EKSEMPELRapporten du kan gi videre
EKSEMPELSpråkmodeller og LLM guardrails
Kartlegging av angrepsflate
EKSEMPELPrompt injection-testing
EKSEMPELSystemprompt og datalekkasje
EKSEMPELVerktøy- og API-misbruk
EKSEMPELGuardrails i koden
EKSEMPELLogging av avviste forsøk
EKSEMPELRetest og verifikasjon
EKSEMPELRapport og styresammendrag
EKSEMPELHva får du etter en penetrasjonstest?
Du får en skriftlig rapport med funn, alvorlighetsgrad og konkrete tiltak. Testingen undersøker eksponerte funksjoner og tilgangskontroll innenfor avtalt omfang. Når svakhetene er rettet, kjøres de aktuelle testene på nytt. En penetrasjonstest gir et bilde av det som er undersøkt, ikke en garanti for at et system er uten sårbarheter.
Avklar systemet og omfanget som skal testesHva testes når systemet har en språkmodell?
En gjennomgang undersøker hva språkmodellen har tilgang til, hvilke handlinger den kan utføre og om uønskede instruksjoner kan overstyre grensene. Westengen Studio tester prompt injection, jailbreaks og mulig datalekkasje i et avgrenset miljø. Funn dokumenteres, tiltak legges i koden rundt modellen, og angrepene kjøres på nytt.
Les guiden til prompt injection og AI-sikkerhetEr en god systeminstruksjon nok til å sikre en chatbot?
En systeminstruksjon alene er ikke en tilgangskontroll. Oppslag i en kunnskapsbase, verktøykall og utgående data trenger grenser i applikasjonen. Før en gjennomgang bør du ha oversikt over hvilke dokumenter, systemer og handlinger chatboten kan nå. Det gir et konkret utgangspunkt for å avgrense testen.
Se hvordan en chatbot bygges med grensene i koden