AI på nettsiden: avklar sikkerhet og ansvar før start
En assistent trenger mer enn gode svar. Bestem hvilke data den kan lese, hvilke handlinger den kan utføre og hvem som følger opp feil.
Dette tar du med deg
- Gi assistenten minst mulig tilgang.
- Kontroller handlinger utenfor språkmodellen.
- Ha en ansvarlig person og en enkel vei til menneskelig hjelp.
Tegn opp hva assistenten får tilgang til
Lag en enkel oversikt over kilder, eksterne tjenester og mulige handlinger. En assistent som svarer fra offentlige tekster, har et annet risikobilde enn en som kan lese kundesaker og endre bestillinger. Begynn med et avgrenset behov.
Skill offentlige dokumenter fra internt materiale. Tilgang må håndheves i systemet som henter dataene, også når flere kunder bruker samme løsning. Ikke legg hemmeligheter i instruksjonene med en forventning om at modellen skal beskytte dem.
Behandle innhold utenfra som informasjon
OWASP beskriver prompt injection som en risiko der innhold påvirker modellen til å følge uønskede instruksjoner. Slike forsøk kan komme direkte fra en bruker eller indirekte gjennom materiale assistenten leser.
Det betyr at et dokument, en e-post eller en nettside ikke skal få bestemme assistentens rettigheter. Begrens verktøyene, kontroller parameterne og krev en egen bekreftelse der handlinger trenger det. En formulering om å «aldri gjøre feil» er ikke en teknisk kontroll.
Planlegg feil og usikkerhet
Bestem hva assistenten skal gjøre når kildene mangler, er uenige eller tjenesten ikke svarer. Brukeren bør få en kort forklaring og en vei videre. Unngå at systemet later som en handling ble utført når det bare har formulert et svar.
Lag tester for spørsmål utenfor tema, forsøk på å hente andres informasjon og gjentatte forespørsler. Vurder både svaret og hva systemet faktisk gjorde. Testene bør kjøres igjen når kilder, instruksjoner eller verktøy endres.
Gi noen ansvar for oppfølging
Avklar hvem som godkjenner nye kilder, retter feil og kan slå av en funksjon. Bestem hvilke logger som er nødvendige, hvem som har tilgang og hvor lenge de skal beholdes. Dette bør inngå i den samlede vurderingen av data og personvern.
Hold en synlig kontaktvei tilgjengelig. En kunde skal kunne be om menneskelig hjelp uten å komme seg gjennom en lang samtale først. Les hvilke oppgaver en nettsideassistent bør starte med for et praktisk første omfang.