Slik kan AI bruke bedriftens egne dokumenter
RAG betyr at assistenten henter relevant informasjon før den svarer. Her er det viktigste å avklare om kilder, oppdatering og tilgang.
Dette tar du med deg
- Start med et lite sett godkjente kilder.
- Hent bare innhold brukeren har rett til å se.
- Test svar som mangler eller har motstridende informasjon.
Hva betyr det i praksis?
RAG er en måte å kombinere søk i dokumenter med en språkmodell. Når noen stiller et spørsmål, leter systemet etter relevante tekstutdrag og bruker dem som grunnlag for svaret. Det er ikke det samme som å trene en ny modell på hele bedriften.
Tenk på en assistent som svarer om levering. Den kan hente den gjeldende leveringsbeskrivelsen før den formulerer svaret. Da kan informasjonen oppdateres i kilden, uten at dere må skrive en ny variant av alle mulige svar.
Rydd før du laster opp
Begynn med godkjente beskrivelser av tjenester, priser og vanlige spørsmål. Fjern utdaterte kopier, tomme sider og dokumenter som motsier hverandre. Merk hvem som eier informasjonen, og når den sist ble kontrollert.
Et tenkt eksempel: Et gammelt tilbud sier fem dagers levering, mens dagens vilkår sier ti. Systemet trenger en regel for hvilken kilde som gjelder. Bedre søk alene løser ikke en uklar sannhet i dokumentene.
Tilgang må avgjøres før svaret
En offentlig assistent bør ikke kunne hente interne kundedokumenter. I en innlogget løsning må dokumenttilgang kontrolleres som en del av systemet. En setning i instruksjonen om å «holde dette hemmelig» er ikke en erstatning for tilgangsstyring.
Gi assistenten så få tilganger som oppgaven krever. Skill mellom å lese informasjon og å utføre handlinger. Hvis den også skal endre en bestilling eller sende noe videre, trenger den egne kontroller for det.
Test kildegrunnlaget, ikke bare språket
Lag spørsmål som krever ett dokument, flere dokumenter og informasjon som ikke finnes. Undersøk om riktige utdrag ble hentet, og om svaret holder seg til dem. Et vennlig og flytende svar kan fortsatt være feil.
Bestem hvordan assistenten skal si fra ved usikkerhet, og hvem som retter kildene når dere finner et problem. Bruk gjerne synlige kildehenvisninger når de er nyttige for brukeren. Se også sjekklisten for AI-sikkerhet og ansvar.