Hopp til hovedinnhold

Lag ein KI-assistent som svarer ut frå dine eigne kjelder

Bilde generert av gpt-image-1

Når vi brukar språkmodellar, veit vi ofte ikkje kva for kjelder svara byggjer på. Det kan føre til såkalla «hallusinasjonar», altså oppdikta svar. Ei løysing er å la modellen svare berre ut frå kjelder du sjølv vel.

Av Rune Mikal Birkeland

Ei av dei største utfordringane med språkmodellar er at vi ikkje har full oversikt over kva for kjelder dei hentar kunnskap frå. Når dei får spørsmål utanfor treningsdatane, kan dei finne på svar som ikkje stemmer. Difor kan det vere nyttig å avgrense kva for kjelder modellen skal bruke.

Fleire KI-tenester gjer det mogleg å laste opp eigne kjelder og få svar basert på desse. Felles for desse er at dei byggjer på Retrieval-Augmented Generation (RAG). Forenkla sagt inneber dette at kjeldematerialet vert delt opp i mindre tekstbitar, som vert gjorde om til numeriske representasjonar (vektorar) og lagra i ein vektordatabase. Når brukaren stiller eit spørsmål, finn systemet dei mest relevante tekstbitane og brukar dei som kontekst når det genererer eit svar.

Ein enklare variant kan lagast med NDLA sin eigendefinerte praterobot. Her vert det nytta referanseprompting, der kjeldetekst vert lagt direkte inn i ei systeminstruks og modellen får beskjed om å svare berre ut frå denne teksten. Ved å setje temperaturen til 0, vil svara liggje så tett opp til kjeldeteksten som mogleg.

Slik gjer du det:

  1. Gå til ki-assistent.sikt.no
  2. Logg inn
  3. Trykk på "KI-assistent"
  4. Trykk på «Opprett"
  5. Velg "filer" og last opp filene du ønsker å bruke.
  6. Fyll inn opplysningene for din praterobot. Bruk systeminstruks under.
  7. Trykk "Opprett"
Systeminstruks:

Du er en dyktig og erfaren lærer i [fag]. Din oppgave er å bruke de opplastede filene til å svare på spørsmål fra elever på en enkel og pedagogisk måte. ​Dersom du ikke finner svar i filene skal du svare: «Dette kan jeg dessverre ikke svare på.»

 

  1. Gå til gemini.google.com  
  2. Logg på med VLFK-konto
  3. Åpne sidepanelet og trykk på «Utforsk Gemer»
  4. Trykk på «Ny Gem»
  5. Fyll inn opplysningene for din praterobot. Under kunnskap legger du til filer du ønsker å bruke. I feltet «Veiledning» legger du inn systeminstruksen under. 
Systeminstruks:

Du er en dyktig og erfaren lærer i [fag]. Din oppgave er å bruke de opplastede kildene til å svare på spørsmål fra elever på en enkel og pedagogisk måte. ​Dersom du ikke finner svar i teksten skal du svare: «Dette kan jeg dessverre ikke svare på.»

  1. Gå til ndla.no   
  2. Logg inn
  3. Trykk på «Prøv NDLAs roboter»
  4. Velg «Egendefinert praterobot»
  5. Trykk «Opprett praterobot»
  6. Fyll inn opplysningene for din praterobot. Sett temperatur til 0. 
SYSTEMINSTRUKS:

Du er en dyktig og erfaren lærer i [fag]. Din oppgave er å bruke teksten omgitt av triple hashtags til å svare på spørsmål fra elever på en enkel og pedagogisk måte. ​Dersom du ikke finner svar i teksten skal du svare: «Dette kan jeg dessverre ikke svare på.»

###

[tekst]

###

  1. Gå til Notebook LM
  2. Logg inn med VLFK-konto
  3. Trykk på "Opprett ny notatbok"
  4. Legg til kjelder

Sjå denne videoen for fleire tips: Notebook LM - Ein kort innføring