Gratis forhåndsvisning

Dette er én leksjon fra kurset «Mulighetsrommet. Hva AI og agenter faktisk kan gjøre i din bedrift». Meld deg på for å få tilgang til alt innholdet.

Tekst 12 min

Hvordan en språkmodell lager et svar

Dette skal du kunne

Forklare trening, kontekst og generering uten å forveksle sannsynlighet med sannhet.

Lesestoff og øvelse er klare. Videodemonstrasjonen er under produksjon.

Forklare trening, kontekst og generering uten å forveksle sannsynlighet med sannhet.
Grafisk forklaring. Illustrative tall er merket i figuren.

Forklaring

En stor språkmodell, eller LLM, er et nevralt nettverk som har lært mønstre fra store mengder data. Under trening justeres tallene i nettverket slik at det blir bedre til å forutsi og produsere tekst. Modellen lagrer ikke internett som et bibliotek med ferdige, kontrollerte svar.

Når du skriver en melding, deles teksten opp i små enheter som kalles tokens. Modellen bruker konteksten til å beregne hvilke tokens som passer videre. Så velges et token, det legges til teksten, og prosessen fortsetter. Det er den grunnleggende mekanismen bak svaret du ser vokse fram.

På figuren står «Vi sender tilbudet innen». Flere fortsettelser kan passe. I eksemplet har vi tegnet noen sannsynligheter for å vise prinsippet. Tallene er pedagogiske og er ikke målt fra en bestemt modell. At «fredag» høres naturlig ut, betyr ikke at bedriften faktisk kan levere fredag.

Moderne modeller gjør mer enn en enkel autofullføring. De kan bruke komplekse mønstre, arbeide gjennom flere trinn og kombinere tekst med bilder, lyd og verktøy. Men et velformulert svar er fortsatt ikke i seg selv dokumentasjon på at svaret er sant.

Det er nyttig å skille tre ting. Treningen er bakgrunnen modellen allerede har. Konteksten er arbeidsgrunnlaget den får i denne oppgaven. Verktøy er måter å hente nye opplysninger eller utføre handlinger på. Når modellen søker opp en oppdatert prisliste, er det et verktøy som skaffer ferske data. Modellen visste ikke nødvendigvis dette fra før.

Du trenger derfor ikke å tenke på AI som en person som vet alt. Tenk på den som et svært fleksibelt system for å bearbeide informasjon. Din jobb er å gi den riktig grunnlag og kontrollere det som betyr noe.

Slik prøver du selv

  1. Be om et tilbud uten dato, og vis hvorfor en pen formulering kan inneholde en antakelse.

Instruksjon du kan tilpasse

Fullfør setningen «Vi sender tilbudet innen …» på tre ulike måter. Forklar deretter hvilke faktiske opplysninger du måtte hatt for å velge en bindende dato.

Øvelse

Forklar med egne ord forskjellen mellom treningsdata, kontekst og et nettsøk.

Slik vurderer du resultatet

Trening former modellens parametere. Kontekst er informasjon den får i en konkret kjøring. Nettsøk henter nye kilder; det trener ikke modellen på nytt.

Kilder og videre lesing

Øvingsfiler og maler finnes i kursets materiell. Bruk syntetiske eller godkjente data. Velg ett verkstedspor til arbeidsprøven.

Lik det du så?

«Mulighetsrommet. Hva AI og agenter faktisk kan gjøre i din bedrift» er under produksjon. Sett deg på ventelisten, så får du beskjed når kurset er klart.