Oppsummering kapittel 2

I dette kapittelet har du lært hvordan store språkmodeller lager tekst og hvilke svakheter den har når den gjøre dette. Før du går videre til kapittel 3 kan du teste hva du har lært.

Test deg selv

Diskuter selv eller med en kollega

Hva er store språkmodeller og hvordan fungerer de?
Nevn noen av de viktigste svakhetene ved store språkmodeller og hva kan du gjøre for å imøtekomme dem?

Repetisjon

Store språkmodeller er matematiske modeller som som bygger opp svaret ett ord av gangen, betinget av konteksten du gir den. Store språkmodeller generere med andre ord tekster basert på statistiske mønstre, fremfor sikker faktakunnskap.
Store språkmodeller har ikke noe forhold til sannhet og har derfor ikke sikker kunnskap om hva som er sant. Det gjør modellene sårbare for bevisst manipulering av treningsdata. Aktører kan legge ut misvisende informasjon for at modellene skal bli trent på den. Dermed kan modellene gi svar som er manipulert og ikke stemmer overens med virkeligheten.
Språkmodeller finner på ting som ikke stemmer fordi de ikke har sikker faktakunnskap.
Lange samtaler kan “forvirre” modellen, slik at den gir dårligere svar. Derfor er det viktig å starte en ny samtale om du skifter tema.
Språkmodeller har innebygde skjevheter. Det kan blant annet være skjevhet som følge av manglende treningsdata, skjevhet som speiler skjevheter i samfunnet eller bekreftelsesskjevhet.

Neste kapittel

Nå som du forstår hvordan språkmodeller fungerer og hva begrensningene deres er, skal du i neste kapittel lære hvordan du bruker KI trygt og effektivt i praksis.