Oppgaver

Refleksjon

Hvorfor kan en språkmodell gi feilinformasjon selv om svaret høres veldig troverdig ut?

Svar

Fordi språkmodellen genererer tekst basert på statistiske mønstre den har lært, ikke basert på faktasjekk. Den har lært hvordan troverdige svar “ser ut”, men vet ikke forskjellen på sant og usant. Derfor kan den produsere feilinformasjon med samme selvtillit som riktig informasjon.