Når kan du stole på generativ KI?
Nå som du har lært om og kan ta i bruk noen teknikker for gode instruksjoner, kan du da stole på svaret KI gir deg?
Generativ KI er ikke enten “pålitelig” eller “upålitelig”, det avhenger av hva du bruker den til. Som vi allerede har lært har ikke språkmodellen sikker kunnskap om hva som er sant, ei heller hukommelse. Et bedre spørsmål er kanskje derfor: I hvilke situasjoner kan du bruke KI uten at det medfører stor risiko? Og hva kan vi gjøre for å redusere risikoen?
En hovedregel er at kunstig intelligens passer best til oppgaver der feil ikke innebærer stor risiko.
Hvis feil kan få alvorlige følger, må du enten
- kunne kontrollere og bekrefte informasjonen før du bruker den videre, eller
- la være å bruke KI til den oppgaven.
Nedenfor er eksempler på bruk med lav, medium og høy risiko.
Hvis du har kontroll, eller konsekvensene av feil er lave:
- Brainstorming og idémyldring - Eksempel: Du bruker KI for å få andre perspektiver og innfallsvinkler på dine ideer.
- Formulere tekst du selv har kontekst på - Eksempel: Du utformer materiale hvor du lett kan se om det er riktig eller ikke.
- Språklig forbedring - Eksempel: Du ber KI gjøre språklige og retoriske endringer på en tekst du selv har skrevet.
- Oppsummere tekst du selv har skrevet - Eksempel: Du har produsert materialet selv, og kan lett vurdere om oppsummeringen er god.
- Lage utkast - Eksempel: Du bruker KI til å komme i gang med et arbeid, men kvalitetssikrer utkastet før du jobber videre.
Hvorfor er det lav risiko?
Sjansene for feil er mindre, og konsekvenser ved feil er små.
Tiltak for å begrense risiko
- Utøv normal kritisk vurdering av resultatet KI gir deg
Hvis resultatet skal “ut i verden” eller du bruker KI på områder du ikke har ekspertise:
- Utkast til faglig tekst, e-post eller rapport - Eksempel: Teksten, e-posten eller rapporten skal deles med andre og det har betydning om noe er feil.
- Forslag til prosedyrer - Eksempel: Du lager materiale som må stemme overens med andre kilder, som retningslinjer, dokumentasjon eller lovverk.
- Tekniske forklaringer - Eksempel: Du ber KI forklare hvordan noe fungerer, og forklaringen kan være feil selv om den høres overbevisende ut.
- Oppsummering av tekst du ikke kjenner godt - Eksempel: Du ber KI oppsummere en tekst du ikke har lest, og kan ikke se om noe er misforstått eller utelatt fra originalteksten
Hvorfor er det medium risiko?
Feil her kan føre til feil beslutninger, feil i tekniske systemer, ineffektivitet, eller svekket tillit utad.
Tiltak for å begrense risiko
- Kontrollere fakta mot andre kilder
- Justere språk og vinkling
- Ta det endelige ansvaret selv
Hvis materialet som produseres må være faktuelt korrekt
- Tall og statistikk - Eksempel: Du henter statistisk info fra KI-en og bruker den uten å verifisere mot andre kilder.
- Lover og regler - Eksempel: Du stoler på KI-ens evne til å gjengi eller oppsummere juridiske dokumenter korrekt, selv om den kan misforstå.
- Referanser - Eksempel: Du bruker kildene KI oppgir uten å sjekke at de faktisk eksisterer.
- Vurdering av enkeltpersoner - Eksempel: Du lar KI-en gjøre en vurdering som påvirker enkeltpersoner direkte, for eksempel i en ansettelsesprosess.
Hvorfor er det høy risiko?
Her er potensiale for feil stort, og eventuelle feil vil få store konsekvenser.
Tiltak for å begrense risiko
- Vurder om KI bør unngås
- Om KI benyttes, sjekk KI resultatet grundig og involver kompetente fagpersoner