Hva er agentisk KI?
Du har kanskje hørt om agentisk KI eller KI agenter? Dette er en type KI som er mer enn bare en chat tjeneste, den benytter en språkmodell som motor/hjerne på samme måte som med chat, men kan i tillegg utføre handlinger.
Agenter er laget for en eller flere spesifikke formål. En agent kan for eksempel hente informasjon fra andre systemer som internett eller en database, den kan kanskje bestille togbiletter for deg, eller slå av en datamaskin som har symptomer på å være under angrep utenfra. Eller helt andre ting avhengig av hva som er formålet med akkurat den agenten.
Forskjellen mellom en vanlig språkmodell (venstre) og en agentisk KI med tilgang til verktøy (høyre). En agent kan ta autonome beslutninger om å bruke verktøy for å aksessere eller endre ekstern data.
Komponenter i en KI-agent
En KI-agent består av flere komponenter som jobber sammen.
Komponenter i en KI-agent.
Komponenter i en KI-agent
- modellen (“hjernen”) prosesserer informasjon
- orkestreringsystemet (“nervesystemet”) styrer agentens flyt
- verktøyene (“hendene”) kobler agenten til omverdenen
- deployment (“kroppen”) gjør agenten tilgjengelig som en tjeneste. For eksempel
- datamaskinene tjenesten kjører på
- oppkobling mot systemer tjenesten skal ha tilgang til (som for eksempel databaser)
Den viktigste komponenten som gjør agenten til en agent er verktøyene. Verktøyene er spesiallagede komponenter som gjør spesifikke handlinger (søke i en database, bestille en togbillett, gå gjennom møtedeltakernes kalendre, booke rom og sende ut møteinnkalling). Men i tillegg har en agent et mye mer avansert orkestreringsssystem enn det en vanlig chat tjeneste har. En vanlig chat tjeneste håndterer bare instruksjoner fra brukeren, og lever tilbake svar fra språkmodellen. En agent må håndtere instruksjoner fra en bruker, den må håndtere og hente ut informasjon om systemet den kjører på, kjenne til hvilke verktøy den kan bruke, håndtere resultater levert fra verktøyene, og ikke minst må den bestemme når og hvilke verktøy som skal brukes i en gitt kontekst.
Risiko knyttet til KI-agenter
Det er mye høyere risiko involvert med agenter sammenlignet med en ren chat tjeneste. Begge har de samme svakheter og begrensninger alle systemer har som genererer output fra en språkmodell (troverdighet, hallusinasjon, ikke fakta basert, ikke reproduserbart). Men fordi en agent samhandler med den fysiske, virkelige verden kan konsekvensene av en feil bli betydelig større. Spesielt hvis man lar agenten operere autonomt, det vil si uten at et menneske godkjenner eller kontrollerer handlingen.