Moduloversikt - Etiske perspektiver rundt KI-bruk

Modul 2: Etiske perspektiver rundt KI-bruk

Velkommen til modulen om etikk i kunstig intelligens. I denne modulen vil du få muligheten til å utforske og diskutere de mest pressende etiske problemstillingene som oppstår ved bruk av KI. Temaene vi dekker inkluderer blant annet algoritmisk bias, mangel på transparens (“The Black Box”), utfordringer knyttet til opphavsrett og personvern, samt de samfunnsmessige og miljømessige konsekvensene ved utbredt bruk av KI.

Oppgave

Gjøremål modul 2:

Se undervisningsvideo
Les leksjonene
Les pensum for modul 2
Titt på nyttige lenker og tips
Gjennomfør quizen for modul 2
Marker sidene som ferdig (gjøres nederst på siden)

Læringsmål modul 2

Når du har gjennomført denne modulen, vil du:

Identifisere Etiske Problemstillinger:

Få en dypere forståelse av utfordringer som bias, transparens, personvern, bærekraft, og ansvarlighet, og hvordan disse påvirker bruken av KI.

Reflektere over Etisk Bruk av KI:

Diskuter hvordan KI-generert innhold kan påvirke beslutninger og hverdagsliv, og utvikle kritiske refleksjoner rundt etiske hensyn i bruk.

Undervisningsvideo

undervisningsvideo

Foreleser: Professor Tobias Mahler (Senter for rettsinformatikk, Det juridiske fakultet, UiO. Forsker på juss, etikk og regulering av KI).

Lokasjon: Domus Juridica.

Velkommen. Mitt navn er Tobias Mahler. Jeg er professor ved Senter for rettsinformatikk på UiO, og jeg forsker på skjæringspunktet mellom jus og nettopp kunstig intelligens.

Teknologien Andreas snakket om skaper enorme etiske og juridiske utfordringer. La oss ta algoritmisk bias. Siden maskinlæringsmodeller trenes på historiske data, vil de uunngåelig arve samfunnets historiske fordommer og skjevheter. Hvis en algoritme skal hjelpe til med en ansettelsesprosess, og den er trent på data fra en mannsdominert bransje, vil algoritmen statistisk sett favorisere menn.

Enda vanskeligere blir det på grunn av “The Black Box”-problemet. Modellene har blitt så komplekse at ikke engang vi som forsker på dem alltid kan forklare hvorfor maskinen tok den beslutningen den tok. Mangelen på transparens truer rettssikkerheten vår. Derfor er forskningsfeltet Explainable AI (XAI) så kritisk.

Vi står også midt i massive opphavsrettskonflikter. Eier en kunstner stilen sin? Kan man trene en språkmodell på andres bøker uten lov? Og hva med personvern? Åpne KI-modeller har sugd til seg uhorvelig mye sensitiv data fra internett.

Til slutt må vi adressere bærekraft. Skyen er ikke en usynlig gass; det er gigantiske datasentre. Trening av dagens språkmodeller krever et enormt forbruk av strøm og millioner av liter drikkevann til kjøling. Etikken i KI handler derfor ikke bare om rettferdighet i data, men om belastningen vi påfører kloden.

Kilder / Ressurser

*Etter du har åpnet pensumslenken, husk å logge inn øverst til høyre. Komplett pensumsliste finner du alltid ved å trykke på “pensum” i venstremenyen i Canvas.

Nissenbaum, H. (2001). How computer systems embody values. Computer, 34(3), 118-120.
Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), 206-215.
Samuelson, P. (2023). Generative AI meets copyright. Science, 381(6654), 158-161.
Zuiderveen Borgesius, F. J. (2020). Strengthening legal protection against discrimination by algorithms and artificial intelligence. The International Journal of Human Rights, 24(10), 1572-1593.
Fallis, D. (2020). The epistemic threat of deepfakes. Philosophy & Technology, 34(4), 623-643.
Strubell, E., Ganesh, A., & McCallum, A. (2019). Energy and policy considerations for deep learning in NLP. arXiv preprint arXiv:1906.02243.

Refleksjon

Vær kritisk overfor KI-modellers svar og kilder (“black box”).
Husk at KI kan reprodusere samfunnets fordommer og diskriminere utilsiktet (algoritmisk bias).
Unngå å mate språkmodeller med sensitiv eller privat informasjon.
Reflekter jevnlig over KIens enorme fysiske karbon- og vannfotavtrykk.