Tid

Lektionen forventes at tage ca. 45 min. at gennemføre, fordelt på 20 min. læsning og en podcast på 25 min. Dertil kommer øvelser og refleksionsspørgsmål, som du med stor fordel kan lave sammen med dine medstuderende.

Om lektionen 'Når algoritmerne bestemmer'

I denne lektion introduceres du til algoritmiske systemer, som du måske kender fra digitale tjenester som f.eks. Netflix, Spotify, og AI-sprogmodeller som ChatGPT og Bing Chat. I lektionen vil du se eksempler på algoritmiske systemer, som bruges til at rangere indhold, klassificere billeder, træffe beslutninger og skabe indhold – og både fordele og ulemper ved disse systemer præsenteres som oplæg til refleksion og diskussion.

Lektionen giver en forståelse af, hvordan algoritmer og kunstig intelligens er systemer sammensat af mennesker, teknologier og sociale strukturer. Vi berører udfordringer med automatiserede beslutningsprocesser, algoritmisk kuratering af information og AI-genereret indhold og bidrager med en kritisk tilgang til anvendelse og brug af algoritmiske systemer i forskellige kontekster.

Læringsmål

Når du har gennemført lektionen, forventer vi at du:

har opnået forståelse for algoritmisk kuratering og automatiserede beslutningsprocesser.
kan reflektere over fordele og ulemper ved anvendelse af algoritmiske systemer i samfundet.

Kilde

Lektionen er produceret af Københavns Universitet som en del af Københavns Universitets læringsressourcer til digital dannelse, 2023.

Fagansvarlige:

Christina Neumayer, lektor, Institut for Kommunikation
Camilla Moring, lektor, Institut for Kommunikation

____________________________________________________________

Algoritmer og kunstig intelligens

Lad os starte med de to nøglebegreber i denne lektion: Algoritmer og kunstig intelligens.

Algoritmer

Der findes ikke en entydig definition af, hvad en algoritme er, men i bund og grund er det et sæt regler (også kaldet en model), der er baseret på data, og som definerer en sekvens af handlinger. Algoritmernes virkning afhænger af den kontekst, de bruges i, f.eks. apps på mobiltelefoner, automatiseret beslutningstagning, kundeevaluering i en bank, anbefalingssystemer på Netflix eller de sociale medier. For at kunne reflektere over algoritmernes samfundsmæssige konsekvenser er vi nødt til at forstå dem i deres sammenhæng.

Kilde: Kristian Lumarchive og Rumman Chowdhury (6. feb. 2021), MIT Technology Review. What is an “algorithm”? It depends on whom you ask

Kunstig intelligens (AI)

Kunstig intelligens (AI) forstås almindeligvis som intelligente maskiner, der udfører opgaver, som ellers kræver menneskelig intelligens. Der findes forskellige former for kunstig intelligens, f.eks. billedgenkendelse, chatbots (såsom GPT-3), ansigtsgenkendelse, overvågningssystemer og deep fake-videoer. Mens fortællinger om AI ofte tilskriver computerdrevet analyse menneskelig intelligens eller en større analytisk kraft, som mennesker ikke besidder, tjener AI altid menneskers overbevisninger og perspektiver. Som det er tilfældet med algoritmer, er vi nødt til at se på AI i den kontekst, hvor den anvendes, for at forstå de samfundsmæssige konsekvenser i et større perspektiv.

Kilde: Thomas Bolander (2018). Videnskab.dk. Hvad er kunstig intelligens egentlig?

____________________________________________________________

Cases og øvelser

Der findes mange definitioner på algoritmer og kunstig intelligens, og ingen af dem er gyldige i alle sammenhænge. For at kunne reflektere over den indvirkning, algoritmiske systemer har i samfundet, er vi nødt til at forstå dem i sammenhæng. I det følgende ser vi nærmere på en række eksempler og cases, der kan inspirere til kritisk refleksion. Hver case introducerer et specifikt perspektiv og efterfølges af en kort øvelse, der lærer dig at reflektere over konsekvenserne af algoritmiske systemer.

Case 1: Netflix – anbefalinger og rangering

Streamingtjenesten Netflix’ anbefalingssystem er et af de mest anvendte eksempler på, hvordan algoritmiske systemer påvirker vores forbrug af film og tv-serier. Anbefalingssystemet handler grundlæggende om personalisering, så systemet anbefaler indhold, der er tilpasset vores personlige forbrugsmønstre. Systemets personlige anbefalinger er baseret på data fra alle de andre Netflix-brugere med lignende forbrugsmønstre. Anbefalingssystemet filtrerer på baggrund af forskellige kategorier (f.eks. ”Populært på Netflix” eller ”Gyser”) eller kriterier (f.eks. ”romantik”, ”vold” eller ”danske produktioner”) og beregner sandsynligheden for, at vi bliver ved med at se med på platformen.

Hvis du vil dykke dybere ned i anbefalingssystemet, kan du læse David Chong (2020). The Medium. Deep Dive into Netflix’s Recommender System

Øvelse: Se på din profil på en af de streamingtjenester, du bruger (f.eks. Netflix, Spotify, Amazon Prime, HBO Max), og tænk på de anbefalinger (til film, musik osv.), du får. Sammenlign dem med en anden persons profil (f.eks. en medstuderende, en ven eller et familiemedlem ), og diskuter forskellene.

Case 2: Billeder og machine learning – klassificering

Students in class Sam Balye Unsplash.png

Foto af Sam Balye på Unsplash

Et af de anvendelsesområder, hvor de samfundsmæssige konsekvenser af algoritmiske systemer måske fremstår tydeligst, er computer vision, et felt inden for kunstig intelligens, der træner AI til at fortolke og forstå den visuelle verden ved præcist at identificere og klassificere visuelle genstande. Med andre ord træner vi AI til at ”se”. Sådanne algoritmiske systemer trænes ofte med data, der har en overrepræsentation af hvide mænd (da ingeniørerne og designerne bag systemerne for det meste er hvide mænd), hvilket fører til bias i forhold til race eller køn. Det mest udtalte eksempel på racemæssig bias er billedgenkendelsesalgoritmen i Google Fotos, der klassificerer sorte mennesker som “gorillaer”. I stedet for at investere i bedre træningsdata og forbedre det algoritmiske system, så det kunne klassificere sorte mennesker, løste Google problemet ved helt at fjerne “gorilla” som kategori.

Hvis du vil have hele historien, skal du læse James Vincent (12. jan. 2018). The Verge. Google ‘fixed’ its racist algorithm by removing gorillas from its image-labeling tech.

Hvis du vil vide mere om, hvordan politik er indbygget i AI-systemer baseret på visuelle data, kan du læse Kate Crawford og Trevor Paglen (2019). Excavating AI: The Politics of Images in Machine Learning Training Sets.

Øvelse: Foretag en Google-billedsøgning med forskellige søgeord og reflekter over resultaterne. Hvilke former for bias og stereotyper gengives på billederne? (Hvis du f.eks. søger efter “professor”, “expats” og “flygtninge”)

Case 3: Kunstnerisk research med AI – kreative processer

Billede fra Rine Rodin, The Wise and The Mad (2021), videoperformance-værk. 18 minutter.
Digital. Farve. Lyd. Med tilladelse fra kunstneren. Kan ses på AIPerformance.space.

Vi kan også skabe noget med algoritmiske systemer. AI har konsekvenser for kreative processer, og omvendt kan vi lære om konsekvenserne af AI gennem kunsten. Mirabelle Jones er kunstner og ph.d.-forsker ved Institut for Datalogi på Københavns Universitet, og de organiserer AI Performance Space, som “samler kunstnere med forskellige praksisser, baggrunde, identiteter, hjemlande og metoder for kollektivt at undersøge, hvilken indflydelse kunstig intelligens kan have på den kreative proces og overveje, hvordan kreative praksisser på den anden side kan udvikle ny indsigt i og nye tilgange til kunstig intelligens.”

Øvelse: Brug Crayion til at skabe din egen billedkunst med AI.

Case 4: Algoritmisk beslutningstagning i den offentlige sektor

Hvad sker der, når beslutninger i den offentlige sektor træffes af algoritmiske systemer frem for mennesker? Algoritmiske systemer anvendes i stigende grad på tværs af den offentlige sektor, herunder inden for strafferet, uddannelse og levering af velfærdsydelser. Det kan have konsekvenser for menneskers privatliv, da disse beslutninger ofte træffes på baggrund af meget detaljerede personoplysninger, for placeringen af ansvar, da det er uklart, hvem der egentlig kan stilles til ansvar, når systemerne fejler og ikke fungerer korrekt (f.eks. fejlagtigt klassificerer en person som kriminel), og for den demokratiske proces (f.eks. bots på sociale medier i forbindelse med valg).

Hvis du vil vide mere om algoritmisk beslutningstagning i Norden, kan du læse Algorithmic Decision Making Nordic under ledelse af lektor Stine Lomborg ved Institut for Kommunikation på Københavns Universitet.

Hvis du vil vide mere om algoritmiske systemers konsekvenser for demokratiet i Danmark, kan du se eksemplerne fra projektet Algorithms, Data & Democracy under ledelse af Sine Nørholm Just, Roskilde Universitet.

Øvelse: Læs nyhederne, og find historier, hvor algoritmiske systemer træffer menneskelige beslutninger. Overvej konsekvenserne for den specifikke sektor, hvor den automatiserede beslutningstagning finder sted.

Case #5: ChatGPT og andre AI-sprogmodeller – Når algoritmer formulerer sig som mennesker

Hvad betyder det at vi nu har maskiner, der kan formulere sig, så man nemt kan tro at ordene kommer fra et levende og tænkende menneske? Mister vi evnen til at udtænke argumenter og formulere os, når computeren kan gøre arbejdet for os? Og hvad betyder det for et mindre sprog- og kulturområde som dansk, at de største og mest avancerede sprogmodeller er udviklet i USA?

Hør et interview med Tanya Karoli Christensen, professor i dansk sprog og lingvistik på Institut for nordiske studier og sprogvidenskab. Interviewet er optaget i december 2023.

Se lektionenen 'Teknologien bag ChatGPT og store sprogmodeller', hvis du har brug for en forklaring af, hvad AI-sprogmodeller er og hvordan de fungerer.

Øvelse: Diskuter med dine medstuderende, hvilken indflydelse store sprogmodeller vil have på dit fag og dit fremtidige arbejde.

____________________________________________________________

Få mere at vide

Hør om konsekvenserne af den menneskelignende chatbot, ChatGPT, DR Genstart: En menneskelig maskine, 6. januar 2023

Læs Nordic Perspectives on Algorithmic Systems, NOS-HS-netværk under ledelse af lektor Airi Lampinen, Stockholms universitet

Bemærkninger fra den første workshop om metaforer og begreber
Bemærkninger fra den anden workshop om metoder og tilgange til undersøgelse af algoritmiske systemer

Læs mere om anbefalingssystemer: IEEE Information Theory Society, How Recommender Systems Work

Få mere at vide om AI-politik. Atlas of AI, Kate Crawford i samtale med Judy Wajcman

Lær mere om dine interaktioner med AI via legebaserede mobilapps. Ridiculous Software Project under ledelse af Prof. Miguel Sicart, Center for Digital Play, IT-Universitetet i København, gratis apps (til iPad og iPhone):