Etikk i programmering, Videooppgave

Kameraer med AI-drevet ansiktsgjenkjenning brukes i stadig flere byer for å identifisere personer i sanntid. Politiet bruker det for å finne etterlyste, men teknologien gjør det også mulig å overvåke hele befolkninger. Studier viser at ansiktsgjenkjenning har høyere feilrate for personer med mørk hud, noe som kan føre til urettmessig siktelse og straffeforfølgelse.

Mulige diskusjonsspørsmål:

• Finnes det en akseptabel bruk av ansiktsgjenkjenning, eller bør det forbys helt?
• Hvem bør bestemme når og hvor teknologien brukes?
• Hva gjør det med et samfunn at du aldri kan være anonym i det offentlige rom?

Algoritmer brukes til å sortere jobbsøknader, vurdere kredittverdighet, beregne forsikringspriser og til og med forutsi tilbakefall blant kriminelle. Problemet er at algoritmene lærer av historiske data, og hvis dataene gjenspeiler eksisterende fordommer, vil algoritmen forsterke dem. Et kjent eksempel er Amazons rekrutteringsverktøy som systematisk nedprioriterte kvinner.

Mulige diskusjonsspørsmål:

• Er en algoritmisk avgjørelse mer eller mindre rettferdig enn en menneskelig?
• Hvem er ansvarlig når en algoritme diskriminerer, utvikleren, selskapet, eller den som bruker den?
• Hvordan kan man teste om en algoritme er rettferdig?

Med AI kan man nå lage realistiske videoer og lydopptak av personer som sier og gjør ting de aldri har gjort. Teknologien brukes til underholdning og kunst, men også til svindel, politisk manipulasjon og identitetstyveri. Verktøyene er i dag så tilgjengelige at hvem som helst kan lage en deepfake med noen få klikk.

Mulige diskusjonsspørsmål:

• Bør det være ulovlig å lage en deepfake av noen uten samtykke, selv om den er tydelig merket som falsk?
• Hvordan kan vi skille ekte fra falskt når teknologien blir god nok?
• Har programmereren som lager verktøyet et ansvar for hvordan det brukes?

Apper, spill og sosiale medier samler inn enorme mengder data om barn og unge, fra lokasjonsdata og nettleserhistorikk til ansiktsuttrykk og stemmeopptak. Disse dataene brukes til å lage detaljerte profiler som selges til annonsører eller brukes til å gjøre appene mer vanedannende. Barn har sjelden reelle muligheter til å forstå eller nekte samtykke.

Mulige diskusjonsspørsmål:

• Kan et barn på 12 år gi meningsfylt samtykke til en 40-siders brukeravtale?
• Burde foreldre ha full tilgang til barnas digitale data, eller har barn rett på digitalt privatliv?
• Hvor går grensen mellom å gjøre en app engasjerende og å gjøre den vanedannende?

AI-modeller som genererer bilder, tekst og kode er trent på milliarder av verk skapt av mennesker, ofte uten at skaperne har gitt tillatelse eller fått betalt. Kunstnere, forfattere og programmerere mener arbeidet deres blir stjålet. Samtidig argumenterer tech-selskaper for at AI-trening er lovlig og at verktøyene demokratiserer kreativitet.

Mulige diskusjonsspørsmål:

• Er det riktig å bruke andres verk til å trene AI uten å spørre først?
• Hvem eier noe som er laget av en AI, brukeren, selskapet, eller ingen?
• Hva skjer med menneskelige kunstnere og utviklere når AI kan gjøre jobben deres?

Politiet i flere land bruker algoritmer som analyserer kriminalitetsdata for å forutsi hvor og når forbrytelser vil skje. Tilhengere mener det forebygger kriminalitet, men kritikere påpeker at systemene forsterker eksisterende skjevheter: de sender mer politi til områder som allerede har mye politi, noe som fører til flere arrestasjoner der, som igjen «bekrefter» algoritmens spådommer.

Mulige diskusjonsspørsmål:

• Er det greit å sende mer politi til et område basert på en algoritmes prediksjon?
• Kan en algoritme noen gang være «objektiv» når den trenes på data fra et skjevt system?
• Hva betyr det for «antatt uskyldig» at en datamaskin «forutsier» at du er en risiko?

YouTube, TikTok og andre plattformer bruker anbefalingsalgoritmer som er optimalisert for å holde deg på skjermen så lenge som mulig. Forskning viser at dette kan lede brukere inn i stadig mer ekstremt innhold, fra uskyldig nysgjerrighet til konspirasjonsteorier og radikalisering. Algoritmene vet ikke hva som er sant eller skadelig, bare hva som holder deg engasjert.

Mulige diskusjonsspørsmål:

• Har plattformene et ansvar for innholdet algoritmene anbefaler, eller er det brukerens ansvar?
• Bør anbefalingsalgoritmer være regulert ved lov?
• Er det en vesentlig forskjell på en algoritme som anbefaler og et menneske som anbefaler?

Militære droner og våpensystemer utvikles som kan identifisere og angripe mål uten menneskelig godkjenning. Tilhengere argumenterer for at dette reduserer risikoen for egne soldater og kan ta raskere beslutninger. Kritikere mener at en maskin aldri bør ha myndighet til å ta et liv, og at feil i programvaren kan føre til katastrofale konsekvenser for sivile.

Mulige diskusjonsspørsmål:

• Bør en maskin kunne bestemme over liv og død?
• Hvem er ansvarlig dersom et autonomt våpen dreper sivile, utvikleren, militæret, eller ingen?
• Hva er forskjellen på et fjernstyrt og et autonomt våpen etisk sett?

Millioner av mennesker bruker apper for å spore mens, fertilitet, mental helse, trening og søvn. Dataene er svært sensitive og kan avsløre helsetilstander, graviditet eller psykiske problemer. I flere tilfeller har appene delt data med tredjeparter uten tydelig samtykke, og i land med strenge abortlover har menstruasjonsdata blitt brukt som bevis.

Mulige diskusjonsspørsmål:

• Bør helsedata ha sterkere lovbeskyttelse enn andre typer persondata?
• Er «gratis» apper virkelig gratis når du betaler med dataene dine?
• Hva skjer når data du gir frivillig i ett land blir brukt mot deg under et annet lovverk?

Smarthøyttalere, doorbell-kameraer, robotstøvsugere og smart-TVer samler kontinuerlig data i hjemmet ditt. Amazon Echo har blitt tatt i å ta opp private samtaler; robotstøvsugere har kartlagt og delt plantegninger; og Ring-kameraer har gitt politiet tilgang til opptak. Problemet forsterkes av at enhetene ofte deler data med hverandre og med skyleverandører uten at brukeren er klar over det.

Mulige diskusjonsspørsmål:

• Aksepterer vi overvåkning i bytte mot bekvemmelighet uten å tenke over konsekvensene?
• Bør politiet ha tilgang til opptak fra private hjem uten rettslig kjennelse?
• Kan man gi informert samtykke når man ikke vet hva enheten egentlig samler inn?

Kinas sosiale kredittsystem bruker teknologi for å gi borgere en «score» basert på atferd, fra betalingshistorikk til om du krysser veien på rødt lys. Lav score kan føre til at du nektes flybilletter, tog eller skoleplass for barna dine. Lignende systemer finnes i mildere form i andre land gjennom kredittscoring, forsikringsalgoritmer og bakgrunnssjekker. Spørsmålet er hvor grensen går.

Mulige diskusjonsspørsmål:

• Hva er forskjellen på en norsk kredittscore og Kinas sosiale kredittsystem?
• Er det rettferdig at handlinger i fortiden påvirker mulighetene dine for alltid?
• Kan et slikt system innføres gradvis uten at befolkningen merker det?

Åpen kildekode betyr at hvem som helst kan bruke, endre og distribuere programvare fritt. Det har gjort teknologi tilgjengelig for alle, men reiser også spørsmål: Når du legger ut et verktøy som hvem som helst kan bruke, har du da ansvar for hva det brukes til? AI-modeller som er åpent tilgjengelige kan brukes til alt fra medisinsk forskning til å lage cyberangrep eller massedestruksjonsvåpen.

Mulige diskusjonsspørsmål:

• Bør utviklere begrense tilgangen til kraftige verktøy, eller er åpenhet alltid best?
• Hvor langt strekker utviklerens ansvar seg etter at koden er publisert?
• Finnes det teknologier som burde holdes lukket, og hvem skal i så fall bestemme det?