Som vi har vært inne på flere steder i dette emnet, så har inntoget av KI endret - og kommer til å endre - mange av premissene for læring og undervisning. Dette inkluderer også nye eller utvidede etiske problemstillinger og perspektiver vi må forholde oss til som lærere.

I denne sammenhengen kan det passe å minne om at kunstig intelligens kan være så mangt, og dermed også by på ulike muligheter og utfordringer. Siden publiseringen av OpenAIs ChatGPT i november 2022, har det vært mest fokus på såkalt generativ KI, altså KI som genererer tekst og bilde (eller video og koder), men KI har vært og er en del av mange andre digitale verktøy som brukes i skolen også. Tenk for eksempel på verktøy og tjenester som samler inn elevdata, analyserer disse og gir tilpassede oppgaver og/ eller tilbakemeldinger. Adaptive læremidler eller andre verktøy knyttet til læringsanalyse, som for eksempel “Insights” eller “Leseframdrift” i Teams, kan gi innsikt i læringsprosesser for både elever og lærere. Samtidig kan denne type verktøy utfordre, både juridisk og etisk, i forhold til for eksempel personvern.

I debatter, offentlige publikasjoner og forskningsartikler, trekkes det fram at KI kan påvirke skole og utdanning på både positive og negative måter. Å bruke KI gir mange muligheter til å forbedre læring og undervisning, for eksempel ved å tilpasse læringsinnhold, vurdere læringsprogresjon, støtte lærerens arbeid og fremme digitale kompetanser. Men KI har også mange etiske utfordringer som må tas på alvor, spesielt når det gjelder barn og unge som er i en sårbar og formbar fase av livet. Dette påvirker, endrer og utfordrer læreres profesjonsfaglige digitale kompetanse.

I denne delen av modulen ønsker vi å trekke fram noen etiske hovedutfordringer som er spesielt aktuelle for skole og utdanning. Listen er selvsagt ikke fullstendig, men kan være et utgangspunkt for videre utforsking og refleksjon. Tenk gjerne over, mens du leser og lytter, på hva du kjenner igjen og hva som er nytt for deg.

Noen etiske utfordringer med KI i skolen:

1. Personvern og datasikkerhet: KI krever innsamling, lagring og analyse av store mengder personopplysninger om elever og lærere, noe som kan utgjøre en risiko for deres personvern og datasikkerhet. KI kan også brukes til å overvåke eller påvirke elevers atferd, holdninger og verdier, noe som kan undergrave deres autonomi og integritet. For å håndtere denne utfordringen, trenger vi å sikre at KI følger strenge regler og standarder for personvern og datasikkerhet, og at elever og lærere har rett til å vite, samtykke og kontrollere hvordan deres data blir brukt og delt.

2. Rettferdighet og inkludering: KI-baserte beslutninger kan inneholde feil, skjevheter (såkalt bias), diskriminering eller manipulasjon, som igjen kan påvirke elevers læringsmuligheter og vurderinger. KI kan forsterke eksisterende sosiale og pedagogiske ulikheter, eller skape nye former for ekskludering eller marginalisering basert på algoritmer og egenskaper ved dataene som brukes. Fordi det kreves enorme økonomiske ressurser og tilgang til data, er det også noen få globale aktører som har mulighet til å bygge opp KI-arkitekturer og treningsmetoder. Spesielt når vi snakker om generativ KI. Dette gjør at lærere, elever og andre i skolen må ha kritiske perspektiver på hvilke kulturelle og sosiale verdier og normer som ligger innbakt i tjenestene. For eksempel er GPT-modellene først og fremst trent på online-data som reflekter verdiger og normer fra det globale nord (altså USA og vesten). Et helt sentralt spørsmål blir dermed hvordan vi kan sikre at KI er rettferdig, nøytral og inkluderende, og at den respekterer mangfoldet og individualiteten til alle, også marginaliserte grupper.

3. Ansvarlighet og åpenhet: Nøyaktig hvordan KI genererer innhold er ikke alltid lett, eller i det hele tatt mulig, å forklare. Ofte snakkes det om “black boxes”, eller “svarte bokser”, som er et bilde på at det ikke er mulig å forklare eller dokumentere hvordan det som genereres av f.eks tekst, har blitt til. (Hvorfor ble det akkurat den teksten og ikke noe annet?). KI er heller ikke verdinøytral! Den reflekterer verdiene, intensjonene og interessene til de som utvikler, implementerer og bruker den, og den arver og forsterker de fordommene og verdiene (“bias”) som ligger i de dataene den har blitt trent opp på. KI kan altså ha utilsiktede konsekvenser, som kan være vanskelige å forutsi, forebygge eller rette opp. I tillegg kan det være at data som KI-en har blitt trent på, har opphavsrett og har blitt brukt uten tillatelse av den som eier innholdet (for eksempel tekst, litteratur, bilder). Det blir derfor viktig å sikre at KI er transparent, sporbar og etterprøvbar, og at det finnes mekanismer som kan holde KI-aktører ansvarlige for sine handlinger.

4. Tillit og menneskelig aktørskap: KI kan påvirke elevers og læreres tillit til hverandre, deres relasjoner og samhandling, både positivt og negativt. KI kan være en kilde til hjelp, støtte og samarbeid, men også en (negativ) erstatning av mellommenneskelig kommunikasjon. Bruk av KI kan støtte læringsprosesser, men kan også gjøre at elever og lærere slutter å “tenke sjæl” og overlater “tenkingen” til maskiner som ikke har reell forståelse for eller kunnskap om verden vi lever i. Viktige spørsmål i denne sammenheng blir hvordan man kan sikre en menneske-sentrert tilnærming (“human-centred approach”) til det å bruke KI. I tillegg kan mennesker bruke KI til å skape innhold som ikke er sant og som er ment å skape splid eller konflikt. Dette innholdet kan være vanskelig, for ikke å si umulig, å skille fra ekte innhold, noe som kan utgjøre alvorlige trusler både for enkeltmennesker og hele samfunn. For å håndtere denne utfordringen, trenger vi å sikre at KI og KI-generert innhold er pålitelig, men også at vi har tilstrekkelig forståelse for og relevant kompetanse i å kritisk vurdere innhold. KI må fremme elevers og læreres autonomi og selvstendighet.

5. Bærekraft og innovasjon: KI kan bidra til å løse globale utfordringer som klimaendringer, fattigdom og helse, men kan også skape nye miljømessige, sosiale og økonomiske problemer. For eksempel krever KI mye energi og ressurser når det skal utvikles og trenes. KI kan dermed øke ressursforbruket, energibehovet og avfallsproduksjonen, noe som kan bidra negativt til klimaendringer. KI kan også redusere arbeidsmuligheter og sosial rettferdighet. Det kan være involvert i krigføring, terrorisme eller cyberangrep, eller skape nye former for vold, konflikt eller ustabilitet. Det å sikre at KI er bærekraftig og at det tjener det felles beste for menneskeheten og planeten, er en stor og viktig utfordring.

KI og etikk i skolen?

Førsteamanuensis ved HiØ og ekspert, Leonora Onarheim Bergsjø, snakker i denne episoden av Skolelys om KI og etikk i skolen. Hun foreslår også en måte å jobbe med å øke elevers bevissthet om KI, på en helt analog måte. Lytt til episoden.

Stine Brynildsen Cecilie Olandersson · S2 -E5: KI (eller AI)og etikk - i skolen?

En transkribert versjon av podkasten finner du her.

Lesetips:

Hvis du vil lese mer om KI og etikk, så kan disse to dokumentene fra OECD og UNESCO være et fint utgangspunkt:
- Guidance for generative AI in education and research | UNESCO
- 9principal.indd (oecd.org)
Podkasten Pedagogisk intelligens har også snakket med Leonora om KI og etikk i skolen:
- Pedagogisk intelligens – Episode 31 - Kunstig intelligens og etikk (youtube.com)

Litteratur:

Brynildsen, S. & Olandersson, C. (2023). KI og etikk i skolen? Skolelys – en pod for oss med hjertet i skolen. https://skolelysblog.wordpress.com/2023/06/02/s2-e5-ki-og-etikk-i-skolen/

Nguyen, A., Ngo, H.N., Hong, Y. et al. (2023). Ethical principles for artificial intelligence in education. Educ Inf Technol 28, s. 4221–4241. https://doi.org/10.1007/s10639-022-11316-w

Reiss, M. (2021). The use of AI in education: Practicalities and ethical considerations. London Review of Education. https://uclpress.scienceopen.com/hosted-document?doi=10.14324/LRE.19.1.05

UNESCO. (2023). Guidance for generative AI in education and research. https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research

I tillegg til litteraturen over, har Microsofts Copilot blitt brukt for å foreslå etiske hovedutfordringer og relevant innhold i utformingen av denne teksten.