Av Modolf Moen, digitaliserings- og kommunikasjonssjef i Arbeid & Inkludering i NHO Service og Handel.
KI-systemer kan være fullt lovlige og likevel produsere beslutninger ingen kan forklare.
For de som utvikler og tar i bruk KI i dag, er spørsmålet ikke bare om løsningene oppfyller regelverket. Det er hvordan vi bygger ansvarlig KI i praksis.
Norge i 2030
Se for deg at en kommune innfører en KI-modell for å vurdere søknader om kommunal bolig.
Modellen oppfyller kravene i KI-forordningen. Likevel har ingen systematisk vurdert hva som skjer når modellen avslår en søknad på feil grunnlag, hvem som bærer ansvaret, og hvordan den som påvirkes skal få vite hvordan avgjørelsen ble tatt.
For de som jobber med KI i dag, er dilemmaer som dette en del av hver eneste arbeidsdag.
Regulering er nødvendig, men ikke nok
Hva skjer når vi prøver å gjøre det riktig?
Om Klara.ai 💡
En KI-plattform som matcher arbeidsgivere og personer som står utenfor arbeidslivet. Den utviklet av Arbeid & Inkludering i NHO med støtte fra NHOs Arbeidsmiljøfond.1 KlaraAI.app
I arbeidet med Klara.ai (KlaraAI.app) har vi måttet ta stilling til flere etiske og juridiske spørsmål.
Her er tre eksempler:
1. Score-utforming
Klara bruker en score for å vurdere hvor godt en kandidat matcher en arbeidsgiver.
En lav score kan tolkes som et avslag.
Vi har derfor valgt en fullt nedbrytbar modell med tydelige vekter, der enhver bruker kan se hva som trekker opp eller ned.
Dette er ikke bare et designvalg. Det er en normativ beslutning om hva en «god vurdering» skal være.
Saken fortsetter under bildet.
2. Forklarbarhet
Hva er forklarbarhet? 💡
Forklarbarhet viser til hvordan KI-modeller fungerer og kommer frem til resultater.
Hvordan forklares en anbefaling til en arbeidsgiver, og til en kandidat som ikke får jobben?
Enhver slik avveining innebærer et verdivalg, og det er nettopp disse valgene som mangler felles rammer i dag.
Disse forklaringene bygger vi rett inn i brukersnittet, Klara.ai skal være en motvekt til de såkalte «svarte boksene» (at vi ikke vet hvordan beslutninger tas).
3. Rollefordeling mellom menneske og maskin
Når går et system fra å være beslutningsstøtte til å bli en beslutningsmekanisme?
I Klara er dette et løpende spørsmål som handler om organisering, kultur og opplæring, ikke teknologi.
Praksis må deles systematisk
I Klara har vi etablert en tverrfaglig referansegruppe med representanter fra arbeidsgiver- og arbeidstakersiden, juss, data science og vårt eget praksisfelt.
Målet er å gjøre vurderingene eksplisitte, diskuterbare og dokumenterbare. Erfaringen er at selve prosessen gir merverdi utover vårt eget domene.
Vi trenger strukturer som gjør vurderinger delbare og etterprøvbare på tvers av virksomheter.
For de som utvikler KI, handler dette også om tillit og konkurransefortrinn, på samme måte som bærekraft og personvern har gått fra interne hensyn til markedsmessige differensieringspunkter.
Etikk og ansvarlighet bør bli operative begreper
Norge har formulert ambisjonen om ansvarlig KI.
Neste steg er å gjøre den operasjonell. Det krever at noen tar ansvar for å samle praksis på tvers av sektorer.
Erfaringene fra enkeltprosjekter må løftes ut av virksomhetene de oppstår i, og gjøres til felles kunnskapsgrunnlag.
KI Norge, som er under oppbygning i Digitaliseringsdirektoratet, har potensial til å bli en slik arena.2 Digitaliseringsdirektoratet
Våre erfaringer fra Klara-prosjektet, både med de faglige avveiningene og med å bygge strukturer for å håndtere dem, er et bidrag til dette arbeidet.
Vi deler dem gjerne med nasjonale myndigheter som jobber med veiledning, sandkasser og kompetansetiltak for ansvarlig KI. Erfaringene finnes. Spørsmålet er om vi klarer å gjøre dem til felles praksis.
