Det siste halvåret har det vært mange innlegg om kunstig intelligens (KI) i mediene. Gjennomgangstonen synes å være at KI må reguleres. Akkurat hvordan hører vi mindre om. Mange ulike reguleringsmåter er påkrevde, avhengig av hvilke interesser som står på spill og hvilke formål som reguleringen skal tjene.
Her konsentrerer jeg meg om én reguleringsmåte, nemlig om hva som må til for å opprettholde tradisjonelle rettsstatskrav: Kravet til rett juss og verdien av å bevare rettssikkerhet, hvis avgjørelser om trygd, oppholdstillatelse, skjenkebevilling, tillatelse til å anlegge vindpark og andre enkeltvedtak skal treffes automatisert.
Det spiller mindre rolle for disse rettsformålene om automatiseringen skjer ved hjelp av KI eller er elektronisk styrt på annet vis. Poenget er at selve automatiseringen skaper utfordringer med tanke på å få bevart krav til rett juss og til rettssikkerhet når folks stilling, rettigheter og forpliktelser skal bestemmes. Det skyldes to særtrekk ved automatisering.
«Usaklig likebehandling»
For det første kan det ikke lenger bestemmes i den enkelte forvaltningssak hvordan loven skal forstås og anvendes. Lovforståelsen og lovbruken må forutbestemmes når automatiseringssystemet skal lages. Det blir ingen enkelt sak, for det er ikke bare å lese lovteksten og så «oversette» teksten til elektronisk språk. Lover må forstås rettslig, hvor ikke bare ren språklig tekstforståelse bestemmer utfallet. Også lovforarbeider, lovformål, domspraksis og mer til må tas i betraktning for å kunne forstå hva en lovregel går ut på.
Å måtte forutbestemme utfall skaper enda to utfordringer. Både at rettsforståelsen kan bli for stiv og for statisk etter hvert som nye dommer kommer til, og for eksempel at sivilombudet kan ha uttalt seg, tidene endret seg, og vurderingsmåtene med dem. Rettskildebildet endrer seg til enhver tid. Fakta i den enkelte sak kan delvis ikke lenger bestemmes ut fra konkret bevisføring. Når automatiseringssystemet blir til, må alternative digitale saksforhold utpensles på forhånd.
Uansett hvor mye systemutviklerne legger seg i selen for å tenke ut alternative situasjoner, kan digital vurdering av faktiske situasjoner fort bli for grov og ufullstendig. Utfordringen blir derfor å kompensere manglende konkret, individuell bevisføring med nye typer tryggingsmekanismer for å forhindre at folk skal bli slått i hartkorn i tilfeller hvor det ikke er grunn til det. Dette kan egentlig beskrives som et nytt fenomen: «usaklig likebehandling».
Trenger regler for systeminnsyn
Det andre særtrekket har med selve omdanningen fra lov til elektronisk språk å gjøre. Det er ikke nok å få lov «oversatt» til et språk som datamaskiner forstår. Ei heller å få matematisk korrekte avtrykk av loven. Skal vi unngå at lover blir misforstått eller anvendt for smalt, må det stilles rettslige krav til måten omdanningsprosessen blir utformet og brukt på. Det betyr blant annet å imøtekomme etablerte rettssikkerhetsgarantier som kontradiksjon og rettslig kontroll på nye og originale måter.
Det er lite vits i å få varsel og rett til å uttale seg når utfallet er bestemt på forhånd. Det hjelper heller ikke å klage når det kun utløser en ny automatiseringsprosess med samme resultat. Igjen må søkelyset flyttes fra den enkelte sak – fra rettssikkerhetsreglene for det enkelte vedtaket – til hvordan systemet må se ut for å kompensere for de rettssikkerhetsgarantiene som går tapt under automatiseringen.
Utfordringen går til våre politikere, til administrative ledere, til informatikere og til jurister.
Nye typer rettsregler må til. Blant annet trengs regler om plikt til å dokumentere at rettsregler blir korrekt og betryggende «oversatt» i automatiseringen. Vi trenger forbud mot det som kalles «Black Box»-automatisering, som er når man som bruker ikke har innsikt i den bakenforliggende strukturen i automatiseringen. Vi trenger også regler om innsyn i algoritmebruken. Fremfor alt trenger vi rett til å klage på hvordan automatiseringssystemet ble utformet. Det vil si regler som gir anledning til å få kontrollert om parten havnet i rett «digitale boks». Uten slike nyvinninger blir parter i forvaltningssaker parkert på sidelinjen, ute av stand til å vareta sine interesser, og med det fremmedgjort.
Kan kombineres
En god løsning vil ofte være å kombinere automatisert og manuell lovbruk. For eksempel å automatisere deler av saksforberedelsen, men ikke saksutfallet. En annen løsning er å bruke en automatisert normalløsning, kombinert med elektroniske varsellamper for ukurante eller ekstra vanskelige saker. Det gjør det mulig å sjekke manuelt hvor langt sakens egenartede karakter tilsier at den må behandles manuelt.
Automatiseringsprosessen må utformes på en måte som sikrer rett juss og som ivaretar grunnleggende forvaltningsrettslige verdier. Korrekt lovforståelse og lovbruk må gjøres til innebygde krav til automatiseringssystemet og til forsvarlig forvaltning. Utfordringen går til våre politikere, til administrative ledere, til informatikere og til jurister. Automatisering i offentlig sektor er kommet for å bli. Få regulert feltet i så forpliktende rettslige vendinger at tradisjonelle rettsstatsverdier kan bevares, om enn på andre måter enn da saksbehandling og beslutninger i offentlig forvaltning skjedde manuelt.
