Debatt

Ja, algoritmer kan diskriminere

Vet du ikke hva kunstig intelligens er, sånn egentlig? Da har vi et problem.

Det er helt nødvendig å regulere kunstig intelligens, mener Halvor Sogn Haug.
Dette er et debattinnlegg som gir uttrykk for skribentens holdninger og meninger. Du kan sende inn debattinnlegg til debatt@dagsavisen.no.

Når du hører ordet «kunstig intelligens» får du kanskje assosiasjoner til roboter i Hollywood-filmer, eller en superintelligent datamaskin som er i stand til å styre hele verden. Sannheten er at den blir en stadig større del av livene våre.

Nesten alt du gjør på internettet har noe med kunstig intelligens å gjøre.

Reklamene du ser, musikkanbefalingene som dukker opp, eller hvilken rute du skal følge for å komme dit du skal. Fordi mange ikke er klar over dette, overser vi viktige problemstillinger vi må ta hensyn til fremover.

En algoritme er ikke i stand til å tenke selv, men bruker matte for å finne mønstre. Når den ser et mønster gjør den handlingen som passer for det mønsteret. Det vil si at den er ganske simplistisk: den bare «husker» det som har skjedd tidligere, og bruker det som grunnlag for det den gjør.

Styrken til kunstig intelligens er evnen til å ta gigantiske mengder med data, og få ut et regnestykke for å finne den «beste» handlingen for å nå et bestemt mål. Men det som er mer kritisk enn algoritmene selv, er hvem som designer dem, og for hvilke formål.

Alle som har drevet med programmering kan fortelle deg om når det har skjedd feil i koden.

Det kalles for bugs. De blir det bare flere og flere av, etter hvert som kompleksiteten til dataprogrammene øker. De fleste av disse feilene blir funnet under utviklingen av algoritmen, men i den virkelige verden vil den antakeligvis komme i kontakt med data den aldri har sett før, som kan føre til uønskede resultater.

For eksempel så begynte Microsofts «Tay», en algoritme som skulle lære seg å snakke ved å interagere med Twitterbrukere, å spre nazistpropaganda etter at brukere sendte det inn. Et viktigere problem enn at dataen som blir tatt inn er uventet, er at dataen som trener opp algoritmen, har problemer i seg selv.

Da Amazon lagde en algoritme for å lese jobbsøknader, endte den opp med å diskriminere kvinner fordi av jobbsøknadene den ble trent på, hadde flere menn enn kvinner blitt akseptert. Å forhindre denne typen problemer gjennom bevisst valg av treningsdata og grundig testing, vil gjøre algoritmene mye tryggere og mer robuste.

Men det er ikke alle AI-skandaler som er uhell, og de kan ha stor innflytelse på samfunnet som helhet. Cambridge Analytica-skandalen innebar at personinformasjon til 87 millioner brukere ble brukt til å gi dem målrettet reklame for at de skulle stemme på Donald Trump. Og selv om denne skandalen handler mer om personvern, så var det fortsatt kunstig intelligens som konverterte persondata til den beste reklamen å vise.

Her var det mennesker som bevisst designet den for å ha disse målene, i håp om å påvirke valget.

Etter hvert som teknikkene for å trene kunstig intelligens blir bedre, vil disse algoritmene også bli mer effektive, og få enda mer påvirkningskraft. Dette gir også tech-selskapene og sosiale medier stadig mer makt i samfunnet, en makt de ikke har fått demokratisk. Det er derfor ekstremt viktig å regulere kunstig intelligens for å hindre at disse kreftene styrer politikken.

Kunstig intelligens har kommet for å bli, og slik trenden er nå vil det antakeligvis bli en enda større del av livene våre. Samtidig som denne rollen vokser, øker også sjansen for at kunstig intelligens vil bli misbrukt, eller at uhell kan gi fatale konsekvenser.

Akkurat som vi har lover for personvern i dag, bør vi også ha lover som regulerer bruken av kunstig intelligens i samfunnet, spesielt i situasjoner hvor algoritmene vil påvirke oss på en samfunnskritisk måte.