Er vi bevisste nok på hva vi skaper?

Ingeniører må anerkjenne og diskutere etisk ansvar for kunstig intelligens, og samfunnet må regulere og sette styringsrammer. Før det er for sent.

Hva skjer når leire blandes med kunstgjødsel og intelligent knetgummi og varmes opp i vifta på wifi-routeren? Har teknologer som jobber med kunstig intelligens noe å lære av en eventyrroman om en leirklump som går bananas?

I sin siste bok «Vi er fem» tar forfatter Matias Faldbakken opp tematikken kunstig intelligens på en finurlig måte.

I verkstedet hjemme skaper Tormod en leirklump, som etter hvert utvikler seg til en egenrådig skapning. Klumpen er lenge hjelpsom og trivelig, men etter en natt ved routeren som sender signaler til sønnen i husets PC-spill forandrer klumpen seg til et ustyrlig monster som terroriserer hele bygda.

Noe i wifi-signalene har hatt dårlig innflytelse på klumpen.

Romanen, som henter elementer fra eventyrtradisjonen, horror og science fiction, fikk meg etter hvert til å tenke over hvilke monstre vi kan skape gjennom tilsynelatende uskyldig nysgjerrighet og utprøving.

Tormod i romanen har aldri til hensikt verken å skape liv eller ondskap. Men det ene tar det andre.

Han putter ulike elementer inn i leirklumpen og sakte men sikkert kommer det fram et kunstig liv. Underveis reflekterer han ikke over hva han skaper, han er optimistisk fascinert av hva som utvikler seg.

Har ingeniørene som skaper gjenstander basert på avansert kunstig intelligens til hensikt å skade? De aller fleste ikke. Men noe som i utgangspunktet er ment til å brukes til noe nyttig, kan lett misbrukes.

NITO har satt etikk og kunstig intelligens på dagsorden i samarbeid med ANE, paraplyorganisasjonen for ingeniører i Norden.

Ingeniører har et stort samfunnsansvar gjennom teknologien de forvalter og utvikler. I en verden i rask forandring, skjer det mye spennende innovasjon som vil gi positive effekter for samfunnet.

Samtidig kan en del ny teknologi potensielt forårsake skade. I ingeniøryrket er det en økende forståelse for at etiske hensyn må anerkjennes i en stadig mer global verden.

Men ansvaret kan ikke ligge på teknologien alene, og derfor er vi avhengig av å ha regulering og styringsrammer.

Ett eksempel er selvkjørende biler. Ingeniører og teknologer utviklinger bilen og dens «hjerne». Stanser ansvaret deres når bilen rulles ut fra fabrikken?

En ingeniørbedrift utvikler en robot som er i stand til å ta livet av et menneske. Hvilken rolle spiller ingeniøren knyttet til denne problemstillingen?

Nylig leste jeg om droner som er drapsroboter med kunstig intelligens og ladede våpen, klare for å drepe. Om få år kan disse være en realitet.

Det tas til orde for at det er behov for raskt internasjonalt forbud mot slike våpen. Men har ikke også utviklerne et ansvar?

NITOs erfaring er at det ofte er uklart hvem sin oppgave det er å stille spørsmål ved om grunnleggende etiske hensyn er vurdert.

Den enkelte arbeidstaker har et ansvar for etikk, men vi savner verktøy for å arbeide med det. Det finnes mange aktører som har utviklet etiske retningslinjer innen kunstig intelligens.

Slike rapporter gir mange gode råd, men hvordan skal de settes ut i praksis?

Blant egne medlemmer ute i virksomhetene hører vi at etikk rett og slett ikke står på dagsorden, selv om det dreier seg om anskaffelser der kunstig intelligens er sentralt.

Jeg er opptatt av at vi får verktøy som tilrettelegger for etisk debatt, spørsmål og beslutningstaking gjennom hele designprosessen.

De nordiske ingeniørorganisasjonene ønsker å løfte forståelse for kunstig intelligens og etiske utfordringer på den politiske dagsorden.

Dette kan oppnås gjennom etablering av en diskusjonsarena som involverer beslutningstakere, næringsliv, akademia, ingeniører og andre fagfolk.

I tillegg er det et behov for å etablere interne sjekklister som tar for seg etiske problemstillinger i AI-utviklingen. Det skal blant annet sikre etisk refleksjon og debatt.

Hvordan historien med den intelligente leirklumpen ender, skal jeg ikke røpe. Men jeg kan avsløre at boka skildrer et relevant scenario, pakket inn i et morsomt litterært grep med jord som blir til liv.

Moralen er; ingeniører må anerkjenne og diskutere etisk ansvar for kunstig intelligens, og samfunnet må regulere og sette styringsrammer. Før det er for sent.