Verden

Advarer mot nytt våpenkappløp

Kunstig intelligens og selvstyrte våpen kan bli en like stor trussel som atomvåpen har vært de siste 70 årene, advarer tusenvis av eksperter. Og det kan skje raskere enn vi tror.

Bilde 1 av 4

– Det er veldig store paralleler mellom 1945 og nå, og det er viktig å tenke på hva vi kan lære av historien, sier Toby Walsh, professor og forsker på kunstig intelligens (AI) ved Australias New South Wales-universitet og direktør for stiftelsen AI Access Foundation.

Sommeren 1945 signerte en rekke ledende kjernefysikere den såkalte Franck-rapporten – et brev som ba amerikanske myndigheter om ikke å bruke atomvåpen mot Japan. Nå er Walsh blant 2.587 ledende AI-eksperter og robotikkforskere som har signert et brev mot såkalte autonome våpen basert på kunstig intelligens.

Til forskjell fra dagens fjernstyrte militærdroner er dette dødelige roboter som kan oppsøke og angripe mål på eget initiativ, uten at menneskelige beslutninger er involvert.

LES OGSÅ: Verdens atomvåpen 70 år etter

– År, ikke tiår unna

Dette, og fremskrittene som gjøres innen kunstig intelligens i dag, er en svært farlig kombinasjon, ifølge brevet.

– Kunstig intelligens har nådd et punkt i dag hvor slike våpensystemer er år, og ikke tiår unna, heter det i teksten, som ble publisert 28. juli.

Blant dem som har skrevet under på oppropet finner man navn som fysiker Stephen Hawking, filosof og lingvist Noam Chomsky, Tesla-gründer Elon Musk og Apple-grunnlegger Steve Wozniak.

Følg Dagsavisen på Twitter og Facebook!

Stoppe opp og tenke

Verden har brukt den siste uka på å huske atombombene som ble sluppet over Hiroshima og Nagasaki i 1945. I løpet av de 70 årene som er gått siden da, har atomvåpen trolig bidratt mest til utforming av staters utenriks- og sikkerhetspolitikk.

– Vi har lidd i flere tiår under konsekvensene av atomvåpenkappløpet. Nå er det verdt å stoppe opp og tenke på hvordan autonome våpen kan endre grunnlaget for krigføring på samme måte som atomvåpen har, sier Walsh.

LES OGSÅ: Vil gjøre atomvåpen til historie

Billigere og tilgjengelig

Ifølge Walsh er ikke dette science fiction-fantasier à la The Terminator – hvor verden tas over av roboter.

– Vi er bekymret for mindre sofistikerte ting enn det du ser i slike filmer. Slikt er minst 50 år unna. Vi er bekymret for ting som quadrokoptere og droner som er fem år unna, sier han.

Et quadrokopter er en ubemannet drone med fire propeller. Utstyrt med kunstig intelligens og våpen vil de ikke nødvendigvis gjøre de samme vurderinger i kamp som et menneske. Ett av problemene er at de vil være billige å lage.

– Atombomber kunne bare utvikles av ressurssterke stater, mens dette er mye billigere, og kan dermed lettere havne i feil hender, sier Walsh.

– Om en terrorgruppe har noen hundre slike droner i et bylandskap er det en ekstremt dødelig situasjon.

LES OGSÅ: 70 år siden Hiroshima

Våpenkappløp

I tillegg til spredningsrisiko og potensialet for bruk av terrororganisasjoner kan teknologien også sette i gang et våpenkappløp mellom stater, frykter forskerne bak oppropet. Det er kjent at flere land i dag utvikler autonome våpen, selv om det er mye hemmelighold rundt dette.

– Vi vet ikke hva som foregår i land som Kina. Men hvis jeg var Kina, og visste at USA utviklet slike våpen – hvilket de gjør – så ville jeg også gjort det. Selvsagt, sier Walsh.

Løsningen må dermed være et totalforbud som gjelder alle, mener han og de andre forskerne.

Temaet har blitt diskutert de siste to årene i FNs Konvensjon for konvensjonelle våpen i Genève. Men historisk er internasjonale totalforbud av uutviklede våpen en sjeldenhet: Bruk av eksploderende kuler i krig ble forbudt i 1868, og såkalt blindende laser ble forbudt i 1998.

LES OGSÅ: – Ødelegger generasjoner

– Kortsiktig

Mennesker i kamp har åpenbare svakheter, sammenlignet med roboter.

– Soldater blir slitne, de trenger søvn. De blir traumatiserte og de gjør feil. Så attraksjonen i slike våpensystemer er forståelig, sier Walsh, men mener dette er korttenkte hensyn.

LES OGSÅ: – Skammelig å havne på feil side

– På lang sikt handler det om våpenkappløp, spredning, og muligheten for bruk av terrorgrupper. Og disse våpnene vil ikke bli brukt på slagmarker. De vil bli brukt i byer mot sivile, av folk som ikke er bundet av konvensjoner.

Mer fra Dagsavisen