Vi mennesker er konstruert for å reagere på det som er nytt med nysgjerrighet og frykt. Av disse er frykten viktigst for overlevelse og tar derfor lett overhånd. I steinalderen fungerte dette fint, men det er neppe like ideelt når det kommer til utfordringer i et moderne samfunn.
I tillegg til KI har det vært to store nyvinninger de siste 80 årene: Atomkraft og genteknologi. Begge har skapt mye engstelse, men har den vist seg å være berettiget?
:quality(70)/cloudfront-eu-central-1.images.arcpublishing.com/mentormedier/DDWJSTHHCVFEXIAO4UOEWN67OM.jpg)
Etter at atombombene falt over Hiroshima og Nagasaki, ble det for mange en fanesak å stoppe all bruk av kjernereaksjoner. Av de 70–80 millionene som døde i 2. verdenskrig, skyldtes rundt 230.000 disse bombene. Riktignok har Putin gitt ny grobunn for frykt ved å rasle med knappen, men så langt har ingen benyttet slike våpen i krig. Derimot dør det i snitt over hundre tusen hvert år i krig med konvensjonelle våpen.
Vi har hatt stor nytte av kjernekraft til å skape energi. Kanskje klarer vi å temme kreftene i fusjon-formen for kjernekraft, noe som kan løse framtidens energiproblemer. Atombomber har dessuten begrenset behovet for å bruke ressurser på tradisjonell opprustning, og bidratt til motivasjon for å unngå krig. I min vurdering har kjernekraft så langt gitt oss langt flere fordeler enn ulemper.
Så kom genteknologi. Folk så for seg alle slags monstre som krøp ut av laboratoriene og angrep mennesker. All tukling med gener burde være forbudt! Noen gikk så langt som til å si at de ikke ville ha mat med gener. Regjeringen var raskt ute og vedtok Genteknologiloven i 1993.
Den gangen ledet jeg et forskningslaboratorium knyttet til genteknologi ved Folkehelseinstituttet. Jeg fikk ansvaret for å vurdere søknadene til alle som ønsket å genmodifisere et eller annet. Avdelingen fikk tre nye stillinger, noe jeg satte pris på, men min bekymring var at byråkratiet vi ble pålagt å gjennomføre, skulle tappe ressurser og hindre utviklingen av mulighetene.
Folk har sett Matrix-filmene, og ser for seg at maskinene er i ferd med å overta og utrydde mennesket.
Nå, 30 år senere, har jeg ennå ikke sett noe monster. Derimot har teknologien gitt betydelige fordeler, vaksinene som reddet oss fra koronapandemien er bare ett eksempel.
Mennesker har tuklet med gener i minst 10.000 år – og skapt monstre blant annet ved å selektivt avle fram aggressivitet hos hunder. De aktuelle rasene har drept ganske mange, genteknologien har bare reddet liv.
KI innebærer at datateknologien har tatt et langt skritt fram. Det dreier seg om maskinlæring. Algoritmer blir foret med alle internetts kunnskaper og bruker disse til å besvare spørsmål om alt fra atomtrusler til anbefalt kosthold.
Det har skapt bekymring for hva datamaskinene kan finne på. Folk har sett Matrix-filmene, og ser for seg at maskinene er i ferd med å overta og utrydde mennesket. Har dagens frykt noe for seg?
[ Lurte publikum med 1. mai-tale skrevet av ChatGPT: – Folk dør av denne utviklingen ]
Jeg ser først og fremst muligheter. KI gjør det lettere å skaffe innsikt. Den gir flytende tekst og genererer bilder som passer med alt fra virkeligheten til våre fjerneste fantasier. KI hjalp meg med denne kronikken.
Svarene du får, er ikke feilfrie, men Trump og Putin serverer langt mer misvisende informasjon uten noen form for (kunstig) intelligens. Det er alltid mulig å dra ut stikkontakten fra datamaskinen, mye vanskeligere å bli kvitt tvilsomme influensere. Om noen år er KI en del av hverdagen, i likhet med atomkraft og genteknologi, og trolig en viktig bidragsyter til medisinsk diagnostikk og bekjempelse av klimaforandringer.
Teknologi er et tveegget sverd. Både kjernereaksjoner, genmanipulering og datateknologi har sine fallgruver, men vår iboende frykt gjør at vi lett kommer skjevt ut med den vurderingen vi gjør. Også jeg er bekymret, men jeg tror skoen trykker andre steder.
Den opplagte trusselen for samfunnet er om teknologien plutselig blir borte. Putins krigføring i Ukraina er i stor grad rettet mot nettopp det. Man kan argumentere for at uten avansert teknologi, hadde ikke denne risikoen eksistert. Men vil vi virkelig dit? Dessuten er det en annen, mindre opplagt, side som bekymrer meg mer.
Mennesker er i stor grad styrt av følelser. Hvis vi øyner en mulighet til å høste fra hjernens utvalg av belønninger, så går vi for det.
Forelskelse og kjærlighet er vidunderlig – og i liten grad misbrukt. Dessverre er det sider ved hjernens belønningsapparat som, i kombinasjon med vår oppfinnsomhet, lett leder oss på ville veier.
Industrien retter seg mot å lage produkter som skaper nytelser fordi de selger. Sjokolade, for eksempel, utnytter at en blanding av fett og søtt skaper ekstra sterk belønning. Dataspill gir spenning og mestring. TV serverer underholdning som gjør sofaen til tilværelsens høydepunkt, og sosiale medier gir oss «likes».
Problemet bunner i at alt som gir dråper av velvære, er vanedannende. Produktene bidrar selvsagt til livslykke, men for mange har vanene også negative konsekvenser.
[ «Når menneskelig skjønn og beslutninger erstattes av algoritmer, reiser det spørsmål om tillit» ]
Vi ser det lettest ved bruk av narkotika. Stoffer som heroin og kokain tar snarveien ved å stimulere belønningssentre i hjernen direkte. De fleste har fått med seg at det her fins en mørk side. Ettersom industrien er rettet mot å skape produkter som aktiverer belønning, har vi nå et enormt utvalg av «narkotika».
Belønningsproduktene sniker seg inn på oss og kaprer oppmerksomheten. Dataspill kan gå utover samvær med andre, stillesitting gir dårlig helse og man får aldri nok «likes». Det er ikke gitt at summen av glede over et livsløp kommer ut på plussiden som følge av belønningsproduktene.
Jeg er bekymret. Vi ser en tydelig økning i kroniske sykdommer og mentale lidelser, og årsaken ligger neppe i atomkraft, genteknologi eller KI. Tendensen til å søke «dråper» av glede framfor hva som gagner oss på sikt, er vår akilleshæl.
Vi blir ikke zombier som følge av genteknologi eller kunstig intelligens, men fordi vi så lett lar vår atferd styre av hjernens belønninger.
[ Sondre Nikolai Harr: Man kan fort bli historieløs når nye hjelpemidler skaper nye utfordringer ]