- Vil vi at russerne har drapsroboter over norskegrensa?

Landets viktigste forskere på kunstig intelligens, sikkerhet og våpen vil at Norge skal gå i bresjen for et forbud mot drapsroboter.

Utviklingen av våpen og kunstig intelligens går i rasende fart. USA, Russland, Sør-Korea, Israel, Storbritannia og Kina bruker enorme ressurser for å utvikle autonome robotvåpen, altså roboter som kan tenke, finne og drepe helt på egen hånd.

Nå krever norske rektorer, teknologer, vitenskapsfolk som står midt i utviklingen av teknologier som kunstig intelligens og robotvåpen et forbud mot drapsroboter.

- Vil kontrollere verden

Ikke uten grunn. Dagens våpenkappløp handler ikke om atomvåpen, men om kunstig intelligens, kunstig liv og robotikk.

Russlands president Vladimir Putin vet alt om det, og holdt følgende tale før skoleår-start i 2017:

- Den som kontrollerer kunstig intelligens, vil dominere verden, var Putins melding til elever og lærere.

Insektsroboter med nervegass

Morten Irgens jobber både ved OsloMet og Kristiania, og har drevet med kunstig intelligens i rundt 30 år. Han er også initiativtager til oppropet Lytt til oss, som ønsker et forbud av våpen som kan drepe på egen hånd, uten menneskelig innblanding.

- Teknologien har alltid hatt to sider. Det er som med en kniv: Du kan skjære brød med den og ta livet av et menneske, sier han og fortsetter:

- Over hele verden jobbes det med å utvikle dødelige våpen, fra mennesketomme autonome krigsskip og flyvende droner som tar selvstendige beslutninger om å bruke dødelig makt, til svermer av insektsroboter som etterlater nervegifter på huden vår, sier Irgens.

Norge-Russland-grensa

Forskeren trekker oss opp til den nær 200 kilometer lange grensa mellom Norge og Russland i nord.

- Vi må ha en demokratisk debatt rundt hva som kan skje i framtida. Kanskje får vi snart droner langs Norge-Russland-grensa. Om droner flyr og passer på hverandre er en ting, sier han, men tenker videre:

- Men vil vi at russerne skal ha drapsroboter flyvende ved grensa? Her må vi snakke sammen. Den norske regjeringen må ta et internasjonalt ansvar om å få i gang denne debatten. Den har stått i stampe i mange år.

- Norge først

Foreløpig er de 752 professorer, sikkerhetseksperter, akademikere og eksperter på kunstig intelligens som har nå signert oppropet mot dødelige autonome våpen.

- Det er en rekke land i verden som går i bresjen for et forbud. Som Østerrike, Sverige og EU-parlamentet. Nå vil vi ha med oss norske politikere, sier Irgens.

Og kommer med flere argument for hvorfor:

- Moderne teknologi gjør at terskelen for å gå til krig kan bli lavere. En av grunnene til at USA trakk seg ut av Vietnam, var at det kom stadig flere døde soldater hjem i kister. Å sende droner til den andre siden av kloden gjør at en fjerner seg fra konflikten, sier dekanen.

Tenkende drapsmaskiner

Forkjemperne for autonome våpen mener de kan føre til færre tap av egne soldater, og at en kan unngå massakre og krigsforbrytelser begått i affekt da maskiner ikke mister besinnelsen.

Det er ikke sånn at Irgens og andre eksperter vil forby alt av autonome våpensystem.

- Vi er ikke motstandere av autonome våpen. Vi er motstandere av dødelige autonome våpen. Det er mange system i forsvaret som kan gjøre bra og viktige ting, uten å ha dødelighet i seg. Men en kan ikke overlate ansvaret om å ta et liv til en maskin, sier Irgens.

Han fortsetter:

Fakta om robotvåpen

• Robotvåpen kalles LAWS (lethal autonomous weapons system), og er våpen som kan velge, oppdage og nå mål med lite eller ingen menneskelig innblanding.
• Er en rekke type våpen og våpensystem, som helt på egen hånd (autonome) eller med litt menneskelig innblanding (semi-autonome) kan utføre dødelige oppdrag.
• Kritikere frykter at «drapsroboter» ikke vil bry seg om internasjonal humanitær rett (IHL).
• Siden 2014 har en jobbet med å regulere utviklingen av dødelige autonome våpensystem under FNs våpenkonvensjon.
• 72 prosent av nordmenn ønsker et forbud, viser en ny undersøkelse. Utviklingen av kunstig intelligens (AI) og robotvåpen går enormt fort.

- Martens-klausulen er over 100 år gammel og sier at vi skal respektere humanitære lover og folkeretten i krig og konflikt. Det er årsaken til at dødelig gass, klasebomber og landminer er forbudt: De dreper uten å skille sivile fra krigende, akkurat som våpen som sjøl kan bestemme hvem de vil drepe. Denne utviklingen må bremses.

Lett å lage

Frykten er at teknologien kan gå så fort, og at autonome drapsroboter så havner i hendene på terrorister.

- Dette dreier seg ikke om teknologier som er svært kostbare og kompliserte. Teknologiene er stadig enklere å få tak i og sette sammen. Du kan kjøpe en drone i butikken og 3d-printe en pistol og så vipps..., sier Irgens.

Han ser for seg følgende bilde: «Det er som å gå ned en glatt, snødekt bakke. Den blir glattere og glattere og til slutt skeiner du nedover uten kontroll».

- Selv om det er vanskelig å finne ut hvor vi skal sette grensen, hvor vi setter en strek vi ikke skal passere, så betyr det ikke at vi ikke bør prøve. Vi trenger dene debatten.

«Datamaskiner viktigere enn bomber»

Ekspertene på kunstig intelligens, roboter og våpen vil at Norge skal ha en demokratisk debatt om robotvåpen.

- Vi kan ikke gå baklengs inn i fortida, sier Irgens og avslutter med et sitat av John von Neuman fra 1946:

«Jeg tenker på noe som er mye viktigere enn bomber. Jeg tenker på datamaskiner», sa mannen som jobbet i prosjektet som utviklet atombomba og en av datamaskin-oppfinnerne ifølge The Scientific Way of Warfare.

- Vi må skjønne hvorfor nær 5000 eksperter innenfor kunstig intelligens og robotikk har skrevet under på en appell om å forby autonome våpen. John von Neuman hadde jo rett allerede i 1946: Datamaskiner er viktigere enn bomber, sier Irgens.