Per Christian Bjørking

Disse maskinene kommer til å om en ukjent mengde tid ta bedre, raskere og mer treffsikre beslutninger enn det mennesker kan gjøre i krig.

Og da er det jo en ny situasjon.

Dario Amodei beskriver jo egentlig dette her allerede.

Han sier at vi er ikke imot autonome våpen i CSL.

Vi er bare imot at de skal brukes nå, fordi de er ikke modne, de gjør for mange feil.

Det vi mennesker ofte har en tendens til å glemme, det er jo at vi selv, vi gjør feil, og vi er ikke nødvendigvis perfekte, eller vi vet jo når vi tenker oss om at vi er ikke perfekte.

Og det vi da må vurdere er jo, ok, men la oss si at det kommer en maskin som gjør bedre vurderinger enn oss.

Hva gjør vi da?

Skal vi la den tillattes å drepe?

Eller skal vi si at nei, det er bedre at mennesker gjør flere feil og dreper flere sivile for eksempel, fordi det er et menneske?

Nei, den går ikke an å stoppe, og det er ingen som tør å stoppe den.

Og da lander vi jo på det som har vært frykten egentlig hele tiden, det at ja, disse våpnene må man bare la seg utvikle, fordi at motstanderen din kommer til å gjøre det samme.

Og det virker kanskje logisk, men samtidig, det fører jo da til et helt unngåelig våpenkappløp.

Og dette er kanskje den største utfordringen menneskeheten har fremover, så vi må finne en eller annen måte å kontrollere dette her på, slik at det ikke løper løpsk.