Želimo li da roboti krenu u rat protiv ljudi?
21. august 2019
Za glavnog tajnika UN-a Antonia Guterresa tu nema niti zrnca dvojbe: autonomno oružje je „politički neprihvatljivo i moralno odvratno" i treba ih zabraniti međunarodnom konvencijom. „Pomislite na posljedice kad neki autonomni oružani sustav samostalno bira ljude kao ciljeve i odlučuje o napadu", apelira glavni tajnik.
Predstavnici međunarodne zajednice su se opet okupili u Ženevi kako bi raspravljali o zabrani – kako se to u medijima zove; „robota-ubojica". Ali sloga nije na vidiku, još manje je šanse za njihovu zabranu i prije nego što se pojave na ratištima. „Tapka se na mjestu", javlja nam jedan od sudionika ove rasprave UN-a.
Ono što iz usta glavnog tajnika zvuči kao užas znanstvene fantastike je zapravo već odavno realnost. Već mnoge vojske svijeta eksperimentiraju oružanim sustavima u kojem se sažima umjetna inteligencija i robotika u potencijalno smrtonosno oružje. Vojna logika je jasna: ako su strojevi na bojišnici, ljudi su na sigurnom. Nema loših medijskih izvješća o vlastitim poginulim ili ranjenim vojnicima i koga je briga ako je uništen jedan stroj. Povrh toga, strojevi nikad nisu umorni i uvijek su precizni, govore zagovornici. A to u konačnici ima čak i prednosti: bit će manje šteta na civilnim ciljevima.
To nipošto više nije znanstvena fantastika
Prema prihvaćenoj definiciji Međunarodnog odbora Crvenog križa, autonomno oružje se smatra ono oružje koje samostalno bira svoje ciljeve i uništava ih. Još uvijek i u bespilotnim letjelicama je u pravilu negdje vojnik koji upravlja letjelicom, odabire cilj i aktivira oružje. Autonomno oružje sve odlučuje samo i trenutno se već daleko odmaklo u tom smjeru. Kad smo kod letjelica, već sad postoje projektili koji će sami procijeniti, je li cilj u povoljnom položaju za uništavanje i „čekati" dok se to ne dogodi.
Tu nije teško otići još dalje: znanstvenici uopće ne misle kako je nemoguće bojište gdje neće ljudi, nego matematičke formule u procesorima računala odlučivati o životu ili smrti. To zapravo krši humanitarno međunarodno pravo: ono nalaže kako se rat smije voditi samo između boraca, a ne protiv civila. Može li računalo razlikovati vojnika od civila? Veoma teško. „Ne možemo u te strojeve ugrađivati čipove sa upisanim pravilima međunarodnog prava", kažu protivnici takvog oružja. Mora postojati jamstvo da čak i kad je posao ubijanje, uvijek čovjek na koncu odlučuje hoće li se povući obarač.
Kako stvoriti takvo jamstvo? O tome već pet godina raspravljaju Ujedinjeni narodi u Ženevi u okviru rasprave o „Konvenciji o određenom konvencionalnom oružju" (Convention on Certain Conventional Weapons, CCW). Sredinom devedesetih se na tom forumu još uspjelo zabraniti upotreba lasera koji bi služio oslijepiti protivnike i prije nego što je takvo oružje došlo na neko od bojišta. Takvu zabranu protivnici žele postići i za takve „robote ubojice", ali pregovori su veoma teški.
Mali protiv velikih
Glavni protivnici su države koje su već ionako daleko odmakle u razvoju automatiziranog oružja, dakle SAD, Rusija, ali i Izrael. One odbijaju rezoluciju koja bi jasno zabranila takve sustave, a tim vojnim velesilama se protivi skupina od 28, djelomice malenih država i koji traže jasnu zabranu. Jedina zemlja EU među njima je – Austrija. Te zemlje koje teže zabranipodržava čitav spektar nevladinih udruga: ukupno 113 udruga iz 50 zemalja se pridružilo inicijativi Campagne to Stop Killer Robots. Podržava je i Europski parlament, mnoštvo znanstvenika među kojima je i 21 dobitnik Nobelove nagrade.
Njemačka se nije priključila niti zagovornicima, niti protivnicima, makar se ova vlada u svom koalicijskom sporazumu složila kako ne želi takvo oružje: „Odbijamo autonomne sustave naoružanja koji su izvan nadzora čovjeka. Želimo da ono bude odbačeno u čitavom svijetu", piše u tom sporazumu. No njemačko izaslanstvo na ovoj raspravi u Ženevi procjenjuje kako se „trenutno" jednostavno ne može postići potpuna međunarodna zabrana takvog oružja već zbog jasnog protivljenja SAD i Rusije. Ono što njemačka vlada nerado govori: i njemački proizvođači oružja eksperimentiraju sa takvim sustavima, a neke od tih funkcija bi trebao imati i njemačko-francuski vojni zrakoplov FCAS sa pripadajućim bespilotnim letjelicama upravljanim satelitskom navigacijom.
U svakom slučaju postoji mogućnost da propadne i ova runda pregovora. Trenutno je na stolu tek prijedlog – da se o tome još raspravlja slijedeće dvije godine. Prema mutnoj formulaciji, izražava se nada kako će se do tada postići „normativni okvir". Sve je to naravno veoma daleko od nekakvih jasnih riječi zabrane.
Thomas Küchenmeister, glasnogovornik njemačkog ogranka inicijative Stop Killer Robots je razočaran ovim „nebuloznim formulacijama". I dalje se umanjuje značaj nužnosti da ipak čovjek odlučuje o uporabi sile, žali se novinarima DW. On isto tako strahuje kako ta rasprava u Ženevi „nikad neće dovesti do jasne zabrane autonomnog oružja."
Protivnici ipak ne žele odustati: dugo su se u Ženevi protivili i sporazumu o zabrani protupješačkih mina i kazetnih bombi. Protivnici su se zato organizirali izvan ovog tijela Ujedinjenih naroda i pred vladama čitavog svijeta zagovarali takvu zabranu – koje je potpisano u Ottawi i Oslu. Danas je i ta zabrana dio međunarodnog prava.