Želimo li da roboti krenu u rat protiv ljudi?
21. kolovoza 2019
Za glavnog tajnika UN-a Antonia Guterresa tu nema niti zrnca dvojbe: autonomno oružje je „politički neprihvatljivo i moralno odvratno" i treba ih zabraniti međunarodnom konvencijom. „Pomislite na posljedice kad neki autonomni oružani sustav samostalno bira ljude kao ciljeve i odlučuje o napadu", apelira glavni tajnik.
Predstavnici međunarodne zajednice su se opet okupili u Ženevi kako bi raspravljali o zabrani – kako se to u medijima zove - „robota-ubojica". Ali sloga nije na vidiku, još manje je šanse za njihovu zabranu i prije nego što se pojave na ratištima. „Tapka se na mjestu", javlja nam jedan od sudionika ove rasprave UN-a.
Ono što iz usta glavnog tajnika zvuči kao užas znanstvene fantastike je zapravo već odavno realnost. Već mnoge vojske svijeta eksperimentiraju oružanim sustavima u kojem se sažima umjetna inteligencija i robotika u potencijalno smrtonosno oružje. Vojna logika je jasna: ako su strojevi na bojišnici, ljudi su na sigurnom. Nema loših medijskih izvješća o vlastitim poginulim ili ranjenim vojnicima i koga je briga ako je uništen jedan stroj. Povrh toga, strojevi nikad nisu umorni i uvijek su precizni, govore zagovornici. A to u konačnici ima čak i prednosti: bit će manje šteta na civilnim ciljevima.
To nipošto više nije znanstvena fantastika
Prema prihvaćenoj definiciji Međunarodnog odbora Crvenog križa, autonomnim oružjem se smatra ono oružje koje samostalno bira svoje ciljeve i uništava ih. Recimo kada se rado i današnjim bespilotnim letjelicama, tu je još uvijek u pravilu negdje neki vojnik koji upravlja letjelicom, odabire cilj i aktivira oružje. Autonomno oružje pak sve odlučuje samo.
U tom se smjeru već daleko odmaklo. Već sad postoje projektili koji će sami procijeniti, je li cilj u povoljnom položaju za uništavanje ili je bolje „čekati" dok se to ne dogodi.
Tu nije teško otići još dalje: znanstvenici uopće ne misle kako je nemoguće bojište gdje više uopće neće ljudi, nego će matematičke formule u procesorima računala odlučivati o životu ili smrti. To bitno krši humanitarno međunarodno pravo: ono nalaže kako se rat smije voditi samo između boraca, a ne protiv civila. Može li računalo razlikovati vojnika od civila? Veoma teško. „Ne možemo u te strojeve ugrađivati čipove sa upisanim pravilima međunarodnog prava", kažu protivnici takvog oružja. Mora postojati jamstvo da čak i kad je posao ubijanje, uvijek čovjek na koncu odlučuje hoće li se povući obarač.
Kako stvoriti takvo jamstvo? O tome već pet godina raspravljaju Ujedinjeni narodi u Ženevi u okviru rasprave o „Konvenciji o određenom konvencionalnom oružju" (Convention on Certain Conventional Weapons, CCW). Sredinom devedesetih se na tom forumu još uspjela zabraniti upotreba lasera koji bi služio oslijepiljivanju protivnika, i to još prije nego što je takvo oružje došlo na neko od bojišta. Takvu zabranu protivnici žele postići i za „robote ubojice", ali pregovori su veoma teški.
Mali protiv velikih
Glavni protivnici su države koje su već ionako daleko odmakle u razvoju automatiziranog oružja, dakle SAD, Rusija, ali i Izrael. One odbijaju rezoluciju koja bi jasno zabranila takve sustave. Tim vojnim velesilama se protivi skupina od 28, djelomice malenih država i koji traže jasnu zabranu. Jedina zemlja EU među njima je – Austrija. Te zemlje koje teže zabrani podržava čitav spektar nevladinih udruga: ukupno 113 udruga iz 50 zemalja se pridružilo inicijativi Campagne to Stop Killer Robots. Podržava je i Europski parlament, mnoštvo znanstvenika, među kojima je i 21 dobitnik Nobelove nagrade.
Njemačka se nije priključila niti zagovornicima, niti protivnicima, makar se sadašnja vlada u svom koalicijskom sporazumu složila kako ne želi takvo oružje: „Odbijamo autonomne sustave naoružanja koji su izvan nadzora čovjeka. Želimo da ono bude odbačeno u čitavom svijetu", piše u tom sporazumu. No njemačko izaslanstvo na ovoj raspravi u Ženevi procjenjuje kako se „trenutno" jednostavno ne može postići potpuna međunarodna zabrana takvog oružja već zbog jasnog protivljenja SAD i Rusije. Ono što njemačka vlada nerado govori: i njemački proizvođači oružja eksperimentiraju s takvim sustavima, a neke od tih funkcija bi trebao imati i njemačko-francuski vojni zrakoplov FCAS s pripadajućim bespilotnim letjelicama upravljanim satelitskom navigacijom.
U svakom slučaju postoji mogućnost da propadne i ova runda pregovora. Trenutno je na stolu tek prijedlog – da se o tome još raspravlja slijedeće dvije godine. Prema mutnoj formulaciji, izražava se nada kako će se do tada postići „normativni okvir". Sve je to naravno veoma daleko od nekakvih jasnih riječi zabrane.
Thomas Küchenmeister, glasnogovornik njemačkog ogranka inicijative Stop Killer Robots je razočaran ovim „nebuloznim formulacijama". I dalje se umanjuje značaj nužnosti da ipak čovjek odlučuje o uporabi sile, kaže Küchenmeister za DW. On isto tako strahuje kako ta rasprava u Ženevi „nikad neće dovesti do jasne zabrane autonomnog oružja."
Protivnici ipak ne žele odustati: dugo su se u Ženevi protivili i sporazumu o zabrani protupješačkih mina i kazetnih bombi. Protivnici su se zato organizirali izvan ovog tijela Ujedinjenih naroda i pred vladama čitavog svijeta zagovarali takvu zabranu – koje je potpisano u Ottawi i Oslu. Danas je i ta zabrana dio međunarodnog prava.