Da li roboti ubice trebaju biti zabranjeni?
30. august 2018
Thomas Küchenmeister je predsjednik njemačke organizacije "Facing Finance” koja je članica međunarodne kampanje "Stop Killer Robots”. Küchenmeistera često možete vidjeti na sajmovima oružja kako razgovara sa proizvođačima. Oružje, koje do jednog određenog stepena samo djeluje, danas se može pronaći u standardnoj ponudi. Jedan od primjera su rakete koje same traže ciljeve i na kraju same odlučuju koji će cilj uništiti. Takvim raketama u osnovi upravljaju ljudi, ali za konkretni napad nema vojnika koji će narediti otvaranje vatre, a često se one više ne mogu ni zaustaviti.
U sukobu s Međunarodnim pravom
Küchenmeister smatra da je to veoma problematično jer takvo oružje ne ne može razlikovati koje je vojno, a koje civilno vozilo. Upravo to nalaže Međunarodno pravo. Razlika između boraca i civila je najvažnije pravilo "I us in bello” Međunarodnog prava koje važi i u ratu. To pravo obavezuje zaraćene strane na najveću moguću zaštitu civila i civilnih objekata.
U tu kategoriju Međunarodni komitet Crvenog krsta svrstava autonomne sisteme oružja koji mogu samostalno tražiti, odabrati i napasti svoje ciljeve. Samostalno znači bez ljudske intervencije. Upravo to je problem: šta ako takva raketa prilikom pronalaska svog cilja pored što uništi neprijateljski cilj ubije i civile? "U takvo oružje ne možemo ugraditi čip koji će poštovati Međunarodno pravo”, smatra Thomas Küchenmeister.
Stepen samostalnosti u oružanim sistemima se povećava zahvaljujući veoma brzom napretku u oblasti vještačke inteligencije i robotike. U međuvremenu su mašine sposobne da uče i to zahvaljujući upotrebi neuronskih mreža koje su slične ljudskom mozgu. Industrija naoružanja to koristi: oružje je sve brže i efikasnije, a istovremeno se smanjuje opasnost za vojnike. To je upravo ono što žele vojske.
Pregovori pod vremenskim pritiskom
Ali, kako se Međunarodno pravo odnosi prema novom oružju? Međunarodna zajednica u svom sjedištu u Ženevi o tome raspravlja još od 2004. godine. Razgovori se vodi u okviru Konvencije UN o kontroli nekonvencionalnog oružja. Iz neformalnih razgovora su 2017. godine nastali zvanični razgovori u kojima učestvuje više od 70 država. U razgovore su uključeni naučnici i nevladine organizacije.
Tema razgovora koji se vode od 27. do 31. avgusta su smrtonosni autonomni sistemi oružja (LAWS). Riječ je o robotima koji se međusobno mogu boriti na frontu. U takvo oružje spadaju i dronovi ubice koji se još uvijek ne upotrebljavaju, ali bi u budućnosti mogli biti upotrijebljeni.
Vremena za pregovore nema na pretek. Međunarodna zajednica se dijeli, jednostavno rečeno, na tri tabora: protivnike, zagovornike i zemlje koje su negdje u sredini kao što su Njemačka i Francuska.
Zemlje koje su potiv zabrane, SAD, izrael, Rusija i Velika Britanija investiraju dosta novca u vojnu upotrebu vještačke inteligencije. Ruski predsjednik Vladimir Putin je jednom prilikom rekao da će svijetom vladati onaj ko bude vodeći u vještačkoj inteligenciji. On se boji da bi vodeću ulogu na tom polju mogle imati SAD ili Kina. SAD smatraju da bi se upotrebom vještačke inteligencije smanjile civilne žrtve i "kolateralna šteta”. SAD navode da bi kompjuter, za razliku od vojnika, imao bolji pregled nad velikim brojem informacija na ratištu i na taj način bi pravio manje grešaka.
Zagovornici zabrane
26 zemlja je do sada zatražilo zabranu upotrebe autonomnog oružja i za takvu odluku je dobilo podršku civilnog društva. Peticiju za zabranu upotrebe autonomnog oružja koju je pokrenuo američki institut "Future of Life” je potpisalo više od 230 organizacija i 3.000 osoba. Među njima su vodeći naučnici i poduzetnici u oblasti vještačke inteligencije kao što su šef Tesle Elon Musk ili "Google Deep Mind”. Oni su se obavezali da neće podržati razvoj smrtonosnih autonomnih oružanih sistema i zahtjevaju "stroge međunarodne norme i zakone” koji bi to zabranili. O ubijanju ljudi nikada ne bi trebale odlučivati mašine.
Njemačka: Da, ali ne odmah
Njemačka i Francuska su zemlje koje trenutno prate "zlatnu” sredinu. Njemačka vlada kao prvi korak predlaže političku deklaraciju koja će kasnije biti usvojena vojnim kodeksom ponašanja, a posljednji korak bi bio sporazum o zabrani. Aktivisti kampanje "Stop Killer Robots” zahtjevaju da Njemačka, kao velika i važna evropska zemlja, treba biti predvodnica i zalagati se za hitnu zabranu autonomnog oružja. Thomas Küchenmeister smatra da bi Njemačku na taj način slijedile i druge zemlje. "Ako Njemačka vlada želi zabranu takvog oružja, onda to treba i pokazati, to znači preuzeti odgovornost”, kaže Küchenmeister.
Diplomate i aktivisti su ipak u jednom istog stava, a to je da vremena nema mnogo. Već sada neke armije vrše eksperimente sa jatima drona, dok drugi rade na razvoju odbrane od takvih jata. Među njiam jei njemačka vojska Bundeswehr. Ukoliko razgovori u Ženevi ne donesu napredak, onda raste pritiska na civilno društvo, kaže Küchenmeister. Sporazum o zabrani bi mogao nastati van UN-a. Dakle, sličan sporazum kao što je slučaj sa borbom protiv nagaznih mina. Međunarodna kampanja protiv upotrebe nagaznih mina je 1997. godine dobila Nobelovu nagradu za mir.