Juriš jata inteligentnih dronova
27. avgust 2018.
U kratkom, fiktivnom filmu koji su protivnici autonomnog oružja snimili i postavili na Jutrjub, i koji je do sada videlo više od dva i po miliona ljudi, minijaturni se dronovi s velikom efikasnošću ustremljuju na ciljeve koje su im odabrali algoritmi i nemilosrdnošću odlično mašine koja odlično funkcioniše ubijaju osobe koje su identifikovane kao cilj. U tom filmu radi se o političkim protivnicima nekog imaginarnog režima.
Film je doduše imaginaran, ali daleko od stvarnosti nije. Prema rečima Tomasa Kihenmajstera, jednog od međunarodno istaknutih protivnika borbenih robota, „potreban je samo još mali korak“.
Oružje koje raspolaže određenim stepenom autonomije, danas je već standard koji se može videti na mnogim sajmovima naoružanja. Na primer rakete koje same traže moguće ciljeve i na kraju same odlučuju koji će od njih biti uništen. Načelno njima, doduše, još uvek upravljaju ljudi, ali za konkretan napad u pravilu čovek više ne daje neposrednu naredbu. A kada je započeo, više se ne može zaustaviti. Kihenmajster napominje da „jasno razlikovanje vojnih i civilnih vozila takvo oružje uopšte ne može da ostvari“. A to je jedno od osnovnih načela međunarodnog prava u ratnim situacijama.
Sve veći stepen autonomije različitih sistema oružja povezan je naravno sa sve većim napretkom u razvoju tzv. veštačke inteligencije i robotike. U međuvremenu su mašine u stanju da uče i da međusobno komuniciraju – slično ljudskom mozgu.
Oružje postaje sve brže i efikasnije, dok se istovremeno smanjuje opasnost za vojnike. To je kombinacija koja je izuzetno privlačna vojskama širom sveta. No tu i granice između mašine i čoveka postaju nejasne: dok su roboti koji samostalno pronalaze i uništavaju mine prihvatljivi, roboti koji samostalno pronalaze i ubijaju ljude teško se mogu dovesti u saglasje s odredbama međunarodnog prava.
Upravo to je tema o kojoj se na međunarodnom nivou raspravlja još od 2014. godine, u okviru pregovora o Konvenciji o ograničenju konvencionalnog naoružanja (CCW). Nova runda pregovora održava se u Ženevi (27-31. avgust), a glavna tema su ubojiti autonomni oružani sistemi (Lethal Autonomous Weapon Systems – LAWS). S obzirom na brz razvoj tehnologije, mnogo vremena za dogovor nema.
O kakvom se oružju uopšte radi?
Službeni naziv je Smrtonosni autonomni oružani sistemi (Lethal Autonomous Weapon Systems – LAWS). Često se pod tim podrazumevaju borbeni roboti, dronovi, podmornice bez posade i vozila bez vozača. Kritičari uglavnom govore o robotima-ubicama.
Šta se pod tim podrazumeva?
Opšta definicija ne postoji. Međunarodni komitet crvenog krsta ukazuje na oružje koje samostalno, dakle bez uticaja ljudi, pronalazi i napada svoje ciljeve.
Postoji li već takvo oružje?
Sistemi koji su u potpunosti autonomni, a koji bi ubijali ljude, još ne postoje. Ali, s obzirom na veoma brz razvoj veštačke inteligencije i robotike, za očekivati je da je to samo još pitanje vremena.
Šta već sada postoji?
Mnoga oružja koja se danas koriste raspolažu ograničenim autonomnim funkcijama. Već danas postoje rakete koje samostalno pronalaze i napadaju ciljeve. A podmornice bez posade traže mine. Osim toga, dronovi su već danas u stanju da se spoje u jata ili da pojedine zadatke izvršavaju samostalno.
Koji su scenariji u igri?
Moguće je borbenom robotu dati na raspolaganje podatke o nekom pojedincu, koga on potom sam pronalazi i ubija – bez daljinskog upravljanja, kao što je trenutno slučaj s velikim dronovima, recimo u Avganistanu. Autonomni sistemi upravljaju sami sobom i nije im potrebna naredba za pucanje. Niko ne zna kada će oni krenuti u napad.
Šta je tu novo?
To je promena paradigme vođenja rata, jer u tom slučaju odluku o životu i smrti ne bi donosio čovek, već mašina. Činjenica da je čovek tu mašinu proizveo i programirao, tu ne menja ništa.
Šta kaže humanitarno međunarodno pravo?
Jedna od najvažnijih odredbi jeste da se jasno mora razlikovati ko je borac, a ko civil. Civili i civilni objekti moraju da se štede, koliko god je to moguće. Autonomni oružani sistemi to ne mogu da razlikuju. Zbog toga zagovornici međunarodnog prava traže da čovek uvek mora da ima zadnju reč (Man in the loop).
Kako se razvijaju pregovori?
Međunarodna zajednica je podeljena u tri tabora: dok se jedni zalažu za zabranu takvog oružja, drugi su protiv. Treća grupa zemalja, među kojima se nalaze Nemačka i Francuska, pokušava da pronađe kompromisno rešenje. Iako u koalicionom dogovoru vladajućih stranaka u Nemačkoj jasno stoji da vlada takvo autonomno oružje odbacuje, za pregovaračkim stolom u Ženevi Nemačka ne nastupa odlučno. Predstavnici Berlina zalažu se za neobaveznu političku deklaraciju kao prvi stepen nekog kasnijeg ugovora o zabrani.
Dogovor za sada nije na horizontu – a vremena je sve manje, upozorava američki informatičar Stjuart Rasel koji već 35 godina istražuje na polju veštačke inteligencije. On naglašava da već sada različite vojske eksperimentišu s jatima dronova, dok druge – između ostalih i Bundesver – razvijaju sredstva obrane.