Da li smo uskoro u rukama robota?

Oni su na sve strane i sve ih je više. Brojke Međunarodne federacije za robotiku (IFR) pokazuju jasan trend kada je reč o širenju delimično i potpuno autonomnih sistema. Prošle 2014. godine zabeležena je prodaja robota u vrednosti od oko šest milijardi evra, za industrijske, medicinske i privatne potrebe. Biznis sa velikim stopama rasta. Kada je reč o robotima koji pomažu ljudima sa hendikepom ili u negovanju, IFR beleži rast prodaje od 542 procenta. Privrednici trljaju ruke, ljudi dobijaju pomoć, ali kada se baci pogled na čitav proces, otkrivaju se mučni detalji.

„Ti sistemi nas plaše, posebno kada imaju ljudski izraz“, zaključuje Kristijane Vupen, direktorka Centra za etiku iz Kelna i predsednica Etičkog saveta. Na jednom predavanju o organizaciji Fondacije Dajmler-Benc, ona se zapitala da li se ljudi sa automatizacijom dovode u sumnjivu zavisnost i da li je to opasnost. „Kada robot budućnosti, sve ono što mi radimo, bude radio bolje, sigurnije i efikasnije – šta će onda biti sa nama?

Dugo odlagani odgovori

Već sadašnji roboti su u pojedinim oblastima otišli mnogo dalje od ljudi. Neumorno i precizno rade u fabrikama, operišu u klinikama, organizuju i kontrolišu podatke. Uskoro će odlučivati i o životu i smrti. Pritom neće činiti greške, jer oni – još uvek – rade po pravilima, koja su im zadali njihovi tvorci. Čovek će ponovo biti suočen sa pitanjima, za čijim odgovorima traga već više od 2.500 godina. Njih je sada potrebno naći, napredak ih iziskuje.

Trenutno se recimo naveliko diskutuje o problemu sa vožnjom uz pomoć auto-pilota. Do sada – posle testova i stotina hiljada kilometara na kalifornijskim putevima – zahvaljujući pre svega defanzivnom programiranju, nije došlo do teških nesreća u saobraćaju. Svi stručnjaci su složni, da će u saobraćaju biti manje nesreća, kada ga preuzme tehnika. To je u interesu društva.

Algoritam smrti

Ali jednom će, u situaciji opasnoj po život, biti neizbežno da se kompjuter odluči između različitih scenarija udesa: jedno dete neočekivano izlazi na ulicu, za kočenje nema dovoljno vremena. Da li bi u toj situaciji trebalo možda udariti u vozila iz suprotnog pravca sa više putnika? Da li bi bolje bilo udariti u stariju ženu invalida na pešačkom prelazu? Ili bi možda tu smrtonosnu odluku trebalo da donese takozvani generator slučajnog izbora? Ustaljena pravna praksa nam zabranjuje odluku o tome koji život treba da prevagne – sada je to potrebno definisati.

Ali i u poslovnom svetu, ili kod nege bolesnika postoje sporne situacije. Industrija 4.0 prepušta umreženim robotima proizvodne procese, kod kojih na kraju više nije jasno da li su oni rezultat ljudskih odluka. Sistemi samostalno uče i time napuštaju granice koje su ljudi prvobitno postavili programiranjem. Da li robot-negovatelj prelazi granice kada starijeg pacijenta nagovora da pije, iako on trenutno nema želju da popije čašu vode?

Neodređena odluka

Život ljudi će uz pomoć robota biti sigurniji i ugodniji. Ali to ne znači da će biti i ljudskiji. Mašine su prilično šture u svojim odlukama. „Nije li upravo ranjivost, emocionalnost i iracionalnost to što čini čoveka“, pita se etičarka Vupen. U vezi tih aspekata zabrinut je Kaj Gering. On je portparol stranke Zelenih za nauku, obrazovanje i tehnologiju u nemačkom parlamentu. „Smatram da algoritmi ne smeju da odlučuju o ljudima“, naglašava on. Gde bi tačno trebalo uvesti kontrole i kako bi one trebalo da izgledaju, još uvek ne može da kaže. „To je novo polje i zato o njemu mora da se razgovara.“

I njegov kolega iz parlamenta, Joahim Fajfer, portparol unije CDU/CSU za privrednu i energetsku politiku, smatra da su neophodne konsultacije. Fajfer upozorava da bi oprez trebalo da bude u prvom planu: „Moramo da budemo otvorenih očiju, na mnogim poljima se pokazalo da su ljudi najveći riziko-faktor.“