Auto, da sad onda popričamo i o etici...

Profesor elitnog sveučilišta Stanford, Chris Gerdes se već dugo bavi tehničkim problemima autonomnih automobila budućnosti. Osobno radije vozi bicikl i baš prilikom jedne takve vožnje je shvatio da mnogo toga od onoga što smo do sad programirali automobile kako bi vozili bez ljudske ruke - možemo početi pisati ponovo i dodati posve nove i drugačije rutine.

Kao i uvijek, vozio se jednom dionicom na brežuljcima oko San Francisca kad je shvatio da svi automobili koji ga pretječu "za svaki slučaj" prelaze ne samo punu, nego dvostruku punu liniju na sredini ceste - apsolutni i nedvojbeni prometni prekršaj. "Tu imamo dakle naučeno ljudsko ponašanje koje se društveno zapravo čak očekuje: ostaviti što više prostora za vozača bicikla. Ali to je protivno zakonu. Kako da takvo poželjno kršenje zakona objasnimo računalu? I ima li puna linija uopće smisla za autonomne automobile?"

Koliko smisla imaju pravila za računala?

Na ispitnom poligonu gdje ovaj profesor sa studentima već dugo radi na "inteligenciji" jednog prerađenog Audija, Gerdes odlično zna da senzori mnogo bolje i od čovjeka znaju koliko je prostora dovoljno automobilu da se "provuče". Takav automobil uopće neće niti krenuti u zaobilaženje ako mu dolazi nekakav automobil iz suprotnog smjera. Ali iz te dileme su mu se otvorila nova pitanja: ne samo puna linija, koliko mnoga od prometnih pravila imaju smisla za računala? Pravila su pisana za čovjeka, a već kod crvenog svjetla na semaforu programeri se muče objasniti kamerama i senzorima što je to zapravo - da automobil ne stane "kao ukopan" već kod svake svjetleće reklame za Coca Colu. Crveno je izmišljeno kao najveći podražaj našeg oka (zato su i znakovi zabrane sa crvenim rubom), ali računalima bi mnogo više pomogli sasvim drugačiji signali i znakovi.

Profesoru Gerdesu se obratio i profesor filozofije Patrick Lin sa Politehničkog sveučilišta u San Luis Obispa u Kaliforniji koji ga je pitao, razmišljaju li programeri računala koji će upravljati automobilima i o etičkim pitanjima? Na primjer, što ako automobil može izbjeći udes samo ako skrene. Ali ako skrene udesno, pregazit će jednu staricu. Ako pak skrene ulijevo, pogodit će jedno dijete. Što će biti odluka računala?

Nema toga koji će napisati naredbu "pregazi onda baku"

Automobilskim koncernima koji već nude takve "pomoćnike" za autonomnu vožnju je takvo pitanje više nego neugodno. Ipak, Mirko Franke koji u njemačkoj tvrtki Bosch razvija upravo računala za automobile, čak i kod ovakve dileme priznaje: "Tehnički smo već davno došli do toga da senzori na vozilu odlično znaju što se dešava oko automobila. Ako on evidentira živu osobu visine oko metra, onda je to sa velikom vjerojatnošću dijete, netko tko ima štap je vjerojatno starija osoba", kaže Franke. "Ali što je etički, a što nije, to je društveno pitanje. To mi kao proizvođači računala ne možemo odlučiti."

Zato u ovom slučaju daje i konkretan odgovor: ne može si zamisliti nekog programera koji će u računalo automobila napisati komandni redak "pregazi radije baku" jer zna da bi završio u zatvoru. To nam objašnjava i Dirk Wisselmann iz BMW-a koji se doista i bavi etičkim pitanjima koje postavlja Lin: za njemačke programere je stvar i više nego jasna. Temeljno načelo će uvijek biti "materijalna šteta radije nego povrijediti neku osobu". Autonomni automobil nikad neće željeti izbjeći udes tako da onda nekoga ubije. Prije će "pristati" da sam automobil bude uništen.

Troje od četvoro - hoće sami držati volan

Ali nam i objašnjava da su takve dileme doista tek teorija. Jer, osobito u gradskoj vožnji, autonomni automobili svojom brzinom lako mogu dovesti do ludila svakog nestrpljivog putnika: "Oni se kreću u gradovima oko 30 kilometra na sat i tu je onda kočioni put oko četiri metra. A pri toj brzini, ako želite izbjeći udes tako skrenete tek 50 centimetara lijevo ili desno. Dakle, koliko je realističan takav dramatičan scenarij?" pita stručnjak BMW-a za etička pitanja.

Usprkos ovim uvjeravanjima automobilskih stručnjaka o "puževoj brzini" autonomnih automobila, mediji sa velikim zadovoljstvom bilježe svaki udes takvog samostalnog vozila, od "totalke" koju je doživjelo eksperimentalno vozilo Googlea pa do smrtonosnog udesa jedne Tesle u svibnju 2016. u Floridi. U prvom slučaju zapravo nije bilo krivo računalo, nego vozač autobusa kojem se Googleovo vozilo odjednom našlo na putu dok je obilazio prepreku. Kod Tesle je i sud utvrdio kako automobil zapravo nije vozio potpuno samostalno. Ali vozač je morao vlastitom voljom prekinuti "automatsku vožnju" i izbjeći udes - što nije učinio.

I takvi udesi su razlog što, prema jednom ispitivanju provedenom i u SAD i u Njemačkoj, čak tri od četiri vozača ipak niti ne pomišljaju upravljanje automobila prepustiti računalu. Donekle im daje za pravo i programerka Alison Chaiken koja misli kako "inženjeri žele stvarati lude stvari i ne brinu se toliko o posljedicama." Da li bi onda možda bilo rješenje "crveni gumb" koji bi trenutno prepustio kontrolu nad vozilom čovjeku?

Zapravo i brže nego računalo

Time su se bavili i u BMW-u i zapravo su došli do iznenađujućeg podatka: "Proveli smo preko 400 simulacija vožnje gdje smo vozače, naravno u laboratorijskim okolnostima, suočili sa opasnošću gdje je računalo zazvonilo na uzbunu. Namjerno smo (ljudskim) vozačima potpuno odvratili pažnju, na primjer trebali su čitati knjigu kad je računalo dalo uzbunu jer ono nije moglo donijeti odluku. Vozač je onda u najkraćem roku morao shvatiti stanje u prometu, orijentirati se i provesti manevar, dakle kočiti ili pokušati izbjeći udes. Rezultat je bio zapanjujući: najbrži su u razmjerno jednostavnoj situaciji trebali samo dvije do tri sekunde."

Profesor sa Stanforda, Gerdes ne misli da je rješenje u takvom ekspresnom preuzimanju odgovornosti. Iskusan vozač i bez da je toga svjestan, procjenjuje razvoj u prometu daleko ranije nego što uopće dođe do krizne situacije. Kad zazvoni na uzbunu, to je već daleko prekasno: "Većina nesreća se i događa zato jer mi kao ljudi krivo reagiramo na nepredvidljive situacije. Ne, automobil i tako neka sam donese odluku - ili neka se onda radije zaustavi."

A čovjek neka nastavi, ako misli da zna bolje.

 

 

Christiane Hübscher (San Francisco, DPA)