Umjetna inteligencija uz ljudski nadzor

Europska komisija želi intenzivnije regulirati umjetnu inteligenciju (UI) u Europi, povećati stupanj povjerenja u UI, ali i poticati njezino šire korištenje. Zašto? Mora se najprije znati što je uopće umjetna inteligencija?

Pod tim pojmom se podrazumijeva računalne programe koji su sposobni „učiti", programi koji su u stanju analizirati ogromne količine podataka i tako primjerice mogu i analizirati reakcije i ponašanje korisnika. Algoritmi tih programa reagiraju na ljude koji ih koriste i transformiraju se samostalno. UI se danas primjenjuje na brojnim područjima u medicinskoj tehnici, autonomnim vozilima, raspoznavanju lica građana, ali i u igračkama koje „razgovaraju" s djecom i mogu reagirati na njihove odgovore.

"Znamo da se UI koristi u brojnim poslovnim područjima, u financijskim transakcijama i kompjutorskim programima, ali UI može postići i više od toga, u onim područjima u kojima proces digitalizacije tek počinje", kaže Hans De Canck iz Centra za umjetnu inteligenciju na Slobodnom sveučilištu Bruxelles (VUB). U poljoprivredi ili medicini postoje veliki potencijali, kaže on za DW: „Tijekom COVID-krize smo vidjeli da UI ima veliki utjecaj na proces brzog razvoja dijagnostičkih i medicinskih aplikacija."

UI će zahvaljujući aktualnom boomu u idućim godinama „ući" u sve više područja našeg života. U to nije uvjeren samo Hans de Canck, već i dopredsjednica Europske komisije Margrethe Vestager. Njezin resor se brine oko toga da „Europa bude fit za digitalno doba".

Povjerenje i rizici

Tri godine su službenici iz navedenog resora radili na tržišnoj regulativi umjetne inteligencije. U srijedu (21.4.) u Bruxellesu su predstavljeni njihovi prijedlozi.

„Mi u Europskoj uniji moramo postati svjetska klasa po pitanju regulacije i primjene UI-ja”, to je cilj koji je proklamirala Margrethe Vestager. Ona je istaknula velike prednosti i šanse koje nudi umjetna inteligencija u novom digitalnom svijetu, ali danska povjerenica nije zaboravila ni dodati:

„Stvaramo povjerenje u UI. A to je moguće samo ako smo u stanju upravljati i rizicima.”

Velika većina UI-aplikacija, na primjer mail-filteri za spam ili upravljanje strojevima u tvornicama, posve su neproblematične, piše Europska komisija u svojim prijedlozima regulacije. Ali postoje i neka područja s ograničenim rizicima, na primjer chat-botovi koje se koristi u velikim firmama kako bi oni komunicirali s mušterijama. Njima bi se moralo jasno reći da komuniciraju sa strojevima (koji su u stanju učiti), a ne s ljudima.

Vestager je iznimno riskantnima označila i aplikacije koje ocjenjuju ljude ili bi trebale upravljati njihovim ponašanjem. U toj skupini, koju bi trebalo strogo regulirati, nalaze se autonomna vozila ili programi koji izabiru kandidate koji se prijave na neki posao, odnosno ocjenjuju njihove životopise.

„Ugraditi” etičke i humane kriterije

Hans De Canck se u tom kontekstu slaže s europskom povjerenicom. Kompjutori koji „analiziraju" životopise, kaže on, mogu imati i neke grozne predrasude i na temelju toga mogu donositi i pogrešne odluke:

„Ako neki algoritam treba odabrati najbolje kandidate, onda se on u svom odabiru oslanja na podatke o najboljim kandidatima iz proteklih 30 godina." U tom slučaju, kaže De Canck, računalo će uvijek uzeti bijelog muškarca starog 35 godina, jer je to tako uvijek bilo. Baš zato bi se moralo, dodaje naš sugovornik, u programe „ugraditi” i etičke i humane kriterije.

Europska komisija u takvim situacijama zahtijeva „ljudski nadzor" algoritama. U kritičnim područjima, u kojima određenu ulogu igraju i moral i pristojnost, algoritmi ne smiju sami odlučivati, kaže danska povjerenica Vestager.

Europska komisija želi u potpunosti zabraniti masovno korištenje tehnologije za masovno raspoznavanje lica građana na javnim mjestima – uz pomoć umjetne inteligencije. Kao razlog se navodi da to nije u skladu s europskim odredbama zaštite osobnih podataka.

Ono što bi trebalo biti dozvoljeno je korištenje tehnike za pojedinačno raspoznavanje lica, na primjer osoba na graničnim kontrolama ili u okviru kaznenog progona.

Komisija želi zabraniti takozvane „pametne igračke”, koje bi djecu mogle navesti na opasne radnje. Software za učenje ili takozvani roboti za njegu bolesnika, koji asistiraju ljudima na primjer u staračkim domovima, i ubuduće bi trebali biti dozvoljeni.

Privlačenje UI u Europu

EU ne želi protjerati ponuđače UI-ja iz Europe, upravo suprotno, želi ih motivirati da se „nastane" u Europskoj uniji, rekao je povjerenik zadužen za industrijsku politiku, Thierry Breton. A privući ih žele uz pomoć financijskih poticaja i financiranjem istraživačkih programa.

„Moramo osigurati da EU pritom ne postane ovisna o inozemnim ponuđačima ili pojedincima”, dodao je Breton. U idućih sedam godina EU u područje UI i digitalizacije želi investirati 140 milijardi eura, obećao je francuski povjerenik. Konkretne vremenske rokove za usvajanje odgovarajućih zakona i regulativa, odnosno kada bi oni trebali stupiti na snagu unutar EU-a, dopredsjednica Komisije Vestager ipak nije otkrila. Samo je naglasila da sve mora ići brzo, jer „algoritmi i digitalizacija ne čekaju".

Savezno udruženje njemačke industrije (BDI) kritički gleda na prijedloge Europske komisije. Tvrdi se kako je na primjer previše široko definirano područje riskantnih UI-aplikacija.

Iris Plöger iz BDI-ja kaže da Savezno udruženje očekuje korekcije po tom pitanju, te napominje da pretjerana regulacija može imati negativne posljedice na razvoj inovativnih tehnologija.

Pratite nas i na Facebooku, na Twitteru, na YouTube, kao i na našem nalogu na Instagramu