Bliski istok: represija uz pomoć umjetne inteligencije?

U svibnju ove godine Khalaf al-Romaithi je odletio iz Turske u Jordan kako bi potražio novu školu za svog sina. No, ovaj emiratski disident tamo je zatočen zbog očiju. Ili, točnije, zbog biometrijskih podataka koje su odavale njegove oči.

58-godišnjak je putovao s turskom putovnicom, ali skeniranje njegovih šarenica u zračnoj luci u Ammanu pokazalo je da je on Khalaf al-Romaithi koji je prethodno osuđen na 15 godina zatvora u Ujedinjenim Arapskim Emiratima. Presuda je donesena u sklopu masovnog suđenja skupini od 94 kritičara političkog vrha UAE 2013. godine, koje su organizacije za ljudska prava osudile kao politički motivirano.

"Zatvoren je u Ammanu nakon skeniranja šarenice", potvrdio je Hamad al-Shamsi, direktor Emirates Detainees Advocacy Center, neprofitne organizacije koja pomaže ljudima u zatvorima UAE-a. No, on dodaje kako nitko sa sigurnošću ne može reći kako su Jordanci došli do al-Romaithijevih biometrijskih podataka. Moguće je da su im informacije dali u Ujedinjenim Arapskim Emiratima, sugerirao je on.

Ni jordanski, a niti emiratski predstavnici u Njemačkoj nisu odgovorili na upit DW-a da to prokomentiraju. Al-Romaithi je, prema navodima odvjetnika, ilegalno poslan iz Jordana u UAE, gdje se nalazi u zatvoru.

Zabrinjavajući znakovi na Bliskom istoku

Slučaj al-Romaithi zabrinjava kada je riječ o tome kako se osobni biometrijski podaci koriste na Bliskom istoku, objasnila je Yana Gorokhovskaia iz američke organizacije Freedom House.

"Vrlo smo zabrinuti zbog sve većeg korištenja biometrijske tehnologije u cilju bliže suradnje između represivnih vlada, što smo vidjeli na Bliskom istoku i također u središnjoj Aziji", rekla je ona za DW.

Biometrijski podaci uključuju sve jedinstvene markere koji identificiraju neku osobu. Neki aspekti nisu novi: na koncu konca, to uključuje otiske prstiju, nešto s čime policija radi od kasnog 19. stoljeća. Također uključuje genetski materijal, ili DNK, koji se koristi u kriminalističkim istragama od kasnih 1980-ih.

Međutim danas su biometrijski podaci puno raznolikiji i uključuju sve, od otisaka dlanova, preko oblika lica i skeniranja šarenica, do izgleda ušnih resica, pa čak i načina na koji dišemo i hodamo. U budućnosti bi biometrijski podaci mogli uključivati i način na koji tipkamo, način na koji potpisujemo svoje ime te prepoznavanje glasa i pokreta.

Naravno, korištenje biometrijskih podataka za identifikaciju ljudi nije nužno negativno.

Mnogi ljudi već su upoznati s onim što je poznato kao biometrijska provjera. Time se usklađuju jedinstveni podaci osobe, kao što su otisci prstiju ili šarenice, s podacima koji su već uneseni u sustav. To se zove provjera jedan na jedan. Uobičajen primjer je „otključavanje" mobilnog telefona skeniranjem otiska prsta.

Druga upotreba ove vrste podataka naziva se daljinska biometrijska identifikacija ili RBI. To uključuje softversku usporedbu jedinstvenih obilježja osobe s velikom bazom podataka obilježja mnogih drugih, što se naziva identifikacija jedan prema više. To je nešto što se može vidjeti u špijunskom filmu, gdje lutajuća digitalna kamera uočava krivca u gomili, nakon što je uskladila oči, ušne resice, čak i njihov hod, i pretpostavila da je to osoba koju traže.

Opasniji zahvaljujući umjetnoj inteligenciji

Upravo RBI zabrinjava borce za ljudska prava, posebice jer se koristi s naprednim algoritmima i umjetnom inteligencijom.

To ima veze s načinom na koji se tehnologija razvila u posljednjih nekoliko godina, kaže Ella Jakubowska, viša savjetnica za politiku u mreži European Digital Rights (EDRi) sa sjedištem u Bruxellesu, koja je vođa radne skupine koja radi na prepoznavanju lica i biometriji.

"Postoji nekoliko stvari koje se čine kao prava promjena", primjećuje ona. "Jedan bi bio broj različitih načina na koje možete identificirati i pratiti osobu. Drugi bi bio da se potencijal softvera za prepoznavanje obrazaca eksponencijalno povećao u posljednjih pet ili nešto više godina. Sada možete identificirati nekoga ne samo na temelju slike, već možete znati i uzorak njegovih nogu i stopala dok hoda."

"Ovakav razvoj je smanjio barijere; brže je i jeftinije nego ikad imati masovnu pohranu podataka i njihovu obradu. Sve to doprinosi potencijalu za prepoznavanje velikog broja ljudi vrlo brzo, u velikom broju", upozorila je ona. "To proširuje potencijal proizvoljnog masovnog nadzora", dodaje.

Ovo je tamna strana moderne biometrijske identifikacije i predstavlja nešto što bi moglo postati veći problem u autoritarnim režimima poput onih na Bliskom istoku.

"Široko rasprostranjena upotreba biometrijskih identifikacijskih sustava, u kombinaciji sa slabim zakonima o privatnosti i općenito slabom vladavinom prava i zaštitom ljudskih prava, otvara vrata autoritarnim zloupotrebama koje će alati umjetne inteligencije vjerojatno pogoršati", navode autori studije objavljene 2022. u kojoj je proučavana upotreba umjetne inteligencije na Bliskom istoku, a koju je objavio Europski institut za Mediteran.

Digitalna transformacija u tijeku

Bogatije zemlje u regiji, poput zaljevskih država, već su oduševljene biometrijskom identifikacijom. "Ove su tehnologije središnje jer regija - posebice zemlje Zaljeva - prolazi kroz digitalnu transformaciju", rekao je za DW Mohammed Soliman, direktor programa za strateške tehnologije i kibernetičku sigurnost na Institutu za Bliski istok sa sjedištem u Washingtonu.

Trenutačno gotovo sve zemlje Bliskog istoka koriste biometrijske podatke na graničnim prijelazima s ciljem bolje kontrole ljudi.

Nedavne uspješne priče iz Dubaija govore o tome kako se policija na aerodromu hvali kako je uhvatila prevaranta koji je koristio lažne kreditne kartice dok je bio maskiran i to tako što je provjeravala oblik njegovih ušiju. U drugom slučaju uhapsili su muškarca koji je nosio dugu žensku haljinu i veo na licu – i to na temelju načina na koji je hodao, te njegovih tjelesnih mjera.

Neke zemlje, uključujući Katar, Saudijsku Arabiju i UAE, prikupile su biometrijske podatke kao dio registracije državljanstva koji lokalnom stanovništvu omogućuje pristup državnim uslugama. Drugi, poput Iraka i Jemena, prikupljali su ih za registraciju birača.

No sve te informacije mogle bi se koristiti i na drugačiji, zlonamjerniji način, tvrde stručnjaci.

"Svaka vlada mogla bi skupiti bazu biometrijskih podataka svoje cjelokupne populacije i dopustiti da se to koristi s CCTV-kamerama po cijelom i oko cijelog grada", kaže Jakubowska iz EDRi-ja i dodaje: "Onda imate živu sliku najintimnijih dijelova života ljudi. Možete vidjeti tko se sastao s novinarom, tko je otišao u queer-bar, tko se sprijateljio s političkim protivnikom ili disidentom - a to može biti vrlo opasno."

Amba Kak, direktorica instituta AI Now sa sjedištem u New Yorku, slaže se da tehnologija može omogućiti vladama moć nad njihovim građanima.

"Ovi sustavi omogućuju masovni nadzor takve vrste koji ozbiljno mijenja ravnotežu moći između onih koji nadziru i onih koji su promatrani, s ozbiljnim uznemirujućim učincima na političke i privatne živote građana", kaže ona.

Može li zloupotreba biti zaustavljena?

Dakle, kako se to može spriječiti na Bliskom istoku, gdje autoritarni režimi možda još uvijek ne zloupotrebljavaju biometrijske podatke na očigledan način - ali gdje očito imaju interes za društvenom kontrolom?

"Postoji velika ideja da je obrada biometrijskih podataka ljudi korisna i ima prednosti", tvrdi Jakubowska. "Ali zapravo su ovi podaci toliko osjetljivi, Oni nisu kao lozinka koja se može poništiti. Oni vas identificiraju tijekom cijelog života, tako da ćemo uvijek početi s pitanjem: trebamo li to doista učiniti?"

Europska unija trenutno vodi raspravu o onome što će vjerojatno biti prvi zakon o umjetnoj inteligenciji na svijetu. Pravila o tome kako bi se biometrijski podaci trebali koristiti i trebaju li se uopće koristiti, vjerojatno će biti jedna od najspornijih tema.

"Ono oko čega se stvarno brinem je da ćemo, ako i EU kaže da postoje legitimni slučajevi korištenja te tehnologije, mi to legitimirati i za druge zemlje", kaže Jakubowska, koja bi voljela da EU zauzme oštriji stav. Ona kaže da definitivno postoji jedan snažan pokret unutar jurisdikcije koji kaže, 'mislimo da je ovo neprihvatljivo'."

AI Now Institute želi potpunu zabranu daljinske biometrijske identifikacije, dodaje Kak.

"Ništa drugo nema smisla", kaže Kak za DW, dodajući da zakoni o privatnosti i druga pravila neće pomoći. "I ne samo na Bliskom istoku, već i ovdje u SAD-u i u Europi. Problemi s ovim sustavima nisu magično riješeni u zapadnim liberalnim demokracijama, iako je distopija onoga što može poći po zlu često odmah opipljiva baš u autoritarnim režimima", zaključuje Kak.

Pratite nas i na Facebooku, preko X-a, na Youtubeu, kao i na Instagramu