Aktywiści chcą ograniczeń dla sztucznej inteligencji
15 stycznia 2021
Po latach dyskusji, Unia Europejska w końcu rozpoczęła prace nad regulacjami dotyczącymi sztucznej inteligencji. W pierwszym kwartale 2021 r. Komisja Europejska przedstawić ma projekt nowych przepisów w tym zakresie. Tymczasem, Europejska Koalicja na Rzecz Praw Cyfrowych (EDRi), razem z 61 innymi organizacjami obywatelskimi, m.in. Amnesty International, niemiecką Digitale Freiheit i polską Fundacją Panoptykon, wystosowały list otwarty do unijnych komisarzy, w tym do odpowiedzialnej za sprawy cyfrowe Margrethe Vestager i komisarz UE ds. wartości i przejrzystości Very Jourovej. W liście wezwano do zakazania w UE stosowania technologii sztucznej inteligencji (AI) w sposób naruszający prawa podstawowe obywateli.
– Chcemy, żeby nowe przepisy postawiły „czerwoną linię” i wprowadziły bezwzględny zakaz dla stosowania technologii ograniczających prawa człowieka – napisali sygnatariusze dokumentu.
Niebezpieczne rozpoznawanie twarzy
Organizacje wymieniają pięć obszarów, gdzie stosowanie sztucznej inteligencji prowadzi do nadużyć. To np. wykorzystywanie technologii rozpoznawania twarzy w miejscach publicznych, jak centra miast czy budynki urzędów.
– Każde zainstalowanie systemów AI służących do identyfikacji mieszkańców w miejscach publicznych już z definicji wiąże się z masowym przetwarzaniem danych biometrycznych mieszkańców (w tym wizerunków ich twarzy – przyp. DW) i jest pogwałceniem praw obywatelskich – alarmują organizacje. I dodają, że nawet obowiązujące w UE przepisy o ochronie danych podkreślają, że takie zastosowanie AI nie jest ani konieczne, ani proporcjonalne do zamierzonego celu, grozi za to prowadzeniem masowej inwigilacji obywateli. Żeby temu zapobiec, KE musi wprowadzić „wyraźny zakaz zbiorowego wykorzystywania danych biometrycznych” zarówno przez organy ścigania i administrację krajową, jak i firmy prywatne, np. banki.
Apel dotyczy również zakazu stosowania technologii AI przy kontrolach granicznych oraz przez urzędy migracyjne. Jak donosi EDRi, sztuczna inteligencja często testowana jest na unijnych granicach jako narzędzie do wykrywania kłamstw we wnioskach imigracyjnych czy do wykrywania za pomocą analizy głosu oszustw w testach językowych.
– Żadna z tych metod nie ma wiarygodnych podstaw naukowych – twierdzi EDRi.
– Unijna polityka migracyjna coraz bardziej opiera się na systemach sztucznej inteligencji, takich jak rozpoznawanie twarzy, wykorzystywanie algorytmów przy tworzeniu profili imigrantów czy jako narzędzia prognostyczne w procesach zarządzania migracjami, w tym planowania przymusowych deportacji. Taki przypadki użycia technologii mogą naruszać prawo do ochrony danych, prywatności, prawo do niedyskryminacji oraz kilka zasad międzynarodowego prawa migracyjnego, w tym prawo do ubiegania się o azyl – piszą autorzy listu. I apelują do Komisji o wprowadzenie zakazu lub nałożenia moratorium na stosowanie zautomatyzowanych systemów przy kontroli granic i migracji, przynajmniej do czasu, gdy zostaną one poddane rzetelnej i niezależnej analizie pod kątem ich zgodności z międzynarodowymi standardami praw człowieka.
Algorytm do przewidywania przestępczości
Zdaniem aktywistów, niepokojące jest również wykorzystywanie technologii przy przyznawaniu mieszkańcom UE benefitów społecznych. Dzisiaj zdarza się, że np. zdolność kredytowa obywatela albo jego prawo do zasiłku społecznego oceniane są za pośrednictwem zautomatyzowanych systemów. Zdaniem organizacji grozi to dyskryminacją niektórych grup społecznych, np. osób bezrobotnych lub z niepełnosprawnościami.
– Nowe przepisy muszą ograniczyć wdrażanie systemów AI, które bezprawnie naruszają dostęp obywateli do praw i korzyści społecznych – argumentuje EDRi.
Autorzy listu chcą też zakazu dla stosowania oprogramowania opartego na technologii AI do przewidywania przestępczości (ang. predictive policing). Chodzi o wykorzystywanie np. przez policję algorytmów, które mają pomóc w określeniu, gdzie z dużym prawdopodobieństwem dojdzie do przestępstwa, kto je popełni i jakiego rodzaju naruszenie prawa to będzie. Aktywiści alarmują, że tego rodzaju metody mogą prowadzić do dyskryminacji uboższych dzielnic lub określonych grup społecznych np. mniejszości etnicznych, co z kolei może przełożyć się na ich nadmierny monitoring i zwiększać ich poczucie wykluczenia społecznego. Podobnie wygląda sytuacja w wykorzystywaniem technologii w systemach sądowniczych, gdzie ta stosowana jest np. do przewidywania ryzyka związanego z recydywą osadzonych.
– Wymienione przez nas przykłady pokazują, że Unia Europejska potrzebuje w 2021 r. ambitnych przepisów o sztucznej inteligencji, takich które zagwarantują obywatelom ich prawa i wolności – napisali sygnatariusze listu.
Odzyskać twarz
W styczniu Europejska Koalicja na Rzecz Praw Cyfrowych zarejestrowała Europejską Inicjatywę Obywatelską pod hasłem „Odzyskaj swoją twarz” (ang. Reclaim Your Face), której celem jest walka o zakaz wykorzystywania technologii rozpoznawania twarzy w przestrzeni publicznej. Kampania oficjalnie ruszy w połowie lutego, od tego momentu organizacja będzie miała rok na zebranie jednego miliona podpisów obywateli z co najmniej jednej czwartej państw członkowskich UE. Wówczas Komisja Europejska będzie zobowiązana potraktować petycją jako proponowany akt prawny.