Govor mržnje: kako dekodirati algoritme društvenih medija?

Problem je poznat, ali zasad nema pravog rješenja: rasističke ili seksističke uvrede, govor mržnje, ponekad čak i poticanje na nasilje - na društvenim mrežama kao što su Facebook, Twitteri Co. nerijetko vlada vrlo agresivna atmosfera.

Platforme se godinama ne koriste samo za zabavu i komunikaciju, već se zloupotrebljuju i za informacijske ratove, plasiranje lažnih vijesti i teorije zavjere ili mobilizaciju ekstremističkih skupina. Na videoplatformama kao što je TikTok, gdje su korisnici uglavnom mladi, često se širi sadržaj koji potiče poremećaje prehrane ili samoozljeđivanje.

Društveni mediji: više od mjesta za pohranu podataka

Reakcije providera na sve prigovore dosada su bile vrlo blage i suzdržane - iako po mišljenju stručnjaka i oni snose određenu odgovornost za sadržaje koji se tamo objavljuju. „Platforme nisu samo mjesta za pohranu podataka koje generiraju korisnici, već imaju i algoritamske sustave koji osiguravaju distribuciju tih sadržaja", kaže za DW Josephine Ballon iz neprofitne organizacije HateAid, koja pomaže žrtvama govora mržnje.

To znači da Facebook i druge platforme doduše s jedne strane nisu sami direktno odgovorni za sadržaj, ali su, s druge strane, zahvaljujući sofisticiranim algoritmima odgovorni za njegovu distribuciju. Ovi algoritmi su sustavi koji koriste prikupljene podatke kako bi odlučili koji sadržaj korisnici vide na platformama, a koji ne. Između ostalog, lajkovi i komentari mogu utjecati na prikaz, ali postoje i procesi koje je teško razumjeti izvana.

„Ti algoritmi nisu otvoreni i mi uglavnom pipamo u mraku pokušavajući shvatiti kako funkcioniraju", kaže Ballon. Međutim, dokumenti koje su objavili zviždači poput bivše zaposlenice Facebooka Frances Haugen pokazuju primjerice da Facebookovi algoritmi veću pozornost, pa time i viši ranking, daju polarizirajućim sadržajima – uključujući i one koji koriste govor mržnje. To za drušvo može imati razorne posljedice.

Cilj: cjelovita slika stanja

Sada EU pokušava shvatiti kao sve funkcionira i vidjeti što se može učiniti. Zakon o digitalnim uslugama (Digital Services Act, DSA) stupio je na snagu u studenom 2022. Cilj je bio uspostaviti jasnija pravila igre za internet – posebno za platforme s više od 45 milijuna korisnika unutar EU-a. Između ostalog, zakon propisuje da su provideri, dakle pružatelji usluga, dužni identificirati, analizirati i procijeniti sistemske rizike svojih proizvoda, uključujući i algoritamske sustave.

Zakon daje znanstvenim istraživačima proširena prava pristupa podacima glavnih platformi. Ubuduće će te kompanije jednom godišnje Komisiji EU-a morati podnijeti procjenu rizika s obzirom na štetne sadržaje – uključujući moguće protumjere. „Ono što u usporedbi s propisima koje smo već imali na nacionalnim razinama izdvaja DSA je element transparentnosti. Ovdje se po prvi put radi o stjecanju uvida u tehničko funkcioniranje platformi", objašnjava Ballon. „Naravno, već znamo puno na osnovi naših analiza i podataka zviždača, ali još nemamo cjelovitu sliku jer platforme i dalje taje mnoge podatke.”

Najprije analiza najvećih

U utorak (18.4.) je u Sevilli otvoren Europski centar za transparentnost algoritama (ECAT). Oko 30 informatičara, stručnjaka za obradu podataka i za umjetnu inteligenciju, te sociologa, savjetovat će Europsku komisiju o provedbi DSA-a i razmjenjivati ​​ideje s drugim stručnjacima. Njihov je cilj obrasce koje velike IT tvrtke koriste za preporuku sadržaja korisnicima učiniti transparentnijima.

Agencija će „najprije analizirati vrlo velike internetske platforme i tražilice kako bi vidjela kako rade njihovi algoritmi i kako doprinose širenju nezakonitog i štetnog sadržaja kojem su izloženi građani", navela je potpredsjednica Komisije Margrethe Vestager u priopćenju za javnost.

Kontrola samovolje internetskih divova

No jesu li napori EU-a dovoljni? „DSA je važan korak, jer se mijenja narativ i kaže: nismo bespomoćno prepušteni na milost i nemilost velikim tehnološkim firmama. Mi kao demokratsko društvo moramo biti u mogućnosti odlučiti što želimo uspostaviti kao okvirne uvjete kojih se platforme moraju pridržavati", rekla je za DW Angela Müller iz nevladine organizacije AlgorithmWatch. „Ne mislim da je DSA velika revolucija, ali je dobar i važan korak", kaže ona, a to pogotovo važi za zemlje EU-a koje do sada nisu imale nikakvu regulativu.

Sada treba pričekati i vidjeti kako će kompanije na to reagirati. „Uvjerena sam da će platforme pokušati pronaći sve moguće načine da oslabe svoje obveze", kaže Müller.

Pratite nas i na Facebooku, preko Twittera, na Youtubeu, kao i na Instagramu