Gjueti kundër vulgaritetit në internet

"Kush do t'i prishet humori, duhet të shkojë në internet, dhe të lexojë komentet e lexuesve të mediave”, thotë autorja gjermane Ronja von Rönne në bisedë me Deutsche Wellen. Rönne e njeh këtë nga përvoja. Një artikull i saj kundër feminizmit në gazetën "Die Welt" solli një "shitstorm"- stuhi negative reagimesh kundër saj. Në të ardhmen teknika mund ta ndihmojë atë. Jigsaw, filial i Google ka nxjerrë në treg një software për të verifikuar menjëherë komentet me gjuhë urrejteje në internet.

"Perspective" synon që me ndihmën e algoritmeve të kategorizojë komentet – sa përmbajtje urrejtjeje kanë, sa fyese apo lënduese janë. Në sfond një bazë të dhënash me komentet e dhëna më parë nga njerëzit. Ky software orientohet tek kjo bazë të dhënash dhe jep për çdo koment një vlerë që thotë se sa komente të përafërta vlerësohen si problematike nga përdoruesit.

Programi i Google ka qasje në 17 milionë komente të kategorizuara. Një pjesë vjen nga Wikipedia, shumica janë dhënë nga "New York Times".  Johannes Merkert, nga revista informatike C'T thotë se "sistemi jep të dhëna statistikore për frekuencën e përdorimit të fjalëve të caktuara”. Në bazë të kësaj përllogaritet nëse komenti është fyes apo ofendues me ndërgjegje.

Sa helmues jam unë?

Sipas Jigsaw ky program tërheq vëmendjen e moderatorëve për komentet që dyshohen për gjuhë të urrejtjes. Komentuesit që në procesin e shkruarjes së komentit marrin një sinjal se sa "helmues” është komenti i tyre. Menaxheri i programit, Jared Cohen thotë se "Perspective" i kalon kufijtë e krahasimit me një listë nocionesh dyshuese. Inteligjenca artificial dallon, edhe nëse një koment vlerësohet si i papërshtatshëm nga përdoruesi, i cili e braktis komunikimin.

Ky shërbim është fillimisht në funksion të forumeve të diskutimit në gjuhën angleze. Në mediat online programi shihet si një ndihmesë, sidomos kur rrjeti përmbytet me komente fyese si në rastet e komentimit të politikës së refugjatëve apo rrymave populiste. Redaktorët nuk arrijnë të fshijnë dot për shkak të numrit të lartë të komentimeve.

Programim mund të ketë efekt pozitiv edhe për zgjedhjet e ardhshme, thotë Alexander Waibel nga Instituti gjerman i Karlsruhes për Teknologjinë. "Përmes komenteve është synuar të ndikohen zgjedhjet dhe të dalin nga kontrolli debatet. Por kush ka kohë ta ndjekë të gjithë këtë?”

Megjithatë eksperti i kompjuterit, Merkert ka dyshime për programin. "Perspective" ka një kuotë të lartë saktësie, por ndryshe nga një moderator pra dora e njeriut, ai nuk mund të kuptojë tekstin në përmbajtjen e plotë. "Kjo do të thotë që ekziston mundësia që me një formulim të pazakontë ta çorientosh sistemin. Në raste të caktuara madje ky program tregon, se një koment konstruktiv mund të ishte i dëmshëm apo e kundërta", thotë Meckert. Edhe gabimet në sistem mund të kthehen në problem. Ndryshe nga dora e njeriut, programi është rregullisht në funksionim. "Kur sistemi në një pikë të caktuar gabon, kjo përkthehet në një gabim milionësh."

Meckert paralajmëron edhe nga censura. "Nuk sjell ndonjë ndryshim të madh tek liria e shprehjes, por ekziston edhe rreziku i rehatisë me sistemin, e nuk vihet më në dyshim, nëse sistemi bën gabime." Vende si Kina i përdorin ndërkohë algoritme të tilla për të kontrolluar lirinë e mendimit. "Edhe aty njerëzit përdorin formulime të tjera për t'i shpëtuar cenzurës."