Stereotipe seksiste tek Google

"Google Images" i jep fytyrë botës: Kush do të shohë si duket ai apo ajo do të futet në kërkim në google njëherë. Një hulutim i Deutsche Welles arrin në konkluzionin, se në çfarë rezultatesh të shtrembëruara të çojnë algoritmet e gjigandit kërkimor. Gazetaret e gazetarët e Deutsche Welles kanë analizuar më shumë se 20.000 pamje dhe faqe web-i. Rezultati: Kërkimet e fotove në anglisht me fjalëkyçe si "femra braziliane", "femra domenikane", "femra tajlandeze", "femra ukrainase" të çojnë më shumë në pamje vajzash të reja në poza dhe veshje provokuese, se sa kërkimi në Google për "femra amerikane". Kurse po të kërkosh për "femra gjermane" dalin më shumë pamje sportistesh dhe politikanesh. Ky është një model që kuptohet menjëherë, sepse e konfimojnë kërkimet e thjeshta. Por analizimi i rezultateve është më i vështirë. Përcaktimi i asaj, se çfarë e bën një pamje seksiste, natyrisht që është subjektive dhe varet nga konteksti kulturor, moral dhe social.

Çfarë e bën një pamje provokuese?

Për të klasifikuar mijëra pamje, analiza e DW-s u mbështet në mekanizmin e vetë Google-it "Cloud Vision Safesearch", një aplikacion i inteligjencës artificiale. Ky software përpunues pamjesh është i programuar që të dallojë pamje me një përmbajtje të caktuar. Google e përdor atë për të shenjuar pamje "provokuese" me veshje seksi, ku lakuriqësia e fshehur me strategji ekspozohet me poza provokative. Po ashtu identifikohen edhe pamje të pjesëve të caktuara të trupit. Në kërkimin me fjalëkyçin gra domenikane apo braziliane, google ofroi deri në 40% pamje provokuese. Rezultati i i kërkimit me fjalëkyçin gra amerikane ka nxjerrë vetëm 5% pamje të tilla, kërkimi me fjalëkyçin gra gjermane vetëm 4%.

Pëdorimi i algoritmeve të tillë është i kontestuar, sepse përdorimi i programeve të tillë kompjuterikë i nënshtrohet, ndoshta edhe më shumë, paragjykimeve apo diktateve të ndryshme kulturore se sa syri njerëzor. Në një moment tjetër ky software i posaçëm ka prodhuar rezultate raciste. Inteligjenca artificiale e Google që punon si një sistem i mbyllur mund të rezultojë në shtrembërime në rezultate. Nga ana tjetër verifikimi mekanik i pamjeve që Cloud Vision i kategorizoi si pamje eksplicite, tregoi se rezutati ia vlejti: Ato janë një vështrim se si teknologjia e vet Google vlerëson pamjet që tregohen nga programi kërkues.

Linqe për faqe të caktuara web-i

Çdo pamje që tregon rezultatet të çon në të njëjtën kohë në faqe web-i që e kanë publikuar në fillim atë. Shumë nga këto faqe ofrojnë pamje që i reduktojnë femrat si objekt seksi. Femrat latine apo ato nga Europa Lindore tregohen në bazë të klisheve për to.  Për të gjetur se sa rezultate fotosh të çojnë në faqe të tilla, u fut si shtesë në përshkrimin e shkurtër që del nën foton e rezultuar edhe fjalëkyçi "dating", "seks", apo "të nxehta". Të gjitha faqet që kishin të paktën një nga këto fjalëkyçe, u panë në mënyrë mekanike, nëse kishin vërtet përmbajtje seksiste. Rezultatet treguan se si femrat nga disa vende reduktohen tërësisht në objekte seksuale. Nga 100 rezultate të kërkimit për "gra ukrainase", 61 prej tyre të çonin me link në faqe me përmbajtje të tilla.

Stereotipet përforcojnë rezultatet e web-it

Fjalëkyçet janë shumë të rëndësishme, por ato nuk tregojnë të gjithë historinë. Një pjesë e madhe e rezultateve gjendet në faqe interneti me adresa si "toprussianbrides.com", "hotlatinbrides.org", "topasiabrides.net". Këto oferta premtojnë të lidhin meshkujt me femra nga kombësi të caktuara. Shpejt bëhet e qartë se klientë janë burra perëndimorë që ose kërkojnë një grua të huaj të nënshtruar, ose një partnere për seks.

Stereotipet ekzistuese ndikojnë, sipas profesores për studime multikulturore, Sirijit Sunanta në Universitetin e Bangkokut Mhidol në mënyrën si femrat tajlandeze paraqiten në internet. "Tajlanda konsiderohet si një botë Disney për prostitucionin dhe turizmin e seksit. Kjo vazhdon në internet përmes programeve të kërkimit", thotë Sunanta për Deutsche Wellen. "Nëse stereotipet lidhen me femrat e një kombësie, ato janë të dëmshme. E redukton kompleksitetin e femrave, kudo gratë janë ndryshe."

Një çështje e gjuhës

Edhe gjuha e përdorur në kërkime mund të ndikojë në rezutate. Nëse kërkon në anglisht "brazilian women" apo në portugalisht "mulheres brasileiras", që është ekzaktësisht e njëjta gjë, atëherë Google ofron përmbajtje të ndryshme të seksualizuara. Në kërkimin në anglisht 41 nga 100 pamje janë provokuese, nëse kërkon në gjuhën portugeze kjo shifër reduktohet në 9. "Të dhënat, me të cilat ushqehen algoritmet reflektojnë perceptimet, paragykimet dhe modelet e konsumit të vetëm një pjese të njerëzimit", thotë Renata Avila, studiuese në Institutin e Universitetit të Stanfordit për "Human-Centered Artificial Intelligence". "Këto paragjykime nuk mund të lidhen vetëm me teknologjinë, por edhe me faktorë kulturorë. Femrave të nacionaliteteve të caktuara u jepet rol seksual dhe ofruese shërbimesh nga një kulturë burrash, anglishfolës." Sipas Avilas këto nuk janë raste të vetme, por pjesë e një problemi më të thellë sistemik. Algoritmet "fair" nuk shkojnë me modelin e biznesit të koncerneve "big-tech", sepse bëhet fjalë të grumbullosh të dhëna dhe të rrisësh xhiron e fitimit.

Joana Varon, avokate braziliane dhe themeluese e institutit "Coding Rights" thotë, se algoritmet kanë tendencën të riprodhojnë ato përmbajtje që janë shumë të përhapura online. Ajo kërkon më shumë mbikqyrje, transparencë dhe konkurrencë. "Nuk duhet të ketë monopole për shërbimet. Koncernet e mëdha teknologjike duhet të rregullohen." Në të njëjtën kohë duhen futur më shumë algoritme që nuk i shërbejnë  gjithmonë të njëjtës paradigmë.

Deutsche Welle i ofroi zyrës së shtypit të Google një liste me pyetje për çështjen e algoritmit të fotove. Koncerni nuk i përgjigj në mënyrë të detajuar pyetjeve, por dorëzoi një shpjegim, ku theksohet se rezultate e kërkimit vërtet tregojnë "përmbajtje të caktuara apo shqetësuese", "përfshirë rezultate që reflektojnë stereotipe negative apo paragjykime që ekzistojnë në internet." Google thekson se ky është problem, sepse ka "pasoja jo të njëjta për femrat dhe femrat me ngjyrë."