Як Google закріплює сексистські стереотипи

Google Images - це публічне обличчя світу. Якщо ти хочеш побачити, як щось виглядає, ти, мабуть, просто гуглиш. DW проаналізувало дані, отримані завдяки дослідженню 20 тисяч зображень та сайтів, та знайшло упередженість, притаманну алгоритмам пошукового гіганта.

Пошук зображень за запитами "бразильські жінки", "тайські жінки" чи "українські жінки", наприклад, демонструють результати, які ймовірніше будуть більш провокативними, ніж результати, які видаються за запитом "американські жінки" - до такого висновку можна дійти використовуючи програмне забезпечення для аналізу зображень, створене самим Google.

Так само після пошукового запиту "німецькі жінки" ви, вірогідно, побачите більше зображень політикинь та спортсменок. А ось пошук домініканських чи бразильських жінок видасть результат із рядків, вщерть заповнених фото молодих дівчат у купальниках та сумнівних позах.

Ця закономірність помітна неозброєним оком і може бути підтверджена простим пошуком за цими запитами. Втім виміряти та проаналізувати результати кількісно трохи важче.

Читайте також: Як у Німеччині забороняють сексистську рекламу

Що робить зображення жінки провокативним?

Саме визначення того, що робить фото сексуально провокативним є суто суб'єктивним та чутливим до культурних, моральних та соціальних упереджень.

Аби класифікувати тисячі зображень, DW скористалась програмою Cloud Vision SafeSearch - розробленим Google інструментом штучного інтелекту, який налаштовано таким чином, аби розпізнавати сексуалізований та інший чутливий контент. Йдеться про так званий "комп'ютерний зір". Цей інструмент використовується для того, аби знаходити та позначати зображення, що ймовірно є "провокативними".

За власним визначенням Google, зображення, яке позначається таким чином, "може містити (але не обмежується виключно цим переліком) скупий чи прозорий одяг, стратегічно прикриту оголеність, непристойні чи провокативні пози, а також крупні плани чутливих ділянок тіла".

У країнах на кшталт Домініканської Республіки та Бразилії більше 40 відсотків зображень у результатах пошуку вірогідно будуть провокативними. Для порівняння, ця частка для США складає чотири відсотки, а для Німеччини - п'ять відсотків.

Використання таких алгоритмів само по собі є суперечливим, оскільки цей вид комп'ютерних програм не менш, якщо навіть не більш чутливий до упереджень та культурних обмежень, ніж людина. Наприклад, Google Vision Cloud уже сам видавав расистські результати.

Оскільки система комп'ютерного зору Google працює фактично як своєрідна "чорна скринька" - ніхто точно не може сказати, як саме функціонує алгоритм, - це створює простір для того, аби ще більше упереджень могли вплинути на кінцевий алгоритм. 

Втім, після аналізу всіх зображень, позначених Cloud Vision як вірогідно провокативні, в ручному режимі, ми вирішили, що отримані результати, все одно, можна вважати корисним. Вони демонструють, як один з продуктів Google класифікує зображення, що видає його пошуковик.

Фото ведуть на сайти, які представляють жінок як об'єкт

Кожне зображення, що з'являється на сторінці видачі пошукових результатів, веде на сайт, де воно розміщене. Навіть якщо в деяких випадках фото жінок на перший погляд не мали нічого спокусливого, чимало сторінок, де вони опубліковані, місять контент, котрий відверто представляє жінку як сексуальний об'єкт. На цих сайтах латиноамериканські жінки, а також жінки зі Східної Європи та Східної Азії зображені стереотипно.

Аби визначити, скільки результатів ведуть на подібні сайти, було проскановано короткі описи, які з'являються під зображенням на сторінці видачі результатів. Ми шукали такі слова як "одруження", "побачення", "секс" та "найгарячіші". Усі сайти, які містили хоча б одне з цих ключових слів, вручну перевірялися, аби підтвердити припущення, що вони містять сексистський контент, який зазвичай передбачає використання таких термінів.

Результати продемонстрували, що жінки з деяких країни представлені майже винятково як сексуальні об'єкти. З перших 100 результатів пошуку зображень за запитом "українські жінки" 61 картинка вела до сайтів з подібним контентом.

Подібні результати були отримані й при пошуку зображень жінок з таких країн, як Чехія, Молдова та Румунія. Цей тренд було зафіксовано і для жінок з Південної Америки та Південно-Східної Азії.

Хоча контент, що представляє жінок як сексуальний об'єкт, було знайдено і при пошуку зображень зі Західної Європи, у цих випадках він трапляється значно менше. Зі 100 результатів видачі за запитом "німецькі жінки", наприклад, лише 16 були класифіковані як умовно сексистські. Для французьких жінок показник був на рівні шести відсотків.

Соціальні стереотипи підживлюють сексистські алгоритми

Але одні лише ключові слова, якими б красномовними вони не були, не розповідають всієї історії. Значна частка фотографій, запропонованих пошуковиком, розміщені на сайтах під назвами на кшталт "toprussianbrides.com," "hotlatinbrides.org" and "topasiabrides.net".

Більшість з цих сторінок позиціонують себе як міжнародні шлюбні агентства, або так звані сервіси "наречених поштою", які обіцяють чоловікам за гроші познайомити їх з жінками певних національностей. Інші пропонують стереотипні інструкції для побачень з жінками з певним культурним бекграундом та оглядом нішевих мобільних додатків для знайомств.

Ближче знайомство із контентом, який вони публікують дає, однак, чітке розуміння, хто є їхньою цільовою аудиторією: західні чоловіки, котрі шукають або покірну дружину з-за кордону, або партнерку для сексу. "Якщо ти здебільшого мав справу із західними жінками, які передусім орієнтовані на кар'єру, тоді стосунки з українською дружиною будуть для тебе зовсім іншими", - йдеться на одному з таких сайтів, який з'являється у першому рядку із результатами відповідного запиту в Google.

Тамара Злобіна, головна редакторка українського журналу "Гендер в деталях", каже, що подібні уявлення, вірогідно, пов'язані із феноменом який особливо гостро проявився в Україні у 1990-их роках. "Після розпаду Радянського Союзу Україна була надзвичайно бідною країною. Багато жінок поїхали до Західної Європи, намагаючись заробити гроші для своїх родин", - розповідає вона, додаючи, що ця реальність почала швидко змінюватися із покращенням економічної ситуації та освітніх і кар'єрних перспектив для жінок.

"Я б хотіла бачити дипломаток, політикинь, революціонерок, жінок, які борються на війні на наших кордонах… У нас багато чудових жінок. Ми мали б бачити це, а не лише цей ринок наречених".

За словами професорки Сіріджит Сунанти з Університеті Махідол у Бангкоку, яка спеціалізується на дослідженні мультикультуралізму, стереотипи, що зустрічаються у реальності, впливають і на віртуальне відображення тайських жінок в інтернеті. "Таїланд вважається таким собі диснейлендом проституції та секс-туризму. Це впливає і на інтернет, коли ви шукаєте щось у Google, - каже вона.

Як мова впливає на видачу Google

Також мова пошукового запиту може впливати на результати пошуку. Якщо у пошуку задати англійською "brazilian women", а потім - португальською "mulheres brasileiras", то помітиш разючу відмінність щодо сексуальності запропонованого пошуковою машиною контенту. При цьому обидва словосполучення означають одне й те саме - "бразильські жінки". У першому випадку 41 зі 100 фотографій позначена як провокативна. Але ця цифра зменшується до дев'яти, якщо той самий запит ввести португальською мовою. Подібна різниця помітна і при порівнянні запитів іншими регіональними мовами.

"Дані, якими "годуються" алгоритми, відображають сприйняття, упередження та закономірності поведінки споживачів дуже обмеженої кількості людства", - каже експертка зі штучного інтелекту Рената Авіла зі Стенфордського університету. "Нічого дивного, що пошукові сервіси повторюють упередження, котрі мають не тільки технологічну причину, а радше культурну. У чоловічій англомовній культурі жінкам певних національностей відводиться сексуальна роль та роль прислуги", - додає вона.

Ширша проблема расизму та сексизму

В одному експерти одностайні - все це не окремі випадки. Йдеться про частину глибшої та системної проблеми. Авіла вважає, що більш чесні алгоритми несумісні із нинішньою бізнес-моделлю великих технологічних компаній, які зацікавлені взборі данихта збільшенні споживання інформації.

Подібної думки дотримується й Джоана Варон, засновниця аналітичного центру Coding Rights. Вона звертає увагу на те, що пошуковики схильні репродукувати той контент, який уже є поширеним в інтернеті. А білі чоловіки з розвинених країн мають більше доступу до інструментів та стратегій, необхідних для публікації контенту, який, у свою чергу, стимулює перегляд цих сторінок, додала Варон.

"Якщо алгоритм не робить нічого, аби компенсувати це, він буде здебільшого расистським, сексистським, патріархальним", - каже експертка, додаючи, що "комерційні алгоритми та сервіси, котрі їх використовують, мають нести відповідальність за те, що вони демонструють, оскільки вони підсилюють світогляд пригноблення у пошуковому сервісі, який став універсальним".

Для неї можливим виходом з цієї ситуації могло б стати посилення нагляду, прозорості та конкуренції: "Нам не потрібні величезні монополії, які забезпечують усі сервісі. Великі технологічні компанії мають бути регульованими. Водночас необхідно підтримувати альтернативні інструменти, котрі, однак, не походять з тієї ж самої парадигми".

Авіла додає: "Є потреба у новому способі створення технологій. Один з початкових моментів, який відрізняється від бачення Кремнієвої долини, - це прозорість та підзвітність". Авіла вірить, що за активної участі розмаїтого, глобального товариства можна знайти нові рішення. 

DW надіслала до пресслужби Google перелік запитань щодо упередженої роботи пошуку зображень, але компанія не надала докладної відповіді. Натомість компанія Google надіслала заяву, в якій визнала, що пошукові результати демонстрували "відвертий чи чутливий контент (…), включно з результатами, що відображають негативні стереотипи та упередження, котрі існують у мережі". Це, як ідеться далі в заяві, є проблемою, оскільки "неоднаково впливає на жінок та жінок кольору".

Компанія стверджує, що на появу такого типу контенту в результатах пошуку впливає те, яким чином інформація у інтернеті є організованою та маркованою. У Google заявили, що працюють над пошуком "масштабованих рішень" для цих проблем, але не розкрили подробиць, у чому ця робота полягає.

Для того, аби ознайомитися з повною заявою Google, даними, кодом та методологією, що стоїть за цим аналізом, дивіться цей репозиторій на GitHub.