Bias dan Stereotip Tampilan Perempuan di Google Image

Perangkat lunak pencari gambar yakni Google Image adalah wajah publik dari segala hal: jika Anda ingin melihat bentuk atau gambar sesuatu, tinggal ketik di Google. Namun hasil investigasi berbasis data oleh DW, yang menganalisis lebih dari 20.000 gambar dan situs web, mengungkapkan bias yang melekat dalam algoritma di raksasa mesin pencari ini.

Penelusuran gambar untuk kata kunci “perempuan Brasil", “perempuan Thailand”, atau “perempuan Ukraina", misalnya, menunjukkan hasil yang lebih cenderung "tidak senonoh" bila dibandingkan dengan hasil yang muncul saat mencari dengan kata kunci “perempuan Amerika”. 

Demikian pula saat menggunakan kata kunci pencarian “perempuan Jerman”, Anda kemungkinan besar akan melihat lebih banyak foto politisi atau atlet. Sementara pencarian untuk perempuan Dominika atau Brasil, akan menampilkan deretan perempuan muda mengenakan pakaian renang atau dalam posisi seksual.

Mengapa hasil pencarian gambar perempuan negara tertentu cenderung vulgar?

Definisi tentang apa yang membuat sebuah citra disebut merangsang secara seksual pada dasarnya sangat subjektif dan peka terhadap bias budaya, moral, dan sosial.

Untuk mengklasifikasikan ribuan gambar tersebut, analisis DW mengandalkan Cloud Vision SafeSearch milik Google. Ini adalah perangkat lunak computer vision yang dilatih untuk mendeteksi gambar yang mungkin berisi konten seksual atau provokatif. Lebih khusus lagi, perangkat ini digunakan untuk menandai gambar yang cenderung cabul atau berkesan vulgar. 

Menurut definisi Google sendiri, gambar yang diberi penanda seperti itu "dapat mencakup (namun tidak terbatas pada) pakaian minim atau tipis, ketelanjangan yang ditutupi secara strategis, pose cabul atau provokatif, atau menutup area tubuh yang sensitif".

Dari hasil pencarian negara-negara seperti Republik Dominika dan Brasil, terungkap bahwa lebih dari 40% gambar yang muncul cenderung bersifat tidak senonoh. Sebagai pembanding, hanya 4% gambar seperti itu muncul saat DW melakukan pencarian dengan kata kunci “perempuan Amerika” dan 5% untuk “perempuan Jerman”.

Penggunaan algoritma seperti ini dinilai kontroversial, karena program komputer jenis ini cenderung mengikuti berbagai bias dan batasan budaya.

Tautan ke laman yang anggap perempuan sebagai objek

Tidak hanya para perempuan asal Amerika Latin yang menjadi objek domestifikasi dan stereotip, tetapi juga perempuan dari Eropa Timur dan Asia Tenggara. Deskripsi singkat yang muncul tepat di bawah gambar di galeri hasil penelusuran umumnya adalah kata-kata seperti "menikah," "berkencan," "seks", atau "terpanas".

Hasil pencarian juga mengungkapkan bagaimana mesin pencari tersebut mereduksi para perempuan dari negara tertentu nyaris sebagai objek seksual seutuhnya. Contohnya, dari 100 hasil penelusuran laman pertama yang ditampilkan untuk pencarian dengan kata kunci "perempuan Ukraina", ada sebanyak 61 gambar termasuk konten yang menjadikan perempuan sebagai objek seksual.

Hasil serupa juga ditemukan saat mencari gambar perempuan dari negara-negara seperti Republik Ceko, Moldova, dan Romania, dan negara-negara Amerika Selatan dan Asia Tenggara.

Stereotip sosial picu hasil pencarian di internet

Sebagian besar laman internet yang menampilkan gambar-gambar perempuan sebagai objek ini menyebut diri mereka sebagai agen pernikahan internasional atau layanan mail-order bride yang menjanjikan untuk menghubungkan para lelaki dengan perempuan dari kebangsaan tertentu dengan biaya tertentu. 

Melihat lebih dekat pada jenis konten yang mereka publikasikan, jelas sekali bahwa target audiens mereka adalah pria barat yang mencari istri yang submisif atau pasangan seksual dari negara asing.

"Jika Anda kebanyakan berurusan dengan perempuan Barat, yang terkenal berorientasi pada karier, maka hubungan dengan pengantin perempuan dari Ukraina akan terasa sangat berbeda bagi Anda," tulis salah satu situs web tersebut.

Tamara Zlobina, pemimpin redaksi majalah Ukraina Gender in Detail mengatakan bahwa penggambaran semacam ini tidak lepas dari fenomena umum yang terjadi di negaranya pada tahun 90-an, saat banyak perempuan pergi ke Eropa barat guna mencari uang. Namun keadaan kini telah jauh berubah berkat peningkatan mutu pendidikan.

"Saya lebih suka melihat para diplomat, politisi, revolusioner perempuan yang berperang dalam di perbatasan kami ... Kami punya banyak perempuan luar biasa,” ujarnya.

Sementara Profesor Sirijit Sunanta, dosen studi multikultural di Universitas Mhidol di Bangkok, Thailand, mengatakan bahwa hasil ini memengaruhi citra perempuan Thailand di internet.

"Thailand dipandang sebagai semacam Disneyland bagi prostitusi dan pariwisata seks. Ini juga berlanjut ke internet saat Anda melakukan Penelusuran Google," jelas sambil menambahkan bahwa stereotip tentang perempuan dari kebangsaan tertentu dapat berbahaya dan mengurangi kompleksitas mereka.

Masalah lebih luas dalam akuntabilitas algoritmik

"Data yang diasup ke algoritma mencerminkan persepsi, bias, dan pola konsumsi sampel terbatas manusia," menurut Renata Avila, dari Institut untuk Kecerdasan Buatan yang Berpusat pada Manusia di Stanford, Amerika Serikat.

"Tidaklah mengherankan bahwa mesin telusur meniru bias yang tidak eksklusif hanya pada teknologi, melainkan bias budaya. Para perempuan dengan kebangsaan tertentu dikelompokkan ke dalam peran seksual dan pelayanan oleh budaya lelaki berbahasa Inggris," tambahnya.

Para ahli juga cenderung setuju dengan satu hal: dalam masalah ini, tidak ada kasus yang terisolasi. Itu semua adalah bagian dari masalah yang lebih dalam dan lebih sistemik. Pendapat ini juga disetujui oleh Joana Varon, pendiri lembaga pemikir Coding Rights.

Varon mengatakan bahwa mesin pencari cenderung mereproduksi jenis konten yang tersedia secara luas secara online, dan pria kulit putih dari negara maju memiliki lebih banyak akses ke alat dan strategi yang diperlukan untuk mempublikasikan konten yang mendorong tampilan laman-laman semacam ini. 

"Jika sebuah algoritma tidak melakukan apa pun untuk mengimbangi hal ini, maka ini sebagian besar akan bersifat rasis, seksis, patriarkis," ujar Varon, menambahkan bahwa baginya, jalan keluar dari situasi ini adalah dengan melibatkan lebih banyak pengawasan, lebih banyak transparansi, dan lebih banyak persaingan di dunia mesin pencarian.

DW mengirimkan daftar pertanyaan tentang perilaku bias dari algoritma pencarian gambar ke kantor pers Google, tetapi perusahaan tidak menjawab secara terperinci.

Sebaliknya, Google mengirimkan pernyataan yang mengakui bahwa hasil penelusuran memang menunjukkan "konten eksplisit atau mengganggu (...), termasuk hasil yang mencerminkan stereotip dan prasangka negatif yang ada di web," sebuah masalah yang "berdampak berbeda pada perempuan dan perempuan kulit berwarna."

Perusahaan itu juga mengatakan bahwa jenis konten yang muncul di hasil pencarian dipengaruhi oleh cara pengaturan dan pelabelan informasi di internet dan mengklaim sedang bekerja untuk menemukan solusi terukur untuk masalah seperti itu, namun tidak memberikan rincian lebih lanjut. (ae/vlz)