ইন্টারনেটও যখন বৈষম্য করে

অনলাইনে ‘অফিস কর্মী'-র খোঁজ করলে বদ্ধমূল ধারণাগুলিই আরও পোক্ত হয়৷ অফিস কর্মী মানেই নারী৷ অন্তত অ্যালগোরিদম তাই মনে করে৷ সিইও বা কোম্পানির প্রধান মানেই পুরুষ, নার্স মানেই নারী৷ প্রচলিত অনুবাদ সফটওয়্যারও শব্দগুলির এমন মূল্যায়ন করে৷

বিভিন্ন পেশা সংক্রান্ত নিরপেক্ষ শব্দগুলিকে একটা ছাঁচে ফেলে দেয় ডিজিটাল জগত৷ যেমন ফিনিশ ভাষায় শব্দের লিঙ্গভেদ নেই৷ তা সত্ত্বেও ‘বেবিসিটার' শব্দটিকে ‘শিশুর দেখাশোনা করে, এমন এক নারী' হিসেবে তুলে ধরা হয়৷ জয়ী মানেই পুরুষ৷ সেক্রেটারি মানেই নারী৷ বস অবশ্যই পুরুষ৷

দৈনন্দিন জীবনে অ্যালগোরিদমের এই একপেশে মনোভাবের মারাত্মক পরিণতি দেখা যায়৷ যেমন চাকুরি খোঁজার ক্ষেত্রে৷ এক মার্কিন বিশ্ববিদ্যালয়ের গবেষণায় দেখা গেছে যে, পুরুষদের তুলনায় নারীদেরই কম বেতনের চাকুরি খোঁজার পরামর্শ দেওয়া হয়৷

তবে কাটারিনা ইয়ারমুল মনে করেন, দোষটা মোটেই অ্যালগোরিদমের নয়৷ মানুষই সেই অ্যালগোরিদম প্রোগ্রাম করে ও তাতে তথ্য ভরে দেয়৷ তিনি বলেন, ‘‘মেশিন লার্নিং প্রক্রিয়া কাজে লাগিয়ে আমরা প্রশিক্ষণ দেই বলেই অ্যালগোরিদম শিক্ষা নেয়৷ নিউরাল নেটওয়ার্কের মাধ্যমে ‘ডিপ লার্নিং' হোক, অথবা ‘শ্যালো মেশিন লার্নিং' হোক, তার ফল একই হয়৷ তথ্য ভরে আমরা তাকে মত স্থির করতে বলি৷ কিন্তু তথ্যের মধ্যে যদি বিভিন্ন গোষ্ঠীর প্রতি অন্যায়ের ছাপ থাকে, তার ভিত্তিতেই অ্যালগোরিদম মনস্থির করবে৷''

যেমন অনুবাদ সফটওয়্যার৷ লক্ষ লক্ষ টেক্সট শিখে সেই সফটওয়্যার সঠিক শব্দ বাছাই করে৷ কিন্ডারগার্টেনের প্রসঙ্গে যদি শিক্ষকের তুলনায় শিক্ষিকাদের কথা বার বার উঠে আসে, তখন অ্যালগোরিদম সেটিকেই স্বাভাবিক হিসেবে ধরে নেয়৷

ছবি শনাক্ত করার অ্যালগোরিদম ছবির বিশাল তথ্যভাণ্ডার থেকে শিক্ষা নেয়৷ সেখানে রান্নাঘরে পুরুষদের তুলনায় নারীদের ছবির সংখ্যা অনেক বেশি৷ ফলে অ্যালগোরিদম রান্নাঘরের সঙ্গে নারীদের যোগাযোগ স্থাপন করে৷

আরেকটি সমস্যা হলো অ্যালগোরিদম প্রচলিত জ্ঞানকে আরও জোরদার করে৷ তার মাত্রা এমন এক পর্যায়ে যেতে পারে, যে অ্যালগোরিদম পুরুষকে নারী হিসেবে শনাক্ত করে৷ এই প্রক্রিয়ার মোকাবিলা করা অত্যন্ত কঠিন ও সময়সাপেক্ষ৷ কাটারিনা ইয়ারমুল বলেন, ‘‘তাদের তথ্যের সব উৎস জানা একটি গুরুত্বপূর্ণ বিষয়৷ অনেক সময় জুড়ে প্রচুর তথ্য সংগ্রহ করলে সচেতনভাবে সেগুলি একবার একাধিক মানুষকে দিয়ে খতিয়ে দেখা উচিত৷ তাতে কোনো গোষ্ঠীর বিরুদ্ধে অন্যায় বা ক্ষতিকর কিছু পেলে সরিয়ে দেওয়া উচিত৷''

অ্যালগোরিদমের কোড বেশিরভাগ ক্ষেত্রেই চরম গোপনীয়তার বেড়াজালে থাকে৷ তাই কোনো অ্যালগোরিদম অন্যায় আচরণ বা বৈষম্য করছে কিনা, তা প্রমাণ করা কঠিন৷ টেমিস নামের এক সফটওয়্যার অ্যালগোরিদম পরীক্ষা করে বৈষম্য শনাক্ত করতে পারে৷ ভুয়া অ্যাকাউন্ট সৃষ্টি করে সেটি আচরণ যাচাই করে প্রাথমিক তুলনা করে৷ লিঙ্গ ছাড়া সেই সব অ্যাকাউন্ট হুবহু আসলের মতো৷ কাটারিনা ইয়ারমুল বলেন, ‘‘জবাবদিহিতা, স্বচ্ছতা ও সততা মেশিন লার্নিং-এর ভবিষ্যৎ৷ অ্যালগোরিদমকে বিশ্বস্ত করে তুলতে হবে৷ সেটি কীভাবে কাজ করে, কী প্রশিক্ষণ দেওয়া হয় – মানুষকে এই সব প্রশ্ন করার অনুমতি দিতে হবে৷''

অ্যালগোরিদম যে একপেশে আচরণ করতে পারে, এ বিষয়ে এক সামাজিক সচেতনতা গড়ে তুলতে হবে৷ সেইসঙ্গে চাই মানুষের নিয়ন্ত্রণ৷

কিয়ো ড্যোরার/এসবি