বায়াস কোথা থেকে আসে: ডেটা, ডিজাইন, প্রক্সি ও ফিডব্যাক লুপ

কেউ ইচ্ছা না করলেও একটা AI টুল বিভিন্ন গোষ্ঠীর মানুষের সঙ্গে আলাদা আচরণ করতে পারে। "এই গোষ্ঠীকে খারাপভাবে দেখো" ধরনের কোনো নিয়ম কাউকে লিখতে হয় না। পার্থক্যটা আসতে পারে সিস্টেম যেসব উদাহরণ থেকে শিখেছে সেখান থেকে, সাফল্য কীভাবে মাপা হয়েছে সেখান থেকে, কারা বাদ পড়েছেন সেখান থেকে, কিংবা ফল যাঁরা যাচাই করেন তাঁদের কাছ থেকে। কোথায় তাকাতে হয় জানা থাকলে কারও ক্ষতি হওয়ার আগেই সমস্যাটা প্রায়ই চোখে পড়ে।

এই পাতা একটা মানচিত্র: কোথায় কোথায় বায়াস (পক্ষপাত) ঢুকতে পারে। এটা দৈনন্দিন AI নৈতিকতা: কারা উপকৃত হয় আর কাদের ক্ষতি হতে পারে পাতার সিদ্ধান্ত-কাঠামোর ওপর দাঁড়িয়ে: ধাপ ২ জিজ্ঞেস করে কারা প্রভাবিত, আর এই পাতা দেখতে সাহায্য করে কারা অসমানভাবে প্রভাবিত। এই কোর্সে বায়াস মানে বিভিন্ন গোষ্ঠীকে সিস্টেমের আচরণ বা সেবায় একটা নিয়মিত পার্থক্য। শব্দটার অর্থ এই নয় যে কোনো মানুষ কুসংস্কারী ছিলেন, আর একটা পার্থক্য নিজে থেকেই অন্যায্য কি না তাও এতে বলা হয় না। সেই বিচার পরের পাতায়।

যা শিখবেন

• ডেটার বায়াস আর সিদ্ধান্তের বায়াসের পার্থক্য, এবং বায়াস ঢোকার প্রধান জায়গাগুলো: ইতিহাস, কারা প্রতিনিধিত্ব পেয়েছে, পরিমাপ ও প্রক্সি, নির্বাচন, এবং মানুষ পর্যালোচক।
• সিস্টেমের নিজের আউটপুট কীভাবে তার ভবিষ্যৎ ডেটায় ফিরে এসে পার্থক্য বড় করতে পারে।
• ভাষা, উপভাষা, নাম, ঠিকানা ও সাংস্কৃতিক উল্লেখ কীভাবে চুপচাপ ফল বদলে দিতে পারে, আর অ্যাক্সেসিবিলিটির বাধা দেখতে কেমন।
• কেন একটা সামগ্রিক স্কোর ভালো দেখালেও একটা গোষ্ঠী খারাপ সেবা পেতে পারে, একটা ছোট হিসাবের টেবিলসহ।
• একটা নমুনা সিদ্ধান্তে বায়াসের তিনটা সম্ভাব্য উৎস খুঁজে বের করার ছোট চেকলিস্ট।

ডেটার বায়াস আর সিদ্ধান্তের বায়াস

ডেটা হলো কী ঘটেছে বা কেউ কী লিখে রেখেছে তার রেকর্ড। সিদ্ধান্ত হলো সেই রেকর্ড দিয়ে সিস্টেম, বা সিস্টেম ব্যবহারকারী মানুষ, কী করে। দুটো সম্পর্কিত কিন্তু এক নয়, আর দুটোই যাচাই করতে হবে।

দুটো সতর্কতা। প্রথমত, পক্ষপাতদুষ্ট ডেটা সব সময় পক্ষপাতী সিদ্ধান্ত তৈরি করে না: একটা টিম সেটা ধরে শুধরে নিতে পারে। দ্বিতীয়ত, দেখতে ন্যায্য ডেটা থেকেও অন্যায্য সিদ্ধান্ত হতে পারে, যেমন সিদ্ধান্তের নিয়ম এমন কোনো বৈশিষ্ট্য ব্যবহার করলে যা একটা গোষ্ঠীর বদলি হিসেবে কাজ করে। পরের অংশগুলোতে তা দেখানো হয়েছে।

বায়াস কোথায় ঢুকতে পারে

গবেষকেরা একটা মেশিন-লার্নিং সিস্টেমের জীবনচক্রে ক্ষতির কয়েকটা উৎস বর্ণনা করেছেন। এ নিয়ে প্রায়ই উদ্ধৃত একটা গবেষণাপত্র হলো ২০১৯ সালের সুরেশ ও গাটাগের একটা কাঠামো (arXiv প্রিপ্রিন্ট সার্ভারে প্রকাশিত)। এতে সাতটা উৎসের নাম আছে: ঐতিহাসিক, প্রতিনিধিত্ব, পরিমাপ, একত্রীকরণ, শেখা, মূল্যায়ন ও ব্যবহার-সংক্রান্ত বায়াস। এই পাতা সেগুলোর মধ্যে নতুনদের দৈনন্দিন কাজে চোখে পড়ার মতোগুলো নেয়, সঙ্গে দুটো প্রচলিত শব্দ যা গবেষণাপত্রে শিরোনাম হিসেবে নেই: নির্বাচন-বায়াস (selection bias) (অপ্রতিনিধিত্বমূলক নমুনার একটা প্রচলিত নাম, গবেষণাপত্রের প্রতিনিধিত্ব-বায়াসের কাছাকাছি) এবং মানুষ-পর্যালোচকের বায়াস। সঙ্গে ফিডব্যাক লুপের একটা সরল বর্ণনাও আছে। এখানকার ভাগগুলো আমাদের শেখানোর সুবিধার জন্য, কোনো স্ট্যান্ডার্ড নয়।

The world       ->  Data collected  ->  Labels and  ->  Model or   ->  Human      ->  Decision
(history,           (who is in it,      measures        rules         reviewer        and
 unequal access)     who is missing)    (proxies)                     (checks it)     outcome
        ^                                                                                |
        +----------------------- outcomes become tomorrow's data -----------------------+

ডায়াগ্রামটাকে চেকলিস্ট হিসেবে ব্যবহার করুন। প্রতিটা তীরের জন্য জিজ্ঞেস করুন: এখানে গোষ্ঠীর মধ্যে পার্থক্য ঢুকতে বা বড় হতে পারে কি না?

কাল্পনিক পরিস্থিতি:

Nadia manages admissions for a free evening skills course at a community college in Dhaka.
About 1,000 people apply each year. A tool reads each short application and marks it
"Invite to interview" or "Not now". It was set up using five years of past admissions.
Nadia's team reads every "Invite" and about one in ten "Not now" applications.

ঐতিহাসিক বায়াস

অতীতের রেকর্ড সঠিকভাবে সংগ্রহ করা হলেও তাতে পুরোনো অন্যায্যতার ছাপ থাকতে পারে। অতীতে কোর্সটা কোথায় বিজ্ঞাপন দিত তার কারণে যদি বেশির ভাগ ভর্তি হতো কয়েকটা এলাকা থেকে, টুলটা সেই ধরন থেকে "ভালো আবেদনকারী" শেখে। অঙ্কে কোনো ভুল নেই। যে জগৎ থেকে সে শিখেছে সেটাই অসম ছিল। জিজ্ঞাসা: অতীতের হুবহু কপি আমরা ভবিষ্যতে চাই কি না?

প্রতিনিধিত্বের বায়াস

কিছু মানুষ ডেটায় নেই, কিংবা খুব কম আছেন। অতীতে বয়স্ক শিক্ষার্থী বা দ্বিতীয় ভাষায় লেখা আবেদন কম এলে, তাঁদের ব্যাপারে টুলের শেখার মতো উদাহরণ কম। সাধারণ ফল: সে যাঁদের সবচেয়ে কম দেখেছে সেই গোষ্ঠীগুলোর জন্য বেশি ভুল। জিজ্ঞাসা: ডেটায় কারা আছেন, আর কারা থাকা উচিত কিন্তু নেই?

পরিমাপের বায়াস: লেবেল ও প্রক্সি

সিস্টেম লেবেল থেকে শেখে, যেমন "ভর্তি হয়েছেন" বা "কোর্স শেষ করেছেন"। লেবেল আসলে যে জিনিসটা আপনি চান তার বদলি, যা মাপা কঠিন হতে পারে। "কোর্স শেষ করা" যোগ্যতার পাশাপাশি অবসর সময় আর স্থিতিশীল যাতায়াতও মাপতে পারে। প্রক্সি (proxy) হলো এমন বৈশিষ্ট্য যা অন্য কিছুর বদলি হিসেবে দাঁড়ায়। ডাকঘরের এলাকা-কোড পাড়া, আয় বা সম্প্রদায়ের বদলি হতে পারে। কর্মজীবনের বিরতি সেবাযত্নের দায়, অসুস্থতা বা পড়াশোনার বদলি হতে পারে, আর টুল এগুলোর পার্থক্য বোঝে না। জিজ্ঞাসা: আসলে আমরা কী মাপছি, আর কার জন্য সেটা খারাপ মাপকাঠি?

নির্বাচনের বায়াস

প্রথমেই কারা ডেটায় ঢুকতে পারলেন? শুধু অনলাইনে আবেদন করা মানুষ রেকর্ড হলে, যাঁরা ওয়েবসাইট ব্যবহার করতে পারেননি তাঁরা অদৃশ্য। শুধু সফল স্নাতকদের খোঁজ নিলে যাঁরা আগে ছেড়ে গেছেন তাঁদের কাহিনি কখনো শোনা হয় না। জিজ্ঞাসা: এই ডেটাসেটে থাকতে হলে কী সত্য হতে হয়েছিল?

মানুষ পর্যালোচকের আনা বায়াস

মানুষের পর্যালোচনা সুরক্ষা হওয়ার কথা, কিন্তু পর্যালোচকদেরও নিজস্ব অভ্যাস আছে। তাঁরা AI-র পরামর্শে বেশি সহজে সায় দিতে পারেন, কিংবা পরিচিত দেখতে আবেদন পছন্দ করতে পারেন। যে পর্যালোচক শুধু একটা বিশেষ ধরনে লেখা "Not now" কেসই দেখেন, তিনি সেগুলো থেকে ওইরকমই আশা করতে শুরু করতে পারেন। নাদিয়ার নিয়ম, প্রতিটা "Invite" পড়া কিন্তু "Not now"-এর দশ ভাগের এক ভাগ, মানে "Not now" গোষ্ঠীর ভুল ধরা পড়ার সম্ভাবনা অনেক কম। জিজ্ঞাসা: পর্যালোচক আসলে কোন ভুলগুলো দেখতে পান?

ফিডব্যাক লুপ

কখনো সিস্টেমের নিজের আউটপুটই আগামীকালের ডেটা হয়ে যায়। টুলটা একটা পটভূমির মানুষদের কমই ডাকলে তাঁদের কম মানুষ কোর্সে যোগ দেন। পরের বছর "অতীতের সফল ভর্তি"-র তালিকায় তাঁরা আরও কম থাকেন, আর টুল শেখে যে তাঁদের সফল হওয়ার সম্ভাবনা কম। ব্যবধান বাড়ানোর জন্য নতুন কোনো সিদ্ধান্ত না নিয়েই সেটা বাড়ে। জিজ্ঞাসা: আজ সিস্টেম যা করছে তা আগামীকাল তার শেখার ডেটা বদলে দিচ্ছে কি না?

যেখানে যুক্তিসঙ্গত মানুষেরা দ্বিমত করেন

যে প্রক্সি ভালো পূর্বাভাস দেয়, সেটা যদি একটা গোষ্ঠীর বদলি হিসেবেও কাজ করে, তবে তা ব্যবহার করা উচিত কি না?

দুই মতই ভালো সিদ্ধান্ত চায়। নির্ভুলতা আর বঞ্চনা পুনরাবৃত্তির ঝুঁকি, এ দুটোকে তাঁরা আলাদা ওজন দেন, এবং ভিন্ন ক্ষেত্রে দুজনেই ঠিক হতে পারেন। কাজের একটা মাঝামাঝি ধাপ হলো বৈশিষ্ট্যসহ ও বৈশিষ্ট্য ছাড়া পরীক্ষা চালিয়ে গোষ্ঠীভেদে ফল দেখা, তারপর সিদ্ধান্ত নিয়ে কারণ লিখে রাখা।

ভাষা, উপভাষা ও আঞ্চলিক বায়াস

লেখা নিরপেক্ষ নয়। মডেল শেখে বেশির ভাগ সেই ভাষা থেকে যা সে সবচেয়ে বেশি দেখে, তাই কিছু ভাষা, বানান ও লেখার ধরনে সে অন্যগুলোর চেয়ে ভালো কাজ করতে পারে।

• ভাষা ও উপভাষা। একই ভাষার ভিন্ন রূপে দুজন একই অর্থ লিখতে পারেন। একটা গবেষণাপত্র (হফম্যান ও সহকর্মীরা, ২০২৪, arXiv-এ) জানিয়েছে যে পরীক্ষা করা কয়েকটা ভাষা মডেল আফ্রিকান আমেরিকান ইংরেজি (African American English) বলা মানুষদের সম্পর্কে মানুষের নথিভুক্ত ধারণার চেয়েও বেশি নেতিবাচক লুকানো ধারণা রাখে, এবং কাল্পনিক সিদ্ধান্তে শুধু উপভাষার ভিত্তিতে তাঁদের কম মর্যাদার পেশা ও কঠোর ফল দেয়। মানুষের প্রতিক্রিয়ায় প্রশিক্ষণ এটা সরায়নি। ফলাফলটা নির্দিষ্ট পরীক্ষিত মডেলগুলো নিয়ে। সাধারণ শিক্ষাটা হলো: বায়াস থাকতে পারে লেখার ধরনে, শুধু বিষয়বস্তুতে নয়।
• ভাষাভেদে খরচ ও মান। ২০২৩ সালের একটা গবেষণাপত্র (আহিয়া ও সহকর্মীরা, arXiv-এ) দেখিয়েছে যে একই বিষয়বস্তু ভিন্ন ভাষায় ভিন্ন সংখ্যক টোকেন নেয়, ফলে একই সেবায় কিছু ভাষাভাষীকে বেশি দাম দিতে হতে পারে আর খারাপ ফল পেতে হতে পারে। টোকেন নিয়ে আপনি এআই কীভাবে কাজ করে: LLM, টোকেন ও সীমাবদ্ধতা পাতায় পড়েছেন।
• নাম। কোনো নামের উদাহরণ কম দেখলে টুল তার বানান ভুল করতে পারে, অদ্ভুতভাবে ভাঙতে পারে, কিংবা তাকে "আসল" নাম হওয়ার কম সম্ভাবনাময় ধরতে পারে। Nguyen Thi Lan, Ōtsuka Aiko বা Kwame Mensah-Boateng-এর মতো নামে দেখা যায় নামের ক্রম ও বানান কত আলাদা হতে পারে।
• ঠিকানা। অনেক জায়গায় "রাস্তার নম্বর, রাস্তার নাম" ব্যবহার হয় না। ঢাকার একটা ঠিকানা এরকম হতে পারে: "বাজারের পাশে, মসজিদ গলি"। যে ফর্মে পাঁচ অঙ্কের পোস্টাল কোড বা রাস্তার নাম বাধ্যতামূলক, সেটা আসল ঠিকানা প্রত্যাখ্যান করতে পারে।
• সাংস্কৃতিক উল্লেখ। কোনো নির্দিষ্ট ছুটি, স্কুলব্যবস্থা বা খেলা ধরে নেওয়া প্রশ্ন একটা গোষ্ঠীর কাছে স্পষ্ট, অন্য গোষ্ঠীর কাছে বিভ্রান্তিকর হতে পারে।

একটা সহজ পরীক্ষা হলো জোড়া তুলনা: একটা আসল কাজ নিন, শুধু নাম, ভাষার রূপ বা ঠিকানার ধরন বদলান, আর সিস্টেম কী ফেরত দেয় তুলনা করুন। বিষয়বস্তু হুবহু এক রাখুন। ফল আলাদা হলে কীভাবে আলাদা তা লিখে রাখুন।

অ্যাক্সেসিবিলিটির বাধা

কিছু মানুষ সিস্টেমটা একেবারেই ব্যবহার করতে না পারলে বাস্তবে সেটা পক্ষপাতী। অ্যাক্সেসিবিলিটি একটা ডিজাইনের প্রশ্ন, চিকিৎসার প্রশ্ন নয়। দৈনন্দিন কিছু বাধা, যা খুঁজে দেখতে পারেন:

এখানে কোনো গবেষণা উদ্ধৃত করিনি। টেবিলটাকে ডিজাইনের প্রশ্নের তালিকা হিসেবে নিন। সেবাটা যাঁরা ব্যবহার করেন তাঁদের জিজ্ঞেস করা তাঁদের সম্পর্কে আন্দাজ করার চেয়ে ভালো।

কেন গড় স্কোর পার্থক্য লুকায়

সামগ্রিক সংখ্যা উত্তর দেয় "সবাইকে একসঙ্গে ধরলে সিস্টেম কেমন করছে?" এটা উত্তর দেয় না "প্রতিটা গোষ্ঠীর জন্য সে কেমন করছে?" একটা গোষ্ঠী অন্যটার চেয়ে অনেক ছোট হলে তার অভিজ্ঞতা গড়কে প্রায় নড়ায় না।

টয় ডেটা:

Nadia's tool, checked against 1,000 past applications that people have reviewed.
"Correct" means the tool's mark matched the careful human decision.

Group                                   Applications   Correct   Correct share   Wrong
A: written in the course's main language      900         864        96.0%          36
B: written in a second language               100          70        70.0%          30
All together                                1,000         934        93.4%          66

সামগ্রিক স্কোর ৯৩.৪%, যা শক্তিশালী শোনায়। গোষ্ঠী B-এর স্কোর ৭০.০%, অর্থাৎ তার প্রায় প্রতি দশটা আবেদনে তিনটা ভুলভাবে চিহ্নিত, আর গোষ্ঠী A-তে প্রতি পঁচিশটায় প্রায় একটা। গোষ্ঠী B মোট আবেদনের মাত্র ১০%, কিন্তু ৬৬টা ভুলের মধ্যে ৩০টা তার, প্রায় ৪৫%। (এই সংখ্যাগুলো ছোট একটা হিসাব করে বের করা হয়েছে; ডেটা কাল্পনিক, তাই উদাহরণটা শুধু অঙ্কটা দেখায় আর কোনো আসল টুল সম্পর্কে কিছু বলে না।)

আরও দুটো অভ্যাস আসে। শতাংশের সঙ্গে সংখ্যাও দেখুন, কারণ ছোট গোষ্ঠীর হার একটা কেসেই অনেকটা লাফায়: ১০ জনের গোষ্ঠীতে আরও একটা সঠিক কেস স্কোর দশ পয়েন্ট বদলে দেয়। আর কোনো গোষ্ঠী খুব ছোট হলে সেটা বলুন এবং কোনো দিকেই জোরালো দাবি করবেন না। এ ছাড়া কোনো গোষ্ঠী যদি মাপাই না যায়, কারণ কেউ রেকর্ড করেনি, তবে মনে রাখুন "কোনো পার্থক্য পাওয়া যায়নি" মানে "মাপা হয়নি"।

যেখানে যুক্তিসঙ্গত মানুষেরা দ্বিমত করেন

গোষ্ঠী তুলনা করতে সাধারণত কে কোন গোষ্ঠীতে পড়েন তা রেকর্ড করতে হয়। এটা বুদ্ধিমানের কাজ কি না?

দেশ ও সম্প্রদায়ভেদে মত আলাদা, আর এমন তথ্য সংগ্রহের নিয়মও দেশ ও খাত অনুযায়ী আলাদা। সিদ্ধান্তের আগে বর্তমান সরকারি নিয়ম আর আপনার প্রতিষ্ঠানের পলিসি দেখে নিন। কিছু টিম সব সংগ্রহ না করে স্বেচ্ছায় স্ব-বর্ণনা, নমুনা পর্যালোচনা বা বাইরের পর্যালোচক ব্যবহার করে।

নথিভুক্ত ঘটনা: জেন্ডার শেডস

নথিভুক্ত ঘটনা:

Gender Shades, 2018. Buolamwini and Gebru, Conference on Fairness, Accountability
and Transparency (published in PMLR volume 81).
Established: they tested three commercial gender-classification systems. Error rates were
much higher for darker-skinned women than for other groups; the paper's abstract reports
up to 34.7% for darker-skinned women against at most 0.8% for lighter-skinned men. They
also report that two widely used benchmark datasets were mostly lighter-skinned subjects
(79.6% in one, 86.2% in the other).
Not covered: later versions of these products, and other kinds of face tasks.

এ থেকে কী শেখা যায়: বেঞ্চমার্ক ডেটায় কিছু গোষ্ঠী কম ছিল, যা প্রতিনিধিত্বের বায়াস, আর ভুলগুলো গোষ্ঠীভেদে অসমভাবে পড়েছিল। নাদিয়ার টেবিলেও একই ধরন, শুধু এখানে এটা এক নির্দিষ্ট সময়ের আসল প্রোডাক্টে পাওয়া গেছে। আলাদা একটা কাজে যুক্তরাষ্ট্রের একটা সরকারি গবেষণাগার (NIST, ২০১৯) ফেস-রিকগনিশন অ্যালগরিদম মূল্যায়ন করে দেখেছে যে ভুলের হার জনগোষ্ঠী ও অ্যালগরিদমভেদে আলাদা। দুটো গবেষণাই তাদের নির্দিষ্ট সিস্টেম ও সময় নিয়ে। এগুলো প্রমাণ করে না যে সব সিস্টেম একইরকম আচরণ করে, আর আজ আপনি যে প্রোডাক্ট ব্যবহার করছেন সে সম্পর্কে কী সিদ্ধান্তে আসবেন তাও বলে না।

বায়াস খোঁজা: একটা ছোট চেকলিস্ট

টেমপ্লেট:

Bias check for one decision
1. What is decided, and about whom?
2. Which groups might be served differently? (language, age, region, disability, other)
3. HISTORY:        does the data copy an unequal past?
4. REPRESENTATION: who is missing or rare in the data?
5. MEASURES:       what do the labels and features really stand for? Any proxies?
6. SELECTION:      who could not get into the data at all?
7. REVIEWER:       which errors can the human reviewer see? Do they follow the tool too easily?
8. FEEDBACK:       will today's results change tomorrow's data?
9. NUMBERS:        results for each group, with counts. Any group too small to judge?
10. ACCESS:        can everyone actually use it? What is the alternative?

কাজের জায়গায় এটা কোথায় দেখা যায়

একটা সাপোর্ট টিম লক্ষ করে যে চ্যাটবট ভদ্র, আনুষ্ঠানিক বার্তা ভালো সামলায় কিন্তু ছোট, অনানুষ্ঠানিক বার্তায় ঝামেলা করে। একটা বিশ্ববিদ্যালয় ভাষা-টুল ব্যবহার করে দেখে অ-মাতৃভাষী লেখকদের বেশি সংশোধন করা হচ্ছে। একটা ছোট ব্যবসার AI সময়সূচি-সহায়ক গ্রাহকের আঞ্চলিক ঠিকানার ধরন পড়তে পারে না। প্রতিটা ক্ষেত্রে যিনি জিজ্ঞেস করেছিলেন "এটা কার জন্য কম ভালো কাজ করে?", তিনি সমস্যাটা আগে ধরেছেন এবং ক্ষতি হওয়ার আগে শোধরাতে পেরেছেন।

সাধারণ ভুল

• সামগ্রিক স্কোরে ভরসা করা। এটা খারাপ ফলের একটা গোষ্ঠী লুকাতে পারে। সমাধান: সব সময় গোষ্ঠীভেদে ফল আর প্রতিটায় কতগুলো কেস তা চান।
• "গোষ্ঠীর তথ্য নেই" মানে "বায়াস নেই" ধরে নেওয়া। বায়াস প্রক্সি আর ভাষার মাধ্যমে কাজ করতে পারে। সমাধান: বৈশিষ্ট্যগুলো যাচাই করুন এবং জোড়া তুলনা চালান।
• শুধু ডেটাকে দোষ দেওয়া। লেবেল, সিদ্ধান্তের নিয়ম, পর্যালোচক আর ফিডব্যাক লুপ প্রত্যেকেই পার্থক্য যোগ বা বড় করতে পারে। সমাধান: ডায়াগ্রামের প্রতিটা তীর ধরে দেখুন।
• নিরপেক্ষ দেখায় বলে প্রক্সিকে নিরপেক্ষ ধরা। ডাকঘরের এলাকা-কোড "শুধু একটা সংখ্যা" নয়। সমাধান: জিজ্ঞেস করুন এটা কিসের বদলি হতে পারে।
• কারা টুলটা ব্যবহার করতে পারেন না তা ভুলে যাওয়া। সমাধান: চালুর আগে অ্যাক্সেস নিয়ে জিজ্ঞেস করুন এবং বিকল্প পথ রাখুন।

নিজে চেষ্টা করুন

তিনটা কাজের জন্যই এই নমুনা সিদ্ধান্তটা ব্যবহার করুন। কাল্পনিক পরিস্থিতি: হারুকা ওসাকার একটা স্কুল সমন্বয় করেন। একটা টুল প্রতিটা শিক্ষার্থীকে "Offer extra reading support" বা "No support now" চিহ্নিত করে। এটা প্রশিক্ষিত হয়েছে গত চার বছরের সেই শিক্ষার্থীদের ওপর যাঁদের সহায়তা দেওয়া হয়েছিল এবং পরে যাঁরা উন্নতি করেছেন। এটা ব্যবহার করে বাড়ির ডাকঘর এলাকা, অভিভাবকদের সমীক্ষা থেকে বাড়িতে বইয়ের সংখ্যা, আর শিক্ষার্থীরা বাড়িতে বসে যে অনলাইন পড়ার পরীক্ষা দেয় তা। শিক্ষকেরা শুধু "Offer" তালিকা পড়েন।

1. সহজ। নমুনা থেকে বায়াসের তিনটা সম্ভাব্য উৎস বলুন, প্রতিটা এই পাতার একটা নামের সঙ্গে মিলিয়ে।
2. মাঝারি। তিনটার প্রতিটার জন্য লিখুন আপনি প্রথমে কী যাচাই করবেন এবং কোন প্রমাণ দেখাবে এটা সত্যিকারের সমস্যা কি না।
3. কঠিন। হারুকার যাচাইয়ে ৫০০ জন শিক্ষার্থীর ওপর টুল আর যত্নশীল মানুষের পর্যালোচনার মধ্যে ৯২% মিল পাওয়া গেছে। চার থেকে ছয় বাক্যে বুঝিয়ে বলুন কেন এই সংখ্যা যথেষ্ট নয়। তাঁর কোন দুটো তথ্য লাগবে তা বলুন, আর কীভাবে সংগ্রহ করতে পারেন। তারপর প্রথম পাতার সিদ্ধান্ত-কাঠামো ব্যবহার করে টুলটা রাখার আগে তাঁর একটা শর্ত লিখুন।

উত্তর

সহজ। একটা শক্ত উত্তর মানানসই তিনটা বেছে নেয়: (১) পরিমাপ ও প্রক্সি: বাড়িতে বইয়ের সংখ্যা পারিবারিক আয় বা সংস্কৃতির বদলি হতে পারে, শিক্ষার্থীর প্রয়োজনের নয়। (২) পরিমাপ ও অ্যাক্সেস: বাড়িতে বসে দেওয়া অনলাইন পরীক্ষা পড়ার পাশাপাশি শান্ত জায়গা আর চালু ডিভাইসও মাপে। (৩) ঐতিহাসিক বা ফিডব্যাক লুপ: অতীতে সহায়তা পাওয়া শিক্ষার্থীদের থেকে শিখলে আগে কারা সহায়তা পেয়েছিলেন তার পুনরাবৃত্তি হতে পারে, আর "No support now" পাওয়া শিক্ষার্থীরা আগামী বছরে উন্নতি করা কেস হিসেবে আসেন না। অন্য সঠিক বাছাই: মানুষ পর্যালোচক (শুধু "Offer" তালিকা পড়া হয়, তাই বাদ পড়া শিক্ষার্থীদের কখনো দেখা যায় না), নির্বাচন (যে অভিভাবকেরা সমীক্ষা ফেরত দেননি তাঁরা অনুপস্থিত) এবং প্রতিনিধিত্ব (ইতিহাসে দ্বিতীয় ভাষায় পড়া শিক্ষার্থী কম)। পাস মানদণ্ড: তিনটা ভিন্ন উৎস, প্রতিটা নমুনার একটা বিশদের সঙ্গে যুক্ত। দুর্বল উত্তর: একই উৎসের নাম তিনবার, কিংবা সাধারণ "AI পক্ষপাতী হতে পারে"।

মাঝারি। নমুনা উত্তর: সমীক্ষার ক্ষেত্রে বৈশিষ্ট্যটা সরিয়ে টুল পরীক্ষা করে গোষ্ঠীভেদে ফল তুলনা করুন; কত শিক্ষার্থীর সমীক্ষার উত্তর নেই তা-ও দেখুন। বাড়ির পরীক্ষার ক্ষেত্রে বাড়িতে পরীক্ষা দেওয়া শিক্ষার্থীদের স্কোর স্কুলে তত্ত্বাবধানে নেওয়া একটা ছোট পরীক্ষার সঙ্গে মেলান। ইতিহাসের ক্ষেত্রে চার বছরে প্রতিটা এলাকা ও ভাষা গোষ্ঠীতে কারা সহায়তা পেয়েছেন তা গুনে জিজ্ঞেস করুন স্কুল এর পুনরাবৃত্তি চায় কি না। পর্যালোচকের সমস্যার ক্ষেত্রে শুধু "Offer" তালিকা নয়, "No support now" কেসের একটা এলোমেলো নমুনা পড়ুন। পাস মানদণ্ড: প্রতিটা যাচাই সুনির্দিষ্ট এবং একটা সিদ্ধান্ত বদলাতে পারে। দুর্বল উত্তর: কোন প্রমাণ দেখবেন না বলে "দেখব" মাত্র।

কঠিন। একটা শক্ত উত্তর: সামগ্রিকভাবে ৯২% থাকতেও ছোট একটা গোষ্ঠীর হার অনেক কম হতে পারে, যেমন টয় টেবিলে (সামগ্রিক ৯৩.৪% আর গোষ্ঠী B-এর ৭০.০%)। তাঁর লাগবে গোষ্ঠীভেদে ফল (যেমন বাড়ির ভাষা, সমীক্ষার উত্তর দেওয়া হয়েছে কি না, আর পরীক্ষা কোথায় নেওয়া হয়েছে), প্রতিটায় সংখ্যাসহ, এবং ভুলের ধরন: যে শিক্ষার্থীর সহায়তা দরকার ছিল কিন্তু বাদ পড়েছেন, আর যাঁকে সহায়তা দেওয়া হয়েছে অথচ দরকার ছিল না। তিনি এটা পেতে পারেন ৫০০টা পর্যালোচিত কেসে যেখানে উপযুক্ত ও অনুমোদিত সেখানে গোষ্ঠীর তথ্য যোগ করে, কিংবা প্রতিটা গোষ্ঠী থেকে নমুনা নিয়ে, এবং এমন তথ্য রাখার ব্যাপারে স্কুলের নিয়ম দেখে নিয়ে। একটা শর্ত: "পরের পর্যালোচনায় অন্তত ৩০ জন শিক্ষার্থীর কোনো গোষ্ঠীর মিলের হার সামগ্রিক হারের চেয়ে ১০ পয়েন্টের বেশি কম হলে টুলটা রাখা হবে না; প্রতি মাসে একজন শিক্ষক ২০টা 'No support now' কেস পড়বেন; পর্যালোচনা 2026-12-15; হারুকা দায়ী।" সংখ্যাগুলো উদাহরণ, কোনো স্ট্যান্ডার্ড নয়। পাস মানদণ্ড: গড় কেন একটা গোষ্ঠী লুকায় তা বোঝায়, দুটো দরকারি তথ্যের নাম বলে, সংগ্রহের উপায় দেয়, এবং মালিক ও তারিখসহ একটা শর্ত দেয়। দুর্বল উত্তর: ৯২%-কে "যথেষ্ট ভালো" বলে, কিংবা প্রমাণ ছাড়াই টুলটা বাদ দিতে বলে।

প্রথম পাতার ওয়ার্কশিটে ফিরে দেখুন। হারুকার সমস্যা ধাপ ৩ (উপকার ও ক্ষতি), ধাপ ৫ (প্রমাণ) আর ধাপ ৬ (শর্তসহ সিদ্ধান্ত)-এর সঙ্গে মেলে।

সারসংক্ষেপ

• বায়াস মানে গোষ্ঠীগুলো যে সেবা পায় তাতে নিয়মিত পার্থক্য। এটা ঢুকতে পারে ইতিহাস, প্রতিনিধিত্ব, লেবেল ও প্রক্সি, কারা ডেটায় ঢুকেছেন, মানুষ পর্যালোচক এবং ফিডব্যাক লুপ দিয়ে।
• ভাষা, উপভাষা, নাম, ঠিকানা ও সাংস্কৃতিক উল্লেখ চুপচাপ ফল বদলে দিতে পারে, তাই একবারে একটা জিনিস বদলে ফল তুলনা করুন।
• অ্যাক্সেসিবিলিটি ন্যায্যতার অংশ: কিছু মানুষ যে টুল ব্যবহার করতে পারেন না তা তাঁদের খারাপ সেবা দেয়। জিজ্ঞেস করুন কারা বাদ পড়ছেন আর বিকল্প কী।
• সামগ্রিক স্কোর একটা ছোট গোষ্ঠীর খারাপ ফল লুকাতে পারে। সংখ্যাসহ গোষ্ঠীভেদে ফল চান।
• জেন্ডার শেডসের মতো নথিভুক্ত ঘটনা এই ধরনগুলো এক নির্দিষ্ট সময়ের আসল প্রোডাক্টে দেখায়, কিন্তু প্রমাণ করে না যে সব প্রোডাক্ট একইরকম আচরণ করে।

এরপর: ন্যায্যতা ও তার ট্রেড-অফ: অন্তর্ভুক্তি, অ্যাক্সেসিবিলিটি ও ভাষা পাতায় দেখবেন একটা পার্থক্য খুঁজে পাওয়ার পর "ন্যায্য" মানে কী হতে পারে, আর কেন ভিন্ন ন্যায্যতার লক্ষ্য ভিন্ন দিকে টানতে পারে।