AI bias কী? বাস্তব উদাহরণে
AI bias হলো কিছু গোষ্ঠীর জন্য নিয়মিতভাবে অন্যায্য কার্যকারিতা। এটি কোথা থেকে আসে, বাস্তব প্যাটার্ন, কীভাবে যাচাই করবেন এবং ন্যায্য AI-এর নৈতিক নীতিগুলো জানুন।
ছোট উত্তর: AI bias মানে কোনো AI সিস্টেম কিছু মানুষ বা গোষ্ঠীর জন্য নিয়মিতভাবে খারাপ বা কম ন্যায্য ফল দেয়, অন্যদের তুলনায়। এটি সাধারণত আসে সিস্টেম যে ডেটা থেকে শিখেছে সেখান থেকে, সমস্যাটি কীভাবে সাজানো হয়েছে সেখান থেকে, অথবা সিস্টেম কীভাবে ব্যবহার হচ্ছে সেখান থেকে; যন্ত্র অন্যায় করতে "চায়" বলে নয়। bias বোঝা AI ethics principles-এর একটি মূল অংশ, কারণ ন্যায্যতা ধরে নিলে চলে না, যাচাই করতে হয়।
AI bias কোথা থেকে আসে?
AI model উদাহরণ থেকে প্যাটার্ন শেখে। উদাহরণ যদি অসম হয় বা অতীতের অবিচার প্রতিফলিত করে, model সেই প্যাটার্ন নকল করে। সাধারণ উৎসগুলো:
অসম ডেটা। যে model মূলত এক ধরনের মানুষ বা এক ভাষা থেকে শিখেছে, অন্যদের জন্য তা কম ভালো কাজ করে।
ঐতিহাসিক bias। ডেটা অতীতের মানুষের সিদ্ধান্ত ধরে রাখে। সেগুলো অন্যায্য হলে model তা পুনরাবৃত্তি করতে শেখে।
Proxy। সংবেদনশীল ঘর সরিয়ে দিলেও এলাকা বা স্কুলের মতো অন্য ঘর তার বদলি হয়ে দাঁড়াতে পারে।
লেবেল ও নকশার সিদ্ধান্ত। কোনটি "ভালো" ফল তা মানুষ ঠিক করে, আর তাদের ধারণা model-কে আকার দেয়।
Feedback loop। সিস্টেমের সিদ্ধান্ত পরে সে কোন ডেটা দেখবে তা বদলে দেয়, যা প্রথম ভুলকে আরও জোরালো করতে পারে।
এর প্রতিটি নিয়ে আরও জানতে bias কোথা থেকে আসে চ্যাপ্টারটি দেখুন।
AI bias-এর বাস্তব উদাহরণ কী?
সাধারণ প্যাটার্নগুলো এখানে সাধারণভাবে বলা হলো। নিচের code-এর সংখ্যাগুলো বোঝানোর জন্য বানানো।
ক্ষেত্র | কী ভুল হতে পারে | সম্ভাব্য কারণ |
|---|---|---|
নিয়োগের টুল | এক গোষ্ঠীর প্রার্থী নিচে র্যাংক হয় | অন্য গোষ্ঠীকে বেশি বেছে নেওয়া অতীত নিয়োগের ডেটায় প্রশিক্ষণ |
মুখ ও কণ্ঠ শনাক্তকরণ | কিছু মুখ, উচ্চারণ বা ভাষায় অন্যদের চেয়ে ভালো কাজ করে | প্রশিক্ষণ ডেটায় ওই মানুষদের প্রতিনিধিত্ব কম ছিল |
ঋণ ও ঝুঁকির স্কোর | একই রকম মানুষ গোষ্ঠী ভেদে আলাদা স্কোর পায় | Proxy ফিচার ও ঐতিহাসিক প্যাটার্ন |
ছবি ও টেক্সট generator | কে কোন পেশায় দেখানো হবে, এ ধরনের stereotype দেখা যায় | প্রশিক্ষণে ব্যবহৃত ওয়েবের লেখা ও ছবির প্যাটার্ন |
ভাষার টুল | কম ডেটার ভাষায় দুর্বল উত্তর বা অনুবাদ | ওই ভাষায় প্রশিক্ষণের লেখা কম |
গবেষক ও সাংবাদিকরা এই সমস্যাগুলো ভালোভাবে নথিবদ্ধ করেছেন, কিন্তু এগুলো কতটা বড় তা সিস্টেম ও সময়ের উপর নির্ভর করে, তাই প্রতিটি সিস্টেমকে তার নিজস্ব প্রমাণ দিয়ে বিচার করুন।
কোনো সিস্টেমে bias আছে কি না কীভাবে যাচাই করবেন?
প্রথম ধাপ সহজ: প্রতিটি গোষ্ঠী কতবার ইতিবাচক ফল পায় তা তুলনা করুন। একে selection rate বলে। বানানো ডেটায় একটি ছোট, চালানো যায় এমন উদাহরণ:
# (group, was_selected) for 10 applicants in each group; made-up toy data
decisions = (
[("A", True)] * 6 + [("A", False)] * 4 +
[("B", True)] * 3 + [("B", False)] * 7
)
def selection_rate(group):
rows = [selected for g, selected in decisions if g == group]
return sum(rows) / len(rows)
rate_a = selection_rate("A")
rate_b = selection_rate("B")
print(f"Group A: {rate_a:.0%}")
print(f"Group B: {rate_b:.0%}")
print(f"Ratio (lower / higher): {min(rate_a, rate_b) / max(rate_a, rate_b):.2f}")
বড় ফারাক, এখানে ৬০% বনাম ৩০%, তদন্তের দাবি রাখে এমন সতর্ক সংকেত। এটি একা অন্যায্যতা প্রমাণ করে না, কারণ গোষ্ঠীগুলো বৈধ কারণেও আলাদা হতে পারে, আর ন্যায্যতার একাধিক প্রতিদ্বন্দ্বী সংজ্ঞা আছে যা সব সময় একসাথে মেটানো যায় না। দেখুন ন্যায্যতা ও তার ট্রেড-অফ।
ন্যায্য AI-এর পেছনে AI ethics principles কী কী?
বেশিরভাগ কাঠামোতে কয়েকটি ধারণা মিলে যায়: ন্যায্যতা (গোষ্ঠীর সাথে অন্যায্য আচরণ না করা), স্বচ্ছতা (AI কীভাবে ও কখন ব্যবহার হচ্ছে তা ব্যাখ্যা করা), গোপনীয়তা, নিরাপত্তা এবং জবাবদিহি (ফলাফলের দায় একজন ব্যক্তি বা প্রতিষ্ঠানের)। মূল নৈতিক নীতি চ্যাপ্টারে উদাহরণসহ এগুলো ব্যাখ্যা করা আছে।
Bias কীভাবে কমানো যায়?
সিস্টেম যাদের সেবা দেবে তাদের প্রতিনিধিত্ব করে এমন ডেটা ব্যবহার করুন।
শুধু সামগ্রিক গড় নয়, বিভিন্ন গোষ্ঠীর জন্য আলাদাভাবে ফলাফল পরীক্ষা করুন।
মানুষের জীবনে প্রভাব ফেলে এমন সিদ্ধান্তে একজন মানুষ রাখুন এবং আপিলের পথ রাখুন।
সিস্টেম কীসের জন্য, কীসে পরীক্ষা হয়েছে এবং কোথায় ব্যর্থ হয় তা নথিবদ্ধ করুন।
চালুর পরেও নজর রাখুন, কারণ ডেটা ও আচরণ সময়ের সাথে বদলায়।
সাধারণ ভুল
"ডেটা নিরপেক্ষ" ধরে নেওয়া। ডেটা মানুষের বেছে নেওয়া সিদ্ধান্ত ধরে রাখে।
সংবেদনশীল কলাম মুছে ন্যায্য বলা। Proxy-র মাধ্যমে bias ফিরে আসতে পারে।
গড়ের উপর ভরসা করা। model সামগ্রিকভাবে নির্ভুল হয়েও একটি গোষ্ঠীর জন্য দুর্বল হতে পারে।
আউটপুটে অতি ভরসা। মানুষ প্রায়ই প্রশ্ন না করে AI-এর উত্তর মেনে নেয়; পড়ুন AI-এর আউটপুটে কখন ভরসা করবেন।
মূল কথা
AI bias হলো ডেটা, নকশা ও ব্যবহারের কারণে অসম কার্যকারিতা বা আচরণ। সামগ্রিক গড়ে এটি দেখা যায় না, তাই গোষ্ঠী ধরে তুলনা করুন, মানুষকে জবাবদিহির মধ্যে রাখুন এবং সীমাবদ্ধতা নথিবদ্ধ করুন। ন্যায্যতা একটি অভ্যাস, যা চর্চা করতে হয়; এটি এমন সুইচ নয় যা চালু করলেই হয়ে যায়।
শুরু করতে চান? bias চিনতে, ন্যায্যতার সঠিক প্রশ্ন করতে এবং AI ব্যবহার বা বানানোর সময় দায়িত্বশীল সিদ্ধান্ত নিতে শিখবেন। শুরু করুন ফ্রি কোর্স AI নৈতিকতা ও দায়িত্বশীল ব্যবহার: বিগিনার দিয়ে।
সম্পর্কিত লেখা
AI নৈতিকতা বিভাগের আরও লেখা
ChatGPT-তে কী শেয়ার করবেন না: AI ব্যবহারে প্রাইভেসির ৭টি নিয়ম
ChatGPT ও অন্যান্য AI chatbot ব্যবহারে privacy-র সাতটি সহজ নিয়ম: কী কখনো লিখবেন না, কেন, আর নিরাপদে সাহায্য পাওয়ার উপায়।
3 মিনিট পড়া১১ নভে, ২০২৬AI detector কতটা নির্ভরযোগ্য? শিক্ষার্থী ও শিক্ষকদের যা জানা দরকার
AI detector লেখার ধরন দেখে আন্দাজ করে, তাই সৎ মানুষের লেখাও ভুলে flagged হতে পারে। কেন এমন হয় আর স্কোরের বদলে শিক্ষার্থী ও শিক্ষকদের কী করা উচিত, জানুন।
3 মিনিট পড়া৫ নভে, ২০২৬Deepfake কী? কীভাবে চিনবেন ও নিজেকে রক্ষা করবেন
Deepfake হলো ঠকানোর উদ্দেশ্যে AI দিয়ে তৈরি বা বদলানো ভিডিও, ছবি বা অডিও। ক্ষতি, সতর্ক লক্ষণ, কার্যকর যাচাইয়ের অভ্যাস, আর লক্ষ্য হলে কী করবেন তা জানুন।
4 মিনিট পড়া২ নভে, ২০২৬Precision, Recall আর F1 score সহজ ভাষায়
Precision, recall ও F1 score কী, confusion matrix থেকে কীভাবে হিসাব করবেন, আর আপনার সমস্যায় কোনটি বেশি জরুরি তা কীভাবে বুঝবেন।
4 মিনিট পড়া১৬ নভে, ২০২৬Training, Validation ও Test data: কেন তিন ভাগ?
Machine learning-এর ডেটা কেন training, validation ও test এই তিন ভাগে ভাগ হয়, প্রতিটির কাজ, কীভাবে ভাগ করবেন এবং data leakage কীভাবে এড়াবেন।
3 মিনিট পড়া১৩ নভে, ২০২৬Classification আর Regression: পার্থক্য কী?
Classification ক্যাটাগরি অনুমান করে আর regression সংখ্যা। পার্থক্য, উদাহরণ, metric এবং দুটোর একটি ছোট Python demo দেখুন।
3 মিনিট পড়া১০ নভে, ২০২৬
মন্তব্য
আলোচনায় যোগ দিতে সাইন ইন করুন।

