অধ্যায় 3 · সৃজনশীলতা, কাজ ও নিরাপত্তা
উচ্চ-ঝুঁকির সিদ্ধান্ত, মানুষের তদারকি ও আপিল
- পৃষ্ঠা 16 / 22
- 19 মিনিট পড়া
আগের পাতায় নিরাপত্তা, অপব্যবহার আর প্রথম তিনটা উচ্চ-ঝুঁকির ক্ষেত্র (নিয়োগ, ঋণ ও চিকিৎসা-ট্রায়াজ) দেখা হয়েছে। এই পাতা আরও দুটো ক্ষেত্র, শিক্ষা ও জনসেবা, নিয়ে এগোয়; তারপর "কী জিজ্ঞেস করবেন" থেকে সরে "সিদ্ধান্তকে ঘিরে কী গড়বেন" প্রশ্নে যায়: সিদ্ধান্ত ফেরানো যায় কি না তার যাচাই, ফল সত্যিই বদলাতে পারে এমন একজন মানুষ, আপিলের পথ, আর কখন একজন যোগ্য পেশাদারকে সিদ্ধান্ত নিতে হবে বা কখন AI মোটেই ব্যবহার করা উচিত নয়।
ধারণাগুলো প্রযোজ্য এমন যেকোনো সিদ্ধান্তে, যা একজন মানুষের জীবনের গুরুত্বপূর্ণ কিছু বদলে দেয়। আপনাকে আইনজীবী বা প্রকৌশলী হতে হবে না। কয়েকটা নির্দিষ্ট প্রশ্ন করতে হবে এবং কারণগুলো লিখে রাখতে হবে। নিরাপত্তা, অপব্যবহার ও স্পর্শকাতর বিষয়: স্বাস্থ্য, অর্থ, আত্মক্ষতি ও হয়রানি পাতায় আপনি তিনটা ক্ষেত্রের প্রশ্ন পেয়েছেন; আস্থা, যাচাই ও অটোমেশন বায়াস: AI-এর আউটপুটে কখন ভরসা করবেন পাতায় দেখেছেন কীভাবে পর্যালোচনা রাবার স্ট্যাম্পে পরিণত হয়। এখানে দুটোই কাজে লাগবে।
যা শিখবেন
- শিক্ষা ও শিক্ষার্থী-মূল্যায়নে, এবং বিচার ও জনসেবায় AI ব্যবহৃত হলে কী জিজ্ঞেস করবেন।
- কোন সিদ্ধান্ত ফেরানো কঠিন তা কীভাবে বুঝবেন, এবং কেন তাতে আপনার যত্নের দায় বাড়ে।
- মানুষের তদারকি অর্থবহ কি না কীভাবে পরীক্ষা করবেন, এবং মানুষের পর্যালোচনা আর স্বয়ংক্রিয় অনুমোদনের পার্থক্য।
- প্রতিবাদ বা আপিলের কার্যকর পথ দেখতে কেমন, এবং কখন যোগ্য পেশাদারকে সিদ্ধান্ত নিতে হবে।
- উপকার, ঝুঁকি ও AI-ছাড়া বিকল্প কীভাবে তুলনা করবেন, এবং কখন সবচেয়ে নিরাপদ পথ AI ব্যবহার না করা তা কীভাবে চিনবেন।
শিক্ষা ও শিক্ষার্থী-মূল্যায়ন
স্কুল ও বিশ্ববিদ্যালয় AI ব্যবহার করে খসড়ার ফিডব্যাকে, অনুশীলন-প্রশ্নে, সময়সূচিতে, কখনো নম্বর দেওয়ায়, চুরি ধরায় বা ঝুঁকিতে থাকা শিক্ষার্থী চিহ্নিত করায়। শিক্ষার্থীরা দুর্বল অবস্থানে: তারা সাধারণত টুল বেছে নিতে পারে না, আর একটা নম্বর বা অভিযোগ বছরের পর বছর তাদের পিছু নিতে পারে। প্রথম পাতার আটটা ধাপ ব্যবহার করুন, এবং এই প্রশ্নগুলো করুন।
| ব্যবহার | কম ঝুঁকি | বেশি ঝুঁকি | কী জিজ্ঞেস করবেন |
|---|---|---|---|
| ফিডব্যাক ও অনুশীলন | শিক্ষার্থী নিজের খসড়ার জন্য ইঙ্গিত চায় | টুলের মন্তব্য পুরো ক্লাসের জন্য শিক্ষকের মন্তব্যের জায়গা নেয় | শিক্ষক এখনো প্রত্যেক শিক্ষার্থীর কাজ দেখেন? শিক্ষার্থীর লেখা বাইরের সেবায় যায়, আর পরিবার তা জানে? |
| নম্বর দেওয়া | AI নম্বর প্রস্তাব করে, শিক্ষকও নম্বর দেন | AI-এর নম্বরই চূড়ান্ত নম্বর | এই ক্লাসের মতো কাজের ওপর, ভিন্ন ভাষাগত পটভূমি ও লেখার ধরনসহ, পরীক্ষা হয়েছে? নম্বর বদলাতে পারেন কে? |
| অসদাচরণ যাচাই | অদ্ভুত দেখতে খসড়া নিয়ে শিক্ষক শিক্ষার্থীর সঙ্গে কথা বলেন | শুধু ডিটেক্টরের স্কোরের ভিত্তিতে শাস্তি হয় | অন্য প্রমাণ আছে, যেমন খসড়া, নোট বা কাজ নিয়ে কথোপকথন? শাস্তির আগে শিক্ষার্থী সাড়া দিতে পারে? |
শনাক্তকরণ-টুল অসম্পূর্ণ সংকেত, যা দুই দিকেই ভুল হতে পারে। একটা বিবেচনাসঙ্গত ব্যবহারিক নিয়ম: ডিটেক্টরের স্কোরকে কখনো অসদাচরণের প্রমাণ ধরবেন না; খসড়া, ভার্সন-ইতিহাস আর শিক্ষার্থীর নিজের ব্যাখ্যার মতো প্রক্রিয়া-ভিত্তিক প্রমাণ খুঁজুন। শিক্ষা ও গবেষণায় জেনারেটিভ AI নিয়ে ইউনেস্কোর নির্দেশনা (প্রথম প্রকাশ ২০২৩-০৯-০৭; পাতাটা সর্বশেষ হালনাগাদ ২০২৬-০১-১৬) মানুষকেন্দ্রিক পদ্ধতি, টুল নিয়ন্ত্রণের সময় ডেটা-গোপনীয়তা সুরক্ষা, আর সংগতিপূর্ণ নীতি-কাঠামোর সুপারিশ করে।
যেখানে যুক্তিসঙ্গত মানুষেরা একমত নন
| মত ক: সতর্কভাবে মূল্যায়নে AI আনুন | মত খ: মূল্যায়ন মানুষের হাতেই রাখুন |
|---|---|
| শিক্ষকদের সময় কম। AI বেশি শিক্ষার্থীকে দ্রুত ফিডব্যাক দিতে পারে, আর একটা সুসংগত প্রথম পাঠ মানুষের কিছু অসংগতি কমাতে পারে। শিক্ষার্থীরা কর্মক্ষেত্রে এসব টুলের মুখোমুখি হবেই। | নম্বর ভবিষ্যৎ গড়ে, আর তা একজন পুরো মানুষ সম্পর্কে শিক্ষকের বিচার। মডেল অপ্রচলিত ধারণা, অন্য উপভাষা বা দ্বিতীয় ভাষায় লেখা ভুল পড়তে পারে, আর শিক্ষার্থীরা যন্ত্রের দেওয়া নম্বরকে চ্যালেঞ্জ করতে নাও পারে। |
দুই মতই ন্যায্য মূল্যায়ন চায়। একটা মাঝামাঝি পথ: ফিডব্যাক ও অনুশীলনে AI ব্যবহার করুন, আর নম্বর ও অসদাচরণের সিদ্ধান্ত মানুষের হাতে রাখুন। আপনার স্কুল, দেশ বা পরীক্ষা-বোর্ডের নিজস্ব নিয়ম থাকতে পারে; আগে সেটা খুঁজে নিন।
বিচার ও জনসেবা
সরকার স্বয়ংক্রিয় টুল ব্যবহার করে কে ভাতা পাবে, কাকে তদন্ত করা হবে, কোনো মামলা কীভাবে অগ্রাধিকার পাবে, আর কখনো বিচারব্যবস্থায় ঝুঁকির স্কোর কীভাবে ঠিক হবে তাতে। প্রভাবিত মানুষ প্রায়ই বেছে নিতে পারেন না, সিস্টেমটা দেখতে পান না, আর আইনজীবীর খরচও হয়তো তাঁর নেই। রাষ্ট্রের ওপর ন্যায্যতার বিশেষ দায় থাকে, তাই যত্নের মান একটা দোকানের চেয়ে বেশি।
নথিভুক্ত ঘটনা:
Name: Robodebt (Australia). Year of the Royal Commission report: 2023 (released in July).
Source: a legal-society article summarising the Royal Commission report (secondary source).
What is reported: the scheme averaged a person's yearly income into equal fortnightly amounts
and used the result to issue automatic debt notices; recipients then had to show that the debt
was wrong. The Royal Commission found the averaging method inconsistent with the social-security
law, and recommended reform of automated decision-making law and a body to monitor such systems.
Important: this was an automated debt calculation, not machine learning. It is used here for
what it shows about governance, not about AI models.
Not stated here: debt totals and settlement figures, which sources report differently.শিক্ষাটা টুলকে ঘিরে থাকা ব্যবস্থা নিয়ে: প্রমাণের ভার কে বইল, পদ্ধতিটা আইনের সঙ্গে মিলেছিল কি না, আর কেউ যাচাই করেছিল কি না। এই প্রশ্নগুলো যেকোনো জনসেবা-ব্যবস্থায় খাটে, সেটা স্প্রেডশিট হোক বা মডেল।
আরও দুটো নথিভুক্ত উদাহরণ: অ্যামনেস্টি ইন্টারন্যাশনালের ২০২১ সালের "Xenophobic Machines" প্রতিবেদন সিদ্ধান্তে পৌঁছেছে, শিশু-যত্ন ভাতার আবেদনের জন্য ডাচ কর-কর্তৃপক্ষের ঝুঁকি-শ্রেণিবিন্যাস ব্যবস্থা, যাতে জাতীয়তাকে ঝুঁকির একটা কারণ ধরা হতো, বৈষম্য ও বর্ণভিত্তিক প্রোফাইলিংয়ের দিকে নিয়ে গেছে। আর ফ্লোরিডার একটা কাউন্টির বিচারব্যবস্থায় ব্যবহৃত ঝুঁকি-স্কোরিং টুল নিয়ে প্রোপাবলিকার ২০১৬ সালের বিশ্লেষণ, যার সঙ্গে টুলের নির্মাতা একমত হয়নি, কোন ন্যায্যতা-মাপকাঠি ব্যবহার হবে তা নিয়ে মতভেদের আদর্শ উদাহরণ (দেখুন ন্যায্যতা ও তার ট্রেড-অফ: অন্তর্ভুক্তি, অ্যাক্সেসিবিলিটি ও ভাষা)।
| জনসেবায় ব্যবহারের প্রশ্ন | কেন গুরুত্বপূর্ণ |
|---|---|
| কে কী প্রমাণ করবে? ব্যক্তিকে সিস্টেমকে মিথ্যা প্রমাণ করতে হয়? | প্রমাণের ভার ব্যক্তির ওপর চাপানো একটা সাধারণ ব্যর্থতা। |
| ব্যক্তি কারণগুলো আর ব্যবহৃত ডেটা দেখতে পান? | তা না পেলে তিনি ভুল শোধরাতে পারেন না। |
| সিস্টেমটা কে নজরে রাখে, আর অভিযোগ নিয়ে তারা কী করে? | কেউ সব মামলা জুড়ে না দেখলে ছক চোখে পড়ে না। |
যখন সিদ্ধান্ত ফেরানো কঠিন
ফেরানো যায় কি না, এটা আপনার করা সেরা একক প্রশ্নগুলোর একটা। সস্তায় ও দ্রুত যে সিদ্ধান্ত ফেরানো যায়, তাতে হালকা যাচাই চলে। যা ফেরানো যায় না, তার জন্য দরকার জোরালো প্রমাণ, সিদ্ধান্ত নেওয়ার জন্য একজন মানুষ, আর প্রয়োজনে বিলম্ব।
| জিজ্ঞেস করুন | ফেরানো সহজ | ফেরানো কঠিন |
|---|---|---|
| ফলটা বাতিল করা যায়? | বুকিং বাতিল হয়ে টাকা ফেরত আসে। | চাকরির প্রস্তাব প্রত্যাহার; লাইসেন্স হারানো; কারও গ্রেপ্তার। |
| ক্ষতি কত দ্রুত জমে? | দেরিতে উত্তরে একদিন যায়। | ঋণ প্রত্যাখ্যানে একটা ব্যবসায়িক মৌসুম যায়। |
| কোনো রেকর্ড থেকে যায়? | স্থায়ী রেকর্ড নেই। | ফাইলে একটা ফ্ল্যাগ, যা অন্য সিস্টেম ও মানুষ পড়ে। |
| ব্যক্তি জানেন? | হ্যাঁ, সঙ্গে সঙ্গে। | কোনো নোটিশ নেই; কেন তা তিনি জানতেই পারেন না। |
শেষ সারিটা ভুলে যাওয়া সহজ। কেউ জানতেই না পারলে যে একটা সিদ্ধান্ত হয়েছে, তিনি তা ফেরাতেও বলতে পারেন না, তাই বাস্তবে সেটা অপরিবর্তনীয়। শুরুতেই ফেরানোর সম্ভাবনা মেপে নিলে বোঝা যায় পরের সুরক্ষাগুলোর কোনটা সবচেয়ে জরুরি।
মানুষের তদারকি অর্থবহ?
"একজন মানুষ লুপে আছেন" কথাটা প্রায়ই বলা হয়, কিন্তু কমই খতিয়ে দেখা হয়। তদারকি অর্থবহ তখন, যখন মানুষটা সিস্টেম কী করে তা বোঝেন, আউটপুট যাচাইয়ের তথ্য ও সময় তাঁর আছে, দ্বিমত করার এবং ফল বদলানোর ক্ষমতা তাঁর আছে, আর তা করলে তাঁকে শাস্তি পেতে হয় না। এর কোনোটা না থাকলে মানুষটা শুধু সাজসজ্জা। ক্ষমতার অভাবটাই সবচেয়ে বেশি দেখা যায়।
| পরীক্ষা | অর্থবহ | রাবার স্ট্যাম্প |
|---|---|---|
| তথ্য | পর্যালোচক শুধু স্কোর নয়, প্রমাণ ও কারণ দেখেন। | পর্যালোচক দেখেন "অনুমোদন / প্রত্যাখ্যান" আর একটা সংখ্যা। |
| সময় | একটা কেস ঠিকমতো পড়ার মতো সময়। | প্রতি কেসে বিশ সেকেন্ড, পেছনে সারি। |
| দক্ষতা | পর্যালোচক ক্ষেত্রটা আর টুলের সীমাবদ্ধতা বোঝেন। | টুল কোথায় ভুল করে, সে বিষয়ে পর্যালোচককে কখনো প্রশিক্ষণ দেওয়া হয়নি। |
| ক্ষমতা | অনুমতি না চেয়েই বাতিল করতে পারেন। | বাতিল করতে ম্যানেজারের অনুমোদন ও ব্যাখ্যা লাগে, তাই কেউ কদাচিৎ করেন। |
| রেকর্ড | বাতিল আর তার কারণ নথিভুক্ত হয়, এবং কেউ ছকটা দেখেন। | মানুষ কত ঘন ঘন দ্বিমত করেন কেউ জানে না; হয়তো কখনোই না। |
গবেষণা-পর্যালোচনাগুলো জানায়, মানুষ, বিশেষজ্ঞরাও, স্বয়ংক্রিয় পরামর্শের ওপর অতি নির্ভর করার প্রবণতা দেখান, আর শুধু প্রশিক্ষণ তা দূর করে না। তাই প্রক্রিয়াটা নকশা করুন, শুধু ভালো ইচ্ছার ওপর ভরসা করবেন না: পর্যালোচকদের এমন কেস দেখান যেখানে টুল ভুল, তাঁরা কত বার টুলকে বাতিল করেন তা গুনুন, আর শূন্য হারকে সাফল্য নয়, সতর্কসংকেত ভাবুন।
আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): ইউরোপীয় ইউনিয়নের AI Act-এর ১৪ নম্বর অনুচ্ছেদের একটা বেসরকারি অনলাইন পাঠ অনুযায়ী, উচ্চ-ঝুঁকির সিস্টেম এমনভাবে নকশা করতে হবে যাতে ব্যবহারের সময় মানুষ কার্যকরভাবে তদারকি করতে পারে। পাঠে বলা হয়েছে, তদারককারীরা যেন সিস্টেমের সক্ষমতা ও সীমা বুঝতে এবং তার কাজ নজরে রাখতে পারেন, আউটপুটের ওপর নির্ভর করার প্রবণতা (অটোমেশন বায়াস) সম্পর্কে সচেতন থাকেন, আউটপুট সঠিকভাবে ব্যাখ্যা করতে পারেন, সিস্টেম ব্যবহার না করার বা আউটপুট অগ্রাহ্য, বাতিল বা উল্টে দেওয়ার সিদ্ধান্ত নিতে পারেন, এবং হস্তক্ষেপ করে সিস্টেম থামাতে পারেন। ইউরোপীয় কমিশন উচ্চ-ঝুঁকির বলে যেসব ক্ষেত্রের নাম দিয়েছে, তার মধ্যে আছে কর্মসংস্থান, শিক্ষা, অপরিহার্য সেবা, আইন প্রয়োগ, অভিবাসন ও বিচার; আর তার সময়সূচি এসব ক্ষেত্রের উচ্চ-ঝুঁকির নিয়ম ২০২৭-১২-০২ থেকে প্রযোজ্য দেখায়। কোনো নির্দিষ্ট সিস্টেম উচ্চ-ঝুঁকির কি না, তা আইনের পাঠের ওপর নির্ভর করে, আর কমিশনের পাতাগুলো পুরোপুরি সংগতিপূর্ণ নয়, তাই বর্তমান সরকারি পাঠ দেখে নিন। অনেক দেশে এমন নিয়ম নেই। আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।
প্রতিবাদ বা আপিলের পথ
যে সিদ্ধান্ত একজন মানুষকে প্রভাবিত করে, তাকে চ্যালেঞ্জ করার একটা উপায় থাকা দরকার। কাগজে থাকা কিন্তু ব্যবহার করা যায় না, এমন আপিল কোনো পথ নয়। কার্যকর পথ পাঁচটা প্রশ্নের উত্তর দেয়।
| প্রশ্ন | কার্যকর উত্তর | দুর্বল উত্তর |
|---|---|---|
| সিদ্ধান্ত হয়েছে এবং কীভাবে তা চ্যালেঞ্জ করা যায়, ব্যক্তি তা জানেন? | নোটিশ সহজ ভাষায়, ব্যক্তির ভাষায়, যোগাযোগের ঠিকানাসহ তা জানায়। | আপিলের উল্লেখহীন সাধারণ একটা বার্তা। |
| মূল কারণ আর ডেটা তিনি দেখতে পান? | মূল কারণ দেওয়া হয়, আর ভুল ডেটা শোধরানো যায়। | "আমাদের মানদণ্ড পূরণ হয়নি।" |
| আপিল শোনে কে? | প্রথম সিদ্ধান্তে জড়িত ছিলেন না এবং ফল বদলানোর ক্ষমতা আছে, এমন একজন। | প্রথম সিদ্ধান্ত নেওয়া সেই টিম, বা এমন কেউ যিনি শুধু তা পুনরাবৃত্তি করতে পারেন। |
| কতক্ষণ লাগে? | উল্লেখ করা, যুক্তিসঙ্গত সময়সীমা, এবং একটা উত্তর। | সময়সীমা নেই, উত্তরও নেই। |
| অপেক্ষার সময়ে ব্যক্তি সুবিধা পেতে থাকেন? | যুক্তিসঙ্গত হলে সেবা চলতে থাকে বা সাময়িক বিকল্প থাকে। | পর্যালোচনা শেষ না হওয়া পর্যন্ত ক্ষতি পুরোটাই চলতে থাকে। |
আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): ইউরোপীয় ইউনিয়নের জেনারেল ডেটা প্রোটেকশন রেগুলেশনের ২২ নম্বর অনুচ্ছেদের একটা বেসরকারি অনলাইন পাঠ অনুযায়ী, শুধু স্বয়ংক্রিয় প্রক্রিয়াকরণের ভিত্তিতে নেওয়া যে সিদ্ধান্ত আইনি বা অনুরূপ গুরুতর প্রভাব ফেলে, তার অধীন না হওয়ার অধিকার একজন মানুষের আছে, তবে ব্যতিক্রম আছে। কিছু ব্যতিক্রম প্রযোজ্য হলে প্রতিষ্ঠানকে অন্তত মানুষের হস্তক্ষেপ, নিজের মত জানানোর সুযোগ, আর সিদ্ধান্তকে চ্যালেঞ্জ করার উপায় দিতে হয়। সহজ কথায়: গুরুত্বপূর্ণ কোনো সিদ্ধান্ত শুধু যন্ত্র নিলে আপনার একজন মানুষ পাওয়ার, নিজের কথা বলার এবং তা চ্যালেঞ্জ করার অধিকার থাকতে পারে। এটা একটা অঞ্চলের বর্ণনা। অন্য জায়গায় নিয়ম আলাদা, বা নেই। আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।
আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): কলোরাডো জেনারেল অ্যাসেম্বলির ওয়েবসাইট দেখায়, "Automated Decision-Making Technology" শিরোনামের SB26-189 ২০২৬ সালে আইনে পরিণত হয়েছে (স্বাক্ষর ২০২৬-০৫-১৪), এবং তার কিছু দায়িত্ব পরে শুরু হবে, যেমন ডেভেলপারদের নথিবদ্ধ করার দায়িত্ব ২০২৭-০১-০১ থেকে। আইন-সংস্থা ও সার্চ-সারসংক্ষেপ জানায়, এটা কলোরাডোর আগের ২০২৪ সালের AI আইনের জায়গা নিয়েছে, যেটা পিছিয়ে দেওয়া হয়েছিল এবং কার্যকর হয়নি, আর নতুন আইনটা সংকীর্ণ এবং নোটিশ ও স্বচ্ছতাকেন্দ্রিক। তাই ২০২৪ সালের দায়িত্বগুলো (যেমন প্রভাব-মূল্যায়ন) কার্যকর হিসেবে শেখানো উচিত নয়। এটা যুক্তরাষ্ট্রের একটা অঙ্গরাজ্য; আমরা যেসব উৎস দেখেছি তাতে যুক্তরাষ্ট্রের কোনো একক ব্যাপক ফেডারেল AI আইন পাওয়া যায়নি, আর ফেডারেল ও অঙ্গরাজ্য নিয়মের ভারসাম্য নিয়ে বিতর্ক আছে। আপনার অঙ্গরাজ্য ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।
মানুষের পর্যালোচনা আর স্বয়ংক্রিয় অনুমোদন
এ দুটো আলাদা, আর গুলিয়ে ফেললে দুই দিকেই ক্ষতি হয়। মানুষের পর্যালোচনা মানে একজন মানুষ কেসটা পরীক্ষা করেন এবং ফল বদলাতে পারেন। স্বয়ংক্রিয় অনুমোদন মানে কেউ না দেখেই টুলের আউটপুট কার্যকর হয়। অনেক সিস্টেম স্পষ্ট, অনুকূল কেসে স্বয়ংক্রিয় অনুমোদন দেয় এবং বাকিগুলো মানুষের কাছে পাঠায়। সেটা বুদ্ধিমানের কাজ হতে পারে, কিন্তু স্বয়ংক্রিয়তা কোন দিকে যাচ্ছে তা দেখুন।
| নকশা | কী ঘটে | কিসের দিকে নজর রাখবেন |
|---|---|---|
| শুধু স্পষ্ট, অনুকূল কেসে স্বয়ংক্রিয় অনুমোদন | সুস্পষ্ট অনুমোদন চলে যায়; বাকি সব মানুষের কাছে যায়। | "স্পষ্ট" কেস ন্যায্যভাবে বাছা হয়? কেউ অনুমোদনগুলোর নমুনা দেখেন? |
| স্বয়ংক্রিয় প্রত্যাখ্যান | মানুষ ছাড়াই প্রত্যাখ্যান কার্যকর হয়। | যিনি ক্ষতিগ্রস্ত হন, ভুলটা তিনিই দেখতে পান না। সবচেয়ে জোরালো সুরক্ষা লাগে, বা এড়িয়ে চলা উচিত। |
| অভিযোগ হলেই পর্যালোচনা | আবেদনকারী আপত্তি করলে তবেই মানুষ দেখেন। | নীরব ভুল থেকে যায়, কারণ অনেকে জানেন না যে অভিযোগ করা যায়। |
| প্রতিটা প্রতিকূল সিদ্ধান্তের পর্যালোচনা | একজন মানুষ প্রতিটা নিশ্চিত করেন বা বদলান। | সময় লাগে; কাজ করে শুধু যদি পর্যালোচকের ওপরের পরীক্ষাগুলো অনুযায়ী সময় ও ক্ষমতা থাকে। |
যেখানে যুক্তিসঙ্গত মানুষেরা একমত নন
মানুষের পর্যালোচনা কতটা হলে যথেষ্ট?
| মত ক: প্রতিটা গুরুত্বপূর্ণ সিদ্ধান্ত একজন মানুষ পর্যালোচনা করবেন | মত খ: ঝুঁকির অনুপাতে পর্যালোচনা |
|---|---|
| যে সিদ্ধান্ত কারও জীবন বদলায়, তা কোনো মানুষের মন না দেখে চূড়ান্ত হওয়া উচিত নয়। নমুনা-পর্যালোচনায় ভুলগুলো আসল মানুষের ওপর পড়ে। | সবকিছু পর্যালোচনা ধীর ও ব্যয়বহুল, আর ক্লান্ত পর্যালোচকেরা না ভেবেই ক্লিক করে যান। সীমারেখার ও প্রতিকূল কেসগুলো ভালোভাবে দেখা এবং বাকিগুলোর নমুনা নেওয়া সবার দুর্বল পর্যালোচনার চেয়ে বেশি সুরক্ষা দিতে পারে। |
দুটো মত মিলিয়েও নেওয়া যায়: প্রতিটা প্রতিকূল উচ্চ-ঝুঁকির সিদ্ধান্ত ঠিকমতো পর্যালোচনা করুন, অনুকূলগুলোর নমুনা নিন, আর বাতিলের হার ট্র্যাক করুন। আপনার নিজের নিয়ম আর প্রেক্ষাপট ঠিক করে দেবে।
যখন যোগ্য পেশাদারকে সিদ্ধান্ত নিতে হবে
কিছু সিদ্ধান্তের জন্য এমন একজন মানুষ দরকার, যাঁর নির্দিষ্ট প্রশিক্ষণ, দায়িত্ব এবং জবাবদিহির ক্ষমতা আছে: রোগনির্ণয় বা চিকিৎসার জন্য চিকিৎসক, আইনি পরামর্শের জন্য আইনজীবী, কাঠামোগত নিরাপত্তার অনুমোদনের জন্য প্রকৌশলী, আনুষ্ঠানিক গ্রেডের জন্য শিক্ষক বা পরীক্ষক, নিয়ম চাইলে লাইসেন্সপ্রাপ্ত উপদেষ্টা। কোন সিদ্ধান্তে এমন মানুষ লাগে তা দেশ, পেশা ও প্রতিষ্ঠানভেদে আলাদা, তাই স্থানীয় নিয়ম দেখে নিন।
একটা ছোট পরীক্ষা: (১) ভুল সিদ্ধান্ত কারও গুরুতর ক্ষতি করবে? (২) স্থানীয় নিয়ম বা আপনার প্রতিষ্ঠানের পলিসি কোনো ভূমিকার নাম করে, যাঁকে সিদ্ধান্ত নিতে হবে? (৩) সিদ্ধান্তে একজন নির্দিষ্ট মানুষ সম্পর্কে বিচার লাগে, এমন তথ্যসহ যা AI দেখতে পায় না? (৪) এমন কেউ আছেন, যাঁকে জবাবদিহির মুখোমুখি করা যায়? প্রথম তিনটার উত্তর হ্যাঁ হলে একজন যোগ্য পেশাদারের সিদ্ধান্ত নেওয়া উচিত, আর AI, যদি ব্যবহার হয়ই, সেই মানুষটাকে সাহায্য করবে। তাঁর জায়গা নেবে না।
উপকার, ঝুঁকি ও AI-ছাড়া বিকল্প
গুরুত্বপূর্ণ কিছুতে AI ব্যবহারের আগে একই কাজ করার অন্য উপায়গুলোর পাশে রেখে দেখুন। "আগের মতোই চালানো"-ও একটা বিকল্প।
| বিকল্প | উপকার | ঝুঁকি | ফেরানো যায়? | খরচ ও সময় |
|---|---|---|---|---|
| ক. AI সিদ্ধান্ত নেয়, পর্যালোচনা নেই | সবচেয়ে দ্রুত; সুসংগত | ভুল অদৃশ্য; আপিল নেই; বড় মাপে পক্ষপাত | কম | প্রতি কেসে সবচেয়ে কম |
| খ. AI সুপারিশ করে, প্রশিক্ষিত মানুষ সিদ্ধান্ত নেন | হাতে করার চেয়ে দ্রুত; মানুষ ভুল ধরতে পারেন | অটোমেশন বায়াস; তাড়াহুড়ো হলে রাবার স্ট্যাম্প | মাঝারি | মাঝারি |
| গ. AI নেই; স্পষ্ট লিখিত নিয়ম ও একজন মানুষ | ব্যাখ্যা করা সহজ; জবাবদিহিযোগ্য | ধীর; মানুষের অসংগতি | বেশি | বেশি |
| ঘ. অপেক্ষা বা পরিধি সীমিত করা | পরীক্ষা ও শেখার সময় | অপেক্ষারত মানুষের জন্য বিলম্বের মূল্য আছে | বেশি | এখন কম |
টেবিলে কোনো বিজয়ী নেই। লাইব্রেরির বই সাজানোর টুলের জন্য ক ঠিক হতে পারে। ঋণ, চাকরি বা ভাতার সিদ্ধান্তে খ বা গ বেশি যুক্তিযুক্ত, আর আপনার পছন্দ নির্ভর করবে ঝুঁকি, প্রমাণ এবং আপনার হাতে থাকা সময়ের ওপর।
যখন সবচেয়ে নিরাপদ পথ AI ব্যবহার না করা
AI ব্যবহার না করা সিদ্ধান্ত-ছকের ব্যর্থতা নয়, ফল। নিচের কয়েকটা একসঙ্গে সত্য হলে AI ব্যবহার না করার কথা ভাবুন:
- সিদ্ধান্তটা উচ্চ-ঝুঁকির এবং ফেরানো কঠিন।
- ভুল কে ধরবে কেউ বলতে পারে না, বা পর্যালোচকের সময় বা ক্ষমতা নেই।
- প্রভাবিত মানুষদের জানানো যায় না, কারণ দেখানো যায় না, বা তাঁরা আপিল করতে পারেন না।
- টুলটাকে যাঁদের ওপর খাটানো হবে তাঁদের মতো মানুষের ওপর পরীক্ষা করার উপায় নেই।
- ডেটা দুর্বল, পুরোনো, বা এমন স্পর্শকাতর তথ্য আছে যা আপনি রক্ষা করতে পারবেন না।
- একটা সহজ, ব্যাখ্যাযোগ্য, AI-ছাড়া পদ্ধতি প্রায় সমান ভালো কাজ করে।
"এখনই নয়" একটা বৈধ উত্তর: একটা ছোট পরীক্ষা চালান যেখানে সমান্তরালে মানুষও সিদ্ধান্ত নেন আর তুলনা করুন, বা টুলকে কাজের কম-ঝুঁকির অংশে সীমিত রাখুন। কী পেলে আপনার মত বদলাবে তা লিখে রাখুন।
অনুশীলনী: কাল্পনিক AI-ভিত্তিক ঋণ প্রত্যাখ্যান
এখানে একটা সম্পূর্ণ কেস। যা লাগবে সবই নিচে ছাপা আছে; এতে কোনো বাস্তব প্রতিষ্ঠানের বর্ণনা নেই।
কাল্পনিক পরিস্থিতি:
Sunrise Savings Co-operative (invented) uses a scoring tool for small business loans.
Applicant: Thandi Nkosi, owner of a bakery in Durban for 3 years. Request: 8,000 units, 24 months.
Tool result: score 41 out of 100. Rule: below 50 means "reject". Reason codes (staff view only):
"short credit history", "irregular deposits".
What the file contains: most customers pay in cash, so deposits are irregular. The file shows a
previous 1,500-unit loan as "unpaid". Thandi repaid it in full; she has the receipt.
Letter sent: "Your application does not meet our criteria." No reasons, no appeal information.
Review step: a loan officer confirms rejections, about 60 a day, about 20 seconds each. Changing
a rejection needs written approval from a regional manager.
Complaint route: an email to a general inbox. No deadline. No named person.
Last quarter: 500 applications. Applicants with under 2 years of credit history: 150, of whom
57 were rejected. All other applicants: 350, of whom 49 were rejected.
Appeals last quarter: 9 filed. After a manager looked again, 6 were approved.ওয়ার্কশিট:
A. DECISION TYPE Recommendation, automated decision, or a recommendation acting as a decision?
B. REVERSIBILITY How hard is it to undo? Does Thandi know what happened?
C. OVERSIGHT Information, time, competence, authority, records: which are missing?
D. CONTEST ROUTE Notice, reasons, correction, independent hearer, time limit, continuity.
E. WHO DECIDES Is a qualified person needed for the final decision? Who is accountable?
F. EVIDENCE What do the quarter's numbers show, and what do they not show?
G. ALTERNATIVES At least three options, one without AI.
H. RECOMMENDATION Keep as is, change with conditions, or stop. A review date.এখনই উত্তর পড়বেন না। দুই গোষ্ঠীর প্রত্যাখ্যানের হার নিজে হিসাব করুন। তারপর ওয়ার্কশিট পূরণ করুন। নিচের কঠিন কাজটা এটাই ব্যবহার করে, আর আদর্শ উত্তর তার পরে।
কাজের জায়গায় এটা কোথায় দেখা যায়
সাপোর্ট-লিড দেখতে পারেন, প্রতিদিন ৬০টা প্রত্যাখ্যান নিশ্চিত করা একজন পর্যালোচক সততার সঙ্গে তার একটাও পরীক্ষা করতে পারেন কি না। স্কুল-সমন্বয়কারী লিখে রাখতে পারেন, শুধু ডিটেক্টরের স্কোরের ভিত্তিতে কোনো শাস্তি হবে না। ছোট ঋণদাতা প্রতিটা প্রত্যাখ্যান-চিঠিতে একটা কারণ, একজন নামধারী যোগাযোগকারী আর একটা সময়সীমা রাখতে পারেন। ক্রয়-কর্মকর্তা ভেন্ডরকে জিজ্ঞেস করতে পারেন, টুলে বাতিল করার ব্যবস্থা কীভাবে আছে এবং বাতিলগুলো কীভাবে নথিবদ্ধ হয়। এগুলো প্রক্রিয়ার ছোট বদল, কিন্তু মডেলের নির্ভুলতার সংখ্যার চেয়ে এগুলোর গুরুত্ব বেশি।
সাধারণ ভুল
- যেকোনো মানুষকে তদারকি গণ্য করা। সময়, তথ্য বা ক্ষমতাহীন মানুষ সুরক্ষা নন। সমাধান: পাঁচটা পরীক্ষা প্রয়োগ করুন এবং বাতিলের হার ট্র্যাক করুন।
- ব্যবহার করা যায় না এমন আপিল দেওয়া। নোটিশ, কারণ বা সময়সীমা না থাকলে তা ফাঁপা। সমাধান: পাতার পাঁচটা প্রশ্ন মিলিয়ে দেখুন।
- আপিল সেই টিমের কাছে পাঠানো, যারা প্রথম সিদ্ধান্ত নিয়েছে। সমাধান: ফল বদলানোর ক্ষমতাসহ একজন স্বাধীন শ্রোতা।
- ডিটেক্টরের বা টুলের স্কোরকে প্রমাণ ধরা। সমাধান: অন্য প্রমাণ জোগাড় করুন এবং ব্যক্তিকে সাড়া দিতে দিন।
- ধরে নেওয়া যে AI-এর একমাত্র বিকল্প কিছু না করা। সমাধান: সবসময় একটা AI-ছাড়া বিকল্প আর একটা "অপেক্ষা" বিকল্প লিখুন।
নিজে চেষ্টা করুন
- সহজ। প্রতিটা সিদ্ধান্ত ফেরানো সহজ না কঠিন লিখুন, আর একটা কারণ দিন: (ক) দোকানের AI একটা ডিসকাউন্ট কোড প্রস্তাব করে, যা পরে বাতিল হয়; (খ) বিশ্ববিদ্যালয়ের টুল একজন শিক্ষার্থীকে অসদাচরণের জন্য চিহ্নিত করে, আর ফ্ল্যাগটা শিক্ষার্থীর ফাইলে যায়; (গ) ক্লিনিকের টুল রোগীদের জরুরি আর সাধারণে ভাগ করে, আর রোগীদের কেউ তা জানায় না।
- মাঝারি। কাল্পনিক পরিস্থিতি: বার্লিনের একটা কলেজে একটা ডিটেক্টর টুল বলছে, হানার সহপাঠী তারেকের রচনা "৯২ শতাংশ সম্ভাবনায় AI-লেখা"; তারেক ইংরেজিতে লেখেন দ্বিতীয় ভাষা হিসেবে। শিক্ষক তাঁকে শূন্য দিতে চান। এই প্রক্রিয়ায় কী নেই তা তালিকা করুন, আর কোনো শাস্তির আগে শিক্ষকের কী করা উচিত তা লিখুন।
- কঠিন। ওপরের সানরাইজ সেভিংস কো-অপারেটিভ কেসের জন্য A থেকে H পর্যন্ত ওয়ার্কশিট সম্পূর্ণ করুন। তারপর এমন একটা বিষয় বলুন যেখানে দুজন যুক্তিসঙ্গত মানুষ একমত নাও হতে পারেন।
উত্তর
সহজ। (ক) সহজ: কোডটা বাতিল হয়, ক্ষতি সামান্য। (খ) কঠিন: ফাইলের ফ্ল্যাগ অন্য মানুষ ও সিস্টেম পড়ে এবং শিক্ষার্থীর পিছু নিতে পারে, তাই জোরালো প্রমাণ ও শুনানি দরকার। (গ) বাস্তবে কঠিন: কোনো টুল তাঁদের ভাগ করেছে জানেন না এমন রোগীরা আপত্তি করতে পারেন না, আর যত্নে দেরি গুরুতর হতে পারে। পাস: প্রতিটা উত্তর বলে ব্যক্তি জানতে পারেন কি না এবং ক্ষতি ফেরানো যায় কি না। দুর্বল: শুধু "সহজ" বা "কঠিন" শব্দ।
মাঝারি। ভালো উত্তর: ডিটেক্টরের স্কোর অসম্পূর্ণ সংকেত, প্রমাণ নয়; এই টুল দ্বিতীয় ভাষায় লেখকদের ক্ষেত্রে কম নির্ভরযোগ্য হতে পারে, আর শিক্ষকের একে একমাত্র প্রমাণ ধরা উচিত নয়। যা নেই: অন্য প্রমাণ (খসড়া, নোট, ভার্সন-ইতিহাস, বিষয়বস্তু নিয়ে কথোপকথন), তারেকের সাড়া দেওয়ার সুযোগ, একজন স্বাধীন পর্যালোচক, আর AI-এর কোন ব্যবহার অনুমোদিত তার একটা লিখিত নিয়ম। শিক্ষকের উচিত তারেককে তাঁর প্রক্রিয়া ব্যাখ্যা করতে ও খসড়া দেখাতে বলা, স্কুলের পলিসি দেখা, আর সব প্রমাণ মিলিয়ে সিদ্ধান্ত নেওয়া। পাস: শুধু স্কোরের ভিত্তিতে শাস্তি নাকচ করে, প্রক্রিয়ার প্রমাণ চায়, এবং তারেককে কথা বলার সুযোগ দেয়। দুর্বল: ৯২ শতাংশে ভরসা করে, বা প্রক্রিয়া না দিয়ে টুলকে অকেজো বলে ঘোষণা করে।
কঠিন। আদর্শ উত্তর। A: সুপারিশ, যা সিদ্ধান্তের মতো কাজ করে, কারণ কর্মকর্তার হাতে কয়েক সেকেন্ড, আর ম্যানেজারের অনুমোদন ছাড়া প্রত্যাখ্যান বদলানো যায় না। B: ফেরানো কঠিন: থান্ডি সময়মতো সরবরাহ কিনতে পারেন না; কেন বা কীভাবে আপিল করবেন তাঁকে জানানো হয়নি, তাই হয়তো তিনি কিছুই করবেন না। C: তথ্য নেই (কর্মকর্তা শুধু কোড দেখেন); সময় নেই (২০ সেকেন্ড); ক্ষমতা নেই (লিখিত অনুমোদন লাগে); রেকর্ড নেই (বাতিলের ডেটা নেই); দক্ষতা অজানা। D: কারণ নেই, শোধরানোর পথ নেই, নামধারী কেউ নেই, সময়সীমা নেই, স্বাধীন শ্রোতা নেই। ফাইলে ভুলভাবে "অপরিশোধিত" লেখা একটা ঋণ আছে, যা শোধরানোর পথ থাকলে ঠিক হতে পারত। E: একজন ঋণ-কর্মকর্তা বা ক্রেডিট ম্যানেজার, যিনি তাঁর আসল হিসাব বিবেচনা করতে পারেন, একজন নামধারী জবাবদিহিকারীসহ। F: প্রত্যাখ্যানের হার: স্বল্প ক্রেডিট-ইতিহাস (২ বছরের কম) আবেদনকারীদের ১৫০ জনের মধ্যে ৫৭ জন মানে ৩৮ শতাংশ, আর অন্যদের ৩৫০ জনের মধ্যে ৪৯ জন মানে ১৪ শতাংশ; মোট ৫০০-এর মধ্যে ১০৬ মানে ২১.২ শতাংশ। ৯টা আপিলের ৬টা (তিন ভাগের দুই ভাগ) ম্যানেজার আবার দেখার পর অনুমোদিত হয়েছে, যা ইঙ্গিত দেয় কিছু প্রথম সিদ্ধান্ত ভুল ছিল; কিন্তু আপিল করেছেন মাত্র ৯ জন, তাই ভুলভাবে প্রত্যাখ্যাত কতজন আপিল করেননি তা আমরা জানি না। সংখ্যাগুলো দেখায় না কেন দুই গোষ্ঠীর পার্থক্য: টুল হয়তো স্বল্প ক্রেডিট-ইতিহাসকে এমন কিছুর প্রক্সি করছে যার সঙ্গে পরিশোধের সম্পর্ক নেই, কিংবা গোষ্ঠী দুটো সত্যিই আলাদা হতে পারে; এটা অনুমান নয়, পরীক্ষা করে জানার বিষয়। G: বিকল্প ১: যেমন আছে রাখা। বিকল্প ২: টুলকে সুপারিশ হিসেবে রাখা; প্রত্যাখ্যাত প্রত্যেক আবেদনকারীকে সহজ ভাষায় কারণ, ডেটা শোধরানোর উপায়, একজন নামধারী যোগাযোগকারী, সময়সীমা আর ক্ষমতাসম্পন্ন একজন স্বাধীন পর্যালোচক দেওয়া; অনুমোদনের নমুনা নেওয়া। বিকল্প ৩: AI নেই: নগদ-ব্যবসার প্রমাণসহ (হিসাব, রসিদ, সুপারিশ) একটা লিখিত চেকলিস্ট, আর দুজন মানুষের পর্যালোচনা। বিকল্প ৪: পরীক্ষা না হওয়া পর্যন্ত স্বল্প ক্রেডিট-ইতিহাসের আবেদনকারীদের জন্য স্বয়ংক্রিয় প্রত্যাখ্যান থামিয়ে রাখা। H: শর্তসহ বদল (বিকল্প ২, আর স্বল্প-ইতিহাসের আবেদনকারীদের জন্য বিকল্প ৪), জবাবদিহিকারী ঋণ-বিভাগের প্রধান, নির্দিষ্ট একটা মাসে পর্যালোচনা: বাতিল হওয়া আপিল, প্রত্যাখ্যানের হার আর উত্তরের সময় দেখুন। মতভেদের একটা জায়গা: একজন বলতে পারেন ৩৮ শতাংশ বনাম ১৪ শতাংশের ফারাকে পরীক্ষা না হওয়া পর্যন্ত টুল থামানো দরকার; আরেকজন বলতে পারেন টুল আসল ঝুঁকি মাপে, সমাধান প্রক্রিয়ায়, টুল সরানোয় নয়। পাস-তালিকা: হার ঠিকভাবে হিসাব করে; তদারকির অনুপস্থিত পরীক্ষাগুলোর নাম করে; ডেটার ভুল ও শোধরানোর পথ চিহ্নিত করে; AI-ছাড়া একটাসহ অন্তত তিনটা বিকল্প দেয়; একজন মালিক ও একটা তারিখ দেয়; মতভেদ ন্যায্যভাবে দেখায়। দুর্বল: একটা ফারাক দেখে "টুলটা পক্ষপাতদুষ্ট" সিদ্ধান্তে পৌঁছায়, বা বেশির ভাগ প্রত্যাখ্যানে আপিল হয়নি বলে "টুলটা ঠিক" বলে, বা মালিক ও তারিখ দেয় না।
সারসংক্ষেপ
- শিক্ষা ও জনসেবায় প্রভাবিত মানুষ সাধারণত সিস্টেম বেছে নিতে পারেন না, তাই প্রমাণ, কারণ, প্রমাণের ভার আর নজরদারি নিয়ে জিজ্ঞেস করুন। ডিটেক্টর বা টুলের স্কোর একা প্রমাণ নয়।
- শুরুতেই ফেরানোর সম্ভাবনা মাপুন: যা ফেরানো কঠিন তার জন্য জোরালো প্রমাণ, সিদ্ধান্ত নেওয়ার জন্য একজন মানুষ, আর জানার ও আপিলের উপায় দরকার।
- তদারকি অর্থবহ তখনই, যখন তথ্য, সময়, দক্ষতা আর ক্ষমতা থাকে, সঙ্গে বাতিলের রেকর্ড। প্রতিকূল সিদ্ধান্তের পর্যালোচনা আর অনুকূল সিদ্ধান্তের স্বয়ংক্রিয় অনুমোদন আলাদা জিনিস।
- কার্যকর আপিলে নোটিশ, কারণ, শোধরানো, স্বাধীন শ্রোতা, সময়সীমা আর ধারাবাহিকতা থাকে। যেখানে পেশাদারকে সিদ্ধান্ত নিতে হয়, সেখানে AI তাঁকে সাহায্য করে, তাঁর জায়গা নেয় না।
- AI-কে AI-ছাড়া বিকল্প আর অপেক্ষার সঙ্গে তুলনা করুন। কখনো কখনো সবচেয়ে নিরাপদ পথ AI ব্যবহার না করা, বা এখনই না করা। আইন জায়গাভেদে আলাদা: নিজের জায়গার বর্তমান সরকারি পাঠ দেখে নিন।
এরপর: স্বচ্ছতা, ব্যাখ্যা ও জবাবদিহি: AI-এর সিদ্ধান্তের দায় কার পাতায় আছে মানুষকে AI সম্পর্কে কী জানাবেন, কতটা ব্যাখ্যা দেবেন, আর কিছু ভুল হলে দায় কার।