অধ্যায় 1 · নৈতিকতা ও নীতিমালা
মূল নৈতিক নীতি: ন্যায্যতা, স্বচ্ছতা, গোপনীয়তা, নিরাপত্তা ও জবাবদিহি
- পৃষ্ঠা 3 / 22
- 17 মিনিট পড়া
প্রথম দুটো পাতায় আপনি একটা পদ্ধতি পেয়েছেন: কারা প্রভাবিত হচ্ছে তা জিজ্ঞেস করুন, উপকার ও ক্ষতি ওজন করুন, বিকল্প তুলনা করুন, একজন মানুষের নাম ঠিক করুন, একটা তারিখ দিন। পদ্ধতিকে দিক দেখাতে মূল্যবোধ লাগে। আপনি যখন বলেন "এটা অন্যায্য মনে হচ্ছে" বা "এটা বড্ড অনধিকার প্রবেশ", তখন আপনি একটা নীতি ব্যবহার করছেন, নামটা না জানলেও। এই পাতায় প্রচলিত নীতিগুলোর নাম দেওয়া হয়েছে, প্রতিটা বাস্তব ডিজাইনের সিদ্ধান্তে কেমন দেখায় তা দেখানো হয়েছে, এবং দুটো আন্তর্জাতিক দলিল কীভাবে এগুলোকে সাজিয়েছে তাও দেখানো হয়েছে।
এখানকার নীতিগুলো এমন তালিকা নয় যে টিক দিলেই একটা টুল নৈতিক হয়ে যায়। এগুলো এমন প্রশ্ন, যা আপনার মনোযোগ সঠিক জায়গায় রাখে। কখনো কখনো এগুলো আলাদা দিকে টানে; সে বিষয়ে পরের পাতায় আলোচনা আছে। এখানে আমরা শিখি প্রতিটা নীতি কী চায়।
যা শিখবেন
- মানব মর্যাদা, ন্যায্যতা, ক্ষতি এড়ানো এবং ঝুঁকির সঙ্গে উপকার ওজন করা স্লোগান নয়, বাস্তব ডিজাইনের প্রশ্ন হিসেবে কী বোঝায়।
- অপ্রযুক্তিগত ব্যবহারকারীকে স্বচ্ছতা কীভাবে বোঝাবেন, এবং কেন জবাবদিহি মানে একজনকে দোষ দেওয়া নয়।
- গোপনীয়তা ও ডেটা গভর্নেন্স, প্রবেশগম্যতা ও অন্তর্ভুক্তি কীভাবে মূর্ত প্রয়োজনীয়তা হয়ে ওঠে।
- OECD AI Principles আর UNESCO-র নৈতিকতা বিষয়ক সুপারিশ কী, কে এগুলো জারি করেছে, এবং এগুলো ঐচ্ছিক।
- একটা AI ব্যবহারে ছোট নীতি-যাচাই চালানো এবং প্রতিটা নীতি আপনার কাছে কী চায় তা লিখে রাখা।
একটা চলমান পরিস্থিতি
প্রতিটা নীতি আমরা একই কাল্পনিক উদাহরণের বিরুদ্ধে যাচাই করব। এখন একবার পড়ুন, আর পড়তে পড়তে ফিরে আসুন।
কাল্পনিক পরিস্থিতি:
Amara leads digital services for a city council. Residents ask about permits, bills and
benefit applications. The council adds an AI assistant to its website and phone app. It answers
questions in text, helps fill in forms, and sorts requests into "standard" or "needs a person".
Standard requests get an automatic reply. The council wants shorter queues at its front desk.
Residents include older people, people who do not read well, people who speak another language
at home, people using only a basic phone, and people using screen readers.মানব মর্যাদা ও মানবাধিকার, ডিজাইনের বিবেচনা হিসেবে
মানব মর্যাদা (human dignity) হলো এই ধারণা যে প্রতিটা মানুষের মূল্য আছে, তিনি কতটা কাজের, ধনী বা সামলানো সহজ, তার ওপর তা নির্ভর করে না। মানবাধিকার (human rights) হলো মৌলিক সুরক্ষা, যা আন্তর্জাতিক ও জাতীয় দলিলে বর্ণিত, যেমন বৈষম্য থেকে মুক্তি, গোপনীয়তা, আর জনজীবনে অংশ নেওয়ার সুযোগ। এই ধারণাগুলো ডিজাইনের প্রশ্ন হিসেবে ব্যবহার করতে আইনের ডিগ্রি লাগে না: এই ডিজাইন মানুষকে মানুষ হিসেবে দেখে, আর এটা এমন কিছু কেড়ে নিতে পারে যার ওপর তাদের অধিকার আছে?
| ডিজাইনের প্রশ্ন | আমারার কাউন্সিল অ্যাসিস্ট্যান্টে |
|---|---|
| একজন মানুষ সব সময় একজন মানুষের কাছে পৌঁছাতে পারেন? | বিভ্রান্ত বা বিরক্ত একজন বাসিন্দা "একজন মানুষের সঙ্গে কথা বলব" বলতে পারেন, এবং তাঁকে ঘোরানো হয় না। |
| কাউকে শুধু একটা কেস নম্বর হিসেবে দেখা হচ্ছে? | "মানুষ লাগবে" বাছাই কাউকে তাঁর লেখার ধরনের জন্য ঝামেলাবাজ বলে চিহ্নিত করা উচিত নয়। |
| ডিজাইন এমন কিছুর নাগাল আটকাতে পারে যার ওপর মানুষের অধিকার আছে? | কোনো ভাতা যদি শুধু অ্যাসিস্ট্যান্টের মাধ্যমে দাবি করা যায়, যাঁরা সেটা ব্যবহার করতে পারেন না তাঁরা ভাতা হারাতে পারেন। |
মর্যাদার কথা বলা সহজ, মাপা কঠিন। একটা খুব সোজা প্রশ্ন সাহায্য করে: আপনি নিজে বাসিন্দা হলে, প্রক্রিয়াটার সবচেয়ে খারাপ মুহূর্তে, সবচেয়ে ভালো মুহূর্তে নয়, নিজেকে সম্মানিত মনে করতেন?
ন্যায্যতা মানে একই আচরণ নয়
অনেকে ভাবেন ন্যায্যতা মানে সবাইকে ঠিক একই জিনিস দেওয়া। কখনো সেটা ঠিক: একই পারমিটের জন্য আবেদনকারী সবার জন্য একই নিয়ম। কখনো সেটা ভুল। পরীক্ষায় একজন প্রার্থীর পড়ার অসুবিধা থাকলে সবাইকে একই ৬০ মিনিট দেওয়ায় তিনি সমান সুযোগ পান না। তাঁকে বাড়তি সময় দেওয়া পক্ষপাত নয়; পরীক্ষা যা মাপে তার সঙ্গে সম্পর্কহীন একটা বাধা সরানো। ন্যায্যতা (fairness) জিজ্ঞেস করে: প্রাসঙ্গিক পার্থক্যের কারণে মানুষের সঙ্গে ভিন্ন আচরণ সমর্থনযোগ্য, এবং অপ্রাসঙ্গিক পার্থক্য, যেমন পটভূমি, ভাষা বা প্রতিবন্ধিতা, কাউকে পিছিয়ে রাখছে না?
| পরিস্থিতি | একই আচরণ | ন্যায্য আচরণ হয়তো মানে |
|---|---|---|
| কাউন্সিল অ্যাসিস্ট্যান্ট একটা ভাষায় উত্তর দেয় | সবার জন্য একই লেখা। | বাসিন্দারা যে প্রধান ভাষাগুলো ব্যবহার করেন সেগুলোতে সাহায্য, অথবা মানুষ দোভাষীর কাছে যাওয়ার পথ। |
| অনলাইনে পূরণ করতে হয় এমন ফর্ম | সবাই একই ওয়েব ফর্ম পায়। | যাঁরা ফর্মটা ব্যবহার করতে পারেন না তাঁদের জন্য ফোন বা ডেস্কের বিকল্প পথ। |
| ভাতা নবায়নের শেষ তারিখ | সবার জন্য একটাই তারিখ। | একই তারিখ, কিন্তু পড়তে অসুবিধা আছে বলে জানা মানুষদের জন্য বাড়তি অনুস্মারক। |
উল্টো দিক থেকেও সাবধান হন। ভিন্ন আচরণ একটা প্রাসঙ্গিক কারণে সমর্থিত এবং প্রশ্ন করার জন্য উন্মুক্ত হতে হবে; মানুষকে বাদ দেওয়ার ভদ্র উপায় হলে চলবে না। এই টিউটোরিয়ালের ৬ নম্বর পাতা, ন্যায্যতা ও তার ট্রেড-অফ: অন্তর্ভুক্তি, অ্যাক্সেসিবিলিটি ও ভাষা, মাপার দিকটা আরও এগিয়ে নিয়ে যায়। আপাতত মনে রাখুন, "সবার জন্য সমান" আর "ন্যায্য" আলাদা হতে পারে, এবং আপনাকে বলতে পারতে হবে কোন প্রাসঙ্গিক পার্থক্যের কারণে কিছু বদলানো হচ্ছে।
যেখানে যুক্তিসঙ্গত মানুষেরা দ্বিমত করেন
সহজ ভাষা আর বড় লেখা সবার জন্য ডিফল্ট হওয়া উচিত, নাকি অনুরোধ করলে দেওয়া উচিত?
| মত ক: ডিফল্ট করুন | মত খ: অনুরোধে দিন |
|---|---|
| মানুষ প্রায়ই সাহায্য চায় না, কারণ তারা লজ্জা পায় বা জানে না যে সুবিধাটা আছে। বেশি মানুষের উপযোগী ডিফল্ট কাউকে নিজের পরিচয় বলতে না বলেই একটা বাধা সরায়। সহজ ভাষা প্রায় সব পাঠকেরই কাজে আসে। | সবচেয়ে বড় চাহিদার জন্য বানানো ডিফল্ট হয়তো কারও জন্যই ভালো হয় না: কিছু বাসিন্দা বিস্তারিত কারিগরি লেখা চান। বেছে নেওয়ার সুযোগ ভিন্ন পছন্দকে সম্মান করে, আর মানুষ নিজের দরকার সবচেয়ে ভালো জানেন। |
দুই মতই চায় বাসিন্দারা ভালো সেবা পান। তারা দ্বিমত করে মানুষের দরকার আন্দাজ করা হবে, নাকি তাঁদের বলতে দেওয়া হবে, সে প্রশ্নে। কাউন্সিল দুটো মিলিয়েও নিতে পারে: ডিফল্টে সহজ ভাষা, আর বিস্তারিত বা অন্য ফরম্যাটের জন্য চোখে পড়ার মতো একটা বিকল্প।
অপ্রয়োজনীয় ক্ষতি এড়ানো, এবং আগাম দেখা যায় এমন ঝুঁকির সঙ্গে উপকার ওজন করা
অপ্রয়োজনীয় শব্দটা গুরুত্বপূর্ণ। প্রায় প্রতিটা কাজের টুলেই কিছু ঝুঁকি থাকে; প্রশ্ন হলো উপকার না হারিয়ে কোনো নির্দিষ্ট ক্ষতি এড়ানো যেত কি না। আগাম দেখা যায় (foreseeable) মানে, একজন যুক্তিসঙ্গত মানুষ অল্প সময় ভাবলে সেটা আশা করতে পারতেন। এই দুটো মিলে দুটো বাস্তব ধাপ দেয়: প্রথমত, যে ক্ষতি সস্তায় সরানো যায় তা সরান; দ্বিতীয়ত, যা থেকে যায় তা উপকারের সঙ্গে ওজন করুন, যেমন দৈনন্দিন AI নৈতিকতা: কারা উপকৃত হয় আর কাদের ক্ষতি হতে পারে পাতার ওয়ার্কশিটের ৩ ও ৬ নম্বর ধাপ আপনাকে করতে বলে।
| কাউন্সিল অ্যাসিস্ট্যান্টের ঝুঁকি | এড়ানো সম্ভব? | অনুপাতে সাড়া |
|---|---|---|
| ভাতা নবায়নের ভুল শেষ তারিখ বলে দেয়। | আংশিক: শব্দগুলো সরকারি পাতার সঙ্গে মিলিয়ে দেখা যায়। | প্রতিটা উত্তরের সঙ্গে সরকারি উৎস দেখান; প্রতি সপ্তাহে উত্তরের একটা নমুনা যাচাই করুন; তারিখ শুধু রক্ষণাবেক্ষণ করা তালিকা থেকে দিন। |
| বিপন্ন একজন বাসিন্দাকে "স্ট্যান্ডার্ড" বলে বাছাই করে। | আংশিক। | জরুরি অবস্থা বা সামলাতে না পারার যেকোনো উল্লেখ সঙ্গে সঙ্গে একজন মানুষের কাছে যায়। |
| ব্যস্ত সময়ে মাঝে মাঝে ধীর হয়। | পুরোপুরি নয়। | মেনে নিন; সামনের ডেস্কের পথ খোলা রাখুন। |
ঝুঁকির সঙ্গে উপকার ওজন করা এমন হিসাব নয় যার একটাই সঠিক উত্তর। এটা প্রমাণ নিয়ে, একজন নির্দিষ্ট মানুষের নেওয়া বিচার, যা পরে যাচাই করা যায়। ক্ষতি যত গুরুতর ও অপরিবর্তনীয়, এবং নিজেকে রক্ষা করতে পারে না এমন মানুষ যত বেশি, এগোনোর আগে তত বেশি প্রমাণ আপনার দেখা দরকার।
অপ্রযুক্তিগত ব্যবহারকারীর জন্য স্বচ্ছতা
স্বচ্ছতা (transparency) মানে মানুষ তাদের বোধগম্য ভাষায় জানতে পারে যে একটা AI জড়িত, সেটা কীসের জন্য ব্যবহার হচ্ছে, এবং কী পারে না। পারমিট দরকার এমন একজন বাসিন্দার জন্য সোর্স কোড বা কারিগরি গবেষণাপত্র প্রকাশ করা এর অর্থ নয়। একে ভাবুন এভাবে: একজন যুক্তিসঙ্গত মানুষ সিস্টেমটা বিশ্বাস করবেন, প্রশ্ন করবেন না এড়াবেন তা ঠিক করতে কী জানতে চাইবেন।
উদাহরণ নোটিশ:
You are talking to an AI assistant, not a person.
It can answer questions about permits and bills and help you fill in forms.
It can make mistakes. Check important dates on the official page we link to.
Your messages are kept for 30 days to fix problems, then deleted.
To speak to a person at any time, type "person" or call the front desk.
If you think an answer or a decision about you is wrong, tell us here: [contact].নোটিশটা পাঁচটা প্রশ্নের বিপরীতে মিলিয়ে দেখুন: এতে বলা আছে যে AI জড়িত? সেটা কীসের জন্য? তার সীমা কী? আমার ডেটার কী হয়? কার সঙ্গে কথা বলতে পারি? এগুলোর উত্তর সহজ ভাষায় দেওয়া নোটিশ একটা দীর্ঘ পলিসির চেয়ে ভালো, যেটা এগুলো লুকিয়ে রাখে। এটাও লক্ষ করুন স্বচ্ছতা কী করে না: AI সম্পর্কে মানুষকে জানালেই AI ন্যায্য বা নির্ভুল হয়ে যায় না। এটা তাদের নিজের পছন্দ করার আর আপত্তি জানানোর সুযোগ দেয়।
জবাবদিহি মানে একজনকে দোষ দেওয়া নয়
জবাবদিহি (accountability) মানে প্রতিটা AI ব্যবহারের জন্য এমন একজন আছেন যিনি সেটা ব্যাখ্যা করতে পারেন, ফলাফলের জন্য জবাব দেন এবং ভুল শোধরাতে পারেন। কিছু ভুল হওয়ার পরে কাউকে দোষী খোঁজা থেকে এটা আলাদা। দোষ দেওয়া পেছনে তাকায় এবং প্রায়ই সবচেয়ে কাছের ও সবচেয়ে কম ক্ষমতাবান মানুষের ওপর পড়ে, যেমন যে ডেস্ক-কর্মী ভুল উত্তরটা এগিয়ে দিয়েছেন। জবাবদিহি সামনে তাকায়: কে এই টুল ব্যবহারের সিদ্ধান্ত নিয়েছেন, কে এটা যাচাই করেন, অভিযোগ কে পান, কে এটা থামাতে পারেন?
| দোষ-কেন্দ্রিক সাড়া | জবাবদিহি-কেন্দ্রিক সাড়া |
|---|---|
| "কোন কর্মী ভুল তারিখটা দিলেন?" | "অ্যাসিস্ট্যান্ট কেন ভুল তারিখ দিল, আর সে যে তারিখ-তালিকা ব্যবহার করে তার মালিক কে?" |
| ঝামেলা এড়াতে কর্মীরা ভুল লুকায়। | কর্মীরা ভুল জানায়, কারণ লক্ষ্য প্রক্রিয়াটা ঠিক করা। |
| কারও নাম নেই; "সিস্টেম" করেছে। | একজন নামধারী মানুষ জবাবদিহি করেন (আমারা), আর অন্যরা নির্দিষ্ট অংশের জন্য দায়ী। |
এর মানে এই নয় যে কেউ কখনো দোষী নন। অসতর্ক বা অসৎ আচরণের পরিণতি থাকেই। এর মানে, প্রথম প্রশ্ন হলো পরের ব্যর্থতা কীভাবে কম সম্ভব করা যায়; আর ফলাফলের জবাব দেন ক্ষমতাসম্পন্ন কেউ, কেবল যিনি সবচেয়ে কাছে ছিলেন তিনি নন।
গোপনীয়তা ও ডেটা গভর্নেন্স, ডিজাইনের নীতি হিসেবে
গোপনীয়তা (privacy) হলো নিজের সম্পর্কে তথ্যের ওপর একজন মানুষের যুক্তিসঙ্গত নিয়ন্ত্রণ। ডেটা গভর্নেন্স (data governance) হলো একটা প্রতিষ্ঠান কীভাবে ঠিক করে কী ডেটা সংগ্রহ করবে, কেন, কে দেখতে পারবে, কতদিন রাখবে এবং কীভাবে সুরক্ষিত রাখবে। ডিজাইনের নীতি হিসেবে এগুলো আপনাকে ফাঁসের পরে ক্ষমা চাওয়ার বদলে চালুর আগেই সিদ্ধান্ত নিতে ঠেলে দেয়। একজন নবীনের জন্য চারটা অভ্যাসই যথেষ্ট: যা দরকার শুধু তাই সংগ্রহ করুন; কেন তা বলুন; যতদিন দরকার ততদিন রাখুন; কে দেখতে পারবে তা সীমিত করুন।
| ডিজাইনের সিদ্ধান্ত | দুর্বল | শক্ত |
|---|---|---|
| অ্যাসিস্ট্যান্ট কী জমা রাখে | "সেবা উন্নত করতে" পুরো চ্যাট, চিরকাল। | সমস্যা ঠিক করতে যতটুকু দরকার, উল্লেখ করা অল্প সময়ের জন্য, তারপর মুছে ফেলা। |
| বাসিন্দাদের কী জিজ্ঞেস করা হয় | "যদি লাগে" ভেবে পুরো পরিচয়ের বিবরণ। | এই অনুরোধের জন্য যে তথ্য দরকার শুধু সেটুকু। |
| কে পড়তে পারে | বিভাগের যে কেউ। | অনুরোধটা যাঁরা সামলাচ্ছেন সেই কর্মীরা, আর অডিটের জন্য একজন নামধারী মানুষ। |
ব্যক্তিগত ডেটা চ্যাটের বাইরে রাখার অভ্যাসটা AI-এর জন্য প্রম্পট ইঞ্জিনিয়ারিং: বিগিনার-এ এসেছিল। ডিজাইনারদের জন্যও একই ধারণা প্রযোজ্য: সংগ্রহ করা সম্ভব এমন প্রতিটা ডেটা আপনার সংগ্রহ করা উচিত নয়। এই টিউটোরিয়ালের ৯ ও ১০ নম্বর পাতায় গোপনীয়তা নিয়ে বিস্তারিত ফিরে আসা হবে।
প্রবেশগম্যতা ও অন্তর্ভুক্তি, ব্যবহারিক প্রয়োজনীয়তা হিসেবে
প্রবেশগম্যতা (accessibility) মানে ভিন্ন সক্ষমতা ও ডিভাইসের মানুষ সেবাটা ব্যবহার করতে পারেন। অন্তর্ভুক্তি (inclusion) মানে ডিজাইন কল্পিত "গড়" ব্যবহারকারীর জন্য না বানিয়ে, যাঁরা সাধারণত বাদ পড়েন তাঁদের সহ ব্যবহারকারীদের বৈচিত্র্য বিবেচনায় রাখে। সময় থাকলে যোগ করার সৌজন্য নয়; এগুলো যাচাই করার মতো প্রয়োজনীয়তা।
| পরিস্থিতির গোষ্ঠী | একটা ব্যবহারিক প্রয়োজনীয়তা |
|---|---|
| স্ক্রিন রিডার ব্যবহারকারী | সব উত্তর ও বোতাম স্ক্রিন-রিডার সফটওয়্যারে কাজ করে; কোনো তথ্য শুধু ছবিতে নেই। |
| বেসিক ফোন বা দুর্বল সংযোগের মানুষ | ভয়েস বা টেক্সট-মেসেজের পথ; ধীর সংযোগেও খোলে এমন হালকা পাতা। |
| যাঁরা ভালো পড়তে পারেন না | ছোট বাক্য, মুখে শোনার বিকল্প, আর একজন মানুষের কাছে পৌঁছানোর দ্রুত পথ। |
| যাঁরা বাড়িতে অন্য ভাষায় কথা বলেন | এলাকার প্রধান ভাষাগুলো সমর্থিত, আর অন্যদের জন্য মানুষ দোভাষীর কাছে যাওয়ার ঘোষিত পথ। |
| প্রবীণ মানুষ এবং প্রযুক্তিতে অনিশ্চিত যে কেউ | ডেস্ক ও ফোনের পথ খোলা থাকে, লুকানো থাকে না। |
সবচেয়ে সোজা পরীক্ষা হলো চালুর আগে এই গোষ্ঠীগুলোর মানুষকে যুক্ত করা এবং তাঁদের ব্যবহার করতে দেখা। সেটা সম্ভব না হলে অন্তত কয়েকটা ক্ষেত্র নিজে পরীক্ষা করুন। কেউ প্রতিটা বাধা আন্দাজ করতে পারে না, কিন্তু চেষ্টা করলে সাধারণত প্রথম কয়েকটা খুঁজে পাওয়া যায়।
দুটো আন্তর্জাতিক নীতিমালা: OECD ও UNESCO
ওপরের অনেক ধারণা দুটো বহুল উদ্ধৃত আন্তর্জাতিক দলিলে আছে। দেশে দেশে সাধারণ শব্দভান্ডার হিসেবে এগুলো কাজের। এগুলো আইন নয়।
| দলিল | কবে জারি | কী আছে |
|---|---|---|
| OECD AI Principles | ২০১৯ সালে গৃহীত; ২০২৪ সালের মে মাসে হালনাগাদ। | মূল্যবোধভিত্তিক পাঁচটা নীতি: অন্তর্ভুক্তিমূলক প্রবৃদ্ধি, টেকসই উন্নয়ন ও কল্যাণ; মানবাধিকার ও গণতান্ত্রিক মূল্যবোধ, ন্যায্যতা ও গোপনীয়তা সহ; স্বচ্ছতা ও ব্যাখ্যাযোগ্যতা; দৃঢ়তা, নিরাপত্তা ও সুরক্ষা; জবাবদিহি। সরকারগুলোর জন্য পাঁচটা সুপারিশও আছে। |
| UNESCO Recommendation on the Ethics of Artificial Intelligence | ২০২১ সালের নভেম্বরে গৃহীত। | চারটা মূল্যবোধ (মানব মর্যাদা ও মানবাধিকার; ন্যায়সঙ্গত, শান্তিপূর্ণ ও পরস্পর-সংযুক্ত সমাজ; বৈচিত্র্য ও অন্তর্ভুক্তি; পরিবেশ ও বাস্তুতন্ত্রের সমৃদ্ধি) এবং দশটা নীতি: আনুপাতিকতা ও ক্ষতি না করা; নিরাপত্তা ও সুরক্ষা; গোপনীয়তা ও ডেটা সুরক্ষা; বহু-অংশীজন গভর্নেন্স; দায় ও জবাবদিহি; স্বচ্ছতা ও ব্যাখ্যাযোগ্যতা; মানুষের তদারকি; টেকসইতা; সচেতনতা ও সাক্ষরতা; ন্যায্যতা ও বৈষম্যহীনতা। |
আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): OECD AI Principles ২০১৯ সালে গৃহীত হয় এবং ২০২৪ সালের মে মাসে হালনাগাদ হয়। 2026-10-12 তারিখে OECD.AI ওয়েবসাইটে ইউরোপীয় ইউনিয়নসহ ৪৭টা অনুসরণকারী (adherent) তালিকাভুক্ত ছিল। UNESCO-র নৈতিকতা বিষয়ক AI সুপারিশ (Recommendation on the Ethics of Artificial Intelligence) ২০২১ সালের নভেম্বরে UNESCO-র ১৯৩টা সদস্য রাষ্ট্র গ্রহণ করেছে। দুটো দলিলই সুপারিশ: এগুলো ঐচ্ছিক, এবং নিজে থেকে কোনো আইনি বাধ্যবাধকতা তৈরি করে না। কোনো দেশ, নিয়ন্ত্রক সংস্থা বা নিয়োগকর্তা এগুলোর অংশ বাধ্যতামূলক নিয়মে আনতে পারে, আর কোন নিয়ম প্রযোজ্য তা নির্ভর করে আপনার দেশ, খাত ও তারিখের ওপর। দলিলগুলো OECD.AI ও UNESCO-র সরকারি ওয়েবসাইটে পড়ুন (সেখানে দলিলের নাম দিয়ে খুঁজুন), এবং আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ্য যাচাই করুন।
নিচে আমাদের নিজস্ব পাঠ, এই পাতার নীতিগুলো দুটো দলিলের সঙ্গে কীভাবে মেলে। এটা শেখার সহায়ক, সরকারি কোনো মিলকরণ নয়; প্রতিটা দলিলের হুবহু শব্দ তার নিজের হোম পাতায় আছে।
| এই পাতার নীতি | OECD AI Principles (তালিকা অনুযায়ী) | UNESCO সুপারিশ (তালিকা অনুযায়ী) |
|---|---|---|
| মানব মর্যাদা ও অধিকার | মানবাধিকার ও গণতান্ত্রিক মূল্যবোধ, ন্যায্যতা ও গোপনীয়তা সহ | একটা মূল মূল্যবোধ: মানব মর্যাদা ও মানবাধিকার |
| ন্যায্যতা | মানবাধিকার ও গণতান্ত্রিক মূল্যবোধের ভেতরে | ন্যায্যতা ও বৈষম্যহীনতা |
| ক্ষতি এড়ানো; ঝুঁকি ওজন | দৃঢ়তা, নিরাপত্তা ও সুরক্ষা | আনুপাতিকতা ও ক্ষতি না করা; নিরাপত্তা ও সুরক্ষা |
| স্বচ্ছতা | স্বচ্ছতা ও ব্যাখ্যাযোগ্যতা | স্বচ্ছতা ও ব্যাখ্যাযোগ্যতা |
| জবাবদিহি | জবাবদিহি | দায় ও জবাবদিহি; মানুষের তদারকি |
| গোপনীয়তা ও ডেটা গভর্নেন্স | মানবাধিকার ও গণতান্ত্রিক মূল্যবোধের ভেতরে | গোপনীয়তা ও ডেটা সুরক্ষা |
| প্রবেশগম্যতা ও অন্তর্ভুক্তি | অন্তর্ভুক্তিমূলক প্রবৃদ্ধি, টেকসই উন্নয়ন ও কল্যাণ | একটা মূল মূল্যবোধ: বৈচিত্র্য ও অন্তর্ভুক্তি |
দুটো বিষয় লক্ষ করুন। প্রথমত, ভিন্ন সংস্থা একই ধারণাকে ভিন্ন শিরোনামে সাজায়, তাই নাম মুখস্থ করবেন না; প্রতিটা নীতি আপনাকে কী যাচাই করতে বলে তা জিজ্ঞেস করুন। দ্বিতীয়ত, একটা কোম্পানি কতগুলো নীতির কথা বলে তা গুনে তার আচরণ সম্পর্কে কিছুই বোঝা যায় না। পরের পাতায় এ বিষয়ে ফিরে আসা হবে। মূল দলিল পড়তে OECD.AI ওয়েবসাইট ও UNESCO-র ওয়েবসাইটে গিয়ে ওপরে দেওয়া দলিলের নাম খুঁজুন। কোনো নীতির নাম দিয়ে সংবাদ সাইটে খোঁজা দলিল নিজে পড়ার চেয়ে দুর্বল পথ।
একটা ছোট নীতি-যাচাই
প্রথম পাতার ওয়ার্কশিটের ভেতরে আপনি নীতিগুলো একটা দ্রুত পর্যালোচনার ধাপ হিসেবে ব্যবহার করতে পারেন, সাধারণত ৩ নম্বর ধাপে (উপকার ও ক্ষতি) এবং ৬ নম্বর ধাপে (সিদ্ধান্ত ও শর্ত)। ছোট একটা ব্যবহারের জন্য প্রায় দশ মিনিট লাগে।
টেমপ্লেট:
PRINCIPLES CHECK for: [use]
DIGNITY Can a person reach a human? Could someone lose access to something they need?
FAIRNESS Who might be held back by a difference that is not relevant? What would help?
HARM Which harms are avoidable? Which remain, and are they worth the benefit?
TRANSPARENCY Would a non-technical person know AI is involved, its limits, and who to ask?
ACCOUNTABLE Who is the named person? Who receives complaints? Who can pause the tool?
PRIVACY What data is collected, why, for how long, who can see it?
ACCESS Who might not be able to use it? Who did we ask or test with?
NOT SURE List what you could not answer; it becomes your test or your reason to delay.কাজের জায়গায় এটা কোথায় দেখা যায়
প্রোডাক্ট ব্রিফ, ভেতরের পলিসি, সরবরাহকারীকে প্রশ্ন, বা "আপনাদের AI ন্যায্য?" জিজ্ঞেস করা গ্রাহকের উত্তর লেখার সময় টিমগুলো এই শব্দগুলো ব্যবহার করে। যিনি বলতে পারেন "আমরা স্ক্রিন-রিডার ব্যবহারকারীদের প্রবেশগম্যতা যাচাই করেছি এবং চ্যাট ৩০ দিন রাখি", তিনি "আমরা গোপনীয়তাকে খুব গুরুত্ব দিই" বলা মানুষের চেয়ে অনেক বেশি বিশ্বাসযোগ্য। যে নীতি নির্দিষ্ট, যাচাইযোগ্য বক্তব্যে পরিণত হয়, সেটাই গ্রাহক, ম্যানেজার বা নিয়ন্ত্রকের কঠিন প্রশ্নের মুখে টিকে থাকে।
সাধারণ ভুল
- প্রতিবার ন্যায্যতাকে "সবার জন্য সমান" ধরা। এতে বাধার মুখে থাকা মানুষ বাদ পড়তে পারেন। সমাধান: জিজ্ঞেস করুন কোন পার্থক্য প্রাসঙ্গিক আর কোনটা নয়।
- নোটিশকে স্বচ্ছতা ভাবা। কেউ পড়ে না এমন দীর্ঘ আইনি লেখা স্বচ্ছতা নয়। সমাধান: একজন অপ্রযুক্তিগত মানুষের যা জানা দরকার তা ছয় লাইনের সহজ ভাষায় লিখুন, এবং এমন একজনকে দিয়ে পরীক্ষা করুন।
- জবাবদিহিকে দোষ দেওয়ার সঙ্গে গুলিয়ে ফেলা। এতে মানুষ ভুল লুকায়। সমাধান: একজন জবাবদিহিকারী মালিকের নাম ঠিক করুন, এবং ভুল জানানো নিরাপদ করুন।
- "কাজে লাগতে পারে" ভেবে ডেটা সংগ্রহ করা। এতে উদ্দেশ্য ছাড়াই ঝুঁকি তৈরি হয়। সমাধান: প্রতিটা ডেটার জন্য কারণ লিখুন; কারণ না থাকলে সংগ্রহ করবেন না।
- OECD বা UNESCO-র লেখাকে আইন ধরা। এগুলো ঐচ্ছিক সুপারিশ। সমাধান: কোনটা সুপারিশ আর আপনার দেশের আইন কী চায় তা আলাদা রাখুন; পরের পাতায় কীভাবে তা দেখানো আছে।
নিজে চেষ্টা করুন
- সহজ। প্রতিটা পরিস্থিতি মূলত যে নীতির সঙ্গে সম্পর্কিত তার সঙ্গে মেলান (মর্যাদা, ন্যায্যতা, ক্ষতি, স্বচ্ছতা, জবাবদিহি, গোপনীয়তা, প্রবেশগম্যতা): (ক) অ্যাসিস্ট্যান্ট কখনো বলে না যে সে একটা AI; (খ) স্ক্রিন রিডার ব্যবহার করেন এমন একজন বাসিন্দা "send" বোতাম চাপতে পারছেন না; (গ) ভুল উত্তরের অভিযোগ নির্দিষ্ট কারও কাছে যায় না; (ঘ) অ্যাসিস্ট্যান্ট কোনো কারণ ছাড়াই বাসিন্দাদের আইডি নম্বর দুই বছর জমা রাখে।
- মাঝারি। দৈনন্দিন AI ব্যবহারে সিদ্ধান্ত, দায়িত্ব ও দ্বিধা পাতার মাতেওর আবেদনকারী-বাছাই টুলে ফিরে যান। এই পাতার ছোট নীতি-যাচাইটা সেটার জন্য পূরণ করুন। সাতটা লাইনের প্রতিটার জন্য একটা বাক্য লিখুন, অথবা "নিশ্চিত নই" এবং তা জানতে কী করবেন।
- কঠিন। OECD AI Principles থেকে একটা এবং UNESCO সুপারিশ থেকে একটা নীতি বেছে নিন, যেটা আপনার মতে স্কুলের একটা AI টিউটরিং টুলের সবচেয়ে কড়াভাবে মেনে চলা উচিত। পাঁচ থেকে আটটা বাক্যে ব্যাখ্যা করুন, প্রতিটা একটা ডিজাইন সিদ্ধান্ত কীভাবে বদলাবে। তারপর পরিষ্কার লিখুন যে এগুলো ঐচ্ছিক দলিল, এবং আপনার দেশের কোনো স্কুলের ওপর বাধ্যতামূলক নিয়ম প্রযোজ্য কি না তা জানতে কোথায় দেখবেন।
উত্তর
সহজ। (ক) স্বচ্ছতা: মানুষকে জানানো উচিত AI জড়িত। (খ) প্রবেশগম্যতা, আর বিকল্প পথ না থাকলে ন্যায্যতা ও মর্যাদাও। (গ) জবাবদিহি: অভিযোগ গ্রহণের কোনো মালিক নেই। (ঘ) গোপনীয়তা ও ডেটা গভর্নেন্স: উদ্দেশ্য ছাড়া ডেটা সংগ্রহ ও সংরক্ষণ হচ্ছে। পাস: চারটাই মিলেছে এবং প্রতিটার একটা কারণ আছে; যেখানে প্রযোজ্য সেখানে দ্বিতীয় একটা নীতির কথা বলা একটা শক্তি। দুর্বল: কারণ ছাড়া আন্দাজে মেলানো।
মাঝারি। একটা শক্ত উত্তর এমন হতে পারে: মর্যাদা: প্রত্যাখ্যাত বোধ করা আবেদনকারী উত্তর দিতে পারেন এবং একজন মানুষ তাঁর ইমেইল পড়েন; ন্যায্যতা: ছোট, অনানুষ্ঠানিক বা দ্বিতীয় ভাষায় লেখা ইমেইল দুর্বল ধরে না নিয়ে হাতে যাচাই করা হয়; ক্ষতি: দুর্বল র্যাংক পাওয়া শক্ত আবেদনকারী একটা আগাম দেখা যায় এমন ঝুঁকি, তাই মাতেও প্রতিদিন "Reject" দল পড়েন; স্বচ্ছতা: আবেদনকারীদের জানানো হয় একটা টুল ইমেইল বাছাই করেছে; জবাবদিহি: মাতেওর নাম ঠিক করা, অভিযোগ তাঁর কাছে যায়; গোপনীয়তা: টুল জন্মতারিখ বা ছবি দেখে না, আর প্রক্রিয়া শেষে সিভি মুছে ফেলা হয়; প্রবেশগম্যতা: যাঁরা সিভি সংযুক্ত করতে পারেন না তাঁরা বার্তার ভেতরেই লিখতে পারেন। "নিশ্চিত নই" লাইনের সঙ্গে জানার একটা উপায় থাকা চাই, যেমন "দশটা নমুনা সিভি দিয়ে টুলটা পরীক্ষা করব"। পাস: সাতটা লাইন, প্রতিটা নির্দিষ্ট ও যাচাইযোগ্য, এবং অন্তত একটা সৎ "নিশ্চিত নই"। দুর্বল: "আমরা ন্যায্য থাকব" ধরনের সাধারণ লাইন, কোনো যাচাই ছাড়া।
কঠিন। একটা শক্ত উত্তরে যেমন বেছে নেওয়া হতে পারে "স্বচ্ছতা ও ব্যাখ্যাযোগ্যতা" (দুটো দলিলেই আছে) এবং "ক্ষতি না করা" বা "মানুষের তদারকি" (UNESCO), আর মূর্ত ডিজাইন পরিবর্তন দেখানো হয়: একজন শিক্ষার্থী যে একটা AI টিউটর ব্যবহার করছে এবং হিন্ট ভুল হতে পারে তা জানানো একটা সহজ নোটিশ; একজন শিক্ষক যিনি চ্যাটের একটা নমুনা পর্যালোচনা করতে এবং টুলটা বন্ধ করে দিতে পারেন। উত্তরে পরিষ্কার বলা থাকে যে OECD ও UNESCO-র দলিল ঐচ্ছিক সুপারিশ, এবং বাধ্যতামূলক নিয়ম খুঁজতে শিক্ষা কর্তৃপক্ষ, ডেটা-সুরক্ষা নিয়ন্ত্রক এবং জাতীয় বা আঞ্চলিক আইন সরকারি উৎস থেকে দেখা হবে, আর স্কুলের নিজস্ব পলিসি চাওয়া হবে। পাস: দুটো নীতি সঠিকভাবে বলা, দুটো মূর্ত ডিজাইন পরিবর্তন, দলিলগুলো বাধ্যতামূলক নয় তার স্পষ্ট উল্লেখ, এবং কোন নিয়ম প্রযোজ্য তা জানার একটা যুক্তিসঙ্গত পথ। দুর্বল: দলিলগুলোকে আইন ধরা, অথবা ডিজাইন পরিবর্তন ছাড়া শুধু নীতির নাম লেখা।
সারসংক্ষেপ
- মর্যাদা, ন্যায্যতা, ক্ষতি এড়ানো, স্বচ্ছতা, জবাবদিহি, গোপনীয়তা ও প্রবেশগম্যতা বাস্তব ব্যবহারে যাচাই করা যায় এমন ডিজাইনের প্রশ্ন।
- ন্যায্য মানে সব সময় অভিন্ন নয়: প্রাসঙ্গিক পার্থক্য ভিন্ন আচরণকে সমর্থন করতে পারে, আর অপ্রাসঙ্গিক পার্থক্য কাউকে পিছিয়ে রাখবে না।
- স্বচ্ছতা মানে একজন অপ্রযুক্তিগত মানুষের ব্যবহারযোগ্য সহজ কথা; জবাবদিহি মানে ঠিক করতে পারেন এমন একজন নামধারী মালিক, দোষ দেওয়ার মতো একজন নয়।
- OECD AI Principles (২০১৯ সালে গৃহীত, ২০২৪ সালের মে মাসে হালনাগাদ) আর UNESCO-র সুপারিশ (২০২১ সালের নভেম্বর) ঐচ্ছিক দলিল, যা সাধারণ শব্দভান্ডার দেয়, আইন নয়।
- দশ মিনিটের একটা নীতি-যাচাই মূল্যবোধকে নির্দিষ্ট প্রশ্নে বদলায়, আর একটা সৎ "নিশ্চিত নই" আপনার পরের পরীক্ষা হয়ে ওঠে।
এরপর: ফ্রেমওয়ার্ক, স্ট্যান্ডার্ড ও পরস্পরবিরোধী নীতি: নৈতিকতা, আইন ও পলিসি পাতায় আমরা ঝুঁকি-ব্যবস্থাপনার ফ্রেমওয়ার্ক, স্ট্যান্ডার্ড ও আইনের তুলনা করব, এবং দেখব দুটো ভালো নীতি উল্টো দিকে টানলে কী করা যায়।