অধ্যায় 4 · নিরাপত্তা, সমাজ ও গভর্ন্যান্স
স্টেকহোল্ডারের ওপর প্রভাব ও ওপেন বনাম ক্লোজড মডেল: বিভিন্ন পক্ষের যুক্তি
- পৃষ্ঠা 15 / 22
- 16 মিনিট পড়া
আগের পাতা নিরাপত্তা নিয়ন্ত্রণ ও কৃত্রিম মিডিয়া: স্তরভিত্তিক প্রতিরক্ষা, প্রোভেন্যান্স ও প্রতিক্রিয়া জিজ্ঞেস করেছিল, একটা ফিচারের অপব্যবহার কীভাবে ঠেকানো যায়। এই পাতা দৃষ্টি বড় করে ফিচারের চারপাশের মানুষদের দিকে তাকায়। উপকার আর খরচ প্রায়ই একই মানুষের ওপর পড়ে না। মডেল বেছে নেওয়ার সিদ্ধান্ত, যেমন নিজে চালানোর মতো একটা ওপেন মডেল (open model) বনাম ভাড়া নেওয়া একটা ক্লোজড সার্ভিস (closed model), কিছু খরচ এক গোষ্ঠী থেকে আরেক গোষ্ঠীতে সরিয়ে দেয়। স্রষ্টা, ডেটা-কর্মী আর ছোট ভাষার মানুষেরা সাপ্লাই চেইনের মধ্যে থাকেন, যদিও তাঁরা পণ্যটা কখনও ব্যবহার করেন না।
আপনার লাগবে Python 3.12 আর শুধু তার স্ট্যান্ডার্ড লাইব্রেরি: কোনো প্যাকেজ, নেটওয়ার্ক বা মডেল-কল নেই। একটাই কোড ব্লক, ছোট, আর তার নিচের লেখাটা তার আসল আউটপুট। পাতার বেশিরভাগই টেবিল আর ওয়ার্কশিট।
সততার নিয়ম। প্রতিটা কোম্পানি, মানুষ ও সংখ্যা কাল্পনিক, যদি না ব্লকে নথিভুক্ত ঘটনা বা আইনি নোট লেবেল থাকে; সেগুলো আসে শুধু কোর্সের যাচাই করা উৎস থেকে। ওপেন বনাম ক্লোজড মডেল, আর কপিরাইট ও ট্রেনিং ডেটা বিতর্কিত বিষয়। টেবিলে একাধিক পক্ষের সবচেয়ে শক্ত যুক্তি দেওয়া হয়েছে, পাতা কোনো পক্ষ বেছে নেয় না। এখানে কিছুই আইনি পরামর্শ নয়।
যা শিখবেন
- স্টেকহোল্ডার (stakeholder) গোষ্ঠীর মধ্যে উপকার ও খরচ কীভাবে ম্যাপ করবেন, আর কারা লাভ করে, কারা খরচ বহন করে, কাদের কথা বলার সুযোগ আছে তা কীভাবে চিহ্নিত করবেন।
- রায় না দিয়ে ওপেন ও ক্লোজড মডেল কীভাবে তুলনা করবেন: প্রবেশাধিকার, স্বচ্ছতা, অপব্যবহার, নিয়ন্ত্রণ, সহায়তা ও নির্ভরতা।
- কপিরাইট ও ট্রেনিং ডেটার বিতর্ক সাবধানে কীভাবে বর্ণনা করবেন, আর আইনি অনুমতিকে নৈতিক কৃতিত্বস্বীকার থেকে কীভাবে আলাদা রাখবেন।
- স্রষ্টা ও ডেটাসেট-অবদানকারীর স্বার্থ কীভাবে নথিভুক্ত করবেন, আর ডেটা-কর্মী ও তাঁদের কাজের পরিবেশ নিয়ে কীভাবে প্রশ্ন করবেন।
- ভাষা ও অঞ্চলভিত্তিক বাদ পড়া কীভাবে চিনবেন।
স্টেকহোল্ডার গোষ্ঠীর মধ্যে উপকার ও খরচ ম্যাপ করা
প্রথম পাতায় ব্যবহারকারী, প্রভাবিত অ-ব্যবহারকারী ও অন্য স্টেকহোল্ডারদের তালিকা করা হয়েছিল। এখানে প্রতিটা গোষ্ঠীকে আরও ধারালো প্রশ্ন করি: তারা লাভবান হয় কি না, তারা খরচ বহন করে কি না, আর সিদ্ধান্তে তাদের কথা বলার সুযোগ আছে কি না? "খরচ" মানে যেকোনো মূল্য: টাকা, সময়, ঝুঁকি, হারানো সুযোগ, নিজের ডেটার ওপর নিয়ন্ত্রণ হারানো। তিনটা ফ্ল্যাগ দেখার একটা বেছে নেওয়া উপায়, পরিমাপ নয়। দুজন মানুষ এগুলো ভিন্নভাবে ভরতে পারেন, আর সেই মতভেদটাই কাজের।
টয় ডেটা: আগের পাতাগুলোর কাল্পনিক স্ক্রিনিং ফিচারের জন্য স্টেকহোল্ডার-বনাম-প্রভাবের একটা টেবিল।
ROWS = [ # Toy data: (group, effect, gains, pays, has_say) for the hypothetical ShortlistHelper rollout
("Recruiters", "less time spent reading CVs", True, False, True),
("Hiring managers", "shortlists arrive sooner", True, False, True),
("Agency owner", "lower cost per placement; licence fee; legal exposure", True, True, True),
("Vendor", "licence income; holds CV text", True, False, True),
("Applicants, standard CVs", "faster replies", True, False, False),
("Applicants, unusual CVs", "lower rank; may never be read", False, True, False),
("Current employees", "their CV data could be reused", False, True, False),
("Local job market", "shortlists may narrow over years", False, True, False),
]
print(f"{'group':<26}{'gains':<7}{'pays':<6}{'say':<5}effect")
for group, effect, gains, pays, say in ROWS:
mark = lambda flag: "yes" if flag else "-"
print(f"{group:<26}{mark(gains):<7}{mark(pays):<6}{mark(say):<5}{effect}")
pay_no_say = [g for g, _, gains, pays, say in ROWS if pays and not say]
mixed = [g for g, _, gains, pays, say in ROWS if gains and pays]
gain_free = [g for g, _, gains, pays, say in ROWS if gains and not pays]
print()
print("pay without a say :", pay_no_say)
print("gain and pay :", mixed)
print("gain, pay nothing :", len(gain_free), "of", len(ROWS), "groups")group gains pays say effect
Recruiters yes - yes less time spent reading CVs
Hiring managers yes - yes shortlists arrive sooner
Agency owner yes yes yes lower cost per placement; licence fee; legal exposure
Vendor yes - yes licence income; holds CV text
Applicants, standard CVs yes - - faster replies
Applicants, unusual CVs - yes - lower rank; may never be read
Current employees - yes - their CV data could be reused
Local job market - yes - shortlists may narrow over years
pay without a say : ['Applicants, unusual CVs', 'Current employees', 'Local job market']
gain and pay : ['Agency owner']
gain, pay nothing : 4 of 8 groupsফলটা শুধু হিসাবের পদ্ধতি বোঝায়; সারিগুলো কাল্পনিক। সংখ্যা নয়, ধরনটা পড়ুন। এই টেবিলে যে গোষ্ঠী সিদ্ধান্ত নেয় সে-ই লাভ করে, আর যে গোষ্ঠী কথা বলার সুযোগ ছাড়াই খরচ বহন করে তারা সবাই প্রভাবিত অ-ব্যবহারকারী। এটা অন্যায়ের প্রমাণ নয়। এটা কয়েকটা প্রশ্নের ইঙ্গিত: খরচগুলো গ্রহণযোগ্য কি না, ওই গোষ্ঠীগুলোর কথা শোনা যায় কি না (আপিলের পথ, পরামর্শ সভা), আর কোনো নিয়ন্ত্রণ খরচটা লাভবানদের কাছে ফিরিয়ে আনতে পারে কি না। আরও খেয়াল করুন, "Applicants, standard CVs" লাভবান হয় শুধু তখনই, যদি ফিচারটা সত্যিই দ্রুত উত্তর দেয়; এটা পরীক্ষা করার অনুমান, প্রতিষ্ঠিত সত্য নয়।
ওপেন ও ক্লোজড মডেল: শব্দগুলোর মানে
এই কোর্সে ওপেন মডেল মানে এমন মডেল, যার প্রশিক্ষিত প্যারামিটার (এর "ওয়েট", weights) একটা লাইসেন্সের অধীনে নামিয়ে নিজে চালানো যায়। ক্লোজড মডেল শুধু প্রদানকারীর সার্ভিসের মাধ্যমে পাওয়া যায়, ওয়েট থাকে প্রদানকারীর কাছে। "ওপেন" একটা বর্ণালী, সুইচ নয়: ওয়েট, ট্রেনিং কোড, ট্রেনিং ডেটা আর লাইসেন্সের শর্ত প্রতিটা আলাদাভাবে প্রকাশ বা আটকে রাখা হতে পারে, আর লাইসেন্স কিছু ব্যবহার সীমিতও করতে পারে। সবসময় বলুন কোন অংশটা খোলা।
কাল্পনিক পরিস্থিতি:
Organisation: Greenfield Clinics, a network of eight small clinics (invented), based in Accra.
Feature: appointment reminders and simple questions, in English and three local languages.
Options: A rent a closed model through a provider's service
B download an open model and run it on a rented server
C no AI: staff send a fixed message list and answer the phone
Question: which option, under what conditions, and who is accountable?C বিকল্পটা লক্ষ করুন। সিদ্ধান্ত-ছকে সবসময় "AI ব্যবহার না করা" থাকে। A আর B-এর মধ্যে বাছাইয়ের আড়ালে একটা প্রথম প্রশ্ন লুকিয়ে থাকে: মডেল আদৌ দরকার কি না?
ওপেন ও ক্লোজড মডেলের তুলনা
ওপেন ও ক্লোজড মডেলের ট্রেড-অফ তুলনা করুন। টেবিলে প্রতি পক্ষের সবচেয়ে শক্ত যুক্তি আছে। কণ্ঠগুলো কাল্পনিক, আর ভিন্ন অঞ্চলে বসানো হয়েছে শুধু দেখাতে যে ভিন্ন অবস্থান ও সীমাবদ্ধতার মানুষ বিষয়টা ভিন্নভাবে দেখেন। কেউ কোনো দেশের হয়ে কথা বলছেন না।
| বিষয় | ওপেন মডেলের পক্ষে যুক্তি | ক্লোজড মডেলের পক্ষে যুক্তি |
|---|---|---|
| প্রবেশাধিকার ও খরচ | হার্ডওয়্যার থাকলে যে কেউ ব্যবহার, মানিয়ে নেওয়া ও অধ্যয়ন করতে পারে, প্রতি অনুরোধে ফি নেই। নাইরোবির একটা বিশ্ববিদ্যালয় ল্যাব অনুমতি না চেয়েই এটাকে স্থানীয় ভাষার উপযোগী করতে পারে (কাল্পনিক কণ্ঠ)। | কেনার বা চালানোর হার্ডওয়্যার নেই। বোগোতার একটা ছোট টিম একদিনেই শুরু করতে পারে এবং যতটুকু ব্যবহার করে শুধু ততটুকুর দাম দেয় (কাল্পনিক কণ্ঠ)। |
| স্বচ্ছতা | বাইরের মানুষ ওয়েট দেখতে, আচরণ পরীক্ষা করতে ও গবেষণা পুনরাবৃত্তি করতে পারে। স্বাধীন অডিট সম্ভব হয়। | প্রদানকারী নিজে বড় পরিসরে পরীক্ষা চালিয়ে ডকুমেন্টেশন প্রকাশ করতে পারে। কেউ কেউ যুক্তি দেন, ওয়েট কম পক্ষের হাতে থাকলে জবাবদিহি ঠিক করা সহজ হয়। |
| অপব্যবহার | প্রতিরক্ষাকারীরা সমস্যা খোলাখুলি অধ্যয়ন করতে পারে, আর অনেক চোখ ত্রুটি ধরে। আটকে রাখলেও যারা নিজেরা মডেল বানাতে দৃঢ়, তাদের থামানো যায় না। | প্রদানকারী ব্যবহার নজরে রাখতে, অপব্যবহার আটকাতে, সুরক্ষা হালনাগাদ করতে ও প্রবেশাধিকার তুলে নিতে পারে। ওয়েট একবার প্রকাশ হলে সুরক্ষা সরানো যায়, আর প্রকাশ ফেরানো যায় না। |
| নিয়ন্ত্রণ ও স্বাধীনতা | আপনি ভার্সন বাছেন, কখন হালনাগাদ করবেন ঠিক করেন, আর ডেটা কোথায় যাবে তা ঠিক করেন। কোনো প্রদানকারী আপনার ওপর শর্ত বদলে দিতে পারে না। | নিরাপত্তা প্যাচ, স্কেলিং, আপটাইম ও সেফটি আপডেটের পরিচালনার বোঝা প্রদানকারী বহন করে। |
| সহায়তা ও জবাবদিহি | কমিউনিটি ও বাণিজ্যিক সহায়তা আছে, কিন্তু অসমান হতে পারে; ব্যবহারকারী প্রতিষ্ঠানের ওপর দায়িত্ব বেশি পড়ে। | চুক্তিতে লেখা থাকে কিছু ভেঙে পড়লে কে উত্তর দেবে। ব্যবহারকারী প্রতিষ্ঠানের পরিচালনার কাজ কম, কিন্তু প্রদানকারীর ওপর নির্ভরতা বাড়ে। |
এই পাতা থেকে যাচাইযোগ্য তথ্য দিয়ে এই যুক্তিগুলোর কোনোটাই মীমাংসা করা যায় না। অনেকগুলো নির্ভর করে নির্দিষ্ট মডেল, নির্দিষ্ট লাইসেন্স ও নির্দিষ্ট বছরের ওপর। একজন শিক্ষার্থীর উচিত প্রতিটা পক্ষকে ন্যায্যভাবে বলতে পারা, তারপর বলা তাঁর ক্ষেত্রে কোন যুক্তিগুলো বেশি গুরুত্বপূর্ণ ও কেন।
ওপেন মডেল: প্রবেশাধিকার, স্বচ্ছতা ও অপব্যবহার
ওপেন মডেলে প্রবেশাধিকার, স্বচ্ছতা ও অপব্যবহারের উদ্বেগ মূল্যায়ন করুন। একটা নির্দিষ্ট ওপেন মডেলের জন্য তিনটা প্রশ্ন করুন। প্রবেশাধিকার: লাইসেন্স কী অনুমতি দেয় (বাণিজ্যিক ব্যবহার, মানিয়ে নেওয়া, পুনর্বিতরণ), আর চালাতে কী হার্ডওয়্যার ও দক্ষতা লাগে? যে মডেল বিনামূল্যে, কিন্তু সার্ভার আর একজন ইঞ্জিনিয়ার লাগে, সেটা সবার জন্য সমান খোলা নয়। স্বচ্ছতা: কী প্রকাশিত (শুধু ওয়েট, নাকি ট্রেনিং ডেটার বিবরণ, মূল্যায়নের ফল ও জানা সীমাবদ্ধতাও)? ডকুমেন্টেশন ছাড়া খোলা ওয়েটে আচরণ দেখা যায়, কিন্তু উৎস দেখা যায় না। অপব্যবহার: কোন কাজ একজন খারাপ উদ্দেশ্যের মানুষ এখানে করতে পারে যা ব্যবহার নজরে-রাখা সার্ভিসে পারত না, আর কোন কাজ একজন প্রতিরক্ষাকারী এখানে করতে পারে যা ক্লোজড সার্ভিসে পারত না? দুটোই লিখুন। যুক্তিসঙ্গত মানুষ দুটোকে ভিন্নভাবে ওজন করেন।
ক্লোজড মডেল: নিয়ন্ত্রণ, সহায়তা ও নির্ভরতা
ক্লোজড মডেলে নিয়ন্ত্রণ, সহায়তা ও নির্ভরতার উদ্বেগ মূল্যায়ন করুন। জিজ্ঞেস করুন: নিয়ন্ত্রণ (প্রদানকারী আপনার সম্মতি ছাড়া মডেল, দাম বা শর্ত বদলাতে পারে কি না, আর কত আগে জানানোর প্রতিশ্রুতি আছে?); সহায়তা (ঘটনার সময় আপনার ভাষায় ও সময় অঞ্চলে কে উত্তর দেয়?); আর নির্ভরতা (সার্ভিস বন্ধ হলে, দাম বাড়লে বা আপনার দেশে না পাওয়া গেলে বদলাতে কত সময় লাগবে, আর কী হারাবেন?)। উত্তরগুলো একটা ছোট বেরিয়ে আসার নোটে (exit note) লিখুন। Greenfield Clinics-এর নোট হতে পারে: "রিমাইন্ডার টেমপ্লেট আমরা নিজেরা রাখি; C বিকল্পে যেতে একদিন লাগে; অন্য প্রদানকারীতে যেতে প্রায় এক মাস লাগে (অনুমান, পরীক্ষা করা হয়নি)"। পরীক্ষা না-করা অনুমানকে অনুমান বলেই লেবেল করুন।
যে বিকল্পই বাছুন, সিদ্ধান্ত-ছক প্রযোজ্য থাকে: প্রভাবিত মানুষ (কম সাক্ষরতার বা স্মার্টফোনহীন রোগী), অজানা বিষয় (প্রতিটা স্থানীয় ভাষা মডেল কতটা ভালো সামলায়), শর্ত ও পুনর্বিবেচনার তারিখ। ওপেন না ক্লোজড, সেটা সিদ্ধান্তের একটা ইনপুট, নিজে সিদ্ধান্ত নয়।
কপিরাইট ও ট্রেনিং ডেটার বিতর্ক
কপিরাইট ও ট্রেনিং ডেটার বিতর্ক মূল্যায়ন করুন। মডেল প্রশিক্ষিত হয় লেখা, ছবি, কোড ও অডিওর অনেক বড় সংগ্রহে, আর তার কিছু উপাদান এমন মানুষের তৈরি যাঁদের জিজ্ঞেস করা হয়নি, টাকাও দেওয়া হয়নি। এটা আইনসম্মত কি না তা নির্ভর করে দেশ, ঘটনার তথ্য, ব্যবহারের ধরন আর তারিখের ওপর। আদালতগুলো এক জায়গায় আসেনি। কপিরাইট, লাইসেন্স ও কৃতিত্বস্বীকারের মূল কথার জন্য বিগিনার পাতা কপিরাইট, লাইসেন্স ও কৃতিত্বস্বীকার: AI-এর আউটপুট ও উৎস উপকরণ ব্যবহার এবং সৃজনশীল অধিকার, অনুকরণ ও ফ্রিল্যান্স অনুশীলন: AI দিয়ে ন্যায্য কাজ দেখুন। এই পাতা সেগুলো পুনরাবৃত্তি করে না; এটা শেখায় একটা বিবাদকে ন্যায্যভাবে কীভাবে বর্ণনা করবেন।
আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): এই ক্ষেত্রটা দ্রুত বদলায়, আর সিদ্ধান্তগুলো নিজ নিজ তথ্য ও আদালতের ক্ষেত্রে প্রযোজ্য। (১) যুক্তরাষ্ট্রে কপিরাইট অফিস ট্রেনিং নিয়ে একটা "পার্ট ৩" রিপোর্ট ২০২৫-০৫-০৯ তারিখে প্রি-পাবলিকেশন সংস্করণ হিসেবে প্রকাশ করেছে, চূড়ান্ত সংস্করণ পরে আসবে; এই পাতা তার সিদ্ধান্ত সংক্ষেপে বলে না। (২) একটা AI কোম্পানির বিরুদ্ধে লেখকদের মার্কিন শ্রেণি-মামলা আদালত-অনুমোদিত একটা নিষ্পত্তিতে শেষ হয়েছে; Authors Guild জানিয়েছে ২০২৬-০৭-২০ তারিখে চূড়ান্ত অনুমোদন হয়েছে। নিষ্পত্তি মানে ট্রেনিং আইনসম্মত কি না তার রায় নয়। (৩) ২০২৬-০৯-২৯ তারিখে যুক্তরাষ্ট্রের থার্ড সার্কিট আপিল আদালত রায় দিয়েছে, একটা প্রতিষ্ঠানের কপিরাইটযুক্ত আইনি-গবেষণা হেডনোট ব্যবহার করে প্রতিযোগী, নন-জেনারেটিভ AI টুল বানানো ন্যায্য ব্যবহার (fair use) ছিল না; আদালত নিজেই জেনারেটিভ AI-এর মামলাগুলো থেকে এটাকে আলাদা করেছে, তাই এর পরিধি সীমিত। (৪) ইউরোপীয় কমিশন বলে, সাধারণ-উদ্দেশ্যের AI মডেলের প্রদানকারীদের কপিরাইট-পালনের নীতি থাকতে হবে এবং ট্রেনিং ডেটার সারসংক্ষেপ প্রকাশ করতে হবে; ইইউতে একটা টেক্সট-ও-ডেটা-মাইনিং ব্যতিক্রমও আছে যা অধিকারধারীরা সংরক্ষণ করে রাখতে পারেন। অন্য দেশগুলোর অবস্থান ভিন্ন এবং বদলাচ্ছে। উৎসের ধরন: কপিরাইট অফিসের ওয়েবসাইট, একটা আদালতের মতামত, Authors Guild-এর একটা সংবাদ প্রতিবেদন, এবং কমিশনের পাতা; আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।
| যুক্তি | কারা বলেন | যে প্রশ্ন তোলে |
|---|---|---|
| নিজেদের কাজ ট্রেনিংয়ে ব্যবহারের ওপর স্রষ্টাদের নিয়ন্ত্রণ ও পারিশ্রমিক থাকা উচিত | অনেক লেখক, শিল্পী ও অধিকারধারী সংগঠন | কোটি কোটি জিনিসের জন্য সম্মতি ও পারিশ্রমিক কীভাবে কাজ করবে? |
| ডেটা থেকে শেখা পড়ার মতো, তাই অনুমোদিত হওয়া উচিত; নইলে উপকার হারাবে | অনেক ডেভেলপার ও গবেষক | যে সিস্টেম একটা শৈলী বা লেখা পুনরুৎপাদন করতে পারে, তাকে শিখে নেওয়া মানুষের সমান ধরা যায় কি না? |
| ছোট ভাষায় কাজের মডেলের শর্ত হলো বড়, বৈচিত্র্যময় ডেটায় প্রবেশাধিকার | কম সেবা-পাওয়া ভাষা নিয়ে কাজ করা গবেষকেরা | প্রবেশাধিকারকে স্থানীয় স্রষ্টাদের অধিকারের সঙ্গে ভারসাম্যে রাখা যায় কি না? |
| শুধু বড় লাইসেন্স-চুক্তির পক্ষের নিয়ম ছোট ডেভেলপারদের বাইরে ঠেলে দিতে পারে | ছোট ডেভেলপার, ওপেন-মডেল কমিউনিটি | মেনে চলার খরচ কারা বহন করতে পারে? |
আইনি অনুমতি ও নৈতিক কৃতিত্বস্বীকার
আইনি অনুমতিকে নৈতিক কৃতিত্বস্বীকার থেকে আলাদা করুন। তিনটা প্রশ্ন আলাদা: আমরা এটা ব্যবহার করতে পারি কি না? (আইন বা লাইসেন্স), উৎসের কৃতিত্ব দেওয়া উচিত কি না? (সৎ কাজের রীতি), আর যাঁরা বানিয়েছেন তাঁদের প্রতি এটা ন্যায্য কি না? (উপকারের প্রশ্ন)। একটা ব্যবহার অনুমোদিত অথচ অন্যায্য হতে পারে, যেমন যে সম্প্রদায়ের উপকরণ ছাড়া কাজটা সম্ভব হতো না তাদের কৃতিত্ব না দিয়ে আইনসম্মত ব্যবহার। একটা ব্যবহার এক দেশে বেআইনি, অন্য দেশে অনুমোদিত হতে পারে। কৃতিত্বস্বীকার অনুমতি তৈরি করে না, আর অনুমতি কৃতিত্ব চাওয়ার ইচ্ছা মুছে দেয় না। নোটে তিনটা উত্তর তিন আলাদা লাইনে রাখুন।
স্রষ্টা ও ডেটাসেট-অবদানকারীর স্বার্থ নথিভুক্ত করা
স্রষ্টা ও ডেটাসেট-অবদানকারীর স্বার্থ নথিভুক্ত করুন। আপনার ফিচার ট্রেনিং বা রেফারেন্স ডেটার ওপর নির্ভর করলে লিখে রাখুন উপকরণটা কার এবং তাঁরা কী চাইতে পারেন। এটা নথি, প্রতিশ্রুতি নয়; এটা সিদ্ধান্ত-গ্রহণকারীর কাছে স্বার্থটাকে দৃশ্যমান করে।
টেমপ্লেট:
Data source: (what, where it came from, under what licence or terms: UNKNOWN if not known)
Who made it: (authors, photographers, volunteers, annotators, communities)
Their interests: (credit, payment, control over reuse, removal on request, privacy, care)
How we learn about them: (provider documentation, licence text, contact route, community channel)
What we do about it: (credit, license check, opt-out route, refuse to use, ask the provider)
Open question: (what we could not find out, and who will keep asking)
Owner / review: (name, date)ডেটার উৎস নিয়ে উত্তর যদি "UNKNOWN" হয়, সেটাই লিখুন। এটাই নিজে একটা ফল, আর প্রদানকারীকে জিজ্ঞেস করার বা স্পষ্ট শর্তের উৎস বাছার কারণ।
ডেটা সংগ্রহ ও অ্যানোটেশনে মানুষের শ্রম
ডেটা সংগ্রহ ও অ্যানোটেশনে (annotation) মানুষের শ্রম পরীক্ষা করুন। অনেক AI সিস্টেমের পেছনে মানুষ আছেন। তাঁরা ডেটা সংগ্রহ করেন, উদাহরণ উত্তর লেখেন, ছবি ও লেখায় লেবেল দেন, মডেলের আউটপুট র্যাঙ্ক করেন, ক্ষতিকর কনটেন্ট পর্যালোচনা করেন ও নিরাপত্তা পরীক্ষা করেন। এই কাজ প্রায়ই অনেক দেশের ঠিকাদাররা করেন, প্ল্যাটফর্ম বা আউটসোর্সিং কোম্পানির মাধ্যমে। ভূমিকাগুলো নিরপেক্ষভাবে বর্ণনা করুন: এগুলো দক্ষ কাজ যা মডেলকে ব্যবহারযোগ্য করে, আর কাজের পরিবেশ ব্যাপকভাবে ভিন্ন।
ডেটা-লেবেলিং সাপ্লাই চেইনে কাজের পরিবেশ
ডেটা-লেবেলিং সাপ্লাই চেইনে কাজের পরিবেশ মূল্যায়ন করুন। সাংবাদিকেরা জানিয়েছেন, কিছু ডেটা-কর্মীর মজুরি কম এবং তাঁরা বিচলিত করার মতো উপকরণের সংস্পর্শে আসেন। এগুলো প্রতিবেদন; এই কোর্স কোনো সংখ্যা দেয় না, কোনো কোম্পানির নামও করে না। একটা টিম যা করতে পারে তা হলো জিজ্ঞেস করা।
| প্রদানকারী বা ভেন্ডরকে জিজ্ঞেস করুন | কাজের উত্তর দেখতে কেমন | দুর্বল উত্তর |
|---|---|---|
| কে ডেটায় লেবেল দিয়েছে বা পর্যালোচনা করেছে, এবং কার মাধ্যমে? | কর্মীদলের ধরন (নিজের কর্মী, ঠিকাদার, প্ল্যাটফর্ম) ও জড়িত দেশের নাম বলে | "আমাদের ডেটার মান উচ্চ।" |
| স্থানীয় অবস্থার তুলনায় কর্মীদের কীভাবে মজুরি দেওয়া হয়? | একটা লিখিত নীতি ও তা কীভাবে যাচাই হয় | নীরবতা, বা বিবরণ ছাড়া "বাজার-দর" |
| ক্ষতিকর কনটেন্ট জড়িত কি না, আর কী সহায়তা আছে? | সংস্পর্শের সীমা, বাদ দেওয়ার সুযোগ, কাউন্সেলিং বা বিরতি | বিষয়টার উল্লেখই নেই |
| কর্মীরা উদ্বেগ জানাতে পারেন কি না? | এমন একটা পথ যাতে তাঁদের কাজ ঝুঁকিতে পড়ে না | এমন হটলাইন যেখানে কেউ পৌঁছাতে পারে না |
ক্রেতা সবসময় উত্তর যাচাই করতে পারে না। কী জিজ্ঞেস করেছেন, কী উত্তর পেয়েছেন আর কী যাচাই করতে পারেননি, তা লিখে রাখুন। এটাই সৎ ফল; আর পেছনে কিছু না রেখে "নৈতিক AI" বলে দাবি করার চেয়ে এটা ভালো।
ভাষা ও অঞ্চলভিত্তিক বাদ পড়া
ভাষা ও অঞ্চলভিত্তিক বাদ পড়া চিনুন। কোনো নিয়ম ছাড়াই একটা সিস্টেম মানুষকে বাদ দিতে পারে। গবেষকেরা (Ahia ও সহকর্মীরা, ২০২৩, ২২টা ভাষার একটা সেটে) দেখেছেন, একই বিষয়বস্তুর জন্য টোকেনের সংখ্যা ও খরচ ভাষাভেদে আলাদা, ফলে অনেক ভাষার বক্তারা "বেশি দাম দেন অথচ খারাপ ফল পান", প্রায়ই এমন অঞ্চলে যেখানে সার্ভিসটা কম সাশ্রয়ী। আরও রূপ কল্পনা করা সহজ, তবে প্রতিটা ক্ষেত্রে আলাদাভাবে যাচাই করতে হবে: কোনো উপভাষায় কম নির্ভুলতা, হোস্ট করা সার্ভিসের জন্য খুব ধীর সংযোগ, অনুপলব্ধ পেমেন্ট পদ্ধতি, শুধু এক ভাষায় সহায়তা পাতা, কিছু অঞ্চলের প্রতি অনেক বেশি ঝুঁকে থাকা ট্রেনিং ডেটা। ফিচারটা যেসব ব্যবহারকারীকে সেবা দেওয়ার দাবি করে, তাদের আসল ভাষা ও পরিস্থিতিতে সেটা পরীক্ষা করুন, আর ফল দাবির পাশে লিখুন। Greenfield Clinics-এর উচিত তিনটা স্থানীয় ভাষাতেই রোগীদের নিয়ে রিমাইন্ডার পরীক্ষা করা, তারপর বলা যে তারা তাদের সেবা দিচ্ছে।
কর্মক্ষেত্রে এটা কোথায় দেখা যায়
প্রোডাক্ট টিম ঝুঁকি রেজিস্টারের পাশে একটা স্টেকহোল্ডার টেবিল রাখে। প্রকিউরমেন্ট বা ইঞ্জিনিয়ারিং টিম বেরিয়ে আসার পরিকল্পনাসহ একটা ছোট "ওপেন না ক্লোজড" নোট লেখে। কনটেন্ট বা আইন টিম ডেটা-উৎস ও লাইসেন্সের একটা তালিকা রাখে। অপারেশন টিম নবায়নের আগে সরবরাহকারীদের কাছে কর্মীদের পরিবেশ নিয়ে প্রশ্ন করে। চারটাতেই কাজের ফলাফল হলো একটা রেকর্ড: কী জিজ্ঞেস করা হয়েছিল, কী উত্তর এসেছে, আর কী অজানা থেকে গেছে।
সাধারণ ভুল
- "ওপেন" বা "ক্লোজড"-কে ভালো বা খারাপ ধরা। প্রতিটা কিছু সমস্যা সমাধান করে আর কিছু সরিয়ে দেয়। সমাধান: একই ব্যবহারের জন্য একই প্রশ্নে তুলনা করুন।
- শুধু সভায় উপস্থিত গোষ্ঠী ম্যাপ করা। যারা কথা বলার সুযোগ ছাড়াই খরচ বহন করে তারা প্রায়ই অনুপস্থিত। প্রথমে তাদের যোগ করুন।
- একটা নিষ্পত্তি বা একটা আদালতের সিদ্ধান্তকে আইন ধরা। একটা সিদ্ধান্ত তার পক্ষদের বাঁধে এবং নিজের জায়গায় প্রযোজ্য। সমাধান: কী সিদ্ধান্ত হয়েছে, কোথায় ও কবে, তা বলুন, আর নিজের দেশ যাচাই করুন।
- কৃতিত্বস্বীকারকে অনুমতি, বা অনুমতিকে ন্যায্যতা ধরা। তিনটা প্রশ্ন আলাদা রাখুন।
- অস্পষ্ট সাপ্লাই-চেইন উত্তরকে প্রমাণ ধরা। লিখে রাখুন যে কিছু যাচাই হয়নি, আর ঝুঁকির মাত্রার সঙ্গে সেটা গ্রহণযোগ্য কি না ঠিক করুন।
নিজে চেষ্টা করুন
এই পাতার ROWS ব্যবহার করুন। অনুশীলনীগুলো ইমপ্যাক্ট অ্যাসেসমেন্ট: একটা সীমিত AI ফিচারের পরিধি, স্টেকহোল্ডার ও ক্ষতি (পাতা ১) থেকে ঝুঁকি রেজিস্টারের ক্ষেত্রগুলো আবার ব্যবহার করে।
- সহজ। Greenfield Clinics যদি A বা B বিকল্প বাছে, তাহলে "কথা বলার সুযোগ ছাড়া খরচ বহন করে" এমন দুটো গোষ্ঠীর নাম বলুন। তাদের কী জিজ্ঞেস করবেন?
- মাঝারি। স্ক্রিনিং টেবিলে নেই এমন একটা গোষ্ঠীর জন্য
ROWS-এ একটা সারি যোগ করুন, আর কথা বলার সুযোগ ছাড়া খরচ বহন করা গোষ্ঠীগুলো নামের ক্রমে সাজিয়ে প্রিন্ট করুন। - কঠিন। Greenfield Clinics-এর ওপেন বনাম ক্লোজড বাছাইয়ের একটা ন্যায্য দুই-পক্ষের সারসংক্ষেপ (প্রায় ১২০ শব্দ) লিখুন, কোন কোন শর্তে আবার বিবেচনা করবেন তা দিয়ে শেষ করুন, কিন্তু বিজয়ী ঘোষণা করবেন না।
উত্তর
সহজ। উদাহরণ: যে রোগীরা কম সেবা-পাওয়া স্থানীয় ভাষায় কথা বলেন (তাঁরা খারাপ রিমাইন্ডার পেতে পারেন); যে রোগীদের ফোন বা স্মার্টফোন নেই (কর্মীদের সময় AI-তে সরে গেলে তাঁরা ফোন সেবা হারাতে পারেন); যে ক্লিনিক-কর্মীদের কাজের চাপ বদলায়; স্থানীয় স্রষ্টারা, যাঁদের ভাষার উপকরণ ট্রেনিং ডেটায় থাকতে পারে। আপনি তাঁদের জিজ্ঞেস করবেন এখন তাঁরা কীভাবে রিমাইন্ডার পান আর একটা মিস হলে কী ক্ষতি হয়।
পাস চেকলিস্ট: সিদ্ধান্ত-গ্রহণকারীদের বাইরে অন্তত দুটো গোষ্ঠী; প্রতিটার সঙ্গে একটা নির্দিষ্ট প্রভাব ও একটা প্রশ্ন। দুর্বল উত্তর শুধু ক্লিনিক ম্যানেজার ও প্রদানকারীকে তালিকাভুক্ত করে।
মাঝারি।
ROWS.append(("Applicants with no reliable internet", "may be unable to upload a CV",
False, True, False))
for group in sorted(g for g, _, gains, pays, say in ROWS if pays and not say):
print(group)Applicants with no reliable internet
Applicants, unusual CVs
Current employees
Local job marketপাস চেকলিস্ট: নতুন সারিতে পাঁচটা ক্ষেত্রই আছে; আউটপুট নামের ক্রমে সাজানো; নতুন গোষ্ঠীটা সত্যিকারের প্রভাবিত অ-ব্যবহারকারী।
কঠিন। একটা শক্ত উত্তর বলে: ওপেন মডেল ডেটা কোথায় থাকবে তার ওপর নিয়ন্ত্রণ আর প্রতি ব্যবহারে ফি-মুক্ত থাকা দিতে পারে, কিন্তু দক্ষতা লাগে এবং নিরাপত্তার কাজ ক্লিনিকের ঘাড়ে থাকে; ক্লোজড শুরু করা দ্রুত এবং সহায়তার একটা নির্দিষ্ট পথ আছে, কিন্তু নির্ভরতা তৈরি করে এবং রোগীর বার্তা প্রদানকারীর কাছে পাঠায়; AI না থাকলে মানুষের যোগাযোগ থাকে, কিন্তু কর্মীর সময় লাগে। তারপর সে পুনর্বিবেচনার শর্ত তালিকাভুক্ত করে (ভাষাগুলো খারাপ সামলালে, প্রদানকারী শর্ত বদলালে, কর্মীর সময় কমলে)। পাস চেকলিস্ট: দুই পক্ষ একই ভাষায় বলা; C বিকল্পের উল্লেখ; "স্পষ্টতই X ভালো" ধরনের কোনো বাক্য নেই; পর্যালোচনার তারিখ বা ট্রিগার। দুর্বল উত্তর একটা বিকল্পের পক্ষ নেয় বা শুধু প্রযুক্তিগত বিষয় তালিকাভুক্ত করে।
সারসংক্ষেপ
- প্রতিটা গোষ্ঠীকে লাভ করে, খরচ বহন করে, কথা বলার সুযোগ আছে হিসেবে ম্যাপ করুন; যারা সুযোগ ছাড়াই খরচ বহন করে তাদের বিশেষ মনোযোগ দরকার।
- ওপেন ও ক্লোজড মডেল একই প্রশ্নে তুলনা করুন: প্রবেশাধিকার, স্বচ্ছতা, অপব্যবহার, নিয়ন্ত্রণ, সহায়তা ও নির্ভরতা। প্রতিটা পক্ষ ন্যায্যভাবে বলুন, বিজয়ী ঘোষণা করবেন না।
- কপিরাইট ও ট্রেনিং ডেটার বিবাদ তারিখ, আদালত ও সীমাসহ বর্ণনা করুন; আইনি অনুমতি, কৃতিত্বস্বীকার ও ন্যায্যতা আলাদা রাখুন।
- স্রষ্টা, অবদানকারী ও ডেটা-কর্মীর স্বার্থ নথিভুক্ত করুন, সরবরাহকারীদের জিজ্ঞেস করুন; যা অজানা তা লিখে রাখুন।
- আপনার ব্যবহারকারীদের আসল পরিস্থিতিতে ভাষা ও অঞ্চলভিত্তিক প্রবেশাধিকার পরীক্ষা করুন।
এরপর: শ্রম, পরিবেশ ও ট্রেড-অফ: যে প্রমাণ পুরোপুরি মাপা যায় না তা ওজন করা অ্যাক্সেসিবিলিটি, সম্পদের ব্যবহার, পরিবেশগত দাবি কীভাবে পড়বেন আর একটা ভারসাম্যপূর্ণ প্রভাব-নোট কীভাবে লিখবেন তা নিয়ে এগোয়।