অধ্যায় 3 · সৃজনশীলতা, কাজ ও নিরাপত্তা
নিরাপত্তা, অপব্যবহার ও স্পর্শকাতর বিষয়: স্বাস্থ্য, অর্থ, আত্মক্ষতি ও হয়রানি
- পৃষ্ঠা 15 / 22
- 19 মিনিট পড়া
এখন পর্যন্ত এই কোর্স মূলত জিজ্ঞেস করেছে, একটা AI-সহায়তায় করা কাজ কাদের ওপর প্রভাব ফেলে। এই পাতার প্রশ্নটা আরও ধারালো: বাস্তবসম্মত সবচেয়ে খারাপ ফল কতটা খারাপ হতে পারে, আর কেউ ক্ষতিগ্রস্ত হতে পারলে আপনি কী করবেন? AI-এর বেশির ভাগ ব্যবহারে ঝুঁকি ছোট। কয়েকটায় ঝুঁকি গুরুতর: এমন বার্তা যা কাউকে ঠকিয়ে টাকা নিয়ে নেয়, এমন উত্তর যা দেখে কেউ নিজের স্বাস্থ্য নিয়ে সিদ্ধান্ত নেয়, কষ্টে থাকা মানুষের সঙ্গে চ্যাট, কিংবা চাকরি, ঋণ বা চিকিৎসা কে পাবে তা ঠিক করতে সাহায্য করা টুল।
আমরা সুরটা ব্যবহারিক আর শান্ত রাখি। বর্ণনাগুলো গ্রাফিক নয়; জোর দেওয়া হয়েছে ঝুঁকি চেনা আর ঠিকভাবে সাড়া দেওয়ায়। এই পাতা চিকিৎসা, মানসিক স্বাস্থ্য বা সংকট মোকাবিলার কোনো নির্দেশ দেয় না, আর ক্ষতিকর কিছু কীভাবে করতে হয় তাও শেখায় না। এটা শেখায় সীমারেখা কোথায় এবং কার কাছে যেতে হবে। আস্থা, যাচাই ও অটোমেশন বায়াস: AI-এর আউটপুটে কখন ভরসা করবেন পাতায় যাচাইয়ের অভ্যাস, আর ডিপফেক, প্রোভেন্যান্স ও প্রকাশ: আসল আর কৃত্রিমের পার্থক্য পাতায় নকল মিডিয়ার কথা আপনি জেনেছেন। এখানে দুটোর ওপরেই দাঁড়াব।
যা শিখবেন
- সাধারণ ভুল আর নিরাপত্তা-সংকটাপন্ন ব্যর্থতার পার্থক্য, এবং একটা ব্যবহারের বাস্তবসম্মত সবচেয়ে খারাপ ফল কীভাবে মাপবেন।
- AI-সহায়তায় প্রতারণা ও ছদ্মবেশের মোটামুটি কাঠামো, আর সাড়া দেওয়ার ছোট একটা নিয়ম।
- কোন আউটপুট বা অনুরোধ ক্ষতির সুযোগ করে দিতে পারে তা কীভাবে চিনবেন, এবং "দ্বৈত ব্যবহার" (dual use) মানে কী।
- স্বাস্থ্য-প্রশ্নের নিরাপদ সীমা, আর কেন AI চ্যাট থেরাপিস্ট বা জরুরি সেবা নয়।
- তিনটা উচ্চ-ঝুঁকির ক্ষেত্র (নিয়োগ, ঋণ, চিকিৎসা-ট্রায়াজ), প্রতিটা কয়েকটা জিজ্ঞাসার তালিকায় নামিয়ে আনা।
সাধারণ ভুল আর নিরাপত্তা-সংকটাপন্ন ব্যর্থতা
প্রতিটা AI টুল ভুল করে, যা আপনি এআই কীভাবে কাজ করে: LLM, টোকেন ও সীমাবদ্ধতা পাতায় শিখেছেন। আসল প্রশ্ন, ভুলের দাম কত। সাধারণ ভুল সস্তা, চোখে পড়ে এবং সহজে শোধরানো যায়: আনাড়ি একটা বাক্য, আপনি প্রুফ পড়বেন এমন খসড়ায় ভুল তারিখ। নিরাপত্তা-সংকটাপন্ন ব্যর্থতা এমন ভুল যেখানে কেউ গুরুতর আহত হতে পারে, বা অর্থ, স্বাস্থ্য, স্বাধীনতা কিংবা মৌলিক সুযোগ হারাতে পারে, এবং ক্ষতি ফেরানো কঠিন।
| প্রশ্ন | সাধারণ ভুল | নিরাপত্তা-সংকটাপন্ন ব্যর্থতা |
|---|---|---|
| বাস্তবসম্মত সবচেয়ে খারাপ ফল কতটা খারাপ? | কয়েক মিনিট নষ্ট; সামান্য অস্বস্তি | আঘাত, গুরুতর ক্ষতি, অধিকার বা সুযোগ হারানো |
| দাম দেয় কে? | সাধারণত ব্যবহারকারী | প্রায়ই অন্য কেউ, যে টুলটা দেখেইনি |
| ফেরানো যায় কি না? | হ্যাঁ, দ্রুত | ধীরে, আংশিক, বা একেবারেই না |
| ক্ষতির আগে কেউ টের পাবে? | হ্যাঁ: আপনি আউটপুট পড়েন | হয়তো না: আউটপুট সঙ্গে সঙ্গে কাজে লাগানো হয় |
কাল্পনিক পরিস্থিতি:
Katja, in Berlin, uses an AI tool to draft two things on the same afternoon. First, a friendly
reminder to her sports club that training moves to Thursday. Second, a one-page safety notice
for volunteers who will lift heavy equipment at a charity sale. The tool gets Thursday wrong
(it writes Tuesday). It also writes a lifting instruction that sounds sensible but that Katja
has no way of checking.ভুল বারটা একটা সাধারণ ভুল: মানুষ জিজ্ঞেস করবে, কাটিয়া শুধরে দেবেন। তোলার নির্দেশটা নিরাপত্তা-সংকটাপন্নের কাছাকাছি, কারণ স্বেচ্ছাসেবকেরা হুবহু সেটা মানতে পারেন, আর কেউ আহত হতে পারেন। কাটিয়ার সেরা পদক্ষেপ টুল এড়িয়ে চলা নয়। দ্বিতীয় নথিটাকে আলাদাভাবে দেখা: কোনো সরকারি নিরাপত্তা-উৎসের সঙ্গে মিলিয়ে নেওয়া, বা ওই কাজ জানা কাউকে জিজ্ঞেস করা, তারপরই প্রকাশ করা। একই টুল, একই বিকেল, যত্নের মাত্রা দুই রকম।
প্রতারণা ও ছদ্মবেশ
AI কিছু পুরোনো কৌশলকে সস্তা আর বিশ্বাসযোগ্য করেছে: আপনার ভাষায় বানান-ভুলহীন বার্তা, আত্মীয়ের মতো শোনানো কণ্ঠ, চেনা মুখের ভিডিও কল। প্রতারকের লক্ষ্য বদলায়নি। সে তাড়া আর কর্তৃত্বের ভাব তৈরি করে, যাতে আপনি ভাবার আগেই কাজ করে ফেলেন, আর টাকা বা গোপন তথ্য এমন পথে যায় যা ফেরানো যায় না।
নকলটা ধরতে পারা আপনার কাজ নয়। দরকার এমন একটা নিয়ম যা নকল নিখুঁত হলেও কাজ করে।
| সতর্ক সংকেত | উদাহরণ | সাড়া |
|---|---|---|
| তাড়া | "এখনই পাঠান, নইলে দেরি হয়ে যাবে।" | থামুন। সত্যিকারের জরুরি অবস্থা পাঁচ মিনিটের যাচাইয়েও টিকে থাকে। |
| কর্তৃত্ব বা পরিচিতি | বস, ব্যাংক বা আত্মীয়ের কাছ থেকে এসেছে মনে হয় এমন কণ্ঠ, ভিডিও বা বার্তা | কণ্ঠ বা মুখে ভরসা করবেন না। কেটে দিয়ে আপনার জানা নম্বরে ফোন করুন। |
| গোপনীয়তার চাপ | "কাউকে বলবেন না।" | কাউকে বলুন। গোপনীয়তা প্রতারকের সুবিধা করে। |
| অস্বাভাবিক পেমেন্ট পদ্ধতি | গিফট কার্ড, ক্রিপ্টোকারেন্সি, বা নতুন অ্যাকাউন্টে ওয়্যার ট্রান্সফার | এসবের অনুরোধ মানেই লাল সংকেত। আরেকজনের সঙ্গে যাচাই করুন। |
টেবিলের পরামর্শ ভোক্তা-সুরক্ষার নির্দেশনা অনুসরণ করে। যুক্তরাষ্ট্রের ফেডারেল ট্রেড কমিশনের একটা ভোক্তা-সতর্কতায় (২০২৩) বলা হয়েছে, প্রতারকেরা অল্প একটু অডিও ক্লিপ থেকে কোনো আত্মীয়ের কণ্ঠ নকল করতে পারে। পরামর্শ: কণ্ঠে ভরসা করবেন না, কেটে দিয়ে ওই মানুষকে আপনার জানা নম্বরে ফোন করুন, অন্য কোনো আত্মীয়ের সঙ্গে যাচাই করুন, আর ওয়্যার ট্রান্সফার, ক্রিপ্টোকারেন্সি বা গিফট কার্ডের অনুরোধে সতর্ক থাকুন। প্রতারণার খবর নিজ দেশের ভোক্তা-সুরক্ষা বা প্রতারণা-রিপোর্ট সেবায় জানানোর পরামর্শও আছে। নিজের দেশের সমতুল্য সেবাটা খুঁজে নিন।
নথিভুক্ত ঘটনা:
Year: 2024. Source: Hong Kong Free Press, 5 February 2024, reporting what Hong Kong police said.
Reported: an employee of a multinational company was tricked during a video conference in which
everyone on the call except the victim was an impersonation. About HK$200 million was
transferred in 15 payments. Police received the report on 29 January. No arrests had been made.
Established: that the police made these statements and the press reported them.
Not established here: how the fakes were made or any further detail. This tutorial does not
name the company and does not rely on any detail beyond the cited report.সংখ্যার চেয়ে ছকটা বেশি জরুরি: একজন কর্তৃত্বশীল ব্যক্তি, বিশ্বাসযোগ্য ভিডিও, বড় আর তাড়াহুড়োর পেমেন্ট। প্রতিরোধও একটা ছক। বড় বা অস্বাভাবিক পেমেন্টের আগে অনুরোধটা এমন দ্বিতীয় মাধ্যমে নিশ্চিত করুন যা আপনি নিজে শুরু করেছেন, আর দ্বিতীয় একজন অনুমোদনকারী রাখুন।
লক্ষ্য হলে কী করবেন। সব যোগাযোগ বন্ধ করুন। দ্রুত আপনার ব্যাংক বা পেমেন্ট প্রদানকারীকে জানান, কারণ গতি প্রায়ই গুরুত্বপূর্ণ। বার্তাগুলো প্রমাণ হিসেবে রাখুন। সংশ্লিষ্ট ভোক্তা-সুরক্ষা বা প্রতারণা-সেবায় জানান, আর কাজের বিষয় হলে নিয়োগকর্তাকেও। বিশ্বস্ত কাউকে বলুন। ভালো একটা নকলের কাছে ঠকে যাওয়া বোকামির লক্ষণ নয়; নিয়মটা ঠিক এই কারণেই আছে।
আউটপুট যখন ক্ষতির সুযোগ করে দিতে পারে: অপব্যবহার ও দ্বৈত ব্যবহার
কখনো ঝুঁকিটা AI-এর ভুল হওয়া নয়, বরং ঠিক হওয়া, আর ফলটা কাউকে অন্যের ক্ষতি করতে সাহায্য করতে পারে। চিনতে বিশেষজ্ঞ হতে হয় না। কোনো অনুরোধ বা আউটপুট নিয়ে তিনটা প্রশ্ন করুন: কনটেন্টটা কোনো মানুষ, গোষ্ঠী বা ব্যবস্থার ক্ষতিতে সাহায্য করতে পারে? উদ্দেশ্য অস্পষ্ট বা লুকানো? একবার ছড়িয়ে পড়লে ফেরানো কঠিন হবে?
দ্বৈত ব্যবহার (dual use) মানে এমন সক্ষমতা যার ভালো ব্যবহারও আছে, ক্ষতিকর ব্যবহারও। কে ব্যবহার করছে আর কেন, তার ওপর নির্ভর করে একই সক্ষমতা সাহায্য করতে পারে বা ক্ষতি করতে পারে। অনেক দৈনন্দিন টুলই দ্বৈত ব্যবহারের, তাই উত্তরটা বিরল ক্ষেত্রেই "নিষিদ্ধ করুন" বা "সব অনুমতি দিন"।
| সক্ষমতা | উপকারী ব্যবহার | সম্ভাব্য ক্ষতিকর ব্যবহার | কী সাহায্য করে |
|---|---|---|---|
| বাস্তবসম্মত বার্তা লেখা | কর্মীদের প্রতারণা চিনতে প্রশিক্ষণ | মানুষকে ঠকানোর বার্তা লেখা | স্পষ্ট উদ্দেশ্য; লেবেল দেওয়া প্রশিক্ষণ-সামগ্রী; সম্মতি ছাড়া সত্যিকারের মানুষকে না পাঠানো |
| কণ্ঠ নকল করা | কথা বলার ক্ষমতা হারানো মানুষের জন্য সহায়ক প্রযুক্তি | আত্মীয় বা ম্যানেজারের ছদ্মবেশ | কণ্ঠের মালিকের সম্মতি; প্রকাশ; যেকোনো পেমেন্ট-অনুরোধের জন্য দ্বিতীয় মাধ্যম |
| নিরাপত্তা-দুর্বলতা কীভাবে কাজ করে তা ব্যাখ্যা | নিজের সিস্টেম ঠিক করতে টিমকে সাহায্য | আক্রমণকারীকে সাহায্য | উচ্চ স্তরের সাধারণ সচেতনতা; বিস্তারিত অংশে বিশেষজ্ঞ ও অনুমোদিত পরীক্ষা |
| কোনো ব্যক্তি সম্পর্কে প্রকাশ্য তথ্যের সারসংক্ষেপ | চুক্তির আগে সরবরাহকারীকে যাচাই | কাউকে অনুসরণ বা হয়রানি | বৈধ উদ্দেশ্য; কতটা তথ্য সংগ্রহ হবে তা সীমিত করা; গোপনীয়তার নিয়ম মানা |
ব্যবহারকারী হিসেবে কোনো অনুরোধে দ্বিধা হলে তিনটা কাজ করতে পারেন: কাজের নিরাপদ, সাধারণ অংশে সাহায্য করুন; ক্ষতিকর খুঁটিনাটি করতে অস্বীকার করুন; অথবা মানুষটাকে উদ্দেশ্য ব্যাখ্যা করতে বলুন। টিমের ভেতরে থাকলে একা সিদ্ধান্ত না নিয়ে টুল বা পলিসির মালিককে জানান। অস্বীকার করতে খারাপ উদ্দেশ্য প্রমাণ করতে হয় না। "ওই অংশে সাহায্য করতে আমি স্বস্তি পাচ্ছি না" বলাই যথেষ্ট।
যেখানে যুক্তিসঙ্গত মানুষেরা একমত নন
অপব্যবহার ঠেকাতে শক্তিশালী AI সক্ষমতা কতটা সীমিত করা উচিত? মানুষ এটা ভিন্নভাবে ওজন করে।
| মত ক: আগে থেকে বেশি সীমাবদ্ধ করুন | মত খ: কম সীমাবদ্ধ করুন, অপব্যবহারে নজর দিন |
|---|---|
| অপব্যবহারের ক্ষতি গুরুতর ও ফেরানো কঠিন হতে পারে, তাই সতর্ক পথ হলো ছড়িয়ে পড়ার আগেই সক্ষমতা সীমিত করা। | বেশির ভাগ মানুষ বৈধ কাজেই এই টুল ব্যবহার করে। বিস্তৃত সীমাবদ্ধতা সৎ ব্যবহারকারীদের ব্যর্থ করে, উপকারী গবেষণা ও শিক্ষা ধীর করে, আর দৃঢ়সংকল্প অপরাধীকে অন্য পথে ঠেলে দেয়। ক্ষতিকর কাজ ও তার শাস্তিকে লক্ষ্য করা বেশি নিখুঁত। |
বাস্তবে অঞ্চলভেদেও পার্থক্য আছে: ইউরোপীয় ইউনিয়নের একটা বাধ্যতামূলক, ঝুঁকিভিত্তিক আইন আছে, আর আরও কয়েকটা জায়গা নির্ভর করে স্বেচ্ছামূলক নির্দেশনা ও বিদ্যমান আইনের ওপর।
দুই মতেরই একই উদ্বেগ: ক্ষতি ঠেকানো। তারা আলাদা হয় নিয়ন্ত্রণ কোথায় বসবে (সক্ষমতায় না কাজে) আর সৎ ব্যবহারকারীর খরচকে কতটা ওজন দেবে, সেখানে। নিজের চর্চায় আপনি বিশ্বের নীতি ঠিক করছেন না। আপনি ঠিক করছেন কোন কাজে সাহায্য করবেন আর কোনটায় করবেন না, এবং আপনার কর্মস্থল ও স্থানীয় নিয়ম মানছেন।
স্পর্শকাতর স্বাস্থ্য-প্রশ্ন: নিরাপদ সীমা
লক্ষণ, ওষুধ, পরীক্ষার ফল আর খাদ্যাভ্যাস নিয়ে মানুষ AI টুলকে জিজ্ঞেস করে, কারণ টুলটা যেকোনো সময় হাতের কাছে। বিশ্ব স্বাস্থ্য সংস্থা (WHO) স্বাস্থ্যক্ষেত্রে বৃহৎ মাল্টিমোডাল মডেল (large multimodal models) নিয়ে নৈতিকতা ও শাসনব্যবস্থার নির্দেশনা প্রকাশ করেছে (WHO-র সাইটে ২০২৫ সালে তালিকাভুক্ত)। প্রকাশনার পাতা বলছে, স্বাস্থ্যসেবা ও জনস্বাস্থ্যে এসব মডেল ব্যাপকভাবে ব্যবহৃত হবে বলে প্রত্যাশা, আর নানা ধরনের কাজ তারা সামলাতে পারে কি না তা এখনো প্রমাণিত নয়। তাই সতর্ক মনোভাব যুক্তিসঙ্গত।
একটা ব্যবহারিক সীমারেখা সাহায্য করে। নিচের রেখাটা প্রশ্নের ধরন নিয়ে, চিকিৎসা-নিয়ম নয়।
| অঞ্চল | প্রশ্নের উদাহরণ | উত্তরটাকে কীভাবে দেখবেন |
|---|---|---|
| সাধারণ তথ্য | "হাইপারটেনশন শব্দের মানে কী?" "পুষ্টি-লেবেলে কী কী থাকে?" | শব্দ বোঝার জন্য কাজের। নির্ভরযোগ্য স্বাস্থ্য-উৎসে মিলিয়ে নিন। |
| ডাক্তার দেখানোর প্রস্তুতি | "ডাক্তারকে কী কী প্রশ্ন করব তা লিখতে সাহায্য করুন।" "আমার লক্ষণগুলো ক্রমানুসারে সাজাতে সাহায্য করুন।" | ভালো ব্যবহার: পেশাদারের সঙ্গে কথা বলতে সাহায্য করে। কী শেয়ার করবেন তা আপনিই ঠিক করেন। |
| ব্যক্তিগত সিদ্ধান্ত | আপনার কী হয়েছে তার রোগনির্ণয়; চিকিৎসা শুরু, বন্ধ বা বদলানো হবে কি না; যেকোনো ওষুধের পরিমাণ | AI চ্যাটের জন্য নয়। আপনার পূর্ণ রেকর্ড দেখে একজন যোগ্য স্বাস্থ্য-পেশাদার সিদ্ধান্ত নেবেন। |
| জরুরি বা গুরুতর লক্ষণ | যা জরুরি অবস্থা মনে হয় এমন যেকোনো কিছু | চ্যাট ব্যবহার করবেন না। যোগ্য পেশাদার বা আপনার স্থানীয় জরুরি সেবার সঙ্গে যোগাযোগ করুন। |
গোপনীয়তা, সম্মতি ও ডেটা ব্যবহার: AI টুলে আপনি কী শেয়ার করেন পাতার কথাও মনে রাখুন: স্বাস্থ্যের তথ্য স্পর্শকাতর। যতটুকু না হলেই নয় ততটুকু শেয়ার করুন, আর আপনি যা লেখেন সেবাটা তা কীভাবে ব্যবহার করে তা দেখে নিন।
মানসিক স্বাস্থ্য: কখন মানুষের সাহায্য দরকার
একাকী, চাপে বা মন খারাপ থাকলে কেউ কেউ AI চ্যাট টুলের সঙ্গে কথা বলেন। চ্যাটকে ধৈর্যশীল ও ব্যক্তিগত মনে হয়, আর কারও কারও কাছে এটা ভাবনা গুছিয়ে নেওয়ার উপায়। কিন্তু AI চ্যাট থেরাপিস্ট, ডাক্তার বা জরুরি সেবা নয়। সে আপনাকে দেখতে পায় না, আপনার নিরাপত্তার দায় নিতে পারে না, আর সে অতি সহজে একমত হয়ে যেতে পারে বা ভুল হয়েও নিশ্চিত শোনাতে পারে।
মানুষের সহায়তা দরকার, এমন কিছু সংকেত: যে অনুভূতি টিকে থাকে বা বাড়ে; ঘুম, খাওয়া বা দৈনন্দিন জীবনে এমন বদল যা মানুষটাকে বা অন্যদের চিন্তায় ফেলে; সামলাতে না পারার বোধ; নিজেকে বা অন্য কাউকে আঘাত করার যেকোনো ভাবনা। এগুলো একজন যোগ্য পেশাদার বা বিশ্বস্ত কাউকে যুক্ত করার কারণ, শুধু টুলের সঙ্গে কথা চালিয়ে যাওয়ার নয়।
কাল্পনিক পরিস্থিতি:
Nadia, a student in Dhaka, notices that her cousin Imran has started spending hours at night
talking to an AI chat tool about feeling hopeless. He shows her a few messages. The replies are
kind but generic, and Imran says the chat is "the only one who gets it".নাদিয়া কী করতে পারেন? তিনি বিচার না করে শুনতে পারেন, ইমরান তাঁকে বলেছে বলে খুশি জানাতে পারেন, আর একজন যোগ্য পেশাদার বা বিশ্বস্ত প্রাপ্তবয়স্কের সঙ্গে কথা বলতে উৎসাহ দিতে পারেন, এবং একজনকে খুঁজে পেতে সাহায্যের প্রস্তাব দিতে পারেন। তাঁর মনে হলে ইমরান তাৎক্ষণিক বিপদে আছে, তিনি স্থানীয় জরুরি সেবার সঙ্গে যোগাযোগ করবেন। ইমরানের যত্নের পুরো দায়িত্ব তাঁর নেওয়ার দরকার নেই, টুলের সঙ্গে তর্ক করারও না। চ্যাটটা বোকামি ছিল, এ কথাও তাঁর বলতে হবে না; তিনি বলতে পারেন যে এমন একজন মানুষের থাকা দরকার যে ইমরানকে দেখতে পায় এবং দায় নিতে পারে।
একইভাবে, যে টিম চ্যাট পণ্য বানায় বা চালায়, ব্যবহারকারীর কষ্টের লক্ষণ দেখা দিলে একজন মানুষ বা উপযুক্ত সেবার কাছে পৌঁছানো সহজ করা তাদের উচিত। এই টিউটোরিয়াল কোনো দেশের ফোন নম্বর দেয় না, কারণ সেগুলো আলাদা এবং বদলায়। নিজের অঞ্চলের সেবাগুলো খুঁজে নিন এবং তালিকাটা এমন জায়গায় রাখুন যেখানে সহজে পাওয়া যায়।
AI জরুরি সেবা নয়
জরুরি অবস্থায় দরকার দ্রুত, জবাবদিহিযোগ্য মানুষের সাড়া: যে সাহায্য পাঠাতে পারে, স্থানীয় এলাকা চেনে, আর পরের ঘটনার দায় নেয়। AI চ্যাট টুল তা পারে না। সে ধীরে, ভুলভাবে বা একেবারেই উত্তর না-ও দিতে পারে, আর কাজ করার কোনো দায়ও তার নেই।
- কেউ তাৎক্ষণিক বিপদে থাকতে পারে মনে হলে আগে স্থানীয় জরুরি সেবার সঙ্গে যোগাযোগ করুন। চ্যাট টুলকে জিজ্ঞেস করার আগে সেটা করুন।
- পরে, যদি দরকার হয়, শান্ত কাজে টুল ব্যবহার করুন: কী ঘটেছে তা লিখে রাখা, বা পেশাদারের জন্য প্রশ্নের খসড়া।
- আগে থেকে তৈরি থাকুন। স্থানীয় সরকারি উৎস থেকে নিজের এলাকার জরুরি নম্বর জেনে রাখুন, আর পরিবারের সদস্য বা সহকর্মীরা কোথায় তা পাবেন সেটা নিশ্চিত করুন।
প্রথম তিনটা উচ্চ-ঝুঁকির ক্ষেত্র: কী জিজ্ঞেস করবেন
কিছু সিদ্ধান্ত জীবন বদলে দেয়: চাকরি, ঋণ, বা সঠিক চিকিৎসা আপনি পাবেন কি না। এসব ক্ষেত্রে AI ব্যবহার আপনা থেকে ভুল নয়, কিন্তু যত্নের মাত্রা অনেক বেশি লাগে, আর প্রভাবিত মানুষদের কথা বলার সুযোগ সাধারণত কম। এই পাতায় আমরা প্রতিটা ক্ষেত্রকে জিজ্ঞাসার তালিকায় নামিয়ে আনছি। পরের পাতায় তদারকি, আপিল এবং কখন AI মোটেই ব্যবহার করবেন না তা আছে। বাস্তব কোনো ঘটনা লিখতে গেলে প্রথম পাতার আটটা ধাপ (পরিস্থিতি, কারা প্রভাবিত, উপকার ও ক্ষতি, বিকল্প, প্রমাণ, শর্তসহ সিদ্ধান্ত, দায়ী ব্যক্তি, পর্যালোচনার তারিখ) ব্যবহার করুন।
| ক্ষেত্র | AI কী করতে পারে | কী জিজ্ঞেস করবেন |
|---|---|---|
| নিয়োগ ও প্রার্থী বাছাই | আবেদন ক্রমানুসারে সাজানো বা ছাঁটাই; ভিডিও-উত্তরে স্কোর দেওয়া; কাকে ইন্টারভিউ করবেন তা পরামর্শ দেওয়া | টুলটা প্রমাণ হিসেবে কী ব্যবহার করে, আর বয়স, লিঙ্গ, প্রতিবন্ধিতা বা পটভূমির প্রক্সি ব্যবহার করতে পারে? বিভিন্ন গোষ্ঠীর জন্য ফল কেউ পরীক্ষা করেছে? প্রার্থী মানুষকে আবার দেখতে বলতে পারেন? সিদ্ধান্ত কে নেয়, আর টুল যেসব আবেদন নিচে রেখেছে সেগুলো পড়ার সময় তাঁর আছে? |
| ঋণ ও আর্থিক যোগ্যতা | ঝুঁকি আন্দাজ; অনুমোদন, প্রত্যাখ্যান বা পুনর্বিবেচনার সুপারিশ; সীমা বা দাম ঠিক করা | কোন ডেটা ব্যবহার হয়, আর তা সঠিক ও হালনাগাদ? প্রত্যাখ্যাত মানুষ মূল কারণগুলো জানতে এবং ভুল ডেটা শুধরাতে পারেন? টুলকে কে বাতিল করতে পারে? কিছু গোষ্ঠী বেশি প্রত্যাখ্যাত হচ্ছে, আর তা পরীক্ষা করা হয়? |
| চিকিৎসা-ট্রায়াজ ও ক্লিনিক্যাল সিদ্ধান্ত | জরুরিত্ব সম্পর্কে পরামর্শ; সম্ভাব্য অবস্থার পরামর্শ; রেকর্ডের সারসংক্ষেপ | সিদ্ধান্ত একজন যোগ্য চিকিৎসক নিচ্ছেন, দ্বিমত করার ক্ষমতাসহ? টুলটা এই ধরনের রোগীদের ওপর মূল্যায়ন করা হয়েছে? ভুল হলে বা টুল না পাওয়া গেলে কী হয়? রোগীর ডেটা কীভাবে সুরক্ষিত? |
সারিগুলোর মিলটা লক্ষ করুন। প্রতিটাতেই প্রশ্ন আছে প্রমাণ, যেসব গোষ্ঠীর সঙ্গে খারাপ আচরণ হতে পারে, বাতিল করতে পারা একজন মানুষ, ভুল শোধরানোর উপায় আর একজন দায়ী মালিক নিয়ে।
আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): ইউরোপীয় কমিশনের পাতা অনুযায়ী, ইউরোপীয় ইউনিয়নের AI Act একটা বাধ্যতামূলক, ঝুঁকিভিত্তিক আইন। এতে "উচ্চ-ঝুঁকির" সিস্টেম বলা হয়েছে সেগুলোকে, যা স্বাস্থ্য, নিরাপত্তা বা মৌলিক অধিকারে গুরুতর প্রভাব ফেলতে পারে; আর যেসব ক্ষেত্রের নাম আছে তার মধ্যে রয়েছে কর্মসংস্থান, শিক্ষা, অপরিহার্য সেবা, আইন প্রয়োগ, অভিবাসন ও বিচার। কমিশন এমন সিস্টেমের সরবরাহকারীর জন্য কিছু দায়িত্বের তালিকা দিয়েছে, যেমন ঝুঁকি ব্যবস্থাপনা, ডেটার মান, লগ রাখা, নথিবদ্ধ করা, মানুষের তদারকি, নির্ভুলতা ও সাইবার নিরাপত্তা। কোনো নির্দিষ্ট টুল উচ্চ-ঝুঁকির কি না, তা নির্ভর করে আইনের পাঠের ওপর, শুধু ক্ষেত্রের ওপর নয়। কমিশনের সময়সূচি, যা ২০২৬ সালের সংশোধনীগুলো বিবেচনায় নেয়, এসব ক্ষেত্রের উচ্চ-ঝুঁকির নিয়ম ২০২৭-১২-০২ থেকে প্রযোজ্য দেখায়; কমিশনের নিজস্ব পাতাগুলো পুরোপুরি একে অপরের সঙ্গে মেলে না, তাই বর্তমান সরকারি পাঠ দেখে নিন। নিউইয়র্ক সিটিতে ডিপার্টমেন্ট অব কনজিউমার অ্যান্ড ওয়ার্কার প্রটেকশন বলছে, কোনো স্বয়ংক্রিয় নিয়োগ-সিদ্ধান্তের টুল ব্যবহার করতে হলে এক বছরের মধ্যে তার পক্ষপাত-নিরীক্ষা (bias audit) হতে হবে, নিরীক্ষার তথ্য প্রকাশ্য হতে হবে এবং বিজ্ঞপ্তি দিতে হবে; প্রয়োগ শুরু হয়েছে ২০২৩-০৭-০৫ তারিখে। এ দুটো দুই জায়গার দুটো উদাহরণ। অনেক দেশে এমন কোনো নিয়ম নেই। আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।
আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): ইউরোপীয় ইউনিয়নের জেনারেল ডেটা প্রোটেকশন রেগুলেশনের ২২ নম্বর অনুচ্ছেদের একটা বেসরকারি অনলাইন পাঠ অনুযায়ী, শুধু স্বয়ংক্রিয় প্রক্রিয়াকরণের ভিত্তিতে নেওয়া যে সিদ্ধান্ত আইনি বা অনুরূপ গুরুতর প্রভাব ফেলে, তার অধীন না হওয়ার অধিকার একজন মানুষের আছে, তবে ব্যতিক্রম আছে। ব্যতিক্রম প্রযোজ্য হলে প্রতিষ্ঠানকে ন্যূনতম মানুষের হস্তক্ষেপ, নিজের মত জানানোর সুযোগ, আর সিদ্ধান্তকে চ্যালেঞ্জ করার উপায় দিতে হয়। পরের পাতায় ধারণাটা সহজ ভাষায় আবার আসবে। আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।
ছকটা প্রয়োগ: একটা ছোট উদাহরণ
কাল্পনিক পরিস্থিতি:
Andrés works in HR at a logistics firm in Bogotá. About 400 people applied for 12 warehouse
roles. A vendor offers a tool that ranks applicants and hides the bottom half. Andrés's manager
likes the idea because the team is small.পূরণ করা ওয়ার্কশিট (সংক্ষিপ্ত রূপ):
1. SITUATION Reduce 400 applications to a shortlist for 12 roles.
2. WHO IS AFFECTED Applicants (no say), HR team, hiring managers, the firm.
3. BENEFITS/HARMS Benefit: time saved. Harm: a good candidate hidden by a ranking error or a
proxy; hard for the applicant to detect or contest.
4. OPTIONS A. Tool ranks and hides the bottom half.
B. Tool ranks, but HR reads a sample of the lower half every round.
C. No AI: clear written criteria, two people score each application.
5. EVIDENCE Unknown: how the tool was tested; whether results differ across groups.
6. DECISION Option B only after asking the vendor for test results and a contact for
appeals; stop if the sample shows good candidates ranked low.
7. ACCOUNTABLE The HR manager, named in the hiring record.
8. REVIEW DATE After the first round: compare the shortlist with the sample review.অন্য একটা টিম হয়তো বিকল্প C বেছে নেবে, কারণ আবেদনকারীদের ঝুঁকি সময় বাঁচানোর চেয়ে বড় মনে হয়েছে। সেটাও যুক্তিসঙ্গত পছন্দ। আসল কথা, কারণগুলো লিখে রাখা হয়েছে।
কাজের জায়গায় এটা কোথায় দেখা যায়
পরিচিত কণ্ঠে জরুরি পেমেন্টের অনুরোধ পাওয়া হিসাবরক্ষক জানা নম্বরে ফিরতি ফোন করতে পারেন। স্বেচ্ছাসেবক সমন্বয়কারী নিরাপত্তা-বিজ্ঞপ্তি প্রকাশের আগে যোগ্য কাউকে দেখিয়ে নিতে পারেন। পণ্য-টিম চ্যাট ফিচারে মানুষের কাছে যাওয়ার একটা দৃশ্যমান পথ রাখতে পারে। বাছাই-টুল কিনতে বলা ম্যানেজার ভেন্ডর-মিটিংয়ে ওপরের তিন সেট প্রশ্ন নিয়ে যেতে পারেন। এর কোনোটাতেই প্রযুক্তিগত দক্ষতা লাগে না। লাগে "বাস্তবসম্মত সবচেয়ে খারাপ ফল কী, আর তার ভার কে বইবে?" জিজ্ঞেস করার অভ্যাস।
সাধারণ ভুল
- সব ভুলকে একরকম দেখা। ভুল সপ্তাহের দিন আর ভুল নিরাপত্তা-নির্দেশের যত্ন আলাদা। সমাধান: কতটা যাচাই করবেন ঠিক করার আগে বাস্তবসম্মত সবচেয়ে খারাপ ফল মাপুন।
- কণ্ঠ বা মুখে ভরসা করা। নকল বিশ্বাসযোগ্য হতে পারে। সমাধান: নিজে শুরু করা দ্বিতীয় মাধ্যম ব্যবহার করুন, আর অস্বাভাবিক পেমেন্টে দ্বিতীয় অনুমোদনকারী রাখুন।
- ব্যক্তিগত চিকিৎসা-সিদ্ধান্ত বা সংকটে চ্যাট ব্যবহার করা। তার কোনো যত্নের দায় নেই। সমাধান: যোগ্য পেশাদার বা স্থানীয় জরুরি সেবার সঙ্গে যোগাযোগ করুন; টুল শুধু সাধারণ তথ্য বা প্রশ্ন তৈরির কাজে।
- ধূসর এলাকায় একা সিদ্ধান্ত নেওয়া। দ্বৈত ব্যবহারের অনুরোধ সবসময় স্পষ্ট নয়। সমাধান: নিরাপদ সাধারণ অংশে সাহায্য করুন, বাকিটা অস্বীকার করুন, আর পলিসির মালিককে জানান।
- প্রশ্ন না করে বাছাই-টুল কেনা বা ব্যবহার করা। সমাধান: অনুমোদনের আগে প্রমাণ, গোষ্ঠী, বাতিল করা, শোধরানো ও মালিকানা নিয়ে জিজ্ঞেস করুন।
নিজে চেষ্টা করুন
- সহজ। প্রতিটা ব্যবহারকে সাধারণ ভুল বা নিরাপত্তা-সংকটাপন্ন ব্যর্থতা হিসেবে চিহ্নিত করুন এবং একটা কারণ দিন: (ক) ধন্যবাদ-চিঠিতে একজন ক্লায়েন্টের নামের ভুল বানান; (খ) ওষুধ খাওয়ার নির্দেশের এমন একটা সারসংক্ষেপ, যা একজন সেবাদানকারী মেনে চলবেন; (গ) টুলের এমন নোট যে একজন গ্রাহক "কম গুরুত্বপূর্ণ", যা ঠিক করে গ্রাহক কত দ্রুত সেবা পাবেন।
- মাঝারি। কাল্পনিক পরিস্থিতি: ওসাকার হিসাবরক্ষক আইকো এমন একটা ভিডিও বার্তা পান যা দেখতে তাঁর ডিরেক্টরের মতো। ডিরেক্টর আজই একটা নতুন সরবরাহকারীকে বড় অঙ্কের পেমেন্ট পাঠাতে এবং কাউকে না বলতে বলছেন। সতর্ক সংকেতগুলো তালিকা করুন, আর আইকোর ধাপগুলো ক্রমানুসারে লিখুন। তাঁর কী করা উচিত নয়, তাও বলুন।
- কঠিন। কাল্পনিক পরিস্থিতি: আক্রার একটা ক্রেডিট ইউনিয়ন ছোট ঋণের আবেদন স্বয়ংক্রিয়ভাবে অনুমোদন বা প্রত্যাখ্যান করতে একটা টুল ব্যবহারের পরিকল্পনা করছে; কর্মীরা শুধু সেই প্রত্যাখ্যানগুলো দেখবেন যেগুলো নিয়ে আবেদনকারীরা অভিযোগ করবেন। রাজি হওয়ার আগে আপনি পাঁচটা প্রশ্ন লিখুন, আর বলুন কোন দুটো আপনার কাছে সবচেয়ে গুরুত্বপূর্ণ এবং কেন। তারপর এমন একটা বিষয় চিহ্নিত করুন যেখানে দুজন যুক্তিসঙ্গত মানুষ একমত নাও হতে পারেন, আর আন্দ্রেসর ওয়ার্কশিটে ফিরে দেখুন আপনার উত্তর কোন ধাপগুলো বদলায়।
উত্তর
সহজ। (ক) সাধারণ: দেখা ও শোধরানো সহজ, ক্ষতি সামান্য। (খ) নিরাপত্তা-সংকটাপন্ন: সেবাদানকারী এর ওপর ভিত্তি করে কাজ করতে পারেন, আর ভুল মাত্রায় কেউ আহত হতে পারে; সরকারি নির্দেশনা বা যোগ্য পেশাদারের সঙ্গে মিলিয়ে নিতে হবে। (গ) দেখতে যতটা মনে হয় তার চেয়ে নিরাপত্তা-সংকটাপন্নের কাছাকাছি: গ্রাহক এমন একটা লেবেলের দাম দেন যা তিনি দেখতে পান না, আর সেবার গতি ঠিক করে দেওয়া সুপারিশ সিদ্ধান্তের মতো আচরণ করতে পারে। কতটা গুরুতর তা নির্ভর করে গ্রাহকের কী দরকার তার ওপর; ভালো উত্তর সে কথা বলে। পাস: আপনি এমন কারণ দেন যেখানে ক্ষতি কার ওপর পড়ে বা ফেরানো যায় কি না তা আছে। দুর্বল: কারণ ছাড়া শুধু লেবেল, বা কেউ শারীরিকভাবে আহত হচ্ছে না বলে (গ)-কে নিরীহ ধরা।
মাঝারি। ভালো উত্তর: সতর্ক সংকেত হলো তাড়া (আজই), কর্তৃত্ব (ডিরেক্টর), গোপনীয়তার চাপ (কাউকে বলবেন না), নতুন প্রাপক আর বড় অঙ্ক। ধাপ: থামুন এবং টাকা পাঠাবেন না; একই মাধ্যমে উত্তর দেবেন না; ডিরেক্টরের সঙ্গে এমন নম্বর বা মাধ্যমে যোগাযোগ করুন যা আপনার আগে থেকে জানা; একজন সহকর্মী বা ম্যানেজার আর আর্থিক নিয়ন্ত্রককে জানান; কোম্পানির পেমেন্ট-অনুমোদনের নিয়ম মানুন; প্রতারণা হলে ব্যাংক ও সংশ্লিষ্ট সেবায় জানান এবং প্রমাণ রাখুন। তাঁর ভিডিওটা কতটা আসল দেখায় তার ওপর ভরসা করা উচিত নয়, বিষয়টা গোপন রাখা উচিত নয়, আর "পরে যাচাই করব" ভেবে টাকা পাঠানো উচিত নয়। পাস: সতর্ক সংকেত, নিজের নিয়ন্ত্রণের দ্বিতীয় মাধ্যম, দ্বিতীয় অনুমোদনকারী, রিপোর্ট করা। দুর্বল: মূল প্রতিরক্ষা হিসেবে "ভিডিওর ত্রুটি খুঁজুন"।
কঠিন। ভালো প্রশ্নের সেট: কোন ডেটা ব্যবহার হয়, আর তা সঠিক? টুলটা কীভাবে পরীক্ষা হয়েছে, আর আমাদের সদস্যদের মতো মানুষের ওপর? গোষ্ঠীভেদে ফল তুলনা করা হয়েছে? আবেদনকারী কারণ জানতে এবং ভুল ডেটা শুধরাতে পারবেন? কে বাতিল করতে পারে, আর তাঁর সময় ও ক্ষমতা আছে? শুধু যাঁরা অভিযোগ করবেন তাঁরা নন, প্রত্যাখ্যাত প্রত্যেক আবেদনকারী মানুষের পর্যালোচনা চাইতে পারবেন? কে জবাবদিহি করবে, আর কবে ফল পর্যালোচনা হবে? একটা যুক্তিসঙ্গত অগ্রাধিকার হতে পারে প্রতিটা আবেদনকারীর জন্য মানুষের পর্যালোচনার পথ (কারণ শুধু অভিযোগ-নির্ভর পর্যালোচনায় নীরব ভুল থেকে যায়) আর যাঁরা আবেদন করবেন তাঁদের মতো সদস্যদের ওপর পরীক্ষা। মতভেদের একটা জায়গা: একজন হয়তো অনেক ছোট ঋণে গতি ও কম খরচকে মূল্য দেবেন; আরেকজন বলবেন, কারও ঋণ স্বয়ংক্রিয়ভাবে প্রত্যাখ্যানে মানুষের যাচাই দরকার। পাস: প্রমাণ, গোষ্ঠী, শোধরানো, বাতিল ও মালিকানা ছুঁয়ে অন্তত পাঁচটা প্রশ্ন; কারণসহ দুটো বাছাই; দুই মতের ন্যায্য বিবরণ। দুর্বল: প্রশ্ন ছাড়া রায়, বা শুধু গতি ও খরচের প্রশ্ন।
সারসংক্ষেপ
- বাস্তবসম্মত সবচেয়ে খারাপ ফল, কে তার ভার বইবে আর ফেরানো যায় কি না তা মাপুন। ঝুঁকির অনুপাতে যাচাই করুন, আর নিরাপত্তা-সংকটাপন্ন আউটপুটকে আলাদাভাবে দেখুন।
- প্রতারণা তাড়া, কর্তৃত্ব আর গোপনীয়তার চাপ ব্যবহার করে। আপনার নিজে শুরু করা দ্বিতীয় মাধ্যম আর দ্বিতীয় অনুমোদনকারী নিখুঁত নকলের বিরুদ্ধেও কাজ করে।
- অনেক সক্ষমতাই দ্বৈত ব্যবহারের। নিরাপদ সাধারণ অংশে সাহায্য করুন, ক্ষতিকর খুঁটিনাটি অস্বীকার করুন, আর অস্পষ্ট ক্ষেত্র পলিসির মালিককে জানান।
- স্বাস্থ্য ও মানসিক স্বাস্থ্যে AI চ্যাট শুধু সাধারণ তথ্য আর প্রশ্ন তৈরির জন্য। সিদ্ধান্ত ও সাড়া দেন যোগ্য পেশাদার বা আপনার স্থানীয় জরুরি সেবা।
- নিয়োগ, ঋণ ও চিকিৎসা-ট্রায়াজে প্রমাণ, গোষ্ঠী, বাতিল করা, শোধরানো ও মালিকানা নিয়ে জিজ্ঞেস করুন। নিয়ম জায়গাভেদে আলাদা; বর্তমান সরকারি পাঠ দেখে নিন।
এরপর: উচ্চ-ঝুঁকির সিদ্ধান্ত, মানুষের তদারকি ও আপিল পাতায় থাকছে শিক্ষা ও বিচারব্যবস্থা, ফেরানো কঠিন সিদ্ধান্ত, আর অর্থবহ তদারকি এবং রাবার স্ট্যাম্পের পার্থক্য কীভাবে বুঝবেন।