অধ্যায় 2 · ন্যায্যতা, সত্যতা ও গোপনীয়তা
আস্থা, যাচাই ও অটোমেশন বায়াস: AI-এর আউটপুটে কখন ভরসা করবেন
- পৃষ্ঠা 7 / 22
- 17 মিনিট পড়া
একটা AI টুল সুন্দর, আত্মবিশ্বাসী বাক্যে উত্তর দেয়, উত্তর ঠিক হোক বা ভুল। একটা ছবি, ভয়েস নোট বা ভিডিও ক্লিপ আসল দেখালেও মিথ্যা হতে পারে। ঝুঁকি শুধু এটা নয় যে টুল মাঝে মাঝে ভুল করে। ঝুঁকি হলো মানুষ যাচাই করা ছেড়ে দেয়, আর তখন একটা ভুল দাবি আমাদের ওপর ভরসা করা অন্যদের কাছে পৌঁছে যায়। এই পাতা সেই অভ্যাসগুলো নিয়ে যা আপনার আস্থাকে মাপে রাখে: কোন দাবিগুলো আপনি যাচাই করেছেন তা জানা, কখন একটা পর্যালোচনা রাবার স্ট্যাম্প (যাচাই না করেই অনুমোদন) হয়ে গেছে তা টের পাওয়া, আর মিথ্যা বা কৃত্রিম কনটেন্ট অন্যকে পাঠানোর আগেই চিনে ফেলা।
মডেল কেন মিথ্যা বাক্য বানাতে পারে তা আপনি এআই কীভাবে কাজ করে: LLM, টোকেন ও সীমাবদ্ধতা-এ জেনেছেন, আর দৈনন্দিন যাচাইয়ের অভ্যাস দেখেছেন AI-এর জন্য প্রম্পট ইঞ্জিনিয়ারিং: বিগিনার-এ। দুটোর একটাও আমরা আবার শেখাব না। এখানে প্রশ্ন হলো তারপর কী ঘটে: একটা দলের ভেতরে যাচাই কীভাবে ব্যর্থ হয়, মিথ্যা তথ্য মানুষের মধ্যে কীভাবে ছড়ায়, আর একটা ক্লিপ বা কণ্ঠস্বর নকল বলে সন্দেহ হলে কী করবেন।
যা শিখবেন
- যাচাই করা দাবি আর বিশ্বাসযোগ্য শোনানো দাবির পার্থক্য, আর কেন আত্মবিশ্বাসী সুর প্রমাণ নয়।
- অটোমেশন বায়াস কী, কীভাবে তা মানুষের পর্যালোচনাকে রাবার স্ট্যাম্পে পরিণত করে, আর স্বাধীন পর্যালোচনা দেখতে কেমন।
- বারবার শেয়ারের মধ্য দিয়ে মিথ্যা তথ্য কীভাবে ছড়ায়, আর ব্যঙ্গ, কল্পকাহিনি, সৎ ভুল ও ইচ্ছাকৃত প্রতারণা কীভাবে আলাদা।
- বানানো উদ্ধৃতি, বিভ্রান্তিকর ছবি, কৃত্রিম অডিও ও ভয়েস ক্লোনিং মানুষকে বিভ্রান্ত করতে কীভাবে ব্যবহার হয়, একটা কাল্পনিক পেমেন্ট প্রতারণাসহ।
- নির্বাচন, কর্মক্ষেত্র ও ব্যক্তিগত সম্পর্কে ডিপফেকের ঝুঁকি আতঙ্ক ছাড়া কীভাবে চিনবেন আর সামলাবেন।
যাচাই করা দাবি আর বিশ্বাসযোগ্য দাবি
একটা বিশ্বাসযোগ্য (plausible) দাবি শুনতে ঠিক লাগে: আপনার প্রত্যাশার সঙ্গে মেলে আর তাতে অদ্ভুত কিছু চোখে পড়ে না। একটা যাচাই করা (verified) দাবির উৎস আপনি খুলে দেখেছেন, যিনি জানার অবস্থানে আছেন তাঁর লেখা, আর দাবিদারের থেকে স্বাধীন কেউ বা আপনি নিজে তা মিলিয়ে দেখেছেন। বিশ্বাসযোগ্য হলো একটা অনুভূতি। যাচাই করা হলো একটা রেকর্ড।
কাল্পনিক পরিস্থিতি:
Diego edits a monthly newsletter for a neighbourhood association in Bogotá. He asks an AI
tool for a short history of the local market. The tool answers: "The market opened in 1952
under a charter signed by the mayor, and it has been renovated three times." The paragraph is
fluent and gives dates. Diego has no source for any of it. He plans to print it on Friday.| স্তর | আপনার কাছে কী আছে | কীভাবে কাজে লাগাবেন |
|---|---|---|
| অযাচাইকৃত | উত্তরটা যেমন পেয়েছেন। কোনো উৎস নেই। | অনুসরণ করার একটা সূত্র মনে করুন, ছাপার মতো তথ্য নয়। |
| বিশ্বাসযোগ্য | এটা আপনার আগের বিশ্বাস বা পড়া অন্য লেখার সঙ্গে মেলে। | ভাবনা-চিন্তার জন্য চলে। অন্যরা ভরসা করবে এমন কিছুর জন্য যথেষ্ট নয়। |
| যাচাই করা | যিনি জানবেন এমন কারও উৎস (আর্কাইভ, সরকারি রেকর্ড, সংশ্লিষ্ট মানুষ) আপনি খুলে দেখেছেন, আর তারিখ ও বিবরণ মিলেছে। | প্রকাশ করা নিরাপদ। কোথায় যাচাই করেছেন তা লিখে রাখুন। |
দিয়েগো কয়েকটা ধাপে অনুচ্ছেদটা যাচাই করতে পারেন: বাজার অফিস বা পৌর আর্কাইভকে জিজ্ঞেস করা, তারিখসহ ফলক বা স্থানীয় ইতিহাসের বই দেখা, আর দুজন পুরোনো বাসিন্দাকে জিজ্ঞেস করা। ১৯৫২ সালের তারিখ নিশ্চিত করতে না পারলে তিনি লিখতে পারেন "বাসিন্দাদের মতে বাজারটা ১৯৫০-এর দশকের শুরুর দিকের", কিংবা তারিখ বাদ দিতে পারেন। কতটা যাচাই যথেষ্ট তা নির্ভর করে ঝুঁকির মাত্রার ওপর, যেমন পাতা ১-এ ছিল। নিউজলেটারে একটা তারিখ কম ঝুঁকির। কোনো নামধারী মানুষ আইন ভেঙেছেন, এমন দাবি তা নয়।
আত্মবিশ্বাসী শোনানো উত্তর
মানুষ মসৃণ, নির্দিষ্ট, গোছানো লেখাকে ভরসাযোগ্য বলে পড়ে। মডেল ডিফল্টভাবে সেভাবেই লেখে, তাই ভুল উত্তর আর ঠিক উত্তর পর্দায় একই রকম দেখাতে পারে। অতি-নির্ভরতা (over-reliance) মানে কোনো উত্তর মেনে নেওয়া তা কেমন শোনায় সেই কারণে, কী তাকে সমর্থন করে সেই কারণে নয়। কিছু লক্ষণ যাচাই চায়:
- উৎস ছাড়া সুনির্দিষ্ট সংখ্যা, তারিখ বা নাম।
- রেফারেন্স যা আপনি খুলতে বা খুঁজে পান না।
- যে প্রশ্নে বিশেষজ্ঞরাও তর্ক করেন তার একটা গোছানো সহজ উত্তর।
- অস্পষ্ট বা একদম সাম্প্রতিক কিছু নিয়ে জিজ্ঞেস করলেও কোনটা অজানা তার উল্লেখ না থাকা।
দুটো প্রশ্ন সাহায্য করে। "এটা দুই মিনিটে কোথায় যাচাই করা যায়?" আর "কী দেখালে বোঝা যাবে এটা ভুল?" দুটোর কোনোটার উত্তর না জানলে আপনার হাতে একটা অযাচাইকৃত দাবি। আত্মবিশ্বাসী সুর, লম্বা উত্তর আর একই টুলের বারবার একমত হওয়া বাড়তি প্রমাণ নয়। টুলকে "আপনি নিশ্চিত?" জিজ্ঞেস করলে কিছু যাচাই হয় না, কারণ সে একই ভুল আবার করতে পারে।
পর্যালোচনা প্রক্রিয়ায় অটোমেশন বায়াস
অটোমেশন বায়াস (automation bias) হলো স্বয়ংক্রিয় সিস্টেমের পরামর্শ মেনে নেওয়ার আর ভুল খুঁজতে কম মনোযোগ দেওয়ার প্রবণতা, বিশেষ করে যখন সিস্টেমটা সাধারণত ঠিক থাকে। গবেষণা-পর্যালোচনায় জানানো হয়েছে যে মানুষ স্বয়ংক্রিয় পরামর্শে অতিরিক্ত ভরসা করে, বিশেষজ্ঞরাও এর বাইরে নন, আর শুধু প্রশিক্ষণ দিয়ে এটা দূর হয় না। এই পাতায় সুনির্দিষ্ট সংখ্যার দরকার নেই। ব্যবহারিক বার্তা হলো, "একজন মানুষ দেখেছেন" মানেই এই নিশ্চয়তা নয় যে ভুল ধরা পড়বে।
কাল্পনিক পরিস্থিতি:
A trading company in Lagos receives about 300 supplier invoices a day. A tool compares each
invoice with the purchase order and marks it "Match" or "Check". Hassan approves payments.
He is shown the tool's mark first and has about 90 seconds per invoice. In the last month the
tool marked 97% of invoices "Match", and Hassan approved all of those. Last week one "Match"
invoice was for an amount that was ten times too high. Nobody noticed until the supplier called.হাসান আনুষ্ঠানিকভাবে পর্যালোচক। কিন্তু পর্দায় আগে উত্তরটা দেখানো হয়, সময় কম, টুল প্রায় প্রতিদিনই ঠিক থাকে, আর কাজটা একঘেয়ে। এর প্রতিটা একমত হওয়াকে সহজ পথ বানায়। পাতা ১-এ যখন বলা হয়েছিল একটা সুপারিশ সিদ্ধান্তের মতো আচরণ করতে পারে, তার মানে ছিল এটাই। দেখুন, পর্যালোচনাটা কীভাবে সাজালে ভুল দেখার সুযোগ থাকত।
স্বাধীন পর্যালোচনা আর রাবার স্ট্যাম্প
| প্রশ্ন | রাবার স্ট্যাম্প | স্বাধীন পর্যালোচনা |
|---|---|---|
| পর্যালোচক আগে কী দেখেন? | টুলের উত্তর। | প্রমাণ (ইনভয়েস ও অর্ডার), তারপর টুলের উত্তর, কিংবা টুল ছাড়া একটা নমুনা। |
| সময় আছে? | প্রতিটা আইটেমে কয়েক সেকেন্ড; গতি মাপা হয়। | সময় ঝুঁকির সঙ্গে মেলে; ধীরগতির নমুনা যাচাই চলে। |
| পর্যালোচক দ্বিমত করতে পারেন? | দ্বিমত করতে লম্বা ব্যাখ্যা লাগে, তাই মানুষ এড়িয়ে যান। | বাতিল করা সহজ, প্রত্যাশিত, আর দোষ দেওয়া হয় না। |
| পর্যালোচককে কেউ পরীক্ষা করে কি না? | না। একমত হওয়াকেই ভালো কাজ মনে হয়। | মাঝে মাঝে জানা ভুল মিশিয়ে দেখা হয় সেগুলো ধরা পড়ে কি না। |
| পর্যালোচক স্বাধীন কি না? | যিনি টুল বেছেছেন আর যিনি চান টুলটা সফল হোক, সেই একই ব্যক্তি বা দল। | কেউ যিনি শাস্তির ভয় ছাড়া বলতে পারেন "এটা কাজ করছে না"। |
"মিশিয়ে দেওয়া জানা ভুলের" ধারণাটা চেষ্টা করা সহজ। টয় ডেটা:
Hassan's manager adds 6 invoices with deliberate errors to one day's batch of 300, without
telling him. Hassan approves 5 of the 6 as "Match" and stops 1.
Seeded errors caught: 1 of 6 (about 17%).এতে প্রমাণ হয় না যে হাসান অসতর্ক। এতে দেখা যায়, প্রক্রিয়াটা যেভাবে সাজানো, তাতে বেশির ভাগ ভুল পার হয়ে যায়, আর ম্যানেজারের এটাই জানা দরকার। (সংখ্যাগুলো কাল্পনিক এবং শুধু ধারণাটা দেখায়।) সমাধানের মধ্যে থাকতে পারে টুলের উত্তরের আগে প্রমাণ দেখানো, "মিল" চিহ্নিত ইনভয়েসের একটা এলোমেলো নমুনা পুরোপুরি যাচাইয়ে পাঠানো, একজন ঘণ্টায় কতগুলো আইটেম পর্যালোচনা করবেন তার সীমা রাখা, আর কখন পর্যালোচক টুলকে বাতিল করেন তা নথিভুক্ত করা।
মিথ্যা তথ্য কীভাবে ছড়ায়
মিথ্যা তথ্য খুব কমই যেখানে শুরু হয়েছে সেখানেই থেমে থাকে। যিনি পাঠান তিনি নিজের আস্থা যোগ করেন, আর যাঁরা পান তাঁরা অচেনা কারও চেয়ে তাঁকে বেশি বিশ্বাস করেন। ছোট ছোট বদলও জমে: সতর্কতা বাদ পড়ে, অনুমান সত্য হয়ে যায়, আর একটা শিরোনাম পুরো গল্পের জায়গা নেয়। টয় ডেটা:
One person sends a false message to 20 contacts. In each round, 1 in 4 of the people who
see it send it on to 20 new contacts.
Round 1: seen by 20, of whom 5 pass it on
Round 2: seen by 100, of whom 25 pass it on
Round 3: seen by 500, of whom 125 pass it on
Round 4: seen by 2,500, of whom 625 pass it on
Total seen after 4 rounds: 3,120 (overlap between contacts ignored)একটা বার্তা চার ধাপে প্রায় তিন হাজার জনের কাছে পৌঁছাল, আর যাঁরা পাঠালেন তাঁদের বেশির ভাগই ভাবছিলেন তাঁরা সাহায্য করছেন। পথে ভাষাও বদলে যায়:
Original (a staff member's note): "Bus line 14 may be delayed tomorrow. Not confirmed."
After share 1: "Bus line 14 delayed tomorrow."
After share 2: "Bus line 14 cancelled tomorrow, avoid it!"গড়ে তোলার মতো অভ্যাসটা ছোট: শেয়ারের আগে দেখুন প্রথমে কে বলেছেন, তিনি জানার অবস্থানে ছিলেন কি না, আর আপনার সামনের সংস্করণে সতর্কতাগুলো টিকে আছে কি না।
ব্যঙ্গ, কল্পকাহিনি, ভুল ও ইচ্ছাকৃত প্রতারণা
প্রতিটা মিথ্যা বক্তব্য এক নয়, আর ঠিক প্রতিক্রিয়া নির্ভর করে আপনি কোন ধরনেরটা দেখছেন তার ওপর।
| ধরন | উদ্দেশ্য | উদাহরণ | ন্যায্য প্রতিক্রিয়া |
|---|---|---|---|
| ব্যঙ্গ | রসিকতা বা সমালোচনা; বিশ্বাস করানোর জন্য নয়। | সোমবার নিষিদ্ধ করা একটা পরিষদ নিয়ে মজার লেখা। | খবর হিসেবে জানাবেন না। রসিকতা ধরা না পড়ার সম্ভাবনা থাকলে প্রেক্ষাপটসহ শেয়ার করুন। |
| কল্পকাহিনি | গল্প বলা, খোলাখুলি বানানো। | বানানো একটা "খবরের ক্লিপ"-সহ ছোট গল্প। | এমন জায়গায় নিলে যেখানে অন্যরা আসল ভাবতে পারেন, সেখানে কল্পকাহিনি বলে চিহ্নিত করুন। |
| সৎ ভুল | বিভ্রান্ত করার ইচ্ছা নেই। | একটা টুল বা একজন মানুষ তারিখ ভুল বলেছেন। | শুধরে নিন আর কী ভুল ছিল বলুন। |
| ইচ্ছাকৃত প্রতারণা | লাভ বা ক্ষতির জন্য মানুষকে মিথ্যা বিশ্বাস করানোর ইচ্ছা। | নকল ইনভয়েস, জাল উদ্ধৃতি, টাকা চাওয়া ক্লোন করা কণ্ঠ। | এগিয়ে দেবেন না; রিপোর্ট করুন; যাদের লক্ষ্য করা হয়েছে তাদের সতর্ক করুন। |
এই কোর্সে ভুল তথ্য (misinformation) মানে বিভ্রান্ত করার ইচ্ছা ছাড়া শেয়ার হওয়া মিথ্যা কনটেন্ট, আর বিভ্রান্তিমূলক তথ্য (disinformation) মানে বিভ্রান্ত করার জন্য ইচ্ছা করে বানানো বা শেয়ার করা মিথ্যা কনটেন্ট। ইচ্ছা আপনি প্রায়ই দেখতে পান না, তাই আগে জিজ্ঞেস করুন কনটেন্টটা নির্ভুল কি না, তারপর কে বানিয়েছেন, আর তারপরই তাঁরা কী চাইতে পারেন। আপনার বিশ্বস্ত কারও পাঠানো একটা সত্য সতর্কবার্তা আর একটা ইচ্ছাকৃত জাল সমান বিশ্বাসযোগ্য দেখাতে পারে।
বানানো উদ্ধৃতি ও মিথ্যা আরোপ
একটা বানানো উদ্ধৃতি হলো এমন কথা যা কেউ কখনো বলেননি। মিথ্যা আরোপ (false attribution) হলো একটা আসল উদ্ধৃতি ভুল ব্যক্তির নামে দেওয়া, বা একজন আসল মানুষের কথা অন্য সময় বা প্রেক্ষাপটে সরিয়ে নেওয়া। দুটোই AI টুল দিয়ে বানানো সহজ, আর নাম ও উদ্ধৃতিসহ একটা ছবি আসলের চেয়ে বেশি সরকারি দেখায়।
কাল্পনিক পরিস্থিতি:
A picture card circulates in a school parents' group in Nairobi. It shows a photo of the
head teacher, Ms Odera, and the text: "Homework is a waste of children's time." There is
no date and no link. The card has been forwarded 40 times. A parent asks the group whether
it is true.একটা ভালো প্রতিক্রিয়া "অবশ্যই উনি বলেছেন" নয়, "স্পষ্টই জাল"-ও নয়। এটা একটা ছোট যাচাই: তারিখ, স্থান বা অনুষ্ঠান আছে কি না? আসল উৎসের রেকর্ডিং, চিঠি, স্কুলের নিউজলেটার বা সংবাদ প্রতিবেদনে উদ্ধৃতিটা পাওয়া যায় কি না? মিস ওডেরা বা স্কুল অফিস নিশ্চিত করেন কি না? কার্ডটার আগে থেকে থাকা কোথাও হুবহু এই শব্দগুলো আছে কি না? কিছুই সমর্থন না করলে বলুন "আমি এর কোনো উৎস খুঁজে পাচ্ছি না", আর প্রেরককে জিজ্ঞেস করুন এটা কোথা থেকে এসেছে। আপনার উত্তরে উদ্ধৃতিটা সত্যি মনে হওয়ার মতো করে আবার লিখবেন না।
বিভ্রান্তিকর ছবি ও কৃত্রিম অডিও
বিভ্রান্তিকর মিডিয়া কয়েক রকমের। প্রথম দুটোর জন্য AI-ই লাগে না।
| ধরন | কী ভুল | যে প্রশ্ন করবেন |
|---|---|---|
| আসল ছবি, ভুল প্রেক্ষাপট | একটা পুরোনো ছবি নতুন ক্যাপশনসহ শেয়ার হয়। | প্রথমে কে এটা পোস্ট করেছিলেন, আর কবে? |
| সম্পাদিত ছবি বা ক্লিপ | আসল উপাদান কাটা, জোড়া বা বদলানো হয়েছে। | আসল উৎস থেকে এর পূর্ণ সংস্করণ আছে কি না? |
| তৈরি করা ছবি বা ভিডিও | দৃশ্যটা কখনো ঘটেনি। | আসল উৎস আছে কি না, আর যাঁরা সেখানে ছিলেন তাঁরা নিশ্চিত করেন কি না? |
| কৃত্রিম অডিও | একটা টুল কণ্ঠ বানিয়েছে বা নকল করেছে। | মানুষটাকে অন্য পথে ধরা যায় কি না? |
অদ্ভুত হাত বা অস্বাভাবিক পটভূমির মতো চোখে পড়া "লক্ষণ"-এর ওপর ভরসা করতে মন চায়। করবেন না। টুল উন্নত হয়, অনেক জাল কনটেন্টে স্পষ্ট ত্রুটি থাকে না, আর আসল ছবিও কখনো অদ্ভুত দেখায়। ভালো অভ্যাস হলো উৎস আর প্রেক্ষাপট যাচাই করা, আর দ্বিতীয় একটা স্বাধীন নিশ্চিতকরণ খোঁজা। পরের পাতায় লেবেল ও প্রোভেন্যান্স (provenance) আছে, যা সাহায্য করে কিন্তু প্রমাণ নয়।
ভয়েস ক্লোনিং ও একটা কাল্পনিক পেমেন্ট প্রতারণা
কাল্পনিক পরিস্থিতি:
Aiko works in the accounts team of a printing company in Osaka. At 17:40 on a Friday her phone
rings. The caller sounds exactly like Mr Sato, the owner. He says he is at the airport, a
supplier will cancel an order unless 4,800 is paid in the next 20 minutes, and he gives her new
bank details. He asks her not to mention it to anyone because the deal is private. The call
drops before she can ask a question.এই ধরনে একসঙ্গে আছে তাড়া, কর্তৃত্ব, গোপনীয়তা আর নতুন পেমেন্টের পথ। শুনতে ঠিক লাগা কণ্ঠস্বর এখন পরিচয়ের প্রমাণ নয়, কারণ একটা ছোট অডিও ক্লিপই একটা টুলের কণ্ঠ নকল করতে যথেষ্ট হতে পারে। প্রতিক্রিয়া হবে শান্ত ও পদ্ধতিগত:
- ফোনের ভরসায় পেমেন্ট করবেন না।
- ফোন রেখে এমন নম্বরে ফোন করুন যা আপনার আগে থেকে জানা (যে নম্বর থেকে ফোন এসেছে সেটা নয়, আর ফোনে দেওয়া নম্বরও নয়)।
- দ্বিতীয় একজনের সঙ্গে যাচাই করুন, যেমন অন্য একজন ম্যানেজার।
- কোম্পানির পেমেন্ট নিয়ম মানুন: নতুন ব্যাংক বিবরণের জন্য দ্বিতীয় অনুমোদনকারী আর জানা চ্যানেলে যাচাই লাগে।
- চেষ্টাটা আপনার ম্যানেজারকে জানান, আর টাকা জড়িত থাকলে আপনার ব্যাংক ও আপনার দেশের উপযুক্ত কর্তৃপক্ষকে জানান।
যুক্তরাষ্ট্রের ভোক্তা সুরক্ষা সংস্থা ফেডারেল ট্রেড কমিশন (FTC) ২০২৩ সালে একটা সম্পর্কিত প্রতারণা নিয়ে ভোক্তা সতর্কবার্তা প্রকাশ করে, যেখানে প্রতারকেরা পারিবারিক জরুরি অবস্থার ভান করতে কোনো আত্মীয়ের কণ্ঠ ক্লোন করে। তাদের পরামর্শ ওপরের ধাপগুলোর সঙ্গে মেলে: কণ্ঠকে বিশ্বাস করবেন না, ফোন রেখে আপনার জানা নম্বরে ফোন করুন, অন্য একজন আত্মীয়ের সঙ্গে যাচাই করুন, আর ওয়্যার ট্রান্সফার, ক্রিপ্টোকারেন্সি বা গিফট কার্ডের অনুরোধে সতর্ক থাকুন। এই সতর্কবার্তা পরামর্শ, কোনো ঘটনার ইতিহাস নয়। প্রতারণা-সংক্রান্ত নিয়ম আর জানানোর পথ দেশভেদে আলাদা, তাই নিজেরটা খুঁজে নিন।
নথিভুক্ত ঘটনা:
Hong Kong video-conference fraud, reported 2024-02-05. Hong Kong Free Press reported what the
police said. An employee of a multinational company was tricked on a video conference into
making 15 transfers worth about HK$200 million. The police said everyone on the call except the
employee had been impersonated using deepfake technology. No arrests had been made at the time
of the report. The company is not named here.
Established: that the report exists and what the police said at the time.
Not covered: later developments, and details that the police or the company have not confirmed.ধরনটা আইকোর ফোনের মতোই: তাড়া, কর্তৃত্ব, বাস্তবসম্মত কণ্ঠ বা মুখ, আর একটা পেমেন্ট। প্রতিরক্ষাও একই: দ্বিতীয় একটা চ্যানেলে নিশ্চিত করুন, আর এমন পেমেন্ট পদ্ধতি রাখুন যা কোনো একজন ব্যক্তি এড়াতে পারেন না।
নির্বাচন, কর্মক্ষেত্র ও ব্যক্তিগত সম্পর্কে ডিপফেকের ঝুঁকি
একটা ডিপফেক হলো কৃত্রিম বা বদলানো অডিও, ছবি বা ভিডিও যা একজন আসল মানুষকে এমন কিছু করতে বা বলতে দেখায় যা তিনি করেননি। ঝুঁকি পরিবেশভেদে আলাদা, আর প্রতিটায় কাজের দক্ষতা হলো চেনা আর সাড়া দেওয়া, আতঙ্ক নয়।
| পরিবেশ | ঝুঁকির উদাহরণ (কাল্পনিক) | কাদের ক্ষতি | বিবেচনাসম্মত প্রতিক্রিয়া |
|---|---|---|---|
| নির্বাচন | ভোটের আগের রাতে শেয়ার হওয়া, একজন প্রার্থী কিছু "স্বীকার করছেন" এমন একটা নকল অডিও ক্লিপ। | ভোটার; প্রার্থী; প্রক্রিয়ার ওপর আস্থা। | শেয়ার করবেন না। প্রার্থীর সরকারি বিবৃতি আর কয়েকটা স্বাধীন সংবাদমাধ্যমের প্রতিবেদন খুঁজুন। প্ল্যাটফর্মকে, আর থাকলে নির্বাচন কর্তৃপক্ষকে জানান। |
| কর্মক্ষেত্র | "ম্যানেজার"-এর নকল ভিডিও কল যা পেমেন্ট বা পাসওয়ার্ড চায়; একজন সহকর্মীর ক্ষতি করতে বানানো নকল ক্লিপ। | কোম্পানি; সহকর্মী; যে কর্মীরা নির্দেশ মেনেছেন। | দ্বিতীয় চ্যানেলে যাচাই করুন। দুজন লাগে এমন পেমেন্ট নিয়ম রাখুন। সিকিউরিটি বা এইচআরকে তাড়াতাড়ি জানান এবং আসল ফাইলটা রেখে দিন। |
| ব্যক্তিগত সম্পর্ক | কাউকে লজ্জা দিতে, ভয় দেখাতে বা চাপ দিতে বানানো নকল বার্তা বা ছবি; আত্মীয়ের কাছে টাকা চাইতে ক্লোন করা কণ্ঠ। | যাঁকে দেখানো হয়েছে; তাঁর পরিবার; তাঁর বন্ধুরা। | কনটেন্ট এগিয়ে দেবেন না। প্রমাণ ব্যক্তিগতভাবে সংরক্ষণ করুন। প্ল্যাটফর্মকে জানান। বিশ্বাসী কাউকে বলুন। আপনার এলাকার উপযুক্ত কর্তৃপক্ষ বা যোগ্য সহায়তা সেবার সঙ্গে যোগাযোগ করুন। |
কনটেন্ট কৃত্রিম হলেও ক্ষতি বাস্তব। ইউনিসেফের AI ও শিশু বিষয়ক নির্দেশিকায় (সংস্করণ ৩.০, ডিসেম্বর ২০২৫) AI-তৈরি শিশু যৌন নির্যাতনের উপাদান এবং সম্মতিহীন ঘনিষ্ঠ ছবি নিয়ে বিষয়বস্তু আছে। যিনি ক্ষতিগ্রস্ত, তাঁর জন্য অগ্রাধিকার নিরাপত্তা আর সহায়তা, সবার কাছে ছবিটা যে নকল তা প্রমাণ করা নয়। আপনি লক্ষ্য হলে আপনার দোষ নেই। এমন কনটেন্ট পেলে অন্যদের সতর্ক করতে হলেও এগিয়ে দেবেন না; জানান আর ব্যক্তিটাকে সমর্থন করুন।
কাজের জায়গায় এটা কোথায় দেখা যায়
একটা হিসাব বিভাগ ব্যাংক বিবরণ বদলের জন্য কলব্যাক নিয়ম যোগ করে। একজন সংবাদ-স্বেচ্ছাসেবক ক্যাপশন দেওয়ার আগে ছবির প্রথম পোস্ট যাচাই করেন। একজন টিম লিড মাসে একবার জানা ভুলসহ পরীক্ষা চালান, দেখতে যে পর্যালোচনা প্রক্রিয়া সেগুলো ধরে কি না। একজন শিক্ষক শিক্ষার্থীদের দেখান একটা ফরওয়ার্ড হওয়া উদ্ধৃতি-কার্ড কীভাবে খুঁজতে খুঁজতে কোথাও পৌঁছায়নি। একজন ম্যানেজার ক্লায়েন্টের জন্য AI-লেখা সারাংশ অনুমোদনের আগে জিজ্ঞেস করেন "কে এটা যাচাই করেছেন, আর কীভাবে?" এর কোনোটাতেই বিশেষ সফটওয়্যার লাগে না। প্রতিটায় লাগে একটা লিখিত অভ্যাস।
সাধারণ ভুল
- আত্মবিশ্বাসী উত্তরকে যাচাই করা উত্তর ভাবা। সমাধান: জিজ্ঞেস করুন কোথায় যাচাই করা যায়, আর যে উৎস সত্যিই খুলেছেন তা লিখে রাখুন।
- "একজন মানুষ দেখেছেন" বলেই কীভাবে দেখেছেন তা না দেখে নিরাপত্তা ধরে নেওয়া। সমাধান: পর্যালোচক আগে কী দেখেন, তাঁর কত সময়, আর কেউ তাঁকে পরীক্ষা করে কি না, তা দেখুন।
- অন্যদের সতর্ক করতে শেয়ার করা। জালের সতর্কবার্তা জালটাকেই ছড়ায়। সমাধান: কনটেন্ট নয়, যাচাই করা সংশোধন বা উৎস শেয়ার করুন।
- কণ্ঠ বা মুখকে পরিচয়ের প্রমাণ ভাবা। সমাধান: দ্বিতীয় চ্যানেলে নিশ্চিত করুন, আর এমন অনুমোদন রাখুন যা একজনের ওপর নির্ভর করে না।
- চোখে পড়া লক্ষণে ভরসা করা। সমাধান: আগে উৎস আর প্রেক্ষাপট দেখুন।
নিজে চেষ্টা করুন
- সহজ। প্রতিটা বক্তব্যকে "যাচাই করা", "বিশ্বাসযোগ্য" বা "অযাচাইকৃত" বলে চিহ্নিত করুন, আর কারণ বলুন: (ক) একটা টুল বলছে "সেতুটা ১৯৭৪ সালে বানানো" আর আপনার কাছে কোনো উৎস নেই; (খ) পৌর আর্কাইভের ওয়েব পাতা, যা আপনি খুলে দেখেছেন, একই তারিখ দিচ্ছে; (গ) একজন সহকর্মী বলছেন তারিখটা "ঠিকই শোনাচ্ছে"।
- মাঝারি। কাল্পনিক পরিস্থিতি: পুনের একটা ডিজাইন স্টুডিওর অর্থ সহকারী মীরা "পরিচালক"-এর একটা ভয়েস মেসেজ পান, যাতে বলা হয়েছে আজই একটা নতুন ভেন্ডরকে টাকা দিতে হবে আর বিষয়টা গোপন রাখতে হবে। কণ্ঠটা ঠিকই শোনাচ্ছে। মীরার যে ধাপগুলো নেওয়া উচিত তা ক্রমানুসারে লিখুন, আর স্টুডিওর যোগ করার মতো একটা নিয়ম লিখুন।
- কঠিন। পাতা ১-এ ওমরের ইমেইল-র্যাঙ্কিং টুলে ফিরে যান, যেখানে লায়লা আগে "জরুরি" স্তূপ পড়েন। রাবার স্ট্যাম্প এড়ানোর একটা ছোট পর্যালোচনা প্রক্রিয়া নকশা করুন: লায়লা আগে কী দেখেন, জানা ভুল কীভাবে মেশানো হয়, ফল কীভাবে লেখা থাকে, কে জবাবদিহি করেন, আর কবে পর্যালোচনা হয়, তা বলুন। আপনার নকশার একটা খরচ উল্লেখ করুন।
উত্তর
সহজ। (ক) অযাচাইকৃত: কোনো উৎস নেই। (খ) যাচাই করা, যদি আপনি সত্যিই পাতাটা খুলে থাকেন, পাতাটা আর্কাইভের নিজের হয়, আর বিবরণ মেলে। (গ) বিশ্বাসযোগ্য: এটা একটা অনুভূতি, উৎস নয়। পাস: প্রতিটা চিহ্নের সঙ্গে এমন কারণ আছে যাতে উৎস বা উৎসের অভাবের কথা আছে। দুর্বল: (গ)-কে "যাচাই করা" বলা, কারণ সহকর্মী বিশ্বস্ত।
মাঝারি। একটা শক্ত উত্তর: এখনই টাকা দেবেন না; একই মেসেজে উত্তর দেবেন না; মীরার আগে থেকে জানা নম্বরে পরিচালককে ফোন করুন, বা অন্য একজন অংশীদারকে জিজ্ঞেস করুন; ভেন্ডর আছে কি না আর ব্যাংক বিবরণ কোনো জানা রেকর্ডের সঙ্গে মেলে কি না দেখুন; চেষ্টাটা স্টুডিও ম্যানেজারকে জানান। যোগ করার নিয়ম: নতুন ভেন্ডরকে কোনো পেমেন্ট বা ব্যাংক বিবরণ বদলের জন্য দ্বিতীয় অনুমোদনকারী আর জানা নম্বরে কলব্যাক লাগবে, বার্তাটা যত তাড়াই দিক। পাস: ধাপগুলোতে দ্বিতীয় একটা চ্যানেল আছে, আর এমন পদ্ধতি আছে যা একজনের ওপর নির্ভর করে না। দুর্বল: প্রধান যাচাই হিসেবে "কণ্ঠটা মন দিয়ে শোনা", কিংবা আগে পেমেন্ট করে পরে যাচাই।
কঠিন। একটা শক্ত নকশা: লায়লা "জরুরি" স্তূপ দেখার আগে তিনটা স্তূপ থেকে এলোমেলো একটা ইমেইল-নমুনা খোলেন টুলের লেবেল ছাড়া; সপ্তাহে একবার ওমর নিজের লেখা ৫টা পরীক্ষামূলক ইমেইল ঢোকান যাতে জানা সমস্যা আছে (একটায় ক্ষতিগ্রস্ত অর্ডার, একটায় রিফান্ড), দেখতে সেগুলো কীভাবে র্যাঙ্ক হয়; লায়লা টুলের সঙ্গে প্রতিটা দ্বিমত একটা শেয়ার করা শিটে লেখেন; ওমর জবাবদিহি করেন; পর্যালোচনার তারিখ 2026-12-15, যখন তাঁরা ধরা পড়া পরীক্ষা, অভিযোগ ও বাঁচানো সময় মেলান। খরচ: নমুনা যাচাইয়ে টুলটা যে সময় বাঁচানোর কথা তার কিছুটা চলে যায়, আর পরীক্ষামূলক ইমেইল লিখতে পরিশ্রম লাগে। পাস: পর্যালোচনায় লেবেলের আগে বা লেবেল ছাড়া প্রমাণ দেখানো হয়, জানা ভুল বা নমুনা যাচাই আছে, দ্বিমত লেখা হয়, একজন মালিক ও একটা তারিখ আছে, আর একটা খরচ বলা হয়েছে। দুর্বল: "লায়লার আরও সতর্ক হওয়া উচিত"।
দৈনন্দিন লেখায় AI আউটপুট যাচাই করার অভ্যাসের জন্য আবার দেখুন AI-এর জন্য প্রম্পট ইঞ্জিনিয়ারিং: বিগিনার।
সারসংক্ষেপ
- বিশ্বাসযোগ্য হলো একটা অনুভূতি আর যাচাই করা হলো একটা রেকর্ড। আত্মবিশ্বাসী সুর প্রমাণ নয়, আর একই টুলকে "আপনি নিশ্চিত?" জিজ্ঞেস করলে কিছু যাচাই হয় না।
- অটোমেশন বায়াস মানুষের পর্যালোচনাকে দেখতে যতটা শক্ত তার চেয়ে দুর্বল করে। স্বাধীন পর্যালোচনা আগে প্রমাণ দেখায়, সময় দেয়, দ্বিমত সহজ করে, আর জানা ভুল দিয়ে প্রক্রিয়াটা পরীক্ষা করে।
- বারবার শেয়ারের মধ্য দিয়ে মিথ্যা তথ্য দ্রুত ছড়ায় এবং পথে সতর্কতাগুলো হারায়। এগিয়ে দেওয়ার আগে প্রথম উৎস দেখুন।
- ব্যঙ্গ, কল্পকাহিনি, সৎ ভুল ও ইচ্ছাকৃত প্রতারণায় আলাদা প্রতিক্রিয়া লাগে। বানানো উদ্ধৃতি, বিভ্রান্তিকর মিডিয়া, কৃত্রিম অডিও ও ভয়েস ক্লোনিং তাড়া আর কর্তৃত্বের ওপর নির্ভর করে; দ্বিতীয় চ্যানেলে নিশ্চিত করুন।
- নির্বাচন, কর্মক্ষেত্র ও ব্যক্তিগত সম্পর্কে ডিপফেকের ক্ষেত্রে এগিয়ে দেবেন না, প্রমাণ রাখুন, জানান, আর ক্ষতিগ্রস্ত ব্যক্তিকে সমর্থন করুন।
এরপর: ডিপফেক, প্রোভেন্যান্স ও প্রকাশ: আসল আর কৃত্রিমের পার্থক্য পাতায় দেখবেন লেবেল ও প্রোভেন্যান্স কী প্রমাণ করতে পারে আর কী পারে না, কখন কৃত্রিম কনটেন্ট প্রকাশ করা উচিত, আর কোনো ঘটনায় কীভাবে সাড়া দেবেন।