AI Hallucination কী? কারণ, উদাহরণ ও কমানোর উপায়

AI Hallucination কী?

আপনি AI-কে একটি প্রশ্ন করলেন, আর সে খুব আত্মবিশ্বাসের সাথে সুন্দর একটি উত্তর দিল। এমনকি একটি research paper-এর নামও বলল। পরে খুঁজে দেখলেন, ওই paper-এর কোনো অস্তিত্বই নেই।

এটাই AI hallucination: model এমন কিছু তৈরি করে যা শুনতে সঠিক মনে হয়, কিন্তু আসলে ভুল, প্রমাণহীন বা পুরোপুরি বানানো।

কিছু সাধারণ উদাহরণ:

এমন research paper বা citation যা কখনো প্রকাশিত হয়নি
ভুল পরিসংখ্যান, তারিখ বা নাম
এমন Python library, function বা API endpoint যার অস্তিত্ব নেই
এমন ঘটনা নিয়ে আত্মবিশ্বাসী উত্তর, যার সম্পর্কে model কিছুই জানে না

LLM কেন Hallucinate করে?

LLM-কে train করা হয় পরবর্তী সম্ভাব্য token predict করার জন্য। তার কাজ সাবলীল ও বিশ্বাসযোগ্য লেখা তৈরি করা, প্রতিটি বাক্য fact-check করা নয়। তথ্য না জানলেও সে “আমি জানি না” না বলে সবচেয়ে সম্ভাব্য শোনায় এমন উত্তর তৈরি করে ফেলে।

Hallucination বেশি হয় যখন:

বিষয়টি সম্পর্কে model-এর জ্ঞান কম বা একেবারেই নেই
Prompt অস্পষ্ট বা দ্ব্যর্থক
প্রয়োজনীয় তথ্য context-এ দেওয়া হয়নি
Model-এর জ্ঞান পুরোনো
প্রশ্নটি খুব niche বা জটিল
RAG system-এ retrieval ভুল document নিয়ে আসে

একটি সহজ উদাহরণ

Model-কে জিজ্ঞেস করুন: “২০৩০ সালের FIFA World Cup কে জিতেছে?”

ওই ঘটনা সম্পর্কে নির্ভরযোগ্য তথ্য না থাকলেও model আত্মবিশ্বাসের সাথে একটি দলের নাম বলে দিতে পারে। এই বানানো উত্তরটাই hallucination।

Hallucination কীভাবে কমানো যায়?

কোনো একটি কৌশল দিয়ে hallucination পুরোপুরি দূর করা যায় না। Production AI system কয়েকটি স্তর একসাথে ব্যবহার করে:

কৌশল	কী করে
RAG	নির্ভরযোগ্য document খুঁজে এনে model-কে context হিসেবে দেয়
ভালো prompt	শুধু দেওয়া source থেকে উত্তর দিতে আর নিশ্চিত না হলে “জানি না” বলতে নির্দেশ দেয়
Grounding	Model-কে নির্ভরযোগ্য database, API বা documentation-এর সাথে যুক্ত করে
Structured output	উত্তরকে নির্দিষ্ট format-এ বেঁধে দেয়, যাতে যাচাই করা সহজ হয়
Evaluation	জানা সঠিক উত্তরের সাথে মিলিয়ে নিয়মিত accuracy মাপে
Human review	ঝুঁকিপূর্ণ সিদ্ধান্তে একজন মানুষকে যুক্ত রাখে

একটি prompt নির্দেশনা যা আপনি সরাসরি ব্যবহার করতে পারেন:

“শুধু নিচের document থেকে উত্তর দাও। উত্তর সেখানে না থাকলে বলো: আমার কাছে যথেষ্ট তথ্য নেই।”

Interview Tip

এই দুটি উত্তর এড়িয়ে চলুন:

“Hallucination মানে AI মিথ্যা বলছে।” Model ইচ্ছাকৃতভাবে কাউকে ঠকাচ্ছে না।
“AI উত্তর না জানলেই কেবল hallucination হয়।” এটি অসম্পূর্ণ।

একটি শক্তিশালী উত্তর:

“LLM statistically সম্ভাব্য লেখা তৈরি করে, নিশ্চিত সত্য নয়। পর্যাপ্ত factual grounding ছাড়া উপস্থাপিত output-ই hallucination, তাই retrieval, grounding, validation ও evaluation দিয়ে আমরা এটি কমাই।”

মূল কথা

AI hallucination = আত্মবিশ্বাসী কিন্তু ভুল, প্রমাণহীন বা বানানো output।

একজন AI engineer হিসেবে আপনার কাজ শুধু সাবলীল উত্তর পাওয়া নয়, বরং এমন system বানানো যার উত্তর grounded, যাচাই করা এবং নির্ভরযোগ্য।

নিজে হাতে বানিয়ে শিখতে চান? এই কোর্সে আপনি retrieval আর evaluation সহ একটি ছোট LLM feature বানাবেন ও test করবেন, যাতে উত্তর grounded থাকে। শুরু করুন ফ্রি কোর্স LLM দিয়ে AI ইঞ্জিনিয়ারিং: বিগিনার।