AI Hallucination কী? কেন হয় এবং কীভাবে কমানো যায়?
AI Hallucination হলো এমন একটি পরিস্থিতি যেখানে AI model আত্মবিশ্বাসের সাথে এমন information তৈরি করে যা ভুল, unsupported বা সম্পূর্ণ fabricated হতে পারে। কেন hallucination হয় এবং কীভাবে production AI system-এ এটি কমানো যায় তা জানুন।
AI Hallucination কী?
Generative AI-এর অন্যতম গুরুত্বপূর্ণ challenge হলো Hallucination।
Hallucination কী?
AI hallucination তখন ঘটে যখন একটি AI model এমন information generate করে যা দেখতে বিশ্বাসযোগ্য ও সঠিক মনে হলেও বাস্তবে ভুল, unsupported বা fabricated।
উদাহরণস্বরূপ, একটি LLM এমন কোনো research paper-এর নাম তৈরি করতে পারে যার কোনো অস্তিত্ব নেই, একটি fake API তৈরি করতে পারে অথবা ভুল information আত্মবিশ্বাসের সাথে বলতে পারে।
Hallucination কেন হয়?
LLM মূলত learned patterns-এর ওপর ভিত্তি করে সম্ভাব্য token predict করে। এটি প্রতিটি statement automatically reliable source দিয়ে verify করে না।
সাধারণ কারণগুলো হলো:
পর্যাপ্ত context না থাকা
অস্পষ্ট prompt
Outdated knowledge
নিম্নমানের training data
Model-এর available information-এর বাইরে প্রশ্ন করা
RAG system-এর দুর্বল retrieval
Hallucination কীভাবে কমানো যায়?
Production AI system-এ বিভিন্ন technique ব্যবহার করা যায়:
১. RAG
Trusted এবং relevant information retrieve করে model-কে context দেওয়া।
২. Better Prompting
Information না জানলে অনুমান না করে সেটা জানাতে model-কে নির্দেশ দেওয়া।
৩. Source Verification
Trusted source ব্যবহার করা এবং গুরুত্বপূর্ণ output verify করা।
৪. Structured Output
প্রয়োজন অনুযায়ী নির্দিষ্ট output format ব্যবহার করা।
৫. Human Review
High-risk decision-এর ক্ষেত্রে human verification রাখা।
৬. Evaluation
Representative dataset ব্যবহার করে নিয়মিত system-এর accuracy ও hallucination evaluate করা।
Interview Tip
এভাবে বলবেন না:
"AI hallucination হয় কারণ AI উত্তরটি জানে না।"
এটি incomplete answer।
Model-এর কাছে যথেষ্ট evidence না থাকলেও এটি একটি plausible answer generate করতে পারে, কারণ LLM-এর মূল কাজ হলো likely text generate করা, factual truth নিশ্চিত করা নয়।
Key Takeaway
AI Hallucination মানে শুধু AI “মিথ্যা বলছে” নয়।
এটি এমন একটি failure যেখানে AI-generated information যথেষ্ট factual grounding ছাড়াই সত্য হিসেবে উপস্থাপিত হয়।
একজন AI Engineer-এর লক্ষ্য শুধু fluent answer তৈরি করা নয়; বরং এমন system তৈরি করা যা accurate, grounded, verifiable এবং reliable output প্রদান করে।