AI Hallucination কী? কেন হয় এবং কীভাবে কমানো যায়?

AI Hallucination কী?

Generative AI-এর অন্যতম গুরুত্বপূর্ণ challenge হলো Hallucination।

Hallucination কী?

AI hallucination তখন ঘটে যখন একটি AI model এমন information generate করে যা দেখতে বিশ্বাসযোগ্য ও সঠিক মনে হলেও বাস্তবে ভুল, unsupported বা fabricated।

উদাহরণস্বরূপ, একটি LLM এমন কোনো research paper-এর নাম তৈরি করতে পারে যার কোনো অস্তিত্ব নেই, একটি fake API তৈরি করতে পারে অথবা ভুল information আত্মবিশ্বাসের সাথে বলতে পারে।

Hallucination কেন হয়?

LLM মূলত learned patterns-এর ওপর ভিত্তি করে সম্ভাব্য token predict করে। এটি প্রতিটি statement automatically reliable source দিয়ে verify করে না।

সাধারণ কারণগুলো হলো:

• পর্যাপ্ত context না থাকা

• অস্পষ্ট prompt

• Outdated knowledge

• নিম্নমানের training data

• Model-এর available information-এর বাইরে প্রশ্ন করা

• RAG system-এর দুর্বল retrieval

Hallucination কীভাবে কমানো যায়?

Production AI system-এ বিভিন্ন technique ব্যবহার করা যায়:

১. RAG
Trusted এবং relevant information retrieve করে model-কে context দেওয়া।

২. Better Prompting
Information না জানলে অনুমান না করে সেটা জানাতে model-কে নির্দেশ দেওয়া।

৩. Source Verification
Trusted source ব্যবহার করা এবং গুরুত্বপূর্ণ output verify করা।

৪. Structured Output
প্রয়োজন অনুযায়ী নির্দিষ্ট output format ব্যবহার করা।

৫. Human Review
High-risk decision-এর ক্ষেত্রে human verification রাখা।

৬. Evaluation
Representative dataset ব্যবহার করে নিয়মিত system-এর accuracy ও hallucination evaluate করা।

Interview Tip

এভাবে বলবেন না:

"AI hallucination হয় কারণ AI উত্তরটি জানে না।"

এটি incomplete answer।

Model-এর কাছে যথেষ্ট evidence না থাকলেও এটি একটি plausible answer generate করতে পারে, কারণ LLM-এর মূল কাজ হলো likely text generate করা, factual truth নিশ্চিত করা নয়।

Key Takeaway

AI Hallucination মানে শুধু AI “মিথ্যা বলছে” নয়।

এটি এমন একটি failure যেখানে AI-generated information যথেষ্ট factual grounding ছাড়াই সত্য হিসেবে উপস্থাপিত হয়।

একজন AI Engineer-এর লক্ষ্য শুধু fluent answer তৈরি করা নয়; বরং এমন system তৈরি করা যা accurate, grounded, verifiable এবং reliable output প্রদান করে।