AI Hallucination কী? কেন হয় এবং কীভাবে কমানো যায়?
AI Hallucination হলো এমন একটি ঘটনা যেখানে AI model এমন information generate করে যা শুনতে বিশ্বাসযোগ্য হলেও ভুল, unsupported বা সম্পূর্ণ fabricated হতে পারে। Reliable AI system তৈরি করতে এটি বোঝা অত্যন্ত গুরুত্বপূর্ণ।
AI Hallucination কী?
AI Hallucination হলো যখন AI model এমন একটি answer দেয় যা শুনতে confident ও believable, কিন্তু সেটি ভুল, unsupported অথবা সম্পূর্ণ fabricated।
উদাহরণ:
অস্তিত্বহীন research paper তৈরি করা
Fake citation দেওয়া
ভুল statistics দেওয়া
অস্তিত্বহীন library বা API-এর নাম বলা
ভুল information confidently উপস্থাপন করা
Hallucination কেন হয়?
LLM মূলত সম্ভাব্য token sequence predict করার জন্য তৈরি, প্রতিটি statement সত্য কিনা তা নিশ্চিত করার জন্য নয়।
Hallucination-এর সম্ভাবনা বাড়তে পারে:
Information না থাকলে
Ambiguous prompt হলে
Knowledge outdated হলে
Poor-quality training data থাকলে
Complex বা niche question হলে
Reliable external context না থাকলে
কীভাবে Hallucination কমানো যায়?
একটি technique দিয়ে সম্পূর্ণ hallucination eliminate করা সম্ভব নয়। তবে কমানো যায়:
১. RAG
Trusted information retrieve করে model-এর context হিসেবে দেওয়া।
২. Better Prompt
Model-কে provided sources ব্যবহার করতে এবং unsupported claim এড়াতে নির্দেশ দেওয়া।
৩. Grounding
Reliable database, API, documentation বা authoritative source-এর সাথে model-কে connect করা।
৪. Evaluation
Known answers-এর সাথে AI response compare করে accuracy measure করা।
৫. Human Review
High-risk application-এ গুরুত্বপূর্ণ AI-generated decision-এর জন্য appropriate human oversight রাখা।
Important Interview Point
এভাবে বলবেন না:
"AI Hallucination মানে AI মিথ্যা বলছে।"
এটি oversimplification।
Model ইচ্ছাকৃতভাবে deceive করছে এমন নয়। এটি একটি statistically plausible response generate করতে পারে, যা বাস্তবতার সাথে মিল নাও থাকতে পারে।
Key Takeaway
AI Hallucination = দেখতে বিশ্বাসযোগ্য কিন্তু ভুল, unsupported বা fabricated AI output।
একজন production-level AI Engineer-এর লক্ষ্য শুধু answer generate করা নয়; বরং grounding, evaluation, validation এবং monitoring-এর মাধ্যমে reliable AI system তৈরি করা।