হ্যালুসিনেশন ও নলেজ কাটঅফ

LLM শক্তিশালী, কিন্তু ঠিকভাবে ব্যবহার করতে হলে জানতে হবে সে ঠিক কোথায় ভুল করে। দৈনন্দিন ব্যবহারে সবচেয়ে জরুরি দুটো দুর্বলতা হলো হ্যালুসিনেশন আর নলেজ কাটঅফ।

হ্যালুসিনেশন: সাবলীল, আত্মবিশ্বাসী, কিন্তু ভুল

হ্যালুসিনেশন হলো যখন মডেল এমন কিছু বলে যা শুনতে ঠিক লাগে কিন্তু মিথ্যা — বানানো পরিসংখ্যান, ভুয়া রেফারেন্স, বা এমন লাইব্রেরি ফাংশন যার অস্তিত্বই নেই।

এটা হয় কারণ মডেল যাচাই করা তথ্য নয়, বিশ্বাসযোগ্য লেখা তৈরি করে। OpenAI-এর গবেষণা Why language models hallucinate (সেপ্টেম্বর ২০২৫) আরেকটা কারণ যোগ করে: প্রচলিত ট্রেনিং আর মূল্যায়ন পদ্ধতি সৎভাবে "আমি জানি না" বলার চেয়ে আত্মবিশ্বাসী অনুমানকে বেশি পুরস্কার দেয় — তাই মডেল অনুমান করতে শেখে।

হ্যালুসিনেশন কমানোর উপায়

• উৎসটা দিয়ে দিন। ডকুমেন্ট পেস্ট করে বলুন "শুধু এই লেখা থেকে উত্তর দাও"। (এটা স্বয়ংক্রিয়ভাবে ডেটাবেস থেকে করা হলে বলে retrieval-augmented generation, সংক্ষেপে RAG।)
• অনিশ্চয়তা মেনে নিতে বলুন। লিখুন "নিশ্চিত না হলে সেটা বলো"।
• উৎস চান — তারপর খুলে দেখুন। রেফারেন্সের অস্তিত্ব আছে আর তাতে দাবিটা আসলেই লেখা আছে — এটা যাচাই করার পরই সেটা প্রমাণ।
• যা জরুরি, তা যাচাই করুন। তথ্য, সংখ্যা, আইনি, চিকিৎসা আর আর্থিক দাবির জন্য নির্ভরযোগ্য দ্বিতীয় উৎস লাগবে।

নলেজ কাটঅফ

মডেল শেখে একটা নির্দিষ্ট তারিখ পর্যন্ত সংগ্রহ করা ডেটা থেকে — এটাই তার নলেজ কাটঅফ। টুল ছাড়া সে এর পরের ঘটনা জানে না, এমনকি তার জ্ঞান কত পুরোনো সেটাও হয়তো জানে না।

• সাম্প্রতিক খবর, দাম, ভার্সন আর আইন পুরোনো হতে পারে, বা একদমই না থাকতে পারে।
• যে অ্যাসিস্ট্যান্ট ওয়েবে সার্চ করতে বা আপনার দেওয়া ফাইল পড়তে পারে, সে এই সমস্যা কাটাতে পারে — তখন নতুন তথ্য আসে টুল থেকে, মডেলের ট্রেনিং থেকে নয়।

একটা ভালো অভ্যাস: যা সময়ের সাথে বদলায়, সে বিষয়ে জিজ্ঞেস করুন "কোন তারিখ পর্যন্ত?" আর হালনাগাদ উৎস দেখে নিন।

মূল কথা

• হ্যালুসিনেশন হলো বিশ্বাসযোগ্য কিন্তু ভুল উত্তর; আত্মবিশ্বাস প্রমাণ নয়।
• উত্তরকে উৎসের ওপর দাঁড় করান, "জানি না" বলার সুযোগ দিন, আর জরুরি দাবি যাচাই করুন।
• টুল ছাড়া মডেল তার নলেজ কাটঅফের পরের কিছু জানে না।