চালু একটা LLM অ্যাপকে প্রোডাকশনের দিকে নিন: হাইব্রিড রিট্রিভাল ও রিরেঙ্কিং, MCP, নিয়ন্ত্রিত এজেন্ট, LLM জাজসহ ইভ্যাল, ফাইন-টিউনিংয়ের ধারণা (ড্রাই-রান), LLMOps, নিরাপত্তা, ডিপ্লয়মেন্ট ও ইনজেশন। ফেক মডেল ও টয় এমবেডিংয়ে অফলাইনে চলে।
বিগিনার টিউটোরিয়ালের পরের বাইশটা পাতা, একই EvidenceDesk কিটের ওপর গড়া। আপনি লেবেল করা কর্পাসে মেপে হাইব্রিড সার্চ, র্যাঙ্ক ফিউশন ও রিরেঙ্কিং দিয়ে রিট্রিভাল ভালো করবেন; ভ্যালিডেট করা ইনপুট ও সীমিত ফলাফলসহ লোকাল MCP সার্ভার ও ক্লায়েন্ট বানাবেন; আর ধাপসীমা, স্পষ্ট স্টেট এবং গুরুতর কাজে মানুষের অনুমোদনসহ একটা নিয়ন্ত্রিত এজেন্ট যোগ করবেন। তারপর হোল্ডআউটসহ ইভ্যালুয়েশন সেট ও রিলিজ গেট বানাবেন এবং LLM জাজকে বিশ্বাস করার আগে তার পক্ষপাত পরীক্ষা করবেন।
পরের পর্বগুলোয় আছে ফাইন-টিউনিং, যা ভালো কনটেক্সটের একটা মেপে-দেখা বিকল্প; LoRA ও PEFT বোঝানো হয়েছে ছোট একটা সংখ্যাভিত্তিক টয় আর ড্রাই-রান পরীক্ষার রেকর্ড দিয়ে, আসল ট্রেনিং নয়। তারপর LLMOps (স্ট্রাকচার্ড লগ, ট্রেসিং, খরচ ও মনিটরিং), থ্রেট মডেলিং, ইনজেকশন টেস্টিং ও গার্ডরেইল, স্ট্রিমিং, স্কেলিং ও রোলব্যাকসহ ডিপ্লয়মেন্ট, এবং পারমিশন-সচেতন ইনজেশন ও ডেটার সতেজতা। ক্যাপস্টোন KnowledgeOps প্রমাণসহ একটা রিলিজ ক্যান্ডিডেট জোড়া দেয় এবং শেষ হয় সৎ একটা নো-গো সিদ্ধান্তে। একটা গ্রেডেড প্র্যাকটিস ল্যাব আর ক্যাপস্টোন গ্রেডার দিয়ে টিউটোরিয়াল শেষ হয়।
সবকিছু ফেক মডেল, টয় এমবেডিং ও মক সার্ভিসে অফলাইনে চলে, তাই পয়সা-দেওয়া API, GPU বা ইন্টারনেট লাগে না, আর আসল GPU ট্রেনিং চালানো হয় না। Docker ফাইল দেখানো ও স্ট্যাটিকভাবে যাচাই করা হয়েছে, চালানো হয়নি। টিউটোরিয়াল শিক্ষামূলক: তথ্য যাচাই করা হয়েছে ২০২৬ সালের ১২ অক্টোবর, আর মডেলের নাম, দাম ও SDK-এর খুঁটিনাটি বদলায়। বাংলা লেখা AI দিয়ে লেখা। প্রতিটা পাতা ইংরেজি ও বাংলা, দুই ভাষাতেই আছে।
11 অধ্যায় · মোট 538 মিনিট
ভিডিওতে দেখে নাও, তারপর যাচাই করো কতটা মনে রইল।