Python 3.12-এ ছোট একটা LLM-চালিত ফিচার বানান ও টেস্ট করুন: প্রোভাইডার-নিরপেক্ষ ক্লায়েন্ট, কনটেক্সট, স্ট্রিমিং, স্ট্রাকচার্ড আউটপুট, এমবেডিং, সাইটেশনসহ RAG, টুল কলিং, ইভ্যাল, খরচ নিয়ন্ত্রণ ও নিরাপত্তা। ফেক মডেলে অফলাইনে চলে, API কি লাগে না।
বাইশটা পাতায় একটাই প্রজেক্ট গড়া হয়: EvidenceDesk, একটা বানানো কোম্পানির ছোট হেল্প-সেন্টার অ্যাসিস্ট্যান্ট। এটা লোকাল কর্পাস থেকে প্রমাণ খুঁজে আনে, সাইটেশনসহ উত্তর দেয়, প্রমাণ না পেলে উত্তর দিতে অস্বীকার করে আর নিরাপদভাবে ব্যর্থ হয়। সবকিছু ফেক-ক্লায়েন্ট-আগে পদ্ধতিতে: ডিফল্ট মডেল একটা নির্ধারিত ফেক, তাই প্রতিটা উদাহরণ, টেস্ট ও অনুশীলন অফলাইনে চলে, কোনো API কি, GPU বা পয়সা-দেওয়া সার্ভিস লাগে না। ফেক মডেল আসল ভাষা মডেল নয়, আর আসল মডেল কোথায় কম অনুমানযোগ্য আচরণ করে, পাতাগুলো তা বলে দিয়েছে।
শুরু HTTP রিকোয়েস্ট থেকে, তারপর অ্যাডাপ্টার, কনফিগারেশন ও এরর হ্যান্ডলিংসহ প্রোভাইডার-নিরপেক্ষ ক্লায়েন্ট, এরপর কনটেক্সট সাজানো, ট্রাস্ট বাউন্ডারি ও টোকেন বাজেট। তারপর স্ট্রিমিং ও স্ট্রাকচার্ড আউটপুট, এমবেডিং ও লোকাল ভেক্টর সার্চ, চাংকিং ও সাইটেশন যাচাইসহ প্রথম RAG সিস্টেম, আর পারমিশনসহ এক-ধাপের টুল কলিং। শেষের পর্বগুলোয় আছে ইভ্যালুয়েশন ডেটাসেট ও রিগ্রেশন টেস্ট, খরচ, ল্যাটেন্সি ও ক্যাশিং, প্রম্পট ইনজেকশন প্রতিরোধ ও নিরাপদ ব্যর্থতা, এবং প্যাকেজিং ও ডকুমেন্টেশন। একটা গ্রেডেড প্র্যাকটিস ল্যাব আর EvidenceDesk ক্যাপস্টোন দিয়ে টিউটোরিয়াল শেষ হয়, সঙ্গে আপনি নিজে চালানোর মতো গ্রেডার ও অ্যাকসেপ্টেন্স স্ক্রিপ্ট।
লাগবে Python 3.12 আর একটা টার্মিনাল। ঐচ্ছিক প্রোভাইডার অ্যাডাপ্টার দেখানো হয়েছে, কিন্তু কোনোকিছু তাদের ওপর নির্ভর করে না। এই টিউটোরিয়াল শিক্ষামূলক: মডেলের নাম, দাম ও SDK-এর খুঁটিনাটি বদলায়, আর তথ্য যাচাই করা হয়েছে ২০২৬ সালের ১২ অক্টোবর। যেখানে Docker ফাইল দেখানো হয়েছে, সেগুলো চালানো হয়নি। বাংলা লেখা AI দিয়ে লেখা এবং শুধু AI দিয়েই পর্যালোচিত। প্রতিটা পাতা ইংরেজি ও বাংলা, দুই ভাষাতেই আছে।
11 অধ্যায় · মোট 497 মিনিট
ভিডিওতে দেখে নাও, তারপর যাচাই করো কতটা মনে রইল।