লোড হচ্ছে…
মিশ্রকঠিনAI ইঞ্জিনিয়ারিংকৃত্রিম বুদ্ধিমত্তা
LLM দিয়ে AI ইঞ্জিনিয়ারিং: অ্যাডভান্সড
LLM অ্যাপকে প্রোডাকশনের দিকে নিন: হাইব্রিড রিট্রিভাল, MCP, নিয়ন্ত্রিত এজেন্ট, ইভ্যাল ও জাজ, ফাইন-টিউনিংয়ের ধারণা, LLMOps, নিরাপত্তা ও ডিপ্লয়মেন্ট। ইংরেজি-বাংলা টিউটোরিয়াল, গ্রেডেড ল্যাব, বাছাই করা ভিডিও আর তিনটা পরীক্ষা। অফলাইন; API কি বা GPU লাগে না।
৩৫ টি পাঠ৩ টি পরীক্ষা22h 44m
কোর্স সম্পর্কে
BitByte AI পথের Level 1-এর প্রথম পথ (দুই ভাগের দ্বিতীয় ভাগ), যাঁরা বিগিনার কোর্স শেষ করেছেন বা লোকাল রিট্রিভাল, টুল কলিং ও রিগ্রেশন টেস্টসহ প্রোভাইডার-নিরপেক্ষ LLM ফিচার বানিয়েছেন তাঁদের জন্য। যে ডেমো ভালো উত্তর দেয়, সেটা রিলিজ করার মতো সিস্টেম নয়। এই কোর্স শেখায় রিট্রিভাল মাপা, এজেন্ট নিয়ন্ত্রণ, জাজ পরীক্ষা, অ্যাপ নিরাপদ ও পর্যবেক্ষণযোগ্য করা, রোলব্যাক পরিকল্পনাসহ ডিপ্লয় করা আর সৎ একটা রিলিজ সিদ্ধান্ত লিখে রাখা।
এখানে পাবেন ইংরেজি ও বাংলায় লেখা টিউটোরিয়াল, বাছাই করা ভিডিও আর তিনটা পরীক্ষা: দুটো কুইজ আর কোড পড়া, আউটপুট অনুমান, ডিবাগিং ও ডিজাইনের সিদ্ধান্তের একটা কঠিন চূড়ান্ত পরীক্ষা। টিউটোরিয়ালে একটা গ্রেডেড প্র্যাকটিস ল্যাব আর KnowledgeOps ক্যাপস্টোন আছে। সবকিছু ফেক মডেল, টয় এমবেডিং ও মক সার্ভিসে অফলাইনে চলে; পয়সা-দেওয়া API, GPU বা ইন্টারনেট লাগে না, ফাইন-টিউনিং পড়ানো হয়েছে ধারণা ও ড্রাই-রান হিসেবে, আসল GPU ট্রেনিং ছাড়া, আর Docker ফাইল দেখানো হয়েছে কিন্তু চালানো হয়নি। কোর্সটা শিক্ষামূলক: তথ্য যাচাই করা হয়েছে ২০২৬ সালের ১২ অক্টোবর, মডেলের নাম, দাম ও SDK-এর খুঁটিনাটি বদলায়, আর বাংলা লেখা AI দিয়ে লেখা। চাকরির কোনো প্রতিশ্রুতি এখানে নেই।
আপনি যা শিখবেন
- লেবেল করা কর্পাসে ডেন্স, কিওয়ার্ড ও হাইব্রিড রিট্রিভাল তুলনা করা, রিরেঙ্কিং যোগ করা এবং র্যাঙ্কিং মেট্রিক ও এরর বিশ্লেষণ থেকে পদ্ধতি সুপারিশ করা
- ভ্যালিডেট করা ইনপুট ও সীমিত ফলাফলসহ লোকাল MCP সার্ভার ও ক্লায়েন্ট বানানো এবং MCP-র নিরাপত্তা ও আন্তঃকার্যক্ষমতার ঝুঁকি পর্যালোচনা করা
- ধাপসীমা, স্পষ্ট স্টেট, টুল অ্যালাউলিস্ট ও মানুষের অনুমোদন দিয়ে এজেন্ট নিয়ন্ত্রণ করা এবং বেপরোয়া চলা থামানো
- হোল্ডআউট ও রিলিজ গেটসহ ইভ্যালুয়েশন সেট ডিজাইন করা এবং দৈর্ঘ্য ও অবস্থানের পক্ষপাত দেখে LLM জাজ ক্যালিব্রেট করা বা পরীক্ষামূলক বলে চিহ্নিত করা
- কখন ফাইন-টিউনিং যুক্তিসঙ্গত তা ঠিক করা, টয় দিয়ে LoRA ও PEFT ব্যাখ্যা করা এবং লিকেজ ও মডেলের অধিকার যাচাই করে ড্রাই-রান পরীক্ষা পরিকল্পনা করা
- রিড্যাকশন, বাজেট ও ঘটনা সামলানোসহ স্ট্রাকচার্ড লগ, ট্রেস, ব্যবহারের রেকর্ড ও মনিটরিং যোগ করা
- অ্যাপের থ্রেট মডেল করা, প্রম্পট ইনজেকশন ও এক্সফিল্ট্রেশন টেস্ট করা, পারমিশন-সচেতন রিট্রিভাল ও টেন্যান্ট-পারাপার আইসোলেশন নিশ্চিত করা এবং ইনজেশন ও ডেটার সতেজতার পরিকল্পনা করা
- হেলথ চেক, স্ট্রিমিং, স্কেলিং সীমা ও রোলব্যাকসহ লোকালি ডিপ্লয় করা, তারপর রিলিজের প্রমাণ জড়ো করে গো, শর্তসাপেক্ষ গো বা নো-গো সিদ্ধান্তের পক্ষে যুক্তি দেওয়া
পাঠ্যক্রম
১. পড়ুন: LLM দিয়ে AI ইঞ্জিনিয়ারিং — অ্যাডভান্সড
১ টি আইটেম২. অ্যাডভান্সড RAG: হাইব্রিড রিট্রিভাল ও রিরাংকিং
২ টি আইটেম৩. MCP সার্ভার, ক্লায়েন্ট ও আন্তঃকার্যক্ষমতা
২ টি আইটেম- Model Context Protocol (MCP) আসলে কীভাবে কাজ করে7:58
- নিরাপদ MCP-র ভিত্তি: আর্কিটেকচার ও থ্রেট মডেল5:47
৪. নিজেকে যাচাই: রিট্রিভাল ও MCP
১ টি আইটেম৫. AI এজেন্ট: পরিকল্পনা, মেমরি ও মানুষের নিয়ন্ত্রণ
২ টি আইটেম- আমরা কীভাবে কার্যকর এজেন্ট তৈরি করি: Barry Zhang, Anthropic15:09
- AI এজেন্টের জন্য হিউম্যান-ইন-দ্য-লুপ তৈরি (প্র্যাকটিক্যাল গাইড)24:48
৬. মজবুত মূল্যায়ন ও LLM-as-a-Judge
৩ টি আইটেম- এরর অ্যানালাইসিস: AI ইঞ্জিনিয়ারিংয়ের সর্বোচ্চ রিটার্নের কৌশল12:08
- LLM-অ্যাজ-আ-জাজ: AI মূল্যায়ন কৌশল স্কেল করা6:08
- AI eval সঠিকভাবে অটোমেট করার উপায়27:19
৭. ফাইন-টিউনিংয়ের মূল কথা, LoRA ও PEFT
৩ টি আইটেম- RAG বনাম ফাইন-টিউনিং বনাম প্রম্পট ইঞ্জিনিয়ারিং: AI মডেল অপ্টিমাইজ13:10
- লো-র্যাঙ্ক অ্যাডাপ্টেশন (LoRA) কী — আবিষ্কারকের ব্যাখ্যা7:28
- Hugging Face PEFT দিয়ে LoRA বাস্তবায়ন: ধাপে ধাপে টিউটোরিয়াল13:07
৮. নিজেকে যাচাই: এজেন্ট, ইভ্যাল ও ফাইন-টিউনিং
১ টি আইটেম৯. LLMOps: লগিং, ট্রেসিং, খরচ ও মনিটরিং
৩ টি আইটেম- OpenTelemetry ট্রেসিংয়ের ব্যবহারিক পরিচিতি | Nicolas Fränkel | IDI 202533:24
- SRE মৌলিক বিষয়: SLI, SLO ও এরর বাজেট7:55
- SRE ইনসিডেন্ট ম্যানেজমেন্ট8:35
১০. AI নিরাপত্তা: ইনজেকশন, ডেটা ফাঁস ও গার্ডরেইল
২ টি আইটেম- প্রম্পট ইনজেকশন ব্যাখ্যা12:16
- LLMOps #14 — LLM গার্ডরেইল: ইনপুট চেক, আউটপুট চেক এবং নিরাপদে ব্যর্থ হওয়া10:20
১১. ডিপ্লয়মেন্ট, স্ট্রিমিং API ও স্কেলিং
৩ টি আইটেম- শুরু করার জন্য একমাত্র Docker টিউটোরিয়াল11:53
- সবচেয়ে ব্যবহৃত ৫টি ডিপ্লয়মেন্ট কৌশল10:00
- শীর্ষ ৫টি মাইক্রোসার্ভিস রেজিলিয়েন্স প্যাটার্ন6:48
১২. নিজেকে যাচাই: চূড়ান্ত পরীক্ষা
১ টি আইটেম১৩. পূর্ণদৈর্ঘ্যের কোর্স (ঐচ্ছিক)
১৫ টি আইটেম- RAG-এ হাইব্রিড সার্চের সম্পূর্ণ গাইড (BM25 + এমবেডিং + রিরেঙ্কার)59:17
- মডেল কনটেক্সট প্রোটোকল দিয়ে এজেন্ট তৈরি — Anthropic-এর Mahesh Murag-এর পূর্ণ ওয়ার্কশপ104:11
- MCP স্টেটলেস হলো: 2026-07-28 স্পেক ব্যাখ্যা (কী বদলাল, কী ভাঙবে)8:59
- MCP সার্ভার সুরক্ষা — Daniel Garnier Moiroux50:56
- প্রতিটি AI এজেন্টের প্রয়োজনীয় চার ধরনের মেমরি10:40
- AI eval-এর ৭টি সবচেয়ে সাধারণ ভুল (৫ হাজারের বেশি ইঞ্জিনিয়ার ও PM-কে শেখানোর অভিজ্ঞতা থেকে)12:47
- LoRA: বড় ভাষা মডেলের লো-র্যাঙ্ক অ্যাডাপ্টেশন — ভিজ্যুয়াল ব্যাখ্যা ও PyTorch কোড শূন্য থেকে26:54
- OpenTelemetry দিয়ে GenAI অবজার্ভেবল করা15:56
- GenAI-র জন্য OpenTelemetry এবং OpenLLMetry প্রকল্প61:09
- LLM এজেন্টে প্রম্পট ইনজেকশন (ReAct, Langchain)19:28
- শুরুর জন্য STRIDE থ্রেট মডেলিং — ২০ মিনিটে21:49
- Meta-র LlamaFirewall দিয়ে বিভিন্ন ধরনের গার্ডরেইলে LLM ও এজেন্ট ওয়ার্কফ্লো সুরক্ষা21:26
- FastAPI দিয়ে LLM রেসপন্স স্ট্রিমিং10:38
- Docling কী? RAG ও AI-র জন্য অসংগঠিত ডেটা রূপান্তর8:18
- প্রোডাকশনে RAG এজেন্ট: ১০টি শিক্ষা — Douwe Kiela, RAG-এর স্রষ্টা16:56
প্রয়োজনীয়তা
- বিগিনার কোর্স LLM দিয়ে AI ইঞ্জিনিয়ারিং: বিগিনার, অথবা লোকাল রিট্রিভাল, টুল কলিং ও রিগ্রেশন টেস্টসহ প্রোভাইডার-নিরপেক্ষ LLM ফিচার বানানোর সমান অভিজ্ঞতা
- Python 3.12 ও একটা টার্মিনাল, এবং টেস্ট লেখা ও চালানোয় স্বাচ্ছন্দ্য
- কোনো API কি, GPU বা পয়সা-দেওয়া অ্যাকাউন্ট লাগবে না: সবকিছু ফেক মডেল ও টয় এমবেডিংয়ে অফলাইনে চলে
পর্যালোচনা
আলোচনায় যোগ দিতে সাইন ইন করুন।