অধ্যায় 3 · সীমাবদ্ধতা ও সঠিক ব্যবহার
কনটেক্সট উইন্ডো, পক্ষপাত ও গোপনীয়তা
- পৃষ্ঠা 7 / 8
- 2 মিনিট পড়া
আরও তিনটা সীমাবদ্ধতা ঠিক করে দেয় LLM-এর সাথে কীভাবে কাজ করা উচিত: একসাথে কতটা পড়তে পারে, কী পক্ষপাত সে শিখে ফেলেছে, আর আপনার দেওয়া ডেটার কী হয়।
কনটেক্সট উইন্ডো
কনটেক্সট উইন্ডো হলো মডেল একসাথে সর্বোচ্চ কতগুলো টোকেন বিবেচনা করতে পারে। এর মধ্যে সবকিছু পড়ে: নির্দেশনা, এ পর্যন্ত পুরো কথোপকথন, পেস্ট করা ডকুমেন্ট, আর যে উত্তরটা লেখা হচ্ছে।
- মডেলের উইন্ডো ৮,০০০ টোকেন হলে আর আপনার প্রম্পটেই ৬,৫০০ লেগে গেলে, উত্তরের জন্য বাকি থাকে সর্বোচ্চ ১,৫০০ টোকেন।
- লম্বা চ্যাটে জায়গা করতে সবচেয়ে পুরোনো মেসেজ বাদ পড়তে বা সংক্ষেপ হতে পারে — মডেল শুরুতে বলা কথা "ভুলে" যেতে পারে।
- বড় উইন্ডো মানে মডেল বেশি পড়তে পারে, কিন্তু প্রতিটা খুঁটিনাটি ঠিকমতো ব্যবহার করবে তার নিশ্চয়তা নেই; খুব লম্বা লেখার মাঝখানে চাপা পড়া জরুরি কথা বাদ পড়ে যেতে পারে।
টিপ: সবচেয়ে জরুরি নির্দেশ শুরুতেই পরিষ্কার করে দিন (লম্বা প্রম্পটে মূল শর্তগুলো শেষে আবার বলুন), আর বিষয় বদলালে নতুন চ্যাট শুরু করুন।
পক্ষপাত (বায়াস)
মডেল মানুষের লেখা ডেটা থেকে শেখে, তাই মানুষের পক্ষপাতও শিখে ফেলতে পারে — গৎবাঁধা ধারণা, একপেশে দৃষ্টিভঙ্গি, বা অতীতের অন্যায্য সিদ্ধান্তের প্যাটার্ন। অতীতের নিয়োগের ডেটা যদি একটা দলের পক্ষে থাকে, সেই ডেটায় শেখা মডেল অন্য দলগুলোকে কম নম্বর দিতে পারে।
- মানুষ সম্পর্কে সিদ্ধান্ত মডেলকে একা নিতে দেবেন না।
- উত্তর ন্যায্য কিনা দেখুন, আর অন্য দৃষ্টিভঙ্গিও জানতে চান।
গোপনীয়তা ও তথ্যের নিরাপত্তা
AI সার্ভিসে আপনি যা লেখেন, তা সেই প্রতিষ্ঠানের কাছে যায়। তাদের নীতি আর আপনার সেটিংস অনুযায়ী তা সংরক্ষণ, পর্যালোচনা বা মডেল উন্নয়নে ব্যবহার হতে পারে।
- পাসওয়ার্ড, API key বা অন্য কোনো গোপন তথ্য কখনো পেস্ট করবেন না।
- গ্রাহক বা সহকর্মীর ব্যক্তিগত তথ্য, বা প্রতিষ্ঠানের গোপন ডকুমেন্ট শেয়ার করবেন না — যদি না আপনার প্রতিষ্ঠান সেই ডেটার জন্য সেই টুলটা অনুমোদন করে থাকে।
- শুধু সমস্যার কাঠামো নিয়ে সাহায্য দরকার হলে নাম আর শনাক্তযোগ্য তথ্য সরিয়ে দিন।
দায়িত্বশীল ব্যবহারের চেকলিস্ট
- এই কাজে কি বিশ্বাসযোগ্য-কিন্তু-ভুল উত্তর চলবে? না চললে যাচাই করুন।
- আমি কি মডেলকে উৎস দিয়েছি, নাকি তার স্মৃতির ওপর ভরসা করছি?
- এখানে কি এমন কিছু আছে যা সময়ের সাথে বদলায় (নলেজ কাটঅফ)?
- উত্তরটা কি কারও প্রতি অন্যায্য প্রভাব ফেলতে পারে?
- এই ডেটা কি এই টুলের সাথে শেয়ার করার অনুমতি আমার আছে?
মূল কথা
- কনটেক্সট উইন্ডোতে প্রম্পট, কথোপকথন, ডকুমেন্ট আর উত্তর — সব একসাথে গোনা হয়।
- মডেল ট্রেনিং ডেটার পক্ষপাত পুনরাবৃত্তি করতে পারে; মানুষ সম্পর্কে সিদ্ধান্ত মানুষের হাতেই রাখুন।
- AI টুলে যা লেখেন, ধরে নিন তা সেই প্রতিষ্ঠানের সাথে শেয়ার হচ্ছে।