অধ্যায় 4 · টেক্সটের বাইরে ও নির্ভরযোগ্য ব্যবহার
নির্ভরযোগ্য ও গোপনীয়তা-সচেতন প্রম্পটিং: অনিশ্চয়তা, প্রমাণ ও সংবেদনশীল ডেটা
- পৃষ্ঠা 21 / 24
- 16 মিনিট পড়া
AI মডেল ঠিক হোক বা ভুল, সমান সাবলীল ও আত্মবিশ্বাসী ভাষায় লেখে। খসড়া করার সময় এটা কাজের, কিন্তু সিদ্ধান্ত নেওয়ার সময় ঝুঁকির। দুটো অভ্যাস দৈনন্দিন ব্যবহারকে নিরাপদ করে। প্রথমটা নির্ভরযোগ্যতা: সঠিক জিনিস চেয়ে নিন, যাতে উত্তরে দেখা যায় মডেল কতটা নিশ্চিত, কীসের ওপর দাঁড়িয়ে, আর আপনাকে কী যাচাই করতে হবে। দ্বিতীয়টা গোপনীয়তা: পেস্ট করার আগে ভাবুন কী পেস্ট করছেন, কারণ চ্যাট উইন্ডো আপনার ব্যক্তিগত খাতা নয়।
এই পাতায় দুটো অভ্যাসই ছোট, বারবার ব্যবহারযোগ্য প্রম্পট-কৌশল হিসেবে আছে। তথ্য ও অনুমান আলাদা করা আপনি জানেন (কনস্ট্রেইন্ট, ডিলিমিটার ও বারবার ব্যবহারের প্রম্পট চেকলিস্ট), উৎসের সঙ্গে দাবি মেলানোও জানেন (গবেষণা ও সোর্স যাচাই: সাইটেশন, দাবি ও ভেরিফিকেশন)। এখানে সেই দক্ষতা অনুরোধ লেখার ধরনের অংশ হয়ে যায়, আর সংবেদনশীল উপাদানের জন্য একটা ছোট চেকলিস্ট যোগ হয়। সুর শান্ত: এর কিছুই AI এড়িয়ে চলার কারণ নয়, শুধু যত্ন নিয়ে ব্যবহারের কারণ।
যা শিখবেন
- মডেলকে কীভাবে বলবেন তার অনিশ্চয়তা, প্রমাণ, অনুমান আর অনুপস্থিত তথ্য দেখাতে, এবং কেন আত্মবিশ্বাসী সুর প্রমাণ নয়।
- বিশ্বাসযোগ্য উত্তর আর যাচাই-করা উত্তরের পার্থক্য, এবং হিসাব স্বাধীনভাবে কীভাবে মেলাবেন।
- আইন, চিকিৎসা ও আর্থিক প্রশ্নে AI-কে শেষ কথা না ধরে কীভাবে ব্যবহার করবেন।
- কী কখনো পেস্ট করবেন না (পাসওয়ার্ড, কি, টোকেন), উদাহরণ থেকে ব্যক্তিগত তথ্য কীভাবে সরাবেন, আর চ্যাট অ্যাপের ডেটা কন্ট্রোলে কী দেখবেন।
নির্ভরযোগ্য প্রম্পটিং এক নজরে
এই কৌশলগুলোর বেশিরভাগই আপনার বিদ্যমান প্রম্পটে এক-দুই লাইন যোগ করে। প্রতিটা লুকানো দুর্বলতাকে এমন কিছু বানায় যা দেখা ও যাচাই করা যায়।
| কৌশল | প্রম্পটে যোগ করুন | তখন কী দেখতে পাবেন |
|---|---|---|
| অনিশ্চয়তা বলানো | "Mark each claim as stated, inferred or unknown." | কোন অংশ আপনার টেক্সটের ওপর দাঁড়িয়ে, কোনটা অনুমান |
| প্রমাণ চাওয়া | "Quote the sentence that supports each claim." | খুঁজে পাওয়া যায় এমন উদ্ধৃতি, অথবা তার অভাব |
| বিশ্বাসযোগ্য আর যাচাই-করা আলাদা করা | "Do not present general knowledge as fact." | কী এখনো যাচাই বাকি তার স্পষ্ট তালিকা |
| অনুমানের তালিকা | "List the assumptions you made." | লুকানো আন্দাজ দৃশ্যমান হয়ে যায় |
| অনুপস্থিত প্রমাণ খোঁজা | "Before recommending, list what you still need." | সিদ্ধান্তের আগে কোন প্রশ্নের উত্তর দরকার |
| হিসাব দেখানো | "Show each step and the inputs you used." | নিজে আবার কষে মেলানোর মতো কিছু |
মডেলকে তার অনিশ্চয়তা স্পষ্ট করে বলতে বলুন
কোন বাক্য নির্ভরযোগ্য আর কোনটা আন্দাজ, মডেল তা জানে না; সবই একই মসৃণ কণ্ঠে লেখে। তবু আপনি তাকে বলতে পারেন বক্তব্যগুলো দলে সাজাতে। দলগুলো নির্ভর করে প্রতিটা বক্তব্য কোথা থেকে এসেছে তার ওপর, যা আপনি যাচাই করতে পারেন। কাজ করার মতো উপাদান আপনি দিলে এটা সবচেয়ে ভালো কাজ করে।
দুর্বল প্রম্পট:
Is this supplier reliable?নির্ভরযোগ্য হওয়ার মাপকাঠিই এখানে নেই। মডেল সাধারণ জ্ঞান থেকে আত্মবিশ্বাসী শোনায় এমন একটা মত বানাবে, আর আপনি জানবেন না তা কীসের ওপর দাঁড়িয়ে।
ভালো প্রম্পট:
Use only the notes between the tags to assess whether Delta Packaging is a reliable supplier.
Label every statement in your answer with one of these tags:
[STATED] the notes say this directly
[INFERRED] you concluded it from the notes
[UNKNOWN] the notes do not say, so you cannot tell
Finish with the three most important UNKNOWN items.
<notes>
- Delta Packaging delivered 9 of our last 10 orders on the promised date.
- One order arrived with 40 damaged boxes out of 500. They replaced them free of charge.
- Their quotes are 6% lower than our current supplier.
- We have not visited the factory.
</notes>নমুনা উত্তর (উদাহরণ মাত্র; আপনারটা আলাদা হবে):
- [STATED] Nine of ten recent orders arrived on time.
- [STATED] One order had 40 of 500 boxes damaged; the supplier replaced them free.
- [INFERRED] Delivery looks mostly dependable, but ten orders is a small sample.
- [INFERRED] The price advantage may partly offset the damage risk.
- [UNKNOWN] Whether the damaged order was a one-off.
Top UNKNOWN items: cause of the damage; how the supplier handles larger orders;
whether the factory meets your quality standards.যা যাচাই করবেন: প্রতিটা [STATED] লাইন আপনার নোটে থাকতে হবে, কোনো সংখ্যা বদলানো চলবে না। দেখুন, আসলে অনুমান এমন কিছুতে [STATED] লেবেল বসেছে কি না। লেবেলগুলো মডেলের নিজের সাজানো, তাই ভুল হতে পারে। এগুলো আসল আত্মবিশ্বাসের মাপ নয়। এদের মূল্য হলো, এগুলো আপনাকে সেই লাইনগুলো দেখায় যেগুলো আবার দেখার যোগ্য।
"আমি ৯০% নিশ্চিত" ধরনের কথা ক্যালিব্রেটেড মাপ নয়। ভুল উত্তরের জন্যও মডেল এটা ঠিক ততটা সহজে লিখতে পারে। চান প্রতিটা বক্তব্যের উৎস আর কী অজানা; তাহলে এমন কিছু পাবেন যা যাচাই করা যায়।
আত্মবিশ্বাসের ভাষার বদলে প্রমাণ চান
কোনো উত্তরে সন্দেহ হলে স্বাভাবিক প্রতিক্রিয়া: "আপনি কি নিশ্চিত?" তখন মডেল ক্ষমা চেয়ে সঠিক উত্তরটাই বদলে ফেলতে পারে, অথবা ভুল উত্তরই আরও জোর দিয়ে বলতে পারে। কোনোটাই কাজে লাগে না। তার বদলে চান পরীক্ষা করা যায় এমন প্রমাণ।
| আত্মবিশ্বাস চাওয়া (দুর্বল) | প্রমাণ চাওয়া (ভালো) |
|---|---|
| "Are you sure?" | "Quote the sentence in my text that supports this." |
| "How confident are you?" | "Which parts come from my text and which from general knowledge?" |
| "Be accurate." | "If you cannot support a claim, write NOT SUPPORTED." |
| "Give me sources." | "Give the exact page or section I can open, and say if you are unsure it exists." |
দুটো সতর্কতা। প্রথমত, "যুক্তি" চাইলে চান যাচাইযোগ্য ছোট ব্যাখ্যা: প্রমাণ, আর প্রমাণ থেকে উত্তরে পৌঁছানোর নিয়ম। মডেলের গোপন চিন্তা চাইবেন না; নিজের ভাবনা নিয়ে সে যা লেখে তা নির্ভরযোগ্য বিবরণ নয়। দ্বিতীয়ত, সাবলীল সাইটেশন প্রমাণ নয়। মডেল বাস্তবসম্মত শিরোনাম, লেখক ও সালসহ বানানো রেফারেন্স লিখতে পারে। উৎস আছে বলা যায় তখনই, যখন আপনি সেটা খুলে দাবিটা সেখানে পেয়েছেন, যেমন গবেষণার পাতায় অনুশীলন করেছেন।
বিশ্বাসযোগ্যতা আর যাচাই-করা সত্য আলাদা করুন
উত্তর বিশ্বাসযোগ্য (plausible) যখন শুনতে ঠিক লাগে, আপনার প্রত্যাশার সঙ্গে মেলে এবং ভালো লেখা। সেটা যাচাই-করা (verified) তখনই, যখন আপনি বা আপনার ভরসার কোনো উৎস মিলিয়ে দেখেছে। মডেল প্রথমটার দিকে চলে; দ্বিতীয়টা দিতে পারেন শুধু আপনি। তিনটা সহজ অবস্থা ব্যবহার করুন, আর গুরুত্বপূর্ণ দাবির পাশে নিজের নোটে লিখে রাখুন:
| অবস্থা | মানে | কীসে ব্যবহার চলে |
|---|---|---|
| Plausible (বিশ্বাসযোগ্য) | মডেল বলেছে; শুনতে ঠিক লাগে | আইডিয়া, খসড়া, খুঁজে দেখার প্রশ্ন |
| Supported (সমর্থিত) | আপনার দেওয়া উপাদানের উদ্ধৃতির সঙ্গে মেলে | সেই উপাদানের সারাংশ |
| Verified (যাচাই-করা) | নির্ভরযোগ্য উৎসে বা নিজের হিসাবে মিলিয়েছেন | সিদ্ধান্ত, বার্তা, অন্যের ভরসা করার রিপোর্ট |
ঝুঁকি হলো নীরব উন্নতি: একটা "বিশ্বাসযোগ্য" দাবি রিপোর্টে বারবার এসে যাচাই-করা বলে মনে হতে শুরু করে। প্রম্পটে একটা কাজের লাইন: "Separate what you can support from the text from what is general knowledge, and mark the second kind as unverified."
অনুমানের তালিকা চান, আর সুপারিশের আগে অনুপস্থিত প্রমাণ চান
মডেল কিছু সুপারিশ করলে সে আপনার পরিস্থিতি নিয়ে আন্দাজ করেছে। সেগুলো না দেখলে প্রশ্ন তোলা যায় না। তাই আগে চান অনুমান আর অনুপস্থিত প্রমাণ, সুপারিশ চান সবশেষে।
মাতেও বোগোতায় একটা ছোট ক্যাফে চালান। সকালে লাইন লম্বা হয়, তাই তিনি দ্বিতীয় একটা এসপ্রেসো মেশিন কেনার কথা ভাবছেন। অঙ্কগুলো মুদ্রা-একক ধরে (সব সংখ্যা বানানো)।
ভালো প্রম্পট:
I am deciding whether to buy a second espresso machine for my café. Use the facts between
the tags. Do these steps in order:
1. List the assumptions you would need to make to give advice.
2. List the evidence that is missing and would change the advice.
3. Only then give a recommendation. If the evidence is too thin, say "not enough
information yet" and name the first thing I should find out.
<facts>
- Weekdays: about 220 coffees a day, average price 3.20, ingredient cost 0.90 per cup.
- From 07:30 to 09:30 the queue can reach 8 people.
- A machine costs 4,800 plus 300 for installation.
- I do not know how many people leave because of the queue.
</facts>নমুনা উত্তর (উদাহরণ মাত্র; আপনারটা আলাদা হবে):
Assumptions
- Weekday sales are typical of the whole week.
- A second machine would add sales only in the morning rush.
Missing evidence
- How many customers leave when the queue is long.
- Whether the counter has space and whether the milk and staff can keep up.
- Whether the peak is regular or only on some days.
Recommendation
Not enough information yet. First count, for one week, how many people leave the queue
between 07:30 and 09:30. If the number is small, a second machine will not pay back soon.লক্ষ করুন: মডেল তার আন্দাজ লুকায়নি, আর কম প্রমাণের ওপর সুপারিশ করতে রাজি হয়নি। এই আচরণই চাই, কিন্তু এটা স্বয়ংক্রিয় নয়; অন্য প্রম্পটে সে হয়তো "হ্যাঁ, কিনুন" বলত। অনুপস্থিত জিনিসগুলো ঠিক কি না তা বিচার করা, আর সেগুলো খুঁজে বের করা আপনার কাজ।
হিসাব ও গুরুত্বপূর্ণ গণনা স্বাধীনভাবে মেলান
ল্যাঙ্গুয়েজ মডেল টেক্সট-জেনারেটর, ক্যালকুলেটর নয়। সহজ যোগে প্রায়ই ঠিক থাকে, কিন্তু একাধিক ধাপ, শতাংশ, বা কোনো ইনপুট বাদ পড়া হিসাবে আত্মবিশ্বাসের সঙ্গে ভুল করতে পারে। মডেলকে দিয়ে হিসাবের কাঠামো বানান, আর কষা ও নিশ্চিত করার কাজ ক্যালকুলেটর বা স্প্রেডশিটে করুন।
প্রম্পট:
Using the facts from the previous message: how many extra coffees per day must the second
machine sell to pay back its cost in 90 trading days? Show the formula and every input.নমুনা উত্তর (উদাহরণ মাত্র; আপনারটা আলাদা হবে):
Margin per coffee = 3.20 - 0.90 = 2.30
Cost to recover = 4,800
Coffees needed = 4,800 / 2.30 = 2,087 (rounded)
Per day = 2,087 / 90 = about 23 extra coffees per dayধাপগুলো গোছানো, তাই ভরসা করা সহজ। এবার স্বাধীনভাবে আবার কষুন। যে খরচ তুলতে হবে তা ৪,৮০০ + ৩০০ = ৫,১০০, কারণ ইনস্টলেশনও ধরতে হবে। তাহলে ৫,১০০ / ২.৩০ প্রায় ২,২১৭ কফি, আর ২,২১৭ / ৯০ প্রায় দিনে ২৫। উত্তরটা একটা ইনপুট ভুলে গেছে। এটা একটা সাধারণ ব্যর্থতার ধাঁচ: একটা বাদ-পড়া সংখ্যার চারপাশে সুন্দর সাজানো লেআউট। ধরবেন কীভাবে:
- উপরের মতো সূত্র ও ইনপুট চান, যাতে প্রতিটা ইনপুট আপনার তথ্যের সঙ্গে মেলানো যায়।
- ক্যালকুলেটর বা স্প্রেডশিটে, বা নতুন চ্যাটে আবার কষে ফল মিলিয়ে দেখুন।
- আগে আন্দাজ করুন। মোটামুটি হিসাব (৫,০০০ / ২.৩ প্রায় ২,২০০; ২,২০০ / ৯০ প্রায় ২৪) ফল অনেক দূরে গেলে ধরিয়ে দেয়।
- একক, রাউন্ডিং এবং কী কী ধরা হয়েছে দেখুন: কর, ফি, একবারের খরচ।
সিদ্ধান্ত, দাম বা রিপোর্টে যাওয়া প্রতিটা সংখ্যার জন্য স্বাধীন যাচাই করুন।
আইনি, চিকিৎসা ও আর্থিক দাবি উপযুক্ত উৎসে যাচাই করুন
এই ক্ষেত্রগুলোতে ভুলের দাম টাকা বা স্বাস্থ্য, আর সঠিক উত্তর প্রায়ই নির্ভর করে আপনি কোথায় থাকেন, আপনার ব্যক্তিগত অবস্থা এবং বর্তমান নিয়মের ওপর। মডেল এমন নিয়ম বলতে পারে যা অন্য জায়গার, বা বদলে গেছে। মডেল যা ভালো পারে তার জন্য ব্যবহার করুন, তাকে শেষ কথা বানাবেন না।
| মডেলের ভালো ব্যবহার | ভালো ব্যবহার নয় |
|---|---|
| কোনো পরিভাষা বা ফরম সহজ ভাষায় বোঝানো | কিছু করা আপনার জন্য আইনত বা চিকিৎসাগতভাবে অনুমোদিত বা বাধ্যতামূলক কি না ঠিক করা |
| পেশাজীবীকে করার প্রশ্নের তালিকা বানানো | আপনার ঘটনায় পেশাজীবীর পরামর্শের বদলি |
| আপনার দেওয়া নথির সারাংশ করা | স্মৃতি থেকে কোনো নিয়ম, সময়সীমা, ডোজ বা করের অঙ্ক নিশ্চিত করা |
| আপনি যে বিকল্পগুলো বোঝেন সেগুলো তুলনা করা | আপনার হয়ে চিকিৎসা, চুক্তির ধারা বা বিনিয়োগ বেছে নেওয়া |
ভালো প্রম্পট:
Explain in plain words what a "notice period" in an employment contract usually means.
Then list 5 questions I should ask the employer or a qualified adviser. Say clearly that rules
differ by country and by contract, and do not state any specific legal limit.তারপর উত্তরটা আপনি যেখানে থাকেন সেখানকার নিয়মে মিলিয়ে নিন (check where you live)। ব্যবহার করুন আপনার দেশের সরকার, নিয়ন্ত্রক সংস্থা বা জনস্বাস্থ্য বিভাগের ওয়েবসাইটের মতো সরকারি উৎস, আপনার নিজের চুক্তির লেখা, বা যোগ্য পেশাজীবী (আইনজীবী, ডাক্তার, ফার্মাসিস্ট, হিসাবরক্ষক)। দেখুন উৎসটা হালনাগাদ কি না, আর আপনার জায়গা ও ঘটনায় খাটে কি না। বিষয়টা জরুরি বা গুরুতর হলে সরাসরি পেশাজীবী বা জরুরি সেবার কাছে যান।
সংবেদনশীল ডেটা চ্যাটের বাইরে রাখুন
উপরের সবটাই মডেল থেকে যা বেরিয়ে আসে তা নিয়ে। এই অংশ যা ঢোকে তা নিয়ে। আপনার লেখা টেক্সট অন্য কারও চালানো সেবায় যায়। তার কী হবে তা নির্ভর করে প্রোডাক্ট, প্ল্যান ও আপনার সেটিংসের ওপর, আর এগুলো বদলায়। তাই সবচেয়ে নিরাপদ অভ্যাস: শেয়ার করার আগেই ঠিক করুন কী শেয়ার করবেন।
পাসওয়ার্ড, API কি বা অ্যাক্সেস টোকেন পেস্ট করবেন না
সিক্রেট বলতে সেই সবকিছু, যা প্রমাণ করে আপনি কে, বা অন্য কাউকে আপনার হয়ে কাজ করতে দেয়: পাসওয়ার্ড, API কি, অ্যাক্সেস টোকেন, রিকভারি কোড, প্রাইভেট কি। সাহায্য করতে মডেলের এগুলো কখনো লাগে না। প্লেসহোল্ডার বসান।
দুর্বল প্রম্পট:
Why does this fail? Authorization: Bearer EXAMPLE-NOT-A-REAL-TOKEN-8f3a91
GET /reports returns 401ভালো প্রম্পট:
Why would GET /reports return 401 when I send the header "Authorization: Bearer YOUR_TOKEN"?
List the three most common causes and how I can check each one.উপরের টোকেনটা বানানো। কখনো ভুলে আসল সিক্রেট পেস্ট করে ফেললে ধরে নিন সেটা ফাঁস হয়েছে: যে সেবা সেটা দিয়েছে সেখানে বাতিল বা বদলে ফেলুন, তারপর কাজ চালান। চ্যাট ইতিহাস থেকে সরানোর টুল থাকলেও ফাঁস হওয়া ফেরত হয় না। কোনো ফাইল শেয়ার করতে চাইলে এবং তাতে সিক্রেট থাকলে, আগে কপি থেকে তা মুছে নিন।
উদাহরণ থেকে অপ্রয়োজনীয় ব্যক্তিগত তথ্য সরান
ব্যক্তিগত তথ্য হলো যা কাউকে শনাক্ত করে: নাম, ফোন নম্বর, ঠিকানা, ইমেইল, পরিচয়পত্র নম্বর, অ্যাকাউন্ট নম্বর, স্বাস্থ্য বা পেমেন্টের বিবরণ, আর কখনো এমন খুঁটিনাটি যা একাই যথেষ্ট অনন্য। প্রতিটা বিষয়ে একটা প্রশ্ন করুন: কাজটার কি এটা দরকার? সাধারণত দরকার নেই। প্লেসহোল্ডার ব্যবহার করুন, আর কোনটা কীসের জায়গায় তা নিজের ব্যক্তিগত নোটে রাখুন।
দুর্বল প্রম্পট:
Reply to this message. Ms Farida Rahman, flat 4B, 12 Lake Road, phone 555-0142, writes:
"My order 88213 never arrived and I want a refund to my card ending 4471."ভালো প্রম্পট:
Write a polite reply to this customer message. Use [CUSTOMER_NAME] as the greeting name.
Do not ask for card details.
<message>
My order [ORDER_ID] never arrived and I want a refund to my card.
</message>মডেল একই উত্তর লিখতে পারে, অথচ গ্রাহকের ঠিকানা, ফোন নম্বর ও কার্ডের অঙ্ক চ্যাটের বাইরে থাকে। প্লেসহোল্ডার আপনি নিজের মেইল প্রোগ্রামে বসিয়ে নেবেন। অনুপস্থিত তথ্যের জন্য আপনি যে প্লেসহোল্ডার ব্যবহার করেছিলেন, এটা একই ধারণা, এবার তথ্য রক্ষার কাজে। অন্যের ডেটায় বাড়তি যত্ন দরকার: তারা AI সেবায় নিজেদের তথ্য পেস্ট করায় রাজি হয়নি, আর আপনার প্রতিষ্ঠানের এ নিয়ে নিয়ম থাকতে পারে।
সংবেদনশীল উপাদান শেয়ারের আগে চ্যাট অ্যাপের ডেটা কন্ট্রোল দেখুন
সংবেদনশীল কিছু (ক্লায়েন্টের নথি, আর্থিক রেকর্ড, স্বাস্থ্যতথ্য, ব্যক্তিগত বিবরণ) শেয়ারের আগে অ্যাপের ডেটা কন্ট্রোল দেখুন। নাম ও ডিফল্ট প্রোডাক্টভেদে আলাদা এবং সময়ের সঙ্গে বদলায়, তাই কারও স্মৃতির ওপর ভরসা না করে আপনার অ্যাপের বর্তমান সেটিংস দেখে নিন (check your app's current settings)। ছোট একটা চেকলিস্ট:
- ট্রেনিং বা "মডেল উন্নত করা" সেটিং: আপনার কথোপকথন সেবা উন্নত করতে ব্যবহার হতে পারে কি? আপনি কি তা বন্ধ করতে পারেন?
- অস্থায়ী বা প্রাইভেট মোড: আপনার অ্যাপে আছে কি, আর ঠিক কী প্রতিশ্রুতি দেয়?
- ইতিহাস ও মুছে ফেলা: চ্যাট কীভাবে মুছবেন, আর মোছায় কি সবকিছু যায় (যেমন আগেই পর্যালোচনা হওয়া বা ফিডব্যাক হিসেবে পাঠানো কপি)?
- ফিডব্যাক বোতাম ও মানুষের পর্যালোচনা: অনেক সেবায় থাম্বস-আপ বা থাম্বস-ডাউন, অথবা নিরাপত্তা-পর্যালোচনা কথোপকথনটা প্রোভাইডারের লোকজনের সামনে পৌঁছে দিতে পারে।
- অ্যাকাউন্টের ধরন: কাজ, স্কুল ও ব্যবসায়িক অ্যাকাউন্টের শর্ত প্রায়ই বিনামূল্যের ব্যক্তিগত অ্যাকাউন্টের চেয়ে আলাদা। নিজেরটা পড়ুন, নিশ্চিত না হলে প্রতিষ্ঠানকে জিজ্ঞেস করুন।
- ফাইল: আপলোড করা ফাইল জমা থাকতে পারে। গোপনীয় কিছু আপলোডের আগে ডেটা পাতাটা পড়ুন।
এর কোনো সেটিংই পাসওয়ার্ড বা অন্যের ব্যক্তিগত ডেটা পেস্ট করা নিরাপদ বানায় না। নিশ্চিত না হলে কম শেয়ার করুন: পরিস্থিতিটা নিজের ভাষায় সংক্ষেপে লিখুন, প্লেসহোল্ডার ব্যবহার করুন, বা প্রতিষ্ঠানকে জিজ্ঞেস করুন কোন টুল অনুমোদিত।
কাজের জায়গায় এটা কোথায় দেখা যায়
- সিদ্ধান্ত ও রিপোর্ট: প্রম্পটের "অনুমান ও অনুপস্থিত প্রমাণ" অংশ সুপারিশের একটা নিয়মিত অনুচ্ছেদ হয়ে যায়, ফলে ম্যানেজার দেখেন পরামর্শ কীসের ওপর দাঁড়িয়ে।
- অর্থ ও অপারেশন: মডেলের দেওয়া প্রতিটা অঙ্ক কোটেশন বা রিপোর্টে যাওয়ার আগে স্প্রেডশিটে আবার কষা হয়।
- কাস্টমার সাপোর্ট: কর্মীরা প্রতিদিন গ্রাহকের বার্তা AI টুলে পেস্ট করেন; প্লেসহোল্ডার আর ব্যক্তিগত তথ্য নিয়ে কোম্পানির স্পষ্ট নিয়ম ব্যক্তিগত তথ্যের ধীর ফাঁস ঠেকায়।
- ডেভেলপার: কোড ও লগে সিক্রেট ফাঁসের একটা সাধারণ উৎস। প্রম্পটে এগুলো রাখবেন না; Git ও API-এর টিউটোরিয়ালে দেখেছেন কীভাবে সিক্রেট এনভায়রনমেন্ট ভেরিয়েবলে রাখতে হয়।
সাধারণ ভুল
- আত্মবিশ্বাসী ভাষায় ভরসা করা। সাবলীল লেখা নিশ্চিত শোনায়। সমাধান: প্রতিটা দাবি কোথা থেকে এল আর কী অজানা, তা জিজ্ঞেস করুন।
- "আপনি কি নিশ্চিত?" জিজ্ঞেস করে পরের উত্তর মেনে নেওয়া। সে শুধু উল্টে দিতে বা পুনরাবৃত্তি করতে পারে। সমাধান: খুলে দেখা যায় এমন উদ্ধৃতি বা উৎস চান, তারপর সত্যিই খুলে দেখুন।
- হিসাবের লেআউট দেখা, কিন্তু ইনপুট না দেখা। গোছানো ধাপ বাদ-পড়া সংখ্যা লুকাতে পারে। সমাধান: প্রতিটা ইনপুট আপনার তথ্যের সঙ্গে মেলান এবং আবার কষুন।
- আইন, চিকিৎসা বা করের নিয়মের ব্যাখ্যাকে নিজের ঘটনার পরামর্শ ধরা। সমাধান: প্রস্তুতির জন্য ব্যবহার করুন, তারপর আপনি যেখানে থাকেন সেখানকার সরকারি উৎস বা পেশাজীবীর কাছে যাচাই করুন।
- "শুধু এবারের জন্য" আসল টোকেন পেস্ট করা। সমাধান: প্লেসহোল্ডার বসান, আর সিক্রেটটা আসল হলে বাতিল করুন।
- ধরে নেওয়া একটা সেটিং আপনাকে রক্ষা করছে। সমাধান: আপনার অ্যাপের বর্তমান সেটিংস দেখুন, তারপরও যতটা কম সম্ভব শেয়ার করুন।
নিজে চেষ্টা করুন
- সহজ। এগুলোকে "পেস্ট করা চলে", "আগে সরান বা বদলান" আর "কখনো পেস্ট নয়"-তে সাজান: (ক) আপনার লেখা একটা ব্লগ পোস্টের খসড়া; (খ) গ্রাহকের ফোন নম্বর ও বাড়ির ঠিকানা; (গ) ডেটাবেসের পাসওয়ার্ড; (ঘ) বানানো একটা নমুনা ইনভয়েস; (ঙ) সহকর্মীর ব্যক্তিগত বার্তাসহ একটা ইমেইলের স্ক্রিনশট; (চ) প্রকাশিত একটা প্রেস বিজ্ঞপ্তি।
- মাঝারি। এই পাতার Delta Packaging-এর নোট নিন। সাপ্লায়ার বদলানো উচিত কি না তার সুপারিশ চেয়ে একটা প্রম্পট লিখুন, তিন কৌশলে: অনুমান, অনুপস্থিত প্রমাণ, তারপর সুপারিশ। যোগ করুন একটা নিয়ম যে উত্তরের প্রতিটা সংখ্যা নোট থেকে আবার কষে মেলাতে হবে। আপনার চ্যাট অ্যাসিস্ট্যান্টে চালান, তারপর ১.৫০ দামের ২,০০০ বাক্সের একটা বানানো অর্ডারে ৬% দামের পার্থক্য নিজে কষে ফল মিলিয়ে দেখুন।
- কঠিন। গবেষণা ও সোর্স যাচাই: সাইটেশন, দাবি ও ভেরিফিকেশন পাতায় লেখা একটা প্রম্পটে ফিরুন। নতুন করে লিখুন: (১) [STATED]/[INFERRED]/[UNKNOWN] লেবেল, (২) সমর্থনকারী উদ্ধৃতির অনুরোধ, আর (৩) গোপনীয়তা যাচাই: ইনপুট থেকে ব্যক্তিগত বা গোপন সবকিছু সরান। পুরোনো ও নতুন সংস্করণ চালিয়ে যাচাই করা যায় এমন তিনটা পার্থক্য লিখুন, আর ভালোটা প্রম্পট লাইব্রেরি বানানো: নাম, টেমপ্লেট, টেস্ট কেস ও সীমাবদ্ধতা-র মতো "জানা সীমাবদ্ধতা"-র লাইনসহ আপনার প্রম্পট লাইব্রেরিতে রাখুন।
উত্তর
সহজ। পেস্ট করা চলে: (ক), (ঘ), (চ)। আগে সরান বা বদলান: (ঙ), কারণ এতে অন্যের ব্যক্তিগত বিষয় আছে; আর (খ), যদি না কাজটার সত্যিই দরকার হয়, দরকার হলে আগে প্রতিষ্ঠানের নিয়ম ও অ্যাপের ডেটা কন্ট্রোল দেখুন (বেশিরভাগ কাজে [PHONE] ও [ADDRESS] বসান)। কখনো পেস্ট নয়: (গ)। পাসের চেকলিস্ট: সিক্রেট কখনো পেস্ট হয়নি; অন্যের ব্যক্তিগত ডেটা, দরকার না হলে, সরানো বা বদলানো হয়েছে; বানানো বা প্রকাশিত উপাদান চলে।
মাঝারি। একটা ভালো প্রম্পট: "Use only the notes between the tags. Step 1: list the assumptions you must make. Step 2: list missing evidence that would change the advice. Step 3: recommend, or say 'not enough information yet'. Show the arithmetic for every number, with inputs." মেলানোর হিসাব: ১.৫০ দামের ২,০০০ বাক্স হলো ৩,০০০.০০; ৬% কম হলে ৩,০০০.০০ x ০.৯৪ = ২,৮২০.০০, অর্থাৎ ১৮০.০০ সাশ্রয়। পাসের চেকলিস্ট: তিন ধাপ ক্রমানুসারে আছে; অনুমান ও অনুপস্থিত প্রমাণ নোটের নির্দিষ্ট বিষয়ের (ক্ষতিগ্রস্ত অর্ডার, ছোট নমুনা, না-দেখা কারখানা); সুপারিশ শর্তসাপেক্ষ; প্রতিটা অঙ্ক আপনার নিজের হিসাবের সঙ্গে মেলে; কোন বক্তব্য নোট দ্বারা সমর্থিত আর কোনটা নয়, তা আপনি টুকে রেখেছেন।
কঠিন। উত্তর ভিন্ন হবে। পাসের চেকলিস্ট: নতুন উত্তরে লেবেল আছে এবং অন্তত দুটো [STATED] বিষয় আপনি উৎসের সঙ্গে মিলিয়েছেন; প্রতিটা উদ্ধৃতি ইনপুটে সত্যিই আছে; ইনপুটে এমন কোনো নাম, সংখ্যা, কি বা ব্যক্তিগত বিবরণ নেই যা কাজটার দরকার নয়; আপনার তিনটা পার্থক্য নির্দিষ্ট (যেমন "এখন দাবি ২-এর উদ্ধৃতি খুঁজে পাচ্ছি"; "দাবি ৪ [UNKNOWN] চিহ্নিত, তাই ব্যবহার করব না"); লাইব্রেরির এন্ট্রিতে নাম, টেমপ্লেট, একটা টেস্ট কেস এবং এমন সীমাবদ্ধতার লাইন আছে যেমন "লেবেলগুলো মডেলের নিজের সাজানো; উদ্ধৃতিগুলো আমি নিজে দেখি"।
সারসংক্ষেপ
- আত্মবিশ্বাসী ভাষা প্রমাণ নয়। মডেলকে বলুন কী stated, inferred ও unknown তা লেবেল করতে, আর খুঁজে পাওয়া যায় এমন সমর্থনকারী উদ্ধৃতি দিতে।
- Plausible, supported ও verified তিনটা আলাদা অবস্থা। যাচাই করলেই কেবল কিছু verified হয়।
- সুপারিশের আগে অনুমান ও অনুপস্থিত প্রমাণ চান, আর প্রতিটা গুরুত্বপূর্ণ গণনা, ইনপুটসহ, আবার কষুন।
- আইন, চিকিৎসা ও আর্থিক বিষয়ে মডেল দিয়ে বুঝুন ও প্রস্তুতি নিন, তারপর আপনি যেখানে থাকেন সেখানকার সরকারি উৎস বা পেশাজীবীর কাছে যাচাই করুন।
- সিক্রেট কখনো পেস্ট করবেন না, অপ্রয়োজনীয় ব্যক্তিগত তথ্য সরান, সংবেদনশীল কিছু শেয়ারের আগে আপনার অ্যাপের বর্তমান সেটিংস দেখুন। তারপরও ন্যূনতমটুকুই শেয়ার করুন।
এরপর: অবিশ্বস্ত টেক্সট ও প্রম্পট ইনজেকশন: ডকুমেন্টকে ডেটা হিসেবে দেখা দেখাবে আপনার দেওয়া ডকুমেন্টের ভেতরের টেক্সট কীভাবে মডেলকে চালাতে চাইতে পারে, আর কী সত্যিই সেই ঝুঁকি কমায়।