অপব্যবহার ও নিরাপত্তা বিশ্লেষণ: হুমকির পরিস্থিতি, দ্বৈত ব্যবহার ও অপব্যবহারের কেস

আগের পাতাগুলোতে জিজ্ঞেস করা হয়েছে, পরিকল্পনা মতো কাজ করলে একটা ফিচার কী করে। এই পাতা জিজ্ঞেস করে, মানুষ এটা দিয়ে আর কী করবে। অপব্যবহার বিশ্লেষণ একটা শান্ত, ব্যবহারিক কাজ: কারা ফিচারটা অনিচ্ছাকৃতভাবে ব্যবহার করতে পারে তার তালিকা করুন, কোনগুলো পূর্বানুমেয় তা ঠিক করুন, আর প্রতিটার সঙ্গে একটা নিয়ন্ত্রণ ও একটা পরীক্ষা জুড়ে দিন। এই পাতা ও পরের পাতা প্রতিরক্ষামূলক: এগুলো থাকে পরিস্থিতি ও নিয়ন্ত্রণের স্তরে, ক্ষতি করার কোনো কার্যকর খুঁটিনাটি দেয় না।

এবার কোনো কোড নেই। সবকিছুই টেবিল, টেমপ্লেট বা ওয়ার্কশিট, যা আপনি নিজে ভরতে পারবেন। চলমান উদাহরণ একটা নতুন ফিচারে এগোয়।

সততার নিয়ম। প্রতিটা কোম্পানি, মানুষ, ফিচার ও পরিস্থিতি কাল্পনিক, যদি না নথিভুক্ত ঘটনা লেবেল থাকে। এখানে কিছুই আইনি পরামর্শ নয়।

যা শিখবেন

• হুমকি ও অপব্যবহারের পরিস্থিতির তালিকা কীভাবে বানাবেন, আর উদ্দিষ্ট ব্যবহার থেকে পূর্বানুমেয় অপব্যবহারকে কীভাবে আলাদা করবেন।
• স্বাভাবিক ব্যবহারকারী-যাত্রার বাইরের অপব্যবহারের কেস কীভাবে লিখবেন।
• প্রতারণা, ছদ্মবেশ এবং কৃত্রিম কণ্ঠ ও ভিডিওর ঝুঁকি কীভাবে মূল্যায়ন করবেন, আর প্রকাশ ও প্রোভেন্যান্স কোথায় সাহায্য করে এবং কোথায় থেমে যায়।
• সম্মতিহীন কৃত্রিম অবয়ব, শিশু ও ঝুঁকিপ্রবণ ব্যবহারকারী, আর স্পর্শকাতর স্বাস্থ্য-অনুরোধ নীতির স্তরে কীভাবে সামলাবেন।

চলমান উদাহরণ: কৃত্রিম কণ্ঠের একটা ফিচার

কাল্পনিক পরিস্থিতি:

Company:  Harbourline Staffing (invented), the agency from page 1.
Feature:  InviteVoice. A recruiter types an interview invitation and the system reads it aloud
          in the recruiter's own synthetic voice, made from a sample the recruiter recorded.
Purpose:  save recruiters time and give candidates a warmer message than plain text.
Boundary: the recruiter's own voice only; invitations only; sent from the agency's account.
Question: before launch, what could go wrong, for whom, and what do we do about it?

প্রথম পাতার সিদ্ধান্ত-ছকটা ব্যবহার করুন। এখানে "বানাবই না" বিকল্পটা বাস্তব: সাধারণ টেক্সট আমন্ত্রণও কাজটা করে। যে ফিচার বিশ্বাসযোগ্য কণ্ঠ বানাতে পারে, সেটা বিশ্বাসযোগ্য ভুয়া কণ্ঠও বানাতে পারে।

হুমকি ও অপব্যবহারের পরিস্থিতির তালিকা

হুমকি ও অপব্যবহারের পরিস্থিতির একটা তালিকা বানান। হুমকি হলো ফিচার, তার ব্যবহারকারী বা অন্য মানুষের ক্ষতি করার একটা উপায়। অপব্যবহার হলো এমন ব্যবহার, যা উদ্দেশ্যের বিরুদ্ধে যায়। চারটা প্রশ্ন থেকে তালিকা বানান: অভিনেতারা কারা (বাইরের লোক, ব্যবহারকারী, ভেতরের লোক, এবং সিস্টেমের নিজের ব্যর্থতা), তারা কী চায়, তাদের হাতে কী আছে, আর ক্ষতি হয় কার। প্রতিটা পরিস্থিতি একটা সাধারণ বাক্যে লিখুন; ঝুঁকি বুঝতে কৌশল জানার দরকার নেই।

টেমপ্লেট:

ID   Actor           Goal (generic)                    Who is harmed        Existing control?
M1   Outsider        gets a voice made for someone     the person copied;   none yet
                     who did not agree                 people who trust it
M2   Registered user asks for a fake voice message of   the colleague;       none yet
                     a manager approving a payment     the agency
M3   Insider         uses a colleague's voice sample   the colleague        access log only
                     without asking
M4   Outsider        sends the agency's voice to        candidates           none yet
                     candidates in a false job offer
M5   Any user        tries many odd inputs to see what  anyone (unknown)     rate limit
                     the filter lets through
M6   The system      reads a name or number wrongly     a candidate          human check
                     in an invitation

লক্ষ করুন, তালিকায় দুরভিসন্ধি (M2, M4), অসাবধানতা (M6) আর কৌতূহল (M5) মিশে আছে। ভালো তালিকা উদ্দেশ্য অনুমান করে না; জিজ্ঞেস করে ফিচারটা কী করতে দেয়। দ্বিতীয় পাতার রেজিস্টার (সম্ভাবনা, তীব্রতা, ফেরানো যাওয়া) দিয়ে প্রতিটা সারিকে স্কোর করুন, আর তালিকাটা রিস্ক রেজিস্টারের পাশে একজন মালিকসহ রাখুন।

উদ্দিষ্ট ব্যবহার ও পূর্বানুমেয় অপব্যবহার

উদ্দিষ্ট ব্যবহার থেকে পূর্বানুমেয় অপব্যবহারকে আলাদা করুন। উদ্দিষ্ট ব্যবহার হলো যা দল ডিজাইন করেছে এবং উদ্দেশ্যে লিখেছে। পূর্বানুমেয় অপব্যবহার হলো যে ব্যবহার উদ্দিষ্ট নয়, কিন্তু সহজ, সম্ভাব্য, বা অনুরূপ টুলে আগেই দেখা গেছে। এটা সম্ভাব্য অপব্যবহার থেকে আলাদা: প্রায় সবকিছুই সম্ভব, তাই সবকিছুর তালিকা কারও কাজে আসে না। একটা ব্যবহারিক পরীক্ষা: ফিচারটা জানেন এমন একজন বিবেচক সহকর্মী শুনে যদি বলেন, "অবশ্যই কেউ এটা চেষ্টা করবে", তাহলে সেটা পূর্বানুমেয়।

অপব্যবহার আগে থেকে কতদূর ভাবা নির্মাতার কাজ? যুক্তিসঙ্গত মানুষেরা একমত নন।

কোর্স কোনো পক্ষ নেয় না। এটা চায় আপনি বলুন, কোন অপব্যবহারকে পূর্বানুমেয় ধরছেন, কেন, এবং তার জন্য কী করছেন; যাতে পর্যালোচক কোনো মেজাজের সঙ্গে নয়, নির্দিষ্ট বিষয়ের সঙ্গে দ্বিমত করতে পারেন।

স্বাভাবিক ব্যবহারকারী-যাত্রার বাইরের অপব্যবহারের কেস

স্বাভাবিক ব্যবহারকারী-যাত্রার বাইরের অপব্যবহারের কেস শনাক্ত করুন। একটা ইউজার স্টোরি বলে, "রিক্রুটার হিসেবে আমি আমন্ত্রণ পাঠাতে চাই, যাতে প্রার্থী উত্তর দেন"। একটা অপব্যবহারের কেস সেটা উল্টে দেয়: "প্রতারণা করতে চাওয়া একজন হিসেবে আমি একজন ম্যানেজারের মতো শোনায় এমন কণ্ঠবার্তা চাই, যাতে কেউ সেটা অনুযায়ী কাজ করে"। যেসব দল শুধু ইউজার স্টোরি লেখে, তারা কেবল সুখের পথ পরীক্ষা করে। অপব্যবহারের কেস খুঁজতে সাহায্য করার কিছু প্রশ্ন, যার কোনোটারই কৌশল জানা লাগে না:

• ভুল মানুষ। নমুনাটা যদি এমন কারও হয়, যিনি রাজি হননি?
• ভুল বিষয়বস্তু। টেক্সট যদি ফিচারের উদ্দেশ্যের বাইরের কিছু হয় (পেমেন্টের অনুরোধ, হুমকি, ভুয়া অফার)?
• ভুল মাত্রা। একটা অ্যাকাউন্ট যদি হাজার হাজার বার্তা পাঠায়?
• ভুল মাধ্যম। আউটপুট যদি সংরক্ষিত হয়ে পণ্যের বাইরে আবার ব্যবহৃত হয়, যেখানে কোনো লেবেল সঙ্গে যায় না?
• ভুল ভেতরের লোক। প্রবেশাধিকারী কর্মী, ঠিকাদার বা ভেন্ডর যদি অপব্যবহার করেন?
• সিস্টেমকে প্রভাবিত করা। টেক্সটে যদি সিস্টেমকে লক্ষ্য করে নির্দেশ থাকে (দেখুন AI-এর জন্য প্রম্পট ইঞ্জিনিয়ারিং: অ্যাডভান্সড-এ প্রম্পট ইনজেকশন)?
• আপনার নিজের ব্যর্থতা। ফিচারটা যদি বড় মাত্রায় সরল ভুল করে?

প্রতারণা ও ছদ্মবেশের ঝুঁকি

প্রতারণা ও ছদ্মবেশের ঝুঁকি মূল্যায়ন করুন। কৃত্রিম মিডিয়া দিয়ে প্রতারণায় সাধারণত তিনটা উপাদান মেলে: কর্তৃত্ব (উচ্চপদস্থ বা চেনা কেউ), তাড়া (এখনই করুন), আর বাস্তবসম্মত কণ্ঠ বা মুখ। প্রতিরক্ষাও সাধারণত একটা প্রক্রিয়া, ডিটেক্টর নয়: অনুরোধকারী নিয়ন্ত্রণ করতে পারেন না এমন একটা দ্বিতীয় মাধ্যমে নিশ্চিত করুন।

নথিভুক্ত ঘটনা: ২০২৪ সালের ফেব্রুয়ারিতে Hong Kong Free Press পুলিশের বরাতে জানায়, একটা বহুজাতিক কোম্পানির এক কর্মচারীকে ভিডিও কনফারেন্সে প্রতারিত করে ১৫টা পেমেন্টে প্রায় HK$২০ কোটি স্থানান্তর করানো হয়েছে। পুলিশ বলে, কলে আর সবাইকে ছদ্মবেশে দেখানো হয়েছিল এবং ভুয়া অংশগ্রহণকারীরা আগে থেকে রেকর্ড করা বলে মনে হয়েছে। প্রতিবেদনের সময় কোনো গ্রেপ্তার হয়নি। কোম্পানির নাম এখানে দেওয়া হয়নি। ঘটনাটা ধরনটা দেখায়, কৌশল নয়: কর্তৃত্ব, তাড়া, আর এমন একটা কল যা আসল মনে হয়েছিল।

যুক্তরাষ্ট্রের Federal Trade Commission-ও (২০২৩) ভোক্তা-পরামর্শ প্রকাশ করেছে, যেখানে প্রতারকেরা ছোট একটা অডিও ক্লিপ থেকে আত্মীয়ের কণ্ঠ নকল করে। পরামর্শ: কণ্ঠকে বিশ্বাস করবেন না; কেটে দিয়ে আপনার আগে থেকে জানা নম্বরে ফোন করুন; অন্য কোনো আত্মীয়ের সঙ্গে যাচাই করুন; ওয়্যার, ক্রিপ্টোকারেন্সি বা গিফট কার্ডে টাকা দেওয়ার যেকোনো অনুরোধে সতর্ক থাকুন; আর আপনার দেশের কর্তৃপক্ষকে প্রতারণাটা জানান।

কৃত্রিম কণ্ঠ ও ভিডিওর ঝুঁকি

কৃত্রিম কণ্ঠ ও ভিডিওর ঝুঁকি মূল্যায়ন করুন। কার ক্ষতি হয় সে অনুযায়ী ভাগ করুন:

• যাঁকে নকল করা হয়। তাঁর কণ্ঠ বা মুখ দিয়ে এমন কথা বলানো হয় যা তিনি বলেননি: সুনাম, টাকা, নিরাপত্তা, মর্যাদা।
• শ্রোতা। যাঁরা প্রতারিত হয়ে টাকা দেন, ভোট দেন, বিশ্বাস করেন বা অভিযোগ করেন।
• বৃহত্তর তথ্য-পরিবেশ। নকল সহজ হলে আসল রেকর্ডিংকে নকল বলে উড়িয়ে দেওয়া যায়, আর মানুষ হয়তো কোনো মিডিয়াকেই বিশ্বাস করা ছেড়ে দেবে। এটা যুক্তিনির্ভর উদ্বেগ, মাপা তথ্য নয়।
• নির্মাতা। সুনাম, আইনি ঝুঁকি, এবং ঘটনা ঘটলে সামলানোর খরচ।

কণ্ঠের ওপর ভিডিও দুটো জিনিস যোগ করে: মুখ পরিচয়ের সঙ্গে দৃঢ়ভাবে জড়িত, আর একাধিক ভুয়া অংশগ্রহণকারীর গ্রুপ কল (যেমন Hong Kong-এর প্রতিবেদনে) স্বতন্ত্র নিশ্চিতকরণের মতো দেখাতে পারে। একই মাধ্যমে "দ্বিতীয় জোড়া চোখ" দ্বিতীয় মাধ্যম নয়।

কৃত্রিম মিডিয়ার প্রকাশ (disclosure)

কৃত্রিম মিডিয়ার জন্য প্রকাশের প্রয়োজন ঠিক করুন। প্রকাশ মানে মানুষকে জানানো যে মিডিয়াটা কৃত্রিম, বা তাঁরা একটা যন্ত্রের সঙ্গে কথা বলছেন। আপনার নীতির তিনটা অংশ: কাকে জানাবেন (যিনি শুনছেন), কীভাবে (দৃশ্যমান লেবেল, মুখে বলা নোটিশ, মেটাডেটা, ইন্টারফেসের নোটিশ) এবং কখন (তিনি তার ওপর কাজ করার আগে)। আরও ঠিক করুন দায়িত্ব কার: যে প্রদানকারী টুল বানায়, নাকি যে প্রতিষ্ঠান কনটেন্ট প্রকাশ করে।

আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): ইউরোপীয় কমিশনের EU AI Act-পাতায় একটা "স্বচ্ছতার ঝুঁকি" শ্রেণি আছে: চ্যাটবটের মতো AI-এর সঙ্গে কথা বললে ব্যবহারকারীকে জানাতে হবে, জেনারেটিভ আউটপুট শনাক্তযোগ্য হতে হবে, আর ডিপফেকে লেবেল দিতে হবে। Article 50 (একটা অনানুষ্ঠানিক পাঠ-সাইটে যেভাবে দেখানো) বলে, প্রদানকারীদের এমনভাবে সিস্টেম ডিজাইন করতে হবে যাতে মানুষের সঙ্গে ক্রিয়াশীল সিস্টেম যে AI তা মানুষ জানে (স্পষ্ট না হলে), এবং কৃত্রিম অডিও, ছবি, ভিডিও বা টেক্সট "প্রযুক্তিগতভাবে যতটা সম্ভব" যন্ত্র-পাঠযোগ্যভাবে চিহ্নিত করতে হবে; ডিপ্লয়ারদের ডিপফেক প্রকাশ করতে হবে (স্পষ্টতই শৈল্পিক, ব্যঙ্গাত্মক বা কাল্পনিক কাজে হালকা প্রকাশ), এবং জনগুরুত্বের বিষয়ে জনগণকে জানাতে প্রকাশিত AI-তৈরি টেক্সটও, যদি না কোনো মানুষের সম্পাদকীয় নিয়ন্ত্রণ থাকে আর একজন নামধারী ব্যক্তি দায়ী থাকেন। কমিশনের AI Service Desk-এর সময়রেখা অনুযায়ী এই নিয়ম ২০২৬-০৮-০২ থেকে প্রযোজ্য, আর ওই তারিখের আগেই বাজারে থাকা কিছু প্রদানকারীের জন্য ২০২৬-১২-০২ পর্যন্ত একটা ট্রানজিশনাল সময়সীমা আছে। চিহ্নিতকরণ ও লেবেলিংয়ের একটা স্বেচ্ছামূলক কোড অব প্র্যাকটিস আছে বা প্রস্তুত হচ্ছে বলে জানা যায়; কমিশনের সাইট দেখুন। অন্য কিছু দেশেও AI-তৈরি কনটেন্টে লেবেল লাগে বলে জানা যায়; আপনি যেখানে কাজ করেন সেখানকার নিয়ম দেখুন। আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।

প্রকাশ আইন নয় এমন প্রাসঙ্গিক নিয়মের ওপরও নির্ভর করে: স্কুল, জার্নাল বা নিয়োগকর্তা তা চাইতে পারে। যেমন, International Committee of Medical Journal Editors (ICMJE) লেখকদের AI ব্যবহার প্রকাশ করতে বলে এবং চ্যাটবটকে লেখক হিসেবে গ্রহণ করে না। তিনটাকে আলাদা রাখুন: নৈতিক উদ্বেগ, আইনি বাধ্যবাধকতা, আর আপনার নিজের ঠিক করা নীতি।

প্রোভেন্যান্স সংকেত ও খাঁটিত্বের প্রমাণ

প্রোভেন্যান্স সংকেতকে খাঁটিত্বের প্রমাণ থেকে আলাদা করুন। প্রোভেন্যান্স হলো একটা ফাইল কোথা থেকে এসেছে এবং তার ওপর কী করা হয়েছে তার রেকর্ড। এ কাজের জন্য C2PA একটা খোলা প্রযুক্তিগত স্ট্যান্ডার্ড; এর বাস্তবায়নের নাম Content Credentials (হোম পেজ একে "ডিজিটাল কনটেন্টের পুষ্টি-লেবেল" বলে বর্ণনা করে, আর বর্তমান সংস্করণ ২.৩ দেখায়)। একটা ক্রেডেনশিয়াল হলো ফাইলের সঙ্গে বাঁধা স্বাক্ষরিত দাবি; কাঠামোটা বদলালে ধরা পড়ে (tamper-evident), আর স্পেসিফিকেশন বলে, ডেটা ভালো না খারাপ সে বিষয়ে এটা কোনো মূল্যবিচার করে না। সফটওয়্যার স্বাক্ষর যাচাই করে ফল দেখায়, যাতে মানুষ ঠিক করতে পারেন স্বাক্ষরকারীকে কতটা বিশ্বাস করবেন।

যে নিয়ম শেখানো হচ্ছে: প্রোভেন্যান্স ঠিক করে আপনি ফাইলটা কতটা বিশ্বাস করবেন, যাচাই করতে হবে কি না তা নয়। শুধু ডিটেক্টরের স্কোর দিয়ে কখনও কাউকে অভিযুক্ত করবেন না। প্রক্রিয়ার প্রমাণ ব্যবহার করুন: কে পাঠিয়েছে, কোন মাধ্যমে, কোন স্বতন্ত্র রেকর্ড আছে, আর দ্বিতীয় মাধ্যম কী বলছে।

সম্মতিহীন কৃত্রিম অবয়ব

সম্মতিহীন কৃত্রিম অবয়বের ঝুঁকি মূল্যায়ন করুন। কারও মুখ, শরীর বা কণ্ঠ তাঁর সম্মতি ছাড়া নকল করা হলে কৃত্রিম অবয়বটা সম্মতিহীন। সবচেয়ে গুরুতর ধরনটা ঘনিষ্ঠ বা যৌন ছবি, এবং শিশুদের ছবি নিয়ে। আমরা এই অংশ অগ্রাফিক ও প্রতিরক্ষামূলক রাখি: ছবিটা কৃত্রিম হলেও ব্যক্তির ক্ষতি বাস্তব, আর ফিচার এমনভাবে ডিজাইন করা উচিত যাতে এভাবে সহজে ব্যবহার করা না যায়।

আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): ইউরোপীয় কমিশনের AI Service Desk-এর সময়রেখা দেখায়, ২০২৬-১২-০২ থেকে EU AI Act সম্মতিহীন যৌন ডিপফেক ও শিশু যৌন নির্যাতনের উপকরণ তৈরি করে এমন AI সিস্টেমের ওপর নিষেধাজ্ঞা যোগ করে, আর কমিশনের পাতা বলে এটা "nudification" অ্যাপকেও ধরে। ২০২৬-১০-১২ তারিখে এই নিষেধাজ্ঞা গৃহীত হয়েছে, কিন্তু এখনও প্রযোজ্য নয়। আইন-সংস্থার সারসংক্ষেপে জানা যায়, শব্দবন্ধটা এমন কনটেন্টের বিরুদ্ধে যুক্তিসঙ্গত সুরক্ষা নেই এমন সিস্টেমকেও ধরে; সঠিক পাঠ নিশ্চিত করা যায়নি। অন্য কিছু দেশেও সম্মতিহীন ঘনিষ্ঠ ছবি, কৃত্রিম ছবিসহ, নিয়ে আইন বা অপরাধ-ধারা আছে বলে জানা যায়; আপনি যেখানে কাজ করেন সেখানকার নিয়ম দেখুন। UNICEF-এর Guidance on AI and Children, সংস্করণ ৩.০ (২০২৫ সালের ডিসেম্বর), AI-তৈরি শিশু যৌন নির্যাতনের উপকরণ ও সম্মতিহীন ঘনিষ্ঠ ছবি নিয়ে অংশ যোগ করেছে। আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।

নীতির স্তরে ডিজাইনের প্রশ্ন:

• ডিজাইনে সম্মতি। কারও অবয়ব বানানোর শর্ত করুন তাঁর নিজের যাচাই-করা সম্মতি; টিক-বাক্সের ওপর ভরসা করবেন না।
• পরিধি। বাস্তব মানুষের বাস্তবসম্মত অবয়ব বানানো ফিচারের আদৌ দরকার আছে কি না? শুধু অ্যাকাউন্টধারীর নিজের কণ্ঠে সীমিত করলে বেশির ভাগ ঝুঁকি চলে যায়।
• নিষিদ্ধ শ্রেণি। স্পষ্ট করে বলুন, বাস্তব মানুষের যৌন ছবি এবং শিশুদের অবয়ব-সংক্রান্ত কোনো কনটেন্ট কখনও বানানো হবে না, আর তা পরীক্ষা করুন।
• রিপোর্ট ও অপসারণ। রিপোর্ট করার একটা দৃশ্যমান পথ, একজন নামধারী মালিক, আর নির্দিষ্ট সময়ে পদক্ষেপ নেওয়ার প্রতিশ্রুতি।
• ক্ষতিগ্রস্ত ব্যক্তির জন্য সহায়তা। নির্দেশনাটা অগ্রাফিক: উপকরণ ফরওয়ার্ড করবেন না, প্ল্যাটফর্মে এবং আপনি যেখানে থাকেন সেখানকার উপযুক্ত কর্তৃপক্ষকে জানান, কোথায় এটা দেখা গেছে তার রেকর্ড রাখুন, আর বিশ্বস্ত কারও কাছ থেকে বা যোগ্য পেশাজীবীর কাছ থেকে সহায়তা নিন। দেশভিত্তিক যোগাযোগের তথ্য এখানে দেওয়া হয়নি, কারণ তা বদলায়; পণ্য-দল যেসব অঞ্চলে সেবা দেয় তার প্রতিটার জন্য একটা যাচাই-করা তালিকা রাখে।

শিশু ও ঝুঁকিপ্রবণ ব্যবহারকারী

শিশু ও ঝুঁকিপ্রবণ ব্যবহারকারীর ঝুঁকি শনাক্ত করুন। ঝুঁকিপ্রবণতা স্থায়ী বৈশিষ্ট্য (বয়স) হতে পারে, আবার পরিস্থিতিও (শোক, অসুস্থতা, ঋণ, একাকিত্ব, সংকট)। UNICEF-এর নির্দেশনা শিশু-কেন্দ্রিক AI-র জন্য দশটা প্রয়োজন বলেছে, তার মধ্যে নিরাপত্তা, ডেটা ও গোপনীয়তা, বৈষম্যহীনতা, এবং শিশুর সর্বোত্তম স্বার্থ ও কল্যাণ। সংস্করণ ৩.০ AI সঙ্গী এবং AI-তৈরি নির্যাতনমূলক ছবির দিকে বাড়তি মনোযোগ যোগ করেছে।

আইনি নোট (২০২৬-১০-১২ অনুযায়ী; আইনি পরামর্শ নয়): GDPR-এর Article 8 (অনানুষ্ঠানিক পাঠ-সাইট) অনুযায়ী, শিশুকে সরাসরি দেওয়া সম্মতি-ভিত্তিক অনলাইন সেবায় বৈধ সম্মতি ১৬ বছর বয়স থেকে সম্ভব, তার নিচে অভিভাবকের কাছ থেকে; সদস্য রাষ্ট্র বয়স কমাতে পারে, ১৩-র নিচে নয়, আর ডেটা-নিয়ন্ত্রককে অভিভাবকের সম্মতি যাচাইয়ের যুক্তিসঙ্গত চেষ্টা করতে হবে। বয়সের সীমা দেশভেদে আলাদা। আপনার দেশ ও খাতের জন্য বর্তমান সরকারি পাঠ দেখে নিন।

স্পর্শকাতর স্বাস্থ্য-অনুরোধ

স্পর্শকাতর স্বাস্থ্য-অনুরোধের নিরাপদ সামলানো ঠিক করুন। মানুষ AI সিস্টেমকে নিজের স্বাস্থ্য নিয়ে প্রশ্ন করে। পণ্যের জন্য এ বিষয়ে আগে থেকে লেখা একটা নীতি দরকার। WHO স্বাস্থ্যে বড় মাল্টি-মোডাল মডেল নিয়ে নৈতিকতা ও গভর্ন্যান্সের নির্দেশিকা প্রকাশ করেছে, আর এর তালিকায় বলা আছে বিস্তৃত সক্ষমতা "এখনও প্রমাণিত নয়"। সাধারণ উদ্দেশ্যের পণ্যের সীমা: সাধারণ তথ্য, রোগ নির্ণয় নয়, ব্যক্তিগত চিকিৎসার সিদ্ধান্ত নয়, ডোজ নয়; সিদ্ধান্ত নেন একজন যোগ্য পেশাজীবী। এই কোর্স কোনো চিকিৎসা-বিষয়বস্তু দেয় না; সেটাকে ঘিরে নীতি ডিজাইন করে।

কাজের জায়গায় এটা কোথায় দেখা যায়

ট্রাস্ট-অ্যান্ড-সেফটি, প্রোডাক্ট ও নিরাপত্তা দল রিস্ক রেজিস্টারের পাশে একটা অপব্যবহার-তালিকা রাখে, চালুর আগে ও প্রতিটা ঘটনার পরে তা পর্যালোচনা করে, আর প্রতিটা সারিতে একজন মালিক দেয়। ছোট দল দশটা সারি আর একটা সভা দিয়ে শুরু করতে পারে।

সাধারণ ভুল

1. শুধু সুখের পথ তালিকায় রাখা। প্রতিটা স্টোরি যদি "ব্যবহারকারী চান..." হয়, কোনো অপব্যবহারের কেস পাওয়া যায় না। উল্টো স্টোরিটা লিখুন।
2. সব সম্ভাব্য কিছুর তালিকা করা। হাজার সারি আসল দশটাকে ঢেকে দেয়। পূর্বানুমেয়গুলো রাখুন, ক্রম দিন, আর অন্যগুলো কেন বাইরে তা বলুন।
3. লেবেল বা ক্রেডেনশিয়ালকে প্রমাণ ধরা। এটা বিশ্বাসকে সরায়; দ্বিতীয় মাধ্যমে যাচাই তবু লাগে।
4. "ব্যবহারকারীকে প্রাপ্তবয়স্ক হতে হবে" বলেই থেমে যাওয়া। একটা বক্তব্য নিয়ন্ত্রণ নয়। জিজ্ঞেস করুন কী একজন শিশুকে আটকায়, আর একজন ঢুকে গেলে কী হয়।
5. নীতিতে চিকিৎসার উত্তর লিখে ফেলা। নীতি ঠিক করে কে উত্তর দেবেন আর কখন; সে ডাক্তার সাজে না।

নিজে চেষ্টা করুন

অনুশীলনগুলো দ্বিতীয় পাতার রিস্ক রেজিস্টার আবার ছোঁয়।

1. সহজ। InviteVoice-এর জন্য ওপরের তালিকায় নেই এমন একটা অপব্যবহারের কেস লিখুন, "অমুক করতে চাওয়া একজন হিসেবে আমি ... চাই, যাতে ..." ছাঁচে, সাধারণ ভাষায়।
2. মাঝারি। M2 পরিস্থিতিটা নিন (ম্যানেজারের পেমেন্ট অনুমোদনের ভুয়া কণ্ঠবার্তা)। ফিচারে একটা আর প্রতিষ্ঠানে একটা নিয়ন্ত্রণের নাম বলুন, আর দুটোর কোনটাকে বেশি ভরসা করবেন ও কেন, তা বলুন।
3. কঠিন। Harbourline-কে ভিডিও যোগ করতে বলা হয়েছে: রিক্রুটার একটা ছোট কৃত্রিম ভিডিও বার্তায় আসবেন। অপব্যবহার-তালিকার জন্য আরও পাঁচটা সারি লিখুন, কোনগুলো পূর্বানুমেয় তা বলুন, আর সিদ্ধান্ত-ছক ব্যবহার করে বলুন ফিচারটা বানাবেন, শর্তসহ বানাবেন, নাকি বানাবেন না।

উত্তর

সহজ। একটা আদর্শ উত্তর: "একজন প্রার্থীকে চাপে ফেলতে চাওয়া মানুষ হিসেবে আমি রিক্রুটারের ম্যানেজারের মতো শোনায় এমন একটা কণ্ঠবার্তা চাই, যাতে প্রার্থী যাচাই না করেই একটা খারাপ অফার মেনে নেন।" আরও ভালো উত্তর: ভুল মাত্রা, ভুল মাধ্যম বা ভেতরের লোকের অপব্যবহার। পাস চেকলিস্ট: অভিনেতা, লক্ষ্য ও ক্ষতি তিনটাই নামকরা; কোনো কৌশল নেই; কেসটা ফিচার নিয়ে। দুর্বল উত্তর একটা প্রযুক্তিগত এক্সপ্লয়েট, বা এমন কেস যার কোনো ফিচার লাগে না।

মাঝারি। ফিচারের স্তরে: শুধু যাচাই-করা অ্যাকাউন্টধারীর নিজের কণ্ঠ কৃত্রিমভাবে বানানো যাবে; অনুমোদন-ধরনের বার্তা বানানো হবে না। প্রতিষ্ঠানের স্তরে: পেমেন্টে এমন একটা দ্বিতীয় মাধ্যম লাগবে যা অনুরোধকারী নিয়ন্ত্রণ করতে পারেন না। বেশির ভাগ ভালো উত্তর প্রতিষ্ঠানের নিয়ন্ত্রণকে বেশি ভরসা করে, কারণ পণ্যের বাইরের টুল দিয়ে ফিচারের নিয়ন্ত্রণ এড়ানো যায়, তবু দুটোই রাখে। পাস চেকলিস্ট: প্রতি স্তরে একটা নিয়ন্ত্রণ; একটা কারণ; প্রতিটা কী আটকাতে পারে না তার স্বীকৃতি। দুর্বল উত্তর শুধু "কর্মীদের প্রশিক্ষণ দিন" লেখে।

কঠিন। সম্ভাব্য বাড়তি সারি: যিনি রাজি হননি এমন বাস্তব মানুষের ভিডিও; কোনো নেতার ছদ্মবেশে ভিডিও; চাকরির অফারে ভুয়া সমর্থন; লেবেল সরিয়ে সংরক্ষণ করে আবার ব্যবহার করা ভিডিও; প্রার্থী ভিডিওটা যে কৃত্রিম তা বুঝতে না পারা। পূর্বানুমেয়: পাঁচটাই, কণ্ঠের ঝুঁকির মতো তবে আরও জোরালো, কারণ মুখ বাড়তি প্রমাণের ভান দেয়। একটা যুক্তিসঙ্গত সিদ্ধান্ত "শর্তসহ বানান": শুধু রিক্রুটারের নিজের সম্মতি-দেওয়া অবয়ব, দৃশ্যমান ও মুখে বলা প্রকাশ, মেটাডেটা ক্রেডেনশিয়াল, রিপোর্টের পথ ও পর্যালোচনার তারিখ; একটা যুক্তিসঙ্গত বিকল্প "বানাবেন না", কারণ সাধারণ টেক্সটেই উদ্দেশ্য মেটে। পাস চেকলিস্ট: পাঁচটা আলাদা সারি; পূর্বানুমেয় বনাম সম্ভাব্য ব্যাখ্যা করা; শর্তসহ সিদ্ধান্ত বা একটা কারণ; একটা দায়িত্বপ্রাপ্ত ভূমিকা; একটা পর্যালোচনার তারিখ। দুর্বল উত্তর শুধু বলে "ওয়াটারমার্ক যোগ করুন"।

সারসংক্ষেপ

• অভিনেতা, লক্ষ্য, প্রবেশাধিকার ও ক্ষতি থেকে অপব্যবহারের তালিকা বানান; রিস্ক রেজিস্টারের পাশে রাখুন, আর প্রতিটা সারিতে একজন মালিক দিন।
• উদ্দিষ্ট ব্যবহার, পূর্বানুমেয় অপব্যবহার ও পরিধির বাইরের ব্যবহার আলাদা করুন; কোনটাকে পূর্বানুমেয় ধরছেন এবং কেন তা বলুন।
• কৃত্রিম মিডিয়ার প্রতারণা বেশির ভাগই কর্তৃত্ব, তাড়া আর বাস্তবসম্মততা; প্রতিরক্ষা দ্বিতীয় মাধ্যম, ডিটেক্টর নয়।
• প্রকাশ, ক্রেডেনশিয়াল ও ওয়াটারমার্ক সাহায্য করে, কিন্তু প্রমাণ নয়; ক্রেডেনশিয়াল না থাকা মানে নকল নয়।
• সম্মতিহীন অবয়ব, শিশু, ঝুঁকিপ্রবণ ব্যবহারকারী ও স্বাস্থ্য-অনুরোধের জন্য নীতি ও এসকেলেশনের পথ আগে থেকে ডিজাইন করুন, চিকিৎসা বা গ্রাফিক খুঁটিনাটি ছাড়া।

এরপর: নিরাপত্তা নিয়ন্ত্রণ ও কৃত্রিম মিডিয়া: স্তরভিত্তিক প্রতিরক্ষা, প্রোভেন্যান্স ও প্রতিক্রিয়া পাতায় এই পরিস্থিতিগুলোকে নিয়ন্ত্রণ, পরীক্ষা ও এসকেলেশনে বদলানো হবে।