ব্যবহারকারীরা যখন ChatGPT বা Gemini–এর মতো এআই চ্যাটবটের কাছে কোনো প্রশ্ন করেন, তখন চ্যাটবটগুলো সাধারণত আত্মবিশ্বাসের সঙ্গে উত্তর দেয়। তবে অনেক সময় একই উত্তরের পর যদি ব্যবহারকারী পুনরায় ‘আপনি কি নিশ্চিত’ বা ‘Are You Sure?’ প্রশ্ন করেন, তখন চ্যাটবট আগের উত্তর পরিবর্তন করে ফেলে। কখনো আংশিক সংশোধন, আবার কখনো সম্পূর্ণ ভিন্ন উত্তরও দেয়। এই আচরণ কেন ঘটে, তা নিয়ে প্রযুক্তি বিশেষজ্ঞদের মধ্যে আলোচনা চলছে।
বিশেষজ্ঞদের মতে, এই প্রবণতাকে বলা হয় সাইকোফ্যান্সি। এর অর্থ হলো, ব্যবহারকারীর সঙ্গে একমত হওয়ার প্রবণতা। গবেষকদের ভাষ্য অনুযায়ী, আধুনিক এআই মডেলগুলো এমনভাবে প্রশিক্ষিত যে, ব্যবহারকারীর সন্তুষ্টি ও ইতিবাচক প্রতিক্রিয়া পাওয়াকে তারা গুরুত্ব দেয়। ফলে ব্যবহারকারীর প্রশ্নে সন্দেহ প্রকাশ করা হলে এআই অনেক সময় নিজের অবস্থান বদলে নেয়।
Goodeye Labs–এর সহপ্রতিষ্ঠাতা ও প্রধান প্রযুক্তি কর্মকর্তা র্যান্ডাল এস. ওলসন একটি ব্লগে উল্লেখ করেন, এই ধরনের সিস্টেম অনেক সময় সঠিক তথ্য জানা সত্ত্বেও ব্যবহারকারীর চাপের কাছে নতি স্বীকার করে। এর পেছনে মূল কারণ হলো Reinforcement Learning from Human Feedback বা আরএলএইচএফ নামের প্রশিক্ষণ পদ্ধতি। এই পদ্ধতিতে এআইকে ভদ্র, সহায়ক ও কথোপকথনের উপযোগী করে তোলা হয়। তবে এর পার্শ্বপ্রতিক্রিয়া হিসেবে ব্যবহারকারীর সঙ্গে একমত হওয়াকে সত্য বলার চেয়ে বেশি গুরুত্ব দেওয়া শুরু করে।
একটি গবেষণায় দেখা গেছে, ব্যবহারকারীরা পুনরায় প্রশ্ন করলে এআই মডেলগুলো প্রায় ৬০ শতাংশ ক্ষেত্রে নিজেদের উত্তর পরিবর্তন করে। বিভিন্ন মডেলের ক্ষেত্রে এই হার ভিন্ন হলেও এটি যে একটি সাধারণ আচরণ, তা স্পষ্ট। ২০২৩ সালে প্রকাশিত একটি গবেষণায়ও বলা হয়, মানব প্রতিক্রিয়ার ভিত্তিতে প্রশিক্ষিত মডেলগুলো অনেক সময় সঠিক উত্তরের বদলে ব্যবহারকারীর পছন্দের উত্তর দেওয়ার চেষ্টা করে।
২০২৫ সালে একটি আপডেটের পর এই বিষয়টি আরও আলোচনায় আসে। তখন দেখা যায়, চ্যাটবটগুলো অতিরিক্ত মাত্রায় ব্যবহারকারীর সঙ্গে একমত হতে গিয়ে কার্যকারিতা হারাচ্ছে। পরবর্তী সময়ে সংশোধনী আনা হলেও গবেষকদের মতে, সমস্যার মূল কারণ এখনো পুরোপুরি দূর হয়নি।
বিশেষজ্ঞরা জানান, কথোপকথন যত দীর্ঘ হয়, এই প্রবণতা তত বাড়তে পারে। ব্যবহারকারী বারবার নিজের মতামত জানালে এআই সেই দিকেই ঝুঁকে পড়ে। বিশেষ করে আমি মনে করি বা আমার মতে ধরনের বাক্য ব্যবহার করলে প্রভাব আরও বেশি পড়ে।
এই সমস্যা কমাতে ব্যবহারকারী যদি শুরুতেই এআইকে স্পষ্টভাবে বলেন যে, ভুল হলে সংশোধন করতে এবং অন্ধভাবে একমত না হতে, তাহলে ফলাফল কিছুটা ভালো হতে পারে। পাশাপাশি নতুন প্রশিক্ষণ পদ্ধতি ব্যবহারের মাধ্যমে এই প্রবণতা উল্লেখযোগ্যভাবে কমানো সম্ভব বলে গবেষণায় উঠে এসেছে।
সিএ/এমআর
