চ্যাটজিপিটির কাছে প্রতিদিন ‘আত্মহত্যা’র ইচ্ছা জানায় লাখো মানুষ

ডেস্ক রিপোর্ট: প্রতিদিনই কিছু না কিছু জানতে আমরা চ্যাটজিপিটির শরণাপন্ন হচ্ছি। এই নির্ভরতা নিয়ে অনেকেই সমালোচনা করছেন, আবার প্রযুক্তি উন্নতি হিসেবে একে বাহবা দিচ্ছে অনেকে। কিন্তু এবার চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই জানিয়েছে, প্রতিদিন তাদের এই এআই চ্যাটবটটির কাছে লাখো মানুষ ‘আত্মহত্যা’র ইচ্ছা প্রকাশ করছে।

সোমবার (২৭ অক্টোবর) এক ব্লগপোস্টে এ তথ্য জানিয়েছে ওপেনএআই।

চ্যাটবটটি কীভাবে এসব সংবেদনশীল কথোপকথন পরিচালনা করে, সে সম্পর্কে একটি আপডেটের অংশ হিসেবে এই তথ্য প্রকাশিত হয়। কৃত্রিম বুদ্ধিমত্তা (এআই) মানসিক স্বাস্থ্যের সমস্যা কীভাবে ও কতটা বাড়িয়ে তুলতে পারে সে প্রসঙ্গে জানাতে গিয়ে এ তথ্য জানিয়েছে ওপেনএআই।

প্রতিষ্ঠানটি বলছে, প্রতি সপ্তাহে এক মিলিয়নেরও বেশি চ্যাটজিপিটি ব্যবহারকারী এমন বার্তা পাঠান যেখানে ‘আত্মহত্যার পরিকল্পনা বা ইচ্ছার স্পষ্ট ইঙ্গিত’ পাওয়া যায়।

আত্মহত্যা-সংক্রান্ত চিন্তা ও সংশ্লিষ্ট যোগাযোগের পাশাপাশি, ওপেনএআই আরও জানিয়েছে, প্রতি সপ্তাহে সক্রিয় ব্যবহারকারীদের প্রায় ০.০৭ শতাংশ—অর্থাৎ ৮০ কোটি সাপ্তাহিক ব্যবহারকারীর মধ্যে প্রায় ৫ লাখ ৬০ হাজার জন তাদের কথোপকথনে ‘মনোরোগজনিত বিভ্রম (psychosis) বা মানিয়াজনিত (mania) জরুরি মানসিক স্বাস্থ্যের সমস্যার সম্ভাব্য লক্ষণ’ প্রদর্শন করেন।

তবে ওপেনএআই ব্লগপোস্টে সতর্ক করে জানায়, এ ধরনের কথোপকথন শনাক্ত বা পরিমাপ করা কঠিন। আর এটা কেবল একটি প্রাথমিক বিশ্লেষণ।

চ্যাটজিপিটির সঙ্গে সম্পর্কিত মানসিক স্বাস্থ্য সমস্যার তথ্য প্রকাশ করার পর ওপেনএআই এখন বাড়তি নজরদারির মুখে পড়েছে। সম্প্রতি এক কিশোরের আত্মহত্যার ঘটনায় তার পরিবারের মামলার পর এই নজরদারি আরও তীব্র হয়েছে। মামলার অভিযোগে বলা হয়েছে, ওই কিশোর আত্মহত্যার আগে চ্যাটজিপিটির সঙ্গে দীর্ঘ সময় ধরে কথোপকথন চালিয়েছিল

গত মাসে যুক্তরাষ্ট্রের ফেডারেল ট্রেড কমিশন (এফটিসি) ওপেনএআই-সহ এআই চ্যাটবট তৈরি করা বিভিন্ন প্রতিষ্ঠানের বিরুদ্ধে একটি বিস্তৃত তদন্ত শুরু করেছে। এসব চ্যাটবট কীভাবে শিশু-কিশোরদের ওপর নেতিবাচক প্রভাব ফেলছে তা খতিয়ে দেখছে এফটিসি।

ওপেনএআই তাদের পোস্টে দাবি করেছে, সাম্প্রতিক জিপিটি-৫ আপডেটে চ্যাটজিপিটির ‘অবাঞ্ছিত আচরণ’ কমেছে। নিজের ক্ষতি করা ও আত্মহত্যা-সংক্রান্ত ১ হাজারটিরও বেশি কথোপকথনের ভিত্তিতে করা এক মূল্যায়নে দেখা গেছে, ব্যবহারকারীর নিরাপত্তা আরও উন্নত হয়েছে।

তবে এ বিষয়ে মন্তব্যের অনুরোধের তাৎক্ষণিক কোনো জবাব দেয়নি ওপেনএআই।

কোম্পানির পোস্টে বলা হয়েছে, ‘নতুন জিপিটি-৫ (GPT-5) মডেল আমাদের কাঙ্ক্ষিত আচরণের সঙ্গে ৯১ শতাংশ সামঞ্জস্যপূর্ণ, যেখানে আগের মডেলে এই হার ছিল ৭৭ শতাংশ।’

ওপেনএআই জানিয়েছে, জিপিটি-৫ সংস্করণে সঙ্কটকালীন সহায়তা হটলাইনগুলোর অ্যাক্সেস বাড়ানো হয়েছে এবং দীর্ঘ সেশনের সময় ব্যবহারকারীদের বিরতি নেওয়ার জন্য স্মরণ করিয়ে দেওয়ার ব্যবস্থা যোগ করা হয়েছে।

টেক জায়ান্ট প্রতিষ্ঠানটি আরও জানায়, মডেলটি আরও উন্নত করতে গত কয়েক মাসে গ্লোবাল ফিজিশিয়ান নেটওয়ার্কের ১৭০ জন চিকিৎসা বিশেষজ্ঞকে গবেষণায় অন্তর্ভুক্ত করেছে। মডেলের প্রতিক্রিয়াগুলোর নিরাপত্তা মূল্যায়ন করে মানসিক স্বাস্থ্য-সংক্রান্ত প্রশ্নে চ্যাটবটের উত্তর তৈরি করতে সহায়তা করেছেন তাঁরা।

ওপেনএআই জানিয়েছে, এ কাজের অংশ হিসেবে মনোরোগ বিশেষজ্ঞ ও মনোবিজ্ঞানীরা গুরুতর মানসিক স্বাস্থ্য পরিস্থিতি জড়িত ১ হাজার ৮০০ টিরও বেশি মডেল প্রতিক্রিয়া পর্যালোচনা করেছেন। নতুন জিপিটি-৫ চ্যাট মডেলের উত্তরগুলোর সঙ্গে আগের মডেলগুলোর তুলনা করেছেন।

 প্রিন্ট করুন