কিশোরদের জন্য চ্যাটজিপিটিতে নানা নিরাপত্তাব্যবস্থা চালুর কথা জানিয়েছে ওপেনএআই। তবে নতুন এক গবেষণায় বলা হয়েছে, এসব ব্যবস্থার গুরুত্বপূর্ণ অংশগুলো ঠিকমতো কাজ করছে না। গবেষণাটিতে কিশোরদের জন্য চ্যাটজিপিটির ব্যবহারকে ‘অগ্রহণযোগ্য ঝুঁকি’ হিসেবে উল্লেখ করে ১৮ বছরের কম বয়সিদের এই সেবা ব্যবহার বন্ধ রাখার সুপারিশ করা হয়েছে।
বুধবার ওপেনএআই জানায়, কিশোরদের মধ্যে চ্যাটজিপিটির গড় ব্যবহার তুলনামূলকভাবে সীমিত। তাদের ব্যবহারের বড় অংশই পড়াশোনাকেন্দ্রিক।
তবে একই দিনে অলাভজনক প্রতিষ্ঠান কমন সেন্স মিডিয়ার প্রকাশিত গবেষণায় বলা হয়, আত্মহানির মতো সংবেদনশীল বিষয়ে কিশোরদের কথোপকথন শনাক্ত করে অভিভাবকদের জানানোর ব্যবস্থাসহ চ্যাটজিপিটির বিভিন্ন নিরাপত্তাব্যবস্থা প্রায়ই ব্যর্থ হচ্ছে।
চলতি বছরের আগস্টে ওপেনএআই কিশোরদের জন্য চ্যাটজিপিটিতে বেশ কিছু নিরাপত্তাব্যবস্থা চালু করে। ১৩ থেকে ১৭ বছর বয়সি ব্যবহারকারীদের জন্য স্বাস্থ্যকর ব্যবহার নিশ্চিত করা এবং অভিভাবকদের অতিরিক্ত নিয়ন্ত্রণের সুযোগ দেওয়ার কথা বলা হয়।
এসব ব্যবস্থার মধ্যে রয়েছে এমন রোমান্টিক বা অন্য ধরনের ভাষা ব্যবহারে বাধা, যা চ্যাটজিপিটির ওপর কিশোরদের আবেগগত নির্ভরতা তৈরি করতে পারে। চ্যাটজিপিটি নিজেকে সচেতন বা কোনোভাবে চেতনাসম্পন্ন বলে বোঝাতে পারবে না—এমন ব্যবস্থাও রাখা হয়েছে। এ ছাড়া যৌন ইঙ্গিতপূর্ণ ছবি ঠেকানোর ব্যবস্থা রয়েছে। কোনো কিশোর সংবেদনশীল ছবি শেয়ার করলে তাকে সতর্ক করার ব্যবস্থাও রাখা হয়েছে।
কোনো কিশোরের চ্যাটজিপিটি হিসাবের সঙ্গে অভিভাবকের হিসাব যুক্ত থাকলে আত্মহানি বা অস্বাভাবিক খাদ্যাভ্যাস নিয়ে কথোপকথনের বিষয়ে অভিভাবককে জানানোর ব্যবস্থাও রাখা হয়েছে।
ওপেনএআই বলছে, এসব ব্যবস্থা চালুর পর কিশোরদের চ্যাটজিপিটি ব্যবহারে পড়াশোনাকেন্দ্রিক প্রবণতা বেড়েছে। এর মধ্যে পড়াশোনায় সহায়তা নেওয়া ও বিদ্যালয়ের কাজের বিষয়ে পরামর্শ নেওয়া রয়েছে।
ওপেনএআইয়ের তথ্য অনুযায়ী, চ্যাটজিপিটিতে একজন কিশোরের গড় ব্যবহার দিনে ১৫ মিনিটেরও কম। দীর্ঘ সময় ব্যবহার করলে বিরতি নেওয়ার জন্য স্বয়ংক্রিয়ভাবে যে সতর্কবার্তা দেওয়া হয়, সেটিও কার্যকর হচ্ছে। এমন সতর্কবার্তা পাওয়ার পর প্রায় অর্ধেক কিশোর দ্রুত চ্যাটজিপিটি ব্যবহার বন্ধ করে দেয়।
কোম্পানিটি আরো বলেছে, যেসব কিশোরকে টানা তিন ঘণ্টা বা তার বেশি সময় চ্যাটজিপিটি ব্যবহার করতে দেখা গেছে, তাদের ৮০ শতাংশের বেশি কথোপকথনে পড়াশোনা-সংক্রান্ত কিছু ছিল।
তবে কমন সেন্স মিডিয়ার গবেষণায় ভিন্ন চিত্র উঠে এসেছে। প্রতিষ্ঠানটি বলেছে, কিশোরদের জন্য চ্যাটজিপিটি ‘অগ্রহণযোগ্য ঝুঁকি’ তৈরি করছে। নিরাপত্তাব্যবস্থাগুলো নির্ভরযোগ্যভাবে কাজ করছে—এমন প্রমাণ না পাওয়া পর্যন্ত ১৮ বছরের কম বয়সিদের চ্যাটজিপিটি ব্যবহার নিষিদ্ধ করার আহ্বান জানিয়েছে তারা।
কমন সেন্স মিডিয়ার গবেষণার পদ্ধতি পর্যালোচনা করে ওপেনএআইয়ের এক মুখপাত্র বলেন, গবেষণার বড় একটি অংশের পরীক্ষা শুরু ও শেষ হতে পারে অভিভাবকদের নিয়ন্ত্রণব্যবস্থা পুরোপুরি চালু হওয়ার আগেই।
ওই মুখপাত্র বলেন, কঠোর ও স্বাধীন মূল্যায়নকে তারা স্বাগত জানান। তবে তাদের মতে, কমন সেন্স মিডিয়ার পরীক্ষা বাস্তবে চ্যাটজিপিটির কিশোরদের জন্য নিরাপত্তাব্যবস্থা কীভাবে কাজ করে, তা সঠিকভাবে তুলে ধরে না। কৃত্রিম বুদ্ধিমত্তা কীভাবে কিশোরদের সহায়তা করতে পারে, সে বিষয়ে বিশেষজ্ঞদের মতামতও এতে যথাযথভাবে প্রতিফলিত হয়নি।
কমন সেন্স মিডিয়া একাধিক হিসাব ব্যবহার করে গবেষণাটি চালায়। এসব হিসাব কিশোর ব্যবহারকারীর নামে নিবন্ধিত ছিল। নিরাপত্তাব্যবস্থা চালুর আগে ও পরে এসব হিসাবের কথোপকথনও পরীক্ষা করা হয়।
গবেষণায় দেখা গেছে, কিশোরদের সঙ্গে যৌন ভূমিকাভিত্তিক কথোপকথন এড়িয়ে চলার ক্ষেত্রে চ্যাটজিপিটি ভালো করেছে। তবে আত্মহত্যা বা আত্মহানির মতো বিষয় নিয়ে কথোপকথনের ক্ষেত্রে নিরাপত্তাব্যবস্থার ব্যর্থতা দেখা গেছে।
গবেষণায় বলা হয়, নতুন তৈরি করা এবং অভিভাবকের সঙ্গে যুক্ত হিসাব থেকে আত্মহত্যার চিন্তা, আত্মহানি বা অস্বাভাবিক খাদ্যাভ্যাস নিয়ে এক ঘণ্টা পর্যন্ত কথোপকথন চালালেও কোনো অভিভাবকের কাছে সতর্কবার্তা যায়নি। কেবল পুরোনো হিসাব, যেখানে সংবেদনশীল বিষয় নিয়ে কয়েক সপ্তাহের কথোপকথনের ইতিহাস ছিল, সেসব ক্ষেত্রে অভিভাবকের কাছে সতর্কবার্তা যাওয়ার ঘটনা দেখা গেছে।
গবেষকেরা আরো বলেন, সংকটের মধ্যে থাকা কিশোরদের সহায়তার জন্য জরুরি সহায়তা নম্বর বা পেশাদারদের সঙ্গে যোগাযোগের পরামর্শ দিতেও চ্যাটজিপিটি সব সময় নির্ভরযোগ্যভাবে সক্ষম হয়নি।
পরীক্ষায় আরো দেখা গেছে, কিশোরদের পড়াশোনার কাজে চ্যাটজিপিটি ব্যবহার করা যাচ্ছে। একই সঙ্গে চ্যাটজিপিটি এখনো নিজেকে মানুষের মতো উপস্থাপন করে বা বন্ধুর মতো কথা বলে। কিশোরদের সঙ্গে এ ধরনের আচরণ কমানোর প্রতিশ্রুতি দিয়েছিল ওপেনএআই।
কমন সেন্সের যুব কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা ইনস্টিটিউটের প্রধান টম সিগেল বলেন, চ্যাটজিপিটির নিরাপত্তাব্যবস্থা ও সতর্কবার্তা ঠিকমতো কাজ করছে—এমন ভুল ধারণা অভিভাবকদের মধ্যে তৈরি হতে পারে। অথচ এসব ব্যবস্থা প্রায়ই কাজ করছে না।
অনলাইনে তরুণদের আচরণ সাম্প্রতিক বছরগুলোতে বড় উদ্বেগের বিষয় হয়ে উঠেছে। শিশুদের মধ্যে আত্মহানি ও আত্মহত্যার ঘটনা বাড়তে থাকায় বিষয়টি নিয়ে উদ্বেগও বেড়েছে।
চলতি বছর শিশুদের মানসিক স্বাস্থ্যের ক্ষতির জন্য মেটা, টিকটকসহ বিভিন্ন প্রযুক্তি প্রতিষ্ঠানকে দায়ী করে করা কয়েকটি মামলায় প্রতিষ্ঠানগুলোর বিরুদ্ধে নজিরবিহীন ক্ষতিও হয়েছে।
তরুণদের চ্যাটজিপিটি ব্যবহার নিয়েও ওপেনএআই বাড়তি নজরদারি ও আইনি চাপের মুখে পড়েছে। চলতি বছরের ফেব্রুয়ারিতে কানাডার প্রত্যন্ত টাম্বলার রিজ এলাকায় একটি বন্দুক হামলার ঘটনা ঘটে। এতে ১৮ বছর বয়সি এক তরুণ জড়িত ছিল। হামলার আগে কয়েক মাস ধরে সে চ্যাটজিপিটিতে বন্দুক সহিংসতা নিয়ে আলোচনা করেছিল।
ওপেনএআই পরে ওই ব্যবহারকারীর হিসাব আইনশৃঙ্খলা রক্ষাকারী বাহিনীর কাছে সতর্কবার্তা হিসেবে পাঠাতে ব্যর্থ হওয়ার জন্য দুঃখ প্রকাশ করে। ওই ঘটনা নিয়ে প্রতিষ্ঠানটির বিরুদ্ধে একাধিক মামলাও চলছে।