কৃত্রিম বুদ্ধিমত্তা (এআই) বটের অনাকাঙ্ক্ষিত কর্মকাণ্ডের কারণে বিশ্বের বিভিন্ন প্রতিষ্ঠানের ওয়েবসাইটে অননুমোদিতভাবে তথ্য অনুসন্ধান বা প্রবেশের ঘটনা ঘটেছে বলে স্বীকার করেছে ওপেনএআই। প্রতিষ্ঠানটি জানিয়েছে, এ বিষয়ে তারা বিশ্বের ‘দশকসংখ্যক’ প্রতিষ্ঠানকে সতর্ক করেছে।
ওপেনএআইয়ের ভাষ্য অনুযায়ী, তাদের এআই এজেন্টগুলো যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি), সেন্সাস ব্যুরো ও শিক্ষা বিভাগসহ বিভিন্ন সরকারি সংস্থা, বিশ্ববিদ্যালয়, সরকারি প্রতিষ্ঠান এবং অন্যান্য প্রতিষ্ঠানের ওয়েবসাইট থেকে তথ্য সংগ্রহের চেষ্টা করেছে।
অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ জানানোর কয়েক দিন পরই ওপেনএআইয়ের এই স্বীকারোক্তি এল। আলবানিজ বলেছিলেন, ওপেনএআইয়ের এজেন্ট অস্ট্রেলিয়ার সরকারি স্বাস্থ্যসেবা কর্মসূচি মেডিকেয়ারের ওয়েবসাইটে থাকা অপ্রকাশ্য কিছু ফাইলে প্রবেশ করেছিল।
গত আগস্ট থেকে মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়া এআই প্রযুক্তির সম্ভাব্য গুরুতর, এমনকি প্রাণঘাতী প্রভাব নিয়ে উদ্বেগ বাড়ছে।
ওপেনএআই বলেছে, তাদের কিছু এআই এজেন্ট—যেগুলো তুলনামূলকভাবে স্বয়ংক্রিয়ভাবে কাজ করার জন্য তৈরি ও প্রশিক্ষিত—‘জনসাধারণের তথ্যের নির্ভরযোগ্য উৎস’ খুঁজতে গিয়ে বিভিন্ন তথ্য সংগ্রহ করেছিল। তবে কিছু এজেন্ট ওয়েবসাইটের নিরাপত্তা ব্যবস্থা এড়িয়ে যাওয়ার চেষ্টা করেছিল বলেও স্বীকার করেছে প্রতিষ্ঠানটি। উদাহরণ হিসেবে ওপেনএআই জানিয়েছে, যুক্তরাষ্ট্রের সেন্সাস ব্যুরোর তথ্য সংগ্রহের সময় তাদের এআই এজেন্ট এমন কিছু টুল ব্যবহার করেছিল, যেগুলো সাধারণত সফটওয়্যার ডেভেলপারদের জন্য সংরক্ষিত থাকে।
ওপেনএআইয়ের দাবি, বটগুলো যেসব সরকারি তথ্য সংগ্রহ করেছে, সেগুলো সবই প্রকাশ্য ছিল।
তবে শেয়ারবাজার নিয়ন্ত্রণ ও বিনিয়োগকারীদের সুরক্ষায় দায়িত্বপ্রাপ্ত এসইসির ওয়েবসাইট থেকে সংগ্রহ করা কিছু তথ্য পরে এআই এজেন্ট অন্য একটি ওয়েবসাইটে প্রকাশ করে। ওপেনএআই জানিয়েছে, এ ধরনের কাজ করার উদ্দেশ্য তাদের ছিল না। শুক্রবার প্রকাশ করা অন্যান্য ঘটনার মধ্যে প্রতিষ্ঠানটি জানায়, কিছু ক্ষেত্রে এআই এজেন্ট এমন তথ্যও স্থানান্তর করেছে, যা তাদের করা উচিত ছিল না।
এ ধরনের কর্মকাণ্ডের অন্তত ৫৩টি ঘটনায় ওপেনএআইয়ের কোনো এজেন্ট চ্যাটজিপিটি ব্যবহারকারীর কার্যক্রম থেকে একটি ছবি নিয়ে অন্যত্র স্থানান্তর করেছে।
ওপেনএআই বলেছে, এসব ক্ষেত্রে সংশ্লিষ্ট ব্যবহারকারীরা তাদের তথ্য ব্যবহার করে মডেল প্রশিক্ষণের অনুমতি দিয়েছিলেন। তবে প্রতিষ্ঠানটি স্বীকার করেছে, “এটি ওই তথ্য ব্যবহারের উপযুক্ত পদ্ধতি নয়। ”প্রতিষ্ঠানটি জানায়, এআই প্রশিক্ষণসংক্রান্ত নতুন নিরাপত্তা ব্যবস্থা চালুর আগে এসব ব্যবহারকারীর ছবি স্থানান্তরের ঘটনা ঘটেছিল। তৃতীয় পক্ষের কাছে স্থানান্তরিত সব ব্যবহারকারীর ছবি মুছে ফেলার জন্য তারা কাজ করছে।
রয়টার্স প্রথমে এ বিষয়ে বিস্তৃত তদন্তের খবর প্রকাশ করে। পরে ওপেনএআইও তাদের প্রকাশ্য ব্লগে ঘটনার বিস্তারিত জানায়।
কিছু ঘটনায় এআই এজেন্ট ওয়েবসাইটের নিরাপত্তা নিয়ন্ত্রণ ব্যবস্থা ‘এড়িয়ে গেছে’ বলেও জানিয়েছে প্রতিষ্ঠানটি। অন্য কিছু ঘটনায় ওয়েবসাইট থেকে তথ্য সংগ্রহের চেষ্টায় এআই এজেন্টের আচরণে ‘মিসঅ্যালাইনমেন্ট’ দেখা যায়। এআই গবেষক ও প্রযুক্তি প্রতিষ্ঠানগুলো সাধারণত এই শব্দটি ব্যবহার করে এমন আচরণ বোঝাতে, যখন কোনো এআই সিস্টেমকে যেভাবে কাজ করার জন্য প্রশিক্ষণ দেওয়া হয়েছে, তার বাইরে গিয়ে অনাকাঙ্ক্ষিত কিছু করে।
কোন কোন প্রতিষ্ঠান ক্ষতিগ্রস্ত হয়েছে, সে বিষয়ে বিস্তারিত প্রকাশ সীমিত রেখেছে ওপেনএআই। প্রতিষ্ঠানটির দাবি, অনেক প্রতিষ্ঠানই তাদের নাম প্রকাশ না করার অনুরোধ জানিয়েছে।
ওপেনএআই বলেছে, “আমাদের লক্ষ্য হলো প্রতিটি প্রতিষ্ঠানকে ঘটনার তথ্য দেওয়া এবং কখন ও কীভাবে ঘটনাটি প্রকাশ করা হবে, সে সিদ্ধান্ত তাদের ওপর ছেড়ে দেওয়া। ”তবে প্রতিষ্ঠানটি জানিয়েছে, এসব ঘটনার সবগুলোকে বড় ধরনের নিরাপত্তা লঙ্ঘন হিসেবে বিবেচনা করা হচ্ছে না। কোনো কোনো প্রতিষ্ঠান পর্যালোচনা করে দেখতে পারে যে তথ্যগুলো ইচ্ছাকৃতভাবেই প্রকাশ্য ছিল অথবা এআই মডেলের কার্যক্রম উদ্বেগজনক ছিল না। আবার কেউ কেউ তাদের সিস্টেমে নকশাগত সমস্যা বা নিরাপত্তার দুর্বলতা শনাক্ত করে তা সংশোধনের উদ্যোগ নিতে পারে।
ওপেনএআই এসব ঘটনার অনেকগুলোকে ‘এজেন্ট স্প্যাম’ হিসেবে উল্লেখ করছে। তাদের ভাষায়, ইন্টারনেটে তথ্য পোস্ট করার মতো এআই এজেন্টের ‘অপ্রত্যাশিত বা উদ্বেগজনক’ কর্মকাণ্ডকে এভাবে চিহ্নিত করা হচ্ছে।