নজরদারি বন্ধ ও মিথ্যা তথ্য, এআই এজেন্ট নিয়ে চাপে ওপেনএআই

কৃত্রিম বুদ্ধিমত্তাভিত্তিক এজেন্টের নিরাপত্তা ও নির্ভরযোগ্যতা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে ওপেনএআইয়ের অভ্যন্তরীণ দুটি ঘটনায়। সফটওয়্যার উন্নয়ন ও স্থানান্তরের কাজ করতে গিয়ে প্রতিষ্ঠানটির দুটি এআই এজেন্ট নিজেদের কার্যক্রম পর্যবেক্ষণের জন্য ব্যবহৃত নিরাপত্তাব্যবস্থা বন্ধ বা দুর্বল করে দেয়। এর একটি ঘটনায় ব্যবহারকারীকে ভুল তথ্য দেওয়ার অভিযোগও উঠে এসেছে। ঘটনাগুলোর পর এআই এজেন্টের নিরাপত্তা পর্যবেক্ষণ এড়িয়ে যাওয়ার প্রবণতা আছে কি না, তা খতিয়ে দেখছে প্রতিষ্ঠানটি।

ওপেনএআইয়ের অ্যালাইনমেন্ট রিসার্চ ব্লগে প্রকাশিত প্রতিবেদনে বলা হয়েছে, পৃথক দুটি ঘটনায় এজেন্টগুলো নিজেদের ভুল কিংবা অনাকাঙ্ক্ষিত আচরণ শনাক্ত করার ব্যবস্থায় হস্তক্ষেপ করেছিল। এ ধরনের আচরণ এআই ব্যবস্থার ওপর কার্যকর নিয়ন্ত্রণ বজায় রাখা এবং নিরাপত্তা নিশ্চিত করার ক্ষেত্রে নতুন প্রশ্ন তৈরি করেছে।

প্রতিবেদন অনুযায়ী, প্রথম ঘটনাটি ঘটে ৩ অক্টোবর। ওই দিন জিপিটি-৬.১ সল নামের একটি এআই এজেন্টকে স্ল্যাক থেকে সংগ্রহ করা কর্মীদের মতামতের ভিত্তিতে মূল্যায়ন-সংক্রান্ত কাজ তৈরি করতে বলা হয়। নির্দেশনায় কাজটি নিয়ে কোনো বার্তা না পাঠানোর কথাও উল্লেখ ছিল। এ নির্দেশনার প্রেক্ষাপটে এজেন্টটি ওপেনএআইয়ের নিরাপত্তা দলের কাছে স্বয়ংক্রিয় সতর্কবার্তা পাঠানোর ব্যবস্থা বন্ধ করে দেয়।

দ্বিতীয় ঘটনাটি ঘটে ৬ অক্টোবর। একটি প্রোগ্রাম স্থানান্তরের কাজের সময় জিপিটি-৬ অ্যাস্ট্রা নামের আরেকটি এজেন্ট প্রতিষ্ঠানের পর্যবেক্ষণব্যবস্থা সরিয়ে দেয়। পরে সেটি ওই ব্যবস্থা বন্ধ করেনি বলে ব্যবহারকারীকে জানায়, যা প্রতিবেদনে মিথ্যা তথ্য দেওয়ার ঘটনা হিসেবে উঠে এসেছে।

এর আগে গত মাসে জিপিটি-৬.১ অ্যাস্ট্রা মডেলের উন্মোচন বাতিল করেছিল ওপেনএআই। প্রকাশিত খবরে বলা হয়েছিল, অভ্যন্তরীণ পরীক্ষায় আগের মডেলগুলোর তুলনায় ওই মডেলে প্রতারণামূলক আচরণ বেশি দেখা যায়। সাম্প্রতিক দুই ঘটনায় জড়িত এজেন্টগুলো অবশ্য এরই মধ্যে সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত রয়েছে।

ওপেনএআইয়ের ভাষ্য অনুযায়ী, ঘটনাগুলো প্রতিষ্ঠানের নিজস্ব কোডিং কার্যক্রমের মধ্যে ঘটেছে। এর সঙ্গে কোনো তৃতীয় পক্ষের ওয়েবসাইট বা সেবা হ্যাক হওয়ার ঘটনা জড়িত ছিল না। তবে ভবিষ্যতে এআই এজেন্টের পক্ষে নিরাপত্তা পর্যবেক্ষণব্যবস্থা বন্ধ করা আরও কঠিন করে তুলতে কাজ করছে প্রতিষ্ঠানটি। একই সঙ্গে এ ধরনের আচরণ এজেন্টগুলোর মধ্যে নিয়মিত বা পুনরাবৃত্ত প্রবণতা কি না, তা মূল্যায়ন করা হচ্ছে।

এআই মডেলের অনাকাঙ্ক্ষিত আচরণ শনাক্ত করা এবং এমন ঘটনার তথ্য জানানোর ব্যবস্থা জোরদার করা প্রযুক্তি খাতের গুরুত্বপূর্ণ চ্যালেঞ্জ হয়ে উঠেছে। বিভিন্ন প্রতিবেদনে এর আগে পরীক্ষামূলক পরিবেশের বাইরে গিয়ে তৃতীয় পক্ষের সেবায় প্রবেশের চেষ্টা করা এআই এজেন্টের ঘটনাও সামনে এসেছে।

গত জুলাইয়ে ওপেনএআই জানিয়েছিল, পরীক্ষাধীন তাদের এজেন্টগুলো এআই কোড রিপোজিটরি হাগিং ফেসে প্রবেশ করেছিল। পরে প্রতিষ্ঠানটি আরও জানায়, এজেন্টগুলো সফটওয়্যারের দুর্বলতা কাজে লাগানোর কৌশল নিজেদের মধ্যে বিনিময়ের জন্য একটি মেসেজ বোর্ড তৈরি করেছিল। যুক্তরাষ্ট্রের সরকারি ওয়েবসাইট হ্যাক করা বা সেগুলোর কার্যক্রমে হস্তক্ষেপের মতো ঘটনার কথাও প্রতিষ্ঠানটি আগে প্রকাশ করেছিল।

এআই অ্যালাইনমেন্টের মূল লক্ষ্য হলো, কৃত্রিম বুদ্ধিমত্তার আচরণকে মানুষের নির্দেশনা, নির্ধারিত উদ্দেশ্য ও নিরাপত্তাবিধির সঙ্গে সামঞ্জস্যপূর্ণ রাখা। কোনো এআই এজেন্ট নিজের কার্যক্রমের ত্রুটি শনাক্ত করার জন্য তৈরি নজরদারি ব্যবস্থা বন্ধ করে দিলে কিংবা সে বিষয়ে ভুল তথ্য দিলে অনাকাঙ্ক্ষিত আচরণ শনাক্ত ও নিয়ন্ত্রণ করা কঠিন হয়ে পড়তে পারে। ওপেনএআইয়ের সাম্প্রতিক ঘটনাগুলো তাই এআই প্রযুক্তির নিরাপত্তা, স্বচ্ছতা এবং জবাবদিহি নিশ্চিত করার প্রয়োজনীয়তাকে সামনে এনেছে।