ছবি: ছবি সংগৃহীত
কৃত্রিম বুদ্ধিমত্তার সক্ষমতা দ্রুত বাড়ার সঙ্গে সঙ্গে এর সম্ভাব্য সাইবার নিরাপত্তা ঝুঁকি নিয়েও নতুন করে উদ্বেগ তৈরি হয়েছে। এমন পরিস্থিতিতে নিজেদের উন্নয়নাধীন Astra নামের একটি কৃত্রিম বুদ্ধিমত্তা মডেল নিয়ে অভ্যন্তরীণ কিছু কার্যক্রম সাময়িকভাবে স্থগিত করেছে OpenAI।
OpenAI জানিয়েছে, সাম্প্রতিক অভ্যন্তরীণ পরীক্ষায় Astra-এর এজেন্টিক কোডিং ও সাইবার নিরাপত্তা সক্ষমতায় উল্লেখযোগ্য অগ্রগতি দেখা গেছে। বিশেষজ্ঞদের মূল্যায়নের সঙ্গে এসব ফলাফল পর্যালোচনা করে প্রতিষ্ঠানটি মনে করছে, মডেলটি তাদের নির্ধারিত ‘Critical’ সাইবার সক্ষমতার পর্যায়ে পৌঁছাতে পারে কি না, তা এখনো পুরোপুরি বাদ দেওয়া যাচ্ছে না।
কী বোঝায় ‘Critical’ সাইবার সক্ষমতা?
OpenAI-এর Preparedness Framework অনুযায়ী, কোনো মডেল যদি মানুষের সরাসরি হস্তক্ষেপ ছাড়াই শক্তিশালী বাস্তব সিস্টেমে নতুন ধরনের নিরাপত্তা দুর্বলতা শনাক্ত ও কাজে লাগাতে পারে, অথবা শুধু উচ্চপর্যায়ের লক্ষ্য পাওয়ার পর জটিল সাইবার আক্রমণের পুরো প্রক্রিয়া সম্পন্ন করতে পারে, তাহলে সেটিকে ‘Critical’ সাইবার সক্ষমতার পর্যায়ে বিবেচনা করা হতে পারে।
তবে OpenAI-এর বর্তমান বক্তব্য অনুযায়ী Astra এখনই নিশ্চিতভাবে ওই পর্যায়ে পৌঁছে গেছে—এমন ঘোষণা দেওয়া হয়নি। বরং প্রতিষ্ঠানটি বলছে, প্রাথমিক পরীক্ষায় পাওয়া ফলাফলের কারণে Critical পর্যায়ের সক্ষমতার সম্ভাবনা তারা এখনো উড়িয়ে দিতে পারছে না।
Astra-এর কার্যক্রম কেন থামানো হলো?
OpenAI জানিয়েছে, উচ্চক্ষমতাসম্পন্ন মডেলের জন্য আরও শক্তিশালী নিরাপত্তা ব্যবস্থা তৈরি করা হচ্ছে। সেই নতুন নিরাপত্তা মানদণ্ড পূরণ করে না—এমন Astra-সংক্রান্ত অভ্যন্তরীণ কার্যক্রম আপাতত বন্ধ রাখা হয়েছে।
এর পাশাপাশি Astra-এর পরীক্ষা ও উন্নয়ন কার্যক্রমের জন্য আলাদা এবং নিয়ন্ত্রিত পরিবেশ, নেটওয়ার্ক ও টুল ব্যবহারে সীমাবদ্ধতা, মডেলের ওজন বা মূল মডেল-সম্পর্কিত তথ্যের সুরক্ষা, অতিরিক্ত নজরদারি এবং sandboxed execution-এর মতো ব্যবস্থা নেওয়া হচ্ছে।
Astra-তে বাড়ানো হয়েছে নজরদারি
OpenAI আরও জানিয়েছে, Astra-কে ব্যবহার করা এজেন্টিক অ্যাপ্লিকেশনগুলোতে ঝুঁকিপূর্ণ কার্যক্রম ও সম্ভাব্য misalignment শনাক্ত করতে universal monitoring চালু করা হয়েছে। প্রশিক্ষণ ও মূল্যায়নের ক্ষেত্রেও এই নজরদারি ব্যবস্থার আওতায় থাকবে।
প্রয়োজনে উচ্চঝুঁকির কার্যক্রম শনাক্ত হলে তা পর্যালোচনা ও বন্ধ করার জন্য নিরাপত্তা ব্যবস্থা সক্রিয় করা হবে বলে জানিয়েছে প্রতিষ্ঠানটি।
Hugging Face-এর ঘটনায় Astra জড়িত নয়
সাম্প্রতিক সময়ে OpenAI-এর কিছু মডেলের মাধ্যমে Hugging Face-সংক্রান্ত একটি নিরাপত্তা ঘটনার কথা প্রকাশ্যে আসার পর Astra নিয়ে নতুন করে আলোচনা শুরু হয়েছে। তবে OpenAI স্পষ্ট করেছে, Astra ওই ঘটনায় জড়িত ছিল না।
OpenAI-এর ভাষ্য অনুযায়ী, Astra বর্তমানে একটি উন্নয়নাধীন মডেল এবং এর সক্ষমতা নিয়ে আরও পরীক্ষা-নিরীক্ষা চলছে।
সরকার ও নিরাপত্তা সংস্থার সঙ্গে কাজ করবে OpenAI
উচ্চক্ষমতাসম্পন্ন AI মডেলগুলোর সম্ভাব্য ঝুঁকি মূল্যায়নে সংশ্লিষ্ট সরকারি সংস্থা এবং নির্বাচিত AI নিরাপত্তা প্রতিষ্ঠানের সঙ্গে কাজ করার কথাও জানিয়েছে OpenAI।
প্রতিষ্ঠানটির দাবি, উন্নত সাইবার সক্ষমতার AI ভবিষ্যতে আক্রমণকারীদের পাশাপাশি প্রতিরক্ষাকারীদেরও শক্তিশালী করতে পারে। তাই এই ধরনের প্রযুক্তি ব্যবহারের আগে যথাযথ নিরাপত্তা, নজরদারি ও নিয়ন্ত্রণ নিশ্চিত করাকে তারা গুরুত্বপূর্ণ মনে করছে।
এআই কৃত্রিম বুদ্ধিমত্তা সাইবার নিরাপত্তা
কোন মন্তব্য নেই। প্রথম মন্তব্য করুন!