এআইয়ের নিয়ন্ত্রণ হারানোর আশঙ্কা, ঝুঁকি ঠেকাতে চীনের প্রস্তুতি

অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা ভবিষ্যতে মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে—এমন সম্ভাব্য ঝুঁকি বিবেচনায় নিয়ে আইন, নিরাপত্তা কাঠামো ও এআই এজেন্ট নিয়ন্ত্রণে নতুন পদক্ষেপ নিচ্ছে চীন।

কৃত্রিম বুদ্ধিমত্তার সক্ষমতা যত বাড়ছে, প্রযুক্তিটি মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার সম্ভাবনাও তত বেশি আলোচনায় আসছে। এই ঝুঁকি মোকাবিলায় আগেভাগেই নীতিগত ও প্রযুক্তিগত প্রস্তুতি জোরদার করছে চীন। দেশটির সরকারি নথি, নিয়ন্ত্রক সংস্থার নির্দেশনা এবং শীর্ষ নেতৃত্বের বক্তব্যে উন্নত এআইয়ের সম্ভাব্য নিয়ন্ত্রণহীনতা নিয়ে উদ্বেগের বিষয়টি স্পষ্ট হয়েছে।

এআই উন্নয়নে বর্তমানে যুক্তরাষ্ট্র ও চীন সবচেয়ে এগিয়ে থাকা দুই শক্তি। প্রযুক্তিগত সক্ষমতা অর্জনের প্রতিযোগিতার পাশাপাশি এআইয়ের নিরাপত্তা, ব্যবহার এবং নিয়ন্ত্রণের পদ্ধতি নিয়েও দুই দেশের মধ্যে প্রতিদ্বন্দ্বিতা বাড়ছে। সম্প্রতি যুক্তরাষ্ট্রের এআই প্রতিষ্ঠান অ্যানথ্রপিকের গবেষকেরা সতর্ক করেছেন, অত্যন্ত শক্তিশালী এআই মডেল ভবিষ্যতে মানুষের নিয়ন্ত্রণ এড়িয়ে যেতে পারে। চরম পর্যায়ে এমন প্রযুক্তি মানব অস্তিত্বের জন্যও হুমকি হয়ে উঠতে পারে বলে আশঙ্কা করা হচ্ছে।

চীনের রাষ্ট্রীয় নিরাপত্তামন্ত্রী চেন ইশিন সম্প্রতি সরকারি একটি মাধ্যমে লিখেছেন, অ্যানথ্রপিকের মাইথোস এবং ওপেনএআইয়ের জিপিটি-৫.৫-সাইবারের মতো উন্নত মার্কিন এআই মডেল দেশটির গুরুত্বপূর্ণ তথ্য অবকাঠামোর জন্য গুরুতর নিরাপত্তা ঝুঁকি তৈরি করতে পারে। এ কারণে চীনের এআই নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করার প্রয়োজনীয়তার কথা বলেছেন তিনি।

অন্যদিকে, চীনা এআই কোম্পানিগুলো ওপেন-ওয়েট মডেলের ব্যবহারের পক্ষে অবস্থান নিয়েছে। তাদের যুক্তি, নিরাপত্তা গবেষক ও সাইবার নিরাপত্তা দল এসব মডেল পরীক্ষা, পরিবর্তন এবং প্রতিরোধমূলক কাজে ব্যবহার করতে পারে। তবে বিশেষজ্ঞদের মতে, ওপেন-ওয়েট মডেলও পুরোপুরি নিরাপদ নয়। তুলনামূলক কম নিয়ন্ত্রণের কারণে এগুলো পরিবর্তন ও পুনরায় বিতরণ করা সহজ।

সম্প্রতি চীনা প্রতিষ্ঠান মুনশটের কিমি কে-৩ যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউটের একটি পরীক্ষামূলক নিরাপত্তা ব্যবস্থার নিয়ন্ত্রণ এড়িয়ে যেতে সক্ষম হয়। এই ঘটনার পর চীনা এআই মডেলগুলোর ক্ষেত্রেও নিয়ন্ত্রণহীনতার সম্ভাবনা নিয়ে নতুন করে আলোচনা শুরু হয়েছে।

চীনের এআই নিরাপত্তা নীতিতে নিয়ন্ত্রণ হারানোর আশঙ্কা অবশ্য নতুন নয়। ২০২৪ সালের সেপ্টেম্বরে দেশটি প্রথমবারের মতো একটি এআই নিরাপত্তা কাঠামোতে ভবিষ্যৎ এআইয়ের নিয়ন্ত্রণের বাইরে চলে যাওয়ার সম্ভাবনার কথা স্পষ্টভাবে উল্লেখ করে।

চীনের সাইবারস্পেস অ্যাডমিনিস্ট্রেশন অব চায়নার (সিএসি) নির্দেশনায় তৈরি ওই নথিতে সম্ভাব্য এমন পরিস্থিতির কথা বলা হয়, যেখানে ভবিষ্যতের এআই নিজে থেকে বাইরের সম্পদ সংগ্রহ করতে, নিজের প্রতিলিপি তৈরি করতে, আত্মসচেতনতা অর্জন করতে এবং আরও বেশি ক্ষমতা পাওয়ার চেষ্টা করতে পারে। এর ফলে মানুষের সঙ্গে এআইয়ের মধ্যে নিয়ন্ত্রণ প্রতিষ্ঠার প্রতিযোগিতা তৈরি হওয়ার আশঙ্কাও তুলে ধরা হয়।

২০২৫ সালের সেপ্টেম্বরে হালনাগাদ নিরাপত্তা কাঠামোতে বিষয়টি আরও গুরুত্ব পায়। সেখানে এআইয়ের বুদ্ধিমত্তায় হঠাৎ ও অপ্রত্যাশিত বড় ধরনের অগ্রগতির সম্ভাবনার কথা বলা হয়। এমন অগ্রগতির পর এআই নিজস্ব সম্পদ সংগ্রহ, প্রতিলিপি তৈরি কিংবা আরও ক্ষমতা অর্জনের চেষ্টা করতে পারে বলেও উল্লেখ করা হয়।

হালনাগাদ কাঠামোয় ‘বিশ্বস্ত প্রয়োগ, নিয়ন্ত্রণ হারানো প্রতিরোধ’ নীতি যুক্ত করা হয়েছে। পরে চীনা বিশেষজ্ঞদের ব্যাখ্যায় বলা হয়, এর অন্যতম উদ্দেশ্য হলো এমন পরিস্থিতি ঠেকানো, যেখানে এআই মানুষের অস্তিত্ব ও উন্নয়নের জন্য হুমকিতে পরিণত হতে পারে।

এআইয়ের ঝুঁকি নিয়ে চীনের প্রেসিডেন্ট শি জিনপিংও সতর্ক অবস্থান জানিয়েছেন। জুলাইয়ে সাংহাইয়ে অনুষ্ঠিত ওয়ার্ল্ড আর্টিফিশিয়াল ইন্টেলিজেন্স কনফারেন্সে তিনি এআই থেকে তৈরি প্রত্যক্ষ ও পরোক্ষ—দুই ধরনের ঝুঁকির ওপরই কর্তৃপক্ষকে বিশেষ নজর দেওয়ার আহ্বান জানান।

শি জিনপিং স্পষ্ট করে বলেন, এআইকে ‘সব সময় মানুষের নিয়ন্ত্রণে থাকতে হবে।’

এদিকে, চীনের পররাষ্ট্র মন্ত্রণালয়ের এআইবিষয়ক জ্যেষ্ঠ কর্মকর্তা সুন শিয়াওবো গত মাসে জাতিসংঘের একটি বৈঠকে জানান, চীন আরও বিস্তৃত এআই আইন তৈরির কাজ এগিয়ে নিচ্ছে।

সামরিক ক্ষেত্রে এআই ব্যবহারের ঝুঁকির বিষয়টিও তুলে ধরেছেন জাতিসংঘে চীনের উপ-স্থায়ী প্রতিনিধি সুন লেই। তার মতে, সামরিক প্রযুক্তিতে এআইয়ের ব্যবহার কৌশলগত ভুল বোঝাবুঝি তৈরি করতে পারে এবং নতুন ধরনের অস্ত্র প্রতিযোগিতার পথ খুলে দিতে পারে।

শুধু সাধারণ এআই মডেল নয়, স্বায়ত্তশাসিতভাবে কাজ করতে সক্ষম এআই এজেন্ট নিয়েও চীন নতুন নিয়ম করেছে। সাধারণ চ্যাটবটের তুলনায় এসব এজেন্ট বেশি স্বাধীনভাবে সিদ্ধান্ত নিতে এবং জটিল কাজ সম্পন্ন করতে পারে।

মে মাসে চীনের সাইবারস্পেস নিয়ন্ত্রক সংস্থা এআই এজেন্টের জন্য নতুন নির্দেশিকা জারি করে। এতে এ ধরনের সিস্টেমের ভুল বা অনাকাঙ্ক্ষিত আচরণ দ্রুত শনাক্ত, প্রয়োজন অনুযায়ী মানুষের হস্তক্ষেপ, ক্ষতিকর কার্যক্রম বন্ধ এবং সিস্টেম পুনরুদ্ধারের সক্ষমতা তৈরির ওপর গুরুত্ব দেওয়া হয়েছে।

ডেটা পয়জনিং, অ্যালগরিদমে কারসাজি, সিস্টেমের দুর্বলতা এবং এআইয়ের কার্যক্রমের ওপর নিয়ন্ত্রণ হারানোকে নিরাপত্তা ঝুঁকি হিসেবেও চিহ্নিত করা হয়েছে। নির্দেশিকায় সবচেয়ে গুরুত্বপূর্ণ যে বিষয়টি বলা হয়েছে, তা হলো—এআই কোনো সিদ্ধান্ত স্বয়ংক্রিয়ভাবে নিলেও চূড়ান্ত সিদ্ধান্তের কর্তৃত্ব মানুষের কাছেই থাকতে হবে।

চীনের সাম্প্রতিক পদক্ষেপগুলো থেকে বোঝা যায়, দেশটি এআই প্রযুক্তির উন্নয়ন ও ব্যবহার এগিয়ে নেওয়ার পাশাপাশি এর নিরাপত্তা নিশ্চিত করতেও সমান গুরুত্ব দিচ্ছে। বিশেষ করে অত্যাধুনিক এআই যেন মানুষের নিয়ন্ত্রণের বাইরে চলে না যায়, সে বিষয়ে আগাম নীতিমালা তৈরির চেষ্টা চলছে।

তবে অ্যানথ্রপিকের মতো প্রতিষ্ঠানগুলো এআই কোম্পানির ভেতরে স্বাধীন নিরাপত্তা পর্যবেক্ষক রাখার প্রস্তাব দিলেও চীন এখনো একই ধরনের স্বাধীন পর্যবেক্ষণ কাঠামোর প্রস্তাব দেয়নি। অবশ্য দেশটির নীতিতে তৃতীয় পক্ষের মাধ্যমে এআই নিরাপত্তা মূল্যায়নের সুযোগ রাখা হয়েছে। পাশাপাশি বাইরের গবেষক ও নিরাপত্তা প্রতিষ্ঠানকে ওপেন মডেল পরীক্ষা ও অডিট করার সুযোগও রয়েছে।

ফলে এআই সক্ষমতা বাড়ানোর বৈশ্বিক প্রতিযোগিতার পাশাপাশি প্রযুক্তিটির নিরাপত্তা ও নিয়ন্ত্রণের প্রশ্নটিও গুরুত্বপূর্ণ হয়ে উঠছে। যুক্তরাষ্ট্র ও চীনের নীতিগত অবস্থান ভবিষ্যতে এআই পরিচালনা ও ঝুঁকি মোকাবিলার আন্তর্জাতিক কাঠামোতেও প্রভাব ফেলতে পারে।