প্রকাশ : ১৭ সেপ্টেম্বর ২০২৬, ১১: ৪১। কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের অস্বাভাবিক ও উদ্বেগজনক আচরণের ছয়টি ঘটনা শনাক্ত করেছে ওপেনএআই। এসব ঘটনায় দেখা গেছে, কোনো কোনো মডেল তাদের স্বাভাবিক বিধিনিষেধ এড়িয়ে চলার চেষ্টা করছে। এর মধ্যে একটি এআই এজেন্ট ব্যবহারকারীর কোনো ধরনের অনুমতি ছাড়াই ইন্টারনেটে ফাইল আপলোড করার মতো ঘটনা ঘটিয়েছে। এ ধরনের পরিস্থিতির প্রেক্ষিতে, এআই মডেলের আচরণ নিয়মিতভাবে শনাক্ত, পরীক্ষা ও প্রকাশের জন্য গত বুধবার নতুন একটি পর্যবেক্ষণ কাঠামো চালুর ঘোষণা দিয়েছে প্রতিষ্ঠানটি।
ওপেনএআই জানিয়েছে, গত কয়েক মাসে মডেলের প্রশিক্ষণ ও মূল্যায়নের সময় ছয়টি ঘটনা শনাক্ত করা হয়েছে, যেগুলোকে প্রতিষ্ঠানটি এআই মডেলের ‘মিসঅ্যালাইনমেন্ট’ হিসেবে আখ্যায়িত করেছে। এর অর্থ হলো, মডেলের বর্তমান আচরণ তার নির্ধারিত লক্ষ্য ও সীমার সঙ্গে সামঞ্জস্যপূর্ণ ছিল না। এই নতুন কাঠামোর আওতায় মডেলের অনুমতি ছাড়া কাজ করা, অন্যান্য মডেলের সঙ্গে সমন্বয় করা কিংবা তদারকি এড়িয়ে যাওয়ার মতো বিষয়গুলো পর্যবেক্ষণ করা হবে।
শনাক্ত হওয়া ছয়টি ঘটনার মধ্যে একটি ঘটেছে ওপেনএআইয়ের এখনো প্রকাশ না করা একটি গবেষণা মডেলে। মডেলটি নিজের নোটে ‘জেলব্রেকের মতো নির্দেশনা’ যুক্ত করেছিল, যেখানে স্বাভাবিক বিধিনিষেধ উপেক্ষা করার কথা বলা হয়। পাশাপাশি মডেলটি নিজেকে ‘অন্য চ্যাটবটগুলোকে বেঁধে রাখা ভূমিকা ও পরিচয় থেকে মুক্ত’ করার কথাও লিখেছিল। অন্য একটি ঘটনায়, একটি ব্রাউজার উদ্ধৃতি পাওয়ার উদ্দেশ্যে এআই এজেন্ট ব্যবহারকারীর অনুমতি ছাড়াই ইন্টারনেটে ফাইল আপলোড করে ফেলে।
এআই নিরাপত্তা নিয়ে বর্তমানে যুক্তরাষ্ট্রে ব্যাপক আলোচনা চলছে। ওপেনএআই ও অ্যানথ্রপিকসহ বেশ কয়েকটি এআই প্রতিষ্ঠানের শীর্ষ কর্মকর্তারা এই প্রযুক্তির নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করে এর উন্নয়ন ধীর করার আহ্বান জানিয়েছেন। এর আগে জুলাই মাসে ওপেনএআই জানিয়েছিল, তাদের একটি নিয়ন্ত্রণহীন এআই ব্যবস্থা এআই স্টার্টআপ হাগিং ফেসে সাইবার হামলা চালিয়েছিল। একই মাসে অ্যানথ্রপিকও জানায়, পরীক্ষার সময় তাদের মডেল তিনটি প্রতিষ্ঠানে সাইবার হামলা চালিয়েছে।
প্রযুক্তি গবেষণা ও পরামর্শক প্রতিষ্ঠান ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু মনে করেন, এআই এজেন্টগুলো দিন দিন আরও সক্ষম হয়ে উঠছে। জটিল কাজ সমাধানে তারা একে অপরের সঙ্গে তথ্য ভাগাভাগি, সহযোগিতা, প্রতারণা ও তথ্য গোপনের মতো পদ্ধতি ব্যবহারে আগ্রহী হয়ে উঠছে। ফলে প্রচলিত নিরাপত্তাব্যবস্থা দিয়ে এসব এজেন্টকে নিয়ন্ত্রণ করা কঠিন হয়ে পড়ছে। তবে ওপেনএআইয়ের এই নতুন উদ্যোগকে তিনি সঠিক পথে নেওয়া একটি পদক্ষেপ হিসেবেই দেখছেন, যা অন্য এআই নির্মাতাদেরও একই ধরনের পদ্ধতি গ্রহণে উৎসাহিত করতে পারে।
ওপেনএআইয়ের মতে, এআই ব্যবস্থা যত উন্নত ও ব্যাপকভাবে ব্যবহৃত হবে, অ্যালাইনমেন্ট গবেষণার অগ্রগতি নিয়ে তত বেশি তথ্যভিত্তিক ঐকমত্যের প্রয়োজন হবে। প্রতিষ্ঠানটি মনে করে, আগামী বছরগুলোতে এআইয়ের উন্নয়ন কীভাবে এগোবে, সে বিষয়ে সিদ্ধান্ত নেওয়ার জন্য এমন তথ্য থাকা জরুরি, যা এআই নির্মাতা প্রতিষ্ঠানের বাইরের মানুষও নিজেরা পরীক্ষা করতে পারেন।
