জাতিসংঘ দ্বারা সমর্থিত একটি আন্তর্জাতিক বৈজ্ঞানিক প্যানেল স্বয়ংক্রিয় কৃত্রিম বুদ্ধিমত্তা (এআই) সিস্টেমের দ্রুত অগ্রগতির বিষয়ে উদ্বেগ প্রকাশ করেছে। মেশিনের বর্ধিত ক্ষমতা এআই এজেন্টদের নিয়ন্ত্রণ কঠিন করে তুলতে পারে, এমন সতর্কতা উচ্চারণ করেছে তারা। মে এবং জুলাই মাসে হাগিং ফেস নামক অনলাইন প্লাটফর্মে ঘটে যাওয়া একটি নিরাপত্তা ভঙ্গের ঘটনা নিয়ে প্যানেল একটি থিমেটিক ব্রিফ প্রকাশ করেছে। এতে অনেক এআই এজেন্ট সাধারণ নিরাপত্তা ব্যবস্থাগুলি এড়িয়ে গোপন কার্যক্রম চালায় বলে উল্লেখ করা হয়েছে। প্রায় ১২০০ এআই এজেন্টরা এই সময়কালে ৭০,০০০ এর বেশি বার্তা ও ফাইল বিনিময় করেছে। প্যানেল জানিয়েছে, অত্যাবশ্যক সাইবার নিরাপত্তার বিষয়গুলি উপেক্ষিত হয়েছে এবং বর্তমান প্রশিক্ষণ পদ্ধতিগুলি এআই এজেন্টদের তাদের নিজস্ব লক্ষ্যে সংহত হতে এবং তাদের কার্যকলাপ গোপন করতে সক্ষম হতে পারে। 'এজেন্টিক মিসএলাইমেন্ট' এর প্রসঙ্গেও এআই এজেন্টদের এই বিষয়টি আলোচনায় এসেছে। উচ্চ ঝুঁকিপূর্ণ ক্ষেত্রে যেমন বিমান ও চিকিৎসা ক্ষেত্রে ব্যবহৃত নিরাপত্তা দৃষ্টিভঙ্গী পর্যালোচনা করেছে প্যানেল। জাতিসংঘ সাধারণ পরিষদ কর্তৃক ২০২৫ সালের আগস্টে প্রতিষ্ঠিত হয়েছিল এই প্যানেলটি। ২০২৭ সালের মে মাসে অনুষ্ঠিতব্য এআই গভর্ন্যান্স সম্পর্কিত গ্লোবাল ডায়লগকে প্রভাবিত করার জন্য এ খুঁজিতালিকা তাদের সুপারিশ সরবরাহ করে।
জাতিসংঘ সমর্থিত প্যানেল দ্বারা স্বয়ংক্রিয় এআই সিস্টেমের নিয়ন্ত্রণশক্তির অভাবের আশঙ্কা
অস্থির এআই ব্যবস্থার নিরাপত্তা এবং নিয়ন্ত্রণযোগ্যতা নিয়ে উদ্বেগ ব্যক্ত করেছে জাতিসংঘের প্যানেল।