ইলন মাস্কের তৈরি চ্যাটবট গ্রক-এর হাতে একটি কাল্পনিক বিশ্বের শাসনভার ছেড়ে দেওয়ার মাত্র চার দিনের মধ্যেই পুরো সমাজব্যবস্থা ধ্বংস হয়ে গেছে বলে এক পরীক্ষায় দাবি করা হয়েছে।
আমেরিকার নতুন একটি প্রযুক্তি কোম্পানি এ ধরনের একটি সামাজিক পরীক্ষা পরিচালনা করে, যেখানে বিশ্বের শীর্ষস্থানীয় বিভিন্ন কৃত্রিম বুদ্ধিমত্তা মডেলকে একটি কাল্পনিক সমাজ পরিচালনার দায়িত্ব দেওয়া হয়।
পরীক্ষার উদ্দেশ্য ছিল, এআই মডেলগুলো প্রশাসন, সম্পদ ব্যবস্থাপনা, পরিকল্পনা, যোগাযোগ এবং ভোটদানসহ একটি সমাজ কীভাবে পরিচালনা করে তা পর্যবেক্ষণ করা।
টানা পনেরো দিন চলা এই পরীক্ষায় অ্যানথ্রপিকের ক্লড সবচেয়ে সফল ফলাফল দেখায়। মডেলটি এমন একটি গণতান্ত্রিক সমাজ গড়ে তোলে, যেখানে অপরাধের হার শূন্যের কাছাকাছি ছিল এবং নাগরিকরা নিরাপদে বসবাস করে।
অন্যদিকে গুগলের জেমিনাই মডেলও তুলনামূলকভাবে স্থিতিশীল শাসন পরিচালনা করলেও সেখানে কিছু অপরাধের ঘটনা ঘটে।
তবে সবচেয়ে ভয়াবহ ব্যর্থতা দেখা যায় গ্রকের ক্ষেত্রে। পরীক্ষায় দায়িত্ব পাওয়ার মাত্র ছিয়ানব্বই ঘণ্টার মধ্যেই এটি কাল্পনিক সমাজকে সম্পূর্ণভাবে অকার্যকর করে দেয় বলে গবেষকরা দাবি করেন।
পরীক্ষা পরিচালনাকারী প্রতিষ্ঠান এক ব্লগ পোস্টে জানায়, দীর্ঘমেয়াদে কাজ করার সময় এ ধরনের এআই কেবল নির্ধারিত নিয়ম অনুসরণ করে না, বরং পরিবেশের সীমাবদ্ধতা ও দুর্বলতা বিশ্লেষণ করে নিজের আচরণ পরিবর্তনের চেষ্টা করে।
তাদের মতে, সবচেয়ে উদ্বেগের বিষয় হলো, এ ধরনের এআই অনেক সময় মূল নিরাপত্তা নির্দেশনা এড়িয়ে যাওয়ার পথও খুঁজে নিতে পারে।
গবেষকরা মনে করছেন, ভবিষ্যতে স্বয়ংক্রিয় এআই সিস্টেম তৈরির ক্ষেত্রে শুরু থেকেই শক্তিশালী ও প্রমাণিত নিরাপত্তা কাঠামো নিশ্চিত করা জরুরি।
গ্রক নিয়ে বিতর্ক এটি প্রথম নয়। এর আগেও আপডেটের পর এটি নিজেকে ‘মেকাহিটলার’ নামে উল্লেখ করে বিতর্ক সৃষ্টি করেছিল এবং ঘৃণামূলক বক্তব্য ছড়ানোর অভিযোগ ওঠে।
চলতি বছরের শুরুতে গ্রক ব্যবহার করে সম্মতি ছাড়া প্রাপ্তবয়স্ক ও শিশুদের আপত্তিকর ডিজিটাল ছবি তৈরি করার অভিযোগও উঠে আসে।
এরপর যুক্তরাজ্যের তথ্য ও যোগাযোগ প্রযুক্তি নিয়ন্ত্রক সংস্থা অফকম এ বিষয়ে এক্সএআই-এর কাছে জরুরি নোটিশ পাঠায়।
পরবর্তীতে ন্যাশনাল সাইবার সিকিউরিটি অ্যালায়েন্সের এক কর্মকর্তা বলেন, নিরাপত্তা ও ব্যবহারকারীর সম্মতি শুরু থেকেই নিশ্চিত না করলে এ ধরনের প্রযুক্তি গুরুতর অপব্যবহারের ঝুঁকি তৈরি করে।
তিনি আরো বলেন, এআই-নির্মিত কনটেন্ট শনাক্ত, স্পষ্ট লেবেল ব্যবহার এবং দ্রুত অপসারণ ব্যবস্থা নিশ্চিত করা জরুরি।
সানা/আপ্র/৫/৬/২০২৬
