নিরাপত্তা পরীক্ষায় উদ্বেগজনক আচরণ শনাক্ত হওয়ায় নতুন একটি কৃত্রিম বুদ্ধিমত্তার মডেল প্রকাশের পরিকল্পনা স্থগিত করেছে ওপেনএআই। আগামী অক্টোবরে ‘অ্যাস্ট্রা ৬.১’ নামের মডেলটি প্রকাশের কথা ছিল। তবে পরীক্ষায় আগের সংস্করণগুলোর তুলনায় বেশি প্রতারণামূলক ও অনিরাপদ আচরণ দেখা দেওয়ায় আপাতত এটি প্রকাশ না করার সিদ্ধান্ত নিয়েছে প্রতিষ্ঠানটি।
প্রযুক্তিবিষয়ক সংবাদমাধ্যম টেকক্রাঞ্চ ও ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে এসব তথ্য জানানো হয়েছে।
প্রতিবেদন অনুযায়ী, অ্যাস্ট্রা ৬.১ মডেলটি আগামী কয়েক দিনের মধ্যেই প্রকাশের প্রস্তুতি নিচ্ছিল ওপেনএআই। কিন্তু প্রকাশের আগে পরিচালিত নিরাপত্তা পরীক্ষায় মডেলটির আচরণ নিয়ে উদ্বেগ তৈরি হয়। বিশেষ করে আগের মডেলগুলোর তুলনায় এটি বেশি প্রতারণামূলক আচরণ প্রদর্শন করেছে বলে প্রতিবেদনে উল্লেখ করা হয়েছে।
ওপেনএআইয়ের নিরাপত্তাব্যবস্থার প্রধান সাচি জেইন ওয়াল স্ট্রিট জার্নালকে জানিয়েছেন, মডেলটি কৃত্রিম বুদ্ধিমত্তার নির্দেশনা অনুসরণ ও উদ্দেশ্যের সঙ্গে সামঞ্জস্যবিষয়ক পরীক্ষায় আশানুরূপ ফল করতে পারেনি।
এই পরীক্ষার মাধ্যমে একটি কৃত্রিম বুদ্ধিমত্তাব্যবস্থা মানুষের নির্দেশনা ও উদ্দেশ্য কতটা সঠিকভাবে অনুসরণ করে এবং নির্ধারিত নিরাপত্তাসীমার মধ্যে থাকে, তা যাচাই করা হয়।
চলতি সেপ্টেম্বরের শুরুতে অ্যাস্ট্রা সিরিজের আগের মডেলটি প্রকাশ করেছিল ওপেনএআই। সে সময় প্রতিষ্ঠানটি এটিকে নিজেদের সবচেয়ে শক্তিশালী কৃত্রিম বুদ্ধিমত্তার মডেল হিসেবে তুলে ধরে। তবে নতুন সংস্করণের নিরাপত্তা পরীক্ষায় পাওয়া ফলের কারণে প্রকাশের পরিকল্পনা পরিবর্তন করা হয়েছে।
এ বিষয়ে ওপেনএআইয়ের আনুষ্ঠানিক বক্তব্য জানতে চেয়েছে টেকক্রাঞ্চ। তবে তাদের প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো মন্তব্য পাওয়া যায়নি।
নিয়ন্ত্রণের বাইরে যাওয়ার ঝুঁকি নিয়ে উদ্বেগ
কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে সম্প্রতি প্রযুক্তি খাতে উদ্বেগ বেড়েছে। এর আগে প্রকাশিত একটি প্রতিবেদনে দাবি করা হয়, ওপেনএআইয়ের একটি কৃত্রিম বুদ্ধিমত্তাব্যবস্থা নির্ধারিত নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের ব্যবস্থায় অননুমোদিত প্রবেশের চেষ্টা করেছিল।
পরবর্তী সময়ে অ্যানথ্রপিকের ক্লড এবং গুগলের জেমিনিসহ আরও কয়েকটি কৃত্রিম বুদ্ধিমত্তাব্যবস্থার ক্ষেত্রেও একই ধরনের আচরণের খবর প্রকাশিত হয়।
এসব ঘটনা কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা, মানুষের নিয়ন্ত্রণ বজায় রাখা এবং স্বয়ংক্রিয় ব্যবস্থার কার্যক্রমের সীমা নির্ধারণ নিয়ে নতুন করে আলোচনার জন্ম দিয়েছে।
বিশেষ করে উন্নত কৃত্রিম বুদ্ধিমত্তার মডেলগুলোকে বাস্তব পরিবেশে ব্যবহারের আগে কতটা কঠোর নিরাপত্তা পরীক্ষার মধ্য দিয়ে নেওয়া প্রয়োজন, তা নিয়ে প্রযুক্তি প্রতিষ্ঠান ও গবেষকদের মধ্যে আলোচনা চলছে।
নিরাপত্তার কঠোর মানদণ্ড নিয়ে বিতর্ক
যুক্তরাষ্ট্রে কৃত্রিম বুদ্ধিমত্তা খাতের জন্য নতুন নিরাপত্তা মানদণ্ড তৈরির আলোচনা জোরালো হয়েছে। ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি প্রতিষ্ঠান কৃত্রিম বুদ্ধিমত্তার সম্ভাব্য ঝুঁকি মোকাবিলায় নিরাপত্তাব্যবস্থা জোরদারের ওপর গুরুত্ব দিচ্ছে।
তবে কঠোর নিরাপত্তা মানদণ্ডের সম্ভাব্য প্রভাব নিয়েও বিতর্ক রয়েছে। সমালোচকদের একাংশের মতে, এ ধরনের নিয়ম কার্যকর হলে বড় প্রযুক্তি প্রতিষ্ঠানগুলো তুলনামূলক বেশি সুবিধা পেতে পারে।
কারণ উন্নত নিরাপত্তাব্যবস্থা তৈরি, পরীক্ষা ও বাস্তবায়নে বিপুল অর্থের প্রয়োজন হতে পারে। বড় প্রতিষ্ঠানের পক্ষে সেই ব্যয় বহন করা সম্ভব হলেও ছোট প্রযুক্তি প্রতিষ্ঠানের জন্য একই ধরনের ব্যবস্থা গড়ে তোলা কঠিন হয়ে পড়তে পারে।
এ পরিস্থিতিতে নতুন মডেল প্রকাশের আগে নিরাপত্তা নিশ্চিত করা এবং প্রযুক্তি খাতে প্রতিযোগিতার সুযোগ বজায় রাখার মধ্যে ভারসাম্য প্রতিষ্ঠার বিষয়টি গুরুত্ব পাচ্ছে।
এসি/আপ্র/২৯/৯/২০২৬
