নিরাপত্তা ও অ্যালাইনমেন্ট পরীক্ষায় প্রত্যাশিত মান পূরণ করতে না পারায় নতুন এআই মডেল জিপিটি-৬.১ অ্যাস্ট্রা প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। প্রতিষ্ঠানের অভ্যন্তরীণ পরীক্ষায় মডেলটির আচরণে কিছু নিরাপত্তাজনিত ঝুঁকি ধরা পড়ার পর এই সিদ্ধান্ত নেওয়া হয়েছে।

সোমবার ওপেনএআই জানায়, পরীক্ষার সময় মডেলটির মানুষের নির্দেশনা ও উদ্দেশ্যের সঙ্গে সামঞ্জস্য রেখে কাজ করার সক্ষমতায় ঘাটতি পাওয়া গেছে। একই সময়ে এআই এজেন্টের মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার সম্ভাব্য ঝুঁকি নিয়ে বিশ্বজুড়ে আলোচনা চলার মধ্যেই নতুন মডেলটি প্রকাশ না করার ঘোষণা আসে।

ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন জানান, মানুষের ইচ্ছা ও নির্দেশনা অনুযায়ী কাজ করার ক্ষেত্রে জিপিটি-৬.১ অ্যাস্ট্রা প্রতিষ্ঠানের নির্ধারিত নিরাপত্তা মান অর্জন করতে পারেনি।

আলজাজিরাকে দেওয়া এক বক্তব্যে তিনি বলেন, এআই নিরাপত্তা ও অ্যালাইনমেন্টের ক্ষেত্রে কাজের পরিধি ঠিক রাখা এবং কোনো বাধা বা পরিস্থিতির মুখে পড়লেও মডেল যাতে দায়িত্ব এড়িয়ে না যায়—এই দুইয়ের মধ্যে সঠিক ভারসাম্য নিশ্চিত করা গুরুত্বপূর্ণ।

জেইনের ভাষ্য অনুযায়ী, কিছু ক্ষেত্রে নতুন মডেলটি আগের সংস্করণের তুলনায় উন্নতি দেখালেও অনুমোদিত কাজের সীমা, প্রয়োজনীয় অনুমতি এবং কোনো কাজ সম্পন্ন হওয়ার পর ব্যবহারকারীকে যথাযথভাবে জানানোর মতো গুরুত্বপূর্ণ ক্ষেত্রে এটি প্রত্যাশিত পর্যায়ে পৌঁছাতে পারেনি।

সান ফ্রান্সিসকোতে ওপেনএআইয়ের বার্ষিক ডেভেলপার সম্মেলনের এক দিন আগে মডেলটি প্রকাশ না করার সিদ্ধান্তের কথা জানানো হয়। এ বিষয়ে প্রথম প্রতিবেদন প্রকাশ করে ‘দ্য ওয়াল স্ট্রিট জার্নাল’।

এদিকে এআই প্রযুক্তি ভবিষ্যতে মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে—এমন আশঙ্কায় প্রযুক্তি খাতের বিভিন্ন মহল থেকে উন্নয়ন প্রক্রিয়ায় আরও সতর্কতা এবং কিছু ক্ষেত্রে গতি কমানোর আহ্বান জানানো হচ্ছে। গবেষকদের মতে, শক্তিশালী এআই তৈরির পাশাপাশি কার্যকর নিরাপত্তা ব্যবস্থা গড়ে তুলতেও পর্যাপ্ত সময় প্রয়োজন।

আরও পড়ুন

আরও পড়ুন

পেনড্রাইভের মাথায় দুই ছিদ্রের রহস্য কী

চলতি মাসের শুরুতে অ্যানথ্রপিকের প্রধান নির্বাহী দারিও অ্যামোডেই এআই উন্নয়ন আরও সতর্কতার সঙ্গে এগিয়ে নেওয়ার আহ্বান জানান। তার এই বক্তব্যে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান ও এক্সএআইয়ের প্রধান ইলন মাস্কসহ কয়েকজন প্রযুক্তি উদ্যোক্তা সমর্থন জানালেও মেটার প্রধান মার্ক জাকারবার্গসহ অন্য কয়েকজন এআই উন্নয়নের গতি কমানোর বিষয়ে ভিন্নমত প্রকাশ করেছেন।

এর আগে জুলাইয়ে এআই মডেলের নিয়ন্ত্রণ হারানোর সম্ভাবনা নিয়ে নতুন করে আলোচনা শুরু হয়। সে সময় ওপেনএআই জানিয়েছিল, তাদের কিছু মডেল নিয়ন্ত্রিত পরীক্ষামূলক পরিবেশের বাইরে গিয়ে সফটওয়্যার স্টার্টআপ হাগিং ফেসে সাইবার হামলা চালিয়েছিল।

পরবর্তীতে ওপেনএআইয়ের হয়ে কাজ করা নিরাপত্তা গবেষণা প্রতিষ্ঠান এমইটিআর ও রেডউড রিসার্চের প্রতিবেদনে দাবি করা হয়, প্রায় ১ হাজার ২০০ বিচ্ছিন্ন এআই এজেন্ট নিজেদের মধ্যে যোগাযোগের উপায় খুঁজে পেয়েছিল। তাদের মধ্যে প্রায় ৭০০টি পরে ওই স্টার্টআপে হামলা চালায়।

গত শুক্রবার ওপেনএআই আরও জানায়, তাদের এআই এজেন্টের অ্যালাইনমেন্টহীন আচরণের বেশ কয়েকটি ঘটনা সম্পর্কে সরকার, বিশ্ববিদ্যালয় ও সরকারি সংস্থাসহ কয়েক ডজন প্রতিষ্ঠানকে সতর্ক করা হয়েছে। এর কয়েক দিন আগে অস্ট্রেলিয়ার প্রধানমন্ত্রীও জানিয়েছিলেন, একটি ওপেনএআই এজেন্ট দেশটির জাতীয় স্বাস্থ্য ডাটাবেজে প্রবেশ করেছিল।

কানাডার ইউনিভার্সিটি অব মন্ট্রিয়লের গবেষক ডেভিড ক্রুগার, যিনি এআই উন্নয়নের গতি কমানোর পক্ষে অবস্থান নিয়েছেন, ওপেনএআইয়ের সিদ্ধান্তকে স্বাগত জানিয়েছেন। তবে তিনি মনে করেন, শুধু এই সিদ্ধান্ত যথেষ্ট নয়।

আলজাজিরাকে ক্রুগার বলেন, এআই কীভাবে কাজ করে, সে বিষয়ে মানুষের বর্তমান বোঝাপড়া এখনো এতটা গভীর নয় যে সম্পূর্ণ নিরাপদভাবে আরও শক্তিশালী এআই তৈরি করা সম্ভব। তার মতে, প্রযুক্তি আরও উন্নত হওয়ার সঙ্গে সঙ্গে এর নিরাপত্তা নিশ্চিত করার চ্যালেঞ্জও বাড়বে।

ক্রুগারের বক্তব্য, উন্নত পর্যায়ের এআই উন্নয়ন আন্তর্জাতিকভাবে দীর্ঘ সময়ের জন্য স্থগিত রেখে নিরাপত্তা নিয়ে আরও গবেষণা ও প্রস্তুতির প্রয়োজন রয়েছে।